V roce 706 před naším letopočtem založili přistěhovalci z Řecké Sparty osadu, ze které se později stalo jedno z největších měst na jihu Itálie a zároveň i přístav Italského vojenského námořnictva.
O původ jména existují dvě verze. První je spojována s vůdcem parthenianů (což byli synové svobodných žen pocházejících ze Sparty) Phalanthustem, který údajně město založil a pojmenoval jej po Tarasovi, což byl syn boha Poseidona a místní nymfy. Druhá označuje za zakladatele města přímo Tarase. Město, které se rychle rozrůstalo se stalo nejdůležitějším obchodním a správním střediskem v Jižní Itálii.
Při své expanzi na jih Itálie svedli Římané o kontrolu nad touto oblastí dvě velké bitvy. Obě bitvy vyhráli Řekové pod vedením Pyrrhose. Po bitvě u Auscula (279 př.n.l.) byly, ale ztráty natolik neúnosné, že vedli k vyklizení oblasti Apulie (právě zde se zrodil termín Pyrrhovo vítězství).
Přístup do přístavů Mar Grande (č. Velké moře) a Mar Piccolo (č. Malé moře) je chráněn dvěma ostrovy, které se jmenují sv. Petr a sv. Pavel a jenž jsou mohutně opevněny. Přístav Mar Grante je určen pro obchodní loďstvo a přístav Mar Piccolo je využíván z velké části Italským válečným námořnictvem, ale i místními rybáři.
V 19. století byl prokopán kanál, který umožnil vojenským lodím přístup do přístavu Mar Piccolo a jenž zároveň oddělil antické město od pevniny. Právě v této době se Taranto stalo hlavním kotvištěm Italské flotily a zůstalo jím i během I. a II. světové války.
O útoku na Taranto v noci z 11. na 12. listopad 1940 pojednává článek
Dnes je Taranto nejen důležitým obchodním a vojenským přístavem, ale najdeme zde ocelárny a slévárny, rafinérie, chemickou výrobu, loděnice a potravinářský průmysl.
