曾國荃少負奇氣，十六歲的時候跟隨自己的父親上京，從此留在自己兄長曾國潘身邊學習，接受教導。咸豐二年，舉優貢，曾國潘早年籌措湘軍的時候，曾國荃在他身邊助益良多。后來曾國潘領兵與太平軍對戰，因為一時不察，被太平軍圍困。

當時曾國荃在聽見這個消息后，便四處走動，與新授吉安知府黃冕議，請於湖南巡撫駱秉章，使募勇三千人，別以周鳳山一軍，合六千人，同援江西。當時曾國荃采取的是圍困戰略，一到了地方便吩咐眾人開挖戰壕，此戰大獲成功。后來曾國荃在對戰中經常采用這種方法，因此得了一個曾鐵桶的稱號。

咸豐六年，攻打太平軍有功賞偉勇巴圖魯名號和一品頂戴。同治三年，曾以破城功加太子少保，封一等伯爵。 同治間，在湖南任職期間，上報朝廷請求重定湖南通志，與郭嵩燾等修纂《湖南通志》，這一決策在后來幾任官員中都得到了支持。1875年后歷任陜西、山西巡撫，署兩廣總督，在處理災荒一事中，與山西人民建立深厚情誼。光緒十年署禮部尚書、兩江總督兼通商事務大臣。光緒十五年加太子太保銜。翌年，卒于位，謚忠襄。

道光二十二年的時候，曾國荃離開京城回原籍，曾國潘作詩以送，詩中記：辰君平、午君奇，屈指老沅真白眉。曾國潢生庚辰歲，曾國華生壬午歲，曾國荃字沅甫，故以辰君、午君、老沅分別代指3人，詩贊曾國荃才俊特出于兄弟幾人之上。曾國潘沒有看錯自己這幾個弟弟，在五兄弟中，曾國潘對中國近現代史影響極大。除此以外，曾氏五兄弟中，也就曾國荃名聲最大，給曾國潘的幫助最多。

史書記載，曾國荃少年奇氣，倜儻不群。，他十分驕傲。上有長兄庇佑，自己也有不錯的才能，曾國荃沒有遇到過什么大困難，因此他自有其驕傲的資本。

太平天國農民起義運動，是中國封建歷史2000年以來，規模最大，持續時間最大，影響最深遠的農民起義運動。太平居揭竿而起，迅速占領中國，并直指京都。當時清朝的八旗軍，不能成事，因此命官員開辦地方團練。當時太平軍攻至上海，上海告急，城里紳士前來曾國潘處請求湘軍支援。曾國潘命曾國荃為主帥，當時在曾國潘幕下做幕僚的李鴻章為副帥，前往上海救援。但是曾國荃一心想拿攻破天京的首功，因此想盡各種辦法拒絕。曾國潘無法，只好改用李鴻章為主帥。此次戰役，使李鴻章有了基礎，是他一生中最重要的轉折點。

曾國荃瞧不起上海，錯失了一個立大功的機會，既有他太驕傲的原因在，也有他目光短淺的原因。李鴻章送挽聯稱他：易名兼胡、左兩公，十六言天語殊褒，恩數更驚棠棣并；傷逝與彭、楊一歲，二三子輩流向盡，英才尤痛竹林賢。

曾國荃最大的成就，大概就在于對安慶的圍攻和天京的圍攻上面。前者憑借自己的兵力，消耗了太平軍許多的兵力，并且最終拿下了被太平軍占領時間最久的安慶。后者他攻下太平天國都城，定下太平軍破滅定局。

雖然曾國荃攻破了天京，但也反映了他的急功近利的缺點。當時曾國潘制定的戰略是四路大軍合攻，但是曾國荃率軍一路途經，很快在其他路士兵還未到達的時候，孤軍深入。在曾國潘命令撤兵之時，嚴詞拒絕。最后導致了軍中瘟疫流行，湘軍損失慘重。