同治元年（1862）秋天，經(jīng)過升級改造，淮軍的鳥槍隊已大部分成為洋槍隊，刀矛隊、抬槍隊也逐步洋槍化，同時每哨添設(shè)兩隊劈山炮。改制后的淮軍，每一營營官親兵由兩隊劈山炮和四隊洋槍隊組成，前后左右四哨每哨由兩隊劈山炮和六隊洋槍隊組成。每營有劈山炮十隊四十尊，洋槍二十八隊計三百二十八桿。同治二年（1863）正月，淮軍第一支炮兵成立，由兩百名炮兵組成，歸春字營統(tǒng)領(lǐng)。這支炮兵也是中國軍隊第一支近代化炮兵部隊。以后幾年，李鴻章便把淮軍的裝備全部現(xiàn)代化，劈山炮和刀矛逐年減少，最后全部淘汰。

同治二年（1863）三月十七日，李鴻章在給曾國藩的信中說：

西洋炸炮，重者有數(shù)萬數(shù)千斤，輕者數(shù)百數(shù)十斤，戰(zhàn)守攻具，天下無敵。鴻章現(xiàn)雇洋人數(shù)名，分給各營教習。又募外國匠人，由香港購辦造炮器具，丁雨生（丁日昌，字禹生，又作雨生，號持靜，廣東豐順人，原為曾國藩幕僚，同治元年被派往廣東督辦厘務(wù)和火器）即來監(jiān)工。又托法英提督，各代購大炮數(shù)尊，自本國寄來，大約今年底可漸集事。每思外國兵丁口糧貴而人數(shù)少，至多以一萬為率，即當大敵。中國用兵，多至數(shù)倍，而經(jīng)年積歲不收功效，實由于槍炮窳濫。若火器能與西洋相埒，平中國有余，敵外國亦無不足。俄羅斯、日本從前不知炮法，國日以弱，自其國之君臣卑禮下人，求得英法秘巧，槍炮輪船，漸能制用，遂與英法相為雄長。中土若于此加意，百年之后，長可自立，仍祈師門一倡率之。

這封信函，堪稱中國“自強運動”的早期宣言。李鴻章談及俄羅斯、日本的一段，更代表了他對洋務(wù)與自強的朦朧認識。

然而，曾國藩對采用洋槍、洋炮，頗不以為然。他在一封信中寫道：“鄙意攻守之要，在人而不在兵，每戒舍弟不必多用洋槍。而少荃到上海，復盛稱洋槍之利，舍弟亦難免習俗之見。開以風氣，殊非所欲。洋人號令嚴明，隊伍齊整，實不專以火器取勝。此次金陵援賊，洋槍極多，而我軍堅持如故，且有開花炸彈打入營中，未傷多人，我以炸彈打入賊營，賊亦不甚慌亂，此事似無必勝之道。”

曾國藩的說法，也不是全無道理，至少他已經(jīng)意識到，如果沒有洋人之法相配合，光靠洋武器，是不能發(fā)揮作用的。但他的結(jié)論是：寧愿放棄洋武器，也要保持中國傳統(tǒng)的練兵方法，也就是湘軍傳統(tǒng)的治軍之法。

李鴻章試圖說服曾國藩，讓他從另外的角度去思考問題：為了發(fā)揮洋槍的作用，應(yīng)該實行洋法治軍，哪怕放棄傳統(tǒng)的方法。他在給老師的信中說：“洋槍實為利器，和（春）、張（國梁）營中雖有此物，而未操練隊伍，故不中用。敝軍現(xiàn)擇能戰(zhàn)之將，其小槍隊悉改為洋槍隊，逐日操練，洗刷子路，有較抬炮更遠者。程學啟三營中，并改出洋槍隊一營（每哨添劈山炮二隊），臨陣時一營可抵兩營之用。惟月需洋火洋藥皮紙甚夥。沅丈（曾國荃）處似宜多添，即春霆（鮑超）、凱章（張運蘭）各營，亦宜操用，有便船至皖，鴻章仍須附解若干也。”