四月十四日的復諭問道：洋人都是嗜利的，為什么戈登竟不肯收那賞銀？是否出于本心？又說：“現(xiàn)在常州攻克，該洋人不言進攻金陵，竟肯先行遣散，免將來許多枝節(jié)，實屬不可失之機會，該撫自應乘勢利導，妥為遣散。如戈登將所部布置妥協(xié)，洋弁均皆回國，則是戈登真心要好，始終如一，僅止頒給旗幟功牌，不獨無以酬其勞，且恐無以饜其欲。即著李鴻章飭令丁日昌、李恒嵩與戈登妥為辦理，一俟辦有就緒，即將如何再行褒獎戈登之處，迅速奏聞。”

丁日昌時任蘇松太道，他隨即與英方展開交涉。英國駐上海領事巴夏禮和赫德都反對即時遣散常勝軍，戈登受到他們鼓動，也變得有點猶豫，但丁日昌勸告他：“爾在中國助剿，功成回國，中外傳名，不及此時裁撤，將來接統(tǒng)者儻如白齊文之類，鬧出事端，豈不為爾聲名之累？巴夏禮、赫德系局外人，方以常勝軍為十分可靠，故不肯遽裁，爾何不將此軍近日不能得力實情，自為剖論，免得自己聲名為他人所累?！?戈登被丁日昌的三寸不爛之舌打動，遂下了遣散的決心。

李鴻章?lián)嵶鄨螅逶率蝗?，朝廷賞戈登穿黃馬褂、戴花翎，并授提督章服四襲，以示榮寵。戈登得意地說：“中國人極力阻撓我獲得它，但我說或者給我黃馬褂，或者什么也別給。他們終于屈服了?！逼鋵?，李鴻章并沒有阻止，他是樂于滿足戈登提出的一切有關榮譽待遇的要求的。

最后的遣散方案，以十二萬二千八百英洋作遣散費，再補給月餉六萬英洋，四月二十五日全部遣散完畢。留下的炮隊六百人、炮三十多門，駐扎于蘇州城外滸關，由副將羅榮光管帶，并由十一名洋弁目擔任教練；洋槍隊三百人，駐扎于昆山，由李恒嵩督率巡防。

戈登草擬了一份有關這支炮隊的規(guī)定，其中要點包括：一、炮兵由中外指揮官聯(lián)合指揮；二、炮隊人數(shù)應為六百，未經(jīng)道臺批準不得增加；三、外國軍官未經(jīng)江蘇巡撫同意，不能購買武器、彈藥和給養(yǎng)；四、外國軍官須記住他們受雇于江蘇巡撫，要服從他和他任命的中國軍官；五、常勝軍的基本法規(guī)和章程依然有效。

這些規(guī)定，顯然是為中方著想的，李鴻章對此還算滿意。他私下希望這支炮隊參加金陵戰(zhàn)役，起一個示范作用，但他也知道曾國荃必然會抵觸，所以一直在琢磨怎么婉轉地向曾國藩提出。四月二十四日，李鴻章寫信給曾國藩說：“常勝軍竟已遣妥，戈登今年忽變?yōu)橹抑焙萌?，非鴻章所能革其心面，乃中興氣運使然。頃將炮隊收回，留為有用，須一半年操練工夫?！?他說炮隊要操練半年，是想試探曾國藩的口氣。其實不用試探，曾國荃早已把籬笆扎得嚴嚴實實，他防李鴻章比防賊還緊。最后李鴻章不得不放棄。

遣散常勝軍之后，戈登寫了一份秘密備忘錄，其中他對李鴻章的評價是：“李撫臺是我遇到的最睿智的滿清官員……作為軍務改革的倡導者，他是非常困難的，因為他有許多敵人，也因為他在兩年前還是相當排外的。”并說李鴻章“每夜研讀外國軍事著作，在軍事知識方面遠遠勝于其他中國人，而且渴望得到更多知識”。

戈登的觀察未必完全正確。李鴻章從來沒有明顯的排外傾向。至于說他每晚讀外國軍事著作，則似有溢美之嫌，因為那時翻譯的外國軍事著作寥寥無幾，除非李鴻章翻來覆去讀的都是那幾本。戈登說李鴻章在遇到麻煩的事情時，常常會找他商量，征求他的意見，這倒是真的。在李鴻章幕府工作過的馬格里，曾談到的另外一個細節(jié)，顯示了李鴻章對現(xiàn)代知識熱心追求的態(tài)度——李鴻章經(jīng)常與他討論西方的發(fā)明、外交事務和一切重要的事情，而且一談就幾個小時。

常勝軍解散后，戈登獨自坐輪船到江寧外圍與曾國荃見面，建議他用常勝軍的大炮轟城，雖然曾國荃也是一個洋武器迷，但他視金陵之戰(zhàn)為禁臠，誰要走得離他近一點，他都忙不迭拒絕，好像別人是想來分他的家產(chǎn)。他不肯接受戈登的建議，并說他寧愿用湘軍的傳統(tǒng)方式攻城。