李續(xù)賓說：“那就努力殺賊，不要白死!”于是仗劍鞭馬，馳到營外，僚佐以下六百人緊隨于后，深入敵陣。李續(xù)賓一出，壕外太平軍自動后撤。董容方、吳立蓉正在安撫傷員，聽說李續(xù)賓已出營，起身說道:“李公若死，我們活著干什么！”立刻向壘外奔去，橫槊躍馬，馳向人聲喧鬧處，大聲喝罵。李光甲在李續(xù)賓出營時，將所有文件和李續(xù)賓的手書全部焚毀，然后裹創(chuàng)荷戈，去尋找李續(xù)賓的隊伍。這時壁壘已破，太平軍偵知李續(xù)賓所在，群聚圍攻。李續(xù)賓率僚佐及軍士負創(chuàng)奮戰(zhàn)，縱橫往復，殺敵無數(shù)，但軍士也只剩下一百多人。

深夜時分，在太平軍炮擊之下，李續(xù)賓墜馬，被刀矛刺死。劉神山與李光甲用別人的尸體將李續(xù)賓遮蓋起來，隨后也死在刀槍之下。曾國華等人也隨之陣亡。湘軍六千人被太平軍全殲于三河、舒城、桐城一線。咸豐聽到這個消息，表現(xiàn)出非同尋常的哀傷，也許他意識到自己未免焦躁了，促使這位優(yōu)秀的臣子早夭于戰(zhàn)場。君要臣死，臣未多言，就去死了，這樣的臣子，如今還有幾個？他本可以多給李卿一點時間，讓他休整部隊，調(diào)集援兵，那就一定能夠延續(xù)李卿的生命。有愧的咸豐說，但愿老天能再生一個李續(xù)賓，再來給他做臣子。然后他對死去的李卿大發(fā)慷慨，追贈總督，賜謚“忠武”。