曾立昌攻占内城，杀知州张积功，清点物资，大失所望。府库已被焚尽，粮食器械，金宝货药，全皆成灰。
陈仕保叹：“十日之功，得此空城。北路胜保挡道，南退万事皆空，吾军饥肠辘辘，如何是好？”
曾立昌道：“此地不可久驻，即刻西渡运河，折而北上，与林李汇合。”
许宗扬道：“吾虽四万之众，天京老兄弟，不过五六千人，新附之众，素无纪律，破城之后，意在掳掠，今一无所获，难不生变。”
陈仕保道：“明日整军，不听将令者，杀无赦！”
曾立昌道：“兄弟阋墙，一败涂地。好生安抚新纳头目，并力同心，定灭胜保妖儿。”
立昌苦口婆心，游说三日，人心始定。立昌长叹一气，令人搭设浮桥，意西渡运河，北进阜城。
胜保得报，饬令焚烧浮桥。曾立昌再搭，胜保再烧。立昌复于夜间偷渡，又遭伏击。
胜保谓张亮基道：“贼意西渡北进，吾必遏截此途；之于南路，以示无兵，吾马队强，诱令窜至，暗伏击之。贼匪守则难攻，窜则易制。”
曾立昌三战皆败，军心大乱，新卒相率大哗，逾城南奔，立昌力微势单，不能约束，不得已，踉跄从之。
胜保督兵追击，先战李官庄，再战清水镇，击溃曾军万余。
是夜，曾立昌亲率精骑千人，携带货药包，突袭胜保大营。货药响处，烟焰蔽天，声如地裂，一鼓而大破之。胜保猝不及防，仓皇而退。
曾立昌执意乘胜北进。
陈仕保道：“兵败如山倒，此乃回光之战，实为抽身之机！”
许宗扬亦附。
曾立昌道：“既如此，速退。”
陈仕保笑曰：“清妖新败，必不敢遽来，士马疲敝，安营暂休，无妨。”
曾立昌号泣再劝，竟无人听。
次日，胜保振旅再至，曾军大溃，新附者轰然星散。曾立昌退至漫口支河，时黄河改道，沼泽泥泞裹足，人马不能疾行，河水徒涨，举步维艰，曾立昌令众先退，自引数骑殿后，胜保兵至，立昌挺枪奋战，力竭不支，跃马窜入黄河。
一月时间，击溃曾立昌四万大军，咸丰帝喜，诏曰：胜保勇毅，赏加太子少保，着即速返连镇，偕僧格林沁部，彻歼林李贼军。
胜保春风得意，笑至连镇，怡然之情，溢于言表。
僧格林沁亲接恭迎，刮目相待；艳羡之态，如逢吴下之阿蒙，士别刚三日。
胜保道：“你我切实联手，贼逆何愁不灭！”
僧格林沁道：“连镇地势低洼，吾已飞咨山东抚臣，速引运河之水，灌淹逆贼。”
林凤祥囿于连镇二十余日，粮资渐乏，遂谓李开芳道：“须另择一处，可以牵掣妖兵之所，亦可作声援之势。”
李开芳应命，率兵七百，南驰三百里，夺得高唐县城。
胜保谓僧格林沁道：“你我兵分二路，尔连镇，吾高唐。连镇若下，高唐必克。”
僧格林沁道：“贼匪凶悍，万要小心。”
咸丰帝闻林李分兵，喜谕僧、胜：逆已分，首尾不顾，正是天假我灭贼时也。若不上紧进攻，待已出之贼复回连镇，连镇之贼或南窜勾合，无论其裹挟又多，剿办棘手，迁延时日，饷项何堪。