为了牵制皖赣境内的清军，年2月，李世贤率部进攻皖南懋源，当时左宗棠率名湘军在湘赣边境游荡，拱卫江西腹地，闻听太平军到了，急忙前去堵截。3月21日，两军在景德镇交战，左军溃败，李世贤胜利后，骄傲轻敌，以为左军不堪一击，冒险疾进，率军进攻乐平，结果被早已严阵以待的左军击败。
乐平一战，太平军阵亡四五千人，损失重大，左宗棠乘机攻陷景德镇，从而解除了太平军对祁门大营的威胁，从侧翼保证了安庆会战。
乐平战败后，李世贤主动撤离江西，决定转取浙江。此时，衢州由清军李定太防守，张玉良则屯兵在严州和兰溪一带。由于徽州，宁国已于年秋被太平军攻下，浙江完整的防御体系已不复存在，相反的，它陷入了苏皖赣三省太平军的战略包围之中，这无疑为太平军进攻浙江提供了便利。
在进入浙江前夕，李世贤先后会合了从石达开处返回的天国旧部及部分花旗军，兵员超过十万，实力大增。5月3日，李世贤率大军入浙，一举占领常山县城，正式揭开了大举进攻浙江的序幕。
太平军占领常山后，以此为基地，5月4日，向江山县城进发。江山知县试图在半路阻击，但刚刚出城就遭遇太平军，寡不敌众，江山县城被迅速占领。与此同时，太平军分路占领了开化县城。浙赣边界被撕开口子，太平军得以长驱直入，向浙江腹地挺进。
5月5日，太平军主力10余万人由李世贤率领东进衢州，此时衢州只有总兵李定太防守，守备单薄，为了保住衢州，瑞昌，王由龄从各地调集名兵勇增援，由张玉良亲赴衢州总统诸军。衢州城易守难攻，李定太据守待援，李世贤围攻衢州六日不下，见清军援军源源到来，于是避实击虚，绕过该城，改取运动战略，深入浙江腹地，逼近金华府城。
金华具有重要战略地位，他交通发达，是浙东腹心，李世贤决定攻占金华，作为经营浙东，浙中的基地。为此，李世贤采取了南北两翼牵制，西面主攻的战略方针。亲率精锐从西面进攻金华府城。
金华府城凭借横跨大江的通济大桥沟通南北，自明清以来，通济桥就是金华府的城防要隘。5月26日，金华知府闻听太平军由衢州直奔金华而来，连忙奔至兰溪，向张玉良求援，张玉良派兵名与金华防兵合力防守通济桥。28日，张玉良亲到金华，商议拆掉通济桥，结果与当地士绅意见不一，一怒之下，张玉良返回兰溪，撒手不管金华防务。太平军先头部队于当日突然逼近桥南，清军仓促迎战，迅速溃败，通济桥终为太平军所得，李世贤乘胜进攻府城，知府逃窜，守城清军也做鸟兽散，太平军轻取金华。