鲁南战役以后，鲁中军区在莱芜地区休整待命。1947年1月23日，鲁中军区奉命改编为华东野战军第八纵队，张仁初仍然担任参谋长，其他领导人员未变。纵队下辖第二十二、第二十三、第二十四师。鲁南战役的胜利，给国民党以有力打击。但国民党根据错误情报判断华野“伤亡惨重、续战能力不强”。燧于己于1947年1月，调集19个整编师(军)，近31万人，北线以第二绥靖区副司令李仙洲率领8个整编师(军)，南北夹击，企图在临沂与我决战。
华东野战军根据中央军委的指示，于是月中旬发起莱芜战役求歼李仙洲集团。华野以第八、第九纵队组成右路军，其他兄弟部队组成中、左路军。2月10晚华野分三路大踏步分三路隐蔽北上，山东人民组成支前大军，肩挑畜驮，独轮小车滚滚向前，粮草弹药跟随北进。我未作大的抵抗即让出临沂，使敌人陶醉在“临沂大捷”中。根据华野要求八纵、九纵歼灭敌七十七师的命令，张仁初协助王建安司令员进行作战部署，部队进入预置阵地。
2月20日，战斗打响，归八纵指挥的鲁中警备五团占领青石关，断敌七十七师后路，我第二十二、二十三师迅速攻占不动镇外围阵地，当夜攻入镇内，与敌展开激烈地巷战，21日占领该镇。并追击逃敌，在青石关将敌七十七师师长田君健击毙。全歼敌七十七师，首战告捷，切断了李仙洲集团北逃博山的退路。
22日，八纵占领莱芜东北地区，23日，龟缩在莱芜的李仙州在20余架飞机的掩护下分三路向被突围，我军“网开一面”待敌尾巴脱离莱芜后，八纵在山头店一带围歼了敌四十六军，友邻部队也从莱芜到张家洼一线从四面八方发起攻击。战至下午，国民党第二绥靖区副司令李仙洲被八纵第二十二师生俘。至此，莱芜战役全歼敌5个军部，7个师，56000人。其中八纵歼敌13000人。粟裕司令员在华野干部会上表扬八纵“功劳不小”。而王耀武给敌整编八十三师师长李天霞的信中悲叹：“莱芜战役损失惨重，百年教训，刻骨铭心。”