因为吹得太逼真了，竟然骗过了当朝史官，被选入了“南渡中兴十三功”中。张俊也由此升为两浙西路、江南东路制置使，除了刘光世、韩世忠的军队之外，其余军队全部接受他的节度。该年度六月，赵构又改御前五军为神武军，张俊本军为神武右军都统制，除检校少保、定江昭庆军节度使。也是这一年，张俊一军在军事史上大放异彩——因为赵构将已经独立成军的岳飞岳家军划到了张俊的属下。时逢乱世，许多乱军乱匪叛乱为盗，割据称王，其中有孔彦舟据武陵；张用据襄汉；李成更是据江、淮、湖湘十余州，连兵数万，有席卷东南意，张俊改任江、淮路招讨使。岳飞为其麾下先锋，连番力战，将群盗悉数荡平。赵构认为，这些功劳全在于张俊指挥有方，张俊由此功高盖世，拜太尉。绍兴四年（公元1134年）十月，金军和刘豫分道入侵，南宋举朝震恐，很多人主张跑路，避敌锋芒。对这种逃跑主义，张俊表现得非常不屑，他大声疾呼道：“往哪儿跑？往哪儿跑？现在只能进，不能退，我当聚天下兵守平江。”
然而，令人大跌眼镜的是，敌人真正来了，张俊却声称自己骑马摔伤了手臂，不能上阵作战，也无法到军事指挥部指挥作战了。所幸韩世忠在大仪镇和金军连番厮杀，朝廷这才化险为夷。绍兴五年，张俊将同样的情节又演了一遍。这一次，金军并不参与作战，只是伪齐的单方面入侵，张俊依然被吓得屁滚尿流，他和刘光世一道，一个退回太平州（今安徽当涂），一个逃到泗上，十足窝囊废。气得赵构直跳脚，声嘶力竭地叫道：“若有一人渡江，即斩以徇！”于是张俊派出张宗颜、王玮、田师中，刘光世则派出王德，协同杨沂中在藕塘展开血战，才将伪齐军队赶跑。
赵构这才松了口气。鉴于张俊长期卖阵脱逃的劣迹，赵构曾打算解除他的兵权。但张浚在调整刘光世一军时，玩出了火，郦琼裹胁十余万军民集体投奔伪齐，赵构也因此暂时停止了对张俊的处理。宋、金签订了“绍兴第一次和议”，接替张浚相位的赵鼎秉承了张浚的想法，准备将张俊的兵权回收朝廷。副相王庶对此举双手赞成，他和赵鼎订下了一个解兵方案：借视师江淮之机，逐步调离分开张俊的诸部，最终将他架空，再动手。张俊作战虽然怯懦，却狡猾阴诈，很快嗅出了朝廷解兵的味道。王庶刚将他的部将张宗颜部移驻庐州，他就觉察到了王庶的想法，他设宴招待王庶属下的钱粮官刘时，对刘时说：“麻烦你向王庶递个话，他搞这种小动作瞒得过别人瞒不过我，朝中大事还不到他说了算的地步，他那个位置恐怕坐不了几天，照顾好他自己就行，别多管闲事。”
王庶虽是文人，上马打仗的次数还要比张俊多，哪里会被张俊的恫吓吓到？他不妥协，不退让，对刘时说：“你回去告诉张俊，不管我在这个位子坐多少天，只要坐一天就要尽一天的责。”将相之间弩张剑拔，一触即发。不过这场收兵权行动却因为金人渝盟、举兵南下而不了了之。绍兴十一年（公元1141年）十一月，宋金签订了第二份和约书，史称“绍兴第二次和议”。