明朝嘉靖三十六年(1557年)，明朝地方大员胡宗宪调集大军，准备攻打那些退缩、驻守在浙江岑港(地名)的汪直余党、倭寇团伙。同年冬季，胡宗宪给了戚继光三千名浙江绍兴籍的士兵，供给戚继光训练成军。
一开始，胡宗宪有些急于求成，他对戚继光提出：目前，杀灭倭寇、贼人才是当务之急，戚将军(此时的戚继光官职为参将)带兵，只要能够杀灭倭寇、贼人就足矣。
戚继光不完全赞同胡宗宪的意见，他认为：杀贼、练兵，当可并行不悖(bèi)。
胡宗宪还是同意了戚继光的练兵计划，于是，从1557年冬季开始，戚继光展开了练兵行动。戚继光练兵很严格，每天都进行高强度的训练，不断淘汰掉平庸、弱小、练不好武艺的士兵，不断补充进体能合格的士兵。他的这场练兵，为他后来编写《纪效新书》做好了铺垫，积累了经验。这三千人组成的新军被每天的训练折磨得够呛(qiàng)，一名名新兵蛋子简直要被累倒了!累疯了!不过，严师出高徒，新兵们的武艺大幅度地提高了水平，个个摩拳擦掌，准备拿倭寇出气。
戚继光练兵只有两三个月，到了1558年二月，他接到上级命令，就按照命令，率领这支三千人组成的新军配合俞大猷所部以及其他部队一起进攻岑港敌军，明军就此围剿岑港守敌。但是，一波未平、一波又起，刚刚到达岑港前线没多久，戚继光所部被紧急调到了其他的倭寇入侵的地方。这一下子，戚继光所部可算逮着出气的机会了，上了战场后，三千新兵一个个像杀人疯子，迅猛地杀起倭寇，连续取得了多场胜利。
戚继光所部取得了多场胜利，但俞大猷所部还在岑港作战，未能攻下岑港。从这一年二月，持续至夏末，竟然还没有打下岑港，战事几乎没有进展，而明军有不小的损失。岑港久围不克，戚继光再次被调到了岑港战线上，配合战场指挥俞大猷一起作战。
戚继光有什么办法来打岑港呢?他先是查看岑港地形地势，发现岑港这一沿海地区，三面环山、一面临海，可以说是地形复杂、易守难攻。岑港的守敌封锁住了进攻岑港的各条道路，只留下了海路和一条与陆地联通的道路，依托险要地形居高临下、死守岑港。当时的情况，是陆地上唯一的进攻道路很难打上去，而在海路上，倭寇掌握着制海权，这是因为明军的水战力量很薄弱，根本守不住沿海海域，所以倭寇随时能从海上支援岑港守敌，增加了明军进攻岑港的难度。虽然明军兵力是岑港守敌兵力的好多倍，还不断进攻，但几个月的攻打是徒劳无功。
当时远在北京的嘉靖皇帝闻报浙江岑港地区的明军作战没有进展的战报，认为是俞大猷、戚继光等将领率兵作战不力，就下旨把俞大猷、戚继光等人革职留用，限期一个月，令俞大猷、戚继光戴罪立功、打下岑港，否则就要把与此战相关的明军各级军官全部撤职、严厉查办。戚继光和俞大猷只有硬着头皮想办法，戚继光想出了一系列克敌之计，并且很好地实施起来：戚继光命令，每天只派出一部分兵马攻打，昼夜不停地擂鼓喊杀，惊得岑港守敌全天紧张兮兮、加强警备，时间一长，守敌疲乏不堪、锐气尽失;同时，戚继光设下计谋迷惑敌人，引发了岑港守敌之间互相猜疑、持刀自击。
过了一段时间，戚继光所部和俞大猷所部做好了总攻准备，从陆路强攻岑港守敌。戚继光诸将率部大举进攻，在拼死战斗、强行冲锋的攻击下，终于一举攻下了岑港。明军杀进了岑港，抓获、杀死了一批汪直余党以及倭寇，但毕竟明军的水路力量太弱，没能完全包围住守敌，致使一部分守敌还是从海路乘船逃走了。
岑港之战，明军取得强攻胜利，戚继光因此官复原职，而俞大猷则被朝廷派人抓捕了。这是为什么?打赢了，战场指挥俞大猷却被抓了?是的，是打赢了，但是岑港一部分守敌从海路逃到了福建，福建被这批倭寇侵扰得不轻。因此，福建相关官员向朝廷控告攻打岑港的总指挥胡宗宪。胡宗宪为了逃避责任，就控告是俞大猷攻击岑港不力、纵敌南逃，就这样，俞大猷被抓了。
第二年(1559年)，俞大猷通过走关系、贿赂严氏父子，这才被释放出狱，随后又走上了抗击倭寇的战场。同年，汪直被处死，新一轮的倭寇之乱又开始了。
在1559年，戚继光被改调驻防地，官职依然是参将，戚继光所部又取得了抗击倭寇的胜利。面对胜绩，戚继光没有高兴起来，反而认为手下的三千名士兵有着一些缺点，这支部队最严重的缺点就是胡乱杀人、邀功请赏。有事例说明：明朝的战场规定了士兵必须拿回敌人的人头才能领取赏银，而戚继光所部虽然战胜了敌军，却出现了下述场景：有一次，在戚继光所部，战后胜利的一名士兵提着一颗人头请赏，结果另一名士兵冲了上来，悲痛不已地哀嚎：“这是我弟弟的人头啊!虽然他受了伤，但是还没有死，为什么要砍下自己人的人头?”还有，有一名士兵竟然还拿着十几岁的孩子的人头来请赏。经过查实，前一颗人头是戚继光手下的受伤士兵的人头，后一颗人头则是被妄加杀害的百姓的人头。
戚继光当即下令：严肃军纪，处斩胡乱杀人、邀功请赏的士兵，同时处罚他们的队长。之后，戚继光脱下自己的军装，用自己的军装裹殓(liàn)被杀的人，还带着全军向被冤杀的人默哀。
这三千人组成的部队，还有其他一些不良表现，有些士兵人品实在不怎么样，部队精神面貌不好。戚继光痛定思痛，认定：要组建一支铁军、一支尖兵部队，就必须自己亲自选兵、亲自练兵、亲自指挥，这样才能组建一支戚家军!