耿炳文的父亲名叫耿君用，跟随明太祖朱元璋渡长江，因战功累升至管军总管。增援宜兴，和张士诚的部队进行激烈争战，最后耿君用战死。耿君用死后，耿炳文承袭父职，率领着他父亲的军队。至正十七年(1357年)，耿炳文攻取广德，进攻长兴，打败张士诚的大将赵打虎，缴获战船三百余艘，生擒敌军守将李福安等人，攻克长兴。长兴地处太湖口，陆上通广德，与宣、歙等地接壤，是江、浙的门户。明太祖得到长兴，十分高兴，将长兴改名为长安州，并在此地设立永兴翼元帅府，任命耿炳文为总兵都元帅，守卫长安州。
温祥卿足智多谋，因躲避战乱前来归附，耿炳文把他请入幕府，制订实施防御计划十分周密。张士诚的左丞潘元明、元帅严再兴率兵进犯长安州。耿炳文奋力反击，大败敌军。此后，张士诚再次派司徒李伯升率兵十万，分水陆向长安州杀来。当时城内只有守兵七千人，明太祖十分着急，连忙命令陈德、华高、费聚前来增援。谁知李伯升黑夜偷袭援军营寨，几位大将溃散。耿炳文固守城池，敌方攻击十分猛烈，耿炳文采用不同的方式加以防御。战争持续一个多月，在此期间，耿炳文一直不敢懈怠。常遇春再次率兵增援，李伯升弃营逃跑，耿炳文乘胜追击，追杀李伯升军队五千余人。第二年，明太祖改永兴翼元帅府为永兴卫亲军指挥使司，任命耿炳文为永兴卫亲军指挥使。不久，张士诚出动大军，并派他的弟弟张士信来争夺永兴。耿炳文打败张士信，并俘虏敌军元帅宋兴祖。张士信大怒，大军围城。耿炳文和费聚迎战，又大败敌军。长兴是张士诚的必争之地，耿炳文在此坚守大概有十年之久，他以寡敌众，大小十几次战争，战无不胜，使得张士诚的目的不能得逞。大军征讨张士诚，耿炳文所部攻克湖州，围困平江。平定吴地后，耿炳文升任为大都督府佥事。