1620年(明万历四十八年)七月八日，张煌言出身于一个官僚家庭，西元父张圭章，1624年(明天启四年)举人，曾任山西盐运司判官，官至刑部员外郎。母赵氏，于张煌言十二岁时病卒，故一直跟随在父亲身边长大。张煌言少年时期就胸怀大志，为人慷慨并且喜爱讨论兵法之道。1636年(明崇祯九年)，张煌言十六岁参加县试，并考察骑射，张煌言射三箭皆中靶，与他一起应试的人没有不惊叹的。
1642年(明崇祯十五年)，张煌言考中举人。当时，李自成领导的农民起义烽火已燃遍全国，明朝的统治岌岌可危，于是朝廷开始重视培养文武兼备的人材，张煌言虽考文举，但仍须加试一些战事急需的武备科目。在考试时，朝廷“以兵事急”，令考生“兼试射”，而张煌言竟“三发皆中”，使在场者十分惊服。加之他平日留心时局，“慷慨好论兵事”，故周围的人们对他更加敬重。1645年(清顺治元年、明弘光元年)，清军大举南下，连破扬州、南京、嘉定、杭州等城。宁波城中文武官员有的仓惶出逃，有的策划献城投降。二十五岁的张煌言，挺身而出，投笔从戎。当时，刑部员外郎钱肃乐等率众集会于府城隍庙，张煌言毅然参加，倡议勤王，集师举义。并奉表到天台请鲁王朱以海北上监国。授翰林修撰后。清军破钱塘，随鲁王逃至浙闽沿海，入据舟山。