1903年8月20日，张灵甫出生在长安东乡大东村的一户农家。家境不错的张父将张灵甫送入私塾，10岁的灵甫进入小学。后考入长安中学。在西安的时候，青年张灵甫为文庙的碑帖所吸引，每逢节假日都带上纸笔到文庙临摹碑帖，聚精会神经常忘记吃饭。他的字很快闻名全校，学校专门为他举办书法展，观者如云。此事被陕西的国民党元老于右任听说。于右任曾东渡日本留学，参加过同盟会，1922年，回西安出任靖国军总司令，讨贼军西北第一路总司令。他的书法誉满天下，于是很想看看张灵甫的本领。当时的张灵甫挥毫落笔，连写5个条幅。于右任惊讶之余大喜过望，连连道：“奇才，奇才，后生可畏!”
张灵甫爱好历史，喜欢一同谈古道今，指点江山。1923年毕业后，他回家乡担任了一段时间的小学教师。后接受新思潮的影响，张灵甫不甘身处穷乡僻壤，千里迢迢来到北京，考入北京大学历史系。北京学生运动风起云涌，张灵甫积极参与之余，深感学生的软弱无力。愤而投笔从戎，到河南开封参入胡景翼的国民二军军官训练团。1926年，热切投身革命的张灵甫采纳家了广州黄埔军校在郑州的秘密招生，并被录取。同年秋，张灵甫进入黄埔军校第四期入伍生总队，修步科。1927年3月8日，军校第四期学生开学典礼上，张灵甫、胡琏、林彪、刘志丹、袁国平、李弥、文强、唐生明等日后中国大地上风云一时的人物们站在一起，聆听校长蒋介石的训话。以这一刻为起点，张灵甫开始了他二十年的戎马生涯。
血战日寇
张灵甫的仕途并不顺利：由于常年作战在外，身为胡宗南第一军的团长张灵甫怀疑妻子不轨，结果酿成轰动一时的“团长古城杀妻”的惨剧。此后的张灵甫一度锒铛入狱，被蒋下令关入“模范监狱”10年。但由于他书法出众，所以反而这段时间反而润笔颇多，南京街头张灵甫书写的招牌店名多如牛毛。但从此也看出张灵甫暴躁、多疑的性格。张灵甫的转机在于七七事变的爆发。国民政府下命令所有服刑官兵除政治犯外一律调服军役，戴罪立功，并保留原先军衔。再度出山的张灵甫受到从前上司，此时五十一师师长的王耀武的知遇之恩。为了表示自己改过自新的决心，他正式更名“张宗灵”为“张灵甫”。
整个抗战期间，张灵甫在王耀武的麾下对日寇南征北战，经历硬仗、恶仗无数，书下自己最为风光的一页。1937年，五十一师开赴上海，参加著名的“八一三”凇沪保卫战。张灵甫来到一五三旅三o五团走马上任，并在上海保卫战中，以勇猛果断，指挥有方赢得全团官兵的爱戴。嘉定作战的时候，面对武器装备远远优于国军的日寇蜂拥冲锋，杀红眼的张灵甫甩掉上身军服，抱着机枪跳出战壕，身先士卒带领100多名敢死队员迎头痛击，杀得日寇丢盔卸甲，抱头鼠窜。后他率领该团又连续打退敌人七次冲锋，打死打伤日寇800多人。
1938年，张灵甫奉王耀武之命，对驻守江西德安张古山的日寇进行反击。讨论作战方案的时候，众人认为张古山地势险要，易守难攻。灵甫拍案而起，道：“各位都看过《三国演义》，魏国大将邓艾为攻取成都，出蜀将之不意，带精兵暗渡阴平，飞越摩天岭，一举攻克了江油、涪城和成都。我们也可仿此战例，大军从正面进攻的同时，再挑选一批精兵强将，从人迹罕至的张古山背面进行偷袭，以收两面夹攻之效。”于是，张灵甫亲率一支突击队效法邓艾轻装出发，攀木挂树，穿过艰险的深山峡谷，老林恶水，配合正面部队进攻，飞夺张古山。而后日寇不甘失败，出动飞机与重炮狂轰滥炸，几乎将张古山移为平地。张灵甫率部浴血死战，与日寇鏖战五天五夜，阵地得而复失、失而复得，反复拉锯。亲临死线指挥的他身中7块弹片，鲜血直流也没有退下火线。
得知德安大捷之后，田汉受时任国民党军事委员会政治部第三厅厅长郭沫若的委派，采访张灵甫等人，刊登《中央日报》，并编写的话剧《德安大捷》，张灵甫以真名真姓在剧中出现，从此名震天下。德安战役之后，张灵甫很快提升旅长。旅下辖团，实为师长。荣获四等云麾勋章、三等宝鼎勋章。1939年3月，张灵甫率部参加南昌会战，在一次战斗中，右腿中炮弹负重伤。匆匆包扎伤口后他再度投入战斗。在不久的上高会战中，腿部再度被炸断。蒋介石派飞机将他送往香港，请英国著名外科专家克雷斯特尔为他诊治。手术后不久，张灵甫在报上看到有战时军人不宜出国养病的新规定，不顾英国医生再治疗一月可以痊愈的劝阻，说军命不可违，军人死不足惜，何惜一足，伤未愈提前归队，灵甫从此留下残疾，走起路一跛一拐，人送外号“跛腿将军”。
国民党军队有五大主力，分别放在东北和华东战场，而五大主力中，74师首屈一指，被认为是第一等主力中的第一个主力。而74师师长，便是“杀身成仁”的张灵甫。抗战期间，蒋介石以其作战有功，一再擢升，几乎年年晋级受奖，由团长而旅长、副师长、师长、副军长、军长。常德之役，被蒋介石誉为“模范军人”。湘西会战，获得美国金质自由奖章。在国民党朝野，张灵甫也被视为“常胜将军”。