张翼是犍为郡武阳县人，高祖父张皓曾任司空，曾祖父张纲任广陵郡太守，都很有声望政绩。建安十九年(214年)，刘备平定益州，自领益州牧，以张翼为书佐。建安末年，张翼被举为孝廉，出任江阳郡下江阳县县长。建安二十三年(218年)，刘备出兵攻打汉中，张翼也跟随参战。曹操亲自率兵前来救援，张翼跟从赵云在汉水之战中击破曹军。后转任涪陵县县令，升任梓潼郡太守，并逐渐升任为广汉郡太守，蜀郡太守。建兴九年(231年)，庲降都督李恢逝世，蜀汉朝廷任命张翼为庲降都督，兼绥南中郎将，驻牂牁郡平夷县，出震南中。张翼执法严厉，不得南夷欢心，于是在建兴十一年(233年)，夷族首领刘胄起兵作乱造反。张翼出兵讨伐，还未攻破刘胄，蜀汉朝廷便征召张翼回朝，众部将都认为应该火速返回朝廷请罪，张翼说道：“不能这样，我是因为蛮夷起兵骚乱，不称职才被征召回朝的。但是接替我的人还没有到达，而我正身临战场，应当组织运送、屯积粮草，作为讨灭叛贼的物资，怎么可以因为被免除官职的缘故而荒废国家的政事呢?”于是继续统领事务，毫不松懈，直至接任的庲降都督马忠到达前线后才出发回朝。马忠依靠张翼打下的基础得以击杀刘胄，讨平叛乱，蜀汉丞相诸葛亮得知这件事后非常赞许张翼。建兴十二年(234年)二月，诸葛亮兵出斜谷北伐曹魏，以张翼为前部都督，领扶风郡太守。八月，诸葛亮病逝，大军撤回成都，拜张翼为前领军，并追封之前讨伐刘胄的功劳，赐予张翼关内侯的爵位。延熙元年(238年)，张翼入朝为尚书，参与朝廷政务的决策。后升迁为建威督，授予节符，并进封为都亭侯，拜征西大将军，驻守蜀汉的北部边境。
延熙十八年(255年)春，张翼同卫将军姜维一起回到成都，姜维在朝堂上提议再一次出兵伐魏，唯有张翼一人当庭争辩，认为国家弱小百姓疲惫，不应该滥用武力，但姜维并没有听从张翼的意见。同年夏，姜维率领张翼等人出兵伐魏，并晋升张翼为镇南大将军。八月二日，汉军进至陇西郡狄道县，大败魏国雍州刺史王经的军队，王经退回狄道城，魏军死在洮水的士兵上以万计。姜维想要趁胜进军，张翼劝谏道：“可以停止了，不应该继续进军，进军的话可能会毁掉这份大功，就像为蛇画足一样。”姜维大怒，不听劝谏，将王经包围在狄道城内，后魏将陈泰和邓艾前来救援，汉军最终还是没有攻克城池。九月二十五日，张翼随姜维撤围退军。自从张翼在朝堂之上提出不同意见后，姜维内心就与张翼不和，然而一直勉强张翼跟随出征伐魏，张翼也不得已而一同前往。景耀二年(259年)六月，张翼升任为左车骑将军，领冀州刺史，官位与右车骑将军廖化相等。当时的人说道：“前有王平、句扶，后有张翼、廖化。”
景耀六年(263年)八月，司马昭兴兵进攻蜀汉。后主刘禅派遣廖化去往沓中支援姜维，张翼、董厥前往阳安关口作为各围守的外援。九月，钟会军攻陷阳安关口，得以长驱直入，姜维亦为邓艾所逼，于是与廖化、张翼、董厥军会合，一同退守剑阁，抵御钟会的进攻。同年十一月，蜀汉卫将军诸葛瞻在绵竹被邓艾击败，后主刘禅动向不明。张翼等人于是随姜维向东进入巴西郡，绕道退至广汉郡郪县一带，以察明虚实，不久后得到后主刘禅投降的敕令，于是与姜维等到涪县向钟会投降。曹魏景元五年(264年)一月，张翼随钟会回到成都，后钟会密谋造反，成都大乱。张翼在变乱中为乱兵所杀。