陕州刺史
杨义臣之父杨崇，为北周仪同大将军，曾率军镇守恒山(在今河北曲阳县西北，与山西接壤处)，北周定州(今河北定县)总管杨坚结好。杨坚代北周后，建立隋朝，杨坚是为隋文帝。杨崇桩封为秦兴县公，后在与突厥交战中死去，朝廷追赠他为大将军、豫州刺史，并让杨义臣袭其官爵。当时杨义臣年幼，有官无职，被隋文帝收养在宫中，十几岁时，他曾为卫土宿守宫廷数年。其间，隋文帝不断对他进行赏赐，并赐义臣姓杨，将杨义臣的名字编入皇家宗谱，为隋文帝从孙。不久，杨义臣又被拜封为陕州刺史。
两败突厥
杨义臣生性谨慎厚道，善骑射，有将略，很为隋文帝看重，后来突厥达头可汗侵边，隋文帝授杨义臣行军总管之职，率步骑3万北山白道，大破突厥。第二年突厥又侵边，杨义臣率军抵御，再次击败突厥，并—直追至塞外大斤山。当时太平公史万岁也率军到达这里，两军合击，几乎将突厥全歼。但这次大捷并没有给杨义巨带来什么好处，凯旋后，史万岁为权臣杨素陷害而死，杨义臣战功也无人过问。隋文帝后期，杨义臣被拜为朔州总管，并赐以御甲。
计战乔钟葵
隋炀帝继位以后，其弟汉王杨谅在并州(今山西太原市)举兵反叛。当时代州总管李景为汉王将乔钟葵所围困，隋炀帝特诏命杨义臣率兵前去解围。杨义臣受命后率马步兵2万，夜出西陉关，及天明逼近乔钟葵军营。乔钟葵侦知杨义臣兵少，并不以为意，移军抗拒杨义臣军。两军对阵，乔钟葵部下骁将王拨临阵斩杨义臣咬下勇将杨思恩，随即，王拔乘势挥军奋击，杨义臣抵敌不住，退军十余里才扎下营来。至此，杨义臣派人用重金从敌阵买来畅思恩的尸体，然后，对畅思恩尸体痛哭不已，以至三军随之垂泪，接着杨义臣又将杨思恩的随从骑士全部腰斩，经过这番激励，全军感奋震惧。此外，杨义臣考虑到自己兵少，难临大敌，于是将军中数千头午驴全部集中起来，同时又命兵士数百人每人拿一个鼓悄悄地埋伏在山谷之中，随后，杨义臣又率军向乔钟葵挑战。两军对阵.杨义臣即命驱赶牛驴陷阵，与此同时，埋伏在山谷中的士兵，擂鼓助威，一时鼓声震地，尘埃张天。乔钟葵的军士被这种场面惊呆了，以为来了大队精兵，顿时乱了阵角。杨义臣乘势挥军猛击，将敌军打得大败。战后，杨义臣以功进封为大将军，赐物2千段、杂彩500段、女妓10人、良马20匹，不久朝廷又授他为相州刺史。
征讨吐谷浑
杨义臣在相州任职3年，期满后，被征入朝为宗正卿。不久，又转迁太仆卿，这时隋炀帝日益淫侈，喜好边功。大业三年(607年)，杨义臣随隋炀帝西巡。至时，隋炀帝遣将征讨吐谷浑(活动于今青海地区)，杨义臣受命围屯琵琶峡，他于此连营80里，南接元寿军，北连段文振军，将吐谷浑可汗团团围于覆袁川(在今青海省青海湖东北一带)。吐谷浑可汗无力与隋军交战.率—部突围逃走，杨义臣.与诸将乘势纵击，将吐谷浑打得大败，收降其部众10万余口。
两征高丽
不久，隋炀帝又发兵征高丽(今朝鲜)，扬义臣率军出肃慎道，兵锋直指鸭绿江。他与高丽大将乙支文德一日七战，连连取胜。但隋炀帝征高丽是不义之战，在高丽军民的反击下，再加上一些其他原因，隋军以失败告终，杨义臣也以败退免职。
第二年，隋炀帝又命杨义臣为人将军宇文述的副将征讨高丽，但当他率军行至鸭绿江时，隋统治阶级内部发生了杨玄感之乱，杨义臣被召回朝。不久，杨玄感之乱平息，杨义臣被任命为赵郡太守。此时，向海公率众起义，活动于扶风、安定之间，杨义臣奉诏镇压了向海公起义，战后，杨义臣被提升为左光禄大夫，跟从隋炀帝再次攻打高丽。这时已天下大乱，潼关以东地区纷纷起兵反隋，其中高土达、张金称领导的农民起义军一度颇具声势，隋炀帝先派段达前往镇压，但被起义军击败，于是又诏杨义臣率征高丽的军队前去镇压。杨义臣受命后，很快大破高士达军，击斩张金称，之后收其降众，乘势入豆子航(在今山东商河、惠民县北)进攻格谦领导的起义军，击败其众，将格谦抓获。
忧郁而死
杨义臣这次战绩功高震主，引起了隋炀帝的猜妒，而被召回朝中任光禄大夫，不久又迁礼部尚书。杨义臣失去了兵权，心中闷闷不乐，不久就死去了。
人物评价
杨义臣以门荫入仕，颇有将才，其初率军抵御突厥.保卫了隋朝北疆的安全。隋炀帝即位以后，他参加了平息汉王杨谅反叛的战争，这对维护隋朝的统一也有积极的意义。隋炀帝后来穷兵黩武，杨义臣又参加了击吐谷挥，征高丽的战争，是不义的，尤其隋末农民起义风起云涌时，杨义臣充当了隋炀帝的鹰犬.去镇压农民起义，终使他也没有好下场，被解除兵权，忧郁而死。
史书记载
隋书·杨义臣传
杨义臣，代人也，本姓尉迟氏。父崇，仕周为仪同大将军，以兵镇恒山。时高祖为定州总管，崇知高祖相貌非常，每自结纳，高祖甚亲待之。及为丞相，尉迥作乱，崇以宗族之故，自囚于狱，遣使请罪。高祖下书慰谕之，即令驰驿入朝，恒置左右。开皇初，封秦兴县公。岁馀，从行军总管达奚长儒击突厥于周盘，力战而死。赠大将军、豫州刺史，以义臣袭崇官爵。时义臣尚幼，养于宫中，年未弱冠，奉诏宿卫如千牛者数年，赏赐甚厚。上尝从容言及恩旧，顾义臣嗟叹久之，因下诏曰：“朕受命之初，群凶未定，明识之士，有足可怀。尉义臣与尉迥，本同骨肉，既狂悖作乱邺城，其父崇时在常山，典司兵甲，与迥邻接，又是至亲，知逆顺之理，识天人之意，即陈丹款，虑染恶徒，自执有司，请归相府。及北夷内侵，横戈制敌，轻生重义，马革言旋。操表存亡，事贯幽显，虽高官大赏，延及于世，未足表松筠之志，彰节义之门。义臣可赐姓杨氏，赐钱三万贯，酒三十斛，米麦各百斛，编之属籍，为皇从孙。”未几，拜陕州刺史。义臣性谨厚，能驰射，有将领之才，由是上甚重之。其后突厥达头可汗犯塞，以行军总管率步骑三万出白道，与贼遇，战，大破之。明年，突厥又寇边，雁门、马邑多被其患。义臣击之，虏遂出塞，因而追之，至大斤山，与虏相遇。时太平公史万岁军亦至，义臣与万岁合军击虏，大破之，万岁为杨素所陷而死，义臣功竟不录。仁寿初，拜朔州总管，赐以御甲。
炀帝嗣位，汉王谅作乱并州。时代州总管李景为汉王将乔钟葵所围，诏义臣救之。义臣率马步二万，夜出西陉，迟明行数十里。钟葵觇见义臣兵少，悉众拒之。钟葵亚将王拔骁勇，善用矛，射之者不能中，每以数骑陷阵。义臣患之，募能当拔者。车骑将军杨思恩请当之。义臣见思恩气貌雄勇，顾之曰：“壮士也!”赐以卮酒。思恩望见拔立于阵后，投觞于地，策马赴之。再往不克，义臣复选骑士十余人从之。思恩遂突击，杀数人，直至拔麾下。短兵方接，所从骑士退，思恩为拔所杀。拔遂乘之，义臣军北者十馀里。于是购得思恩尸，义臣哭之甚恸，三军莫不下泣。所从骑士皆腰斩。义臣自以兵少，悉取军中牛驴，得数千头，复令兵数百人，人持一鼓，潜驱之涧谷间，出其不意。义臣晡后复与钟葵军战，兵初合，命驱牛驴者疾进。一时鸣鼓，尘埃张天，钟葵军不知，以为伏兵发，因而大溃，纵击破之。以功进位上大将军，赐物二千段，杂彩五百段，女妓十人，良马二十匹。寻授相州刺史。后三岁，征为宗正卿。未几，转太仆卿。从征吐谷浑，令义臣屯琵琶峡，连营八十里，南接元寿，北连段文振，合围浑主于覆袁川。其后复征辽东，以军将指肃慎道。至鸭绿水，与乙支文德战，每为先锋，一日七捷。后与诸军俱败，竟坐免。俄而复位。明年，以为军副，与大将军宇文述趣平壤。至鸭绿水，会杨玄感作乱，班师，检校赵郡太守。妖贼向海公聚众作乱，寇扶风、安定间，义臣奉诏击平之。寻从帝复征辽东，进位左光禄大夫。时渤海高士达，清河张金称并相聚为盗，众已数万，攻陷郡县。帝遣将军段达讨之，不能克。诏义臣率辽东还兵数万击之，大破士达，斩金称。又收合降贼，入豆子，讨格谦，擒之，以状闻奏。帝恶其威名，遽追入朝，贼由是复盛。义臣以功进位光禄大夫，寻拜礼部尚书。未几，卒官。