马腾，相传是东汉伏波将军马援的后代，其父马平原为天水兰干县尉。后失官流落陇西，与羌人杂居。家贫无妻娶羌女，故马腾有二分之一的羌族血统，马腾年轻时是个樵夫，靠上山砍柴到市里贩卖维持生计。灵帝末年，韩遂聚众十万起义，凉州刺史耿鄙率六郡之军讨韩遂，马腾参军，因其威望被封为军从事，后因功升至军司马。之后耿鄙被手下的凉州别驾所杀，马腾亦拥兵造反与韩遂合众攻下了汉阳城，汉阳太守傅燮战死。又和韩遂一起立汉阳豪强王国为起义军首领，进围陈仓，久攻不下，因士卒疲惫而撤军却为皇甫嵩追击大败，战后归咎责任，韩遂马腾废掉了王国，又立汉阳名士阎忠为首领，后阎忠病死，韩遂马腾等人互相争权，发生了内乱，实力大减，不再起兵。
至董卓入关，邀韩遂马腾等老冤家共谋山东，马腾接受了董卓的招安，被封为征西将军，屯于董卓老家郿。帮助董卓镇压了曾帮助过马腾的羌氐人叛乱，马腾手下的大将庞德还因功被封为校尉。后董卓被杀，李郭攻破京师，马腾有私事求李傕不获，以起兵救天子的借口联合马宇、刘焉（和他俩儿子）、杜禀等袭长安，后又得从金城赶来的韩遂相助，与李利（李傕的侄子）和郭汜战于长平观，大败而归。依靠韩遂与来追击的樊稠求情得以解脱，退还凉州，不久后李傕又招安马腾，封马腾为安狄将军。回到凉州之后，马腾与韩遂结为异姓兄弟，刚开始的时候特别亲密，后来因为部曲间的摩擦，马腾率先不顾兄弟情谊发兵给他大哥韩遂打了个措手不及，惹怒韩遂，韩遂聚众回攻马腾，马腾大败，妻子和儿子被韩遂所杀，并被韩遂步步紧逼赶出凉州，这时马腾韩遂已经成了仇敌，连兵不解。
曹操时代，韩马关系在钟繇和韦端（韦康他爹）的劝说下得到了缓解，马腾被封为前将军，假节，槐里侯，西屯槐里，北防三辅北边的羌胡、东备横行弘农的张白骑军。算是和韩遂拉开了段距离。
曹袁相争之际，关中军阀在杨阜的劝说下决意助曹，马腾也在张既和傅干（傅燮之子）的劝说下派长子马超协助钟繇击败郭援、高干等人。后又击破了弘农的黑山贼张白骑，在槐里期间甚得民心。
曹操在发动南征之前，派议郎张既劝说马腾等解散部曲入朝，当时马腾和韩遂长期不和，对此很犹豫，张既于是大肆宣扬，移书拟经过的几个县准备接待事宜，又命令沿途二千石以上官员出城郊远迎，马腾被逼无奈只好上路。被封为卫尉，他的次子马休为奉车都尉，三子马铁为骑都尉，举家迁到邺城。长子马超被封为偏将军，封都亭侯，继领马腾部曲。
后来曹操、逼反关中军阀，马超联合韩遂等于曹操战于渭南，大败，马超兵败第二年，马腾全族为曹操所杀。