卢俊义双目有神，身高九尺(相等于2.07米)，威风凛凛，仪表如天神。他性情和蔼，慷慨仗义。他的武艺不凡，棍棒使得出神入化，天下无双，点钢枪和朴刀次之，所以他的绝技也有河北三绝的称呼。
当宋江听到他的名号时，就想请他入伙。于是吴用设计，和李逵到大名去说动卢俊义，使他离乡背井，出门避灾。卢俊义路过梁山泊，为梁山好汉所擒，但宋江却没逼他入伙，反而放他回去。
卢俊义回到大名，却被管家李固与妻子贾氏出卖，他们通知官府，说他勾结强盗，把他关进牢里。卢俊义被发配沙门岛，官差董超、薛霸受贿赂要在野外结束他的生命，幸得心腹燕青搭救，可是不久又为官兵逮捕。
梁山豪杰为了救卢俊义，兴兵攻打大名，宋江等计擒关胜、索超，又打破大名，救出卢俊义。至此卢俊义也上梁山聚义，在曾头市一战活捉杀害晁盖的史文恭，因此宋江一度欲遵循晁盖遗命立卢俊义为寨主，但是众兄弟不服以及在卢俊义的推辞下，共同约定两人以同样的兵数分别攻打东平府、东昌府，并以破城先后决定寨主，宋江计捉敌将董平后顺利攻下东平府，卢俊义不敌敌将张清飞石攻势在东昌府陷入苦战，随后宋卢两军联手也没能攻下，最后在梁山水陆并进才击败东平府，同时奠定宋江为长、卢俊义为次的领导地位，之后与宋江同受招安，征讨契丹、田虎、王庆、方腊，官至武功大夫、庐州安抚使。
蔡京等奸臣传召卢俊义回京，把水银(也就是汞)放在皇帝赐给他的饭菜中，卢俊义痛得无法骑马，只好坐船回庐州，途中在船上吐血，落水溺死。