关胜是朝廷很信任的将领，因为梁中书遇到了麻烦，便差人到浦东前去请关胜前来围剿梁山。哪知道遭到呼延灼的诈降，关胜被人绳捆索绑，带到宋江面前。
一看到关胜来到，宋江见了，慌忙下堂，喝退军卒，亲解其缚。关胜扶在正中交椅上，纳头便拜，叩首伏罪，说道：“亡命狂徒，冒犯虎威，望乞恕罪。”关胜连忙答礼，闭口无言，手足无措。呼延灼亦向前来伏罪道：“小可既蒙将令，不敢不依，万望将军免怒虚狂之罪。”
此时关胜看了看自己以前的手下，说道：“我们被擒住此，所事若何?”二人答道：“并听将令。”关胜道：“无面还京，俺三人原早赐一死。”宋江道：“何故发此言?将军倘蒙不弃微贱，一同替天行道。若是不肯，不敢苦留，只今便送回京。”关胜道：“人称忠义宋公明，话不虚传。今日我等有家难奔，有国难投，原在帐下为一小卒。”宋江大喜。当日一面设筵庆贺，一边使人招安逃窜败军，又得了五七千人马。其余各自四散。投降军内，有老幼者，随即给散银两，便放回家。一边差薛永赍书往蒲东，搬取关胜老小，都不在话下。
那么关胜为何要投降宋江：
其一，陷入绝境，走投无路，除此别无他途。被梁山打败，本来就是丢尽颜面的事情。一旦传到京城，肯定要让自己的声誉受损。
其二，奸臣当道，有志不得施展，如此倒不如在梁山做一名匪首快活。当然自己也确实不是梁山宋江的对手。
其三，小人祸国殃民，君子怀才不遇。关胜当年何其有本领，才落得在浦东做一个芝麻小官，让人何不气恼?
其四，宋江手下聚集了很多投降的官员，大哥不说二哥，心知肚明，如此反而更能心安理得。
其五，宋江善于做后勤工作，秘密派人接来了他们的家眷，如此一来解除了他们的后顾之忧。自然更能让他们积极为梁山做事情。
其六，在宋江手下，彼此各司其职，不存在朝廷等级森严的官僚制度，彼此称兄道弟，好不热闹。
其七，关胜认为自己留下有用之躯，今后还可以为国家出力。当年自己的祖先关老爷不是也降了一把曹操，所谓人在江湖身不由己。