王全斌出身将门，自幼就胆识过人。他的父亲为后唐岢岚军使，私下畜养一百多名勇士，李存勖怀疑他心存异志，召见他，他害怕不敢去。当时王全斌十二岁，对他的父亲说：“这是因为怀疑大人有别的图谋才召见您，您让我去作人质，一定会消去怀疑。”他的父亲照计行事，果然得以保全，于是李存勖把王全斌收用在军中。到李存勖入洛时，历任宫内职务。同光末年，国家有内难，乱兵攻入宫城，近臣宿将都弃甲逃走，只有王全斌与符彦卿等十几人在宫中抵抗。李存勖中了流箭，王全斌等扶他到绛霄殿，王全斌痛哭而去。
李嗣源即位，补任他为禁军列校。后晋初年，跟从侯益在汜水大败张从宾的军队，因战功迁任护圣指挥使，后周广顺初年，改护圣为龙捷，任命全斌为右厢都指挥使。到了讨伐慕容彦超于兖州时，任行营马步都校。显德年间，跟随向训平定秦、凤，于是兼任思州团练使。不久升为兼任泗州防御使。跟从柴荣平定淮南。收复瓦桥关，改任相州留后。宋初，李筠占据潞州叛乱，王全斌与慕容延钊由东路会合大军进讨，因战功授任安国军节度。诏令他修葺西山堡塞，不到限期就完成了。建隆四年(963年)，与洛州防御使郭进等人率领军队攻入太原境内，俘获敌人数千人而归，进克乐平。