小说叙云南大理国武林世家镇南王之子段誉，为逃避习武，来至无量山中，因种种机遇，学得一身古怪奇妙的武功，并先后结识少女钟灵、木婉清，互相悦慕，岂料此二人是父亲段正淳四处留情的私生女。吐蕃国大轮明法王鸠摩智为抢大理国天龙寺武功绝学六脉神剑图谱，与天龙寺众高僧比武。段誉适逢其会，为救伯父保定帝，以深厚的内力为基础，一人使出六脉神剑，大败鸠摩智，后被鸠摩智用计擒住，带至姑苏武林世家、以“以彼之道，还施彼身”享誉中原武林的慕容氏家中，在阿朱、阿碧帮助下逃脱。在苏州，他遇见苦恋表哥慕容复的王语嫣，对她一见钟情，苦苦追随;后又在无锡松鹤楼与丐帮帮主、有中原武林“北乔峰”之誉的乔峰结为异姓兄弟。
乔峰来姑苏，本是找慕容复查清丐帮副帮主马大元被他自己的成名绝技所杀一事，谁知帮内突生大变，他被指证为契丹人。为解开自己的身世之谜，他北上少室山，找自己的养父乔三槐和恩师玄苦，可二人已遇害身亡，目击之人皆认为是乔峰所为。他悲愤异常，百口莫辩，为救少女阿朱之命，大战聚贤庄，与天下英雄为敌，后见杀戮太多，想自刎以求解脱，却被一神秘的武林高手救走。在雁门关，他为自己的身世所苦恼、自卑，因见宋兵屠杀契丹百姓，如醍醐灌顶，立即顿悟，不再以契丹人自耻。为寻找仇人，他和阿朱往返千里，苦苦求索，途中情意互生，彼此爱恋。后其被马大元之妻所骗，以致失手打死假扮父亲段正淳的阿朱，悔恨终生。并答应阿朱，照料她的妹妹阿紫。 阿紫是星宿老怪丁春秋的徒弟，满身邪气，不以他人之是非为是非。乔峰带她至东北，从金人手中救出辽国皇帝耶律洪基，结为兄弟，帮助消除叛乱，被封为南院大王。
逍遥派掌门人无崖子为寻找一个色艺双全、聪明伶俐的徒弟，设下珍珑棋局，为少林寺虚字辈弟子虚竹误撞解开。相貌不佳为人愚直的小和尚成为逍遥派的掌门人后，又被灵鹫宫主天山童姥带至西夏皇宫中，尽得逍遥派真传。天山童姥与西夏王妃李秋水同归于尽后，虚竹成为灵鹫宫主人，并与跟随王语嫣而来的段誉结为兄弟。为向方丈忏悔自己的罪行，虚竹回到少林寺，适逢天下各路英雄齐至少林寺，有丐帮、星宿派、姑苏慕容、鸠摩智、大理段氏、四大恶人等等。
段誉回大理的途中，误入王语嫣的母亲、段正淳的另一情人李青萝设计捉拿段正淳的庄园之中;段延庆擒住段正淳和他的夫人、情人们，也赶来这里，以杀死段誉要胁段正淳以皇位相让。经过一番搏斗，段正淳、刀白凤自杀殉情;段延庆飘然远逝;段誉回大理继承皇位。这一年，辽国发兵进攻宋朝，萧峰不愿生灵涂炭，胁迫辽国皇皇帝答应有生之年不向宋朝发兵、后感到愧对族人，自杀身亡;阿紫抱着心爱之人的尸体，挖出眼珠还给游坦之，跳下万丈悬崖;游坦之也高呼“阿紫”的名字，紧跟跳下;慕容复一心想做皇帝，最后发了疯，王语嫣阿碧将他带到大理。无量玉洞，段誉最终堪破心魔，与木婉清、钟灵终成眷属，小说故事到此结束。