1937年抗战爆发，在生活上没有出路的他，只好受邀帮天津的一家报纸写武侠小说——《十二金钱镖》（上半部与郑证因合写），没想到写严肃作品不行，写武侠小说倒能获得不错的反响，凭借着这部作品，他一炮而红，从此一发不可收拾。后来有创作了著名的《偷拳》。你想这也不奇怪啊，写了20多年严肃文学，现在放下架子写通俗武侠，那不是洒洒水嘛。而且，他还从朋友那边搞来一本武术届的权威著作当作参考，所有功夫都真实有据，整个小说就更加生动写实了。他依据当时用“文林”来指代文化界的原理，发明了“武林”这个词，用来指代武术界，从此以后武林这个词就约定俗成，沿用到了今天。宫白羽在小说中，除了沿用了当时武术界的招式和兵器之外，还自创了很多新的“武林绝学”和“独门武器”，比如“弹指神通”，被后来黄药师、楚留香拿去大用特用，“蛤蟆功”也被欧阳锋学了去。
虽然赚了很多钱，也名声显赫，连后来的金庸先生都说他的作品“寓意深刻，文字超凡”。梁羽生甚至用他的“羽”字给自己起了笔名，可是宫白羽却一直很不开心。因为早年受到鲁迅先生的指导，却一直没能成为严肃作家，只能混低一等的通俗文艺圈，他总觉得辜负了大师的期望。他在自传《话柄》里面说：“不穷到极点，我不肯写稿。”“这些无聊的文字（指武侠作品）能出版，有了销场，这是近日华北文坛的耻辱，我可不负责”。后来他觉得自己实在无颜见到当年曾7次回信的鲁迅先生，就自动断绝了往来。为了摆脱“武侠小说家”这个头衔，他37岁开始逐渐放弃撰写武侠作品，转身去研究金石学和甲骨文，决定在考古学上有一番新作为。他曾在《天津新画报》上连载了20多篇研究笔记。可惜到去世，他的考古论文专著也没能发表。