据清代大学者戴名世《忧庵集》等古籍记载，有“国粹”之称的麻将牌是明朝时一个名叫万秉迢的人发明的。万秉迢被施耐庵《水浒传》书中的梁山108位好汉所折服，于是想做一副娱乐工具来纪念他们。经过几天精心设计，终于研制出了麻将牌。他把麻将牌设计为108张，暗喻《水浒》中的梁山108位好汉。牌中的九索指“九纹龙”史进，二索指“双鞭”呼延灼，等等。麻将又分万、筒(北方称饼)、索(北方称条)，即是发明人万秉(饼)迢(条)的谐音。
接下来，万秉迢考虑到梁山一百单八将分别来自东、西、南、北、中五个方位，又增添了“东”、“西”、“南”、“北”、“中”各4张、共计20张牌。同时，考虑到梁山英雄好汉中既有出身贫民又有出身富户的，对此，就称“贫”为“白”(板)，“富”为“发”(财)。于是，“白”、“发”又各增牌4张、共计8张。最后，便构成了整副牌136张。由于水泊梁山在宋江的领导下一心想被招安，想与朝廷求和，并不想战胜或打赢朝廷。所以打麻将胜者历来说“和”，而不说“胜”或“赢”。
博主刘继兴经考证后认为，最初打麻将只是极为普通的民间娱乐活动，是艰苦劳作后的一种放松，代表了广大劳动人民在封建高压统治下对水泊梁山“大碗喝酒、大块吃肉”自由生活的向往，同时麻将在全国的流行，也表明了梁山斗争精神在民间的生生不息。只是后来麻将进入统治者阶层的生活后，才逐步演变成赌博活动与行贿工具(下级打麻将时故意输给上级)，祸及家庭与社会,才招致了人们对之的深恶痛绝。麻将起源的另一种说法与郑和下西洋有关，郑和是坐着大帆船下西洋的，海上航行时，百无聊赖，郑和以“筒”状船上的铁饼，以“索”状绳缆，以“万”状甲兵，中、发、白字样状航行的旗帜，东西南北状以辨风向的小旗指标，制成现在的麻将模样以资消遣。