乞丐们身处社会最底层，为了在长期行乞中维持生计，他们走到一起，结成了自己的组织——丐帮。丐帮最早出现在城市经济繁荣的两宋时期，孟元老《东京梦华录》中记录说：“至于乞丐者亦有规格，稍有懈怠，众所不容”。经过元、明发展，到清朝、民初达到鼎盛。三百六十行，各行各业都有自己的祖师爷，丐帮也不例外。被丐帮弟子尊为祖师爷的有范丹、朱元璋、武松、秦琼、伍子胥等，其中范丹是最具“神威”的一个，因为孔老夫子的命就是他救的。
说到丐帮，不能不说打狗棒，关于这打狗棒的由来，有个说法：京师丐首使用的杆子相传是从朱元璋一代代传下来的。当年朱元璋落魄江湖，沿街乞讨，曾被两个乞丐接济食物。朱元璋平定四海，不忘二丐昔日恩情，就下令寻找他们，召入皇宫封赏。二丐谢绝为官，朱元璋就赐他们各持一根一尺长的木棒，棒上缠布，垂有穗，一色黄，一色蓝，赐名曰：“杆”。后来这杆子就成了丐首权威的信物。
杆子通常要漆成红色，外面再套上红色的丝绸袋，高高悬挂在帮主家中或帮众据点最显眼的地方。新帮主继任都要冲着祖师爷画像和这根棍子行磕头大礼；有新的乞丐入伙，也要先对棍子磕头。因为杆子不便携带，有时丐首就以一根极粗极长的旱烟管代行其权威。或许因为传说中的杆子有黄、蓝两种，后来北京丐帮的两大派也就各自以此得名了。“黄杆子”是“屌丝”中的“高富帅”，成员大都是落魄的八旗子弟。作为帮主的“丐首”，无不是王公贝勒级别的人物。这些人平时不会上街讨饭，只在春节、端午和中秋出来向商铺乞讨。
贵族就是乞讨，也有一套庄重的规矩。他们常是两人同行，一人唱曲，一个敲鼓板。这时候有经验的掌柜就要跑出店来，先把手略微举过头顶，再将钱币放到鼓板上。店家必须在乞讨者唱完第五句前，完成前述程序，且施舍不能少于五枚大钱。按规矩给了钱，则一切罢了，如果不然，那么掌柜的麻烦就来了。第二天来四个人，第三天来八个人，人数每天翻倍，在店铺门口从早上呆到晚上，不言不语，只围观不说话，但店主的生意当然是没法做了。这时店主人出来求饶，那就不是几枚大钱就能打发的了，不给这些落魄贵族们个几千上万，就别想正常做买卖了。那些普通乞丐组成的“蓝杆子”就不能如此公开地横行霸道了。
因为中国地域广大，如小说中那样建立统一的丐帮组织显然是不可能的，所以真实的乞丐组织都是有地域性的。如湖北的“罗筐会”、江西的“边钱会”、 贵州的“孝义会”、 湖南的“红黑会”等等，名号各不相同。山东、河南等地的“穷家行”，乞丐自称“万年穷”，又自称“理情行”，意思是讲究事理人情的帮派。穷家行内的正宗是 “死捻子”，就是普通的叫花子，又细分为韩门、齐门、郭门三个支系。死捻子内又分为“花搭子”、“武搭子”和“叫街”三类。所谓“花搭子”是通过卖艺乞讨，如唱数来宝、砸牛胯骨、打竹板等。“武搭子”是苦讨，“叫街”的是残疾的乞丐。