乞丐们身处社会最底层，为了在长期行乞中维持生计，他们走到一起，结成了自己的组织——丐帮。丐帮最早出现在城市经济繁荣的两宋时期，孟元老《东京梦华录》中记录说：“至于乞丐者亦有规格，稍有懈怠，众所不容。”经过元、明发展，到清朝、民初达到鼎盛。三百六十行，各行各业都有自己的祖师爷，丐帮也不例外。被丐帮弟子尊为祖师爷的有范丹、朱元璋、武松、秦琼、伍子胥等，其中范丹是最具“神威”的一个，因为孔老夫子的命就是他救的。
传说孔子周游列国途中，在陈、蔡一带断粮，得知当地丐首范丹有余粮，孔子即命颜回去借粮，才救了一时之急。孔子许诺，欠范丹的粮，就由孔门弟子继续偿还：“凡门头上有字的，墙上有画的，家有藏书的，尽是孔门弟子，讨之无错。”孔子反问范丹：“你的门徒是何等样人?”范说：“凡衣衫褴褛，蓬头垢面者，皆范氏门下。”范丹忧虑地说：“书香门第多有看门狗，要怎么对付?”孔子正色道：“狗咬拿棍敲。”所以乞丐们都是手持棍棒打狗，称之“要饭棍”，乞丐落得一个“杆上的”的名号。
网络配图
关于这打狗棒的由来，还有另外一种说法。京师丐首使用的杆子相传是从朱元璋一代代传下来的。当年朱元璋落魄江湖，沿街乞讨，曾被两个乞丐接济食物。朱元璋平定四海，不忘二丐昔日恩情，就下令寻找他们，召入皇宫封赏。二丐谢绝为官，朱元璋就赐他们各持一根一尺长的木棒，棒上缠布，垂有穗，一色黄，一色蓝，赐名曰：“杆。”后来这杆子就成了丐首权威的信物。
杆子通常要漆成红色，外面再套上红色的丝绸袋，高高悬挂在帮主家中或帮众据点最显眼的地方。新帮主继任都要冲着祖师爷画像和这根棍子行磕头大礼;有新的乞丐入伙，也要先对棍子磕头。因为杆子不便携带，有时丐首就以一根极粗极长的旱烟管代行其权威。或许因为传说中的杆子有黄、蓝两种，后来北京丐帮的两大派也就各自以此得名了。“黄杆子”是“屌丝”中的“高富帅”，成员大都是落魄的八旗子弟。作为帮主的“丐首”，无不是王公贝勒级别的人物。这些人平时不会上街讨饭，只在春节、端午和中秋出来向商铺乞讨。贵族就是乞讨，也有一套庄重的规矩。他们常是两人同行，一人唱曲，一个敲鼓板。这时候有经验的掌柜就要跑出店来，先把手略微举过头顶，再将钱币放到鼓板上。店家必须在乞讨者唱完第五句前，完成前述程序，且施舍不能少于5枚大钱。
按规矩给了钱，则一切罢了，如果不然，那么掌柜的麻烦就来了。第二天来5个人，第三天来8个人，人数每天增加，在店铺门口从早上待到晚上，不言不语，只围观不说话，但店主的生意当然是没法做了。这时店主人出来求饶，那就不是几枚大钱就能打发的了，不给这些落魄贵族们个几千上万，就别想正常做买卖了。那些普通乞丐组成的“蓝杆子”就不能如此公开地横行霸道了。
因为中国地域广大，如小说中那样建立统一的丐帮组织显然是不可能的，所以真实的乞丐组织都是有地域性的。如湖北的“罗筐会”、江西的“边钱会”、 贵州的“孝义会”、 湖南的“红黑会”等等，名号各不相同。山东、河南等地的“穷家行”，乞丐自称“万年穷”，又自称“理情行”，意思是讲究事理人情的帮派。穷家行内的正宗是“死捻子”，就是普通的叫花子，又细分为韩门、齐门、郭门三个支系。死捻子内又分为“花搭子”、“武搭子”和“叫街”三类。所谓“花搭子”是通过卖艺乞讨，如唱数来宝、砸牛胯骨、打竹板等。“武搭子”是苦讨，“叫街”的是残疾的乞丐。
网络配图
乞丐中的“活捻子”就是小偷，死捻子看不起他们，互相不来往。他们同衙门里的官差勾结，分享赃物。要是“活捻子”不小心偷了当地大族的东西，官差就会出动让他们把东西还回去，以作立功之举。丐帮的门户数不胜数，帮主的成分也是各不相同。金庸小说中说，“奉立帮主是丐帮中的第一等大事，丐帮的兴衰成败，倒有一大半决定于帮主是否有德有能。”小说中的丐帮帮主要能行侠仗义，现实中则要能在江湖与庙堂间游走。从清末民初史料看，大约有以下几种。首先，一些帮主是被乞丐们推选出来的，这类丐首大多是身强力壮、财力过人的一方豪强，或者欺行霸市的流氓恶棍，他们以财力和声威震慑了众丐，从而为众丐所服膺，被推为丐首。
其次是由落魄的世家子弟充当帮主。一些贵公子坐吃山空，最后把家业挥霍一空，但瘦死的骆驼比马大，仗着自己有吃喝玩乐的本事，又与地方上的豪强有些关系，很容易就成为乞丐中的“精英”，成为群丐之首。丐首要服众，就必须有一些特殊的经历或才能。民国时成都北门城隍庙附近有一个绰号叫做“饭甑子”的乞丐，他能三天不吃饭而面不改色;要是吃起饭来，一顿又可以吃下两三人的饭量。他曾与人打赌，一口气吞下20颗生鸡蛋。这种本事在乞丐们看来，堪称惊世骇俗，也就甘心对他马首是瞻了。乞丐的领袖，说起来还只是要饭的，但他们的实际地位，却是普通百姓难以企及的。丐首们过的是衣来伸手，饭来张口的生活，不仅家有妻妾，且出有车马。广州地方丐帮“关帝厅”的丐首陈起凤住在华林寺的一间豪华卧房中，他的几房妻妾，分住附近的民房里面。他是乞丐，但身穿丝绸，佩戴金表，腰缠古玉。冬天时，陈起凤常率其门人与当地士绅大吃香肉(狗肉)，不醉不归。
因为成员众多，分布广泛，丐帮在任何地方都有不小的势力。大户人家办喜事，都要把丐首请到家里，安排到上座。丐首到了后，会先将象征权威的杆子或龙鞭挂在大门口，乞丐们来了一看就知道帮主在里面，所以也不闹事，东家给多少就拿多少。要是谁家办喜事不请当地丐首，那么乞丐们就会一轮轮到家门口去骚扰，什么话难听说什么，就是给钱也不要。这时东家只好灰头土脸地央求人找丐首说和，不情愿地拿出一大笔钱消灾。这在丐帮内叫作“吃大头”或“吃肥羊”。一些丐帮能在地方上称雄，主要是因为他们的身份是被官方承认的。前面说到的关帝厅会向办红白喜事的人家收取四五元或一元数角的“丐捐”，陈起凤会将钱分为5份，自己和当地警察各拿1份，剩下的3份分给普通乞丐，以及作为关帝厅的“公款”。
网络配图
丐帮收取丐捐是官方默许的。店主为免去乞丐的骚扰，会交一笔钱给丐首，让他治下的乞丐不来闹事。丐首这时拿出一张红纸，写上“会内兄弟不得来此骚扰”。店家交了“保护费”，有了“护身符”，就能太太平平做买卖了。全国各地收丐捐的时间不同，长江中下游是每年二月和八月收。晚清时是要商家一次三千文，住家一次两千文。收“税”时，丐首背着一个钱袋，带着几个小弟，威风八面地挨家拿钱。纳了丐捐的商家会得到一张“丐条”，其上有昭示合法性的“奉宪”二字。那些一时吝啬，不肯出丐捐的人家，不久就要遭殃。过路流民一路上都瞪大眼睛，看谁家没有“丐条”这个保护伞，一旦瞅准一家，或将铁镖摔在柜台上，声称是过路的镖客，特来借钱。更有甚者，是把刀枪剑戟摆在店家门口，然后逐一摆弄，让生意没法做下去。到了最后，店家就要付出比丐捐多得多的花费，打发这些不速之客。
历史上真实的丐帮，就是社会底层游民为生存而结成的团体，他们没法行侠仗义，只求能在困苦中谋得一条生路。为了求生，他们也就被迫使出一些“非常手段”，应了那句“人在江湖，身不由己”的话。