1838年，道光年间，武训出生在山东堂邑县柳林镇一个贫苦的农民家庭，他7岁的时候就丧父，虽然武训十分渴望读书，但是为了谋生路，只好出去打工，年幼的武训多次找到人的欺负，在一家人家里打了三年工之后，雇主竟然欺负他不识字，恶意将假账拿给他看，说已经支付完了三年的工钱，武训为此奋力争辩，反而找到毒打，气的他口吐白沫，不食不语，病倒3日。吃尽文盲苦头的他决定，不能让其他的人遭受这种待遇，最好的方法就是兴办学校，让更多穷人的孩子接受教育。
但是这可是需要白花花银子的啊!钱从哪里来呢?武训决定，那就自己靠乞讨去筹!在20岁的时候，他最终当上了乞丐。从此武训过上了“边乞边佣”的生活，足迹布遍山东河北河南等地，一边打工一边乞讨，他还编写了一首歌：“吃杂物，能当饭，省钱修个义学院。”
当乞讨的比较好的衣物或者是饭食，武训都会想办法卖掉换成钱财，而自己却只吃下简陋的食物。武训漂泊流离，居无定所，他的钱放置到哪里呢?
武训打听到堂邑县有个杨举人，为人正直，因此跑到杨府求见，希望将钱款存到他那里，然而杨家门人哪肯放个叫花子进入?武训便跪在门外面数天，终于感动了杨举人，武训随后将乞讨积钱、兴义学之事原原本本叙述一遍，这让杨举人大为震撼，不但答应帮助他存钱，还要帮助他办学。
此后武训更加努力的换取钱财，他有的时候还像一个江湖杂耍艺人一样表演锥刺身、刀破头、扛大鼎等节目，甚至吃毛虫蛇蝎、吞石头瓦砾，以取赏钱。
随着钱财越积越多，武训也开始慢慢的购置田地，作为学校场所，他还用三分利息给他人放贷，到了49岁的时候，武训已经累计了良田230亩，积资3800余吊，而这些都是凭借他30年省吃省喝积累下来的。
武训认为办学的时机到了，杨举人劝奉他先娶妻生子，毕竟不孝有三，无后为大，但是武训却担心这会影响自己的办学，于是唱到：“不娶妻，不生子，修个义学才无私。”
1888年，武训花费钱4000余吊，在堂邑县柳林镇东门外建起第一所义学，取名“崇贤义塾”。他亲自到当地有学问的举人家里面跪请他们任教，又到贫寒人家请求他们送子上学，而学费分文不取，当时招生50多名，经费全部从武七置办的学田中支出。每次等到开学第一天，武训都要设置宴席招待老师，请当地名绅相陪，而自己则站立门外，专候进菜。
这种做法，感动了全县的人，塾师对他十分敬惮，而学生也不敢有丝毫懈怠，大家都严守学规，努力上进，学有所成者甚众。而1890年，武训又和寺院合作，在馆陶县兴办了第二所义学，山东巡抚张曜听说了武训的行为，特地下令召见，并且免除了义学田钱粮和徭役，另捐银200两，这件事情被朝廷得知之后，光绪帝亲自赐下“乐善好施”的牌匾，并授予武训黄马褂和“义学正”的名号。
在1896年，武训病逝于御史巷义塾，而且根据《清史稿》的记录，他在去世前听闻学生的读书声，依然是微笑着的(病革，闻诸生诵读声，犹张目而笑)，就这样，武训离开了这个世界，在他出殡当天，堂邑、馆陶、临清三县官绅全体参与送殡，而受到他资助的学生，不乏为官者，纷纷从各地赶来参拜，万人送葬师生哭声震天，而乡民无不落泪，武训，也被世人称为“千古奇丐”，从而名垂青史。