张鲁是张陵之孙，五斗米道系师。在张陵死后，张鲁父张衡继行其道。张衡死，张鲁继为首领。其母好养生，“有少容”，“兼挟鬼道”，往来于益州牧刘焉家。张鲁通过其母与刘焉家的关系得到信任。公元191年(初平二年)，刘焉任命他为督义司马，与别部司马张修带兵同击汉中太守苏固。张修杀苏固后，张鲁又杀张修，夺其兵众。并截断斜谷道，在刘焉授意下，杀害朝廷使者。
公元194年(兴平元年)，刘焉死，其子刘璋代立。刘璋以张鲁不顺从他的调遣为由，尽杀张鲁母及其家室。又遣其将庞羲等人攻张鲁，多次为张鲁所破。张鲁的部曲多在巴地，刘璋于是以庞羲为巴郡太守。张鲁袭取巴郡。于是割据于汉中，以五斗米道教化人民，建立了短暂的政教合一的反动政权。据史料记载，张鲁在汉中，因袭张修教法，并“增饰之”。自称“师君”。来学道者，初称“鬼卒”，受本道已信，则号称“祭酒”，各领部众;领众多者为“治头大祭酒”。不置长吏，以祭酒管理地方政务。继承其祖的教法，教民诚信不欺诈，令病人自首其过;对犯法者宽宥三次，如果再犯，然后才加惩处;若为小过，则当修道路百步以赎罪。又依照《月令》，春夏两季万物生长之时禁止屠杀，又禁酗酒。他还创立义舍，置义米肉于内，免费供行路人量腹取食，并宣称，取得过多，将得罪鬼神而患病。
东汉末年，群雄蜂起，关中韩遂、马超起兵抗曹，不少人逃往相对安定的汉中地区，如关西民从子午谷逃奔汉中的就有数万家。张鲁还得到巴夷少数民族首领杜濩、朴胡、袁约等人的支持。他采取宽惠的政策统治汉中，“民夷便乐之”。“流移寄在其地者，不敢不奉”。五斗米道凭借政权的力量扩大了影响。五斗米道信徒入道，只需交五斗米。张鲁在汉中二十多年，信徒众多，成为汉末一支颇有实力的割据势力。