他唐高宗仪凤年间(676-679)，出任大理寺(最高法院)官员。在武则天天授二年(691)，转任地官侍郎、判尚书、同凤阁鸾台平章事，当上了宰相，位极人臣。但福兮祸之所伏，短命二年(693年)正月，武承嗣勾搭来俊臣诬告狄仁杰等大臣谋反，将他们拘捕下狱。“未几，为来俊臣诬构下狱。
时一问即承者例得减死，来俊臣逼协仁杰，令一问承反。仁杰叹曰：‘大周反动，万物唯新，唐朝旧臣，甘从诛戮。反是实!’俊臣乃少宽之……既承反，所司但待日行刑，不复严备。仁杰求守者得笔砚，拆被头帛书冤，置绵衣中，谓德寿曰：‘时方热，请付家人去其绵。’德寿不之察。仁杰子光远得书，持以告变。则天召见……故得免死。”这是狄仁杰生死一线之际。他被酷吏来俊臣构陷而入狱。当时法律中有一项条款：“一问即承者例得减死。”
来俊臣逼迫狄仁杰供认“谋反”，狄仁出色以十分之举，立即服了罪，他说：大周反动，什么都想换新的，我是唐朝旧臣，何乐不为被屠戮，说我谋反没错。但狄仁杰并未坐以待毙。他向看守讨得了笔砚，偷偷写了密信藏在棉衣里，跟来俊臣下属王德寿说，“如今天气热了，请交给我家人抽出衣服中的棉絮。”他儿子收到衣服，获得密信，向武则天鸣冤。武则天召见了狄仁杰，问他：“为何供认谋反?”狄仁杰说，“要是不供认，这时曾经被打死了。”于是武则天免了狄仁杰的谋反死罪。
由于狄仁杰知人善任，而武则天也充沛信任他，在短短几年之内，他引荐的人遍及朝野。由于他为国举贤，并无私心，而且所引荐确实实都是人才，所以很多人后来不断任职到玄宗朝，位登台阁，成为朝廷精英。《旧唐书.狄仁杰传》上说：“仁杰常以举贤为意，其所引拔桓彦范、敬晖、窦怀贞、姚崇等，至公卿者数十人。”
狄仁杰引荐人才的时分，总是不遗余力。一次，武则天让他推荐一名将相之才，他推举了荆州长史张柬之。武则天将张柬之提升为洛州司马。过了几天，又让狄仁杰推荐将相之才，狄仁杰曰：“前荐张柬之，尚未用也。”武则天答曾经将他提升了。狄仁杰曰：“臣所荐者可为宰相，非司马也。”于是张柬之再被选拔为秋官侍郎(刑部副长官)，很快就当上了宰相。
也就是这个张柬之，在后来武则天病重的时分，结合了桓彦范、崔玄、袁恕己、敬晖等人，发起了宫廷政变，将李显推上皇位，完成了所谓的“唐室中兴”。史书以为：“柬之果能兴复中宗，盖仁杰之引荐也。”唐室中兴或许没有狄仁杰什么功绩，可是狄仁杰做到的这一点：“天下桃李皆敬慕，域中俊杰尽归心”，就曾经很了不起了。