5岁能诗，“始入小学”。 6岁“通声韵，工属对”。 10岁作《武侯论》。曾就学于黄宗羲，研究经学，对《周易》尤有心得。
19岁“读书于武林吴山，从慈溪叶伯寅先生学”。20岁补诸生，出门远游，遍历云贵、华中、华北、东南各地，写出大量诗作，名噪一时。曾在纳兰明珠府中教授其幼子。 23岁应童子试，康熙二十八年(1689)，牵涉洪升《长生殿》的国恤张乐事件，遭革职，驱逐回籍。后改名慎行，字悔余，号他山，又号查田，籍贯改作钱塘。
康熙三十二年(1693)，始中举人。四十一年(1702)，康熙帝东巡，因大学士陈廷敬等推荐，诏随入都，入直南书房。康熙四十二年(1703)，赐进士出身，特授翰林院编修，后充武英殿总裁纂述。曾3次随驾巡游塞外，岁时风土，悉记以诗。得帝器重，亲书“敬业堂”额以赐。康熙五十二年(1713)乞休归里，家居10余年，筑初白庵以居，潜心著述，人称初白先生。
雍正四年(1726)，因弟查嗣庭犯讪谤案，以家长失教获罪，被逮入京，世宗知其端谨，特许其父子返回田里。 次年放归，不到两个月即去世。其长子克建、堂弟嗣珣都是进士，时称“一门七进士、叔侄五翰林”。