张伯行愤而上奏弹劾噶礼。噶礼就买通官吏，得到张伯行弹劾奏稿。然后又捏造事实反过来诬告张伯行。主审官畏惧噶礼的权势，逢迎巴结，案情无法审结。康熙无奈中只得下令：张伯行与噶礼解任，再命主审官审理。扬州百姓听到消息之后罢市抗议，哭声震动了扬州城。第二天，扬州百姓拥到会馆，因为平时就知道张伯行清廉不贪，肯定不会接受礼物，便用水果蔬菜相送。张伯行依然婉言拒绝，百姓们哭道："公在任，止饮江南一杯水;今将去，无却子民一点心!(不要推脱百姓的一点心意)"万不得已，张伯行才收下一把青菜。受审结束回来听候结果的路上又路过扬州，百姓们为防青天有什么不测，竟有数万人聚集江岸护送。
到最后，案子结果下来，竟然是噶礼免议，张伯行革职治罪。康熙皇帝痛斥大臣们是非颠倒，然后亲降圣旨：张伯行留任，噶礼革职。消息传出，江苏官民争相庆祝，纷纷写下红幅贴在门旁："天子圣明，还我天下第一清官。"
更有上万人进京到了畅春园，跪谢皇恩，上疏表示愿每人都减一岁，以便让圣上活到万万岁。
福建百姓也奔走相告，在供奉的张伯行像前焚香祈祷。可见张伯行受人民爱戴之深。
在康熙五十四年，有人以"狂妄自矜"的莫须有的罪名弹劾张伯行，但康熙皇帝还是认为他无罪可治，留任南书房行走(一种和皇帝关系很密切的官职)，后来，在康熙五十九年又任户部右侍郎。康熙六十一年，张伯行奉旨赴千叟宴，康熙皇帝称赞他是"真能以百姓为心者"。