在康熙一朝，有两个廉吏最为有名，一是于成龙，二是张伯行。于成龙被称为“天下第一廉吏”，而张伯行却被誉为“天下第一清官”。
张伯行，顺治八年（1651）出生于河南仪封（今兰考）。他自幼聪明好学，十三岁时就通读四书五经，康熙二十年（1681），张伯行考中举人。四年后，中殿试三甲八十名，赐同进士出身。康熙三十一年（1692），授内阁中书，从此步入仕途。
康熙三十八年(1699)六月，仪封城北的大堤因遭洪水冲垮，张伯行招募民工用口袋装土填堵。河道总督张鹏翮巡视黄河后，上疏推荐张伯行治理河务，康熙命他以原官衔督修黄河南岸二百余里。
康熙四十二年（1703），张伯行因治理黄河有功，授任山东济宁道。当时正值灾荒，他到任后立即开仓赈济。为此，山东布政使责备他独断专行，要上疏弹劾他，张伯行认为“仓谷为轻，民命为重”，据理力争，最后布政使只好放弃了弹劾。
康熙四十五年（1706），康熙南巡时，赐予张伯行“布泽安流”的匾额以示嘉奖。不久，张伯行升任江苏按察使。按照官场旧制，新任的官员照例要给巡抚、总督等上司送礼，以示尊敬。
然张伯行不仅嫉恶如仇，从不与贪官污吏为伍，而且敢于抵制上司的横很暴敛。正因为如此，张伯行受到了以总督噶礼一伙人的嫉恨和排挤。第二年正月，康熙帝南巡到达江苏，谕令总督和巡抚举荐贤能的官员。
但是，在举荐的名单中竟无一人推荐张伯行，康熙帝没有看到张伯行的名字，就对总督、巡抚申斥道：“朕听说张伯行居官清廉，是个难得的栋梁之才，你们却不举荐！”说完又转向张伯行：“朕很了解你，他们不举荐你，朕举荐你，将来你要居官而善，做出些政绩来，天下人就会知道朕是名君，善识英才；如贪赃枉法，天下人便会笑朕不识善恶。”
康熙当场就破格提拔张伯行为福建巡抚，，并赐予“廉惠宣猷”的匾额。在福建巡抚任上，张伯行上疏强求免去台湾、凤山、诸罗三县因灾荒而欠交的赋税。他建鳌峰书院，拿出自己的藏书，搜罗前代文人的文集刊印成《正谊堂丛书》，用来教育学生。他抑恶扬善，造福百姓，使得全省风气大变，官清民乐。
康熙四十八年（1709），张伯行调任江苏巡抚。适逢布政使宜思恭因亏空被总督噶礼弹劾罢免，康熙派尚书张鹏翮查处，张伯行行文噶礼要求联名上疏，被拒绝。不久，张伯行以身体多病为由提出辞官，康熙没有允许。
康熙五十年（1711），江苏乡试发生舞弊案，副主考赵晋内外勾结串通，大肆舞弊，发榜时，苏州士子大哗。
康熙命张伯行、噶礼通户部尚书张鹏翮、安徽巡抚梁世勋会审此案。由于牵涉噶礼受贿五十万两，噶礼心中不安，他便找出张伯行的所谓七条罪状上奏康熙，康熙帝命二人都解职，后几次改派官员审理，竟然得出噶礼暗中受贿事属诬告，张伯行应于撤职的结论。
但康熙帝坚信张伯行为官清正廉洁，于是夺去噶礼的官位，命张伯行复职。
康熙五十四年（1715），有人以“狂妄自矜”的罪名弹劾张伯行，但康熙帝还是认为他无罪可治，将他调到京城，留任南书房行走。不久，张伯行到南书房任职并兼任仓场侍郎，充当顺天府乡试正考官。
康熙五十九年（1720），张伯行授为户部侍郎，又充当会试副考官。康熙六十一年（1722），张伯行奉旨赴千叟宴，康熙称赞他是“真能以百姓为心者”，并赐予“天下第一清官”匾额。
雍正元年（1723），张伯行提升为礼部尚书，雍正帝赐他“礼乐名臣”的匾额。雍正三年（1725）二月十六日，张伯行病逝，享年七十五岁。
,
