在清朝，貪污成風，“三年清知府，十萬雪花銀”。但晚清，卻有一個衙門以廉潔著稱，它就是中國海關，被認為是“世界行政管理史上的奇跡之一”。第二次鴉片戰爭后，清廷同意由英國人代管中國海關，并寫入與英美等國簽訂的 《通商章程善后條約：海關稅則》。海關最高長官稱“總稅務司”，實際上全權負責管理海關事務。

1863年，英國人赫德接任總稅務司，開始長達近半個世紀對中國海關的管理。面對海關的腐敗問題，赫德不想用反貪風暴來改變海關。他要做的是從制度上徹底更新，對腐敗來個釜底抽薪。1865年，他力主淘汰中國傳統的舊式清冊，建立一套 “嚴格的、詳細的和絕對可靠的”會計制度。新制度對海關稅收的上繳和留用有便于查詢的記錄。

與會計制度相配合，赫德還建立起新的審計制度。他專門設立稽查賬目稅務司，作為一個獨立機構，對各關財務會計進行監督，每年至少去每個港口檢查賬簿和賬目一次，并且是抽查。因為海關不知道稽查稅務司檢查什么地方，不檢查什么地方，因此他的巡查使一切更加仔細。稽查稅務司的權力很大，一旦發現有不正當行為，有權停止任何稅務司或關員的職務。赫德做的第三件事是把海關重要崗位基本上都換為外國人。在選擇海關雇員時，赫德要求進行全球招考、公開選拔，先后在上海、九龍、廣州、青島和倫敦等地設置考點。任何人和機構，包括赫德自己都不能塞人進海關。

1864年7月29日，赫德與中國官員董恂和文祥有過一次有趣的對話，內容是漫談中國傳統文化中的“道德”。赫德回憶：“中國人說人性善，我們說人性惡。中國人寄希望于用教育養成規矩，我們則通過懲罰樹立法律和規章。 ”配合上述制度改革，赫德還進行工資制度改革。他認為，為使海關改革卓有成效，必須高薪養廉。但前提是公開透明，把海關關員的收入曬在陽光下。以華人為主的職務，工資雖然低于洋員，但相比當時中國的工資標準，幾乎是其他國家行政機關的兩倍。除基本年薪外，關員還享有年度獎金和福利津貼。在海關干得越久，待遇就越高，這無形中提高了他們參與腐敗的成本。

赫德不僅在海關實行高薪養廉，還把這一做法作為一項重要建議，推薦給清朝政府。當然，后者并沒有采納。高薪養廉的結果之一，便是海關經費的大幅增長。在赫德以前，廣東海關每年不過花掉一萬多兩銀子，但在他接任后，經費每年達3168000兩。赫德的理由是：“如果不給足夠的資金，就無法期望他們保持廉潔。 ”但清政府卻很痛快地批準了這個經費標準——中國官員們認為這些經費花得值：在赫德管理下，關稅收入迅速提高。 1861年，海關稅收是490余萬兩。僅僅十年后，就達到1100余萬兩。到1904年赫德離職時，已經達到30206504兩，是原先的6倍多。

同時，1861年海關稅收約占清政府財政收入的9%，到1887年，海關稅收已占到清政府財政的24.35%。清政府在瀕死的邊緣，從赫德主管的海關輸入大量新鮮血液，由此茍延數十年。英國人魏爾特在《赫德與中國海關》一書中記載：“赫德任期，中國海關人員的違法行為沒有超過五起。”1908年，清政府賞赫德尚書銜，并在他死后追封太子太保。這是外國人在清朝獲得的最高榮譽。