退功臣进文吏。光武帝死后，汉明帝追思前朝元勋，命人把邓禹、吴汉、贾复等追随光武帝刘秀南征北战、为东汉王朝的创建立下赫赫战功的二十八位将帅的肖像绘在南宫云台，随时瞻仰。这就是流传后世的“云台二十八将”，又称“中兴二十八将”。后人附会，说他们是天上的二十八宿下凡。
如何安置开国功臣，是每一个新兴王朝都必须面临的问题。二百年前，汉高祖刘邦建立西汉之初，萧何、曹参、陈平等草莽元勋出将入相，布列朝堂，演绎了一段“布衣卿相”共掌天下的历史大戏，但同时也因诛除韩信、彭越、英布等有功将帅而留下了杀功臣的恶评。光武帝采取了截然不同的做法。重量级的开国元勋，得到了高爵、厚赏，还有特进、朝请之类的荣誉性特权。但是除邓禹、李通、贾复三人可以参议国家大事之外，其他人基本上退出了国家权力中枢，不再参与国家管理。
对于这样的处置，元勋们是否甘心，我们不得而知。史书上说，功臣“皆保其福禄，无诛谴者”。在中国历史上，前有汉高祖刘邦，后有明太祖朱元璋，都因诛杀功臣而受到后世诟病。能够像光武帝这样优容功臣而君臣相安者，大概只有宋太祖赵匡胤了。故王夫之赞叹说，“三代以下，君臣交尽其美，唯东汉为盛”。
建武十五年（39年）冬，朔风凛冽，一派肃杀景象。洛阳南宫司马门外，上千名儒生跪伏在冰冷的地上，哀求朝廷对有罪在身的大司徒欧阳歙从轻发落。有人竟然剃掉了须发，愿意代为受过。但是，一向对儒学之士优容有加的光武皇帝，这次却是冷若冰霜。他不顾众人的求情，拒绝赦免大司徒。不久，欧阳歙死在狱中。
欧阳歙，字正思，既是权势显赫的朝廷三公，又是世代传授《尚书》、弟子遍天下的著名学者。八世博士，学为儒宗，在当时称得上是“国宝级”的儒学大师。他曾经担任汝南郡太守，没有很好地执行朝廷的“度田”政策，还暗中贪赃千余万。升为大司徒之后，东窗事发，被绳之以法，官位和舆论都没能挽救欧阳歙的性命。
“退功臣而进文吏”，是光武朝最核心的人事政策。“退功臣”，可以保护功臣，更有助于杜绝权臣。“进文吏”，便于把优秀人才吸引到官僚队伍中，更便于皇帝总揽权纲，统御臣工。扩大和维护专制皇权，才是这个政策的核心价值所在。
中国社会科学院历史研究所研究员邬文玲分析：“退功臣而进文吏”是光武皇帝为调整国家统治权力结构、强化皇权而采取的一项重要的措施。所谓的“退功臣”就是解除功臣的权力，尤其是他们的兵权，降低他们的政治地位；所谓的“进文吏”就是指进用懂得治国安民之术和封建典章制度的一些文人儒士，作为官僚机构的中枢，任用他们担任要职治理国家。光武帝通过这一项措施，最终实现了向文治的转变，确立了一整套以文官为中心的体制，这是光武帝给后世留下的宝贵财富。
光武帝以“柔道”治国，却以铁腕治吏。无论是掌权的尚书，还是虚位的三公，一旦有过错或者不合皇帝心意，往往会受到严惩。尚书官员经常被拖到皇帝面前捶扑鞭打，毫无体面可言。朝廷选拔的临民之官，也多为行政风格苛严之人。史书上说，“光武承王莽之余，颇以严猛为政”。
春秋时期齐国的大政治家管仲曾说：“治官化民，其要在上。”意思是说，管理官吏，教化民众，关键在于君主。这是人治社会的铁律。
光武帝善于御下，也比较注意约束权贵，以身作则。据《后汉书》记载，洛阳令董宣，号称“卧虎”，是有名的酷吏。他还有个绰号“强项令”，意即“硬脖子县令”。湖阳公主的奴仆在光天化日之下行凶杀人，躲藏在公主府中，执法官吏无法抓捕。有一天，该奴仆为公主驾车外出，被董宣抓获，就地处死。湖阳公主恼羞成怒，向光武帝哭诉告状。光武帝准备用杖刑处死董宣，董宣不服，申辩一番后以头撞柱，头破血流。光武帝不忍心杀他，让他向公主叩头道歉，董宣不肯。两个侍从架着他，强摁他俯身，董宣两手撑地，就是不肯叩头。公主无可奈何。光武帝赐给董宣三十万钱，奖励他的刚直不阿行为。
《后汉书· 酷吏传》中记载的董宣、樊晔、李章，都是光武帝时有名的酷吏。开国之初就任用酷吏，这样的现象历代少见。这些酷吏多数都能够善始善终，同样是罕见的事情。光武帝刚猛治吏的政治风格，一直延续到后来的明帝、章帝时期，前后数十年，开创了东汉历史上最值得称道的吏治清明时代。