在洪武时代做官成为一个名副其实的高危职业，“京官每旦入朝必与妻子诀，及暮无事，则相庆以为又活一日”。对贪污官员，朱元璋毫不手软，除恶务尽，宁可错杀一千，也绝不放过一个，所以一件贪污大案到后来竟演化出无数冤狱。其中，最典型的就是“空印案”和“郭桓案”，被牵扯到这些案件中的人，毫不留情地都被杀了。
但朱元璋也知道，一味地杀戮并不能解决问题，也很注意对官员的思想教育。在地方官员上任之前，他都要找他们进行诫勉谈话，讲如何抵御贪污受贿的诱惑。他说，老老实实守住自己薪俸过日子，就好像守住井底之泉。井虽不满，却可以每天汲水，泉水不会干。贪污腐败，一旦事发，不仅受牢狱之刑，服劳役之苦，甚至家破人亡，贪污受贿得来的钱财也非属已有。他告诫官员们：“朕行先教后诛，不是不教而诛。尔等若是不听话，硬是要贪，那就只有死路一条了。”
此外，朱元璋鉴于元朝法律的“宽纵废弛”，就在正式建国的前一年，命中书省以唐律为蓝本，制订《明律》。以后又根据新的情况和实践经验多次进行修改，洪武三十年(1397)重新颁布的《大明律》，对反贪腐的条令规定的既简明，又严厉。除了《大明律》外，还有他在洪武十八年至二十年间亲自主持编订《大诰》。《大诰》是一部律外法典，共四编。《大诰》在洪武年间共印行数千万册，每户一本，“家传人诵，得以惩戒而遵守之。”洪武二十五年，又编《醒贪简要录》，颁布全国以警诫官员。
《大诰》一名，原出于《尚书》，记叙了周公东征殷商遗民对臣民的训诫。朱皇帝以此为法典名称，当是取其惩治奸顽、予以训诫之意。在朱元璋亲自为《大诰》起草的序言中，言明其法典宗旨是为挽救颓废的时势，将害民之事理昭示于天下，并以法律约束诸司，防止官员贪赃酷虐于民。正是为此，《大诰》赋予百姓们捉拿污吏的权力。此外，朱元璋在午门外特设“鸣冤鼓”，民间百姓若有冤情在地方讨不回公道，可上京击鼓直接告御状。
为了掌握官员贪腐的证据，朱元璋还加强了监察机构的建设。洪武六年(1373)，朱元璋创立“六科给事中”机构，对应监察“六部”官员。给事中品级仅七品，但是权力很大，六部上行下达的文件均要经过给事中，并且由给事中负责提出驳正意见，皇帝交派事务由给事中负责督办，一旦迁延即奏报皇帝。洪武十五年(1382)，朱元璋进一步改革中央监察机构，设立“都察院”取代御史台，都察院最高官员都御史与六部平行，合称“七卿”。都御史直接向皇帝负责，考察弹劾百官。都察院下设十三道监察御史，任命110名监察御史，分管十三道。御史不定期代皇帝巡查地方，“所按藩服大臣，府州县官诸考察，举劾尤专，大事奏裁，小事立断”。都察院和六科之外，朱元璋又建立了锦衣卫，在各地均有眼线，监督官员及百姓做到了无孔不入。这些监察机构相互之间并不统属，还有互相监督的功能，以防滥用权力，形成了一个多层次、全方位的监督体系。