听说朱升很有学问，朱元璋就学刘备三顾茅庐，“微服从连岭出石门，亲临其室”。听说镇江的秦从龙学问很大，朱元璋特地派侄儿朱文正和外甥李文忠前去邀请，并特意远出南京城门迎接，安排他和自己住在一起，“事无大小，悉与咨谋”，“称先生而不名”。每年秦从龙生日，朱元璋“皆有赠遗，或亲至其家，与之燕饮，礼遇甚厚”。秦从龙感激得见人就流泪诉说朱的知遇之恩。
知识分子瞧不起他这个出身寒微的山大王，他也不以为忤，而是愈加低声下气。刘基“自以仕元，耻为他人用”，说什么也不肯出山。朱元璋叫处州总制孙炎派人力请，又叫刘的朋友陶安和宋濂分别赠诗劝说。软磨硬泡，终于把刘基请了出来。朱大喜过望，专门建了礼贤馆给刘基等人居住，跟刘基说话，从来都称“老先生”，在给刘基的信中这样开头：“元璋顿首奉书伯温老先生阁下”(《慰刘基书》、《谕刘基书》，《全明文》卷34)，语气恭敬虔诚得无以复加。
朱元璋的知识分子工作，做得确实太到位了。他的谦虚、热情、耐心、豪爽、推心置腹倾倒了大批文化人。知识分子纷纷说，“吾辈今有主矣”，死心塌地为他卖命。朱元璋的投入获得了百倍回报，最终独步天下。论者多以为，朱元璋的知识分子政策是他最终从群雄中脱颖而出的根本。方孝孺就说：“地大兵强，据名号以雄视中国者十余人，皆莫能得士;太祖高皇帝定都金陵，独能聘至太史金华公(宋濂)而宾礼之。”
建国之后，随着形势的发展，朱元璋的知识分子政策也发生了变化。开国之初，百废待兴，各条战线急需人才。为充实官僚队伍，朱元璋掀起了一次访求知识分子高潮。他继续以前的老办法，命人携带大量金钱分赴各地寻访人才。对知识分子还是坚持“给足面子”，嘱咐使臣们：“求贤之道，非礼不行……有司尽心询访，必求真材，以礼敦遣。”
不过，朱元璋这时的知识分子政策已由一手变成了两手。天下未定之际，读书人不出山他不硬逼。因为逼急了，这些人有可能跑到他的对手那里去。他只能摆出宽怀大度的样子，置之不问。如今天下已经姓朱，读书人无处可逃，所以对那些太不给面子的知识分子，朱元璋不再介意偶尔显露一下自己的獠牙。江西贵溪的夏伯启叔侄不愿在新朝当官，干脆把自己左手的大拇指砍掉，以示决心。朱元璋闻讯大怒，把夏伯启叔侄抓到南京，亲自审讯，枭首示众，全家籍没。苏州人姚润、王谟，同样因为“被征不仕”，“皆诛而籍其家”。
《明朝小史》更记载：“帝既得天下，恶胜国顽民，窜入淄流，乃聚数十人，掘一泥坑，特露其顶，而用大斧削之。一削去头数颗，名曰‘铲头会’。”就是说，他痛恨那些托身寺庙的遗民，将他们埋入地中，止露其头，用大斧削去，称为“铲头会”。
在朱元璋以前，虽然君权严重，士大夫阶层还是享有一定程度的人格独立。“山林隐逸”不但被宽容，甚至被尊崇。这是传统社会留给人们最后一块自由呼吸的空间，朱元璋却毫不犹豫地封杀了。他认为，这些拒绝与他合作的人必定是看不起他这个前乞丐。他发布命令：“率土之滨，莫非王臣。寰中士大夫不为君用，是自外其教者，诛其身而没其家，不为之过。”这就是所谓的“寰中士大夫不为君用”罪。天下是他朱元璋的天下，所有读书人都是仰他朱家的阳光雨露而活，不为他朱家服务，就是滔天大罪。
胡萝卜加大棒政策效果十分明显。天下知识分子再也不敢东躲西藏，都老老实实出来为新政权服务。大明王朝的官僚体系迅速建立，国家机器按计划有效运转起来了。到了晚年，朱元璋对知识分子大开杀戒。于是洪武朝的知识分子，遭遇了人类史上罕见的浩劫，上流精英几乎被一扫而光。虽然朱元璋越来越看不起知识分子，但他对知识分子的防范戒备心理却丝毫没有放松。起因是“士诚小人”这个典故。
洪武初年，因不满朱元璋的重文轻武，一位武臣对朱元璋大讲知识分子的坏处。他说，这些人心胸狭窄，嘴巴又刻薄，经常变着法地骂人：“读书人用心歹毒，特擅讥讪，如不警觉，即受其愚弄。”还说张九四(张士诚)原为优礼文人，请他们给自己改名，哪成想他们竟给他取名“士诚”。朱元璋说，这名字很好啊，有什么毛病?
武臣说：毛病大了去了。我的幕僚跟我讲，《孟子》上说了，士，诚小人也。这是骂张士诚小人啊!朱元璋听后，立即找《孟子》来查，发现果然有这句话。他不禁竦然而惊：张士诚也算半个君王，给人叫了半辈子小人，到死都不知道，真是可怜。无非是读书人欺负他盐贩子出身，瞧不起他，才敢这样捉弄他。而他朱元璋出身和尚乞丐，肯定更被他们瞧不起。从此朱元璋就开始对文臣们大起疑心，阅读奏章也多了个心眼儿。
朱元璋口口声声称自己是“淮右布衣”、“江左布衣”、“起自田亩”、“出身寒微”，显得十分豪爽坦率。但这些话只能他自己说，别人可千万不能说。实际上，做过乞丐与和尚一直是朱内心深处最大的一块伤疤，万万触碰不得。大明臣民其实谁也没有胆子也没有兴趣当着朱元璋提这壶水，但朱元璋却成天疑神疑鬼，防范过度，自己暗暗制定了一系列奏章“敏感词”。但凡“光”、“秃”、“僧”等与和尚沾边的字眼儿，都会犯他禁忌。因为是起义起家，所以也讨厌人提“贼”和“寇”。大臣们慢慢知道了他的忌讳，就不再用这些字，朱元璋却更不放心，总怀疑别人会更加拐弯抹角地骂他，遂将防区无限扩大，到了极为可笑的程度。比如“生”字，因为音近乎“僧”，在他看来就不怀好意;“则”字也很危险，因为“则”在淮西方言中发音与“贼”同。
因为这些秘密的敏感词儿，无数人人头落地。惨烈浩大的洪武文字狱，一方面反映了朱元璋的残酷，另一方面也反映了他在知识分子面前无法消除的深刻的自卑心理。