1970年，陈伯达精神抖擞地上了庐山，不久，他又愁眉苦脸地下了庐山，其原因，当然是在中共中央九届二中全会上，陈伯达为了帮助林彪抢班夺权而鼓吹天才论，主张设国家主席，挨了毛泽东的批。
就是在那次会上，毛泽东写了《我的一点意见》，矛头直指陈伯达，把陈伯达比作“号称懂得马克思，实际上根本不懂马克思”的人，说他“欺骗了不少同志”，形容陈伯达在庐山的活动是“采取突然袭击，煽风点火，唯恐天下不乱，大有炸平庐山，停止地球转动之势”。中共九届二中全会宣布对陈伯达进行审查。此后，中央在全党展开了“批陈整风”运动。这次庐山会议，使陈伯达从人生高峰跌落下来，这位原来的中共第四号领导人不再露面了。
但是，一开始，毛泽东对陈伯达只是认定他是“假马克思主义者，野心家，阴谋家”。毛泽东搞“批陈整风”的目的，也是为了使全党弄清什么是唯物主义反映论，什么是唯心主义先验论。当时，毛泽东对这位从延安时起，就一直当自己第一号政治秘书的“老夫子”(毛泽东经常这样称呼陈伯达)，还是想保一保的。正是基于这一想法，毛泽东在庐山上，就应陈伯达的要求，见了陈伯达，和他谈了一次话。
谈话气氛很轻松。毛泽东一见陈伯达的面，就先开口批评陈伯达说，你这两年总是躲着我，也不来看一看我，你陈伯达的官做大了，有架子了，不再自己动笔写文章了，总是动一动嘴，让手下的人写，这样下去，能不出修正主义吗?毛泽东说这些话的出发点和真正打算，还是想批陈又保陈，毛泽东是善意对待陈伯达的。谈话中，陈伯达向毛泽东作了检查，说自己宣传天才论，是错误的，主张设国家主席，也错了，自己没有听主席的话，犯了大错误，自己一定认真检查。
当时，毛泽东内心已经十分清楚陈伯达和林彪搞在了一起。他是想让陈伯达从此“刹车”，不再和林彪一起搞小集团活动。因此，毛泽东对陈伯达说，你要找康生、江青他们谈谈，接受他们的批评，和他们“团结起来”。毛泽东还让秘书给康生打电话，谈了他的意见，并且让康生通报给江青。毛泽东是为陈伯达着想，真心想拉他一把。对此，陈伯达也感觉到了。
陈伯达从心里不愿意和康生、江青他们谈。但为了过他们这一“关”，只好在第二天硬着头皮去江青的住处。江青一见陈伯达，就对他冷嘲热讽。然后把陈伯达领到了康生那里。张春桥、姚文元已经在康生那里等着批陈伯达了。他们表情冷漠，康生更是“一脸原则”的样子。陈伯达刚坐下，他们就接连发言，对陈伯达轮番轰炸。陈伯达向他们作了检查，并且表示要写一个书面检查，交给全体中央委员，请大家批评。康生帮助陈伯达写了检查稿。这份检查稿上的“纲”很高，把问题说得十分重。康生交给毛泽东看，毛泽东不满意，认为没有必要上那么高的“纲”。
陈伯达写了检查，但江青和康生他们还是不放过陈伯达。他们在背后又搞了一个关于陈伯达历史和现实问题的材料。他们的用心，就是要把陈伯达搞垮搞臭，置于死地。这些材料的历史部分，认定陈伯达是国民党特务、叛徒、托派。这些材料上报给了毛泽东。
不久，陈伯达的问题被升级了。1971年上半年，陈伯达的问题被“扩大传达”至全国基层党组织，陈伯达也被定性为国民党反共分子，混入党内的特务，一贯跟随王明、刘少奇反共。1971年“九一三”事件之后，陈伯达的问题被进一步升级。他被定性为国民党反共分子、托派、叛徒、特务、修正主义分子。原来陈伯达只被禁闭在家里，“九一三”事件之后，陈伯达被押送到秦城监狱。陈伯达一见关押自己的牢房中的情况，知道自己凶多吉少，便向看押人员高声喊叫道：“我不是国民党特务，我在阜平做过一件好事，请你们转告毛主席。”
当时在场的人谁也不知道陈伯达说这些话是什么意思，便逐级上报给毛泽东。原来，1948年，毛泽东曾住在河北省阜平县的一个小村庄里。毛泽东的行踪被国民党特务侦知，国民党派飞机来轰炸毛泽东的住所，被陈伯达等发觉，他急忙跑到毛泽东住处去叫毛泽东转移，使毛泽东幸免于难。1971年陈伯达的这一声高叫，就是叫给毛泽东听的，就是向毛泽东提起历史上这件事。他认为，毛泽东听到汇报后，就会回忆起往事，心中就会明白：如果陈伯达是国民党特务，在那个时候，是肯定不会去救自己的。
陈伯达想对了。他情急之下这一声高叫，不仅救了自己一命，也改变了他后半生的命运。后来，全国性的政治运动从“批陈整风”转向了“批林整风”。批判陈伯达的文章在全国性的报刊上逐渐少了。陈伯达虽然仍被关在秦城监狱，但他的生活待遇却是很好的。监狱方面让陈伯达一个人住在一座楼的整个三层，在三层内，他可以自由走动。给他安排的伙食很好，有书报看，还允许工作人员替陈伯达从家里拿一些书籍到秦城监狱里来看。在外面，批判陈伯达的风潮逐渐平静下来了，陈伯达的心情也平静了下来。实际上他已经处于一种隐居状态。
陈伯达一直认为，批判他的鼓吹天才论、并且在全国掀起“批陈整风”运动的毛泽东，是一位伟大的天才人物。他还说，我是永远感念毛主席的，就个人关系而言，是毛泽东发现了他，把他调到身边当第一号政治秘书长达三十多年;毛泽东曾经对他十分信任，交给他很重的工作担子，给他以主管全国意识形态的权力;是毛泽东提拔了他，使他从一个文人，成为中国共产党中央政治局的常委……
保外就医后的晚年生活
党的十一届三中全会后，中央决定重新审理林彪、江青两个反革命集团的案件(简称“两案”)。在重新审理中，对于如何处理林彪、江青反革命集团成员的问题，党中央采取了慎重的态度。当时，在党内有三种意见，一种是，对这两个反革命集团的主要成员中罪大恶极者，应当处以死刑;一种是，把他们当做政治犯，不予审判;一种是，他们既然触犯了国家法律，就应该公审，但对他们应该实行一个不杀的方针。当时的中共中央领导人采纳了最后一种意见。
“两案”中，陈伯达是个特殊人物。他在“文化大革命”中陷害了一些人，又参与了林彪反革命集团的活动，是这个集团中的主犯。但是，他是个文人，又在1970年就被隔离审查，没有参与林彪集团后来搞的政变和谋杀等活动。林彪自我爆炸后，他已经被关进秦城监狱，没有参与“四人帮”的反革命活动。因此，他的问题有特殊性。但是，他毕竟是林彪集团的主犯，在“文化大革命”中也犯有罪行。而且，林彪、叶群已死，陈伯达就成了林彪集团中的头一号主犯，当然要对他进行公审。
1980年，经最高人民法院特别法庭公审，判处陈伯达有期徒刑18年，判决执行以前羁押的日期，以羁押一日折抵刑期一日。这样，从陈伯达1970年10月被关押算起，他实际上还有8年刑期。
当时在中央主政的邓小平、胡耀邦，了解到毛泽东对陈伯达的态度，认为毛泽东这样处理是对的，后继者应该照样处理。于是，他们对陈伯达继续采取了毛泽东实行的优待政策，不仅保持了对陈伯达同以前一样好的生活待遇，而且，判决之后的第二年，即1981年8月，陈伯达就获准保外就医。
陈伯达在获准保外就医后，政府把他安置在一座新楼顶层的一套三居室的房子里，把他原在河北省工作的一个儿子一家三口调进北京，与陈伯达生活在一起，照顾陈伯达。陈伯达的卧室大约有十几平米，整洁而简朴，地上铺着地毯，两个大书柜里放满了书。他订有《人民日报》、《参考消息》、《北京晚报》等报纸，每天读报很仔细，可见很注意国内外形势。陈伯达的一个当年只有7岁的小孙子，常到陈伯达的房间去，给陈伯达的晚年生活带来了欢慰。陈伯达晚年的视力和耳朵都还可以，他每天晚上必看电视新闻节目，也看电视里播的京剧或古装故事片。陈伯达几乎足不出户，而是关起门来专心读书。他煅炼身体的惟一方法就是练书法。陈伯达晚年生活俭朴，总是穿着铁灰色的中山装，戴一顶藏青色的干部帽。冬季屋子里有暖气，他也要穿厚厚的衣服。工作人员经常来看他，问他有什么需要，但陈伯达从不提任何要求。
保外就医后，党和政府除了对陈伯达的生活给予优待外，还曾经请他做一些研究工作。当时的中共中央领导人胡耀邦曾经提出：陈伯达已经保外就医，他学问好，研究能力强，应当发挥他的这个专长，安排他为中央做一点研究工作。我们现在的改革和建设，遇到很多问题，需要研究，让陈伯达搞一点研究，研究出来的成果，我们可以参考。当时，中央领导人都赞成这个意见。于是，胡耀邦就对邓力群说：你过去和陈伯达一起工作过，和他较熟，可由你代表中央去和陈伯达谈一谈这个意见，征求一下陈伯达的意见。几天后，邓力群和几个人一起约陈伯达来，谈了中央的这个意见。陈伯达愉快地接受了这个任务。
从那以后，陈伯达更关注国内外的一些重大问题了，他读的书也多为新近出版的中外政治理论书籍，他思考的重点，也转向了现实问题。陈伯达爱读书，爱研究。此后，他每天起床，吃过饭后，便读书，研究资料，写作。他像一架机器一样，又转了起来。陈伯达过去就有思考问题严密、下笔慎重、文笔老到的特点。现在他写作时仍然保持了这个特点。当时，陈伯达的身体状况还可以，头脑也清晰，研究问题也比较深入。他勤于动笔，把研究的心得写成文字，由工作人员交给中央。中央把这些研究成果印出十几份，有的用8开大纸印，有的用16开纸印，有的标明作者陈伯达的名字，有的没有标作者名字，发给中央领导人参考。
晚年的陈伯达先后提交给中央的研究成果主要有：《试论一下日本的“生产率运动”》、《试说社会主义农业的若干问题》、《美日两国垄断资本的角逐和两国的“精神危机”》、《关于日本垄断资本主义的点滴》、《评美国人的两本书——“大趋势”和“第三次浪潮”》、《农业合作化的若干材料》、《“电子学革命”的公开战秘密战》、《黑格尔反对绝对……》等等。
在这些研究成果中，关于“电子学革命”问题，是陈伯达早在1958年就精心研究的课题。毛泽东当时也对陈伯达的这个研究成果给予肯定。当20世纪80年代初，陈伯达又捡起这一课题继续研究时，西方的高科技革命已经发展起来，信息技术、生物技术、空间技术突飞猛进，而中国在这方面还处于落后状态。陈伯达在新的研究成果中提出：中国要加强研究力量和投入，吸引西方先进技术，用较短的时间在高新技术方面赶上西方发达国家，这样中国就不愁在生产力和经济力上赶不上西方发达国家了。他的这些见解，在21世纪的今天看来，也是有价值的。陈伯达的这些研究成果，大多都送给中央领导参考了。
1988年10月，早已保外就医的陈伯达刑满，一位公安部副部长专门给陈伯达举行了获释仪式。当时陈伯达因患前列腺肥大症住院，仪式就在医院里举行，公安部副部长向他宣布：今天是你服刑18年的期满之日……那一年，陈伯达88岁。
陈伯达一直认为，批判他的鼓吹天才论、并且在全国掀起“批陈整风”运动的毛泽东，是一位伟大的天才人物。他还说，我是永远感念毛主席的，就个人关系而言，是毛泽东发现了他，把他调到身边当第一号政治秘书长达三十多年;毛泽东曾经对他十分信任，交给他很重的工作担子，给他以主管全国意识形态的权力;是毛泽东提拔了他，使他从一个文人，成为中国共产党中央政治局的常委……
“我对自己的过去是自责的”
晚年的陈伯达十分敬仰毛泽东，他常说，毛主席确实英明、伟大，他是个民族英雄，他在中国历史上的贡献是前无古人的。陈伯达一直认为，批判他的鼓吹天才论、并且在全国掀起“批陈整风”运动的毛泽东，是一位伟大的天才人物。他还说，我是永远感念毛主席的，就个人关系而言，是毛泽东发现了他，把他调到身边当第一号政治秘书长达三十多年;毛泽东曾经对他十分信任，交给他很重的工作担子，给他以主管全国意识形态的权力;是毛泽东提拔了他，使他从一个文人，成为中国共产党中央政治局的常委;在三十多年中，毛泽东给了他很大教育;是毛泽东引导他研究中国现实政治问题，他才能写出《评“中国之命运”》、《人民公敌蒋介石》、《中国四大家族》等著作;是毛泽东的教导，才使他稍微懂得中国革命的某些道理;在毛泽东的帮助下，他才有了一些研究的条件和成果。他把自己当做毛泽东的一个“小学生”。他说，我这个“小学生”后来犯了大罪，不成器，是怪我自己没有走好路，不能怪先生。他对毛泽东和周恩来在林彪自我爆炸后能保护他，使他得以保全生命，免遭“四人帮”的毒手，更是十分感激。他说，没有毛泽东和周恩来的保护，我可能早就没命了。
陈伯达晚年对自己的一生进行了深刻的反省，总结了自己的教训。他经常真诚地说：我是犯了大罪的人，我对自己的过去是自责的。他对党和政府在他晚年能给他较好的生活条件由衷感谢。陈伯达晚年曾写过一幅字：“往者不可谏，来者犹可追”。这幅字，充分体现了陈伯达在80年代的心境。
陈伯达于1982年5月写了《求知难》一文，投到《读书》杂志上。陈伯达发表此文用的笔名是“纪训”，意思是记取教训的意思。当年的《读书》杂志全文发表了《求知难》。陈伯达的这篇文章，是他总结自己一生教训之作。他在这篇文章中，把人比喻为一个求知者，而求知是很难的。他均以《西游记》的故事为例来谈他的认识。从他对求知者必经的诸多苦难的认识来看，他对自己的罪行还是认真反省的，而且，他虽然已是暮年，却努力改过自新，把自己当做一个求知者。
1989年9月，陈伯达在北京病故。香港和台湾的报纸首先报道了陈伯达病故的消息。陈伯达的遗体被送到八宝山火化。据在现场的陈伯达过去的一些部下讲，火化时，没有讣告，也没有悼词，但耐人寻味的是，他的遗体被安放在了按惯例只安放病故的高级首长遗体的第一告别室，他的遗像也挂在那里。有40多位他的亲属、老朋友、老部下、学生，前来为他送葬。