拉贝是迄今为止我们所知道的所有德国人中，对南京大屠杀做出最详尽记录的。《拉贝日记》从某种意义上说，是一部关于南京大屠杀的逐日编年史和百科全书，日军在南京每一种类型的罪恶几乎都可以在《拉贝日记》中找到对应的案例。作为国际安全区主席，他需要关心数十万难民的生计，需要日本方面哪怕表面性的最低程度的合作。而且，由于天天目击日军暴行，或看到有关报告，拉贝感到厌恶，他倾向于删除安全区官员报告中那些令人反胃的文字。施佩林在报告中提到：“赤身裸体的日本兵趴在一个年轻、漂亮的女孩子身上”，拉贝认为这样的句子应该删除，所以拉贝对于日军暴行的记述近乎超人地“平静”——在他的日记中几乎看不到形容词。
1937年12月13日，拉贝等将1000名放下武器的中国士兵安排在司法部大楼里，日军将其中的400～500名强行拖走杀害。拉贝“被这种做法惊呆了”。第一次的震惊很快被长期的噩梦所取代———日军将一个中国兵绑在竹床上杀害后扔在拉贝居所附近一直没有埋葬，在其后6周中，这具尸体成了日军对拉贝的一个威胁性提示，告诉他12月13日只是一个小小的开始。
果然，12月17日，拉贝记述道：16日夜仅安全区就有1000个女性被强奸；12月22日，拉贝记述道：在安全区的池塘里发现许多被枪杀的平民的尸体，其中一个池塘就有30具，他们大部分被反绑双手，有些人脖子上还挂着石块。下关发电厂的43名工人被押到江边枪杀，理由是该厂曾经是国营工厂。由于对下关至燕子矶一带的大屠杀并不知情，1月3日，拉贝诚实地记述到：有关6万中国人被俘或被杀的事，他并不知道，他担心有2000名放下武器的中国兵和数千平民被杀，他祈祷：“但愿就这么多了。”
然而，1938年1月7日，他记述道，1个妇女因全家其余17个亲人被杀，恍恍惚惚地在街上疯跑，另一个妇女的父母和3个孩子被杀，她用最后的钱买了棺木，日本人抢走棺木，并给出理由说：中国人不必被收殓。1月25日，他记述道，一个中国人给日本人干了一天的活疲惫地回到家中，妻子端上几碗稀饭，全家6口就指望着这顿饭，一个日本兵过来，在碗里撒了一泡尿，扬长而去。2月7日，拉贝等在西康路附近的两个水塘里捞出124具中国人尸体，都被日本人用铁丝反绑了双手，他们先被机枪扫射，后被浇上汽油焚烧，因为要节约汽油，日军将他们烧得半焦后扔进了水塘。
拉贝平静地说：“人们也许会认为，日本军队都是由释放出来的囚犯组成的，正常的人不会做出这等事来！”他同时为中国人的逆来顺受而痛心，但这种痛心也是平静的：“如果每起强奸案都能遭到致命的报复，那么相当一部分占领军早就被消灭了。”
拉贝终于因为无休止的苦难而身心疲惫，他希望脱离南京这个让人类对自己的同类失去信心的悲剧舞台。回国前夕，金陵大学难民收容所3000妇女哭喊着包围了拉贝的汽车，他默默地下了车，径直步行离开他担任主席的国际安全区。
乘英国“蜜蜂”号炮艇离开时，他将一位一直隐匿在他家的中国空军机长伪装成自己的仆人带出了南京。