公元前99年，司马迁为投降匈奴的李陵说了句公道话，结果触怒了汉武帝，遂遭受了当时最屈辱的宫刑。
司马迁受刑之后本想一死了之，但想到自己多年搜集的资料和父亲的遗愿，他决心忍辱负重，终于于公元前91年完成《史记》，光耀后世。
几年后，汉武帝改元大赦天下，司马迁出狱后当了中书令，在一般人看来，这似乎是一个令人艳羡的职位。因为一旦身任此职，即得以掌管机要文书，成为皇帝身边的亲近侍从。然而，司马迁却始终怀着一种刻骨铭心的耻辱感，把中书令一职视为“闺阁之臣”，不但丝毫不以此为荣，反而以为是莫大的羞辱。
因此，自任职以来，除应付必要的公务外，他息交绝游，集中心思和精力写作《史记》，也只有这项事业才是自己生命价值的真谛之所在。
正是在这种心境之下，司马迁收到了任安的来信。这封信使司马迁极为不快。他万没想到这位朋友的精神境界竟然如此低下，和一般凡夫俗子的看法毫无二致。他对司马迁在受刑之后得居中书令之职，不胜欲羡之至，而且要求他以“推贤进士为务”，对朝廷竭尽忠心。
任安写此信的确切日期，已经无从考证，假若是在他因“庆太子之祸”而身陷牢狱之后写的，那么，他的信中可能还有这样一层意思：要求司马迁向武帝进言，劝其为国惜才，从而赦免自己的死刑。这与司马迁此时的心情和思想是多么格格不入。
第一，司马迁对于自己以“刑余之人”的身份担任中书令一职本来就是感到耻辱的，以这样的身份给朝廷荐举人才，对被荐举者也同样是一种耻辱。何况受刑之后的司马迁对专制暴君的认识已日益清醒，早已不愿为之竭尽愚忠了。
第二，任安是一位能干的官员，他被判处死刑，纵不算是负屈蒙冤，至少也是罚过其罪。但是，司马迁义怎么能够在武帝面前为之开脱呢?“李陵之祸”的教训难道还不够沉痛吗?这倒不是说司马迁为了保全自己的身家性命，不敢替朋友辩白，而是通过那次事件，他对武帝刚愎暴戾的性格有了清楚透彻的了解：凡是他决定了的事情，任何人都无法改变。
基于上述原因，他对任安的来信久久不曾作答，可能原来就准备采取不予理睬的态度。后来任安即将引颈就戮，死于武帝的屠刀之下。司马迁考虑到他的这种遭遇跟自己当初有某种近似之处，能够体谅他此时的心境和思想，于是提笔挥就一封《报任安书》。
《报任安书》和《太史公自序》，都是我们了解司马迁思想发展的极其宝贵的可靠资料。当然，这两篇东西还是有着很大的差别的：
《自序》着重叙述自己的家世和生平事迹，对于自己修史的宗旨虽然有所说明，但多有隐晦，对“李陵之祸”只用了不多的语言交代过去。其小心翼翼，说明其在忧患之中，时时以古哲先贤来激励自己，发愤着书，借以启示后人。
《报任安书》则是一篇饱蘸着血泪流出的充满炽烈激情的文字。它详叙了“李陵之祸”的始末，辩明了其间的是非曲直，申诉了自己所蒙受的冤抑。这是在辩白，在控诉，在宣泄，在抒发长久郁积胸中的愤隙不平之情。
其文笔酣墨畅，滔滔若江河之水，一泻千里，淋漓尽致，是了解司马迁在遭受“李陵之祸”前后思想感情重大变化的最重要的材料。
顺便说一句，此信当时未必真正送给了任安，可能一直保存在家里，直到宣帝时才由其外孙杨恽连同《太史公书》(即《史记》)一起传布出去，后来被班固收入《汉书·司马迁传》中。
“李陵之祸”是司马迁生平中最为重大的事件，对他的思想发展变化产生了极其重大的影响。《史记》的写作虽然开始于“李陵之祸”发生之前，而全书的完成则是在此事之后。而且，有充分的根据可以推断，即使原先已经写成的篇章，也在“李陵之祸”以后重新修改或加工润色了。因此，可以说“李陵之祸”对于《史记》一书的整个思想倾向都产个了极大的影响，打下了深深的烙印。
同样的遭遇，同样的祸患，在不同的人身上会产生不同的甚至是完全相反的影响。对于一个平庸的人，悲惨的命运会摧毁他的精神，使之意志消沉，自甘沦落;对于一个利欲熏心的人，受刑之后，而又受到重用，他会感恩戴德，变成一个更加卑躬屈膝、温驯忠心的奴才。
司马迁在精神上、性格上、思想上都是一个傲岸不屈、不可摧毁的巨人。在当时的情势下，他不可能在行动上反抗那强大而残暴的统治力量。统治者可以损伤他的肉体，但却无法征服他的思想，战胜他的精神。而且，经过此次事件，使他的思想更加成熟深刻了。他重新审视了自己过去的人生观、世界观和对统治者的态度，思想发生了重大的变化。“李陵之祸”是司马迁思想转变的契机。