司马迁出生在黄河岸边的龙门。他从小看着波涛滚滚的黄河从龙门下呼啸而去，听着父老乡亲们讲述古代英雄的故事，心里十分激动。父亲司马谈是汉朝专门掌管修史的官员，立志要编写一部史书，记载从黄帝到汉武帝这两千六百年间的历史。受父亲的影响，司马迁努力读书，大大充实了自己的历史知识。
为了搜集史料，开阔眼界，司马迁从二十岁开始，就游历祖国各地。他到过浙江会稽，看了传说中大禹召集部落首领开会的地方；他到过长沙，在汨罗江边凭吊爱国诗人屈原；他到过曲阜，考察孔子讲学的遗址；他到过汉高祖的故乡，听取沛县父老讲述刘邦起兵的情况……这种游览和考察，使司马迁获得了大量的知识，又从民间语言中汲取了丰富的养料，给司马迁的写作打下了重要的基础。
以后，司马迁当了汉武帝的侍从官，又跟随皇帝巡行各地，还奉命到巴、蜀、昆明一带视察。
父亲司马谈临终之时，泪流满面地拉着儿子的手说：“我死之后，你千万不要忘记我平生想要完成的史书哇！”司马迁牢记父亲的嘱托，每天忙着研读历史文献，整理父亲留下来的史料和自己早年走遍全国搜集来的资料。
正当他专心致志写作《史记》的时候，一场飞来横祸突然降临到他的头上。原来，司马迁为了替李陵辩护得罪武帝，下了监狱，受了刑。司马迁悲愤交加，几次想血溅墙头，了此残生。但想到《史记》还没有完成，便打消了这个念头。他想：“人总是要死的，有的重于泰山，有的轻于鸿毛。我如果就这样死了，不是比鸿毛还轻吗？我一定要活下去！我一定要写完这部史书！”他又想：“从前周文王被关在羑里，写了一部《周易》；孔子周游列国的路上被困在陈蔡，后来编了一部《春秋》；屈原遭到放逐，写了《离骚》；左丘明眼睛瞎了，写了《国语》；孙膑被剜掉膝盖骨，写了《兵法》。还有《诗经》三百篇，大都是古人在心情忧愤的情况下写的。这些著名的著作，都是作者心里有郁闷，或者理想行不通的时候才写出来的。我为什么不利用这个时候把这部史书写好呢？”想到这里，他尽力克制自己，把个人的耻辱、痛苦全都埋在心底，重又摊开光洁平滑的竹简，在上面写下了一行行工整的隶字。
就这样，司马迁发奋写作，用了整整十八年时间，在他六十岁时，终于完成了一部五十二万字的辉煌巨著——《史记》。这部前无古人的著作，几乎耗尽了他毕生的心血，是他用生命写成的。
司马迁出了监狱以后，担任中书令。后来，终于郁郁不乐地死去。但他和他的著作《史记》在我国的史学史、文学史上都享有很高的地位。