“公元前145年”及“龙门”的启示暂且按下不表，当作伏笔。那么，先来看看司马迁的家世。
首先引起人们兴趣的，该是他的姓——“司马”，说明姓氏的源流，那是个很困难的问题，只能说，中国到了周代，由于人口繁衍渐多，原有的单纯封建制度无法适应社会需要，于是由姓演化出氏族系统来。姓是原始族号，氏就是它的分支，最初也是由分封而来。有以官职为氏的，也有以封邑为氏的，司马就是以官为氏，司马是官名，掌管军事。
司马迁对司马氏的起源，在《史记》的自序中曾有所叙述，但留下了不少问题，他的家族谱系也很难追踪。粗略地说，他的老祖宗虽然是个管军事的官儿，但后来不知到哪一代改行，做周朝王室的太史了，后来逐渐分散到各诸侯国，那就各行各业都有了。
秦国的司马错，是司马迁比较早而可信的一位祖辈，大约早他一百八十年，是那位一上台就杀死商鞅的秦惠王手下的大将。他曾经和主张连横的张仪，为了攻打韩国还是攻打在今四川成都一带的外族小国蜀国的决策问题上，在秦惠王面前展开辩论。张仪认为攻打韩国可以乘机胁迫邻近的周王室，然后可以挟天子以命令天下的人遵从秦惠王的号令，是进行王业非做不可的一步。司马错则认为“欲富国者，务广其地；欲强兵者，务富其民”，而且挟持天子，会引起六国的反感，正好可以作为他们的借口以合力对付秦国。因此，他主张伐蜀，不但有具体的经济利益，而且不会引起六国的注意。
这个有远见的论调，当场获得秦惠王的同意。就在那个时候，蜀国正好和在今重庆一带的另一小国巴国相互攻击，于是司马错轻易地把蜀国消灭并吞掉了它的土地。司马错可以说是汉族经营四川的第一个人。他在劝秦惠王攻打蜀国的时候曾提出了“拔一国而天下不以为暴，利尽西海（此处代指蜀国）而天下不以为贪”的经济策略，后来秦国能够兼并六国，他这个富国以强兵的经济策略也占有一些功劳。司马错就是司马迁的九世祖。
司马错以后，人们现在所能知道的，有司马错的孙子司马蕲，他是曾在长平之役坑杀了赵国四十万士卒的秦国大将白起的部下，长平之役他也参加了。也许是因为与白起的关系相当密切吧，所以后来白起高呼“我何罪于天，而至此哉”被秦昭王赐死时，司马蕲也陪着被赐死。
司马蕲的孙子叫司马昌，曾在秦始皇的政府担任相当于现在矿务局长的官，主管铁矿事务。
司马昌的儿子，也就是司马迁的曾祖父，叫司马毋怿，他做过“汉市长”，所谓“汉市”，有人说是地名。“长”呢？秦汉的县官，治理万户以上的叫“令”，万户以下的叫“长”。这么说来，他就是个县太爷。可是另外还有个说法，说长安城内有四个市（市场），他是这种“市”的市长。不管怎么说，他是个公务员，官不大。
司马迁的祖父叫司马喜，他似乎没做过什么特别的事，司马迁只说他曾获得下“五大夫”的爵位。接下来，就是司马迁的父亲司马谈。
整个看起来，他可知的祖先，除了司马错曾经有过显著的功劳以外，其余大都是中下级的官吏。他们是司马氏离开周朝王室以后奔向秦国的一支，世居龙门一带。说起来，他的祖先成了秦人以后，似乎没有重操他们更老的祖宗在周王室担任史官的事业，一直到他的父亲司马谈，才又重操旧业。