司马迁长到5岁时，发生了一件大事情。大汉天子去世了，当时年仅16岁的皇子刘彻登基做了皇帝，他就是汉武帝。
农家的孩子懂事早。司马迁和镇上的同龄男孩一样，赶着家里的耕牛，到野外放牧。芝川的田野，可以北眺龙门，东望黄河，联系到一些美好的传说，少年的司马迁，引起多少幻想啊！他喜欢在赶牛出去时，往牛背上搭一册刻了字的竹简。当牛安静自在地吃草时，其他的牧童在玩游戏，司马迁却在草地上摊开竹简，取一根树枝，照着竹简上的字，在地面上描画。
◎竹简：削制而成的狭长竹片（也有术片），竹片称简，木片称札或牍，统称为简，现在一般说竹简。古代没有纸，字就写在竹简上，竹简是战国至魏晋时代最主要的书写材料。
放牛的伙伴感到很奇怪，围拢来看他在地上画什么古怪的图画。
司马迁对他们说，他是在练习写字，等竹简上的汉字都会念会写，就可以读整篇文章了。说着，他便点着地上的字教伙伴们读，像日、月、山、川、牛、羊、虫、鱼等。伙伴们见他在识字写字，觉得他很了不起，因为那时候，一般的庄稼汉。很少有识文断字的。
大家玩累了。便坐下来听司马迁讲一些从他父亲那儿听来的故事，那些故事经过司马迁的加工，伙伴们听得津津有味。司马迁懂得很多，这群孩子都很佩服他，也很羡慕他。当然，司马迁和伙伴们的关系也很好。有时候他练字太入神了，牛吃着草走远了也没有发觉。一些伙伴就悄悄地帮他把牛赶回来，不让他家的牛走失。
一天，快吃晚饭了，父亲把司马迁叫到眼前，指着一本书说：“孩子，近几个月你一直在外放羊，没工夫学习，我也公务缠身，抽不出空来教你，现在趁饭还没熟，我教你读书吧！”司马迁看了看那本书，又感激地望着父亲，说：“爸爸，这本书我读过了，请你检查一下，看我读得对不对。”说完，把书从头至尾背诵了一遍。
听完司马迁的背诵，父亲感到非常奇怪。他不相信世界上真有神童，不相信无师自通，也不相信传说中的神人点化。可是，司马迁是怎么会朗读、会背诵的呢？他反复思量着：莫非司马迁不好好放羊，把放羊的时间都拿来读书啦！
第二天，司马迁赶着羊群在前面走着，父亲在后边偷偷地跟着。羊群翻过村东的小山，过了山下的溪水，来到一片洼地。洼地上水草丰美，绿油油的惹人喜爱。司马迁把羊群赶到草地中央，等羊群吃稳后，他就从怀中掏出一本书来读，那朗朗的读书声不时地在草地上空萦绕回荡，看着这一切，父亲全明白了。他高兴地点点头，说：“孺子可教，孺子可教也！”
过了一年，年轻的汉武帝任用贤人，有人就推荐了司马谈，武帝了解到司马谈很有学问，又是史官家族的后人，因此下令召见，让司马谈入朝当了太史令，尽管职位不高，但毕竟是入朝做官，在当地也是一件大事。这件事立即传遍了夏阳县和芝川镇。司马谈也认为多年来自己一直研习学问，现在施展才华的机遇终于来临了。整个家庭也为他感到高兴和骄傲。
父亲入京为官，司马迁自然感到高兴。同时他也对京城充满了好奇：皇宫的房子是什么样子的？皇城的城墙高不高？年轻的皇帝凶不凶？皇城的街上好玩不好玩？
父亲进京做官了，在家放牛的司马迁，却没有放松学习。对父亲布置的那些要熟读、背诵的文章，总是认真诵读，烂熟于心。每次父亲休假回家，检查他的功课，都露出满意的微笑。为了让父亲高兴，他更加发愤努力，何况他也从读书中得到了乐趣。
司马迁9岁时，通读了《诗》、《书》，许多篇章能背诵自如。他的好奇心更大了，常常找出父亲放在家里的古籍竹简，似懂非懂地看起来。不懂的地方，他就记下来，等父亲回家时请父亲讲解。他越来越被一种神秘的力量所吸引。神秘的力量来自那些陈旧的竹简，里面有一个丰富多彩的世界，藏着无数有趣的故事和深奥的道理。他渴望自由自在地进入到那个神秘的世界里去。
司马迁10岁的时候，就能诵读《左传》、《春秋》、《国语》等古代史籍了。汉朝的时候，一个学童想步入仕途，不仅要能背诵一些制度条文，能理解、发挥这些条文的意思，而且还要会写9000个字，会八体的书写，这样才有被一级一级推举做官的可能。文字的书写在当时要求非常严格，一个字写错，就有可能丢性命。在如此严厉的文字制度下，小司马迁要有多大的恒心和毅力才能学会八体的书写，才能会写9000个字，才能会诵读诸如《国语》之类的古文啊！这不是一朝一日的功夫所能练成的。达到上述要求应是对高级人才的培养，这就要求有家学渊源和师承，非一般农家孩童所能诵习。司马迁聪明绝伦，在10岁时他不仅已经过了“书古文”的学习，而且能够诵习古文，阅读古文书籍。