宋真宗赵恒继位后，朱文翰得到信任，升为户部郎中。郎中为皇帝的侍卫和随从，地位较高。朱文翰为人耿介刚直，敢于直言朝政，得罪了权贵高官，受到诽谤中伤，景德初年被贬出京城，任淄州长史。
母亲先去淄州的秋谷口照料继父，范仲淹仍在长山读书。
景德末年（1007），朱文翰卸任淄州长史，调任盐铁度支判官。盐铁度支，负责全国盐铁生产的统计和支调。设有度支使、副史、判官。判官，稍次于副使。范仲淹随从继父从淄州回到了长山。当时长山既没有合适的学宫，也寻不到好的教师，便暂时闲在家里。母亲劝他是否去做商贾技艺的事情，挣些钱，既可贴补家用，也可慢慢自立。他告诉母亲，现在他不想去做事，唯一想做的是读书，要有大学问，要有真本事。继父明白，仲淹志趣不凡，要走科考之路。便对谢氏说：“不要为难他了，让他选择自己愿走的路吧。”
大中祥符元年（1008），范仲淹20岁这年他决定游学关中。征得二老同意之后，他带上琴剑和少许衣物，踏上了漫漫西征之路。琴剑，一向是范仲淹外出随身必带之物。他每日闻鸡起舞，凌晨练一通剑术，无论春夏秋冬，从不间断。强身健体，他要做一个文武双全的国家栋梁之材。文能笔扫千军，武能一当万师，文韬武略，智勇兼备，方能负天下之重任。为了陶冶性情，他又酷爱弹琴，曾向徙居淄川的大音乐家崔遵度学过琴艺。对周朝尹伯奇创作的古琴曲《履霜操》情有独钟，平时只弹此曲，时人称他“范履霜”。陆游《老学庵笔记》载“范文正公喜弹琴，然平日只履霜一操。”每当夜晚宁静之时，他便操琴数曲，体察先师在齐闻韶三月而不知肉味的心迹，探究“治乐以治心”的乐治奥秘。
范仲淹仗剑一路西来，登山涉水，风餐露宿，访民问俗，寻古觅幽，眼界大开，见识大增。他心向往之的关中宝地，变得可触可视可凭可吊。关中岐山，原为周朝兴起之地，故为岐周。当年文王访大贤姜尚于渭水之滨。姜尚灭商有大功，封于齐，成为齐国的始祖。自己从齐出发，而来寻觅周文化的源头。孔子终生仰慕西周那种“仁政德治”的小康社会。然而，礼崩乐坏，诸侯征战，秦用商鞅，崛起于关中。“秦王扫六合，虎视何雄哉”，始皇登基，奢望万世，历史偏偏跟他开玩笑，倏忽短命，令秦朝二世而亡。那骊山下的秦陵巨墓，向后人昭示着什么？关中，蕴藏着昔日汉唐盛世的秘密，每一寸土地都有华夏文明演进的足迹。
在关中，范仲淹结识了许多有识之士。其中一位就是他称为吏隐的王袞。所谓吏隐，不以利禄萦心，居官而同隐者。王袞善诗，富有正义感。担任著作佐郎，通判彭州。通判比知州稍低，相当副长官。恰巧遇上知州做了不法之事，他愤而公开斥责，结果丢了官，居住长安中与豪士交游，纵酒放歌，大有嵇阮之风。后来他又出来做官，管理终南山上清太平宫，实则是隐士。王袞的儿子镐，字周翰，与范仲淹成了好朋友。王镐有两位好朋友，一位叫周德宝，一位叫屈元应，都是道士，两人都善于弹琴。周精于篆，屈于易学深有研究。当时，他们朝暮相从，什么问题都喜欢议论，畅所欲言，各抒己见。王镐幼时奇敏，善为诗文，声满长安，呼为“小秀才”。稍年长，不慕利禄，著书乐道。这时，他与范仲淹、周德宝、屈元应几位朋友，或开樽浩饮，或扣弦而歌，远离尘嚣禄利，得山水之乐。秀丽如黛的青山，飘逸闲适的白云，重叠蜿蜒的群山，直连接到天边。等到明月升高、露水降临之时，天地万物都安静了，这时便有一悠扬的笛声从西南方向依山而起，上响彻星汉，下充满深谷丛林之中。清风伴随笛声徐徐升起，夜空中无一丝云烟。客人惊异，谁在吹笛？王镐说：“这是一位贫苦的老书生，每风月之夕，就来此操长笛，吹奏数曲而去，已经四十年了，这是真正的君子之乐。”这如痴如醉、如梦如幻的情与景，永远鲜活在范仲淹的记忆中。
37年后，范仲淹经略陕西，应王镐长子之请，天圣五年（1027）为病逝的王镐撰写了墓表，称颂道：有君子焉，生兮云山，葬兮云山，始终不垢兮，其清而贤。
在这次关中游历中，范仲淹也进一步了解了民间疾苦。对农民的辛苦劳作、艰苦的生活状况有了更加直观的认识和深切的感受，对范仲淹以后的施政为民产生了直接影响。