魏源，原名远达，字默深，号良图，1794年出生于湖南邵阳金潭乡（今属隆回县）一个士绅家庭。祖父魏志顺“隐居不仕”。1803年邵阳大水，官吏不顾人民生死，催赋甚急，“合县惊骚，几致变”。魏志顺“慨然赴县，毁产代输，邑众以安，家道中落”。父亲魏邦鲁，历任江苏嘉定、吴江等地巡检，宝山水利主簿等职。
魏源的出生地山清水秀、风景秀丽。那里有龙山、狮山、白马山和望云山等。龙山秀峰林立，狮山和象山横贯金潭乡，把魏家分成为上下两个村落，北曰上魏家，南曰下魏家。魏源的家就在上魏家金水河的沙洲上。龙山顶上有一个龙池，从池中不断冒出清澈的泉水。泉水流下山来后汇成两条河：涟水和邵水。邵水和另一条小河资水则在邵阳县北汇合。就在这两水汇合处，有一双清亭，魏源小时候常到那里游玩。他在46岁曾重游此地，并写了引《旧至资江重游双清亭》诗二首，一句“屿扼双流合，江涵一敦烟”，把邵阳的秀丽景色淋漓尽致地描绘了出来。村中还有许多古迹名胜，诸如文昌阁、荷叶塘等。
魏源就是在这种秀丽的环境中长大的，美丽的大自然，使他自幼养成了宁静深邃的性格。
魏源的先祖魏万一和其弟魏万二两人原本是江西太和县人。为躲避元末的兵乱，迁居到湖南善代，明朝永乐年间又迁至邵阳金潭村，并定居于此，从魏万一到魏源的曾祖父魏大公就是十二世了。
魏大公字席儒，家中富有，以孝顺母亲和好周济贫困著称。有一年，邵阳闹灾歉收，他于是慷慨解囊，为本乡农民交纳了全部钱粮，县令为此给他赠了一块“邵邑醇良”的匾。魏源的祖父魏志顺继承了其父亲的遗风。他有10个儿子，第二个儿子叫魏邦鲁，就是魏源的父亲。由于魏家人口众多，支出渐大，从魏邦鲁这一代起，魏家的家境开始衰落。魏邦鲁为生活所迫，到江苏嘉定、吴江等地做官。这时他的收入虽不多，但仍然好周济困难的人，深受人民的爱戴。
魏邦鲁官俸微薄，不能经常回家，家中只有其妻陈氏独立支撑。她不但要维持家庭生计，还要服侍老母，教育孩子。家中生活虽苦，但仍过得恬静和谐，常常是母织子读，欣然忘忿。魏源就是在这样的环境中，养成了勤奋读书、自强不息的精神。
魏邦鲁工作不忘读书，而且喜好游览，并好结交豪杰贤士。他在任期间，政绩显著，后来海州闹灾时，曾开办粥厂救济贫民，并和饥民共同生活了几个月之久。这以后，他便到苏州钱局任管事。这本是个肥缺，但他在任期间毫无所染，因此连任五年，因工作出色而被升迁。
魏邦鲁还擅长医术，他除了办案，还“审理”病情，所到之处都为上司所赏识。道光十一年（1831年）他客死在外，但因家贫而不能归葬湖南。后来当地人民因敬其业绩，自愿捐出大贤山的一块土地为他作墓地。后来他的事迹被载入《荆溪县志》。
魏源族中的兄弟很多，是一“众多才俊，居家旧典型”的家族。他们从小都在魏氏族塾中读书，成绩都很优秀。
魏源从小喜欢读书，因家庭困难及父母的殷切希望，很想通过个人的努力，求得一官半职，使生活好起来。更重要的是，他个人有着报效国家、兼济天下的愿望。他从小就有“读古人书，求修身道；友天下士，谋救时方”的抱负。他在自己书斋门旁写道：“功名待寄凌烟阁，忧乐常存报国心。”而且从他留下来的对联中也可以看出，他从小刻苦读书，有志于做一番有益国民事业的理想。“学以救国”“谋救时方”的经世致用思想，在这时已奠定了一定的基础。
魏氏家族的孩子有很好的学习条件，魏源的二伯父魏辅邦管理着族塾。他自己就是一个学习成绩优秀的人，在岳麓书院读书时，深受院长罗典的器重。他聘请了当地许多有名望的人为侄子们授课，培养出了许多优秀子弟，魏源就是其中之一。
魏源喜欢读书，且比一般弟子刻苦。他不仅白天读，晚上还常读到深夜。后来母亲劝他不要这样苦干。为了不惊动母亲，他就把油灯藏在被子中看，直到母亲哭着劝阻，他才暂时早睡，但不久又开始熬夜。由于没有钟表，有时他能一直读到第二天黎明。到老年时他曾写道：“少闻鸡声眠，老听鸡声起。千古万代人，消磨数声里。”也就是说，在青少年时代，为了读书，常彻夜不眠；到老年则又早睡早起。
早年，他在族塾中读书时，在八位老师的指导下，熟读“四书五经”。他的作文赋诗都得到了老师的褒奖。他的老师欧阳炯明、刘之钢、刘若二等人都是些熟读经书、博闻强记、名望颇高的饱学之士。在他们的指导下，魏源的学识大有长进，真可谓名师出高徒。
九岁时，魏源参加了邵阳县的县学考试。考官知县大人见他年幼，便漫不经心地指着茶碗中的太极图说：“杯中含太极。”他于是脱口道：“腹内孕乾坤。”原来，他的怀中揣着两个麦饼，准备做午饭，这时竟成为对联的材料。一语双关，抱负远大，对仗也很工整，县令大为惊异，再也不敢轻视他了，但因其年龄太小，没有准许他进县学读书。5年后，14岁的魏源开始到邵阳县爱莲书院读书。次年，因成绩优秀被录取为县学生员，享受食饩的待遇，并得到湖南学政李宗瀚的赏识。又过了5年，他便到了湖南长沙岳麓书院读书。岳麓书院是中国四大书院之一，是一个为国家培养人才的重要基地。当时书院院长袁名曜不但重视读书，还重视实践。他的这种实学精神，对魏源有很大影响。也是在这里，他开始对理学发生了兴趣。
理学分宋朝的程朱理学和明朝的王阳明理学。程朱理学是由程颐和朱熹开创。他们认为“理”在“气”先，“理”是离开事物而独立存在的客观实体，又主张用穷究事物的原理去获取知识，用反问自省的办法去达到实践的目的。这些都是唯心主义的哲学理论和学习方法。他们的理学从元明以来，就受到统治阶级的重视，明代还确定《四书集注》为科场考试的规定范围。明代出现了许多理学家，并有许多人研究朱熹学说，魏源也深受他们的影响。明代理学主要是王守仁开创的阳明学派。他主张“心外无理”，认为人的内心先天地具有一切道德原则，能圆满自足。他强调以“致良知”为宗旨。他还主张通过“存天理，去人欲”，达到“万物一体”的境界。这同样是主观唯心主义的哲学论点。
这时在湖南做学政的汤金钊就是一位理学家。他认为选取贡生要先了解考生平日的行为，然后在口试时看他的仪表、听他的议论，最后加上文字的成绩。总之，他要求学生要品德与业务并重。而魏源又是一个对理学极感兴趣的人，故他在所选的贡生中，对魏源的印象极为深刻。与魏源同时入选的还有李克钿、何庆元等人，他们三人对宋朝的理学最感兴趣。
1814年，20岁的魏源被选为贡生后，便到北京读书，但不久后又回到湖南。第二年，他又随父亲到北京继续深造。
魏源在家中一直刻苦学习，很少接触社会，与父北上求师，沿途的见闻使他大开眼界，增长了许多见识。在北上途中，他曾游览各地名胜古迹，对英雄岳飞抗金时“怒发冲冠”、“还我河山”的激情壮志，表现出深切的敬慕之情。他在诗中说：“恭惟忠孝人，英气寂不回。”当渡过黄河以后，看到一片荒凉，于是游兴大减，转而深入探讨四处野草丛生、兵荒马乱的原因。贫苦农民受害的惨状，在其思想上打上了深深的印记。另外，他在路上还看到了北方“一旱坐待槁，一雨成泥浆”的情况，深切地感到水利问题的迫切性。因此，他想写一部专讲水利的书，使北方农作物增产，人民免受饥寒之苦。
到了北京后，魏源一方面准备参加下一科的考试，以求功名，另一方面则寻师访友，进一步深造。他首先找到了同乡、翰林院的编修陶澍。陶澍为人正直、勇于任事，因成绩卓著，又和魏源是世交，因此，到北京后，他曾全力照顾魏源。
为了解决学习问题，魏源通过陶澍的介绍，与经学家胡承珙相识，从其学习经学。后又从学刘逢禄，广泛研读经学著作。他还曾向姚学块请教《大学古本》，并受到姚学块关于高尚品德的教育。他还向董桂敷请教古文辞。这些人，当时都是学术上的泰斗，对魏源有很大的影响。
另外，还有一些和魏源的年龄相仿的人常与之切磋学业。如龚自珍，他和魏源齐名，被世人并称为“龚魏”。陈沅，他们经常互评诗作，互相提高。同时魏源还和老师汤金钊有来往。他的苦干精神曾吓了汤金钊一跳，真可谓“长安车马地，花落不知春”。
他要想在北京生活，还得找个有收入的工作，于是他便求助于曾在湖南任学政的李宗瀚。李宗瀚邀他在家中教其子弟。在李家，他一面教孩子读书，一面自己读书。孤苦的生活，使他回想起“母织子读”的生活。恰在这时，他收到父亲勉励自己的来信。这些事都引起了魏源的思索。
嘉庆二十一年（1817年）冬，他从北京回到湖南。第二年冬天，他和严翊羲的女儿结婚。一年后，他又到湖南辰州，主修《屯防志》和《凤凰丁志》。不久，他又回到家乡。
1819年，他三进北京，参加顺天府乡试，被录为副贡，但因不能参加会试，他便住在北京等待下一科乡试。
道光三年（1821年），顺天府举行正科乡试，魏源考中第二名，俗称“南元”。由于得到了道光帝对试卷的好评，他的名气因此比之前更大了。第二年的会试中，他又没中，只好又在北京住下来，从事经学研究。他继承了常州学派的理论，探讨了理学家研究学术的方法，开始从理学家的虔诚信徒，逐步进入汉学家的行列。这时，他完成了《公羊古微》《诗古微》和《书古微》等书的写作。前一本在辛亥革命的兵乱中丢失，后两本有刻本传世。他在《诗古微·序》中叙述了自己研究《诗经》的经过。经过几年的研究，他体会到：学问之道浅尝是不可求得较正确的结论的，必须下工夫深入研究才可以达到目的。
《诗古微》在道光年初完成两卷，刻印成书，后来又增补修订，于道光二十年（1840年）完成20卷，重新刻印。《书古微》成书较晚，共12卷，序作于咸丰五年（1855年），实际上，它的初稿大约也是在这时完成的，以后继续修补，至咸丰初年才完成定本。
在这段时期，魏源除了著书外，还常和汉学家们在一起进行学术交流、对先辈汉学家进行纪念活动，实际上魏源已步入汉学家的行列。