在三国鼎立时期，有一个重要的人物，虽然他不是晋朝的开国皇帝，但是，他就像魏之曹操、清之努尔哈赤一样，对于晋的建立起到决定性作用。他就是晋朝开国皇帝司马炎的祖父——司马懿。
司马懿的祖先可以追溯到黄帝之孙高阳的儿子重黎（《史记·楚世家》则称重黎是高阳的孙子），他是帝高辛的“火正”。在上古时代，人们崇尚火，司火的火正地位也比较高。因为重黎有功劳，所以被帝高辛封为“祝融”，意思是像祝融神那样可以光照世界。随后，重黎的后代也一直做着这个官职，直到周朝，官职的名称由“祝融”改为“司马”。
《尚友录》说，在周宣王的时候（公元前827年—公元前781年），程伯林父担任司马，攻克了许方，因功被允许以官职为姓，因而得姓“司马”。
楚汉争霸的时候，司马昂作为赵将与诸侯一起进攻秦国。秦国灭亡以后，他被封为殷王，都城在河内（今河南省焦作市）。汉朝建立以后，司马家就定居在河内郡了。
又过了八代，司马家出了一个代理征西将军司马钧。东汉安帝永初二年（公元108年）10月，车骑将军邓骘命令征西校尉任尚与从事中郎司马钧一起讨伐滇零（人名，为先零羌别种），双方在天水郡（治平襄，今甘肃省通渭县）展开激战，结果，汉军大败；到东汉安帝元初二年（公元115年），此时的司马钧已升任左冯翊（汉代将京师附近地区分别设置京兆尹、左冯翊、右扶风，分别由三位地方官管理），朝廷以其为代理征西将军，都督关中诸郡兵八千余人，与护羌校尉庞参所领的七千余名羌胡兵，分道进攻滇零的儿子零昌。庞参先败，司马钧率部独进，攻下了零昌的老巢丁奚城（宁夏灵武县境），他命令同僚右扶风仲光收割羌人的庄稼，但是，仲光不听司马钧指挥，散兵深入，结果被围。司马钧因赌气而驻军丁奚城内见死不救，致使仲光兵败战死，汉军被杀三千多人，司马钧也率余众逃回，事后，司马钧因此入狱，自杀。
司马钧的儿子司马量，字公度，做到豫章太守（治所江西省南昌市）。
司马量生了司马儁，字元异，为颍川太守（治所河南省禹州市）。《三国志·魏志·司马朗传》裴注引司马彪《序传》记载：司马倩“博学好古”。由此可知，从司马倩开始，司马家基本上完成了从武将世家到士大夫世家的转型。
司马倩生了司马防，字建公，为京兆尹，他就是司马懿的父亲。同上记载：司马防家教很严，平日里，即便是父子之间也十分严肃，“父子之间肃如也”。儿子们虽然已经成年，但在家里，父亲不让进屋，儿子们都不敢进；进屋以后，不让坐下，不敢擅自坐下；父亲不问话，也都不敢主动说话。这也是司马懿家“服艮膺儒教”（即遵行名教，遵守君臣父子规范等）的一个突出表现。
东汉灵帝光和元年（公元179年），司马懿就出生于河内郡温县孝敬里（今安乐寨村）这样一个世家望族里。司马懿是家中的老二，上面还有一个大哥叫司马朗，字伯达，他和董卓的一个儿子同岁，《三国志》上有传。司马朗9岁时，有客人直接称呼其父的字，司马朗便对那人说：“轻慢他人的长辈，就等于是不尊敬自己的长辈。”
司马懿，字仲达，在他下面还有六个弟弟，分别是：老三司马孚，字叔达；老四司马馗，字季达；老五司马恂，字显达；老六司马进，字惠达；老七司马通，字雅达；老八司马敏，字幼达。司马防的这八个儿子，在当地很出名，由于他们的字都有一个“达”，因此，附近的人们称他们八兄弟为“司马八达”。
当时，司马朗很有名气，但司马懿的同族哥哥司马芝却一直默默无闻。河内的老乡杨俊，素来以知人闻名，却说：“司马芝虽然名气没司马朗大，但他却有原则，有韧性，这是司马朗比不过的。”后来，司马朗官至曹魏兖州刺史，病死在伐吴前线，死时47岁；而司马芝则历任曹魏河南尹、大理正、大司农，正直无私，果如杨俊所言。这位杨俊后来官至南阳太守，在他见到司马懿的时候，司马懿才十五六岁的样子，杨俊一见之下，就说：“你可是一个非同寻常的人啊！”还有一位叫崔琰的人，后来官至曹魏尚书，与司马朗私交很好，也曾对司马朗说：“你弟弟司马懿不仅聪明过人，而且刚毅果断，他可是一代英雄人物啊，不是你所能比的！”
建安六年（即公元201年），司马懿23岁。也就是在这一年，他被河内郡推荐为本郡的上计掾（会计官）。当举荐信送到司空府时，司空曹操听说过“司马八达”的事情，当即征召司马懿到自己的司空府为官。曹操选中司马懿，当然有笼络人才的意思，不过，除此之外，在曹操的内心深处，还有另外一层鲜为人知的情愫。曹操年少无赖，举孝廉为郎，当时任京兆尹的司马懿之父司马防，举荐曹操任北部尉，这是曹操一生中担任的第一个官职，据《三国志·武帝本纪》注引《曹瞒传》的记载，很多年以后，已身为魏王的曹操，还专门把司马防召到邺城饮宴，当时，曹操开玩笑问司马防：“孤今日还能当那个小小的尉吗？”司马防回答：“过去我举荐大王之时，大王正适合那个职务。”曹操听后，哈哈大笑，两人回顾过去，一直谈得很开心。由此看来，重感情的曹操对司马防是一直心存感激的，因此，此次征召司马懿，曹操自然也有报恩的意思。
然而，当曹操的使者来到河内郡、并传达了曹操的意思以后，司马懿却作出了一个既在情理之中又出乎意料之外的决定——他拒绝了。
司马懿的家人对司马府来的人说，司马懿突然之间得了风痹之疾，病情十分严重。只见他肌肉疼痛难忍，双腿无法行走，本人已经卧床不起了。所谓的“风痹之疾”，大约相当于现在的风湿病或者中风之类的疾病。
司空府的使者亲眼看到僵卧在床的司马懿后，只好回去复命。
曹操是何等人也？要真想瞒过曹操，司马懿就这装病的伎俩也太拙劣了。刚才还被郡中举荐，怎么我来征召，你就突然病了？
对于装病，尤其是装中风，曹操本人可是行家里手。据《曹瞒传》记载，曹操年少行为不端，叔父多次到曹操父亲曹嵩处告状，一次曹操看见叔父，突然假装嘴眼歪斜，叔父大惊，询问原由。曹操说自己是中风了。等曹嵩闻讯叫来曹操的时候，曹操却一切如常。曹嵩说：“你叔父说你中风了，是不是现在好了？”曹操说：“我压根就没中什么风，只是叔父不喜欢我，才骗你呢。”从此，曹操的叔父再给曹嵩汇报曹操的不端行为，曹嵩再也不相信了。因此，装病这把戏，是曹操年幼之时玩剩下的，司马懿今天这样，曹操岂不生疑？听了汇报以后，曹操还是派人前往河内，偷偷对司马懿家进行监视：如果你司马懿装得不像那回事，就直接刺死你。
而司马懿倒也十分警觉，整天是大门不出，二门不迈，俨然一副病人的模样。
也许曹操相信了，也许曹操压根就不信。然而，司马懿和曹操之间这场严肃认真的戏，却是以一个生命的代价换取的。
一天，司马懿看天色很好，就命人把书本拿出来晒晒，而司马懿则半躺在屋檐下，边看书边晒太阳，十分惬意。谁料天有不测风云，刚才还是阳光灿烂，突然之间，就是阴云密布，眼看就要大雨倾盆。
而此时，夫入张春华和婢女又都不在身边。不大一会儿，雨点噼噼啪啪地就落了下来。
躺在床上的司马懿，眼看心爱的书籍就要遭受灭顶之灾，他看看四周无人，就匆忙从床上站起来，跑到院子里去收书。这一情景，正巧被慌忙赶来收书的婢女碰见。不明真相的小婢女惊讶得捂着嘴，“啊”地叫了一声。
听到婢女的叫声，司马懿恍然若失，愣在了那里。此时，司马懿的夫人张春华也来到了现场，她忙把呆若木鸡的司马懿搀回屋，然后，若无其事地与婢女一起把书本收拾完毕。
为了防止走漏风声，引来灭顶之灾，很快地，张春华就把婢女叫到厨房，亲自持刀将她杀死灭口。
到这里，我们自然会问：为什么司马懿当时拒绝了曹操呢？要想理解司马懿的决定，那就让我们看看此前一年（公元200年即建安五年），中国大地上都发生了什么吧。
建安五年（公元200年）十月，曹操与袁绍在官渡会战，曹操击败袁绍，袁绍退回河北。这正是前文提到的官渡之战，应该说曹操是挟战胜之威征召司马懿的，可是他为什么还高卧不起呢？他要做隐士吗？以司马懿的性格，肯定不是。
就这样，转眼又过去了整整7年。司马懿还是老实地呆在自己的家乡，过着时病时好、亦官亦民的生活。在这七年间，中国北方的政治格局已经发生了巨大变化。
建安六年（公元201年），曹操击败汝南（河南平舆县）的刘备，迫使刘备再次向南逃亡。
建安七年（公元202年），曹操再次进军官渡（河南中牟县东北），五月，袁绍病死，少子袁尚继位，袁尚的大哥袁谭自称车骑将军，二哥袁熙为幽州（治所今北京市）刺史，表兄高干为并州（治所今山西太原）刺史。曹操趁袁绍去世，渡过黄河进入河北，袁谭、袁尚连败固守。为挽回败局，袁尚命令高干裹挟着河东太守郭援（钟繇外甥）和匈奴南单于从右翼南下河东郡（今山西省西南部，郡治在今山西省永济市东南），河东郡的郡吏贾逵（贾充之父）城破被捉，被放进土窖，后被侠士祝公道救出。曹操派遣钟繇说动陇西（陇山以西，今甘肃东南部）马腾相助，在平阳（山西临汾）城下，马超的校尉庞德击杀郭援，收降南单于。曹操企图说降孙权，孙权被部将周瑜劝阻。
建安八年（公元203年），曹操再次出兵河北，打败袁谭、袁尚。之后，曹操听从郭嘉之谋，暂时放弃对二袁的进攻，等待他们之间内讧，然后，转兵南下荆州，进攻刘表。果然，在曹操南进以后，袁尚和袁谭发生争斗，袁谭派辛毗向曹操求救，曹操随即与袁谭和解，并为儿子曹整聘袁谭之女为妻。
建安九年（公元204年），袁尚再次出兵平原（山东平原县），攻击大哥袁谭。曹操乘虚攻破袁尚老巢邺县（河北临漳县）。袁尚被迫北上投奔二哥袁熙。高干投降。击败袁尚以后，曹操立马翻脸，指责袁谭背约，并送还了袁谭之女。
建安十年（公元205年），曹操击杀袁谭。袁熙部将焦触、张南叛归曹操，袁熙、袁尚逃奔辽西乌桓。高干唇亡齿寒，叛变曹操。
建安十一年（公元206年），曹操亲上太行，平定高干。开始开凿运河，准备击灭乌桓。
建安十二年（公元207年），曹操长途奔袭，大破乌桓蹋顿，胡人、汉人投降二十余万人。辽东公孙康杀袁熙、袁尚。刘备得诸葛亮。
建安十三年（公元208年），曹操开始训练水军，为南进做准备工作。
也就是在这一年，曹操再次想起了七年前的司马懿。
如今的曹操已经身为汉朝丞相，集朝廷大权于一身，已非往日可比。这次，曹操根本就没理会司马懿中风的茬，他发话说：“再推推脱脱，就地逮捕！”这下，可把司马懿给吓住了，心想本来自己也不是什么高士，那就去吧。
建安十三年（公元208年），司马懿就做了曹操的幕僚，官职是丞相府文学掾，即丞相府的文牍官。随后，又被任命为黄门侍郎（皇帝的值班卫士），转为议郎（与黄门侍郎均为郎官，但皇帝出巡时，议郎不必扈从侍卫），更升为丞相东曹属（曹操为丞相后，下设东、西曹掌管人事工作。东曹主管二千石官员的任免，西曹主管丞相府官员的任免。其负责人员正者称掾，副者称属），成为主管全国地方官员任免的副职，相当于吏部侍郎，后又升为主薄。
在见到司马懿之前，曹操就听人说司马懿有狼顾之相。一天，他把司马懿叫来，一试验，司马懿的脑袋果然可以像狼一样，能够旋转一百八十度，眼睛向后看。据说，拥有这种相的人，心狠手辣，狡诈善变。从此，曹操就对司马懿心存戒备，他曾经对儿子曹丕说：“司马懿绝不是当人臣的主，以后肯定会添麻烦。”
可是，司马懿和曹丕的关系非常好，“每与大谋，辄有奇策，为太子所信重，与陈群、吴质、朱铄号为四友。”后来司马懿为曹丕“篡汉”更是出了大力，所以他才一直为曹丕所“信重”。曹丕代汉称帝后，司马懿的地位渐渐重要起来，由尚书、督军、御史中丞起，官至抚军将军，加给事中录尚书事。黄初五年，曹丕以尚书令陈群为镇军大将军，尚书仆射司马懿为抚军大将军。当时，军权主要仍在曹氏手中。论地位，曹真、曹休、陈群也略在司马懿之上。公元228年曹休死。公元231年，曹真死。公元236年，陈群死。这以后，司马懿的地位逐渐突出，对蜀战事，多由他来主持。
在曹丕一生中曾两次伐吴，每次都以司马懿居守许昌，到曹丕临终时，更令司马懿与曹真、陈群、曹休四人为辅政大臣，共同辅佐魏明帝曹睿。在魏明帝时期，司马懿成为了魏国政治舞台上最为重要的人物之一。他不只是曹睿的谋臣，同时还掌握着军权，成为了可以独当一面的军事首领。
司马懿是一个极具军事才能的人，他第一次展示这一才能是在建安二十四年，也就是公元219年。那时蜀将关羽围攻樊城，水淹七军，虏于禁，斩庞德，威镇华夏。而汉献帝都许昌，离樊城很近，曹操为避关羽的兵锋，曾打算迁都河北。时为曹军司马的司马懿向曹操建议说：“禁等为水所没，非战守之所失，于国家大计未有所损，而便迁都，既示敌以弱，又淮沔之人大不安矣。孙权、刘备外亲内疏，羽之得意，权所不愿也。可喻权所，令掎其后，则樊围自解。”曹操听后，采纳了司马懿的建议，暗地里与孙权联系，达成了联合攻蜀军的同盟。结果关羽丢失了荆州，自己最后也身首异处。
魏明帝时，司马懿的军事才得到了充分展现。他长期参与领导对吴作战，有一天，魏明帝向司马懿询问对吴作战的方略，司马懿回答说：“吴以中国不习水战，故敢散居东关。凡攻敌，必扼其喉而播其心。夏口、东关，贼之心喉。若为陆军以向皖城，引权东下，为水战军向夏口，乘其虚而击之，此神兵从天而堕，破之必矣。”在公元231年和公元234年，司马懿曾两度领兵于祁山和五丈原抗击蜀丞相诸葛亮。虽然魏军在当时有二十万左右，而蜀军为十万，在数量上占优势，但诸葛亮善于治军，蜀军又经过长期北伐准备，训练有素，故在战斗力上胜魏一筹。当时魏明帝向司马懿下令：“坚壁拒守，以挫其锋，彼进不得志，退无与战，久停则粮尽，掳掠无所获，则必走矣。走而追之，以逸待劳，全胜之道也。”司马懿则对此进行了有效的执行。尽管被他的将领讽刺为“畏蜀如虎”，司马懿仍轻易不与诸葛亮交锋。在司马懿这种坚壁不战的策略下，诸葛亮竟一筹莫展，不能越雷池一步，结果他的北伐最后以失败告终。
曹丕死后，原蜀汉降将孟达在诸葛亮的策动下，欲叛魏归蜀。司马懿时领兵驻宛，听到这一消息后，他一面写信给孟达假意安抚，一面立即潜军进讨，八天行军一千二百里，赶到上庸城。当时“孟达众少而食支一年”，魏军“四倍于达而粮不淹月”。在这种情况下，司马懿果断地采取速决战，他一面派兵分拒蜀、吴对孟达的援军，一面亲率主力分八道猛攻上庸城，仅用十六天的时间，司马懿就破上庸，斩孟达，结束了战争。
自东汉末年军阀混战开始，公孙度就割据辽东。公孙度对曹魏政权虚与委蛇，时叛时降，保持着半独立的地位。公孙度死后，公孙渊继为辽东太守，对魏则更加不逊。景初元年，魏明帝派毋丘俭率兵伐辽东，结果大败。公孙渊于是自立为燕王，并引诱鲜卑对魏进行侵扰。于是，魏明帝改派司马懿领兵四万继续伐辽东。临行前，司马懿对魏明帝说：“睢明者能深度彼己，豫有所弃，此非其所及也。今悬军远征，将谓不能持久，必先距辽水而后守，此中下计也……往百日，还百日，攻百日，以六十日为休息，一年足矣。”
司马懿率军进入辽东后，公孙渊派步骑数万在辽水东岸的辽隧坚壁拒魏。司马懿则在强渡辽水后，直取公孙渊的老巢襄平，辽东军大惊，只好离开壁垒往堵魏军，司马懿于是纵兵迎击，三战皆捷，辽东军退保襄平，魏军于是开始围城。时逢连日暴雨，平地水深数尺，魏军无法合围，辽东军利用水势仍可樵采、放牧。有人向司马懿建议，断辽东军樵牧，司马懿说：“自发京师，不忧贼攻，但恐贼走。今贼粮垂尽，而围落未合，掠其牛马，抄其樵采，此故驱之走也。夫兵者诡道，善因事变。贼凭众恃雨，故虽饥困，未肯束手，当示无能以安之。取小利以惊之，非计也。”结果，辽东军错过了突围的大好时机。不久雨停水退，魏军将襄平完全包围，并“起土山地道，楯橹钩橦，发矢石雨下”，昼夜发动猛攻。公孙渊这时才开始突围逃跑，结果被魏军击斩，辽东悉平。
司马懿在防吴、拒蜀的过程中，他由抚军大将军升大将军，最后迁为太尉。当他平定了辽东，正准备回朝的时候，洛阳送来了紧急诏书，要他迅速赶回。司马懿回到洛阳时，魏明帝已经病重。在明帝死前，魏宫廷中出现了一次小的纠纷。明帝原拟以燕王曹宇为大将军，与夏侯献、曹爽、曹肇等共同辅助齐王芳。中书令刘放、中书监孙资，居中掌权日久，曹献、曹肇心内不平。刘放、孙资害怕燕王曹宇等掌权后对自己不利，就向明帝诉说燕王不堪大任，并向明帝推荐曹爽和司马懿。不久，燕王宇被免职，曹爽则被任命为大将军，与司马懿共同辅佐齐王芳。结果在魏明帝临终时，把司马懿和皇族大臣曹爽叫到床边，嘱咐他们共同辅助太子曹芳，也就是后来的魏少帝。
曹芳继位时，曹爽为大将军，司马懿为太尉。不久，曹爽一是为防止曹氏大权落入司马懿手中，二是为独掌朝纲，开始排挤司马懿。司马懿的军权很快被夺去，由太尉转为没有实权的太傅，而曹爽则引用心腹何晏、邓飏、丁谧、毕轨、李胜、桓范等人，开始专断朝政。但曹爽是一个缺少雄才大略的人，论能力、心机都不及司马懿。面对于己不利的形势，司马懿韬光养晦，伪装生病，表面上不问政事，实际上却在暗中布置，等待消灭曹爽势力的好时机。
曹爽听说司马懿生病了，也多少有些怀疑，就派自己的亲信官员李胜去打探。李胜当时被派去荆州做刺史，就以向司马懿告别为借口去试探。李胜到了司马懿的卧室，只见司马懿躺在床上，两个使唤丫头正伺候他吃粥。司马懿似乎没法用手接碗，只能把嘴凑到碗边去喝，就是这样，没喝上几口，粥又沿着嘴角流了下来。李胜在仔细地观察司马懿，觉得司马懿真是病入膏肓，很是可怜。
李胜不忍多看，他对司马懿说：“这次蒙皇上恩典，派我担任荆州刺史，故特地来向太傅告辞。”
司马懿听了，喘着气说：“委屈您啦，并州在北方，接近胡人，您要好好防备啊。我病得这样，只怕以后见不到您啦！”
李胜听了，纠正说：“太傅听错了，我是去荆州，不是并州。”
司马懿似乎还是听不清，疑惑地看着李胜。李胜于是又大声说了一遍，司马懿这次总算搞清楚了，苦笑着说：“老了，耳朵聋，听不清了。您做荆州刺史，这太好啦。”
李胜实在看不下去了，他向司马懿告辞，回到曹爽身边，把情况一五一十地说了一遍，然后叹了口气说：“现在太傅只差一口气了，您也就不用再担心了。”曹爽听了，也十分高兴。可他们谁都没想到，司马懿是装病的行家，当年他就是用这招儿蒙骗曹操，不去做官，如今也不过是故伎重施罢了。
公元249年新年，魏少帝曹芳到城外去祭扫祖先的陵墓，曹爽和他的兄弟、亲信大臣全都跟去了。因为司马懿“病重”，也就没有请他同去。可曹爽陪曹芳刚离开洛阳，太傅司马懿的病就全好了。他马上披戴起盔甲，带着两个儿子司马师和司马昭，率领兵马占领了城门与兵库，发动了政变，控制了京都。并假传皇太后的诏令，把曹爽的大将军职务撤了。在城外的曹爽兄弟等人得知消息后，曾有人给他献计，要曹爽挟持少帝退到许都，然后召集人马，对抗司马懿。可曹爽兄弟都是缺少胆量、养尊处优惯了的人。他们听司马懿派来的人说：“只要交出兵权，绝不为难。”就愚蠢地投降了。不久，司马懿稳定了局势，便又以谋反的罪名，杀死了曹爽及其党羽。从此曹魏的军政大权完全掌握在了司马懿的手中，司马氏取代曹魏只是一个时间问题了。
公元251年，司马懿病死，终年72岁。九月，按其生前所嘱，土葬于首阳山，不起坟头，不立碑，不随葬祭品，死后遗孀不得与其合葬。逝后赐谥号“文宣”。晋立，追为宣帝，这是后话。