建安六年（公元201年），曹操击败汝南（河南平舆县）的刘备，迫使刘备再次向南逃亡。
建安七年（公元202年），曹操再次进军官渡（河南中牟县东北），五月，袁绍病死，少子袁尚继位，袁尚的大哥袁谭自称车骑将军，二哥袁熙为幽州（治所今北京市）刺史，表兄高干为并州治所（今山西太原）刺史。曹操趁袁绍去世，渡过黄河进入河北，袁谭、袁尚连败固守。为挽回败局，袁尚命令高于裹挟着河东太守郭援（钟繇外甥）和匈奴南单于从右翼南下河东郡（今山西省西南部，郡治在今山西省永济市东南），河东郡的郡吏贾逵（贾充之父）城破被捉，被放进土窖，后被侠士祝公道救出。曹操派遣钟繇说动陇西（陇山以西，今甘肃东南部）马腾相助，在平阳（山西临汾）城下，马超的校尉庞德击杀郭援，收降南单于。曹操企图说降孙权，孙权被部将周瑜劝阻。
建安八年（公元203年），曹操再次出兵河北，打败袁谭、袁尚。之后，曹操听从郭嘉之谋，暂时放弃对二袁的进攻，等待他们之间内讧，然后，转兵南下荆州，进攻刘表。果然，在曹操南进以后，袁尚和袁谭发生争斗，袁谭派辛毗向曹操求救，曹操随即与袁谭和解，并为儿子曹整聘袁谭之女为妻。
建安九年（公元204年），袁尚再次出兵平原（山东平原县），攻击大哥袁谭。曹操乘虚攻破袁尚老巢邺县（河北临漳县）。袁尚被迫北上投奔二哥袁熙。高干投降。击败袁尚以后，曹操立马翻脸，指责袁谭背约，并送还了袁谭之女。
建安十年（公元205年），曹操击杀袁谭。袁熙部将焦触、张南叛归曹操，袁熙、袁尚逃奔辽西乌桓。高干唇亡齿寒，叛变曹操。
建安十一年（公元206年），曹操亲上太行，平定高干。开始开凿运河，准备击灭乌桓。
建安十二年（公元207年），曹操长途奔袭，大破乌桓蹋顿，胡人、汉人投降二十余万人。辽东公孙康杀袁熙、袁尚。刘备得诸葛亮。
建安十三年（公元208年），曹操开始训练水军，为南进做准备工作。
也就是在这一年，曹操再次想起了七年前的司马懿。
现在的曹操已经身为汉朝丞相，集朝廷大权于一身，已非往日可比。这次，曹操根本就没理会司马懿中风的茬，他发话说：“再推推脱脱，就地逮捕！”这下，可把词马懿给吓住了，心想再推辞就保不住命了，也就去了。
在见到司马懿之前，曹操就听人说司马懿有狼顾之相。一天，他把司马懿叫来，一试验，司马懿的脑袋果然可以像狼一样，能够旋转1800，眼睛向后看。相书上说，拥有这种相的人，心狠手辣，狡诈善变。从此，曹操就对司马懿心存戒备，他曾经对儿子曹丕说：“司马懿绝不是当人臣的主，以后肯定会给咱家添麻烦。”
可是，曹丕却与司马懿关系很好，曹操的评价随即就传到了司马懿的耳中，司马懿不禁大惊。从此，他表现得更加勤勉，任劳任怨，常常通宵达旦，夜以继日地工作，就连丞相府割草放牧这类琐事，诸如马喂的饱不饱，割的草够不够什么的，他都要亲自查看。这样一来，曹操才慢慢释然了。
即便如此，从建安十三年（公元208年）到建安二十年（公元215年），在长达7年的战争年代里，曹操依然没有让司马懿染指军事——哪怕是作自己的军事参谋。建安十四年（公元209年），曹操军出合肥；建安十六年（公元211年），曹操西征韩遂、马超；建安十八年（公元213年），曹操进军濡须；建安十九年（公元214年），夏侯渊攻击韩遂等，我们都没有看到司马懿的踪迹，如果司马懿参与了这些战事，那么，晋朝的摇尾系统是不会放过这些呐喊的机会的。
可能的解释就是：曹操对这个八还是不太放心。
一直到建安二十年（公元215年），司马懿才有机会随曹操大军进攻马超、韩遂、氐王以及张鲁，并在随后的两件事上，显示出了自己的军事才能和政治智慧。
建安二十年（公元215年），在迅速收拾了马、韩、氐、张这四股势力以后，曹操想要退兵。在前年的夏天，刘备刚刚占领益州，而此时，刘备正率军与孙权争夺荆州，因此，丞相主薄司马懿建议说：“刘备刚刚以欺诈得到四川，四川的人心不服，在这种情况下，刘：蚤还出兵与孙权争夺江陵。机不可失。今天我们攻克了汉中，益州震动，我们进兵，刘备肯定会瓦解。”因此，劝曹操趁机进攻四川。刘晔也说：刘备是人杰，有度量但是见机迟，得到蜀地时间尚短，蜀人还不会为其效命。如果稍后进攻，诸葛亮明于治国，关羽、张飞勇冠三军，蜀国民心安定以后，居险守要，就难以攻取，必为后患。
曹操说：“人们就是不知足，既然得了陇，还望蜀！”否定了刘晔和司马懿的建议。
细究起来，此时曹操的决断未必就不适当。理由大致有以下五点：
一是刚刚拿下的陇地和汉中尚需要时间消化。陇西和汉中长期独立于中央，民风彪悍，而且此地少数民族聚集，关系复杂，极易发生骚动。张鲁的“五斗米教”又在汉中等地传播多年，安抚工作很是费时费力。益州有崇山峻岭，刘备只是用派一员大将驻守险关要隘，曹军短时闯内就难以攻拔。战争一旦进入胶着着状态，假设刚刚归顺的陇西羌胡和汉民再次出现叛乱，汉中张鲁教众又死灰复燃，再加上曹军粮草难继，后果将不堪设想。二是孙刘交恶局面不可恃。孙刘两家和则两立，斗则俱亡，这一点孙权清楚，刘备也明白。荆州固然对于孙刘两家来说都非常重要，刘备得到荆州，将增加一个战争策源地，孙权得到荆州，将有效地屏护江南。不过，得到荆州，对于孙刘双方的任何一方来说，都是锦上添花，而当双方相持不下之时，实力强大的曹操在孙刘任一方的背后猛插一刀，即将是釜底抽薪，被打击的一方将面临覆亡的危险。孰轻孰重，孙权与刘备也都心知肚明。假如曹操进攻川北，以刘备长期作战的丰富经验，当然会立即认识到两面作战的巨大风险，也肯定会采取果断措施妥善解决与孙权之间的纠纷。而事实上，刘备在得知曹军拿下汉中以后，就迅速与孙权和好，把荆州一半还给了孙权，匆匆回军备战了。
三是军队已经疲惫，难以连续作战。话虽那么说，但当时的曹操其实也并不甘心，他已经派遣夏侯渊、张邰等名将数次南下，做试探性的进攻，但均被张飞击败。可见，曹军不仅不得地利，军队又没有山地战的经验，而且兵已疲弊，不能硬来。
四是东南方面的情况并不乐观。如果孙刘尽释前嫌，那么，孙权极有可能乘虚进攻北方，那时，曹军在四川进退两难，而东南又起硝烟，面临两面作战的将不是刘备，而是曹操了。果然，到了这年的八月，与刘备和好的孙权，在得了点小便宜以后，就出兵进攻曹操的合肥了。
五是曹操的心态问题。此时的曹操已为魏公，建了魏国社稷，再也不是一无所有、敢玩冒险、亲自带几千兵就去烧袁绍粮草的曹操了。家业大了，心态变了，顾忌多了。另外，向来习惯于平原作战的曹操，此番前来，对于“蜀道难”有了深刻的印象，他曾经说道：“南郑直为天狱，中斜谷道为五百里石穴耳。”
因此，不便山地战的曹军，如果真的进攻蜀地，胜负实难预料。从这一点上来看，当时的司马懿毕竟是初出茅庐，可谓是“知彼”而尚“不知己”。
《晋书》记载的司马懿在曹操时代的第二年活动，是发生在建安二十四年。
建安二十二年（公元217年），曹军在濡须（安徽无为县北）击败孙权，曹操称魏王，到建安二十四年（公元219年），孙权擒杀关羽，上表请降并称臣，假惺惺地请求曹操废汉自立。看到孙权的请求，曹操的头脑还比较清醒，说了句：“孙权这小儿是想把我放到火炉上烤啊！”
不过，曹操话虽这般说，心里未必就不舒坦，也许，孙权的上表也勾起了曹操些许的非分之想吧。
于是，司马懿赶紧巴结说：“我们魏国已经是十分天下有了九分，孙权称臣那是天意，上古的虞、夏、商、周，之所以当仁不让，不是为了别的，关键是敬畏天命啊！”《魏略》记载，与司马懿一同拍马屁的，还有他的好朋友陈群，此人后来一直和司马懿并驾齐驱、官运亨通，同曹休、曹真、司马懿一起开府。
而与司马懿、陈群截然不同的却是荀彧。
荀彧，字文若，颍川颍阴（今河南许昌）人。巧合的是，荀彧的爷爷荀淑也有八个孩子，人称“八龙”，荀彧的父亲荀绲就是其中一龙。苟或因为娶了中常侍唐衡的女儿，很早就拜为守宫令；董卓之乱中，他投奔袁绍，后来看到袁绍不能成就大业，又改投了曹操，曹操一见之下，就称：“你是我的张良。”拜为司马，主管军事。那一年，荀彧才29岁。荀彧从曹操创业开始就一直追随，他始终有一个梦想：让曹操真的担负起复兴汉室的重任。早在建安十七年（公元212年）十月，董昭建议应该请求汉献帝给曹操进爵为曹公，加九锡，尚书令荀彧正言说：“曹公本来兴的就是义兵，为的是匡复国家，他所秉持的是忠贞，所坚守的是推让。君子爱护别人，唯恐他的德行有瑕，不应该这样做！”这话传到曹操耳朵里，曹操很不是滋味，为了防备荀彧在朝廷上做小动作，曹操把他召到军中，随后，荀彧饮药而死，享年50岁。