孔子与山西的关系，至少应该从孔子与晋文公的关系讲起。晋文公是称霸中原的政治人物。孔子生活的春秋末期，虽然距离晋文公称霸的年代已有百年，但晋文公及其霸业的社会影响，显然并没有消失。
晋文公是晋国历史上最有作为的君主之一，他夺得君位的历程千辛万苦，一直为后人津津乐道，为各行各业的人们所取法。更重要的是，在他那个时代，晋文公继承了齐桓公提出的“尊王攘夷”的政治口号，为华夏文化在最艰难时期的发展奠定了坚实的基础。也许正基于此，孔子虽然对晋文公的政治业绩和处世之道有所批评，但从整体上讲还是肯定了晋文公的政治和文化贡献。
晋文公在公元前628年去世，而孔子出生于公元前551年。孔子成人时，距离晋文公“尊王攘夷”的时代已有百年。孔子本是好学之人，更喜欢从历史中汲取思想营养，所以，尽管晋文公称霸已是往事，但还是深深地吸引了孔子的目光，让孔子从各个方面议论和探讨晋文公霸业的得与失。
晋文公称霸的过程，史籍中有许多记载。尽管在细节上不乏夸张之处，但还是从各方面记载了这个艰难的历程。晋文公的称霸既然主要是由“尊王”和“攘夷”两大历史任务组成，而此时的周天子已近乎形同虚设，所以，当晋文公像模像样地率领诸侯朝拜周天子之后，周天子无论是出于传统礼节，还是个人的感激，都要对晋文公的功绩有一些实际的表彰和感谢。其中的一项，就是把属于周天子的地盘，一个叫做“原”的地方赏赐给了晋文公。但是，出乎晋文公预料的是，原地的人们却不愿意接受晋国的统治，原因不外乎两种，一是不能接受由天子之民降为诸侯之民，二是认为周天子被逼无奈才让出了原地。这两种原因，都有可能使原地之人心里无法平衡，不能一下子心甘情愿地接受新主人的统治。
据记载，因为原地之人不愿意接受晋国的治理，就没有打开城门迎接晋文公，晋文公只好决定以武力攻取原地。可能是身为霸主的晋文公觉得原地势单力孤，所以，出发时只让晋军携带了十天的干粮，还当众宣布，十天之内肯定攻占原地。没想到，原地之人拼死抵抗，到了约定的第十日，晋军未能攻入原城。见此情状，晋文公只好鸣金而退，率兵撤离。而就在这个时候，有从原城中逃跑出来投降的士兵供述说：“原城的人们只能再坚持三天了。”获知这个情报后，群臣都劝晋文公说：“原城已经食竭力尽，还是等几天再撤兵吧。”而晋文公则说道：“我与士兵们有出征十天的约定，如果不能按约定好的期限撤兵，就证明我是个言而无信之人。得到原地，却失去信用，我是不会做这种事情的。”在晋文公的坚持下，攻打原地的晋军最终撤退而去。但出乎预料的是，晋文公的守信之举却感动了原地之人，他们认为，有了这样守信用的君主，我们为什么不去追随呢？于是，原地之人欢欢喜喜地投降了晋文公。后来孔子就说过：“民无信而不立。”（《论语·子罕》）意思是说，如果没有人民的信任，一个政府就不能立得住。反过来说就是，一个有信用的政府，才会得到老百姓的拥护。而在晋文公和孔子的时代，诸侯国的君主与该国的政府原本就是一回事。
晋文公以信用攻取原地的这个故事，历史记载中有多种版本。不论晋文公的撤兵之举是一种以退为进的谋略，还是攻城失利，遵循了“言而有信”的原则，都是在表面上以守信为说辞，使自己在舆论上赢得高分，因为当时的晋文公最需要天下舆论的同情和支持。但是，当孔子在读史中见到这段往事时，却坚持了儒家式的看法。孔子发表言论说，晋文公之所以能够得到原地，完全是遵守信用的结果。相关史籍中会记载孔子这样的言论，自然是因为在孔子的思想中，守信和忠信思想占有崇高的地位。特别是在其政治原则中，孔子更相信诚信的号召力。
在另一则有关晋文公持守忠信原则的记载中，同样有孔子的评论。这一则记载说，在晋国和楚国的“城濮之战”的决战前夜，就如何打败楚国的策略问题，晋文公向大臣舅犯和雍季问出了相同的问题，即：“吾将与楚人战，彼众我寡，为之奈何？”在敌众我寡的形势下，晋人对楚人应该采取什么策略。舅犯主张，虽然一般来说君子应该持守忠信，但在两军阵前的特殊场合，采取诈伪之道也是允许的，所以，他主张以诈道对付楚人。但雍季却认为，以诈道应对，只能获得一时的利益，而想持续获利就不可能了。面对截然不同的两种策略主张，晋文公最后采用了舅犯的诈伪之谋与楚人决战，并取得了胜利。但是，归国后论功行赏时，晋文公却优先奖励了雍季。对此，群臣都很疑惑，认为城濮之战完全是遵照舅犯的谋略取胜的，为什么舅犯的功劳却在雍季之下？对此，晋文公首先批评了众人的短浅见识，接着进一步解释道，舅犯的主张只能取得一时的胜利，而雍季的主张却能够为晋国带来长久的利益。
对于晋文公的上述做法，孔子在读史时也作出了明确的评说。孔子总的评论是：“文公之霸也，宜哉！既知一时之权，又知万世之利。”也就是说，从晋文公在当时的表现来看，孔子认为晋文公的称霸是必然的历史结果，因为晋文公既能掌握一时的权变诈伪之道，又能清楚地判断出什么才是治理一个国家的长久之道。这个长久之道，在儒家看来，就是以道德治国，以忠信临民。具体说来，孔子的主张是：“临难用诈，足以却敌；反而尊贤，足以报德。文公虽不终，始足以霸矣。”在特殊情况下，为了取得战斗的胜利，可以使用诈术。但是，在整体的政治指导思想方面，必须通过“尊贤报德”来倡导忠信之道。当然，最好是始终如一地坚持忠信之道。晋文公虽然难以做到这一点，但孔子还是客观地认为，在当时的历史条件下，晋文公的做法对于他称霸天下的追求来说还是颇为有效的。不过，晋文公虽然最终得以称霸天下，但孔子还是不得不非常严肃地指出：“齐桓公正而不谲，晋文公谲而不正。”这是记载在《论语·宪问》篇的孔子的观点，意思是说，齐桓公称霸走的是正道，而晋文公走的是谲道。
什么是孔子所说的“谲”呢？《说文解字》曰：“谲，权诈也。”东汉经学家郑玄对《论语》此章的注释是：“谲者，诈也，谓召天子而使诸侯朝之。”宋代理学家朱熹在《论语集注》中说：“谲，诡也。”综合各家的意见来看，孔子所批评的谲道，就是舅犯在城濮之战前夕所主张的诡诈之道。具体说来，在当时与楚军敌众我寡的形势下，如果走所谓的正道，即传统的择日而战、全面铺开、正面作战的战术，面对强大的楚国，晋军几无获胜的希望。所以，当城濮之战开始的时候，晋军不是摆开阵势与位于中央位置的楚军正面接触，而是先去攻击楚军的盟军，即力量比较薄弱的郑国和蔡国等小国军队组成的右翼，而当楚国分兵援救其盟军时，晋军趁楚军重新部署的时候，突然发起全面进攻，一举将楚军击溃。这样的作战方式在当时就是不行正道的诡诈之术，为传统的战争规则所不允。历史上更多的观点则认为“城濮之战”是以少胜多、以弱胜强的著名战例，但却很少注意到这场战争是春秋时代战争规则的一个转折点。从此以后，战争的“谲道”开始大行其道，而“正道”则成为强者的炫耀和说辞了。
孔子所说的晋文公的谲道，根据郑玄的意见，还应该包括“践土之盟”中晋文公对待周襄王的做法。在城濮之战获胜后，晋国实际上已经开始雄霸天下，但唯一缺少的是周天子的册命。在当时，周天子虽然已经没有实权，但在名义上还是天下共主。为了挟天子以令诸侯，在政治宣传上占据优势，晋文公作为诸侯之“伯（霸）”的地位显然需要周天子的册命，但考虑到周天子的地位，晋文公又不能屈身到洛阳去朝拜求封。所以，晋国就在卫国的一个叫做践土的地方给周襄王建立一座临时的所谓行宫，要求周天子来践土给晋文公册命。然而，晋文公还不想担着逼迫周襄王来践土的名声，就对外宣布说，周天子是巡狩天下，顺便在践土册命了新的霸主。然而，孔子对此却是看得清清楚楚，他说：“以臣召君，不可以训。”（《左传·僖公二十八年》）也就是说，实际情况是晋侯召王，而不是王召晋侯，这是个不合礼仪规范的先例，不是霸主的光明正大的行为。晋文公如此对待周天子的做法，与齐桓公时代的做法形成了鲜明对照，所以，孔子才拿齐桓公做晋文公的镜子。
纵观孔子与晋文公的关系，二者虽然不是同一时代的人物，但孔子却因为晋文公的历史贡献而给予晋文公以特殊的关注。孔子并不否认晋文公称霸对于维护天下稳定和光大华夏文明的贡献，但对于晋文公的霸业与齐桓公的霸业作出了明确的区分和评价。孔子对晋文公及其霸业的评价，对于后人理解和研究晋文公的霸业，以及晋国的这一段辉煌历史，都产生了深远影响。
对晋文公去世后晋国政治的发展，特别是孔子成年之后晋国公室的政治状况，孔子一如既往地给予了高度的关注。孔子对于历史有着特殊的研究和敏感，孟子甚至认为鲁国的史书《春秋》乃孔子所作。当代学者的研究表明，鲁《春秋》是鲁国史官所作，如果孔子作《春秋》，那显然是违背周礼的行为，很难想象孔子会做这样的事情。但在孔子心目中，记载鲁国历史的《春秋》有着极其重要的历史和政治地位，是孔门理所当然的“教科书”。更重要的是，孔子在教授弟子们学习《春秋》时，是有目的、有重点、有选择的。在当时，各国都有自己的类似《春秋》一样的史书。而正是由于孔子的重视，鲁《春秋》才得以传世，其他国家的史书则都湮灭不见了。在此意义上讲，如果说因为孔子的看重才使鲁《春秋》得以流传后世，也可以说孔子使鲁《春秋》获得了新生。