带着宣宗的知遇之恩和厚望，于谦踏上了陌生的晋豫大地。除了带着养子于康，他没有任何家眷相伴；也没有什么辎重，只有随身携带的几件换洗衣物和几本书而已，可谓“单车赴任”。
于谦同时为河南、山西两省巡抚，当时，河南省的治所在开封，山西省的治所在太原。为了兼顾两地的政务，于谦必须每年在两省之间来回跋涉，一般情况下冬春时节山西冰封雪冻，粮食青黄不接，他必须缓解山西百姓的饥渴之苦，庇护那里的饥民，于是就在太原；而夏秋两季河南境内黄河泛滥成灾，于谦要在河南治理水患，安抚因黄河肆虐而流离失所的百姓，于是，他就在开封。
这样一来，于谦就必须每年至少两度翻越太行山。
巍巍太行，如一条腾展于燕赵大地上的桀骜长龙，雄踞于河北、河南和山西三省之间，是黄土高原和华北平原的天然分界线。今天的文人骚客或是游人过客借助现代化的交通工具，偶尔一登太行，一定会陶醉于它的壮丽景色和磅礴气势。然而，古人翻越如此崔巍艰险之太行山却非易事。曹操《苦寒行》云：北上太行山，艰哉何巍巍！
羊肠坂诘屈，车轮为之摧。
于谦仅仅靠着一匹瘦马，每年至少两次在太行山的陡峭山壁、沟沟壑壑之间跋涉。冬春时节，太原天寒地冻；夏秋两季，开封酷热难耐，两翻太行山，一趟正遇“三晋冲寒到”，越走越冷；另一趟则是“中州冒暑回”，越走越热，何况每趟都需要一个多月的时间，其间所经历的风刀雪剑的侵袭、风餐露宿的艰辛、披星戴月的劳累，常人是难以想象也是不堪承受的。
何况还有猛兽和强盗的威胁。一天，于谦以轻骑自河南往山西，夜经太行山，有群盗各持兵戎呐喊而前。随从们相顾骇惧，于谦厉声喝问：“你们是什么人？”好在于谦声望威重，名震晋豫。群盗知是于谦，竟惊慌而散。
但是，于谦坚持了整整十八个年头，这需要怎样的意志和毅力！
让后人感动和震惊的是，于谦从来没有把一年两度翻越太行山当做是一种不得已要承受的苦难，即使在年岁老去，身体衰弱时，也只有对亲人的思念和对身心疲惫的叹息，而从来没有流露出放弃的情绪。
太行山的崎岖山路、陡峭悬崖、猛兽盗匪并不足以使于谦身心疲惫，真正让于谦耗尽心力的是两省艰难的民情和处于深重灾难中的百姓。在同时任命的各省巡抚中，于谦的担子不为不重，因为山西、河南地域辽阔，而且是自然灾害多发地区，旱灾、水灾、蝗灾、霜灾等频仍相接，几乎没有一年不受灾的。
先来看看山西省。山西省全省位于黄土高原，是一个夹峙在黄河中游峡谷和太行山之间的高原地带，这里大部分地区海拔达一千米以上，山区面积占全省总面积的70%以上，以山西平面地图看，是一个长方形的斜四边形，由东北斜向西南，是一个由许多复杂山脉构成的高台地。山西是干旱高发省份，特别是晋西沿黄河的黄土高原丘陵地区、海河流域的朔州等地重旱灾的发生频率很高，此外，临汾和运城盆地、大同盆地、忻州盆地、太原盆地等地区也是旱灾频发地段。干旱缺水的气候，有利于蝗虫滋生，因而又会造成蝗灾。同时，山西的降水集中在夏季，因而又易引起洪涝。此外，还有霜灾、雪灾、雹灾等。
再来看看河南省。从山西到河南，就能够真正理解什么叫“旱水两重天”。河南最严重的是洪涝灾害。河南横跨黄河、淮河、海河等几大水系，境内1500多条河流纵横交织，尤其是黄河横亘河南，黄河的泛滥和决堤是河南最严重的水灾。
还有甚于天灾之人祸。于谦巡抚晋豫的前几年为宣宗执政时期，还实行了蠲免税粮、安置流民、赈灾救荒等一系列减轻民困的措施。
正统初年，太皇太后张氏健在，杨士奇、杨荣、杨溥在朝廷中还有很高的威望，仁、宣时的各项政策得以延承，社会局面相对清平。正统七年（1442），太皇太后张氏病故，三杨或死或病，朝廷大权由太监王振一人独揽，明朝政治趋于黑暗。土地兼并作为一大社会痼疾，到正统年间已经愈演愈烈，致使越来越多的百姓丧失家园，背井离乡。
王振擅权之下，大兴土木，连年用兵，增税不断，饥民、流民问题凸现，山西、河南自然不能幸免。
于谦踏上了晋豫大地，眼前所见并非如那些朝廷大臣每日奏报或台阁体诗人所吟咏的歌舞升平、天下大治的景象，他看到的是经济之萧条、农村之凋敝、生灵之涂炭。