据《后汉书·窦融传》记载，东汉时期，有个叫窦融的人，他从小丧父，在长安出入贵族门中，交结豪侠，但个人行为却相当谨慎。
王莽末年，他曾任“波水将军”。昆阳一战溃败后，降归刘玄(起义军领袖，曾一度称帝，号更始)，当了巨鹿太守。刘玄失败，窦融与酒泉太守梁统等人讨论大计说：“天下混乱，还不知道政权属于谁。这河西地方是羌胡中间一个走廊地带，大家若不同心协力，不能自保。我们应当联合起来，推举一人为大将军。”大家都赞成他的建议，公推他作河西五郡大将军，仍领属国都尉。河西风俗本来质朴，窦融施政又宽和，境内官民相安，财粮丰裕，武备修明。
不久，刘秀称帝，窦融有意归附。他召集各郡太守与本地名流共同讨论，决定派长史刘钧向光武帝奉书献马。光武帝大喜，任命窦融为凉州牧，并颁诏书一道，大意说：“现在陇、蜀相攻，将军举足轻重……，其实天下土地虽然可分，人民却是不可分的，在乎各自适应自己的情况就是了。”从此，窦融便一心一意尽忠于光武帝了。那时，隗嚣反叛朝廷，窦融大举出兵，与汉军东西呼应，打得隗嚣大败。
光武帝得到了窦融的支持，实力大增，等到灭了据益州称帝的公孙述之后，很快将陇、蜀平定了。
后人据此故事，用“举足轻重”作成语，说明由于所处位置极其重要，其一举一动都不能等闲视之，都会对大局发生重大影响或作用。