窦融若论出身也很高贵。当年他的七世祖窦广国是西汉孝文帝窦皇后之弟，封为章武侯。窦融高祖父自常山徙于平陵。窦融很早就没了父亲，王莽时期在强弩将军王俊部下做司马，以军功封为建武男，其妹嫁大司空王邑为小妻。在全家徙居长安之后，窦融一家与当时的王氏家族等皇亲国戚联系紧密，窦融为人慷慨豪爽，一度是长安有名的任侠之士。
王莽末年，起义者蜂起。王莽遣太师王匡前往镇压，王匡请窦融为助军，与樊崇战于青州、徐州一带。地皇三年（22年），窦融复从王邑征讨刘秀，大败于昆阳，逃回长安。汉兵入关时，经王邑推荐，窦融为波水将军，引兵至新丰，企图堵截起义军西进。王莽失败后，窦融投降更始军，在大司马赵萌部下为校尉，后被推荐出任巨鹿太守。窦融见更始政权不稳，东方纷乱，不愿出关。他的高祖父曾为张掖太守，从祖父曾为获羌校尉，从弟为武威太守，累世在河西，知道当地的风俗，便悄悄对其兄弟说：“现在天下的形势非常混乱，河西这个地方比较富庶，又有黄河作为屏障。张掖属国拥有精兵万骑，一旦有什么危险，凭借天然地理优势和这些兵力足以保得一方平安，我们家族可以在当地避开战乱之祸。”兄弟们也都同意他的看法。窦融于是辞巨鹿太守，谋求镇守河西，并且顺势将家属也带了去。
在河西，窦融全力抚结雄杰，怀辑羌众，河西民心向之。后来窦融又与酒泉太守梁统、金城太守库钧、张掖都尉史苞、酒泉都尉竺曾、敦煌都尉辛肜等结交，他们一致推窦融行河西五郡大将军事。是时，武威太守马期、张掖太守任仲得知消息，解印绶离去。窦融仍居于属国，领都尉职，而置从事监察五郡。河西民俗质朴，窦融为政也宽和，一时上下相亲，河西为当时一大平安富足之地。窦融等练兵马，习战事，明烽燧，防止羌人扰乱，又避免了匈奴的侵扰。刘秀称帝后，窦融便想归附，因路途遥远而未能联系上。隗嚣曾派遣辩士张玄到河西游说，建议各自割据一方。窦融问班彪的意见。班彪还是坚持自己对于天下大势的看法，建议窦融最好顺应形势，归顺光武帝，同时总西河以拒隗嚣。窦融原本就是个小心谨慎的人，便不再犹豫打定主意归于光武帝麾下。
建武五年（29年）夏，窦融遣长史刘钧向光武帝奉书献马，梁统等人也都各遣使者和刘钧一起去洛阳，刚好刘秀也派遣使节出使河西，争取窦融等共同对付隗嚣、公孙述。双方使者在半路上相遇，一起回到了洛阳。刘秀见到刘钧等很高兴，亲自给窦融写信，信中大大称赞了窦融安定河西，具有远见卓识，同时还赏赐黄金二百斤，授其为凉州牧。窦融接到刘秀的信，又让刘钧回信详细表明了自己归顺刘秀的意思，同时还派弟弟窦友到洛阳去面陈心迹。窦友行至高平，遇上隗嚣叛汉，道路隔绝，只好回到河西。窦融当下写信给隗嚣，批评他出尔反尔，不识时务，不顾民生，要他深思逆顺之道。隗嚣不理睬。窦融于是同五郡太守共作战备，上书请战。刘秀对窦融的态度和表现颇为赞赏，并与其拉上外戚关系，说窦融乃文帝窦后家后裔，自己是窦后所生景帝之子定王之后；还说汉兵即将西进，希望窦融到时候能够在西线配合汉兵作战。窦融得到诏令，随即与诸郡守率兵入驻金城，进击投顺隗嚣的先零羌封何之众而大破之。只因汉兵未进，窦融乃引还。这时，梁统也与隗嚣断绝关系。
建武七年秋，隗嚣攻安定。刘秀率兵亲自西征，与窦融等约定了会师的时间。但是因为遇上了大雨，道路走不通，加之隗嚣又已经退兵，只好作罢。窦融已至姑臧得到诏令而罢归，他恐刘秀久不出兵，上书向刘秀建议抓紧时机，东西夹击隗嚣，若旷日持久，则易生变故。刘秀采纳了窦融的建议。建武八年，光武帝正式发兵征隗嚣。窦融率五郡太守及羌、小月氏等，步骑数万，辎重五千余辆，与刘秀胜利会师。刘秀举行盛大宴会，待窦融以殊礼，任其弟窦友为奉车都尉，从弟窦士为太中大夫。双方一同进军，将隗嚣的军队打得大败。刘秀因功封窦融为安丰侯，食安丰、阳泉、寥、安风四县。封其弟窦友为显亲侯，诸将也得到封赏。封赏完毕，刘秀率众东归，仍然命令窦融等继续在故地镇守，以安抚民心。班彪看到窦融归附光武帝一事进行得如此顺利，心里非常高兴，看形势不久的将来天下一定会统一，这样自己一家四处东躲西藏的流浪日子也快结束了。好好抚养几个孩子，让他们以后能够有所作为，重新振兴家业成了他最大的心愿。