“吐谷浑本是辽西鲜卑徒河涉归的子孙。当初，涉归有二子，庶长子日吐谷浑，少子日若洛廆。涉归死后，若洛廆代为统领部落，是为慕容氏。吐谷浑与若洛廆不合，于是西度陇山，止于甘松以南，洮水以西，南至白兰山，地有数千里之广，据有今青海、新疆南部，其后代遂以吐谷浑为国氏焉。”（本节引文凡不注明出处者，均见《隋书·西域·吐谷浑传》）吐谷浑国内居民，皆为羌族。北魏、北周之际，首领始称可汗，都城伏俟城（今青海湖西岸布哈河河口附近），在青海湖西岸15里处。人们大都逐水草，过着游牧生活。国中亦有城郭，官职有王公、仆射、尚书、郎中、将军，其器械衣服略与中国相同。国无常税。法律为“杀人及盗马者死，余坐则征物以赎罪”。风俗与突厥相类似，国中“司马、博士皆用儒生”，“衣服略同于华夏。”（《北史·吐谷浑传》）这一记载表明、吐谷浑和汉族的联系已日见密切，汉代的制度和文化对吐谷浑已有较大的影响。
南北朝时，吐谷浑同南北均通商往来，北魏正始、正光年间，“牦牛、蜀马及西南之珍，无岁不至”（同上）。吐谷浑的农作物有大麦、粟、豆，多产嫠牛、铙铜、铁、朱砂，其特产“青海聪”为名马，能日行千里。东魏静帝曾娶吐谷浑王夸吕（或作吕夸）的从妹为嫔妃。由于周、齐交争，各自争取与国，因此，北周和吐谷浑虽有往来，也时常有战事发生。
开皇初年，吐谷浑曾出兵入侵弘州，隋文帝因弘州地广人稀，因而废弘州设置，派上柱国元谐率步骑兵数万人出击吐谷浑。吐谷浑王吕夸征发国中的全部士兵，自曼头至于树敦，甲士骑兵络绎不绝。吕夸所署河西总管、定城王钟利房及其太子可博汗，率兵前来拒战，接连被元谐击败，俘虏斩首甚多。吕夸大为恐惧，率领自己的亲兵远逃。吕夸部下的“名王”13人，各自率领自己的部落向隋军投降。隋文帝因为高宁王移兹裒平素很得人心，拜为大将军，封河王，令他统领投降的部众，其余也给予不等的赏赐。不久，吕夸又前来入寇边境。旭州刺史皮子信出兵抵拒，被吕夸击败，皮子信战死。汶州总管梁远率精兵出击，斩首千余级，吕夸逃奔而还。不久，吕夸率众人寇廓州（今青海贵德南），被州兵击败逃走。
吕夸在位多年，屡屡喜怒无常，“废其太子而杀之”。后来，所立太子惧怕被废辱，便谋划拘执吕夸向隋朝投降，向隋朝边境的官吏请求援兵。秦州总管、河问王杨弘请求率兵应援，隋文帝又是不予允许。吐谷浑太子的阴谋泄露，被其父吕夸所杀，又立少子嵬王诃为太子。垒州刺史杜粲请乘吐谷浑内乱而出兵征讨，隋文帝又是不予允许。
开皇六年（公元586年），嵬王诃惧怕被父王吕夸诛杀，谋划率部落1.5万人投奔隋朝，请求派兵迎接。为此，隋文帝对左右大臣说：
“吐谷浑的风俗，有异于常人的伦理，父既不慈，子复不孝。朕以德训人，怎能成就嵬王诃的恶逆，我当用做人的正道教导他。”
于是，隋文帝对嵬王诃派来的使者说：
“朕受命于天，抚育四海，希望使所有的人都能向往仁义。况且父子之间的情感，本出于天性，何得不相亲相爱！吐谷浑既是嵬王的父亲，嵬王是吐谷浑王的太子。父亲有所不是，做儿子的须进行劝谏。如果劝谏而不听从，应当令近臣亲戚从内外用委婉的话进行劝说。若是再不听从，便哭泣着进行劝谏。人都是有感情的，如此定能使父亲感动省悟。不可暗中谋划非法的事，落得个不孝的名声。普天之下，都是朕的臣妾，都能各自多做善事，朕也就称心如意了。嵬王既然是一片好意，想要来投奔朕，朕惟有教嵬王为臣子之道，不可能向远方派出兵马，助他人做恶逆的事。”
嵬王听到使者的回报后，便中止了投奔隋朝的谋划。
开皇八年，吐谷浑的名王拓拔木弥请求率千余家归顺隋朝。为此，隋文帝对臣下说：
“普天之下，皆为朕臣，虽地处荒远，不知晓风化教诲。朕的抚育，都是以仁孝为本。浑王昏庸，他的妻子都想要归顺，自救于危亡。然而，背叛丈夫、父亲，不可收纳。察其本意，本是避死，如果拒不接纳，又属不仁；如果更有意信，只应安抚劝慰，任其自行逃离，不须出兵马接应他们。拓拔木弥的妹夫及外甥想要前来，也是任凭他们自己拿定主意，不得进行劝诱。”
这一年，河南王移兹裒死，隋文帝使令他弟弟统率其部众。
开皇九年，隋文帝平定南陈，势力强盛，吕夸大为恐惧，逃遁而据守险要，不敢再骚扰隋朝边境。
开皇十一年，吕夸死，其子伏立为吐谷浑王。伏派兄子无素奉表向隋文帝以藩国自称，向隋朝贡献特产，请求献女儿充实隋天子的后宫。隋文帝对膝王说：
“这并非是出于至诚之意，不过是困急之计而已。”于是，隋文帝对来使无素说道：
“朕知道浑王想要使令女儿侍奉朕，如果依从来请，其他国家闻知后，便当效仿。有的允许，有的不允许，是不公平；如果都予以允许，又不是好的办法。朕存心安养自身，任其自然，怎可以聚敛子女来充实后宫？”
隋文帝最终没有答应吐谷浑王伏献女的请求。
开皇十二年，隋文帝派刑部尚书宇文弼安抚慰问吐谷浑王。
开皇十六年（公元596年），隋文帝以光化公主为吐谷浑王世伏妻，世伏上表称公主为天后，文帝不予允许。
开皇十七年，吐谷浑国内大乱，国人杀世伏，立其弟伏允为王，派使臣向隋文帝陈述国中废立国王的事，向隋朝表示谢罪，并请求娶隋公室女为妻，隋文帝予以允许。从此以后，每年按时朝贡，但又时常探听隋朝内部的消息，隋文帝因此很厌恶他。
吐谷浑是隋王朝西部边境的强敌之一，吕夸王曾多次率众入寇边境，隋文帝派兵将其击退。对于吐谷浑吕夸王同太子间的内部矛盾以及太子、名王归降等事，隋文帝采取正面劝导和不介入的政策；对于吕夸王的后继者伏与伏允又采取和亲政策，再加之平定南陈后隋王朝势力的强大，隋文帝同吐谷浑之间大体上维持着和平友好的关系。这对于彼此之间经济文化交流的加强，无疑是有益的。隋文帝西和吐谷浑的政策，亦有助于隋王朝的发展和强盛。