唐贞观后期，唐太宗想亲征高丽，从贞观十八年（公元644年）秋开始，即调集军资粮草和招募军士，积极进行战争准备。薛仁贵就到将军张士贵处应募，被收为部属。不久，唐太宗亲征高丽，张士贵军行至安地时，郎将刘君为当地武装所围。薛仁贵闻讯后，单骑前往营救，击斩敌将，系其头于马鞍，降伏余众，救刘君回营。从此，薛仁贵名闻三军。
唐高宗龙朔元年（公元661年），回纥酋长婆闰死了，其侄比粟毒带领部众与同罗、仆固侵犯唐朝边境。唐高宗诏令左武卫大将军郑仁泰为铁勒道行军大总管，燕然都护刘审礼和左武卫将军薛仁贵为副；鸿胪卿萧嗣业为仙萼道行军总管，右屯卫将军孙仁师为副，带兵前去讨伐。临行前，唐高宗特意在内殿赐宴，为其饯行。席间，唐高宗对薛仁贵说：“古善射有穿七札者，卿试以五甲射焉。”薛仁贵应命，置甲取弓箭射去，只听弓弦响过，箭已穿五甲而过。唐高宗大吃一惊，当即命人取坚甲赏赐薛仁贵。
次年三月，铁勒九姓部落知道唐军将要到来，纠合了10余万人来抵抗，并从中挑选勇猛善战的数十人来挑战。薛仁贵出阵连发3箭，箭无虚发，射死3人，其余的敌军吓得全部弃鞍下马请降。
薛仁贵令部下将他们全部活埋，然后率军越过沙漠以北，攻击其余铁勒部队，俘虏了叶护兄弟3人回营。
从此，唐军中传颂着这样的赞歌：“将军三箭定天山，壮士长歌入汉关。”尔后铁勒九姓衰败，不再为患边境。