秦始皇帝“焚书坑儒”的残暴做法，连他的长子扶苏都表示坚决反对，他对父亲说：“天下刚刚太平，远方的百姓还没有安稳。儒生们只不过是孔子的门徒。一些读书人能掀起多大风浪？重刑制裁书生，恐怕会引起骚乱。”
“这些人其中有以装神弄鬼欺骗朕的，也有以古非今诽谤朕的，不严加惩治，如何警示天下！”秦始皇帝气愤地说。
扶苏又将他巡察外地所闻所见向秦始皇帝报告。他的本意是希望父亲能够轻刑法减徭役，给百姓以休养生息的机会，以巩固秦朝统治。这些话却把秦始皇帝心中的怒火再次点燃起来。秦始皇帝走到扶苏面前，注视着他，怒声道：
“天下都拿修筑长城和移民实边的事来指责朕，他们应该到北方去看看，那里的黔首（指百姓）过的是什么日子！天天生活在死亡的阴影之下，几年辛苦所得的一点收获，几天就全部被匈奴拿走。不彻底解决这个问题，匈奴之祸就会逐渐蔓延到内地来。他们不懂，你是朕的儿子，你应该懂！”说到这，秦始皇帝突然停住。注视着眼前的长子，笑纹涌上眼角，慈爱之情使他的声音变得柔和了。他说：
“扶苏，朕命你去上郡任大将军蒙恬的监军，一来真正看看民间疾苦；二则，学习点军事对你将来会有好处。”
“是，儿臣遵命。”扶苏叩首退出。
公元前215年，始皇帝第四次出巡，这次出巡主要的目的是巡视北方边塞。从咸阳出发直至碣石（今河北乐亭附近），沿途皆原韩、赵、魏、齐边境交界，有不少原来建的城郭、关塞、路卡阻塞交通。秦始皇下令堕毁城郭，决通川防，夷平大道上的险阻。到了碣石他又令颂功刻石，把这些功绩都记载下来。然后又经右北平、渔阳、上谷、雁门、云中诸郡，视察了北方边塞。当时北方匈奴部族经常骚扰，给边境造成一定的威胁，所以始皇帝回来就下令大将军蒙恬率30万大军北击匈奴，并修筑万里长城，还先后迁移几十万户内地居民到北部边疆屯垦戍边，现在又派长子扶苏亲赴前线。
匈奴是个几乎与华夏族同样古老的民族，其祖先叫淳维，大约与夏王朝同时。匈奴这个称谓最初见于战国时代，在战国之前，有时称荤粥，有时称鬼方，有时称猃狁，其实都是匈奴的转音。匈奴是个游牧民族，没有文字，若不是大史学家司马迁在《史记》中特辟有《匈奴列传》，那么这个在历史上很重要的民族的一些情况，后人将很难知道。据司马迁记载，匈奴的风俗习惯和生活方式与中原的农业民族是迥然不同的，他写道：匈奴……生活于蛮荒之地，跟随畜牧四处迁徙。牲畜的种类主要有马、牛、羊，其中比较奇特的是骆驼、驴、骡……匈奴人因逐水草而四处迁徙，所以没有城市也没有农业。但各部落间也划定自己的势力范围。没有文字书籍，语言是他们彼此联系的惟一工具。匈奴人在儿童时就能骑马，弯弓射杀飞鸟和老鼠；稍微长大后，就能射杀狐狸和野兔，以此作为食物。年轻人全都是射箭好手，也全都是能打仗的战士。匈奴人的风俗，平时大家集中全力搞畜牧业，把打猎当成重要的副业；战时，人人参战，进攻别人，这是他们生就的本性。匈奴人的长兵器是弓箭，短兵器是刀矛。打仗时，他们有利就前进，不利则后退，不以逃跑为耻辱。只要有利可图，根本不讲礼仪。从君王以下，都以肉为食，以皮为衣，外面披着皮袄。年轻人吃上等饭食，老人吃剩下的东西。以年轻健壮为贵，以衰老虚弱为贱。父亲死后，儿子可以娶后母为妻，兄弟死后，活着的可娶兄弟的妻子……司马迁笔下匈奴人的风俗，在中原人看来既新奇又不可理解。实际匈奴人对中原人的那套礼仪和农耕生活同样感到陌生。用今天的话说就是两个民族两种文化。自古至今，文化差异和因文化差异而形成的心理隔阂，从来就是各民族间互相交往和理解的最主要的障碍，也是各民族间不断冲突的主要原因。华夏族在与外族的长期斗争中，始终处于优势地位，因此文化沙文主义和文化自恋心态十分严重。历朝历代的口号是，“用夏变夷’，即用中原文化去同化其他民族的文化。但北方的草原文化与中原的伦理文化差别太大，这从太史公的记载中就可见一斑了。正因为这样，中原地区与北方草原地区的冲突就成了历史上一个长期不能解决的难题。
秦始皇帝也深知对遥远的外族用兵非同小可，于是决定召开御前会议讨论这件大事。在讨论中，大臣们分成两派：主战派和反战派。以蒙恬为代表的军事贵族坚决拥护和支持秦始皇北伐匈奴的战略决策。天下统一后，国家恢复了文治，军事贵族们觉得他们失去了用武之地，在政治上有可能遭到冷落。为了确立他们不可动摇的政治地位，他们需要战争，因为只有战争才能给他们带来更大的权力和更多的财富。所以当听到秦始皇帝打算北伐匈奴时，他们自然由衷地表示拥护和支持。
然而这次，一向以深刻领会秦始皇帝意图为能事的丞相李斯，却一反常态，成为反战派的代表，坚决反对北伐匈奴的决策。他直言不讳地说：“我不同意。据我了解，匈奴与内地不同，他们不住城市，除牲畜外无可守之财，来去不定，很难控制。如果我们轻兵深入、粮草绝难以持久；如果我们举军齐进，携粮以行，势必行动迟缓，捕捉不到战机。我们即使夺得了匈奴的土地，也无利可图；征服了匈奴的民众，也难以统治他们。这样，我们战胜之后，就必须把他们杀光，这又不是民之父母的我们应该干的事。我认为，这场战争只能耗损我们的国力，使匈奴拍手称快，陛下的举措实非长治久安之策。”李斯之所以敢于如此扫秦始皇帝的兴，原因有二：其一，他毕竟是总理全国事务的丞相，难道他不知道在建国后这短短几年中秦始皇帝折腾的程度吗？修宫殿、修驰道、修坟墓、大移民、大巡游，除了生产活动之外，这些事情是齐头并进、花样翻新，搞得轰轰烈烈、沸沸扬扬。要以李斯的理智去考虑，这些事情应该有个轻重缓急，有个孰本孰末之分，但他还是全心全意支持皇帝的主张。然后认认真真，不折不扣地去落实这些主张。因为他清楚他的权力是谁给的，他的富贵是哪里来的。今天，他敢于鼓起勇气，去触逆鳞，实在是感到在这许许多多的非生产性活动之外，如果再来一次大规模的对外战争，帝国的人力、财力、物力将支撑不住了。其二，作为官僚化知识分子代表的李斯，也绝不愿意看到军事贵族们通过对外战争捞取更大、更多的政治资本，反过来威胁他们的政治地位。想到这些理由，他就不得不冒点政治风险，第一次在大庭广众之下，犯颜直谏了。
但事情的结果是很清楚的。秦始皇帝有个特点，那就是谁越赞成某件事，他倒未见得去干，但是谁越反对某件事，他反倒要坚决去干。这种逆反心理其实很好理解，这无非是一些人维护权威和尊严的一种愚蠢的做法。对于个性十分敏感的秦始皇帝，这种心理就表现得更为突出。秦始皇帝听完李斯的这番议论，大为不悦，他突然觉得文官实在是面目可憎，听到战争、流血他们就变得萎缩不前、蝇营狗苟，真不如这些能征善战的赳赳武夫忠诚、勇敢，能够摸透他这个帝王的心思。他断然否定了反战派的意见，任命大将蒙恬为统帅，率军30万，北伐匈奴。
蒙恬在秦帝国的上层社会中可是个非同小可的人物。他是大将蒙骛的孙子、蒙武的儿子。前者活跃于秦昭王到秦始皇帝即位之初，屡立战功，名扬天下，死于秦始皇七年。蒙武是灭楚战役的主将，俘虏过楚王负刍，又参加了平定东越的战役，也是一位战功卓著的军事家。蒙恬承祖业，得为秦将，曾在灭齐战役中大显身手。蒙氏三代为将，在秦国后期的政治舞台上很有影响，堪称是纯粹的军事贵族。蒙恬本人不仅懂军事，而且精通法律，喜欢文学，所以很受秦始皇帝的赏识。而蒙恬的弟弟蒙毅，更是秦始皇帝的亲信，他“位至上卿，出则参乘，入则御前”。兄弟两人，“恬任外事而毅常为内谋，名为忠信，故虽诸将相莫敢与之争焉”。蒙恬与蒙毅可以说是少壮派军事贵族的代表人物，是当时政坛上升起的两颗耀眼的新星。这次秦始皇帝把对匈奴发动战争的重任交给了他们，就很说明问题。
秦国的军人虽然号称“虎狼之师”，但过去打的是内战，是与群雄逐鹿于中原。这里土地平阔，气候温暖，交通畅达，地形熟悉，所以十分便于用兵。这次，秦帝国的30万大军所到之处却是迢迢千里之外的苦寒之地。这里荒无人烟，大漠横亘，气候恶劣，土壤瘠薄，兼之无路可走，辎重难继，使这场战争打起来十分艰苦。
秦始皇三十二年夏秋之际（公元前215年），蒙恬率军来到河套地区。当时河套以北到阴山，河套以南到鄂尔多斯大草原这一广大地区，是匈奴人的主要活动场所。蒙恬分兵两路，自己率领主力军由上郡经榆林，迂回到河套北部；另外一支秦军由萧关（今甘肃省固原县东）插入河套南部，形成了对河套地区匈奴人的包围之势。但这场战役并不像蒙恬设想的那么壮烈，因为匈奴人自以为力量单薄，无法对抗来势汹汹的30万秦军。于是在其领袖头曼的带领下，采取了“利则进，不利则退”的机动灵活战术，主动北撤。秦军在未遭到抵抗的情况下，将河套以南的“河南地”全部收复，并更名为“新秦中”。捷报传到咸阳，秦始皇帝大为振奋，立刻命令蒙恬军在原地度过冬天，准备第二年对匈奴发动春季战役。
秦始皇三十三年（公元前214年）初春，在熬过了一个最艰苦的冬天之后，蒙恬又率秦军主力由九原（今内蒙古自治区包头市西北）渡过黄河，攻占了高阙（今内蒙古自治区托克托、萨拉齐二县北，山名）和阳山（今狼山山脉）这片后来被称为“北假中”的地区；另一支秦军西渡黄河，一直打到贺兰山，方才收兵。至此，对匈奴的战争告一段落。
这场战争与其说是歼灭匈奴人的战争，不如说是一场驱赶匈奴人的战争，因为在这场战争中，秦军始终没有捕捉到匈奴的主力，没有找到歼灭其有生力量的作战机会。由于匈奴人的主力远遁他处，这使秦军“终不能逾河而北”，完全彻底地击垮匈奴人，结果不仅匈奴的威胁依然存在，而且激化了秦与匈奴的矛盾，加速了匈奴的崛起。因为面对着蒙恬的30万大军，使他们很容易认识到，只有团结一致才能对付当时大军压境的严重局势，这就是所谓“同忧者相亲”。面对这种新形势，秦军只能转攻为守，从而失去了战略主动权。
经过秦始皇帝的批准，蒙恬军由野战军转为边防军，担负起长期守边的任务。为了巩固这一地区的防务，秦帝国在榆中（今内蒙古自治区鄂尔多斯黄河北岸）沿着黄河向东，直到阴山脚下的这片广大地区里设置了44个行政县，在黄河沿岸筑城以为要塞。并强迫内地大批“罪人”到新设置的各县服苦役，在秦始皇三十六年，又强迫内地民户3万家迁到北河、榆中地区戍边。此外在高阙、狼山等前线地区，修筑守望台，强迫草原民族北迁。