当北方少数民族不断侵拢、西晋王朝面临崩溃的时候，晋朝有一些有志气的将领还坚持在北方战斗。祖逖就是这样的杰出代表。祖逖，从小就有为国效力，干一番大事业的远大抱负。
祖逖年轻的时候有一个年龄相仿、志趣相投的好朋友，叫刘琨。他和祖逖一样，也立志要报效国家。他们常常睡在同一张床上彻夜长谈。有一天深夜，刚睡醒的祖逖忽然听到一声鸡叫。他往窗外一看，天边挂着残月，东方还没有发白。心想：这样好的夜晚，正好练剑。于是，他把刘琨叫醒，说：“鸡都叫头遍了，赶紧起床练剑吧。”刘琨欣然同意，他们就一起下床拿着宝剑走出屋子，一直练剑到天亮。从此以后，他们风雨无阻，终于练就了一身过硬的本领。
后来，北方少数民族趁晋朝内乱之际，出兵占领了中原地区。公元311年北方匈奴汉国刘聪掳走晋怀帝司马炽，西晋群臣拥立司马邺为太子。公元313年怀帝被杀，司马邺在长安即帝位，是为晋愍帝。此时以司马睿为首的西晋王族和士族大户多已南迁，西晋已名存实亡，东晋在酝酿之中。祖逖也被迫离开家乡，带着家眷亲朋和其他一些人一起来到南方。大家都知道祖逖身怀绝技，而且为人豪爽、胸怀大志，所以纷纷前来投奔他，希望能在他的带领下，把入侵者赶走，重新返回家乡。
公元313年，祖逖请求时为左丞相的司马睿让他带兵北伐，可是司马睿无意北伐。但对于祖逖的请求，他也并没有一口回绝，而是除了1000人的粮食和3000匹布之外，不给祖逖一个兵卒。祖逖自己去筹备北伐所需要的一切，朝廷的不支持并没有动摇他北伐的决心。在祖逖的带领下，几百名志愿北伐的壮士乘船渡江，向北进军。祖逖在江中敲打着船桨宣誓说：“祖逖如果不能光复中原，这条大江我将不再踏入半步！”在祖逖这豪壮语言的鼓舞下，随行的人都斗志昂扬。
渡江之后，祖逖在与敌人作战的同时，不停地召集人马，锻造武器。中原的百姓深受感动，源源不断地把粮食和马草送给他们。黄河以南的部分土地很快就被祖逖收复了。
但是，这时的东晋朝廷根本无心抗战，他们相互倾轧，彼此猜忌。为了牵制祖逖，东晋王朝还给他派了一个叫戴渊的上司。这件事发生后，祖逖对朝廷十分失望，不久，他便在悲愤中死去。
■知识链接
祖逖智取后赵军粮
公元319年，陈留地方的豪强地主陈川投降后赵国主石勒，祖逖决定发兵进攻陈川。石勒派兵五万援救，被祖逖打败。接着，后赵将领桃豹与祖逖部下韩潜争夺蓬陂城。战斗了四十天，相持不下，双方的军粮都出现紧缺的状况。一天，祖逖用布袋装满泥土，派一千多名兵士扛着，运到了晋营，装作运粮的样子。后又派几个士兵扛着几袋米，运到半路，故意停下来休息。桃豹在赵营内看到晋兵运来那么多米，眼红至极，趁晋兵休息的时候，派了大批士兵来抢，晋兵丢下米袋就逃。赵营里早已断粮，抢到一点米，只能勉强维持几天。大家看到晋营里军粮充足，军心动摇了起来。于是，桃豹赶快派人向石勒求救。几天后，石勒派一千头驴子装运粮食接济桃豹。祖逖早就探得情报，在路上设下伏兵，把后赵的粮食全部截夺下来。这样，桃豹再也支持不住，连夜放弃阵地逃跑了。祖逖领导晋兵艰苦斗争，收复了黄河以南的全部领土，后赵的士兵陆续前来向祖逖投降。司马睿即帝位后，因为祖逖功劳大，封他为镇西将军。