在西晋末年，社会动荡不安，“八王之乱”的硝烟弥漫整个中原。趁此机会，羯族的石勒与匈奴族的刘聪率领大军，向中原发起猛烈的进攻，导致中国北方陷入一片混乱与分裂。在这危机关头，祖逖心怀家国，与挚友刘琨共同发奋读书，立志有朝一日能挥师北伐，重振中原。
公元311年，洛阳城破，晋怀帝沦为俘虏，中原战火连天，百姓为逃避战乱，纷纷南迁。祖逖虽满腔热血，欲赴战场杀敌，但无奈手中无权，无法抵挡外敌入侵。于是，他毅然决定带领家人与乡亲们一同南下避难。途中，他始终关心他人，主动维护秩序，遇见年老体弱者，便慷慨让出自己的马匹；见到百姓困境，便毫不吝啬地分享衣物、粮食与药物。因祖逖的慷慨与智谋，众人一致推举他为“行主”，即逃难队伍的首领。
在祖逖的带领下，难民队伍平安抵达京口（今江苏镇江），并在此安顿下来。尽管身处江南，祖逖恢复中原的志向却从未动摇。他精心挑选难民中的青壮年，组织他们习武备战。此举吸引了更多从北方逃来的难民和志在恢复中原的爱国之士前来投奔，队伍迅速壮大，士兵人数很快达到数百人。
琅邪王司马睿见祖逖势力日益壮大，为拉拢他，便封其为军咨祭酒。然而，身在江南的祖逖，心中仍念念不忘中原故土。上任不久，他便多次向司马睿请战，希望挥师北伐，但始终未能如愿。
在清明节时，王导向东晋的南渡官员们重提恢复中原的壮志，这深深触动了这些官员们的心弦。他们纷纷向晋元帝上疏，恳求发兵北伐，光复中原。此消息令祖逖欢欣鼓舞，他迅速赶赴建康，与其他官员共同向晋元帝请缨出战。
祖逖在递交给司马睿的奏章中写道：“八王之乱”为胡人入侵提供了契机，致使中原沦陷。当前，北方百姓正饱受苦难，他们渴望驱逐胡虏，恢复中原。因此，只要陛下下令北伐，我等愿即刻领兵直取中原。北方民众定会响应，与我们并肩作战，共同驱逐胡人。如此，光复中原指日可待。
然而，晋元帝却志在江南稳坐皇位，并无收复中原之志。加之东晋政权初建，国力尚弱，不宜轻举妄动。因此，他对祖逖等人的请求总是敷衍了事。
尽管屡次上疏未果，祖逖的北伐决心却毫不动摇。他继续向晋元帝进谏。面对祖逖的再三恳求，晋元帝只得采取折中策略，封他为奋威将军、豫州刺史。尽管这只是一个有名无实的职位，并未配备武器和人马，仅象征性地拨给三千匹布和一千人的口粮，但祖逖却倍加珍惜。
他接到圣旨后即刻从建康返回京口，当地百姓闻讯纷纷投奔。祖逖对这些人进行整编，使部队迅速从数百人扩充至数千人。随后，他购置了十几艘大船，为北伐做好充分准备。
公元313年秋，祖逖率领自组的jūn_duì 横渡长江北伐。京口百姓纷纷到江边送行。虽已年逾五十，祖逖仍精神矍铄。他身披战袍，腰悬宝剑，站在战船上与百姓告别。当战船驶至江心时，他心潮澎湃，手持木桨敲击船舷，慷慨陈词：“父老乡亲们，我们誓要收复中原！若不能实现此目标，我必将以身殉国！”将士们闻言士气大振，纷纷表示愿追随他至死不渝。