初范阳祖逖少有大志与刘琨俱为司州主薄同寝中夜闻鸡鸣蹴琨觉曰此非恶声也因起舞及渡江，左丞相睿以为军祭酒，逖居京口，纠合骁健，言于睿曰:“晋室之乱非上无道而下怨叛也，由宗室争权，自相鱼肉，遂使戎狄乘隙，毒流中土。今遗民既遭残贼，人思自奋，大王诚能命将出师，使如逖者统之以复中原，郡国豪杰必有望风响应者矣。”睿素无北伐之志，以逖为奋威将军、州刺史，给千人廪，布三千匹，不给铠仗，使自召募。秋八月，逖将其部曲百余家渡，中流，击楫而誓曰:“祖逖不能清中原而复济者，有如大江！”遂屯淮阴，起冶铸兵，募得二千余人而后进。逖既入谯城，石勒遣石虎围谯，桓宣救之，虎解去。晋王传檄天下，称:“石虎敢帅犬羊，渡河纵毒，今遣九军，锐卒三万，水陆四道，径造贼场，受祖逖节度。”大兴三年，逖镇雍丘，数遣兵邀击后赵兵，后赵镇戍归逖者甚多，境渐蹙。秋七月，诏加逖镇西将军。逖在军，与将士同甘苦，约己务施，劝课农桑，抚纳附，虽疏贱者皆结以恩礼。逖练兵积谷，为取河北之计。后赵王勒患之，乃下幽州为逖修祖、父墓，置守冢二家，因与逖书，求通使及互市。逖不报书，而听其互市，收利十倍。禁诸将不使侵暴后赵之民。边境之间，稍得休息。四年秋七月，以尚书仆射戴渊为西将军，镇合肥，逖以已翦荆棘收河南地，而渊一旦来统之，意甚怏怏，又闻王敦与刘刁构隙，将有内难。知大功不遂，感激发病。九月，卒于雍丘。豫州士女若丧父母，谯、梁间皆为立祠。祖逖既卒，后赵屡寇河南，拔襄城、城父，围谯。豫州刺史祖约不能御，退屯寿春。后赵遂取陈留，梁、郑之间复骚然矣。
从前，范阳有一个叫祖逖的人，年轻时就有大志向，曾与刘琨一起担任司州的主簿，与刘琨同寝，夜半时听到鸡鸣，他踢醒刘琨，说：“这不是令人厌恶的声音。”就起床舞剑。渡江以后，左丞相司马睿让他担任军咨祭酒。祖逖住在京口，聚集起骁勇强健的壮士，对司马睿说：“晋朝的变乱，不是因为君主无道而是臣下怨恨叛乱，由皇亲宗室之间争夺权力，自相残杀，这样就使外族人钻了空子，祸害遍及中原。现在晋朝的遗民遭到摧残伤害后，大家都想着自强奋发，大王您确实能够派遣将领率兵出师，使像我祖逖这样的人统领军队来光复中原，各地的英雄豪杰，一定会有闻风响应的人！” 司马睿一直没有北伐的志向，他听了祖逖的话以后，就任命祖逖为奋威将军、豫州刺史，仅仅拨给他千人的口粮，三千匹布，不供给兵器，让祖逖自己想办法招募士兵。祖逖带领自己私家的军队共一百多户人家渡过长江，在江中敲打着船桨说：“祖逖如果不能使中原清明而光复成功，就像大江一样有去无回！”于是到淮阴驻扎，建造熔炉冶炼浇铸兵器，又招募了二千多人然后继续前进。祖逖已经进入谯城，石勒派遣石虎包围了谯城，桓宣来解救祖逖，石虎解围而去。晋王传檄文昭告天下，称:“石虎胆敢率领犬羊乌合之众，渡过黄河荼毒民众，现派遣琅邪王司马裒等九军、精锐士卒三万，由水、陆四路直赴贼寇所在地，受祖逖指挥。”大兴三年，祖逖镇守雍丘，多次派遣兵士拦击后赵军队，后赵镇守的将士归附祖逖的很多，后赵疆土日益缩小。这一年秋天七月，皇帝下诏加封祖逖镇西将军，祖逖在军中，与将士同甘共苦，严于律己，广施恩惠，勉励督促农业生产，安抚接纳新来归附的人，不论贵贱都加以礼遇。祖逖在积谷练兵，为夺取黄河以北做打算。后赵王石勒很担心这件事，于是到幽州为逖修了祖父、父亲的坟墓，安排了两户人家替他们看守祖坟，于是给祖逖写了一封信，请求通使及互相贸易。祖逖没有答复这封信，而听凭双方民间互相贸易，收取十倍的利润。禁止将领们不使他们侵犯后赵的百姓。两国边境之间，稍微得到了休养生息。四年秋七月，朝廷让尚书仆射戴渊为西将军，镇守合肥，祖逖已经扫除了障碍，收复了黄河以南的土地，而戴渊突然有一天来统领这里，祖逖内心怏怏不乐，又听说王敦与刘刁互相结怨，将要有内乱。祖逖知道大功不能告成，情绪激动引发重病。九月，死在雍丘。豫州的男女百姓都像失去了自己的亲生父母，谯国、粱国之间都为祖逖建立祠堂。祖逖去世后，后赵多次侵犯河南，攻取了襄城、城父，包围谯城。豫州刺史祖约不能抵抗，退守寿春。后赵于是攻取陈留，梁、郑之间又骚乱不安了。