洛阳五校营变乱的同一日，石勒在众将的一再劝说下，终于下令退兵。
他当时双手搀扶起跪在面前的孔苌，目露悲凄之色，徐徐说道：“朕本并州躬耕一小羯，其后动乱，被卖为牧奴，复与卿等十八骑纵横于赵魏之间，乃得举兵，竟敢图谋天下——迄今已十五六岁矣。想那汉高祖，本沛上小吏，汉光武，陈留秀才，汉光文，胡部贵帅……古来帝王，出身绝无比朕更低微者。
“能以奴隶而至南面称尊，上天待朕亦厚，惜乎朕未能把握机会，复欲侥幸走险，乃至于此。然而富贵已极，平生强敌，如王弥、苟晞、王浚等，亦皆为朕所杀，还有何憾哪？本欲就此自绝，当不输于项羽在乌江，或可使后世读史者抉一捧泪，奈何卿等……
“卿等十八骑，自随朕以来，时有伤损，数年之间，即丧冀保、刘鹰、刘征、刘宝、张噎仆、张越、孔豚、赵鹿……呼延莫也陷身于贼，所余唯卿等。朕又怎忍心卿等因朕之过，伴朕而死呢？为今之计，只有从卿之言，暂且退兵，严守河北，或许卿等尚有得尽天年之望……若卿等俱亡，朕也唯有从卿等去了，区区国家，何足道哉？！”
但是石勒也知道，想要在敌前撤退，不是那么容易的事情，于是先命不撤营中旗帜，以惑晋人，而自率大军潜出，退向敖仓，复自敖仓沿河北遁。他下令留下厘、陇、管三城守兵，由郭黑略统领，作为阻挡晋师的第一道防线；命桃豹守备卷城，作为阻挡晋师的第二道防线；余众俱退。
计划大军分三部分，一部由扈亭北渡，二部由铜关北渡，三部自棘津、文石津方向北渡——这是因为十来万大军，即便有足够的船只，若经一处涉渡，也不可能短短数日内便即全过黄河，一旦被晋人追及，堵在河岸上，则必致惨败哪。
至于祖逖得知李矩收复州县的消息，则比石勒要晚一天——终究敖仓、扈亭等处全都掌握在赵军手中，荥阳也被三面包围，李矩的信使想要穿越重重封锁，顺利进入荥阳城内，不是一件容易的事情。好在李世回真正是黄河中游的地头蛇，昔曾于河内、荥阳等地与胡军长期周旋，不但地理稔熟，就连很多附羯的坞堡，也都与之暗通声气，所以虽然晚了一天，信报还是顺利传入了祖逖的耳中。
倘若南下传信之人全都失败，被迫要先自河南涉渡，经成皋赶往荥阳，估计就彻底不赶趟了。
祖逖得报，不禁大喜，急忙亲自登上城头，觇看羯军营垒，待下城后便召聚诸将，说：“河内战局大好，羯贼因此而退，这正是我转守为攻的大好时
…。。