遂克益都。徐达乘胜攻取寿光、临淄、昌乐、高苑等地。元乐安（今山东惠民）、长山（今山东淄博）、新城（今山东桓台）等地皆相继归附。
十二月初，张兴祖至东平，逼走元将冯德，追至东阿，安山（今山东东平西），迫使元将陈璧、杜天佑、蒋兴等各率所部归降，进而围攻济宁，元守将陈秉直接逃走。十二月上旬，徐达带领士兵至济南，元将多尔济投降，密州（今山东费县北）、蒲台（今山东滨州）、邹平（今山东邹平）的元将，亦先后请降。徐达决定继续向东略地，命傅友德进攻莱阳，自己带兵返回益都，东攻登（今山东牟平）、莱（今山东掖县）二州。元惠宗见山东形势危急，命中书右丞相伊苏、太尉知院托和齐、中书平章政事呼琳岱、陕西行省左丞相图噜等进军山东，然而诸将都不听从命令。[4]
至正二十八年（1368年）三月，徐达在基本上占领山东之后，从济宁进攻汴梁（今河南开封），同时派一部分军队经河南永城、归德（今河南商丘）趋许昌，并命邓愈率襄阳、安陆、江陵之兵北攻河南南阳，策应北征主力作战。三月底，徐达进抵陈桥（开封市东北），元汴梁守将李克彝夜驱军民西遁，元将左君弼率所部投降。徐达进入汴梁后，立即率步骑经中湾（今河南封丘西南）西攻洛阳。
四月上旬，徐达军自虎牢关进至洛阳塔儿湾，元将托音率5万元军在洛水以北列阵，被常遇春强行突破，退至陕州（今河南陕县）。驻守洛阳的元梁王阿哩衮见大势已去，率官民出降。徐达继续挥兵略取嵩（今河南省嵩县）、陕、陈（今河南太康）、汝（今河南临汝）诸州，并命冯国胜率所部进攻潼关。由汴梁退守潼关的元将李思齐和张思道，听说明军又逼近潼关，急忙率领部队西逃。明军向西连续攻克陇（今陕西陇县）、秦（今甘肃天水）、巩昌（今甘肃陇西）、兰州等地，进逼临洮，李思齐末路穷途，只好投降。徐达命薛显进攻西宁（今青海西宁），亲率主力进攻庆阳。
五月初，连续攻下安定（今甘肃定西）、会州（今甘肃会宁）、靖宁（今甘肃靖宁）、隆德（今甘肃隆德），经萧关前往平凉（今甘肃平凉），一方面分兵进驻战略要地延安及泾州（今甘肃泾州），另一方面派张涣率骑兵侦察庆阳的动静。张思道早在明军攻克临洮时，便留下弟弟张良臣与部将姚军守庆阳，自己则逃往宁夏，结果被库库擒获。张涣派人招降张良臣，张良臣得知其兄被库库治罪，决定降明，但迅即又叛。徐达下令四面包围庆阳城，张良臣恃险顽抗，并向塞外的库库求救。库库为
…。。