在剑匕伐军连连攻取山东州县的捷报声中，年正月四日，朱元璋在应天登基称帝，建立起朱明皇朝，年号洪武。新朝建立，自然要封赏功臣，任命百官。朱元璋任命的左、右丞相，一个是李善长，一个是徐达。朱元璋立长子朱标为皇太子，李善长秉任太子少师，徐达秉任太子少傅。

二月，明北伐军沿黄河西进直入河南境内，连克永城、归德、许州（今许昌），直逼陈桥。元汴梁（今开封）守将左君弼献城投降。徐达留都督佥事陈德守汴梁，统率大军向河南（今洛阳）进发。

四月，明北伐大军自虎牢关进至塔儿湾（今河南偃师境内），元将脱音特木尔统五万大军列阵于洛水北岸。副将军常遇春单骑先闯敌阵，射杀敌前锋一人，纵马大呼恃勇冲锋，徐达指挥大军继后，以不可阻挡之势全线冲击，元军大溃。脱音特木尔逃往陕州，明军乘胜追击五十余里。外围之战取胜，明大军扎营于洛阳北门外。元守将李克彝弃城而逃，梁王阿抡只好出城投降。

明军继续西进，攻克陕州（今河南陕县），直逼天险潼关。元守将李思齐、张思道闻明大军将至，慌忙丢弃辎重奔向凤翔。明军先锋都督通知冯宗异引兵进入潼关，向西直至华州（今陕西华县）。

至此，明北伐大军平定山东、河南，又据潼关堵住关中元军东下出路，对元大都形成了月牙形的包围态势。

五月，朱元璋驾幸汴梁，大会诸将，厚加慰劳，同时研究下一步的进军方案。

朱元璋询问新的战略部署，徐达道：“自我大军平定山东、河南，元军统帅扩廓帖木儿在太原观望不进，如今潼关也被我军控制，张思道、李思齐失势西窜，元大都的声势已绝。我军乘胜直捣其城，可不战而得之。”

朱元璋看看地图道：“你讲得很好。不过，北方土地平旷，利于骑兵作战。你应当挑选部将领兵作为先锋，然后督水陆大军继其后，用山东粮食为军饷。大都没有了外援，城内人心自然惊溃不安，必定会被我大军攻克。”

徐达又向朱元璋请示道：“如果大都攻克而元朝君主北走出关，我军是否穷追不舍？”朱元璋回答：“元朝气运衰微，定会自行灭亡，不必烦劳我军穷追。一旦元朝君主逃出塞外，我军宜固守边关疆土，严守其侵犯便是。”