朱元璋特别强调攻克大都对瓦解元军各种势力的重要性，他认为山西王保保、陕西李思齐等军阀虽然割据一方，但他们还在表面上听命于元朝，故不容轻视，假如在没有攻克元都的情况下就匆忙与这些劲敌决战，由于元朝的中枢大都还存在，各路元军还是心存幻想，是不会那么轻易投降的，因而在这种情况之下“胜负未可知也”。 北伐军的征战过程完全与朱元璋事前预料的一致。随后的形势发展证明，即使明军攻下了元都，王保保等人还是继续流窜于山西、陕西地区，挣扎到最后。假设朱元璋在没有攻下元都的情况下就匆忙从河南进军山西、陕西，与当地身经百战的各路元军决战，由于元朝的首都大都还存在，元军会抵抗得更加顽强，就很可能会出现朱元璋一直极力所避免的“胜负未可知”的情况。

　　按照朱元璋的既定方针办事的北伐军开局果然顺利。
　　日期：2012-06-12 18:19:30
　　磨刀霍霍的将士们于1367年十月开始出发，军中猛将如云。出任总指挥（对外号称“征虏大将军”）的是名将徐达，他身经百战、智勇双全，是朱元璋最为看重的人。而徐达的副手是作风强悍的、号称“常胜将军”的常遇春，此外，陆续参战的各级主要将领还有：
　　右都督冯胜
　　都督同知孙兴祖

　　都督副使顾时、康茂才
　　平章韩政
　　右丞薛显
　　左丞赵庸、曹良臣
　　参政傅友德
　　卫指挥使华云龙
　　卫指挥佥事郭英、张焕

　　关于明军的人数，正史记载，其开始北伐时，有“甲士二十五万。”而《明兴野记》等书则称这支军队的人马达到四十万之多。后一种说法比较夸张，不排除是为了迷惑敌人而故意制造出来的。
　　明军北上杀向山东，欲断元朝一臂。
　　元朝在山东既有正规军，也有地方部队，但均非主力，因而战斗一打响，便士气低落而毫无招架之功与无还手之力。明军一路摧枯拉朽，刀刀见血，以雷霆万钧之势经下邳进至榆行镇，元朝守臣郦毅、孙惟德投降。徐达令部将黄蓬、张千户驻守。十一月，明将韩政率部占据梁城，元朝驻防当地的同知枢密院卢斌、佥院程福投降。与此同时，北伐军的先头部队在徐唐臣的带领下到达山东沂州(今临沂)附近。

　　日期：2012-06-12 21:49:34
　　元朝留守沂州的是淮南淮北义军都元帅王宣及其儿子王信。徐达早在十月二十四日进驻淮安时，已派遣人士到沂州招降。王宣在敌人举起屠刀的威胁之下，使出了缓兵之计而假装投降，但暗中命令其子王信前往莒州、密州等地募兵，企图顽抗；同时公开派员外郎王仲刚等士绅出城犒师，以麻痹驻扎于城外的明军。明军一时大意，遭到沂州守军乘夜出城的袭击，徐唐臣猝不及防，惨败而回。

　　徐达大怒，迅速带着虎狼之师来到沂州城下，分兵数路猛攻。都督冯胜还指挥将士开坝放水淹城。王宣眼见王信募兵迟迟不归，自忖无力抵抗下去，被迫打开城门出降，乞求活命。徐达入城后随即令使者携带着王宣亲笔写的招降书，前往招抚王宣。但冥顽不化的王宣杀死了使者而逃往山西。徐达为了替使者报仇，毫不留情地处死了反复无常的王宣、王仲刚等人。在此期间，山东峄州、莒州、海州、沭阳、日照、赣榆诸县慑于明军攻占沂州的声威，相继投降。

　　明军留下指挥韩温守沂州，主力继续北上，下一个目标是山东的重镇益州。
　　此时，朱元璋对军队下一步行动做出了指示，他遣使传喻徐达，认为要想攻取益州，必须先派精锐部队扼守黄河要冲，保护侧翼的安全，如果一时未能迅速拿下益州，则可转攻济南、济宁二城，以分其势，各个击破，一刀又一刀，日削月割地凌迟处决敌人。
　　日期：2012-06-12 23:40:03
　　徐达按照朱元璋的计划行事，他命令镇驻榆行、梁城地区的韩政部队全力扼守黄河，以断敌援兵。韩政派出千户赵实率兵经略滕州，因元守将不战而逃，故能顺利占领该城。已无后顾之忧的明军得以集中主力，经临朐到达益州。临朐降将丁玉明奉徐达之命入城劝元平章老保归附，然而对方却拒绝投降。
　　徐达当即决定攻城，他满怀信心地对诸将道：“老保等人敢于负隅顽抗，所恃的不过是援兵。但我军已分兵扼守黄河，伤其左臂，这些自以为是的家伙尚不知道已成为釜中之鱼，危在旦夕。”他马上督兵填坝而进，于十一月二十九日攻克益州，活捉了错误估计形势的老保。
　　益州既下，元军在山东的防线已经被打得千疮百孔。明军攻势如虹，以一连串迅猛的动作拿下了寿光、临淄、昌乐、高苑等县以及潍、胶、博、兴等州，扫掉进军路上的障碍，据不完全统计，在此期间共俘获元军一万五千多人、马骡一千六百余匹，还夺得了十八万九千余石粮食。

　　都督同知张兴祖率师于十二月五日到达东平，守将马德弃城而逃。张兴祖派遣指挥常守道、千户许秉等将士一路追击到东阿地区，以元参政陈壁为首的五万军民不战而降。明军又从水路来到安山镇，招降了地方官员，获得了一百五十多艘船只。
　　到目前为止，明军的进展比预期的顺利，所过之处敌人望风披靡。徐达意气风发地率军经章丘来到济南这个大城市，不料只得到了一座空城。原来元平章忽林台、詹同、脱因贴木儿（王保保的弟弟）事先已经带领军民撤离，而留守的平章朵儿只巴根本无抵抗能力，只能在初七这一天出城投降。明军仅仅俘获二千八百五十五名军人以及四百二十九匹马，所得甚微。

　　元军分别从不同的方向撤离济南，忽林台等人率领一部分往北退往，而脱因贴木儿则转移到河南，意图继续抵抗下去。
　　日期：2012-06-13 08:51:30
　　在此期间，张兴祖也按计划来到了济宁，元将弃城而逃，明军兵不血刃地进入城中。
　　济南、济宁等名城，相继换了主人，山东就快要变天了。1368年二月十二日，征虏副将军常遇春所部以破竹之势从济南杀向东昌，困守孤城的元将申荣绝望自缢，附属东昌的荏平等县皆降。这时横生枝节，归附明朝的乐安县复叛。徐达亲自率师平乱，他来到距离乐安五里之遥的土河，令将士们填平堤坝，结营于城东南，但尚未开战，无心作战的元军便或降或逃。明将华云龙奉命留守该城，而常遇春与冯胜则追击北逃的元军，有所斩获。

　　呆在大都的蒙古贵族仍然只顾窝里斗，各个既得利益集团可说眼睁睁地看着山东沦陷，基本上没有什么作为。元顺帝只是象征性地派出丞相也速等少数部队南下到前线，会合从济南败退的忽林台反攻，但随即被徐达击败，死伤甚众，偷鸡不成蚀把米。
　　明军跟踪追击八十余里，生擒枢密院判脱欢等数百人，获马三百匹。至此，山东基本平定。
　　明北伐大军横扫山东，兵锋所至，干净利索地断了大都的一条得力胳膊。其后，按原定计划回师，转攻大都赖以支撑的立足点——河南。
　　日期：2012-06-13 14:52:24
　　朱元璋在后方坐镇，调动各路部队协调作战，他一面派都督同知康茂才到济南参加北伐；一面让征戍将军邓愈从襄阳北攻南阳，以策应即将举行的河南会战。徐达则率领舟师从济宁沿着黄河冲向历史上赫赫有名的古都——汴梁，一路连克永城、归德、许州，经陈桥到达汴梁城外，守将左君弼、竹昌于二十九日弃械投降。