李存勖继位为晋王。一上台他就在与朱温的交战中，出其不意地解了潞州之围，缴获了大量的粮食军械。后来李存勖多次击败了朱温的军队，使敌人在心理上产生了恐惧，往往两军还未交手就纷纷溃散。朱温感到自己后继无人，不是李克用儿子的对手，所以感叹说：“生子当如李亚子，我的儿子比起来只是猪狗而已。”
朱友贞即位后，李存勖集中全力要攻灭后梁，双方连年混战。朱友贞因为信用赵岩，外戚张汉鼎、张汉杰等人，大将出兵也派他们随往监视。赵岩等人又仗势弄权，卖官枉法，离间将相，赏罚不明，致使忠臣退避，上下离心，前线将领自相残杀，与后唐交战屡遭大败。
李存勖步步得胜，他袭占杨刘，大战胡柳陂之战，又赢得了德胜渡口争夺战。两军争夺这些黄河沿岸战略要地，前后持续了两年，双方所用兵力均在10万左右，反复拉锯。交战初期，由于梁军占有这些据点和渡口，后援充足，所以处于有利地位。李存勖攻占之后，一方面可以进一步巩固新得到的河北地区，更为重要的是，突破了黄河这个后梁首都大梁（今河南开封）最大的屏障，对后梁构成了致命的威胁。
当时，李存勖的局势也很危急：后梁大将段凝夺取黄河北岸德胜以西的卫州，契丹军队又时常围攻幽州，潞州的后唐守将李嗣昭之子李继韬投降后梁。这些使得后唐内部人心不一，以为后梁难以攻取。但机会终于来了，后梁驻守郓州的将领卢顺投降了后唐，卢顺透露了郓州的虚实：“郓州守城士兵不到一千人，守将又不得人心，可以派兵袭取。”但大将郭崇韬认为孤军深入，胜利的把握不大。
李存勖分析了全局形势，认为后梁此时由于西面的潞州刚刚归降，注意力已集中于西面，而东面准备不足，防守松懈，正可以趁机袭占郓州，动摇其军心。他派猛将李嗣源率领精兵五千从德胜出发，沿黄河北岸向东急行至杨刘，在雨夜的掩护下秘密渡过黄河，然后挥师直捣郓州城。梁军毫无戒备，在后唐精兵的强攻下大败而归。郓州拿下之后，后梁的腹心暴露无遗。从郓州到大梁已无天险屏障可守，后梁的灭亡只是时间问题了。
隆德三年（923）八月，李存勖召见了刚刚归降的后梁将领康延寿，康延寿为李存勖分析了后梁的形势：后梁的地域并不狭窄，兵力也不算少，但是朱友贞懦弱无能，致使政治**，贿赂成风，选才用将不以才德与战功为标准。将帅出征也要派近臣监视，主帅无法自己调兵遣将。所以后梁的败亡局势已定。最后康延寿向李存勖献出灭梁大计：“梁兵聚集则势众，分兵则势薄，陛下现在应该养精畜锐，等其分兵之后，选择良机率精锐骑兵五千从郓州直趋大梁，活捉朱友贞，十天或者半月必然大功告成。”
十月初二，李存勖所部精锐从杨刘渡河南进，初三即进入郓州城，子夜时分跨过汶水后，命李嗣源为先锋攻击前进。初四早晨与梁军交火，大获全胜，并攻占后梁的中都（今山东汶上）。此时，有的将领认为，虽然传言汴州空虚，但不知情报是真是假，主张稳妥用兵，先向东进攻，再寻机而动。康延寿则极力主张迅速发兵汴州，李嗣源也主张昼夜奔袭，趁梁军未知内情时先夺下汴州。唐军士气高昂，初四傍晚时分，李嗣源便奉命率军快速出击，趁夜急进。第二天，李存勖率部紧随跟进。在初七这天，唐军骑兵围攻曹州（今山东定陶西），梁军守将毫无防备，只得投降。兵不血刃占领曹州之后，唐军马不停蹄继续向西飞弛前进，直逼汴州。
朱友贞自杀
朱友贞得到曹州失陷的消息后，惊慌不已，急忙召集群臣商讨对策，众人无计可施。朱友贞日夜痛哭流涕，不知如何是好，召来老臣敬翔询问退敌之策，敬翔数落一番他用人过失后，说纵使张良再生也无法挽回败局了，抱定殉国的决心别他而去。
朱友贞的臣子纷纷逃离，连传国玉玺也被部下盗走，守兵不少人开了小差，众叛亲离。朱友贞束手无策，急得日夜哭泣。初八，他对身旁的都指挥使皇甫麟说：“姓李的是我们梁朝的世仇，我不能投降他们，与其等着让他们来杀，还不如你先将我杀了吧。”皇甫麟忙说：“臣下只能替陛下效命，怎么能动手伤害陛下呢！”朱友贞说：“你不肯杀我，难道是准备将我出卖给姓李的吗?”皇甫麟拔出佩剑，想自杀以明心迹。朱友贞说：“我和你一起死！”说着，握住皇甫麟手中的剑柄，横剑往自己颈项一挥，血流如注，倒地死去。皇甫麟也哭着自刎而死。
初九早晨，李嗣源的骑兵到达汴州城下，守军开门献城投降。同一天，李存勖也率兵赶到，从西门领兵进城，后梁灭亡了。
虚待斋曰
朱温所建的后梁至此被后唐灭掉，前后共17年时间，其间与后唐的战争断断续续，最后败在后唐之手。李存勖奇袭汴州的计划，从最初商定到全部实施，前后仅一个多月的时间，这是中国古代战争史上长途奔袭速战速决的著名战例。唐军取胜有两个重要原因，一是准确无误的情报及据此制定的正确作战计划，二是李存勖的坚定决心与果断性格。他充分地发挥了唐军骑兵善于快速机动擅长远途奔袭的特点，中途不分散兵力固守一地，更不过多逗留，昼夜兼程抓住战机，一举获得成功。
我曾当兵12年，又姓李，所以对李存勖的这个大胜仗，有异常深刻的印象，可惜本书不能多写。