“千古笑柄”
经 历了台儿庄一役的惨败之后，日军意识到徐州战场集结着中国的大量精锐部队。这非但没有让他们退却，反而激起了更大的野心。原本，在日军眼中，攻下徐州，就 可以打通津浦线，连接中国华北、华南，让从北平和上海两个方向上侵略中国的日军合成一体。而现在，他们的目标中多了一项：一举围歼中国军队主力。
5月初，日军集结了10多个师团30多万人，从六个方向向徐州夹击。
日 军在徐州的包围圈马上要形成时，一直主张在徐州地区和日军决战的蒋介石，开始感到情况不妙。更坏消息接踵而至。5月11日晚间，日军的土肥原14师团约两 万人在董口-武集-旧城一线强渡黄河，并且向菏泽进发，一旦14师团攻陷菏泽的话，就会切断徐州以西的陇海线，切断60万中国军队的给养供应和他们的退 路。
蒋介石随即决定放弃徐州。这样，原本准备与日军一决胜负的徐州会战，在日军刚刚拉开架势的时候，中国军队就开始撤退了。
花园口决堤
唯一能称得上庆幸的是，蒋介石撤退的命令下得比较早，大多数中国军队突出了重围。而军事重镇徐州就此易手。
徐州地区往西，就是有“湖南王”之称的程潜第一战区的防地。第一战区的任务原本有两个，一是在商丘附近集结10多万军队，准备随时策应徐州的会战；二是守卫郑州以东的黄河防线，阻止日军南下。
此时，程潜也接到蒋介石的命令，让策应徐州的部队往平汉铁路一线后撤。他们在陇海线附近与土肥原师团撞到了一起。
土肥原师团配有300多辆装甲车，是日军甲种师团。他们只用一天多的时间就推进到了陇海线附近。不过，快速突进的土肥原师团这时成了孤军深入，与之对垒的中国部队有六倍之多。
战机忽现，蒋介石认为这是挽回面子的好机会，亲自赶到郑州指挥豫东战役。为打好这一仗，蒋介石的调兵遣将真是下了血本，他最得意的门生嫡系薛岳、胡宗南、宋希濂、邱清泉……都被派遣到了豫东战场。
土肥原的两万人马很快被困在了兰封到商丘方圆百十公里的范围内。
商丘是豫东的门户，由黄埔一期出身的黄杰率第八军驻守。西边的兰封，守将同样是出自黄埔一期的桂永清。桂永清的27军是当时中央军精锐，配有中国军队中极少见的战车营。
6个军12万人包围土肥原1个师团两万人，程潜已经放出豪言：“就是吃也能把土肥原吃掉”。
起初，中国军队确实是一路奏凯：土肥原部在层层围攻下损失惨重，土肥原本人几乎被俘，连天皇赏赐他的军刀也成为中方的战利品。宋希濂部缴获了一批战马，他挑了一匹当坐骑，还给马取名叫“土肥原”。
胜利似乎近在眼前时，占尽优势的中国军队中居然出现了逃跑将军。
5月23日，土肥原师团开始突围，进攻的重点是兰封。仅仅3个小时，兰封外围防线被突破，桂永清撒腿就跑。
桂永清的临阵脱逃，导致了兰封失陷和整个战局的混乱。土肥原也得以凭借兰封和黄河边上的村庄固守待援。徐州的日军也已开始西进救援。援军一到，日军全局皆活。
花园口决堤
程潜不得不再次调兵布阵，重新围攻土肥原，夺回了兰封。战斗进行了4天，据程潜预计，再有两三天的时间，就有全歼土肥原的可能，不料正在这千钧一发的时候，28日，守商丘的黄杰又跑了。
商丘是敌援军的必经之地。但当从徐州西下的日援军刚刚接近商丘，黄杰不发一枪就慌忙率部逃跑。商丘一失，豫东门户洞开。土肥原盼望的援军源源不断而来。
因为桂永清和黄杰这两个逃跑将军，中国军队的大好局势被生生断送，前后共投入15万多人，没能消灭土肥原的两万人，反而大败而走。连蒋介石自己在给程潜的信中，也不得不承认豫东战役是“战争史上一千古笑柄”。
土肥原重新占领了兰封，随即转向当时的河南省会开封，开封此时仅仅留有一个师守卫，失守已成定局。
开封离郑州只有60公里，近在咫尺。当时的郑州虽然还只是一座县城，却已经成了中原要冲。陇海线和平汉线两条铁路大动脉在这里交会。如果土肥原夺下郑州，这两条铁路线就在日军控制之下了，这种局面是蒋介石最害怕见到的。
中日双方都很清楚，郑州之后，日本的下一个目标必然是“九省通衢”、中国的战时首都——武汉。
