庄一角的濑谷支队包围。日第5师团报木支队前来援救濑谷支队，4月2日到达台儿庄以东五六公里处，很快也受到中国军队的包围攻击。3日，台儿庄大半已为日军夺取，池峰城等部当夜组织敢死队向敌猛冲，又夺回了一些阵地。次日，汤恩伯军团到达庄北，日军陷入重围。7日，日军这两个实力相当于旅团的支队，除少数官兵冒死突出包围，大部分被歼灭。
台儿庄之战，中日双方军队都有拼死精神。日军战斗详报记载：当獭谷支队猛攻庄内阵地时，“全部守军凭藉散步壕顽强抵抗。敌在狭窄的散兵壕内，尸体相枕力战而死的情景，虽为敌人，亦须为之感叹。曾令翻译劝其投降，绝无应者。尸山血河，并非日军所特有。不识他人，满足于自我陶醉，为国、为军计，极应以此为戒”。而日军也不含糊，进攻时官兵们踏着一排排倒下的同伴尸体往上冲，仅随战随运回莒县焚化场的尸体，几十辆卡车就往返了两个来回。溃退时，几十名重伤无法行走的日军官兵，竟狂呼着“天皇万岁”的口号自焚。双方都打红了眼！
是役，日本方面的统计是：第5师团死1281人，伤5478人；第10师团死1088人，伤4137人。中国方面的统计是：敌死伤2万余人，我缴获步枪万余支、轻重机枪931挺、步兵炮77门、坦克40辆、大炮50余门。
双方的统计虽有差异，但这是全面战争爆发以来，中国正面战场上首次取得的较大胜利。这一点，是确凿无疑的。
为此，利用这次军事上的胜利，国民政府开动一切宣传机器，大力宣传台儿庄大捷，旨在一扫开战以来的失败情绪，鼓舞军民的斗志，并借此引起世界注意，争取欧美援助。
中国方面搞宣传战，日本甘拜下风。因为作为侵略者，失道寡助，理本来就不在它那一边。日本担心“彼等宣传的所谓‘台儿庄大捷’，使中国军的士气振奋、斗志昂扬。并向内外大肆宣传，已歼灭日军，将其击退至海岸。实有促使中国民众团结、各国援蒋政策积极化之虞”。在台儿庄之战进行过程中，大批中国军队向徐州地区集结。日本方面发现中国军队的主力已集结于徐州地区，认为这是“实施南北夹击、痛击中国军队、瓦解其抗日意志的大好时机”。所以，台儿庄的枪炮声刚一沉寂，东京大本营就下达了陆字84号令，由日军华北方面军和华中派遣军联合发动徐州会战，核心只有一个，聚歼徐州地区的中国军主力。
东京大本营唯恐华北、华中两个方面联合作战时，出现不协调，4月中旬，特派以参谋本部作战部长桥本少将为首的“大本营派遣班”前往现地，负责协调和指导两军的行动。
从5月下旬开始，日军7个师团配置若干混成旅团、重炮旅团，总计30余万官兵，在飞机、坦克的掩护下，兵分5路，像一只张开的巨掌，向徐州扑来。其中4路已接近徐州外围，即将形成合围之势。另一路由“东方劳伦斯”土肥原率领的第14师团则脱离主力急速南下，欲切断陇海路，阻止郑州、开封一线中国军队东进增援。小小的徐州地区一时集中了中日双方上百万军队，中国军队能在此时此地与日军拼死决战吗？有把握取胜吗？这个大主意只能由最高统帅蒋介石来拿。
蒋介石没有想到局势会演变到这一步。他从来没有与日本人决一死战的念头。当初，面对日本的一步步侵略，他奉行过“攘外必先安内”的政策。“安”的对象自然主要是消灭共产党，以及异己的各地方实力派。结果，酿成了震惊中外的“西安事变”，蒋介石被迫放弃了他那个主次颠倒的政策。不过在那次事件以后，他仍坚持自己那句著名的口号：“和平未到绝望之时决不放弃和平，牺牲未到最后关头决不轻言牺牲。”现在能够与日军在徐州地区进行一次战略性决战吗？“不能！拼光了老本，那正中日本人的下怀”。权衡了利害得失后，他作出了决策。
周恩来在一次与记者谈话中提到对蒋介石的印象时说过，就战术和战略这两个方面相比较而言，在战略问题上他是强项。蒋介石认为，在中日战争初期要以“积小胜为大胜，以空间换时间”为战略方针。因为中国的经济和军事实力毕竟不如对方，必须要有长期战争和持久作战的思想准备。本来，他希望以几倍甚至是10几倍于敌的重兵集团，稳妥地消灭对方个把师团，再创造一个台儿庄式的胜利，岂料30万日军黑压压地扑来，徐州一带虽有自己50多个师的60万人马，但从历次作战的经验和一般估算来看，是打不过对方的。好汉不吃眼前亏，打不起躲得起。5月15日，就在日军的包围圈即将形成时，蒋介石瞧准在中国军队西南方向还有一个间隙，果断地下令放弃徐州，向西南突围。至5月下旬，各部队甩掉日军撤退至皖西、豫南。东京大本营妄图歼灭中国军队主力的计划失败了，只得到了徐州一座空城。
不久，恼羞成怒的东京大本营，给指挥失当、在所负责的西南地段上给中国军队留下缺口的香月清司中将，以严厉的处分，撤销了他的第1军司令官的职务。那个在香月手下率该军第14师团南下冒进，险些把整个师团让中国军队包了饺子馅的土肥