枣宜会战后，华中日军侦察到汤恩伯集团正沿信阳北面遂平至项城一线东进，攻击安徽南部的新四军军部，认为可以趁此机会消灭汤恩伯主力，打通平汉线南段，解除信阳日军所受的威胁，赶紧发动了豫南作战。
1941年1月，日本中国派遣军集结七个步兵师团、一个骑兵旅团和三个战车联队，在园部和一郎指挥下，分三路进攻豫南。面对日军的强大攻势，蒋介石把汤恩伯、李品仙、李仙洲、何柱国、孙桐萱和王仲廉等人的部队从“剿共”阵地撤回，部署对日应战。李宗仁决定采用灵活的战术，避实击虚，留少数兵力正面抗击，主力转向两翼，待日军兵力分散时，从日军两侧及背后将他们围歼。
25日清晨，日军丰岛房太郎第三师团和北野宪造第四师团一部组成的左翼兵团，在丰岛统一指挥下，从小林店东西一线分三路向泌阳、高邑和邢店进攻；平林盛人第十七师团和酒井直次第十五师团一部组成的中央兵团，在平林盛人指挥下，从明港沿平汉铁路向北攻击；青木成一第四十师团作为右翼兵团，从正阳向上蔡方向攻击。日本空军出动几十架战机，对中国守军阵地狂轰滥炸。
中国军队主力已经转移，正面兵力较少。26日，日军占领泌阳、高邑、邢店和确山一线；27日，日军推进到春水、沙河店和驻马店东西一线。这时，第三十一集团军总司令汤恩伯，急令张雪中第十三军向象河关机动，李楚瀛第八十五军向上蔡机动，从两翼攻击日军。第二集团军总司令孙连仲同时派出刘汝明第六十八军尾击向象河关进攻的日军，将曹福林第五十五军从唐河调往泌阳，令冯治安的部队向南阳推进。
29日，日军左、右翼兵团分别在接官厅和上蔡附近，遭到张雪中军和李楚瀛军的猛烈攻击，伤亡较大。日军中央兵团面对的中国军队主动后撤，日军得以快速推进。他们在30日兵分两路，主力由西平向舞阳迂回，一部从遂平进攻上蔡，企图协同两翼兵团夹击中国军队。31日，平林的日军部队攻占舞阳和上蔡，形成包围圈，但中国军队又已转移，致使日军扑空。
李宗仁命令部队开始攻击日军侧背，安徽西部的莫树杰第八十四军克复了正阳，威胁日军的后方交通。日军于2月1日开始回撤。丰岛师团撤出舞阳，于4日攻占南阳，6日放弃南阳，向唐河与泌阳方向撤退。张雪中军顺势收复了舞阳，立即向南阳方向追赶日军。与此同时，从舞阳南撤的日军平林师团及酒井师团和北野师团各一部，在象河关附近遭到中国军队猛烈打击，伤亡惨重，向南溃退。7日，各路日军都撤回信阳附近。中国军队在运动中毙伤日军九千多人，取得了这次会战的胜利。李宗仁作为抗日名将的声誉进一步提升。
日军在豫南会战中的失利又触怒了西尾寿造，他直接指挥日军在确山、邢店、高邑和泌阳一带杀害了一万五千多名中国军民。他紧接着调动兵力发动更大的战役。他在年初就打算围攻华北的中条山，但感到华北日军兵力不足，决定将驻南昌安义的樱井第三十三师团调到华北。但他担心日军在江西战场会因樱井师团的调走而失利，决定先在江西发动攻势，企图一举消灭第九战区中国军队的精锐。
畑俊六大将在3月份接替了西尾寿造的日本中国派遣军总司令官职务，继续执行西尾在江西的作战计划。3月5日至4月9日，园部和一郎指挥樱井师团、大贺茂第三十四师团和池田直三独立混成第二十旅团共六万五千多人，在一百多架飞机掩护下，兵分三路，从安义等地出发，发动“鄱阳湖扫荡战”，企图分进合击，在高安和上高地区包围中国军队的主力，突破上高天险。
上高位于江西锦江上游，俯瞰赣东平原。日军如果占领了上高，既可以相机从西面突进长沙，又获得了侵占江西南部的前进基地。
薛岳的第九战区指挥中国军队约十万人参加上高会战，包括罗卓英的第十九集团军，下辖李觉军、刘多荃军和王耀武军，以及王陵基集团军的韩朴全军，还有江西保安总队。
中路日军于3月16日沿湘赣公路向高安西进。20日，日军全力进攻泗溪和官桥阵地。王耀武军的第五十七师和第五十八师奋勇作战，死守阵地。双方在石洪桥一带激战，日军每前进一步，都要付出惨重代价。中国军队打退了南北两路日军，只有中路日军孤军深入，又遭到王耀武军的坚强抵抗，
22日，日军集中一万多人，在几十架飞机掩护下，猛攻王耀武军的云头山和白茅山阵地。守军与日军反复争夺，先后七次与日军白刃肉搏，为友军赢得了重新集结的时间。中路日军在24日陷入守军包围，到了黄昏时分，不得不在北路第二一五联队掩护下开始突围。但是，中国军队在25日夜将突围和增援的日军全部包围，压缩在南北约五公里、东西约十五公里的圈子里。日军冒死向上高冲击，王耀武军反复与日军搏斗，坚守阵地。
26日，王耀武军攻占泗溪，协同友军将日军逼到官桥一隅。当晚，日军突破了守军第一○七师和新编第十五师的结合部，残部于第二天夜里向东逃窜。28日，王耀武军乘胜追击，收复官桥，击