年2月，日军进攻晋西南，阎锡山等人的部队退向山西南部和黄河西岸。第一一五师立即推进到汾阳和孝义地区，阻止日军西进。他们派出工作队开赴石楼、永和等县，开创抗日根据地。3月2日，林彪在隰县以北被阎锡山部队的哨兵误伤，回延安治疗，陈光代理师长。随后，陈光和罗荣桓率领第一一五师主力转入隰县地区，连续同日军作战，歼灭一千多名日军，击毁七十多辆军车，迫使日军向东撤退，粉碎了日军西犯黄河河防的企图，打开了晋西南的局面。
从四月份起，第一一五师主力开辟晋西南北部地区。与此同时，山西省委和抗日决死二纵队开辟了晋西南中部。到同年夏季，晋西南抗日游击根据地初步形成。九月，第一一五师主力向日军出击，在丰城地区三战三捷，巩固了这一片抗日根据地。
日军川岸师团开进太原以后，对出没在正太铁路线的刘伯承师极为恼火。川岸文三在1937年年底调集两千多名日军，摆出马蹄形的阵势，对刘伯承的部队发起六路围攻。
这时，陈庚正率领第七二二团在芦家庄至阳泉段破袭铁路，发现日军出动飞机低空侦察，部队附近出现少量日军，估计日军将会发动偷袭。12月22日拂晓，他指挥部队在里思和松塔与日军激战，黄昏时发现日军增加了兵力，便主动撤出战斗，留下少数兵力牵制日军，主力绕到南军城和北军城一带山地休息。
第二天早晨，日军发现陈庚撤走了，急忙追赶，会合另一路日军，包围了陈庚的主力。激战时，陈庚发现又有一千多名日军从太谷开来，便指挥部队在夜幕降临时再次跳出包围圈。日军的围攻部队在南北军城会合，发现目标再次消失。他们沿途处处受阻，却始终叮不住八路军的大部队。与此同时，他们还得对付外线游击队的袭扰。24日，日军决定撤退，吞下损失六百多人的苦果。
刘伯承对付日军的六路进攻，办法是兵分两路，内线与外线同时夹攻，歼灭七百多名日军，迫使日军在26日撤退。这一个胜仗，为创建以太行和太岳为依托的晋冀豫抗日根据地创造了条件。
1938年初，邓小平接替张浩任第一二九师政委，第三八六旅副旅长陈再道率领东进纵队挺进河北南部。四月，晋冀豫军区成立。四个月后又成立了冀南行政主任公署，杨秀峰任主任，宋任穷任副主任。晋冀豫抗日根据地基本形成。
同一时期，活跃在山西省西北部的八路军贺龙师，由出征时的八千二百多人发展到两万五千多人。雁北支队也从一个营发展到五个营。这时，晋西北抗日根据地初步形成。同年2月21日，日伪军分五路围攻这一带，相继攻占宁武、神池等七座县城，威胁陕甘宁边区。贺龙师主力日夜兼程，从同蒲路北段回师晋西北，选择岢岚的那一路敌军猛打穷追。3月7日，王震的第三五九旅在岢岚包围了一千多名日军，卢冬生的第三五八旅在附近待机歼灭日军突围逃跑的部队。10日下午3点，日军弃城北逃，打算进入三井镇固守待援。王震旅发起攻击，不让日军喘息，当晚攻入三井镇。日军损失二百五十人，与守敌会合。
接着，贺龙派出一支部队围困五寨，第一二○师主力在周围寻机歼敌。17日，卢冬生旅遭遇了增援五寨的一千多名日军，迅即抢占高地，歼灭三百多名日军。五寨一带的日军见增援无望，便向东面撤退，在路上遭到伏击，伤亡惨重。23日，日军又撤出神池。贺龙师乘胜追击，4月1日收复宁武。他们连续收复七座县城，歼灭一千五百多名日军，粉碎了日军对晋西北根据地的五路围攻。
朱德、彭德怀和八路军的三位师长林彪、贺龙、刘伯承，在1938初难得地齐聚一堂。蒋介石从1月15日在洛阳召开第一战区和第二战区将领会议，请他们出席。17日，蒋介石单独会见五位八路军将领。他把八路军出师以来的战绩称赞了一番，夸奖了朱德和彭德怀。他说，林彪在平型关打得好，刘伯承智计过人，不愧是军事家。
接着，蒋介石把眼光投向贺龙，似乎有更多的话要说。他先询问第一二○师的部署情况，然后突然掉转话题，问道：“民国十六年，你为什么好端端的军长不当，去参加共产党的南昌暴动？”
贺龙直率地回答：“我和蒋委员长政见不同嘛！”
蒋介石一时语塞。沉默一阵，他说：“过去的事算了。”又显出关心的样子问道：“你家里可好？”
贺龙冷冷地回答：“我家的房子被烧了，家里的人被杀光了。”
蒋介石十分尴尬，沉下脸说：“喔，我知道，你是老革命。”
接着，蒋介石说了些要抗战到底的话，结束了会面。
会议结束，朱德从洛阳赶回驻安泽的八路军总部，正碰上进攻临汾的日军推进到总部附近。朱德身边只有两百名警卫通讯兵，势单力薄。但是，朱德不愿向山上撤退，率领部队赶往临汾到屯留公路上的古县镇阻击日军，掩护临汾的部队撤退。
24日，朱德的小部队与日军交火，打了一整天。友军得知是朱德亲率部队鏖战，连忙向临汾增援。第二天，日军也探明对手是