1940年9月16日，总部下达了百团大战第二阶段作战命令，指示第二阶段作战目的是扩大战果。

作战基本方针是继续破坏日军交通，摧毁深入根据地的某些据点。

百团大战第二阶段，晋察冀军区主要进行了涞灵战役，第129师主要进行了榆辽战役，第120师主要破击了同蒲路。

八路军的重机枪战斗阵地日军驻蒙军占领的涞源、灵丘地区，深入晋察冀边区西北部。

驻涞源、灵丘及其附近的是日军独立混成第2旅、第26师各一部，共1500余人，另有伪军1000余人。

日军受到第一阶段打击后，各据点纷纷增加兵力（其中涞源城已增到500人左右），增修加固工事，储备粮弹。

晋察冀军区决定调集部队，组织涞灵战役。

1940年9月22日22时，涞灵战役开始，右翼队向涞源县城及其周围据点发起猛烈攻击。经一夜激战，夺占东、西、南关，日军退入城内。

百团大战第二阶段，涞灵战役三甲村战斗后，被俘的日伪军及家属。

1940年9月23日当夜，第2团在第1团1个营及炮兵配合下，猛攻涞源城东10公里处涞（源）易（县）公路上的敌重要据点三甲村，歼敌大部，将其占领。

同时，第3团向涞源城东北东团堡发起猛攻，至24日夜，攻克该村周围全部堡垒，将残敌压迫于村中数间房屋死守。

25日，敌将据点库存武器、物资、粮食全部烧毁，准备突围。攻击部队再度向敌猛攻，残敌突围无望，投火自焚。

1940年9月26日，右翼队其他部队和平西军分区第9团也连克桃花堡、白乐堡、吉家庄、辛庄、北口、下北头、白石口、中庄、王喜洞、刘家嘴、张家峪、北石佛、金家井等13个据点。

战役发起的第2天，日军开始由张家口等地南援，由于破路不彻底，日军推进迅速。

1940年9月28日中午，日伪军3000余人搭乘汽车，在坦克20辆、飞机4架的掩护下，进抵涞源城。

在这种情况下，右翼队已难开展有利的攻势，晋察冀军区乃决心转移攻势于灵丘地区，第一步扫除灵丘、浑源间敌据点，第二步夺取大营东南至神堂堡一线及大营、沙河以北山地内敌据点。

10月2日，晋察冀军区命令右翼队主力集结涞源以东及东南地区整理，一部监视钳制涞源之敌，另以第1、第2团归左翼队指挥，加入左翼队作战。

1940年10月8日夜，第1团第1营乘南坡头日军一部出动袭击第2团之机，向南坡头发起进攻，一举袭入敌阵，歼敌大部，残敌逃窜。

同时，第6团第1营攻克抢风岭，青磁窑日军望风而逃，9日夜，第6团第3营攻击了金峰店。

此外，向灵丘、广灵间出击的第26团8日夜曾一度攻入黄台寺。

1940年10月9日，晋察冀军区发觉第1军分区《抗敌报》第35期9月22日社论无意中将百团大战第二阶段企图泄露。