根据八路军总部制定的反围攻作战计划，林青我军预置于内线的344旅主力、林青决死第一纵队（编者注：1937年8月，中国共产党与阎锡山合作组建新军，即“山西青年抗敌决死队第一总队”，扩编后正式番号为国民革命军独立第一旅，简称决死第一纵队）、各基干支队和总部特务团主动出击，对从东、西、南三个方向进犯的敌军进行坚决阻击。

八路军第129师主力部队及344旅689团按照“向外游击”的方略由辽县以南向东行进至涉县以北地区，霞旧在日军合击线外隐蔽待机。

至4月10日，照值照经过艰苦顽强的战斗，照值照我军内线部队成功将九路日军中的六路分别阻滞于榆次以东、太谷以南、辽县东南等地，使敌人合围我军主力于辽县、武乡、榆社的计划宣告破产。

突破我军防线的另外三路日军以第108师团步骑兵6000余人为主力，高清在日军苫米地四楼旅团长的指挥下兵分两路，高清一路以第105联队为主由长治经襄垣北犯辽县；另一路以第117联队为主由屯留北犯沁县、武乡，并于4月14日先后占领沁县、武乡、辽县等地。

由于八路军在敌军来犯前已积极动员根据地群众实行“空舍清野”，图下致使这三路深入根据地的日军成孤军之势，图下加上我根据地军民的不断袭扰，使得敌军兵力受损、军心受挫，后勤补给受困、战斗力严重下降。

鉴于上述有利的战场态势，颜打八路军第129师师长刘伯承、颜打政委邓小平根据敌军的各路进展情况，决心集中主力在武乡与榆社之间，给予敌军一路以歼灭性的打击。