1937年七七事变之后，抗日战争全面爆发，日寇疯狂地叫嚣在“三个月内灭亡中国”。京津相继失守之后，国民政府第二战区司令官阎锡山认为，日军欲统治华北，下一步必取太原，于是着手部署太原会战。
9月22日，日军开始向平型关、东跑池、团城口等内长城各主要阵地发动进攻，第二战区守军第七十三师、独立第八旅、第八十四师顽强抵抗，敌我双方伤亡惨重。日21旅团团长三浦敏事，急电师团长坂垣征四郎请求派兵增援。为阻止日军突破平型关防线，阎锡山致电朱德要求八路军配合作战，伏击日军。
当时的日军很是嚣张，在地势险要的乔沟一带行军，居然没有派前哨侦察兵。25日晨5时半左右，日军第一辆汽车开始进入伏击圈，聂荣臻下令不许开火。等板垣师团第21旅团千余人及汽车、大车300余辆全部进入埋伏圈后，战斗打响了。据当时任685团团长的杨得志将军回忆：骄横的日军刚开始的时候，确实被打懵了。但是他们确实训练有素，在失去指挥的情况下，自觉形成3人一组，开始负隅顽抗。更可怕的是，日军很快就发现我军的纰漏，没在战场的制高点老爷庙设伏，于是就派人占领了老爷庙，给我军造成了很大伤亡。
激烈的战斗一直持续了6个多小时，敌人终未能冲破包围，日军第6兵站汽车队和第21联队大行李队遭到歼灭性打击。因为敌人死不缴械，千余日军全部被击毙，我军伤亡也很严重。“以两倍于敌的兵力，居高临下，出奇不意发起进攻，结果歼敌1000余人，我方伤亡1000余人”。看到这个结果，林彪半晌说不出话来。
为什么会出现这种情况呢?一是因为八路军的武器装备和战斗力确实不如日军，敌人上有飞机，下有小钢炮，而八路军战士的子弹都是有限的，主要靠拼刺刀。二是许多战士因为缺乏对敌作战的经验，反被垂死的日军杀伤了。据亲历者回忆：一营的一个电话员，正沿着公路查线，看见汽车旁躺着一个半死的敌兵，他跑上去对那个敌兵说：‘缴枪不杀，优待俘虏!’没等他说完，那家伙扬手一刺刀，刺进了电话员的胸部。
时任686团组织处股长的欧阳文也回忆说，他们团的一个副营长背起一个鬼子的伤员往后走，结果被鬼子把耳朵给咬下来了，气得旁边的一个排长一刀把那个鬼子的脑袋给砍下来了。更有的战士去给受伤的日军裹伤，结果反被打伤了。有的日军伤兵同我们的伤员扭打，直到拼死为止。不管怎么说，平型关大捷是中国抗战开始后取得的第一次胜利，它粉碎了“皇军不可战胜”的神话，振奋了全国人心，鼓舞了全国人民的抗战热情。