接到命令后，先头部队拔营起寨继续前进，当他们走到老爷庙附近时，埋伏在这里的清军突然向他们发动攻击。
清军的士兵坚守在道路两侧的山上，有的开枪，有的投掷手榴弹，没有枪的就开弓放箭攻击共和军。
经过短暂地慌乱之后，共和军的士兵们在军官们的指挥下进行有组织地抵抗，他们躲在山谷中的石头、树木后面向清军射击，清军虽然占据有利地形，但由于装备太差，并没有给共和军造成太大的伤亡，战斗一直持续到当天下午，共和军的增援部队赶到，清军见势不妙，主动撤出了山谷，共和军乘胜追击，直逼平型关。
部队驻扎下来之后，刘永华带着军官们登上制高点举着望远镜观察平型关的情况。
他们看到有很多清军坚守在城墙上，一面黄龙旗迎风飘摆。回到指挥部之后刘永华召集军官们开会，在会议上他对大家说：“同志们，我们面前的这个关口叫平型关，是山西的重要屏障。上午的战斗证明，驻守在这里的清军已经有所防备。所以接下来的战斗可能会很艰难，大家要做好心理准备。”随后军官们就如何攻城的问题商讨了一番，然后回去准备。
第二天共和军向平型关发动攻击，他们架起云梯开始攀爬城墙，清军坚守在城墙上有的用机枪扫射，有的用步枪射击，还有的投掷手榴弹，不让共和军登上城墙。
战斗持续了一上午，共和军举步维艰，主动撤出了战斗。当天夜里，共和军再次向平型关发动进攻。
这次他们改变了战法，不再命令士兵架云梯攀爬城墙，而是调集重炮对城墙进行破坏性射击，然后以坦克为先导，大批步兵跟在后面从城墙缺口冲进城内。