随着隋军将士的再次发力猛攻，太原军终于再也招架不住了，到了天色全黑时，封堵缺口的太原军杨文干部率先崩溃，被隋军杀散杀败，被迫逃入城内深处，隋军将士高歌猛进，不断向着城内挺进，太原军被迫与隋军将士展开巷战。见势已极，被迫无奈之下，李建成也只能是下令准备弃城突围，决定率领残余军队逃往马邑去投奔刘武周的两个妹夫宋金刚和苑君璋，殷开山和史万宝虽然很清楚逃往马邑也很难再有复兴希望，但还是咬牙接受了命令，并立即着手安排军队突围撤退。