李向北没想到的是，他们1营当天傍晚就被从团长周瑞将他们从阵地上撤换了下来。
替换他们上阵的是补充团2营。这个营是由一个地方保安团整体精简改编加入补充团的，营长孙大宝原来就是这个保安团的团长。
孙大宝个头不算高，但生得膀大腰圆，加上声音粗豪，说话经常不过脑子，被人们叫成了“孙大炮”。
孙大炮惯使两支驳壳枪，且枪法出众，据说百米左右的烟头，他甩手就能打灭。
刚加入补充团时，孙大炮就很不服气李向北和他的第1营，曾经放话要找机会和这群土匪比试比试。但后来他了解到，就是这群土匪几乎灭了金雄和黑章两个县的保安团时，气焰方才有所收敛。
促使团长周瑞下令让2营替换1营的，却是参谋长何从龙。
何从龙看见了1营官兵虽然有些牺牲，但全营官兵都是士气高昂的，他就觉得当面的日军没有什么可怕。因他与孙大炮很有些交情，自然就想到要让孙大炮建功。
于是，何从龙建议，将2营连夜换上去熟悉阵地，明天就让他们对敌。同样让3营明晚替换2营，后天就由3营对敌，用这样的方式来轮流锻炼部队。
周瑞听后也觉得这个主意很好，连连夸赞何从龙这个参谋长考虑得周全，于是就传令2营马上接替1营防守阵地。
随后，周瑞将团部安排在阵地左后方的一处土丘上宿营。3营安排在阵地右后方的一处树林中宿营。只有1营他没有明确指定宿营地点，显然是要等他们撤下阵地后自己确定。
孙大炮带着军服鲜亮的2营，在黄昏时分接管了苇楼阵地。他和李向北交接时哈哈大笑，并趾高气扬地说了一句：“李营长，你们今天伤亡不小啊！明天看我们的，我们2营一定让小鬼子有来无回！”
李向北心里既感到心寒，也感到可笑，他猜到了团长为什么要换他们下去，面上却是不动声色。他拍拍孙大炮的肩膀笑道：“预祝孙营长和2营的弟兄们旗开得胜，我们在后方等着给你们庆功！”说完就带着1营的弟兄们，抬着三十几具担架的伤兵离去。
其实李向北的伤员只有十几人，另外的二十几个伤兵则是他让身材瘦小的士兵临时乔装的，担架上白布遮盖的伤兵身子下面，堆满了他们刚刚缴获的日军枪支弹药。他可不想把这些弹药留给孙大炮和他的二营，有本事就像老子们一样，从日本鬼子手上抢去。
李向北把全营拉到阵地后方，在远离团部的一座土丘后面宿营下来。他要求全营弟兄们饱餐一顿后，抓紧时间好好休息，但不许脱衣解带，必须枪不离身，做好随时出击的准备。
李向北饭后召集张兆龙和三位连长碰头，他在304团副团长赵志高临走时的忠告基础上，加上了自己的分析和推测，向他们作了一一交代，要求各连都要做好防止日军夜袭的准备，随时准备接应2营、3营和团部。
随后，李向北和张兆龙等人分成两班带队值夜，并在每班都派出明暗三组哨兵，确保全营官兵的夜间休息和安全。
当夜凌晨2点过，日军三个中队趁着夜色，分左中右三路向国军苇楼阵地摸来。
日军在摸到阵地前沿200米左右后全部停止前进。日军指挥官派出了三组尖兵潜行到了国军阵地上，意图悄悄摸掉国军的哨兵。三组人都惊奇地发现国军哨兵正在哨位上酣睡。
日军尖兵将这三组渎职的国军哨兵轻松解决后，用微弱的手电筒光线发出了信号。
很快，三个中队的日军涌上了国军防守的阵地，接着钻进了几个地下掩体，将正在酣睡中的补充团2营绝大部分官兵，几乎没费一枪一弹就杀死在了睡梦中。
这是一场有心算无心的大屠杀，包括2营长孙大炮在内的二营官兵，到死都没有想到白天被打退的日军，竟然会在深夜来袭击他们。
当孙大炮被洞口的卫兵临死前的惨叫声惊醒过来时，脱得赤条条的躺在被窝里的他抓起双枪。刚刚拉开枪栓开出两枪，就被几颗手雷炸得变成了几团残缺的血肉。
2营600余人只有十几名官兵在混乱的屠杀中逃出了战壕，但随即被日军安排在外围的机枪， 打得只剩下几人逃得性命。
阵地上的枪声响起后，日军后方的炮火也开始轰鸣起来，炮弹的坐标正是补充团团部和3营宿营地。
密集的炮火持续轰击了十分钟后，日军夜袭的三个中队有两个朝第3营驻地继续包抄攻击，有一个朝着补充团团部猛扑过去。
后方两公里外，日军的大队人马在十来辆坦克的开路下，也开始一路轰鸣着朝补充团包围过来，坦克和车辆发出的灯光刺透了沉沉的黑夜。
补充团宿营的土丘上，团长周瑞和参谋长何从龙等人在睡梦中听到了枪声，顿时惊醒过来，但他们都还没能来得及从帐篷的被窝里爬起来，整个驻地就被日军的炮火所覆盖。
团长周瑞和参谋长何从龙，以及团部的所有人员，没有一人得以逃生，全部都被炸得粉身碎骨。
只有在团部外围负责警戒的警卫连，侥幸有几十号人逃过了炮火的打击，但他们随即就遭到了日军中队的攻击，由于寡不敌众，只得拼命逃跑。
幸亏此时1营长李向北带领一队人马冲杀过来，才使警卫连的这几十号人摆脱了日军的屠戮。
驻扎在右边树林里的3营，虽然也遭到了日军的炮火攻击，但因树林起到了一定的掩护作用，伤亡总算稍小一点，约有三分之二的官兵逃过了日军炮火轰击这次劫难。
3营长和他的2连长却没有那么幸运，他们在第一排炮火中就被炸成了碎片。
混乱中的3营官兵失去了有效的指挥，官兵们只顾着四散逃命。
有部分3营官兵被炮火炸得晕头转向，竟一头跑向了正在向他们包抄过来的两队日军，自然就遭到了日军的迎头痛击，在密集的枪弹中纷纷惨叫着倒下，几乎又损失了三分之一的人。
其余逃对了方向的第3营官兵也被日军紧追不放，不断有官兵在追兵的射击中倒下，幸亏此时1营副营长张兆龙带领的队伍已经赶到。
1营的队伍从两边包抄过来，德式冲锋枪的火力既密集又猛烈，将追击在前面的上百名鬼子打得纷纷惨叫着倒下，吓得后面的鬼子赶紧匍匐在地寻找掩体，不敢再冒险前进， 3营剩下的200多名官兵这才得以脱离险境。
李向北带领的那一路人马救出团部警卫连的残余官兵后，马上发射了一颗绿色信号弹，指示另外一路人马火速撤离，向他们预定的集结点会合。
因为，李向北看到了敌人后方的坦克和大部队，正在浩浩荡荡的开来，如果再不撤退，他们也会被鬼子包了饺子。
一个小时之后，李向北和张兆龙的两股队伍在预定的集结点会合了。经过清点，两股人马加起来有650人，其中有126人带伤，还有60多人因仓促逃命，是两手空空的。
李向北登上一个土丘，高声吼道：
“弟兄们，我是1营长李向北。你们都已经看见了，现在情况非常糟糕，我们的团部已经被小鬼子的炮火摧毁，只留下了警卫连的几十号弟兄；2营的弟兄们可能都没了，因为阵地都已经被鬼子占领了；你们3营也遭到了鬼子的炮击和围攻，损失非常惨重；我们1营昨天和鬼子干了两仗，也牺牲了一百多弟兄，还有几十个受伤的。
所以，我现在打算带着大家撤退，向师部驻地靠拢！愿意跟我们1营一起战斗的，就跟我们走。如果有不愿意的，我绝不勉强，请你们自便。因为鬼子马上就将包抄过来，我们必须马上就走！”
3营的那两百多名官兵中，本来就有一些是原来的舍虎寨接受改编的弟兄，能够和1营在一起，他们自然是很高兴的，他们感觉是又回到自己的弟兄之中。
3营其余的人和警卫连那些士兵也没有更好的选择，加之又是1营救出了他们，自然也都只有齐声回答，表示愿意跟着1营一起战斗。
李向北大喜，让部下将缴获的日军武器发给那些没有武器的人，然后带着他们就朝着102师师部方向出发了。他必须争取时间，尽快将这支队伍带回去，避免陷入日军的包围。
但是，让李向北想不到的是，战场形势的变化，已经远远出乎了他的预料。
因为日军连夜发起的不仅是对补充团防守的楼苇阵地的夜袭和强攻，而是全线性的总攻。就在一个多小时前，日军的机械化部队，已经全面突破了第8军防守的当面阵地。
第8军军长黄杰接到各地阵地相继失守的消息后大惊失色，马上召集军部会议研究，决定全军撤退。他搪塞上峰的“理由”就是电台被炸毁，无法与第一战区联系。
撤退命令下达给各师级单位后，军部立即率先撤退，随即引发了全军的溃退之势。
第102师撤退的命令下达时，师部与补充团无法联络上。师长柏辉章听到报告后，本想一走了之，但因想到傍晚参谋刘玉璋带队回来后报告的情况让他很是高兴，于是再次派刘玉璋带一个警卫排去寻找补充团，通知他们立即撤退。
刘玉璋仍然带着白天跟他一起去楼苇阵地督战的那个警卫排连夜出发，但却与李向北的队伍在黑夜里错过。
两个小时后，天已经大亮。李向北带着队伍赶到师部驻地时，师部已经早就撤离，只留下一些丢弃不要的辎重和遍地凌乱的垃圾。
600多名官兵先是傻了眼，继而感到了无比的愤怒。有的官兵大骂起来：
“他娘的，老子们在前面打鬼子，这些跟当官儿的却逃命也不通知我们一声！”
“他奶奶的，老子们成了爹不疼娘不爱的弃子啦，该怎么办啊？”
“日他姥姥的，这样的兵当得让人憋屈，老子不当了！”……
李向北在官兵们的一片牢骚和骂声中，召集张兆龙和陶三毛等几个连长碰头商议了一阵，决定上山干老本行——当土匪，但这回他们要抢的是日本人和汉奸恶霸，而不是老百姓。
李向北再次登高一呼，大声说道：“弟兄们，我们现在如果跟着大部队撤退的方向追的话，很可能会被小鬼子的机械化部队或者骑兵很快就追上，那样我们都会没命。我们现在决定上山打游击，这才是活路一条！大家愿意跟我们上山打游击吗？”
众人纷纷回答“愿意”。一则是因为队伍中的绝大多数人都曾经是舍虎寨的弟兄，都很信任李向北等人；二则是因为他们现在也无处可去，只有依靠足智多谋的李向北等人的带领才有希望活命。
既然队伍意见统一，李向北于是赶紧铺开地图，和张兆龙等人边看地图边商议后，决定向敌后的太行山方向进军，因为只有在敌后，才能出其不意的打小鬼子，也只有走上太行山，在山上才能进退有据、保存自己。
翌日早上，当李向北带着这650多人的队伍向太行山行军的时候，日军第14师团的战斗仍然在继续。
继5月29日占领商丘之后，土肥圆贤二见国军两支精锐之师一触即溃，不由大喜，于是继续指挥部队猛烈追击，将一场突围战打成了一场追歼战。
6月2日后，日军又相继攻占开封等地，不仅震慑了周边的国军，而且还肆无忌惮地对沦陷区的人民犯下了滔天的罪行。
见豫东会战彻底失败，为阻止日军的铁蹄沿陇海路继续西进，6月9日，蒋介石下令炸开了郑州东北花园口黄河大堤，“以水代兵”，用滔天的洪水来打破日军的作战计划，为保卫郑州和武汉争取时间。