第7兵团的先头部队第64军，很顺利地到达了碾庄圩，但刘镇湘得到一些极其不利的消息。自己派到窑湾对面的那个营，很快便被解放军吃掉了两个连，但他们稍稍撤退后，仍以残部兵力，监视着运河岸边解放军的一举一动。而解放军约有一个团的兵力，也于7日夜晚，运动至土山镇附近，有截断运河到曹八集间铁路的企图。碾庄圩赵墩车站南侧的几个村庄，也出现了解放军的身影，正在试图截击沿铁路撤退的第25军陈士章部的先头部队。
8日，刘镇湘接到兵团司令黄百韬电话，说明了徐州发生的紧急情况，第8军已经脱离曹八集、大许家阵地，驰援徐州“剿总”，第9军亦在转移之中，第13兵团之后卫部队第3师亦有提前转移迹象。他命令刘镇湘以有力之一部，击溃赵墩车站以南几个村庄之共军，以确保运河至曹八集之间铁路交通安全。
接到命令的刘镇湘，立即出动两个团的兵力，在优势炮火的支援下，很快便将解放军压制出去。第64军遂于碾庄圩停止前进，填补因第13兵团提前撤退而造成的空白防区，以接应第7兵团其他部队撤退。然而，后面的情况越来越糟糕，第25军在运河对面损失约一个团的兵力后，仓皇过了运河。而第100军之第44师在运河对岸损失惨重，两个多团被歼，其中一部投降。更令刘镇湘担心的，还是陈章的第63军，只知道窑湾方向炮火连天，却不知道具体的战况如何。
而这个时候，黄百韬也赶到了碾庄圩，他决定部队再往前走，到达曹八集、大许家一带，构筑工事，与解放军对决。并让此时已经到达赵墩车站附近的第44军派出一个团，向曹八集方向，搜索前进。
而王泽浚的第44军携带着大量非战斗人员，一直到8日晚，始开始过桥，直到夜半时分，第44军大部过河，仍有小部在运河以东地区，拖拉不前。9日拂晓，第44军448团在薛家湖方向与解放军遭遇，睡梦中的王泽浚得知，兵团部已经到达碾庄圩附近，便命令该团凭借铁路线，掩护全军，便战便走。9日上午到达赵墩车站，时刘镇湘部已经击退车站南几个村子的解放军，第44军这才安顿下来。
上午时分，黄百韬在碾庄圩召开各军军长会议，黄百韬提出，部队继续西进，到曹八集附近，以曹八集为核心，构筑环形防御体系，由64军守曹八集东、第44军守南、第25军守北、第100军守西，另以第64军一部守土山至高点。
当时，第100军第44师刘声鹤残部，已经在曹八集与解放军开战了，周志道忧心如焚，立即同意了黄百韬的方案，他要借以解刘声鹤之围。而刘镇湘却提出了反对意见，多年以后，他对此事的表述是：第一，他想解救自己的难兄难弟第63军陈章部；第二，第64军去年冬季的时候，在范家集战役中，因守山地而被歼一个第467团；第三，自身狂妄自大，认为到哪打都是打，反正总有一战，何必东奔西跑？如果此役能立下大功，说不定还能和第63军组建一个以粤军为基础的兵团。当然，以刘镇湘的战场经验，他也想到了战败与死亡，但都无所谓了。
后人说起此事时，还说过，曹八集那座土山，就是当年“关云长土山约三事”，然后“降汉不降曹”的所在地。以刘镇湘的个性，如果当时他有这种想法，他会说出来的。
而第25军军长陈士章却认为，能靠近徐州一步算一步，要知道，当初大伙救张灵甫的时候，都能听到战马嘶鸣的声音了，可就是那么一点距离，愣是打不过去啊。刘镇湘则反驳说，战场上，靠邱清泉、李弥救我们，门都没有，还得靠我们自己打。
就在众将领争论不下之时，黄百韬做出了他一生中最迟疑的一次选择，他把这道选择题，交给了蒋介石和他的高参们。而要做这道选择题的第一人，便是刘峙，刘峙的回答很简单：“黄司令官，你看着办吧。”而蒋介石的回答，还要等到下午3点以后，他召开的总统官邸军事会报会议上才能决定。而解放军的进攻，是不可能摁下暂停键的。
这个时候，空军报告，共军有三万余人正从宿羊山（位于碾庄圩西北约二十里）方向，跑步南下，另有万余人正从铁路南向西疾进，他们的意图，极其明显，是在追击合围第7兵团。然而，黄百韬和他的军长们，却犹豫不决，在碾庄圩苦苦等待着上峰的命令。
更令黄百韬感到吃惊的是，第44军派出的向曹八集的搜索部队肖德宣团，从曹八集方向败退下来了，他们报告，第44师残部已经被解放军团团包围，第9军3师的一个团，在西撤途中，完了。黄百韬呆呆地看着地图，他知道，西边的解放军部队是钻了第三绥靖区起义部队让开的口子，直接杀将过来的。
很快，已经追上来的解放军很快便展开了对碾庄圩东南两个方向的进攻。此时，刘峙的命令也到了：“着该兵团在碾庄圩地区决战。”
当然，在众人的回忆录中，还有这样一句话：“已命黄维兵团经宿县、宿迁渡过运河，挺进运河东进行外线反包围；又已令杜副总司令率邱、李两兵团东援。”关于这两件事，黄维多年后说，他并没有接到这封电报。而杜聿明说，当时，我正在北平和傅作义先生吃饭呢。而据周开成等人回忆，刘峙当时六神无主，恨不得把所有能调到徐州“护驾”的部队，全调到自己身边来，怎么可能这样大方呢？看来，“固守”决战，是当时的决策，而固守待援，则是明天、后天的事了。话说到这里，也只有一种可能，那便是黄百韬“假传圣旨”，给大伙打气的。
不管如何，黄百韬还是很快做出了新的部署：
（一）各军就现在占据的各村庄构筑工事准备决战（第64军在东、44军在南、25军在北、100军在西）；
（二）第25军附一个团守备碾庄圩；
（三）通信营迅速架通各军电话；
（四）榴炮营立即在碾庄圩构筑阵地；
（五）工兵营于碾庄圩西南角构筑第二线阵地；
（六）兵站将现有粮弹分发各部队；
（七）兵团指挥所设于碾庄圩。
当晚，解放军完成对碾庄圩第7兵团的包围。
