早在3月15日，李宗仁得知蒋介石为加qiáng第五战区的防守力量，将驻河南的第一战区汤恩伯第二十军团和孙连仲的第二集团军东tiáo徐州，心中十分高兴。这两个集团军共计四个军5万兵力，且装备齐全，有四个炮兵团。李和白商量后决定，将四个军布防在台儿庄一线，伺机围歼第五、第十师团。
白崇禧熟悉日军各师团战斗力和各师团长的脾气特点，他说:“德公，日军第十师团长矶谷廉介，此人极其狂妄，他不待蚌埠方向援军北上，从津浦路向东，直扑台儿庄，想一举夺取徐州，争夺占领徐州的首功。我建议利用他的这种骄狂心理，在台儿庄设下重兵，歼灭矶谷师团，你意下如何？”
“好！”李宗仁点头同意，接着问，“你打算如何痛打矶谷呢？”
白崇禧在地图上指画着说:“你看，我估计矶谷要从滕县、枣庄向东猛进，我们由孙连仲部的三个师摆在台儿庄固守。据说，这个师刚参加华北娘子关战斗来到这里，擅长防御。汤恩伯军团开到津浦路徐州以东、台儿庄以西，诱敌深入。如果矶谷中计，汤兵团让开大路放其进来，汤兵团绕到矶谷后尾，孙连仲部也抽一部，进行侧击，就可全歼矶谷师团。德公，你意下如何？”
“这个方案挺好，”李宗仁指着地图上的临沂说，“我们的方案千万不可一厢情愿，临沂方向坂垣征四郎的第五师团，一定会赶来增援矶谷，要抽出兵力堵截我军。”
白崇禧说:“那就由第五十五军开到临沂、枣庄一线，将矶谷与坂垣隔开来。”
方案确定后，报请蒋介石批准，蒋复电同意。汤恩伯军团按时开赴津浦线，向滕县方向猛攻，边走边打。矶谷命令部队冲锋，汤恩伯在望远镜中见矶谷猛扑过来，命令部队虚晃一枪，佯作顶不住状，突然向东面抱犊崮山区转移。汤恩伯也有心眼，重炮营不便在山区运动，他便命令重炮营开进台儿庄，归战区长官指挥。矶谷果然中计，以为汤兵团无力抵抗，向东逃窜，也不追击，直接沿津浦路临枣支线向台儿庄扑来。矶谷拥有4万步兵，大小坦克近百辆，山炮、野炮近百尊，轻重机枪不计其数，天上还有30多架飞机助威。lún番在徐州城、临沂、枣庄、台儿庄上空丢炸弹，徐海地区方圆三四百里，陷入一片火海之中，硝烟在天空弥漫，久久不能散去。大部分村庄、树木被烧成木炭，化为灰烬。
3月24日中午，矶谷师团bī近台儿庄，向守军猛烈开炮，汤恩伯送来的重炮营正好派上用场，频频向敌还击。敌人开炮两个多小时后，步兵在坦克的掩护下，向台儿庄冲锋。台儿庄居民用石块垒成房屋，守军在房屋四周阻击。但是，敌坦克十分凶猛，守军无平射炮，又无坦克，无法反击，全凭血rou之躯与坦克搏斗，至死不退。矶谷师团连攻三天，才冲进了台儿庄城内，与守军进行巷战。孙连仲部伤亡过半。27日始，敌我在台儿庄作拉锯战，大街小巷尸体堆成山包，敌我双方官兵浑身是血，无法辨认。
此时，李宗仁命令汤军团迅速南下，开进台儿庄增援。李宗仁三令五申之后，还不见汤恩伯南下迹象。4月2日下午，李宗仁在电话中对汤说:“现在是打仗，你如再不听令，致误戎机，当照韩复榘前例严办！”
4月3日下午，汤兵团才姗姗来迟。台儿庄守军已伤亡殆尽，日军占领守军阵地三分之二。孙连仲打电话向李宗仁报告说:“我们第二集团军将士只存三分之一