日本侵略军1937年12月13日和27日相继占领南京、济南后，为了迅速实现灭亡中国的侵略计划，连贯南北战场，决定以南京、济南为基地，从南北两端沿津浦铁路夹击徐州。
按原定作战方案，徐州以北保卫战，由第5战区副司令长官兼第3集团军总司令韩复榘指挥，岂知驻扎山东的韩复榘，大敌当前，还为保存实力打小算盘。1937年12月23日，日军一部攻陷归仁镇后，韩复榘未战而走，造成了严重后果。27日，济南失守，日军由博山、莱芜进攻泰安。1938年1月1日，泰安落入日军北方军第2军矶谷廉介之手。韩复榘连连丧池失地，致北段津浦路正面大门洞开，使日军得以沿线长驱直入，给徐州会战投下阴影。李宗仁屡屡严电韩复榘夺回泰安，并以此为根据地阻截南下之敌。韩复榘对李宗仁的命令置若罔闻，一错再错。为此，韩遭到蒋介石枪毙的处置，由孙桐萱代任其职。韩复榘的不战自退，非但使中国军队失去了黄河天险，更将济南、泰安等地拱手让敌，其后果之恶劣，实难形容。他也因此成为在抗战中第一个被处决高级将领。
台儿庄地处苏鲁交界，位于枣庄南部，地处徐州东北30公里的大运河北岸，临城(今枣庄市薛城区驻地)至赵墩的铁路支线上，北连津浦路，南接陇海线，西面毗邻南四湖，为山东南大门、徐州之门户，乃是南下徐州的最后一道屏障，举世闻名的京杭大运河横贯全境，自古是南北漕运枢纽，战略位置十分重要，历史上为兵家必争之地，是日军夹击徐州的首争之地。