韩复榘第三集团军退守黄河南岸后，中日军队隔河对峙月余。华东方面日军攻陷南京后，沿津浦路北进，津浦南段沦入敌手。日军统帅部企图南北对进会攻徐州，打通津浦路，尔后合军兵进中原。
北路日军第十师团，于1937年12月23日，从济阳、青城间突破黄河防线，韩部第二十二师溃退博山。日军占领周村、博山后，沿胶济线向西推进，27日占领济南。24日夜，韩复榘率部放弃济南，向泰安、大汶口、宁阳撤退。第五战区司令长官李宗仁令韩复榘节节抵抗，撤守兖州，韩置之不顾，于1938年1月初，尽渡运河西撤。由于韩复榘不战而逃，造成徐州以北兵力空虚，日军长驱直入，1月5日陷济宁，至中旬，日军已侵占大半个山东。蒋介石以韩复榘违抗军令、擅自撤退、拥兵自重等罪名在开封将其逮捕，24日在武汉处死，委于学忠兼任第三集团军总司令。
日华北方面军第二军指挥第十、第五两个师团共七八万人，以第十师团确保济宁-邹县-蒙阴一线，以第五师团确保胶济线，尔后兵分三路南下，合取徐州。右翼由济宁、嘉祥向归德(今商丘)方向进攻，企图占领归德，沿陇海路东进包抄徐州。由于第三集团军的抵抗，加之该地区多湖泊河汊，不便机械化部队行动，日军在右翼改取守势。左翼日军企图攻占临沂，由鲁南趋陇海路，西向直扣徐州侧背。中路日军主力直扑徐州正面。
第五战区司令长官李宗仁，指挥第二集团军孙连仲部、第三集团军于学忠部、第二十二集团军邓锡侯部、第三军团庞炳勋部、第二军团汤恩伯部及第五十九军张自忠部、第二军李延年部、第二十二军谭道源部、第三十二军商震部、第四十六军樊嵩甫部、第五十一军于学忠部、第六十军卢汉部、第七十五军周 部、第九十二军李仙洲部共40万人，在鲁南阻击日军，确保徐州及徐海地区安全。
一、莒县保卫战
日军板垣征四郎第五师团，于1937年9月在平型关遭到八路军一一五师重创后，集结保定附近整训。1938年1月12日东进，先头部队于19日进入青岛。 日军统帅部大本营将板垣师团配置在胶济铁路沿线，担负机动作战任务，以便必要时从海上转用其他方面。济南失守后，国民党第三舰队司令兼青岛市市长沈鸿烈，于1938年元旦弃守青岛，向徐州方向撤退。2月， 日军第五师团以第二十一旅团坂本顺部为基干组成坂本支队，向临沂方向进攻，协同津浦路第十师团会攻徐州。21日，坂本支队第二十一联队片野定见部，兵临莒城外围。
此前，当诸城失守，日军向莒北进犯时，国民党莒县县长许树声已率县大队撤离莒城。国民党第五战区第二路游击队(受第三军团庞炳勋指挥)司令刘震东，请缨出战，获准，于21日下午率部进入莒城。刘当即察看地形，督修工事，部署战守。午夜，庞炳勋部第四十军之第二二九团赶至莒城，许树声之县大队也被截回，当夜成立指挥部，刘被公推为总指挥。
22日破晓，日军从北面逼近莒城，发起攻击。刘震东登上城墙，巡视各哨，激励士气，誓与莒城共存亡。在他赶往战斗炽热的西北角时，被日军炮弹击中，壮烈殉国。
日军攻北门不下，在飞机掩护下向城西、城南迂回。第二二九团在大湖一带迎击日军，南门守军亦拼死抵抗。日军集中突击县大队防守的东城，占领东北角。城内守军背腹受敌，乃从南门退却，日军占领莒城。
莒城失陷后，中国共产党在重庆主办的《新华日报》先于3月8日发表莒县战讯，继以《莒县我军奋勇杀敌，刘震东氏壮烈牺牲》为题，作长篇报道。12月，在重庆召开的刘震东等21位烈士追悼会上，中国共产党、八路军领导人朱德、彭德怀等送了花圈和挽联。
二、临沂阻击战
1938年2月中旬，第三军团军团长庞炳勋率第四十军由海州进入鲁南阻击日军。日照、莒县失守后，日军坂本支队于3月5日占领汤头(临沂北)，庞军退守临沂。李宗仁即调张自忠之第五十九军，由济宁、兖州驰援庞军。张自忠以民族大义为重，不计前嫌(庞炳勋、张自忠早年同是西北军冯玉祥部将领， 后庞被蒋介石收买叛冯投蒋，袭击张部，张自忠中弹，几乎被俘。)，毅然率部日夜兼程赴援，于3月12日到达临沂近郊。庞军固守城池，张军城外机动，联合抗击日军进攻。3月14日， 第五十九军以第三十八师为左纵队、第一八○师为右纵队，向临沂城东北之敌发起反击。张军发挥近战夜战特长，依托茶叶山诸要点，猛扑日军阵地，逐村逐院争夺，战况异常惨烈。第五十九军连日苦战，至17日，伤亡7000余人，半数营长因伤亡而更换，连排长几乎全部易人。在临沂前线之第五战区参谋长徐祖贻见状致电李宗仁，建议该军撤出战斗整补。第五十九军官兵杀敌心切，张自忠恳请再战一天一夜。18日，全军集中兵力兵器向敌猛扑，日军不支，全线动摇，向莒县方向溃退。是役前后5昼夜，重创日军两个联队。20日午夜， 第五十九军西向攻击津浦线日军侧背。23日，日军第五师团重犯临沂，试图从临沂西北义堂集一带绕过，增援台儿庄。第五十九军再返临沂，占领城北、西、南诸阵地。日军见无法绕过，便将主力置于城西北方，27日，在飞机支援下向临沂猛攻，占领了一些村庄。由于中国军队顽强坚守，拼死抵抗，直到29日，日军仍未占领临沂。
临沂之战挫败了日军攻占临沂、合攻徐州的图谋，为台儿庄大捷奠定了胜利的基础。
三、滕县保卫战
津浦线日军第十师团占领兖州、济宁后，暂以邹县为据点，以两下店为前进阵地，与界河东西之线的第二十二集团军之第四十五军成对峙状态。3月14日， 日军以步兵第三十三旅团为基干，配属炮兵、轻装甲车、工兵等部队，编成濑谷支队，开始攻击，突破中国军队的防线，从龙山以东迂回滕县，15日17时进至龙阳店附近。16日晨，濑谷支队在飞机掩护下进攻滕县城。第二十二集团军之第四十一军第一二二师，在师长王铭章指挥下，全力死守，以待汤恩伯军团来援。汤部第八十五军王仲廉部，先头部队于16日占领官桥一带阵地，掩护军团主力集结，并派部分兵力向滕县东北攻击前进，试图阻止日军南下，以解滕县之围。是日，日军濑谷支队以第十联队为主力加紧攻城，以第六十三联队为基干继续南进。17日，攻城日军集中空、炮火力狂轰滥炸，战况至烈，南门终被轰开，日军蜂拥而入，并趁势扩张。王铭章率部反击，与日军展开巷战，逐屋争夺，终因众寡悬殊，无力挽回危局。王在转移指挥阵地时，不幸中弹牺牲。滕县城遂于18日陷落。
中国共产党领导人毛泽东、董必武等赋挽联，痛悼王铭章将军：
“奋战守孤城，视死如归，是革命军人本色;
决心战强敌，以身殉国，为中华民族争光。”
四、台儿庄大捷
日军占领滕县后，继续南侵。先期南进之濑谷支队步兵第六十三联队，3月 16日突破南沙河一线中国守军防御，17日晚占临城。18日，以部分兵力，分左右两路，右路指向韩庄，左路指向峄县，20日分别攻占两地。22日7时， 主力从临城出发，17时许到达峄县，沿枣(庄)台(儿庄)支线继续进攻，企图迅速攻占台儿庄，控制台儿庄至韩庄运河一线，作为进攻徐州的前进阵地。
第二集团军孙连仲部，奉李宗仁之命，于3月22日进驻台儿庄阻击日军。 孙集团第三十一师池峰城部当台儿庄要冲，第三十师张金照部、第二十七师黄樵松部等分列左、右翼及台儿庄以南地区。汤恩伯军团处于外线，配置在邳县、郯城、兰陵、向城间，攻击日军侧背，协同孙集团作战。于学忠之第五十一军、周 之第七十五军集结于徐州一带，准备增援。23日，日军进至北泥沟车站，24日，在飞机、炮兵支援下，以坦克为前导，向台儿庄猛扑。第二集团军将士，尤其第三十一师官兵，抱定与台儿庄共存亡的决心，以血肉之躯与敌相拼，至死不退。经3天血战， 日军付出沉重代价，方于26日攻入村寨东北角。27日始，双方开展拉锯战，每条街道、每座房屋都几经争夺，日军白天占去，守军夜间夺回。池峰城师长组织57人的敢死队进行反击，经几番厮杀，将台儿庄西北角日军大部歼灭，敢死队仅11人生还。日军濑谷支队步兵第十联队的《战斗详报》，对当时的战况有如下记载：中国军队“重叠相枕，力战而死之状，虽为敌人，睹其壮烈亦将为之感叹。曾使翻译劝其投降，应者绝无。”可见中国抗日武装甚有“战斗精神，决死勇战气概”。
此后，日军攻击更加频繁。3月30日，濑谷支队的步兵第十联队、 第六十三联队及炮兵、战车等均投入战斗，4月1日，第八旅团之第三十九联队一个大队配属濑谷支队，加强攻击。3日，日军占据台儿庄的3/4，中国军队死力苦撑，以待援军。在第五战区长官部再三严令督饬下，汤恩伯始向峄、枣一带日军进攻，继向台儿庄之敌侧背出击，使台儿庄日军陷于背腹受敌，遂放弃对临沂攻击，将坂本支队转用台儿庄方面，攻击汤军团侧背，以解濑谷之危。汤军团将第五十二军关麟徵部转用该方向，并以周 军加入攻击，一鼓将坂本击退。4月6日晚，中国军队全线反击，将攻入台儿庄的日军歼灭大部，其余逐至峄县以北地区。7日凌晨， 中国军队收复台儿庄，大战告捷。
台儿庄血战半月，歼灭日军1.1万余人，俘虏700余人，缴获步枪万余支，轻重机枪931挺，各种炮127门，战车40辆。中国军队伤亡2万余人， 第一一四师第三四○旅旅长区先梅殉国。
五、配合与支援
在鲁南会战过程中，共产党领导的八路军、地方游击队、民兵和战区人民群众，从各方面给予了有力的配合和支援。3月24日， 八路军朱德总司令命八路军一二九师副师长徐向前，率一旅之师由南宫东进，迫近津浦线牵制日军，策应鲁南作战。冀鲁边游击队破袭津浦路北段，攻克庆云、乐陵;清河部队破袭胶济路西段;泰 (山)西武装在泰安南击毁日军弹药车一列，并炸毁万德车站附近铁路、 公路桥梁，使津浦线中断行车七八天。中共苏鲁豫皖特委与第五战区联系，主动担负部分战勤任务，组织民工、群众抬担架、救伤员，运送给养、弹药。枣庄煤矿工人组织游击队，袭击日军后方，直接配合了军队作战。战区内的群众杀猪宰羊，煮鸡蛋烙煎饼，尽其所有慰劳军队。
