1940年10月,中共鲁南区党委报请山东分局和八路军一一五师司令部批准,成立鲁南军区,统一领导鲁南各地的武装力量,划归山东军区建制。为了彻底摧毁共产党领导的抗日力量,日伪对鲁南进行疯狂“扫荡”“蚕食”和分割、封锁,鲁南地区的国民党顽固派也多次制造摩擦。在严峻的形势下,鲁南抗日根据地认真贯彻执行上级部署,领导鲁南军民开艰苦卓绝的斗争,很快扭转了被动局面。
1943年下半年以后,鲁南抗日根据地的形势开始出现了有利于我的重大变化,1944年,鲁南地区的抗日战争局面又有了新的发展,敌、顽、我的力量对比发生根本改变。为进一步打击敌人,鲁南区党委和鲁南军区领导根据地军民发起攻势作战,连克多处敌人据点,并采取长期围困的战术,对东白山据点敌人实行迂回包围,切断了崮口与东白山据点的联系通道,使东白山伪军陷入孤立无援的境地。1944年1月,为救援东白山伪军,伪十军军长荣子恒率所部进占临沂兰陵大仲镇陡沟庄村。荣子恒本是国民党五十七军三三四旅旅长,于1943年夏率3000余人公开投敌,被编为伪“暂编和平建国军第十军”,驻扎在鲁南崮口山区等地。这股敌人一面为虎作伥,剿杀抗日力量,一面压榨群众,干尽了坏事。鲁南群众恨之入骨,纷纷请求剪除此害。
八路军鲁南军区得到该部敌人进犯的消息后,立即集中主力部队4个大队的兵力,于1月16日下午1时到达陡沟庄,随即发起进攻。不久,八路军突破外围防线,攻入村内,与敌人展开巷战。战至黄昏,伪军不敌,开始向西、南方向逃跑。当他们逃到放马岭时,又被埋伏在岭上的八路军一阵截杀,死伤惨重。经过5个多小时的激战,战斗胜利结束。此次战斗,八路军共毙伤300余人,俘敌156人。经审问俘虏得知:荣子恒在战斗打响时率骑兵队先逃跑了。
5月1日,鲁南军区集中主力部队,在地方武装配合下,向伪十军驻地发起主动进攻。当晚,攻击部队秘密迂回到敌人侧后,兵分4路突然发起猛攻。由于八路军主攻方向完全出乎敌之意料,伪军顿时陷于混乱。2日夜,八路军主力攻克伪二师师部,并在追击战中全歼伪二师,击毙伪师长刘国贞,随后又乘胜歼灭了伪一师二团主力,并击退临沂援敌。荣子恒率残部向费县、临沂逃窜。此役,八路军毙敌200余人,俘敌516人,缴获了大批武器弹药,收复了整个崮口山区。此后,鲁南军区部队再接再厉,于10月23日、24日在费县、平邑间设伏,歼灭外出的伪十军200余人。鉴于伪十军连遭败绩,日军将其补充后,把他们调至泗水县城及其周围地区,担任“重点守备”。八路军鲁南军区侦悉这一情况后,决定集中主力,联合鲁中军区,彻底消灭这股敌人。
1945年1月,八路军通过侦察员和内线关系,摸清了泗水城内的敌情。2月1日晚,鲁南军区部队协同地方武装来到泗水城下隐蔽。3日晚,八路军向泗水城发起进攻。八路军一支突击队很快在西门北面架梯登城成功,并迅速控制西城楼,打开了西门。各部队冲入城中,对城内各既定目标展开攻击,不久便包围了伪十军军部及伪县政府。激战至4日拂晓,荣子恒等伪军头目和日本顾问带领残敌分别退至几个大碉堡内,企图死守待援。兖州、曲阜日伪军闻讯后出援泗水,均在途中被八路军打援部队击溃。
4日晚,八路军分别向被围之敌发起总攻,“爆破大王”马立训用30公斤重的炸药包对守敌碉堡实施爆破,为大部队扫清了障碍。经过激战,伪副军长和日本顾问均被击毙;伪参谋长妄图从东门突围,被打死在东门里。残敌见状,纷纷举手投降。伪军长荣子恒见突围不成,就化装成伙夫模样,趁黑夜逃上城墙,顺着绳子从城上溜下来。刚一落地,就被埋伏在城下的八路军战士击毙。与此同时,八路军鲁中军区部队和鲁南地方武装一部,攻克泗水外围据点,击溃新组建的伪第三师的顽抗,守敌两个团缴枪投降。此役,八路军鲁南部队在兄弟部队的配合下,共击毙伪十军军长荣子恒以下100余人,俘虏伪师长和伪县长以下近2000人,克复了泗水县城及其外围据点11处,巩固并扩大了鲁南抗日根据地,为即将到来的大反攻奠定了基础。战后,八路军山东军区首长对参战部队通令嘉奖。