抗敌训练班声誉很好,范文澜与同仁商量后,决定挑选部分优秀学员南下信阳打游击,并沿途举办短期培训班,联系当地青年,宣传抗战,发动民众,培养抗日骨干力量。
这支近百人的队伍被命名为河南大学抗敌训练班农村服务团(简称服务团),由河南大学教授嵇文甫、范文澜分别担任正副团长,成员大多来自河南大学及北仓女子中学、省立女子中学、开封女子师范和开封高中。服务团一切具体事务都由范文澜负责。
服务团从开封步行到许昌,在许昌办了一个为期两周的训练班,受到当地政府、驻军和民众的欢迎。1938年1月30日(农历1937年腊月二十九日),范文澜带领服务团抵达舞阳县一个小村庄。这时恰逢过年,服务团连夜组织学员画漫画、写标语,向村民宣传抗日道理;随后又在附近村庄举办识字班,编唱通俗易懂的《抗日三字经》。范文澜带领学员们教唱抗日救国歌曲,演出抗日话剧。
春节后,范文澜带领服务团进驻舞阳县城,与当地抗战及青年团体联手进行抗日宣传,这引起了驻舞阳第五十二军军长关麟征的不安,于是授意县政府将服务团赶出县城。舞阳县长也不敢出面,派警察局长去找服务团。
范文澜听到警察局长的“逐客令”后非常愤怒。第二天,他找到关麟征,质问他为什么赶服务团走。关麟征自知理屈,随即摆了几桌酒席为范文澜和服务团学员“压惊”。范文澜将酒桌当成了演讲台,他对大家说道:“诸位,我们在这里似乎听不到枪声和炮声,可是大家可曾想到,就在这个时候,我们这个有着几千年文明史的中华民族,正在遭受着一场怎样的劫难?!日本帝国主义的铁蹄在野蛮地践踏着我们的国土,大好河山烽烟四起,同胞们的鲜血染红了大地!有多少父老在血泊中呻吟!有多少兄弟姐妹在遭受着敌人的蹂躏!我们的民族在流血啊!大家还是团结起来,拯救我们的民族吧!”服务团学员和在场军官们无不被范文澜的演讲感染。
1939年春,日军加紧对信阳、桐柏一带的侵犯,为保证范文澜安全,中共鄂豫边区党委决定范文澜从信阳回到确山县竹沟镇,随同党委机关一同行动。