1944年,随着抗战的进行,李济深3次拒绝了蒋介石电催他去重庆就任国民政府军事参议院院长,在广西与中国共产党人合作。当年夏天,桂林告急,周恩来通过秘密联系,建议李济深返回家乡苍梧大坡组建敌后抗日武装。李济深表示同意了周恩来的建议,带领一批进步文化人(胡希明、舒宗鎏、陈残云、曾昭森、李铁夫、黄庆云、黄婴宁等)回到苍梧大坡料神村。他派人编写《南报》等油印小报,及时报道抗日前线消息和进行抗战宣传,同时致电蒋介石指出:只有实行民主和发动民众,抗日才能胜利。
9月,梧州沦陷,日军进至距离李济深家乡只有数十里的地区。李济深马上行动起来,授意地方民主力量,发动家乡各界人士,在大坡成立了苍梧县南区行署和南区抗日自卫委员会,派胡希明、林炳南前往指导、扩大群众自发武装“东安人民自卫军”,聘任共产党人陈残云等在警卫队负责政治工作;还派人到广西怀集、玉林一带和广东的高州、罗定联系,通过蔡廷锴(李在桂时与蔡已相约回乡开展敌后抗日活动)推动谭启秀建立起一支抗日武装“三罗民兵武力指挥部”,与敌周旋。
1944年底,李济深等一行20余人,取道容苍公路经岑溪、容县、北流抵玉林,而后过广东经罗定抵郁南。李一路上与各界人士广泛接触,并发表演说揭露国民党消极抗日行为,号召群众团结一致抗战到底,并提出“自治、自卫、保卫家乡”的主张,得到各界人士拥护。中共三罗地区党组织在郁南县特为李济深召开了千人欢迎大会,以表明三罗人民拥护支持他在敌后进行抗日斗争。
李济深的抗日活动,得到中共中央的高度重视,周恩来十分关心李济深在敌后的抗日活动,多次指示东江纵队领导和中共广东地方组织与李济深联系。中共党员狄超白、李嘉人、连贯、杨基等先后前往李济深处,向李济深及时传达了中共“七大”精神和《论联合政府》的主要内容并协助工作,从人力物力上大力支持李济深。
1945年春,中共中央南方局给广东省临时省委电报指示:决定以中共领导下的东江纵队和珠江纵队作为主力队伍,汇合王震率领的由八路军三五九旅部分力量所组成的南下支队,由李济深出面组建华南民主联军。李嘉人曾派陈残云、李伯球去见李济深,将周恩来关于中共中央拟在南方成立由李济深任司令的华南民主联军的电报内容告知他,还商谈了帮助李济深扩大抗日武装的具体办法,并给他带去黄金1斤、人参1斤以及电台密码1本。
7月,东江纵队派李嘉人为驻李济深处的代表,并带译电员及电台报务员各一人,电台机器由李济深提供,并给李济深带去100万元作为活动经费。李济深对此十分感动,称赞共产党是“真正抗日的”。此项计划由于日本8月15日宣告投降而未及实施。