1931年9月18日，日军开始向沈阳东北军北大营和沈阳城内发起进攻。“九一八”事变爆发。由于国民党政府推行“不抵抗”政策，使日本侵略军在不到4个月的时间内就侵占了辽、吉、黑三省大好河山。但是，东三省广大人民群众和东北军中的一部分爱国官兵，违背国民党政府的意志纷纷组织抗日义勇军，自发的进行抗日斗争给予日本侵略军以沉重的打击，表现了中国人民不畏强暴、坚决抵御外侮的爱国主义精神，有力地推动了全国抗日救亡运动。在这民族危亡的关头，中国共产党站在东北民众抗日斗争最前列，及时地发表宣言决议，揭露日本帝国主义的侵略罪行，号召群众罢工、罢课、罢市、罢操，组织反日示威集会游行，用民族自卫战争反抗日本帝国主义的侵略。当时正在哈尔滨巡视工作的中共中央巡视员罗登贤(不久即任满洲省委书记)召集北满党的负责干部会议，他郑重表示：“蒋介石国民党以不抵抗政策出卖了东北同胞，我们中国共产党人一定与东北人民同患难、共生死，敌人在哪儿蹂躏我们的同胞，我们中国共产党人就在哪儿和人民一起与敌人抗争。”他又说：“不驱逐日寇，党内任何人不能提出离开东北的要求，谁如果提出这样的要求，那就是恐惧动摇分子，就不是中国共产党员!”中国共产党的抗日号召在各阶层人民中引起强烈的反响，自9月21日开始，哈尔滨市党组织根据满洲省委部署，组织反日会和总工会连续举行声讨日本帝国主义侵略罪行的集会演讲、游行示威。9月26日(中秋节)晚上，哈尔滨的工人、学生、反日会员及市民在道外正阳街举行了盛大的反日大示威。这一时期，工人罢工，学生罢课、商人罢市、士兵罢操，形成了一场颇有声势的反日爱国运动。1931年底，哈尔滨各大中学校全部罢课，学生除进行反日宣传外，都参加军训。哈工大有二三百学生参加军训，并编班、排、连、营，由赵尚志给讲游击战术课。学生们经过军训后，军事素质有了很大提高，许多学生后来参加了抗日义勇军，直接参加武装打击敌人的战斗。1931年11月4日，“江桥抗战”开始后，中共满洲省委和北满特委动员哈尔滨各阶层人民，组成爱国“抗日援马团”，支援马占山抗战。哈尔滨的反日会员、党团员和青年，在党团组织的动员下，北上参加马占山抗日部队，壮大了抗日力量，鼓舞了广大官兵抗日的斗志。
1932年初，日本侵略者调动大批军队向哈尔滨进犯。1月30日，中共满洲省委发表《为反对日本帝国主义进攻哈尔滨告士兵群众书》。号召工农民众联合起来，武装抗击日本侵略者。在以李杜为首的吉林自卫军进行“哈尔滨保卫战”期间，党号召哈市各爱国团体、各界民众捐款、慰问，支援吉林自卫军抗战。1932年2月5日，日军占领哈尔滨。就在当天夜里，共产党员冯仲云和赵尚志冒着生命危险，到松花江北呼海路修理厂，参加集会，控拆日军侵占哈尔滨的罪行，号召工人团结起来，同日本侵略者进行坚决的斗争。当时担任中共哈尔滨市委书记的杨靖宇，奔走于工厂、学校以及呼海路沿线，发动反日会员、工人、农民、学生支援抗日军的爱国壮举。1932年4月中旬，杨靖宇曾到呼海路发动地下党组织和反日会支援马占山，当他知道哈埠日军准备了五列军车，计划运兵北上镇压抗日义勇军时，立即派人给邓文送信。邓文得报后，星夜出兵进入松浦车站，在车站爱国工人的配合下，将所有车辆劫往海伦。当列车开过呼兰之后，又将呼兰桥拆毁，断绝了铁路交通。日军准备出兵时，因找不到机车车辆，铁路桥梁又被破坏，对马占山部队的进攻计划遂告破产。
1931年10月，中共中央军委书记周恩来以伍豪为笔名在党中央机关刊物《红旗周报》第20期发表了《日本帝国主义占领满洲与我们党当前任务》，号召东北党要组织武装抗日，在东北必须发动民族革命战争来反对日寇，驱逐日寇出东北，东北人民要“自动武装起来”，组织救国军、义勇军，进行游击战争。1932年1月，罗登贤和省委军委书记杨林及周保中根据周恩来指示精神一起起草了《抗日救国武装人民群众进行游击战争》的纲领性文件，提出我党必须积极发动群众，建立党直接领导的抗日武装，才能取得抗日救国的彻底胜利。同时，还要支持援助和联合其他非党的一切抗日武装力量共同反抗日本帝国主义的侵略。满洲省委为取得对东北抗日武装的领导，一是派党员到义勇军中去，如对吉林抗日救国军的王德林及其所部吴义成、孔宪荣等队伍，满洲省委曾先后派遣共产党员李延禄、胡泽民、孟劲清、金大轮、周保中等进去开展抗日工作，并担任领导职务。李延禄担任了王德林抗日救国军司令部参谋长和游击司令，胡泽民担任吴义成都前方司令部参谋长，周保中担任救国军前方司令部参议、抗日救国游击军总指挥等;二是派有经验的党员打进伪军部队去工作。1932年满洲省委常委何成湘在给中央的总结报告中就提到，在哈尔滨警备队中有我们党组织的反日会组织。北满特委曾指派杨佐青负责警备队的起义工作。夏尚志在哈尔滨市委工作期间，亲自做伪军第8旅的工作，在内部发展了70多名党员和反日会员，留下抗日的火种。由于党重视了兵运工作，哈市以外，满洲军警备队、公安队哗变经常发生;三是创建党直接领导的抗日武装。1932年2月25日，中共满洲省委在哈尔滨召开省委扩大会议，研究创建抗日游击队，开展抗日游击战争问题。决定派干部到各地指导创建游击队工作。1932年春，满洲省委先后派共产党员杨君武与省委军委书记杨林，到吉林省磐石县发展武装力量，进行反日游击战争。在那里创建了磐石工农义勇军，后来又派杨靖宇去领导这支队伍，发展成为东北抗日联军第一军。在东满地区，省委派童长荣任特委书记，创建了延吉、和龙、珲春和汪清等反日游击队，后来发展成为东北抗日联军第二军。在北满和吉东地区，省委派赵尚志、冯仲云、周保中等，先后创建了巴彦、海伦、珠河、汤原、密山、宁安等许多游击队，后来发展壮大成为抗日联军第三、四、五、六、七军。尽管这些游击队当时人数很少，武器简陋，但却是党领导下的与人民群众血肉相连的、最坚强的抗日队伍。
1932年6月24日，中共中央在上海召开“北方会议”，满洲省委组织部长何成湘参加了这次会议。在王明“左”倾政策的指导下，会议通过了《革命危机的增长与北方党的任务》、《开展游击队运动与创造北方新苏区的决议》等文件，无视东北已经变为日本帝国主义殖民地这一事实，不顾东北人民抗日救国的迫切要求，要求东北党组织把“反日斗争与土地革命密切联系起来，进行土地革命，建立红军和创造新苏区。同时提出了“武装保卫苏联”这个脱离抗日斗争实际的口号，并且还把反对日本帝国主义与反对一切帝国主义并列起来，从而模糊和削弱了中日民族矛盾的尖锐性。会上，何成湘代表满洲省委向中央提出了自己的见解，他认为，由于日本帝国主义的入侵，满洲已变成日本的殖民地，东北的工厂、矿山、森林农田已大部被日寇所控制，广大民众生活在水深火热之中;由于历史的原因这里没有经过大革命的锻炼，共产党在东北的力量还十分薄弱，群众的阶级觉悟、文化水平也较关内为差，因此，党在东北应实行适合于东北实际情况的政策。但是他的意见非但没有引起中央的重视，反而被斥之为“满洲特殊论”、“满洲落后论”而遭到批判。8月17日，中共满洲省委召开扩大会议，作出接受“北方会议”的决议，并检查了过去工作中的所谓“右倾机会主义”的路线。当时在东北各地的许多义勇军反日山林队都有抗日要求，其中有的山林队头目就曾找到我军，希望共产党领导他们一道共御敌侮。但满洲省委却执行“左”的一套作法，要兵不要官，要枪不要人，拉出来搞哗变，致使各部义勇军始终与红军游击队保持距离，使党领导的抗日游击队处于孤立状态。这一指导思想上“左“的错误，使东北党丧失了在东北抗日义勇军蓬勃发展时期争取做好义勇军工作，实现民族抗战的有利时机，而且给游击队发展造成了极大的困难。
1933年1月17日，《中华苏维埃临时中央政府工农革命军事委员会为反对日本帝国主义侵入华北愿在三个条件下与全国各军队共同抗日宣言》发表。它标志着党的抗日民族统一战线策略已经开始酝酿。同年1月26日，中共中央发出《给满洲各级党部及全体党员的信》(即“一二六”指示信)。信中首先指出了在东北局部地区的“独特环境”下，实行全民族反对日本帝国主义的“反帝统一战线，来聚集和联合一切可能的，虽然是不可靠的动摇的力量。共同地与共同的敌人——日本帝国主义及其走狗斗争”。还明确地阐述了坚持“无产阶级在这一统一战线中的领导权”。指示信还特别重视联合各种抗日武装的问题，对当时遍布东北的带有不同政治色彩的抗日队伍进行了较为客观的分析，提出以我党领导的抗日武装为核心联合其他抗日队伍共同作战的主张，尤其是在一定程度上提出了上层统一战线的问题，这为东北党组织建立抗日武装统一战线，发挥自己的创造性提供了极为有利的条件和依据。“一二六”指示信对联合抗日只是作了原则的规定，并未提出具体可行的形式。但是东北党组织和各游击队、人民革命军的领导人以联合抗日为总的出发点，根据各地的具体情况，创造了联合指挥部这种上层统一战线的形式，大大发展了“一二六”指示信关于统一战线的思想。1933年5月15日，中共满洲省委召开扩大会议，讨论和研究贯彻中央“一二六”指示信精神，通过了《关于执行反帝统一战线与争取无产阶级领导权的决议》。决议将建立民族革命统一战线、人民革命军与民众政府当作东北党组织的中心任务。提出在坚决反日，不侵犯劳苦群众的利益;予民众以民主权利;不反对共产党三个条件下与其他抗日武装力量建立抗日联合军指挥部或订立反日作战协定，共同进行抗日斗争。此后，中共满洲省委一方面在各游击队基础上着手建立人民革命军，另一方面着手进行联合其他抗日部队的工作。12月31日，中共满洲省委发出《给珠河县委及游击队同志信》。信中提出游击队应与一切抗日义勇军结成反日统一战线或缔结反日作战协定。1934年4月13日，中共中央发出《关于在目前华北紧急形势下各级党的任务的紧急通知》。通知中向东北党组织提出，要加紧对人民革命军及一切抗日义勇军的领导，扩大抗日武装，创造和巩固抗日根据地。根据上述精神，党所领导的游击队纷纷与当地及周围的各抗日武装订立作战协定，或成立联合指挥部等。各反日游击队迅速发展壮大起来，在不断取得军事胜利的基础上，逐渐形成了南满、东满、哈东和吉东四大游击区及一些小游击区。此外，他们还协助游击区内的广大农民建立起农民自卫队、青年义勇军武装，使其成为反日游击队的有力助手和后备力量。到1935年初，东北党组织已创建了人民革命军五个军及汤原反日游击队，还根据统一战线精神，建立了一些由义勇军参加的我党领导的联合军指挥部。
1935年3月初，赵尚志率三军一部在方正县大罗勒密与谢文东、李华堂所率部队会合。经协商，决定在东北人民革命军提出的三个条件下，建立东北反日联合军总指挥部，推选赵尚志为总指挥，李华堂为副总指挥，谢文东为军事委员长。1936年1月28日东北反日联合军军政联席扩大会议在汤原县吉兴沟举行。29日，通过了《东北反日联合军军政联席扩大会议决议》。会议决定成立东北民众反日联合军总司令部(后改为北满抗日联军总司令部)，选举赵尚志为总司令，李华堂为副司令，张寿篯为总政治部主任。1936年2月10日中共中央作出《为建立全东北抗日联军总司令部决定(草案)》，提出建立东北抗日联军总司令部是东北抗日武装目前最中心的工作。20日，《东北抗日联军统一军队建制宣言》发表。1936年初，中共满洲省委批示积极建立和扩大抗日的民族统一战线，在各地抗日游击队和人民革命军的基础上，进一步扩建了东北抗日联军。到1937年党领导的人民军队联合其他抗日武装相继编成了东北抗日联军11个军，后改编为3个路军。从此，东北人民抗日斗争进入了一个新阶段。
在此期间，东北义勇军与中国共产党有着千丝万缕的联系，主要表现在以下几个方面：
第一，东北义勇军是自发形成的，不是共产党所领导的。东北义勇军是在日寇入侵，国破家亡的情况下，东北广大民众不分党派、不分阶级和阶层，为抗日救国自发组织起来的抗日武装。义勇军的组成大体可分四种：一是东北军的一些将领，在广大人民反对日本帝国主义的斗争高潮中，在一批中、下级军官和士兵强烈要求抗日的推动下，率部抗日，如黑龙江省的马占山、苏炳文，吉林省的李杜、冯占海、丁超等;二是东北军与民众组织结合起来的抗日义勇军，如吉林省的王德林，辽宁省的唐聚伍、郭景珊、邓铁梅等组织的抗日救国军或自卫军;三是广大农民群众自发组织起来的武装团体，如大刀会、红枪会等;四是抗日“山林队”，是以报山头、报字号的民众抗日武装。他们有的自称义勇军，有的自称自卫军，有的自称救国军等。义勇军是上述各种自发抗日武装的统称。
在义勇军运动兴起后，中国共产党是十分重视的。鉴于国民党的不抵抗政策，曾力图加以领导，指出，在义勇军抗日运动中，“我们党的任务是加入这一战争，夺取这一战争的领导”。为此，中共满洲省委曾经派出许多优秀干部和党员到义勇军中去进行工作(如周保中、李延禄等)，并在李杜、王德林、唐聚五、苏炳文等部队的士兵中建立了党的秘密组织和反日会组织。例如，在王德林部队里不仅有周保中、李延禄等担任上层领导职务的党员，而且还有不少党员建立了好几个支部。在王玉振部有74名党团员，在苏炳文部队里有40多名反日会员。但由于当时我党在东北的力量较弱，又正在“左”倾冒险主义和关门主义统治之下，再加上义勇军的复杂情况，党对义勇军的工作是不可能达到领导义勇军运动的目的。
第二，党支持和派党员参加义勇军的工作，不仅取得了预期的目的，而且从义勇军抗日斗争中总结了经验教训。认识到要坚持东北的抗日斗争，必须依靠直接领导下的抗日武装，开展党独立领导的游击运动，扩大反日的游击战争。
第三，1933年初，轰轰烈烈的东北义勇军抗日斗争失败了，但它却给党领导下的抗日武装的建立赢得了时间，提供了经验，创造了发展壮大的必要条件。义勇军的大规模抗日斗争失败后，散落在各地的义勇军队伍从中国共产党及其领导下的抗日游击队身上看到了救国的希望和自己的出路，他们中的多数人要求和共产党的抗日武装联合起来，要求党和游击队帮助他们整顿部队，有的还要收编、改编他们的队伍。而随着我党策略的转变，众多的义勇军队伍成为统一战线的对象。
1936年前后，活动在东北地区的辽宁民众自卫军余部马兴山、方春生等人，为了继续坚持斗争，分别率领队伍参加了抗日联军第一军、第二军;赵尚志领导的东北抗日联军第三军，全军最盛时达6000余人，其中有4500余人为自卫军余部或其它民众抗日武装。王德林、吴义成残部，在共产党员李延禄、周保中率领下，分别改编为东北抗日联军第四、第五军，其部队基于也是以救国军余部为主，原救国军中下级军官如陈翰章、李荆璞、史忠恒、杨泰和、王汝起、王毓峰等人后来都成为抗联第四、第五军的高级军官。李杜、邢占清部没有退出国境的队伍，参加了东北抗日联军第六、第七军。谢文东、李华堂(二人后来降日)领导的抗联第八、第九军当年就属吉林自卫军编制。此外，还有农民自发的抗日山林队，也参加了抗日联军。如汪雅臣领导的第十军前身就是受自卫军、救国军影响而崛起在五常境内的“双龙队”。汪雅臣、祁致中、宁德林、姚振山、金山好等，他们加入抗日联军后，最后都壮烈牺牲在抗日战场上。义勇军活动的绥宁、下江、哈东等地区后来都成为抗日联军活动的抗日游击根据地。因此，从某种意义上讲，中国共产党领导的抗日游击战争同义勇军的抗日活动有着不可分割的联系。
