就是在这种状态下，东北军民展开了轰轰烈烈的抗击日本侵略者的斗争。九一八事变后，处于国破家亡的东北人民，自发地对日本帝国主义的野蛮侵略展开了不屈不挠的斗争。在东北大地上，涌现出义勇军、游击队、红枪会、大刀会、山林队等各种抗日武装，在抗日救国的目标下，抗日游击战争迅速开展。
东北军部分将领出于民族义愤，拒绝政府当局的不抵抗命令，奋勇抗战。其中，以马占三江桥抗战最为激烈、战绩最为显著、意义也最为明显。1931年11月4日，日本在占领辽宁、吉林后，继续向黑龙江进攻，日军一路轻易得手，不料在江桥遭到了猛烈抵抗。黑龙江省代主席、省防军司令马占山，不甘受日本欺凌，置不抵抗命令于不顾，率部奋起抵抗，在江桥战役中毙伤敌军千余人，使敌遭受重大打击。江桥抗战虽然失败了，但这是九一八事变以来第一次和最激烈的大规模战斗，使日本侵略军遭到入侵以来第一次沉重的打击，激励了全国人民的救亡呼声，全国掀起了抗日援马运动的高潮。
江桥抗战揭开了东北义勇军抗日的序幕。此后，黄显声、李杜、丁超、苏炳文等和原东北军军官唐聚五、高文斌等，先后在辽西、辽东、辽北蒙边、吉林、黑龙江组成各种名义的义勇军、自卫军和救国军，奋起抵抗日军。原东北地方当局的许多下级官员、东北地区的爱国知识分子、开明人士也四处奔走，组织抗日武装。其中，邓铁梅在1931年11月22日，率领自卫军攻打凤城县城，捣毁了伪县公署、警察局，凿开监狱，放出100余名爱国人士，取得了凤城大捷。
绿林领袖也奋起抗战。张海天、高鹏飞、宫长海等率部相继起义，进行抗战。被编入伪军的王德林、田霖等部也相继起义，参加抗日队伍。
这些抗日队伍组成抗日义勇军，到1932年夏天，东北义勇军发展到全盛时期，人数达30万以上。这些武装英勇抗日，给日伪军以沉重的打击，发扬了中华民族不屈不挠的斗争精神，激发了中国人民的爱国热情。
但是，由于义勇军缺乏统一领导和指挥，军需供给短缺等各种原因，在日军的疯狂打击报复下，到1933年大部分失败了。
在中国共产党的领导下，东北抗日斗争掀起了新的高潮，开创了新的局面。早在九一八事变后，根据中共中央的指示，中共满洲省委及时部署发动各级党组织领导和组织抗日游击战争，派大批党员和爱国青年到抗日义勇军、各大城市以及伪军中领导和推动反日斗争，还以部分力量深入农村，组织抗日队伍。自1932年，中共满洲省委先后建立了磐石、东满、珠河、密山、宁山、汤原、饶河、巴彦等10余支抗日游击队，到1933年，这些抗日武装又 进一步的发展，逐渐成为东北人民抗日武装斗争的核心力量，活动于白山黑水之间，不断地向日伪军发动袭击，给日寇以沉重的打击。
