1931年9月18日，日本帝国主义发动了侵华战争，由于国民党政府推行不抵抗政策，致使日军在几天内就占领了沈阳、长春、吉林等大城市，接着侵占了中国东北大部分领土。为了抵抗日军侵略，中国共产党号召人民起来抗日。东北人民和东北军部分爱国将士组成义勇军、救国军、自卫军等抗日武装，统称东北抗日义勇军，在东北各地抵抗日军的进攻(参见东北抗日义勇军对日作战)。中共满洲(今东北三省)省委员会首先动员共产党员和广大群众参加抗日义勇军。1932年1月开始组建自己直接领导的抗日武装对日作战，到1933年，已组成10余支抗日游击队，在黑龙江省巴彦、汤原、吉林省珠河(今尚志)、宁安、密山、饶河(四县今属黑龙江省)、珲春、汪清、延吉(今龙井)、和龙、盘石、辽宁省海龙、安图(今均属吉林省)等地开展游击活动。
主要领导人有杨靖宇、赵尚志、童长荣、夏云杰等。中共满洲省委还派周保中、李延禄等共产党员到东北义勇军中进行工作。
1933年1月，中共中央提出全民族抗日统一战线和同其他军队共同抗日的方针后，各游击队开始和抗日义勇军、抗日山林队共同作战，部队得到迅速发展，继扩编为东北人民革命军。到1936年春，相继成立6个军：第1军，军长兼政治委员杨靖宇;第2军，军长王德泰，政治委员魏拯民;第3军，军长赵尚志，政治部主任冯仲云;第4军(东北抗日同盟军)，军长李延禄，政治部主任何忠国;第5军(东北反日联合军)，军长周保中，政治部主任胡仁;第6军，军长夏云杰，政治部主任张寿(即李兆麟)。第1、第2军活动于南满和东满地区;第4、第5军活动于吉东地区;第3、第6军活动于北满地区。各军广泛开展游击战争，打击日伪军。人民革命军经过两年多的艰苦斗争，粉碎了日伪军多次讨伐，歼灭大量日伪军，发展到万余人，扩大了游击根据地。
1936年2月，东北人民革命军陆续改为东北抗日联军。将原来的6个军依次改为东北抗日联军第1至第6军，以后又组建了第7至第11军。第7军，军长陈荣久，政治部主任郑鲁岩，活动于饶河、虎林、抚远地区;第8军军长谢文东，政治部主任刘曙华，活动于依兰、方正、勃利地区;第9军，军长李华堂，政治部主任王克仁，活动于勃利、依兰地区;第10军，军长汪亚臣，政治部主任侯启刚，活动于五常、舒兰地区;第11军，军长祁致中，政治部主任金政国，活动于桦川、富锦地区。到1937年底，东北抗日联军发展3万余人，在黑龙江、吉林、辽宁3个省、70余县的范围内展开积极作战，相继进行子莲花泡、兴山镇、舒乐河、大蒲柴河、哈达河、抚松、西关街、佛山、冰趟子、依兰、汤原、五道岗、辉南等许多重要战斗和反讨伐作战，牵制日军数十万人的兵力。
从1938年下半年开始，日伪军集结重兵对各抗日游击区进行大讨伐，此间，谢文东、李华堂、郑鲁岩相继叛变。抗日联军在斗争极端残酷，处境十分艰难的情况下继续坚持斗争。抗联各军先后组成了第1、第2路军和第3路军，但因兵力过于分散，无力粉碎日伪军的进攻，被迫进行远征，部队受到巨大损失，除新开辟的黑龙江、嫩江平原游击区外，各军原有的游击根据地和深山中的密营先后丧失，处境极端困难，到1942年初，大部斗争受挫，各部除留下若干小部队坚持斗争外，其余部队先后退入苏联境内整训。
坚持北满地区抗日游击战争的抗联第3、第6、第9、第11军，至1938年6月已与日伪军作战数百次，取得较大战果，但自身也损失严重。鉴于海伦地区日伪军统治薄弱，中共北满临时省委决定抗联上述部队大部向海伦远征，开辟新区。同年夏，除第9军主力留原地坚持斗争外，其余各部陆续从汤原、萝北、绥滨地区出发远征，先后抵达海伦、德都地区，依托小兴安岭开展黑(龙江)嫩(江)平原抗日游击战争。1939年5月30日，上述各部合编为抗联第3路军，张寿筏(又名李兆麟)任总指挥，冯仲云任政治委员。至1940年，第3路军先后开辟了朝阳山、阿荣旗、甘南等游击区，并取得了讷河、德都、肇州、肇源等战斗的胜利，歼灭日伪军数百人。
1939年10月，日伪军调集7万余人进行以抗联第1路军为主要目标的“大讨伐”。第1路军分散游击，进行了极端艰苦的反“讨伐”作战，相继取得了安图大沙河、红旗河伏击战、奇袭哈尔巴岭车站和天宝山铜矿等战斗的胜利，但第1路军也遭受惨重损失。1940年2月23日，第1路军总司令兼政委杨靖宇在潆江一带遭敌重兵包围，英勇牺牲。与此同时，抗联第2、第3路军也在与日伪军的激烈战斗中遭到严重损失。
由于斗争形势恶化，各路军减员严重，1940年1月24日至3月19日，中共吉东、北满省委代表举行联席会议，决定采取保存实力，逐渐收缩的方针，将各路军缩编为10个支队，即：第1路军缩编为第1、第4、第7支队;第2路军缩编为第2、第5、第8支队;第3路军缩编为第3、第6、第9、第12支队。4月，第3路军首先完成缩编;4月和翌年2月，第2路军分别完成了第2、第5支队的缩编;第1路军因远在南满，联系中断，仍以几个方面军的番号活动，直至1941年3月始将第2方面军缩编为第1支队。
1940年，日本关东军增至11个师，对抗联进行更为残酷的“讨伐”，形势日益严峻。为保存力量，第1、第2路军大部和第3路军一部先后转至中苏边境苏方境内，成立南野营，进行军政整训。第3路军大部继续在黑嫩平原和大、小兴安岭地区开展游击战争，1941年攻克甘南县宝山镇、庆安县大罗镇，袭击瑗珲县汗达气金矿，共进行战斗20余次。1942年2月，第2路军副总指挥赵尚志在袭击鹤岗梧桐河伪警察分所时牺牲。随后第3路军大部也转移至中苏边境。1942年8月，南北野营合编为抗日联军教导旅，周保中任旅长，张寿筏任政治委员。此后，教导旅在进行整训的同时，派遣十几支小部队深入东北各地开展游击活动，进行战略侦察。1945年8月，抗日联军教导旅协同苏联红军进军中国东北，参加对日反攻作战，后与进军东北的八路军、新四军合编。
东北抗日联军在极为困难的条件下，长期独立奋战，不仅延缓了日本侵略军对东北全境的占领和对战略物资的掠夺，而且在东北战场上牵制了几万到几十万日本关东军。全国抗战开始后，东北抗联又对华北、华中和华南地区的抗战起了战略上的配合作用，并为保障苏联远东地区的安全，支援苏联人民的反法西斯战争作出了贡献。