1937年抗战全面爆发后，随着世界反法西斯战争形势的发展和中苏交往交流的不断增加，中共中央和军委决定在延安抗大三分校组建俄文队，培养一部分俄语专业人才。
方案确定后，就在延安和陕甘宁边区范围内招生，基本上采取自愿报名和组织选送相结合的方式，吸收渴望学习俄语的知识青年。俄文队的住址在延安城东门外清凉山东麓的一个小窑洞内。1941年3月，开始接收新生，到了5月初，陆续报到的学员人数逐渐增加到60余人，正式成立俄文队，进入抗大三分校的编制序列。
1941年6月初，俄文队正式开课，曾经在萧三创办的延安文化俱乐部业余俄语班学习过的学员编为一个班，行政上叫做第一区队。另一部分学员原来没有学过俄语，编为一个班级，行政上叫做第二区队，学员从俄语的字母发音开始，逐渐进入单词，要求熟读、牢记、能背诵。这两个区队被称为俄文第一队。
1941年七八月间，从前方战斗部队中抽调回一批具有中学文化程度的连、排级干部，约30多人，到俄文队学习，编为第三区队。后中央军委继续抽调干部到抗大三分校俄文队学习，学校决定成立俄文第二队。
此外，中共中央军委还在安塞县筹备成立航空工程学校，准备训练飞行员和机械士，拟请苏联派人来授课，因苏德战争爆发，不可能派人到中国，军委决定航空工程学校停办，校长王弼率学员数十人，调到抗大三分校，成立了俄文第三队。
到1941年10月，上述三个区队被合并为俄文大队，学员达300余人。
1941年12月1日，中共中央决定对抗大第三分校进行整编，改名为延安军事学院，八路军总司令朱德兼任院长。军事学院由指挥队、炮兵队、参谋队、俄文队、工程队五部分构成，其中俄文队由抗大三分校的俄文大队整编而成，工程队由抗大三分校的原俄文三队编成。
朱德十分重视俄文队的工作，明确指示：为了适应抗日战争形势发展的需要，培养的学生要成为通晓俄语，能会话，能实际运用的军事翻译人才。为此，他要求在课时安排上，俄文课课时占80%，政治课占20%，保证学员以学习俄语为主。学员们在半年内先后学习了俄文文法、日常生活会话等课，初步打下了俄语学习的基础。
俄文队的教学组织分为五个班级，每个班级有学生30人，在行政编制上，一个班级就是一个区队，所以俄文队下属五个区队，各区队长由学员担任，不脱离学习，同时兼管军事行政与俄语学习事务。
后来又增设了一个女生区队，共有女生20多名，学习上课时，根据俄语程度，分别参加到其他五个班级(区队)，生活上单独编在一起，叫做“第六区队”。
军事学院的教学工作系统设有俄文科，由教育长直接领导。需要说明的是，俄文队和俄文科是两个平行单位，前者主管行政、党务、军事工作，后者负责俄语专业的教学工作。
1942年6月，抗大总校从晋东南抗日根据地返回陕甘宁边区，延安军事学院的领导机关和抗大总校合并，移居绥德。中央军委决定把俄文队留在延安，成立俄文学校。军委总参谋部的第四局(编译局)与俄文队合并，总参四局局长曾涌泉同志担任俄文学校校长。
1943年4月，中央为了集中力量培养俄语人才将延安大学俄文系也转到军委俄文学校。
1944年，美国派了一个军事观察组住在延安，鉴于形势发展的需要，中共中央和军委决定把俄文学校改名为军委外国语学校，增加英文专业，培养英语人才。
1945年抗战胜利后，中央和中央军委决定将抗大等几所著名学校从陕北迁至东北，其中包括把延安外国语学校迁至哈尔滨。
