1941年6月22日凌晨3时，德军兵分三路突入苏联。苏联在战前虽然从多个渠道获得过战争可能爆发的情报，但很多情报之间是互相矛盾的，具体入侵时间的情报相差非常大，使苏联政府并不知道德国入侵的具体时间，甚至都不知道德国是否会入侵苏联。仅仅在开战前一天，苏联最高统帅部才知道德军的具体进攻时间，但是为时已晚。
在短短18天之内，德军突进苏联600公里。第一天的战斗，苏联空军损失1200架飞机，其中800架还未起飞就被炸毁。大量苏军边境据点被德军迅速包围，红军边防守军陷入孤军拼死抵抗（如布列斯特要塞之战）。与此同时希特勒狂言三个月灭亡苏联。
北方战线由德军威廉·里特尔·冯·勒布元帅指挥的北方集团军群负责进攻。两个星期内苏联红军败退400――450公里，放弃整个波罗的海沿海地区，苏联红军24个师被彻底击溃，20个师损失60%的人员和装备，德军北方集团军群很快进抵列宁格勒城下。波罗的海三国和西乌克兰的一些地区由于对苏联政策的不满，使得地方民族主义者（如斯捷潘·班德拉）利用德军进攻的时机采取暴力行动协助德军。但很快大部分乌克兰民族主义者就由于反对纳粹高压的占领区政策而和德国决裂。班德拉本人也被纳粹逮捕。
中部战线是德军突击的重点地区，德军费多尔·冯·博克元帅指挥的中央集团军群从格罗德诺和布列斯特要塞方向进攻，通过一个双钳攻势完成了对苏联西部军区（即西方面军）的合围，白俄罗斯首府明斯克沦陷，苏联红军败退350公里，30个师被歼灭，70个师损失50%以上的人员。随后，德中央集团军群又在斯摩棱斯克地区展开了第二个钳形攻势，由于苏联红军有效地组织了防御，德军进展很慢。但是战役在历经两个月后，德军还是完成了合围，歼灭了苏联红军30万人。
南方战线上由德军伦德施泰特南方集团军群的主要目的在于占领苏联在乌克兰的农业和工业基地，并获得黑海港口作为补给站。当面为苏联基辅特别军区（即西南方面军）和敖德萨军区（南方面军），西南方面军是苏联实力最强的一个军区，在战争初期，由于苏联红军在兵力和装备上对德军有明显的优势，德军在这个方向的进展最为缓慢。但由于德军的素质此时远在苏联红军之上，因而德军依然长驱直入抵达第聂伯河。由于西方方面军损失过大，西南方面军的右翼暴露又未及时转移。
为了使德军得不到占领区的物资，斯大林采用了当年国内战争时的方法。斯大林于1941年7月3日令苏联红军实行焦土抗战，在撤离和疏散民众后，尽可能的减少德军可能的落脚点。命令同时要求游击队在占领区要尽可能的使德军无法获得物资补给。
斯大林在7月3日的公开演讲中说：“当红军部队不得不撤退时，必须运走全部铁路机车车辆，不给敌人留下一部机车、一节车厢，不给敌人留下一公斤粮食、一公升燃料……在沦陷区，要造成使敌人及其所有走狗无法安身的条件，步步追击他们，消灭他们，破坏他们的一切活动。”1941年8月18日，苏联炸毁了第聂伯河水电站上的大坝。
1941年9月15日，德军中央、南方两个集团军群合作，在基辅战役中将苏联西南方面军主力包围。苏联军队70个师血战10天，苏联红军少数突围，66万余人被歼灭，其中有6万名军官，包括西南方面军司令基尔波诺斯上将、参谋长图皮科夫中将在内的多位高级将领在突围战中阵亡。希特勒将这次围歼战称为“史上最大的围歼战”。但是随后，在攻击顿河畔罗斯托夫的战役中，由于主力部队都调往了莫斯科地区，德军遭到了失败。
在德军完成了对列宁格勒的包围之后，无力占领苏军防守的重镇和主要工业中心之一的列宁格勒。北方集团军群为了稳定侧翼，发起了对提赫文的进攻，但是却遭到溃败。因此，德军对列宁格勒采取了封锁战术。由于苏联红军迅速在与德军的对峙中拥有了兵力上的巨大优势，德军不得不在北方战线采取了被动的守势。同时，芬兰由于兵力不足，一直都没有直接进攻列宁格勒。
1941年9月30日，德军集中74个半师约193万人，在1700辆坦克，11000门火炮支援下，发起意在夺取莫斯科的攻势，即台风计划（莫斯科会战）。战役的第一阶段以德军在维亚济马地区歼灭苏联红军60余万人的全面胜利而结束。随后德军迅速占领了莫斯科外围，摧毁了数道苏联防线。
苏联在危急时刻进行了历史上规模最大的工业转移计划，转移的设备、物资超过100万节车皮，同时从西伯利亚、中亚、远东地区调来了25万的精锐预备队，以朱可夫大将为核心重组了西方面军的部队和防线，组织大量妇女修筑防御工事，并派出大量携带炸药和地雷的工兵分队破坏德军后勤补给线。此时苏联严酷的冬季已经降临，德军作战部队和后勤补给受到了极大限制，由于德国军队没有做好过冬的准备，导致大量的士兵冻死冻伤，许多武器也无法使用。苏联红军对德军进行了殊死抵抗，涌现出了许许多多英雄人物和名言，比如“苏联虽大，但已无路可退，背后就是莫斯科”。
1941年11月7日，在德国迫近莫斯科之时，苏联依然按时组织了红场阅兵，这是历史上最著名的阅兵之一，受阅部队在阅兵结束后直接开赴前线。包括斯大林在内的主要苏联领导人坐镇莫斯科以表明坚守首都的决心。
1941年12月6日，苏联发起反击，突破德军防御并将其击退200-300公里，莫斯科会战以苏联胜利而结束，德军损失了50多万人和大量的技术装备，这也是不可一世的德国陆军在二战中第一次受到重大损失，希特勒“三个月灭亡苏联”的狂言彻底破灭。莫斯科局势得以稳定。
1941年冬天，苏联红军在各条战线上发动冬季攻势。在南部，苏联红军越过刻赤海峡，在克里米亚半岛登陆；在北部，苏联红军试图解列宁格勒的围并且歼灭包围列宁格勒的德军和收复迭米扬斯克。但是由于苏联红军的训练拙劣，准备仓促不足，指挥失当，这两个方向的攻势均以失败告终，苏联红军损失巨大。
1942年5月，苏联又在准备不足的情况下，发起第一次哈尔科夫战役，试图收复哈尔科夫，但被德军分割包围后歼灭。同时，曼施泰因指挥的德军席卷克里木半岛，攻克塞瓦斯托波尔要塞，并在刻赤战役中将红军彻底击溃。最终，苏联红军的冬季攻势以失败告终。
