约公元前20世纪阿拉伯半岛东北部的一些游牧部落跨越幼发拉底河进入迦南（今巴勒斯坦南部）定居，被称为希伯来人。后发展为以色列的12个部落，因逃荒而迁居埃及。
约公元前14世纪左右，以色列人在摩西率领下逃离埃及，在西奈山与上帝立约，将希伯来人的传统宗教发展为具有统一信条和礼仪的民族宗教。而后以色列人进入迦南，公元前10世纪形成部落联盟建立统一的以色列联合王国，定都耶路撒冷。
公元前930年，王国分裂为南部犹太和北部以色列两国。公元前722年，以色列国亡于亚述帝国，10个部落被放逐后在历史上销声匿迹。犹太国臣服外邦,在这一时期，一批先知起自民间，在严重的民族危机和社会矛盾面前，极力强调对唯一真神的崇拜，抨击注重外在仪式的祭司宗教，提出内在信仰和道德戒律，形成犹太教为先知传统。
公元前586年，巴比伦帝国攻陷耶路撒冷，焚毁圣殿，犹太人成为巴比伦之囚。在数十年流放生活中，他们的信仰集中于追忆和缅怀历史，反省上帝的诫命和律法。公元前539年，波斯帝国征服巴比伦，犹太人获释，返回耶路撒冷重建圣殿。
根据《圣经》记载，希伯来人的祖先原居住在美索不达米亚乌尔城附近，是一个游牧部落，可能和当地农业民族发生矛盾，向西迁徙到迦南。后来又迁徙到埃及，成为古埃及的附庸和奴隶民族，最后在摩西的带领下，逃出埃及，回到应许之地建立国家。希伯来人的国家被巴比伦王国消灭后，所有人被拘押到巴比伦。史称（巴比伦之囚）。
公元70年，罗马帝国攻占耶路撒冷，圣殿再度焚毁，犹太人流散各地，处于罗马帝国和波斯帝国统治之下。为适应各地不同的现实生活，犹太教内部需要对自古流传的律法经典重新解释。原来集中于圣殿的祭司献祭仪式已无法举行。
各地出现的会堂，逐渐成为犹太人宗教生活的重心。精通律法的文士成为会堂的宗教导师，称拉比（师傅）。犹太教也因此称为拉比犹太教。拉比犹太教强调社会伦理、宗教礼仪和研习律法，尤为注重口传律法。
2世纪末，犹太·哈纳西执掌巴勒斯坦犹太公会时期，将历来的口传律法条文汇编成《口传律法典》（密西拿），于3世纪初流传，5世纪扩充为口传律法汇编《塔木德》。由此演绎的一整套敬神作人的准则，成为犹太教社团一切行为的依据，不仅限于宗教，也包括法律和社会生活。伊斯兰教兴起后，各地犹太教社团有所复兴，巴比伦取代巴勒斯坦成为犹太教中心。
8世纪初，巴比伦学派的律法诠释被犹太人公认为强制性律法。巴比伦拉比学院不仅培训拉比，并成为立法机构，实际控制各地的犹太教社团。推行共同的律法传统及生活方式。10世纪末，犹太社团中形成变革潮流，部分人诉诸理性，发展了中世纪犹太教神学和哲学。
代表人物摩西·迈蒙尼德编写一部条理分明的律法概要，以使信徒摆脱繁琐条文的束缚，适应新的社会生活。他将犹太教信仰归纳为13条，后被普遍接受，具有信条性质。另一些人则通过神秘信仰直接寻求宗教体验。形成中世纪犹太教神秘主义思潮，总称卡巴拉（传统）。
在中世纪，欧洲各国的犹太人被视为劣等民族，在宗教上受迫害、政治上没有任何政治权利和自由、在经济上受到种种限制。与他们的身体局限于“隔都”的高墙之内相适应,他们的精神和灵魂也只有沉醉传统的《塔耳慕得》学问的框架中。那时，犹太人居住的隔都犹如“国中之国”，而犹太人则成了所在国人民心目中的“外国人”。
然而，随着1789年法国大革命的胜利，犹太人的状况才发生了根本的变化。欧洲各国的犹太人先后获得了公民权，享有了和其他民族一样的平等地位，这使他们拥有了做人的自由和尊严。多少个世纪以来梦寐以求的愿望终于在此时得到了实现，这是令他们最振奋、最扬眉吐气的时刻。这就是犹太史上所称的解放。解放把犹太人一下子置入一个前所未有的新的背景之下。使犹太人开始了一个崭新的时代。正是在这个意义上，著名的犹太学者族恩茨才说，犹太人中世纪的结束是以法国大革命为标志的。
至18世纪，东欧犹太下层民众中敬虔派兴起，称哈西德（虔诚者）运动。哈西德派反对过分专注忏悔，他们置律法于次要地位，仅承认拉比为信徒灵性指导。在信仰上依据喀巴拉著述，强调内心神秘体验，主张在不断地祈祷中泯灭自我，使灵魂与神直接相通；要求完全信赖神的纯善旨意，期待弥赛亚即将降临解救犹太人脱离苦难。
与此同时，理性主义思潮在欧洲犹太人中兴起，称哈斯卡拉（启蒙），即犹太人的思想启蒙运动。该运动并不反对犹太教，但否认传统生活方式及拉比权威，主张改革专重讲授口传律法的传统教育，提倡尊崇科学，吸收世俗文化，使社团生活现代化。该运动得到欧洲犹太商人支持并获得发展，嗣后演变为资产阶级民族主义的犹太复国主义。
18世纪的欧洲是一个理性主宰的时代,包括宗教在内的一切意识形态都要依据理性法庭的审判决定何去何从。犹太教当然也免不了这样的命运。同时，解放以后的犹太人首当其冲面临的是如何调整自己，使自己适应宗主国的社会、文化环境的问题。在这样的背景下，一场相对于欧洲来说是迟到了的犹太启蒙运动（哈斯卡拉）终于发生了。
德意志帝国的摩西·门德尔松担当了启蒙的先驱。门德尔松开辟的启蒙运动所追求的目标有两个，一是“冲破隔都的禁锢，把犹太人改造成真正的欧洲人；另一方面，他又希望犹太人继续保持自己的民族特性”。然而这是一个不易兼得的两难。正是适应启蒙运动的目标的需要，德意志帝国犹太教内部率先实行了宗教改革。
改革的直接后果是犹太教的分裂。原来统一的传统犹太教逐渐分化出改革派、保守派,以及正统派；在20世纪的美国还从保守派中分化出了重建派。这些不同的宗教派别把犹太人划分成不同的阵营，从而导致了犹太人的分裂。这种局面一直持续。
