Babylonské a perské období (586-333 př. n. l.)
V roce 586 př. n. l. dobyli Babylóňané pod vedením krále Nabukadnezara II. Jeruzalém, zničili Šalamounův chrám, ukončili Davidovo kralování a odvedli lid do zajetí. V Judsku, nyní babylónské provincii Jehud s hlavním městem v Mizpě na bývalém území Benjamína severně od Jeruzaléma, zůstali jen ti nejchudší. O několik let později, opět podle bible, byl jehudský místodržící zavražděn svými rivaly, což vyvolalo další exodus uprchlíků, tentokrát do Egypta. Kolem roku 580 se tak judský lid nacházel na třech různých místech: elita v Babylonu (kde se s nimi mimochodem podle všeho dobře zacházelo), velká komunita v Egyptě a zbytek v Judsku. Vyhnanství skončilo, když perský král Kýros Veliký dobyl Babylon (tradičně roku 538 př. n. l.). Peršané obnovili Judsko/Jehud jako provincii ("Yehud medinata") v rámci satrapie "Za řekou" a v průběhu následujícího století se část vyhnanců vrátila do Jeruzaléma. Tam nakonec znovu postavili Chrám (tradičně 516/515 př. n. l.), ale po více než sto let zůstalo hlavní správní město v Mizpě. Samaří mezitím zůstalo jako provincie Semarína v rámci stejné satrapie jako Jehud.
Perské období
V roce 539 př. n. l. dobyli Peršané Babylon a v roce 537 př. n. l. zahájili perské období židovských dějin. V roce 520 př. n. l. povolil KýrosVeliký Židům návrat do Judska a obnovu Chrámu (dokončeného roku 515 př. n. l.). Správcem jmenoval Zerubábela (vnuka předposledního judského krále Joachina), ale obnovu království nepovolil. Vliv zoroastrismu na monoteismus, judaismus i křesťanství je stále předmětem akademických debat.
Bez mocného krále se chrám stal mocnějším a dominantní autoritou se stali kněží. Druhý Chrám však byl postaven pod cizí mocí a o jeho legitimitě se stále pochybovalo. To vytvořilo podmínky pro to, aby se v následujících staletích v rámci judaismu rozvíjely různé sekty, z nichž každá se prohlašovala za představitelku "judaismu". Většina z nich obvykle nedoporučovala společenské styky, zejména sňatky, s příslušníky jiných sekt.
Na konci babylonského exilu došlo nejen ke stavbě Druhého chrámu, ale podle dokumentární hypotézy také ke konečnému znění Tóry. Ačkoli kněží ovládali monarchii a Chrám, zákoníci a mudrci (z nichž se později stali rabíni) si monopolizovali studium Tóry, která se (počínaje Ezdrášovou dobou) veřejně předčítala o tržních dnech. Tito mudrci vedle Písma svatého rozvíjeli a udržovali ústní tradici a ztotožňovali se s proroky. Podle Gezy Vermese byli tito písaři často oslovováni základním výrazem úcty "pane".
Helénistické a římské období (333 př. n. l. - 70 n. l.)
Helénistické období začalo v roce 332 př. n. l., kdy Alexandr Veliký dobyl Persii. Po jeho smrti v roce 323 př. n. l. byla jeho říše rozdělena mezi jeho generály. Zpočátku Judsku vládli egyptsko-helénští Ptolemaiovci, ale v roce 198 př. n. l. se vlády nad Judskem ujala syrsko-helénská Seleukovská říše pod vedením Antiocha III.
Podle jedné z teorií došlo v helénistickém období ke kanonizaci Tanachu (hebrejské Bible) a ke vzniku mimobiblických posvátných tradic. Nejstarší doklady židovské mystické tradice obklopují knihu Ezechiel, napsanou během babylonského exilu. Prakticky všechny známé mystické texty však vznikly na konci období Druhého chrámu. Někteří badatelé se domnívají, že esoterické tradice kabaly (židovské mystiky), byly ovlivněny perskou vírou, platónskou filozofií a gnosticismem.
V 2. Esdrášově knize 14,45-46, která byla napsána ve 2. století n. l., se píše: "Čtyřiadvacet knih, které jsi napsal jako první, zveřejni a dej je číst hodným i nehodným, sedmdesát knih, které jsi napsal jako poslední, si však ponech, abys je dal moudrým ze svého lidu." Toto je první známá zmínka o kanonizované hebrejské Bibli a sedmdesát nekanonických textů mohlo být mystických; Talmud naznačuje další mystické tradice, které mohou mít kořeny v judaismu druhého chrámu.
Blízký východ byl kosmopolitní, zejména v helénistickém období. Používalo se několik jazyků a otázka lingua franca je stále předmětem diskusí. Židé mezi sebou téměř jistě mluvili aramejsky. Řečtina se často používala v celé východní části Středomoří. Židovství se rychle měnilo, reagovalo a přizpůsobovalo se širšímu politickému, kulturnímu a intelektuálnímu světu a naopak přitahovalo zájmy nežidovských obyvatel. Historik Shaye Cohen poznamenal:
Všechno židovství helénistického období, jak v diaspoře, tak v izraelské zemi, bylo helenizováno, tj. bylo nedílnou součástí kultury starověkého světa. Některé odrůdy judaismu byly hellenizovány více než jiné, ale žádná nebyla ostrovem sama pro sebe. Je chybou představovat si, že v zemi Palestina se zachovala "čistá" forma judaismu a že diaspora byla domovem zfalšovaných nebo rozředěných forem judaismu. Termín "helénistické židovství" má tedy smysl pouze jako chronologický ukazatel pro období od Alexandra Velikého po Makabejského nebo snad po římské výboje v prvním století před Kristem. Jako popisný termín pro určitý typ judaismu však postrádá smysl, protože všechny judaismy helénistického období byly "helénistické". (Cohen 1987: 37)
Kulturní boje s helénismem
Mnoho Židů žilo v diaspoře a judské provincie Judea, Samaří a Galilea byly osídleny mnoha pohany (kteří často projevovali zájem o judaismus). Židé museli žít s hodnotami helénismu a helénistické filozofie, které byly často v přímém rozporu s jejich vlastními hodnotami a tradicemi. Obecně se helénistická kultura považovala za civilizátora, který přináší civilizované hodnoty a způsoby života národům, jež považoval za izolované nebo zaostalé či degenerované.
Například v Jeruzalémě byly na dohled od Chrámu postaveny lázně v řeckém stylu a i v tomto městě se gymnázium stalo centrem společenského, sportovního a intelektuálního života. Mnoho Židů, včetně některých aristokratičtějších kněží, tyto instituce přijalo, ačkoli na Židy, kteří tak učinili, se často pohlíželo s despektem kvůli jejich obřízce, kterou Židé považovali za znak své smlouvy s Bohem, ale kterou helénistická kultura považovala za estetické zneuctění těla. V důsledku toho se někteří Židé začali obřízky (a tím i smlouvy s Bohem) vzdávat, zatímco jiní se proti řecké nadvládě ohrazovali.
Ve stejné době, kdy se Židé potýkali s kulturními rozdíly u svých dveří, museli čelit paradoxu ve své vlastní tradici: jejich zákony Tóry se vztahovaly pouze na ně a na proselyty, ale jejich Bůh, jak věřili, byl jediný a jediný Bůh všech. Tato situace vedla k novým výkladům Tóry, z nichž některé byly ovlivněny helénským myšlením a reagovaly na zájem pohanů o judaismus. Právě v tomto období do judaismu proniklo nebo jej ovlivnilo mnoho konceptů z rané řecké filozofie, stejně jako debaty a sekty v rámci tehdejšího náboženství a kultury.
V roce 331 př. n. l. se Alexandr Veliký zmocnil Perskéříše. Po jeho smrti v roce 323 př. n. l. se jeho říše rozpadla a provincie Jehud se stala součástí Egyptského království, kde vládla dynastie Ptolemaiovců. Ptolemaiovská vláda byla mírná: Alexandrie se stala největším židovským městem na světě a egyptský král Ptolemaios II Filadelfos (281-246 př. n. l.) podporoval židovskou kulturu a sponzoroval překlad Tóry do Septuaginty. V tomto období také vznikli farizeové a další židovské strany Druhého chrámu, jako byli saduceové a esejci. Na počátku 2. století př. n. l. však Jehud připadl seleukovskému syrskému vládci Antiochovi IV Epifanovi (174-163 př. n. l.), který se na rozdíl od tolerance, kterou projevovali Ptolemaiovci, pokusil o úplnou helenizaci Židů. Jeho znesvěcení Chrámu vyvolalo národní povstání, které skončilo vyhnáním Syřanů a opětovným vysvěcením Chrámu za vlády Makabejců.
Království založené Makabejskými bylo vědomým pokusem o obnovení Judska popsaného v Bibli: židovské monarchie vládnoucí z Jeruzaléma a rozkládající se na všech územích, kterým kdysi vládli David a Šalomoun. Za účelem uskutečnění tohoto projektu si hasmonejští králové podrobili (a násilím obrátili na judaismus) někdejší Moábce, Edomity a Amonity, jakož i ztracené Izraelské království.
Židé obecně přijímali cizí nadvládu, pokud museli platit pouze tribut, a jinak si mohli vládnout sami. Přesto se Židé dělili na příznivce helénizace a odpůrce a byli rozděleni v otázce loajality k Ptolemaiovcům nebo Seleukovcům. Když v roce 175 př. n. l. zemřel velekněz Šimon II., vypukl konflikt mezi stoupenci jeho syna Oniase III. (který byl proti hellenizaci a dával přednost Ptolemaiovcům) a jeho syna Jásona (který byl pro hellenizaci a dával přednost Seleukovcům). Následovalo období politických intrik, kdy kněží jako Menelaos podpláceli krále, aby získali velekněžský úřad, a obvinění z vraždy konkurenčních uchazečů o titul. Výsledkem byla krátká občanská válka.
Obrovské množství Židů se přidalo na Jásonovu stranu a v roce 167 př. n. l. vpadl seleukovský král Antiochos IV. do Judska, vstoupil do Chrámu a zbavil ho peněz a obřadních předmětů. Jáson uprchl do Egypta a Antiochos zavedl program násilné hellenizace, v jehož rámci museli Židé pod hrozbou vyvraždění opustit své vlastní zákony a zvyky. V této chvíli se Matatij a jeho pět synů, Jan, Eleazar, Šimon, Jonatán a Juda Makabejský, kněží z rodu Hasmonů žijících ve venkovské vesnici Modein (vyslovuje se "Mo-Ah-Dein"), ujali vedení krvavého a nakonec úspěšného povstání proti Seleukovcům.
V roce 165 př. n. l. Juda osvobodil Jeruzalém a obnovil Chrám. Boje pokračovaly a Juda a jeho bratr Jonatán byli zabiti. V roce 141 př. n. l. shromáždění kněží a dalších osob potvrdilo Šimona jako velekněze a vůdce, čímž v podstatě založilo hasmonejskou dynastii. Když byl Šimon v roce 135 př. n. l. zabit, nastoupil na jeho místo velekněze a krále jeho syn (a Jidášův synovec) Jan Hyrkanus.
Hasmonejské království
Po porážce seleukovských vojsk založil Jan Hyrkanus v roce 152 př. n. l. novou monarchii v podobě kněžské dynastie Hasmoneovců - kněží se tak stali politickou i náboženskou autoritou. Ačkoli byli Hasmoneovci všeobecně považováni za hrdiny a vůdce, kteří se postavili Seleukovcům, někteří považovali jejich vládu za nedostatečně nábožensky legitimní, což vyplývalo z původu Davidovy dynastie z doby Prvního chrámu.
Saduceové, esejci a farizeové
Rozkol mezi kněžími a mudrci se prohloubil v helénistickém období, kdy Židé čelili novým politickým a kulturním bojům. Přibližně v této době vznikla strana saduceů jako strana kněží a spřízněných elit (název saduceové pochází od Sádoka, velekněze prvního chrámu).
Esejci byli dalším raným mysticko-náboženským hnutím, o němž se předpokládá, že odmítalo buď velekněze jmenované Seleukovci, nebo velekněze Hasmonejců jako nesprávné. Brzy však odmítli i Druhý chrám a tvrdili, že esejská komunita je sama o sobě novým chrámem a že poslušnost Zákonu představuje novou formu oběti.
Ačkoli se esejci svým nezájmem o Druhý chrám odcizili velké mase Židů, jejich představu, že posvátno může existovat i mimo Chrám, sdílela i další skupina, farizeové ("separatisté"), sídlící ve společenství zákoníků a mudrců. Význam názvu je však nejasný.
V hasmonejském období fungovali saduceové a farizeové především jako politické strany (esejci nebyli tak politicky orientovaní). Politické rozdíly mezi saduceji a farizeji se projevily, když farizeové požadovali, aby si hasmonejský král Alexandr Jannai tradičním způsobem vybral mezi funkcí krále a velekněze. Tento požadavek vedl ke krátké občanské válce, která skončila krvavým potlačením farizeů, ačkoli král na smrtelné posteli vyzval ke smíru mezi oběma stranami. Po Alexandrovi nastoupila jeho vdova, jejíž bratr byl předním farizejem. Po její smrti se její starší syn Hyrkanus II. snažil získat podporu farizeů a mladší syn Aristobulus hledal podporu saduceů.
V roce 64 př. n. l. se římský generál Pompeius zmocnil Jeruzaléma a učinil židovské království klientem Říma. V letech 57-55 př. n. l. rozdělil Aulus Gabinius, prokonzul Sýrie, území na Galileu, Samařsko a Judsko s pěti okresními sanhedriny/synedriony (soudními radami). V letech 40-39 př. n. l. byl římským senátem jmenován židovským králem Herodes Veliký, ale v roce 6 n. l. byl jeho nástupce Herodes Archelaos, etnarcha Judska, sesazen císařem Augustem a jeho území bylo připojeno jako provincie Iudaea pod přímou římskou správu: to znamenalo konec Judska jako i teoreticky nezávislého království.