Algne juudi muuseum Viini asutati aastal 1896 ja oli esimene muuseumi omalaadne maailmas. Muuseumis on olemas toel on "Ühiskond kogumise ja säilitamise kunsti ja ajaloomälestisi Juudast." Ta keskendus ajalugu ja kultuur juutide Austria-Ungari impeeriumi. Tema esemeline ja tooted Palestiina kajastub ka poliitiline debatt sionismi. Muuseum on suletud kohe pärast okupatsiooni Austria natside poolt. Eelmisel aastal oma olemasolu, see oli 6474 erinevat toodet. 1939. aastal olid üle etnoloogiamuuseumi ja teiste institutsioonidega.

Enamik tagastati juudi kogukonna 1950. aastate alguses, kuid mõned õnnestus naasta alles 1990. aastal. Paljud eksponaadid olid kadunud. Kui New juudi muuseum on inventuuri selgus, et pooled algelemendid kadunud. Aga ülejäänud asjad on väga haruldased eksponaadid, mis esindavad nii objektide igapäevaelu ja ainulaadne materjale.

31. detsember 1964 väike juudi muuseum avati äsja ehitatud hoone Tempelgasse, kuid sai peaaegu mingit avalikku tähelepanu. Pärast 3 aastat muuseumi on suletud.

Esimene näitus uue juudi muuseum Viinis avatakse 7. märts 1990 ajutistes ruumides kontorid juudi kogukond. Olulise osa näitusest moodustasid kogumise Max Berger. Aastal 1992 kolis muuseum oma praeguse kodu lossis Eskeles Doroteegasse. Muuseum avati aasta hiljem, 1993. aastal. Raamatukogu avati avalikkusele 1994. aastast.

Kuna 2011. aasta sügisel, muuseumi avas oma uksed pärast täielikku renoveerimist, nagu hoone ise, ja uuendada püsinäitus. Renoveeritud juudi muuseum tervitab külastajaid uue valgustussüsteemi, mis tehti vastavalt originaalile. Püsiekspositsioon muuseumi asuvad kolm tsooni.