猶太人其實早先在阿拉伯西面遊牧為生。猶太人以雅各為祖先，雅各曾經與上帝摔過跤，所以改名以色列。後來雅各的兒子約瑟在埃及受到法老的重用，因此雅各帶領族人遷移到埃及，並在埃及繁衍生息。後來埃及發生變亂，努比亞人入駐埃及之後，將遷移過去的雅各的子孫全部看為奴隸。因此，以色列人逃回祖居的地方（這裏，就是先知摩西的故事了）----迦南（就是現在的巴勒斯坦）。爾後，以色列人形成十二支部落，在此之上，形成統壹的國家，中間歷經掃羅，大衛，所羅門王的統治。之後，分裂為南北兩個國家，北部為以色列王國，南部叫猶太王國。猶太王國最後被取代亞述人的巴比倫帝國消滅。
從此，猶太人就處於各個興起的強大帝國奴役，巴比倫被波斯取代，波斯被馬其頓帝國取代，馬其頓分裂後被安息統治，然後羅馬興起，猶太人又淪為羅馬帝國奴隸。猶太人曾起義反抗羅馬人的統治，但最終不敵羅馬軍團，耶路撒冷淪陷，聖殿被焚毀，猶太人自此散落各地。
猶太人雖然散落各地，而且不少被所處地的民族同化，但是卻還保持著同樣的宗教信仰。不過，某種程度上來看，正是宗教信仰使得他們不斷遭受迫害：基督教（新教...天主教）以耶穌基督為救世主，可是猶太教認為彌賽亞（也就是救世主）尚未來臨，因而，在歐洲，特別是中世紀歐洲，猶太教壹般被看為異端。。這就是猶太人遭受迫害的壹個原因。
後來，在歐洲，奧斯曼土耳其興起，並占領了巴爾幹地區的大部分。奧斯曼信仰伊斯蘭教，並且在帝國內搞絕對宗教主義（也就是以伊斯蘭教為唯壹的合法信仰），猶太故地也屬於奧斯曼控制之下，因此，又導致了大批猶太人遭到迫害。
19世紀，猶太復國主義興起，該主義主張任何手段來達到猶太建國目的，包括暗殺，收買政治人物，挑唆戰爭，分裂國家等手段。也因此，歐洲各個民族國家（主要是法國，德國，俄國）對待猶太人十分地兇狠。這其中，特別是俄國（沙俄也包括蘇聯），以沙皇遇刺為借口在敖德薩地區大肆屠殺猶太人。法國也在1896年--1906年搞出了個德雷福斯案。納粹德國則是打著驅逐劣等民族的口號屠殺猶太人。