W północnej części Ziemi Świętej rozciąga się malownicze górskie pasmo Karmelu. W czasach Starego Testamentu, dziewięć wieków przed Chrystusem, żył tu i działał prorok Eliasz (zob. 1 Krl 17,1-2 Krl 2,13). Rozpalony gorliwością o chwałę Pana Zastępów, walczył z bałwochwalczym kultem bożka Baala i, żyjąc w czystości, prostocie i ubóstwie, szukał obecności Boga żywego. Tę obecność odnajdywał w modlitwie i doświadczeniu wielkiej ciszy (1 Krl 19,9-14). Stał się tym samym wzorem dla przyszłych pokoleń zakonników – ludzi pragnących odnalezienia pokoju serca u źródła Bożej obecności.

Miejsce pobytu Eliasza jak magnes przyciągało pierwszych pustelników, poczynając już od wieku IV po Chrystusie. Pragnęli oni na podobieństwo Bożego proroka, w samotności i oderwaniu od rzeczy tego świata, zapalać się żarliwością o Bożą chwałę i zbawienie bliźnich. Wkrótce na górze Karmel powstały pierwsze wspólnoty mnichów bizantyńskich. Nowy okres w dziejach monastycyzmu palestyńskiego otworzyły wyprawy krzyżowe. Wielu krzyżowców i pielgrzymów, zauroczonych pięknem Karmelu, postanowiło porzucić zbroję rycerską i kij pielgrzymi, by przywdziać w tym miejscu zbroję duchową, wziąć do ręki kij wstrzemięźliwości i rozpocząć nową walkę – o zdobycie niebieskiego Jeruzalem.

Tak na przełomie XII i XIII wieku narodził się Zakon Karmelitański. Pierwszy wzniesiony przez pustelników kościół dedykowano Matce Chrystusa, a sami eremici zaczęli nazywać się Braćmi Najświętszej Maryi Panny z Góry Karmel, w skrócie karmelitami. Jako zewnętrzny wyróżniający ich znak przywdziali brązowe zgrzebne habity i pasiaste płaszcze (zamienione pod koniec XIII w. na białe). Następnie, wierni Kościołowi zwrócili się ok. roku 1209 do św. Alberta Jerozolimskiego, ówczesnego łacińskiego patriarchy w Ziemi Świętej, z prośbą o zatwierdzenie ich stylu życia spisanego na kartach Reguły pierwotnej.