חשיבותה של ירושלים לאיסלאם
מאז ראשית התפתחותו של האסלאם הייתה ירושלים קדושה למוסלמים. על-פי המסורת המוסלמית בא מוחמד הנביא להר הבית ב'מסע הלילה' ומשם עלה לשמים. בתחילה קבע מוחמד שכיוון התפילה יהיה כלפי ירושלים. לאחר מכן נקבע שהמוסלמים יתפללו לכיוון מֶכָּה. במשך השנים זכתה ירושלים למעמד של העיר השלישית בקדושתה לאסלם.

כיבוש ירושלים על ידי הח'ליף עומר
הערבים כבשו את ירושלים בלא שפיכות דמים. המסורות מספרות שהפטריארך (איש בכיר בדת הנוצרית) של ירושלים נכנע ומסר את העיר לידי עומר, מפקד צבאות הערבים. בתמורה הובטחה זכותם של הנוצרים להמשיך ולהחזיק במקומות הקדושים להם ולשמור על מנהגיהם.
באותם ימים פחת מספר האנשים שחיו בעיר. נוצרים רבים עזבו אותה, אבל יהודים הורשו לחזור אליה לאחר שנים רבות. היהודים התיישבו, כפי הנראה, מדרום להר הבית.
הח'ליף עומר מיהר לבקר בהר הבית. הוא ציווה לפנות מההר את הזוהמה שהצטברה שם מאז חורבן בית המקדש. בפעולות השיפוץ נתגלתה על ההר אבן גדולה. המוסלמים האמינו שזה היה המקום של עקדת יצחק..

שלטון שושלת בית אומייה
במאה הראשונה לשלטון האסלם בירושלים שלטה באזור ובארץ שושלת בית אומייה. בירתה הייתה בדמשק. עבד אל-מליכ אבן אל-מרוואן היה מהבולטים שבשליטים בשושלת אומייה. הוא שהקים את מסגד כיפת הסלע (מעל הסלע שלפי המסורת המוסלמית היה המקום של עקדת יצחק), והוא נחנך בשנת 691 לספירה המסגד הזה ומסגד אל-אקצא שבדרום הר הבית הפכו בעיני המוסלמים לסמליה המקודשים של ירושלים.
מדרום להר הבית הקימו שליטי בית אומייה מערכת ארמונות.

שלטון שושלת בית עבס
שנות הפריחה האלה לא ארכו זמן רב. בית אומייה חוסל, ותחתיו עלה לשלטון בית עבס. בירת האימפריה הערבית עברה לבגדד ועם התרחקות הבירה מירושלים ירדה חשיבותה של העיר מבחינה מדינית וכלכלית.
אף כי חשיבותה ה'חילונית' של ירושלים פחתה, היא נשארה מרכז דתי מוסלמי. גם מעמדם של היהודים הדרדר. שוב לא התירו ליהודים לעלות להר הבית, והם נאלצו לקיים את תפילותיהם סמוך לשערי העיר ועל הר הזיתים.
בשנים שלאחר מכן עבר השלטון בעיר ירושלים מידיו של שליט מוסלמי אחד לידיו של שליט מוסלמי אחר. כך נמשך המצב עד שנת 1099. אז נפלה העיר לידי הצלבנים הנוצרים.