בשנות ה-40 של המאה הקודמת קנתה קבוצת יהודים 130 דונם במקום, הנקרא בערבית ג'בל אבו גנים. לאחר הרכישה ייערה קק"ל את ההר. במלחמת העצמאות התמקמו בהר כוחות החלוץ של מתנדבי "האחים המוסלמים" שהגיעו ממצרים ונעו לכיוון ירושלים. בשלהי 1948 הועבר המקום לידי הלגיון הירדני. מקור שמה של השכונה, הר חומה, נובע ממבנה שהוקם על חורבות כנסייה ביזנטית ששכנה במקום. לוחמי הפלמ"ח אשר ישבו ברמת רחל ונלחמו מול הליגיון, דימו את קיר המבנה מאחורי התבצרו הירדנים כחומה, ומכאן שם ההר. לאחר המלחמה לא איפשרו הירדנים את כריתת היער, בניגוד למקומות אחרים שכבשו, בהם נכרתו יערות קק"ל.

לאחר כיבוש המקום במלחמת ששת הימים, הוקמה רשות שתפקידה היה לקנות את אדמות ההר מערבים, תוך כדי עיבוי היער על ידי קק"ל. כבר בשנות ה-80 נעשה ניסוי ליישב את ההר, אלא שאז התנגדו לכך ארגונים ירוקים, בטענה שהאזור הוגדר "כחגורה הירוקה" סביב ירושלים.

ב-1992 פורסם צו הפקעה לאדמות הפרטיות בהר חומה, אשר כ-30% מהן היו בידיים ערביות. בעלי הקרקע היהודים - חברת הכשרת היישוב, חברת מקור ואחרים, עתרו לבג"ץ נגד צו זה (בג"ץ 736/93 ו-3956/92), אך העתירה נדחתה. גם עתירת בעלי הקרקע הפלסטינים נדחתה. ב-1995, בזמן ממשלת רבין, תוכננה השכונה, אך הבניה לא החלה מסיבות פוליטיות. פייסל חוסייני, השר הממונה על ירושלים מטעם הרשות הפלסטינית, אמר כי בניה בהר תיחשב לקאזוס בלי, ותגרום לפרוץ מלחמה.

בניית השכונה החלה בשנת 1997, בזמן ממשלת נתניהו, וגרמה לסערה בקרב האופוזיציה וחלק ממחנה השמאל, בטענה שבניית שכונה יהודית נוספת במזרח ירושלים תעורר אלימות פלסטינית בעיר. למרות המחאות, החלה בניית השכונה במרץ, והסערה שככה.

בשנת 1998, חבר מועצת עיריית ירושלים מטעם המפד"ל, שמואל מאיר, נהרג בתאונת דרכים. על אף שכבר יצאו המכרזים לבניית המקום, ראש העיר דאז, אהוד אולמרט, ביקש לקרוא לשכונה על שמו של חבר העירייה שדחף להקמתה של השכונה, וכיום שמה הרשמי הוא חומת שמואל.