Согласно традиции, Аллах одарил Ибрахима сыном, когда он был глубоким старцем. Мальчик, родившийся чудесным образом в ответ на мольбы праведного раба Божия, был наречён Исмаилом. Но в сердце возлюбленного пророка могла уместиться только одна великая любовь — любовь к Богу, и поэтому ему было приказано оставить своего перворождённого сына Исмаила вместе с его матерью Хаджар в аравийской пустыне, где было заложено основание Каабы.

Ибрахим покорился воле Аллаха, будучи уверен в том, что Аллах не даст погибнуть Хаджар и его сыну, которого она ещё не оторвала от груди. Он оставил их на возвышенности, где не было ни воды, ни людей. Когда у Хаджар закончилась вода, а мальчик начал корчиться от жажды, она побежала к ближайшему холму и поднялась на него в надежде увидеть кого-либо. Впоследствии этот холм получил название Сафа. Не увидев никого, она бросилась к соседнему холму, который был назван Марвой. Она пробежала между ними семь раз и вдруг услышала звук. Вблизи от младенца забил источник воды, получивший название Замзам. К воде слетелись птицы, и первыми их заметили люди из племени джурхум. Они поселились возле Замзама и проявили заботу о Хаджар и её сыне. Исмаил вырос в их среде, обучился у них арабскому языку, а потом женился на девушке из этого племени.

Спустя много лет Ибрахим навестил своего сына и передал ему волю Аллаха: им было приказано построить мечеть. Её основание было заложено до Ибрахима, и мечеть была названа Каабой, что означает «куб». Согласно Корану, Кааба — первый храм на земле, предназначенный для служения Аллаху. Существует мнение, что первым её построил пророк Адам. Ибрахим вместе со своим сыном возвёл стены храма, а в один из его углов встроил Чёрный камень — одну из святынь ислама. В ходе строительства он взбирался на кусок скалы, который сохранился по настоящее время и называется «местом Ибрахима» (макам Ибрахим).

На протяжении многовековой истории Кааба неоднократно подвергалась частичному разрушению в результате селевых потоков, реставрировалась и перестраивалась. Сегодня она сохраняет тот вид, какой она имела при Пророке Мухаммаде. Это — каменное строение высотой пятнадцать метров с основанием двенадцать на десять метров. Углы Каабы расположены примерно в направлении сторон света. Чёрный камень, заключённый в серебряное обрамление, вделан в восточный угол и находится на высоте около полутора метров. Дверь в храм находится в северо-восточной стене и возвышается над землёй примерно на два метра. У северо-восточной стены построена полукруглая стенка, которая отгораживает место, известное как хиджр. Примыкающая к храму часть хиджра считается собственно Каабой, потому что во времена пророка Ибрахима она входила в состав строения.

Кааба — не шедевр аравийской архитектуры, она не имеет пышного фасада и не украшена барельефами. Её внешний вид — это аккуратно выложенные серые камни, обычно покрытые чёрной парчой, на которой вышиты аяты из Корана (это покрывало называется кисва). Внутреннее убранство храма скромное: там нет ни мебели, ни росписей. Внутри находятся три колонны, висят лампы, расписанные эмалевыми красками, и хранятся дарственные списки Корана. Отсутствие богатого интерьера напоминает о том, что самое главное для верующего — не земная красота и форма, а внутренний мир и содержание. Пустота внутри Каабы указывает на присутствие там незримой духовной силы, которая манит к себе сердца верующих со всех уголков земли.

Согласно традиции, в ответ на мольбу пророка Ибрахима Аллах благословил Каабу и её окрестности, и поэтому в Коране Заповедной мечетью называется весь город. Мусульмане совершают паломничество в Мекку в течение всего года, чтобы соприкоснуться с памятниками духовной истории человечества, обойти вокруг Каабы, пробежать между двумя холмами и помолиться там, где молились величайшие из пророков.