Setelah Rasulullah berhijrah ke Madinah, bagi menzahirkan syiar Islam yang selama ini mendapat penentangan ketika di Makkah, maka Baginda mengambil keputusan untuk membangunkan masjid.
Bukan hanya sekadar untuk mendirikan solat bagi mendekatkan diri seseorang hamba kepada Allah, tetapi juga masjid itu berfungsi sebagai tempat untuk menyampaikan ilmu dan tempat untuk bersilaturrahim.
Kawasan masjid dan rumah Rasulullah di Madinah itu pada asalnya adalah tempat untuk mengeringkan kurma, milik Sahal dan Suhail iaitu dua pemuda yang berada di bawah asuhan Sa’ad bin Zurarah.
Pada ketika itu, Rasulullah menyampaikan hajat untuk membeli tanah itu, tetapi ditolak oleh Sahal dan Suhail kerana mereka ingin menghadiahkan saja kepada Baginda.
Namun, Rasulullah menolak pemberian mereka dan memilih untuk membayar tanah itu. Setelah memilikinya, Baginda dan para sahabat membersihkan kawasan itu yang terdapat pohon kurma, kuburan orang musyrik dan reruntuhan bangunan.
Rasulullah bersama para sahabat mula membina masjid, digunakan bahan seperi batu-batuan dan pelepah kurma. Di bahagian utara, dibangunkan juga khemah untuk para sahabat yang bahagian itu digelar sebagai As-Shuffah.
Pintu-pintu masjid terdiri daripada tiga bahagian, iaitu:
- Pintu di belakang masjid dari arah selatan.
- Pintu dari arah timur yang juga bahagian masuknya Rasulullah yang mana pintu itu berhadapan secara langsung dengan pintu rumah Aisyah.
- Pintu dari arah barat yang disebut dengan pintu rahmat atau pintu Atikah.
Rujukan : Kitab Sirah Nabawiyyah (Dr Ali Muhammad As-Shallabi)