يقع هذا المسجد على ربوة من الحرة الغربية ( حرة الوبرة ) بناه بنو سواد بن غنم بن كعب في عهد رسول الله صلى الله عليه وسلم في العام الثاني للهجرة النبوية المباركة وكانت مواد البناء آنذاك هي اللبن والسعف وجذوع النخيل ، ولهذا المسجد أهمية خاصة في التاريخ الإسلامي .
ففيه نزل الوحي على رسول الله صلى الله عليه وسلم بالتحول إلى قبلة الكعبة المشرفة بعد أن كانت القبلة هي بيت المقدس،
كان ذلك يوم 15 شعبان من العام الثاني للهجرة وكان رسول الله صلى الله عليه وسلم يزور أم بشر من بني سلمة معزياً فصنعت له طعاماً وعند صلاة الظهر نهض رسول الله صلى الله عليه وسلم يصلي وبعد أن أتم ركعتين نزل عليه الوحي بالتحول إلى الكعبة المشرفة في الآية الكريمة :-
(( قد نرى تقلب وجهك في السماء فلنولينك قبلة ترضاها فول وجهك شطر المسجد الحرام وحيث ما كنتم فولوا وجوهكم شطره ))
ومنذ ذلك الحين عرف المسجد باسم ( مسجد القبلتين ) لأن رسول الله صلى الله عليه وسلم صلى فيه شطر صلاته قبل المسجد الأقصى والشطر الآخر قبل المسجد الحرام .
وفي عام 87هـ / الموافـق عام 706م جدد والي المـدينة المنـورة ( عمر بن عبد العزيز ) عمارة المسجـد مع سائـر المسـاجد الـتي صلى فيها رسول الله صلى الله عليه وسلم ، وظـل المسجد على حالـه أكثـر من ثمانمـائة سنه إلى أن جـدده شاهين الجمالي ( عام 893هـ / الموافق 1488م ) .
وفي عهـد السلطـان العثماني ( سليمان القانوني ) أصلحت عمارة المسجد عام ( 950هـ/الموافق 1943م) ودون ذلك على لوحة رخامية وضعت على أحد جدار المسجد الخارجية .
وقد وصفه بعض الرحالة 🙁 أنه مسطح مغطى بقبة وليس له مئذنة ) ومع مرور الزمن تهدم شيء من بنيان المسجد وأهمل أمره حتى العهد السعودي الزاهر فقد أمر الملك عبد العزيز الذي أمر بتجديد عمارته عام 1350هـ /الموافق 1931م) وتوسعته وبناء مئذنة وإقامة سور حوله وبلغت مساحة المسجد بعد التوسعة هذه ( 425 متراً مربعاً ).
