يعتبر من أقدم المساجد في مدينة تبوك، تذكره المراجع بمسجد (الرسول صلى الله عليه وسلم)، وبأنه شيد في المكان الذي نزل به الرسول صلى الله عليه وسلم في شهر رجب من العام التاسع بعد الهجرة حين غزوة تبوك، ويذكر ابن زبالة (بنى النبي بين تبوك والمدينة نحو ستة عشر مسجداً أولها بتبوك وآخرها بذي خشب)، ويقول ابن هشام: (وكانت مساجد الرسول فيما بين المدينة وتبوك معلومة مسماة مسجد تبوك، ومسجد بثنية مدران…)،
بينما يذكر الدكتور علي الغبان أن هذا المسجد من المساجد التي بناها عمر بن عبدالعزيز في العصر الأموي بالحجارة المنقوشة،
ونقل لنا الشيخ حمد الجاسر نقلاً عن الخياري الذي قال: (ذكر محمد بن إسحاق في سيرته وحمد بن الحسن زبالة والحافظ عبد الغني رحمهم الله المساجد التي صلى فيها رسول الله بين المدينة وتبوك منها مسجد التوبة، قال ابن زبالة: ويسمى مسجد التوبة، قلت وهو من المساجد التي بناها عمر بن عبدالعزيز رحمه الله (99 – 101هـ)، كان بناء طينياً مسقوفاً حتى تم تجديده في عهد الأتراك).
ويعود تجديد المسجد في العهد التركي إلى عام 1324هـ كما ورد في الوثيقة المؤرخة في 8 / 10 / 1324هـ، حيث جاء الأمر من (السلطان عبد الحميد) إلى السنجاق وأمير الحج بالدرب الشامي (بترميم مسجد الرسول وتكبيره وحفر بئر ماء بجواره وإحاطة المقبرة وتكليف خدم له وللبئر) وبني المسجد بالحجر المشذب الذي جلب من (الهضيبة) وهو تصغير هضبة، وتشمل هضيبتان صغيرة وكبيرة، تقعان جنوب مدينة تبوك وداخل المدينة.
وتم الانتهاء من بنائه في عام 1325هـ كما يتضح لنا من خلال ما نقله الرحالة عبدالله فلبي الذي زار تبوك في الخامس من يناير عام 1951م الموافق لعام 1371هـ حيث قال: (وكذلك أنشأ الأتراك مسجداً في تلك النقطة التي يقال إن النبي قد صلى فيها أثناء غزوته المشهورة، وهذا المسجد مبني من حجارة صلدة مشذبة، أما مدخله فقد وجدته عريضاً ونظيفاً، كما أنه طلق الهواء للغاية، وهناك لوحة على بوابته الرئيسة نقش عليها باللغة التركية ما يفهم منه أن المسجد قد بني في سنة 1325هـ (1907 – 1908م).
وفي يوم الاثنين الموافق 27 شعبان من عام 1393هـ قام الملك فيصل بن عبدالعزيز آل سعود -رحمه الله- بتفقد مسجد التوبة على هامش زيارته التاريخية لمدينة تبوك، ثم أمر -رحمه الله- بتجديده وبنائه على طراز مواصفات المسجد النبوي الشريف على نفقته الخاصة، وفي أواخر عام 1396هـ تم الانتهاء من بناء المسجد حيث أزيل ما حوله من أبنية قديمة وحولت مواقعها إلى ساحات كبيرة.