Masjid ini didirikan pada 1 Muharam 1356 Hijri bersamaan 14 Mac 1937 Masihi dan dibuka kepada orang ramai dengan rasminya pada Syaaban 1357 Hijri bersamaan 25 September 1938 Masihi oleh Pemangku Sultan Johor, iaitu Almarhum Sultan Ismail. Masjid ini terletak di Pontian Kecil, Pontian dan berlatar belakang Selat Melaka. Ini mewujudkan pemandangan dan suasana yang indah sekitar masjid.
BINAAN
Masjid ini dibina mengikut reka bentuk masjid Timur Tengah. Ia mempunyai sebuah menara berkubah yang dibina di bahagian anjung masjid ini. Ia merupakan mercu tanda kepada masjid ini. Keseluruhan masjid ini dibina berasaskan batu konkrit yang dicat dengan warna putih dan biru. Kubah pada menara pula berwarna kuning keemasan sebagai lambang keteguhan syiar Islam.
Antara komponen menarik yang terdapat pada masjid ini ialah mimbar yang diperbuat daripada kayu. Deretan tingkap yang berada di kiri dan kanan mendominasi sebahagian besar bukaan dalam masjid dan ia menjadi laluan kemasukan cahaya dan udara secara semula jadi.