Masjid asal dibina oleh Tok Muar secara gotong-royong bangunan kayu di tepi Sg Muar, memandangkan penduduk makin bertambah maka di pindahkan ke tempat sekarang dengan perbelanjaan kerajaan dan derma orang ramai.
BINAAN
Jika dibandingkan konsep reka bentuk antara kedua-duanya, masjid lama berkonsepkan reka bentuk tradisi dan diperbuat daripada kayu, manakala bumbungnya beratapkan rumbia. Masjid baru pula dibina mengikut reka bentuk Timur Tengah dan didirikan berasaskan konkrit dan berbumbung rata. Selain itu ia diperindahkan dengan kemasan moden seperti marmar yang bercorak. Masjid ini juga dilengkapi dengan ruang pejabat untuk pengurusan masjid dan pelbagai kemudahan asas demi keselesaan jemaah.
