Dibina oleh orang-orang Jawa yang berhijrah ke Malaysia dari Indonesia.
Sekitar tahun 1962, pembinaan masjid dibiayai oleh sumbangan oarang ramai dan peruntukan oleh kerajaan.
Tahun 2007, pembinaan semula yang dibiayai oleh Kerajaan Persekutuan di bawah Menteri di Jabatan Perdana Menteri.
Nama masjid telah diberikan pada tahun 1998.