Masjid ini asalnya dibuat daripada kayu dan atapnya daripada nipah dan kedudukannya terletak di bahagian belakang masjid sekarang.
Masjid ini telah dibina semula pada tahun 1924 dengan kos sejumlah RM7,000.00. Pengasas masjid ini ialah Tuan Haji Abdul Hamid bin Khatib yang merupakan Imam pertama masjid ini. Beliau meninggal pada tahun 1970an dan dikebumikan di belakang masjid tersebut. Selain daripada itu masjid ini juga mendapat sumbangan daripada Che Mat Haji Kecut. Tukang Cina digunakan untuk kerja-kerja membina benteng dan tembok asas masjid manakala tukang kayu digunakan untuk mengangkut tanah dan pasir.
Pada tahun 1962, 1970an, 1980an dan 1990an beberapa pengubahsuaian telah dilaksanakan dan pengubahsuaian pertama telah dibiayai oleh Kerajaan Negeri dengan jumlah kos RM10,000.00. Penambahan melibatkan kerja-kerja tambakan tanah dan membina tandas baru.
