Jumaat pertama di Kampung Sungai Tong adalah pada 11 Disember 1959 di sebuah surau yang jaraknya kira-kira 100 meter dengan masjid yang ada pada hari ini. Sekitar tahun 1965 perladangan kelapa sawit menjadikan Kampung Sungai Tong didatangi pekerja dan pendatang dari luar.
Jawatankuasa masjid telah berusaha membesarkan bangunan tersebut. YAB Menteri Besar (Tan Sri Ibrahim Fikri) telah meluluskan peruntukan sebanyak RM 15,000.00 walaupun perbelanjaan bagi pembesaran adalah RM 50,000.00. Sejumlah RM 25,000.00 telah berjaya dikumpulkan dari derma orang ramai.
Oleh kerana pertambahan penduduk pada tahun 1985 kerajaan telah meluluskan peruntukan pembinaan tambahan yang diambil balik tanah oleh kerajaan dari Encik Sulaiman bin Omar dan Encik Ahmad bin Abu Bakar dan dibayar pampasan.
Masjid ini telah dirasmikan oleh DYMM Sultan Mahmud Al-Muktafi Billah Shah Ibni Al-Marhum Tuanku Al-Sultan Ismail bin Nasiruddin pada 2 Mei 1986. Kapasiti bilangan jemaah adalah seramai 1,000 orang. Didirikan di atas tanah seluas 2 ekar.Dahulu masjid yang disumbangkan oleh anak mukim. Masjid ini telah diganti dengan masjid baru.
