BERMULA DENGAN RUMAH TUAN HAJI ALI SEBAGAI TEMPAT SEMBAHYANG BERJEMAAH DAN BELIAU SENDIRI SEBAGAI IMAM. APABILA BELIAU MENINGGAL DUNIA, TUGASNYA DIAMBIL OLEH ANAKNYA TUAN HAJI SAID.
PADA TAHUN 1960, TUAN HAJI SAID DAN BEBERAPA ORANG LAIN TELAH MEMOHON BANTUAN DARIPADA YAB TAN SRI IBRAHIM FIKRI UNTUK DIDIRIKAN SEBUAH SURAU. PADA 30 MAC 1979, SURAU TERSEBUT TELAH DIPERSETUJUI DINAIKTARAF SEBAGAI MASJID PAGAR UBI SETELAH MENDAPAT KELULUSAN OLEH JABATAN AGAMA NEGERI TERENGGANU. SEBELUM INI, MEREKA BERJUMAAT DI MASJID BUKIT CEMPAKA.