Masjid yang pertama dibina di Daerah Kecil Oya letaknya di pengkalan feri Oya dan orang yang mula-mula membina masjid di sini ialah Datuk Pengiran Mohamad yang telah mendermakan tanah untuk tapak masjid pertama, kedua, ketiga dan yang keempat yang ada sekarang dan kini Lembaga Amanah Kebajikan Islam Oya sebagai pemegang amanahnya.
Masjid baru ini merupakan masjid yang keempat dibina di Daerah Kecil Oya atas cadangan Yang Berhormat Datuk Affendi bin Norwawi. Masjid pertama pernah didirikan tetapi masjid tersebut tidak lagi wujud. Bangunan masjid kedua yang diperbuat dari kayu dan dibina di atas tapak masjid sekarang yang kemudiannya dibina masjid baru iaitu yang ketiga dari bahan kayu serta konkrit pada tahun sekitar 1970-an.
Bangunan masjid ketiga ini letaknya hanya kira-kira 10 meter sahaja bersebelahan bangunan masjid keempat yang ada sekarang. Fungsi Masjid tersebut telah dipindahkan ke bangunan masjid yang keempat dan terbaru ini dan masjid lama berfungsi sebagai dewan kuliah dan tempat mengadakan pelbagai aktiviti pembangunan insan oleh penduduk setempat.
