Masjid ini terletak di jalan jeti Bagan Serai, berhampiran dengan Sungai Kurau dan tidak diketahui tarikh sebenar masjid ini dibangunkan. Walaubagaimanapun, adalah dipercayai masjid ini dibina sebelum tahun 1900. Ini berdasarkan kepada maklumat bahawa seorang daripada kerabat diraja Perak yang digelar 'Tok Mat Ali' telah lari daripada British selepas Perjanjian Pangkor 1874. Beliau menetap di Pulau Mat Ali untuk mengelak dari ditangkap oleh pihak Inggeris. Beliau dikhabarkan sering mendirikan solat jumaat di masjid ini.
BINAAN
Aspek senibina Islam yang terpenting ialah pembinaan masjid. Ia selari dengan perkembangan Islam di rantau ini. Ini kerana Islam meletakkan tempat ibadat sebagai ciri penting dalam kehidupan masyarakat Islam. Dalam masa yang sama, masjid merupakan lambang kekuatan akidah, kesatuan dan perpaduan umat Islam. Dalam konteks yang sebenar, masjid merupakan pusat kegiatan sosioekonomi dan politik umat Islam. Justeru kerana itu, pembinaan sesebuah masjid pasti akan menggambarkan kehebatan senibina dalam Islam.
Dalam konteks pembinaan Masjid Bagan Serai, ciri-ciri dan keterampilan senibina islam tetap terserlah. Rekabentuknya memperlihatkan gabungan senibina moden, Batu Konkrit dan digabungkan dengan unsur-unsur seni bina Islam kontemporari.
Kubah :terdapat sebuha kubah besar yang dibina ditengah-tengah bumbung. Ia merupakan sebahagian daripada bumbung masjid. Ia memperlihatkan bentuk 'potong bawang' yang mula diperkenalkan pada akhir abad ke -19
Menara : masjid bagan serai mempunyai sebuah menara yang ketinggiannya lebih kurang 50 meter. Dipuncak menara terdapat sebuah kubah yang agak sederhana besarnya. Disini juga telah dipasang pembesar suara.
Mihrab : melengkung dan diperbuat daripada tetulang dan ditutup dengan papan. Sekeliling mihrab dihiasi dengan tulisan ayat al-Quran. Bentuk yang melengkok ini adalah bentuk seni ukir melayu.
Bumbung : ditutup dengan simen dan juga sebuah kubah besar.
Mimbar : dibuat daripada kayu-kayu yang padu. Di dinding mimbar diukir dengan unsur-unsur alam sekitar yang menggambarkan ciri-ciri keislaman. Rekabentuk mimbar dibuat oleh tukang melayu yang berkemahiran tinggi.
KEMUDAHAN
-tempat wuduk
-telekung
-sejadah
-bilik mesyuarat
-bilik pegawai masjid
-ruang makan
-ruang memasak
-parkir
-laluan orang kurang upaya
-tandas awam
-tandas orang kurang upaya
-perpustakaan
-ruang it
