Pada akhir tahun 1984, Jawatankuasa Surau Ayer Keroh berjaya mendapatkan sumbangan daripada orang ramai sejumlah RM30,000 untuk membina sebuah masjid di tapak tanah seluas 10,000 k.p. yang disediakan oleh pihak pemaju perumahan Ayer Keroh Heights. Pada tahun 1985, Masjid Ubudiah mula didirikan. Pada masa yang sama atas sokongan ADUN Ayer Molek ketika itu, YB Tuan Haji Abd Samad Bin Kassim, dan dengan kelulusan daripada Jabatan Agama Islam Melaka, Kariah Ayer Keroh telah dapat diwujudkan. Sebelum itu Ayer Keroh Heights terletak di bawah Kariah Bukit Katil. Nama 'Masjid Ubudiah' telah diberi oleh Mufti Negeri Melaka ketika itu, YBhg Tuan Haji Mohd Yunus Bin Haji Mohd Yatim.Dari awal hingga kini semua perbelanjaan pembinaan Masjid Ubudiah adalah hasil daripada sumbangan orang ramai, bukan sahaja daripada ahli kariah Ayer Keroh tetapi juga dari tempat- tempat lain. Penduduk Islam di Kariah Ayer Keroh pada masa ini dianggarkan lebih kurang 3,500 orang. Untuk menampung jemaah yang semakin ramai dari semasa ke semasa, Masjid Ubudiah telah melalui beberapa peringkat pembesaran. Pada bulan Februari 2006, masjid ini telah selesai kerja-kerja pengubahsuaian dan pembesarannya yang memakan belanja lebih dari RM1 juta. Kini ia boleh menampung kira-kira 1,000 orang jemaah di mana Ruang Utama bersolat dilengkapkan dengan beberapa unit penyaman udara untuk memberikan keselesaan yang mencukupi kepada para jemaah.