Masjid ini terletak di Jalan Kg Hulu, Bandar Hilir dalam daerah Melaka Tengah. Dato’ Aroon atau Haron yang berasal dari Negeri China telah membina masjid ini. Dato’ Aroon ialah seorang mualaf yang telah memeluk Islam ketika berada di Melaka.
Menurut sejarah, pada tahun 1700 Masihi beliau telah diberikan sebidang tanah oleh penjajah Belanda. Dato’ Aroon menjadi seorang yang kaya dan dikenali sebagai Kapitan Melayu I, manakala anaknya Dato’ Samsudin digelar sebagai Kapitan Melayu II.
Pada mulanya masjid ini dikatakan dibina pada tahun 1720 Masihi tetapi terdapat sesetengah pendapat yang mengatakan ia didirikan pada tahun 1728 Masihi. Masjid ini dianggap sebagai masjid pertama yang dibina di Melaka sewaktu zaman pemerintahan Belanda. Masjid ini kemudiannya telah dibaik pulih dan diperbaharui oleh Dato’ Samsudin, iaitu Kapitan Melayu II.
Masjid ini mempunyai beberapa buah rumah kedai yang disewakan kepada orang perseorangan. Hasil sewaan itu menjadi sumber pendapatan masjid ini yang menjadikan ia sebagai masjid yang terkaya di antara masjid-masjid di negeri Melaka.
