Masjid ini terletak di km. 16, Tangga Batu, Melaka. Masjid ini dibina pada tahun 1924 dan telah diasaskan oleh Tuan Haji Salleh yang telah mewakafkan tanah milik beliau. Pembinaannya dilaksanakan oleh masyarakat kampung dengan bantuan tukang Cina. Masjid ini telah diubahsuai pada tahun 1980, 1984 dan 1986 yang dibiayai oleh Kerajaan Negeri dengan jumlah RM80,000.00.
Pada tahun 2017, kerja pembinaan masjid baru Tangga Batu Kechil dimulakan di tapak yang terletak lebih kurang 1 kilimeter dari tapak asal. Tanah lot yang berjumlah 1.9979 ekar tersebut diperolehi melalui kaedah pembelian oleh pihak Majlis Agama Islam Melaka melibatkan kos sebanyak RM1,280,000.00 pada tahun 2011 bagi tujuan tapak baru Masjid Tangga Batu Kecil. Pemerolehan kedua-dua lot ini adalah melalui instrument kutipan Saham Wakaf dari pihak kariah berjumlah RM816,500.00 serta sumbangan Wakaf Am dari Majlis Agama Islam Melaka berjumlah RM463,500.00.
Pembinaan masjid baru Tangga Batu Kechil bermula pada tahun 2017 dan siap sepenuhnya pada bulan Mei tahun 2019. Kos keseluruhan pembinaan masjid ini ialah sebanyak RM4.8 juta. Masjid dengan kapasiti 1,500 orang jemaah.
Masjid dirasmikan oleh TYT Yang di-Pertua Negeri Melaka pada 25 Oktober 2019 dan dinamakan sebagai Masjid Ibadurrahman, Tangga Batu Kechil.