Masjid ini dinamakan Masjid Kapitan Keling kerana tokoh yang terlibat dalam usaha membangunkannya iaitu Caudeer Mohudeen berasal daripada peranakan India Muslim yang dikenali sebagai Kapitan Keling. Masjid ini pada asalnya didirikan demi kemudahan kaum India Muslim yang datang berniaga dan menjadi buruh dengan Syarikat Hindia Timur lebih 200 tahun dahulu. Masjid ini kemudiannya telah diubahsuai dan diperbaiki pada tahun 1930-an.
BINAAN
Reka bentuk Masjid Kapitan Keling berkonsepkan seni bina Moghul. Kubah utama mendominasi bahagian tengah masjid ini dan di sekitarnya dilengkapi dua kubah kecil di penjuru kanan dan kiri bumbung. Walaupun reka bentuknya mengikut seni bina Moghul, bumbung masjid ini dibina berdasarkan reka bentuk piramid atau lebih menjurus kepada reka bentuk bumbung tempatan.
