MASJID JAMEK RAHANG TELAH DIBINA PADA TAHUN 1934M. PENGASASNYA ADALAH PERSATUAN INDIA MUSLIM.
TAPAK MASJID INI TELAH DIWAKAFKAN OLEH ORANG PERSEORANGAN. RANCANGAN MEMBINA MASJID INI BERMULA PADA TAHUN 1938M YANG DIMULAKAN OLEH TUAN HAJI FATEH DIN DI KEDIAMAN KEDAI PAUL STREET SEREMBAN DAN SIMBANGAN DERMA ORANG RAMAI. PEMBANGUNAN MASJID INI ADALAH SECARA GOTONG ROYONG DARIPADA ORNG RAMAI YANG MENDIAMI SEKITAR KAWASAN TERSEBUT. MASJID INI PERNAH DIBAIKI DAN DINAIK TARAF PADA TAHUN 1976M, 2003M DAN 1 MAC 2004M.
SEMASA DIBINA AHLI JEMAAH SERAMAI 80-100 ORANG DAN KINI TELAH BERTAMBAH SERAMAI 2500 ORANG.
MASJID INI MENGURUS SEBUAH SURAU DI BAWAH SELIAANNYA.
