Peletakan batu asas masjid ini telah disempurnakan oleh YTM Tunku Abdul Rahman Putra Al-Haj pada 14 Zulhijjah 1379 Hijri bersamaan 12 Julai 1957 Masihi. Arkitek yang mereka bentuk bangunan ini berbangsa Cina bernama Y.T.Lee, manakala kontraktor yang terbabit ialah Chan Khiew. Masjid ini menjadi lambang perpaduan dan penyatuan pelbagai etnik Melayu sejak awal merdeka sehingga kini. Masjid ini kerap dikunjungi orang ramai dan pelancong menjadi kebanggaan masyarakat Kampung Baru.
Ia tidak pernah sunyi daripada aktiviti dan sering mendapat kunjungan dan perhatian para pemimpin. Masjid ini menjadi lebih meriah apabila tibanya bulan Ramadan, Syawal dan Hari Raya Korban. Pada bulan Ramadan, lazimnya solat Tarawih diimamkan oleh imam yang dijemput khas dari Mekah. Yang menarik di sini ialah keenakan bubur lambuk yang diusahakan secara bergotong-royong pada setiap tahun dan diberikan secara percuma kepada penduduk kota untuk berbuka puasa.
BINAAN
Reka Bentuk
Masjid ini berkonsepkan reka bentuk seni bina Timur Tengah. Bumbungnya berbentuk rata dan terdapat beberapa buah kubah kecil menghiasinya. Masjid ini telah beberapa kali diperbesar dan dibaik pulih demi keselesaan para jemaah. Ia dilengkapi pelbagai kemudahan seperti dewan solat yang luas serta ruang untuk pengajian agama. Kesederhanaan gaya reka bentuk seni binanya mampu menarik ribuan pengunjung.
Program Berkembar
Masjid Kampung Baru dan Masjid Al-Jamiul Badawi yang terletak di Kepala Batas Pulau Pinang telah dipilih sebagai program masjid berkembar. Program ini telah dilancarkan oleh Tun Abdullah Ahmad Badawi ketika menjadi Timbalan Perdana Menteri pada hari Jumaat 8 Rejab 1421 Hijri bersamaan 6 Oktober 2000 Masihi.
KEMUDAHAN
1. RUANG SOLAT YANG LUAS, BERSIH,SELESA DAN BERHAWA DINGIN.
2. MEMPUNYAI PEJABAT YANG SELESA.
3. DEWAN KULIAH YANG BERHAWA DINGIN.