Bermula dari sebuah surau yang dijadikan masjid di zaman penjajahan British.
Dibina atas tanah yang diwakafkan oleh penduduk kampung Pekan Rabu dan dari itulah asal nama masjid diperolehi.
1962-Masjid telah dirasmikan oleh Sultan Idris Shah.
1990-Masjid telah diperbesarkan atas sumbangan seorang usahawan Haji Tajuddin bin Haji Abd. Rahman.
Sempena nama beliaulah nama masjid ini diberi.
