Masjid Jamek Pekan Rantau telah dibina pada tahun 1922M. Bangunan asal masjid ini adalah wakaf daripada Dato' Bujai bin Dato' Raja Mohd Shah, seorang hartawan terkenal di Kuala Sawah yang merupakan pengasas bagi masjid ini. Manakala tanah masjid ini telah diwakafkan oleh Hajjah Tomah Bt Suntung.
Selain itu, bangunan tambahan bagi masjid ini juga dibina atas sumbangan orang ramai dan penduduk setempat. Masjid ini pernah dibesarkan dan dinaik tarafkan pada tahun 1963M , 1965M , 1992M , 1993M dan 2004M.
Pada awal pembangunan, masjid ini hanya mampu menampung seramai 100 orang jemaah dan kini telah mencapai seramai 800 orang.
Masjid ini mengurus dan mengawal selia dua buah kawasan tanah perkuburan dan sebelas buah masjid.
Masjid ini juga pernah menjadi Johan dalam Anugerah Masjid Contoh Peringkat Negeri.
