Masjid Chengkau Ulu telah dibina pada tahun 1870M Pengasannya ialah YTM Dato' Undang Luak Rembau.
Tapak masjid ini telah diwakafkan oleh penduduk setempat. Bangunan asal masjid ini telah dibina oleh YTM Dato' Undang Luak Rembau iaitu Dato' Haji Sail pada tahaun 1870M secara bergotong royong dan pada tahun 1893M bangunan masjid ini dibaiki semula oleh YTM Dato' Undang Luak Rembau iaitu Dato' Hj Sulong bin Ambia.
Pada tahun 1976M sekali lagi bangunan Masjid Chengkau Ulu dibina baru oleh penduduk kampung dengan derma orang ramai serta sumbangan daripada pihak Kerajaan Negeri. Masjid ini pernah beberapa kali dibaiki dan dinaik taraf pada tahun1883M, 1976M, 1994M, 1995M, 2005M, 2006M, dan 2009M.
Semasa dibina ahli jemaah masjid ini hanya seramai 60 orang sahaja akan tetapi kini ia telah meningkat kepada 150 orang jemaah dalam satu - satu masa.
BINAAN
struktur pembinaan masjid masih lagi didalam keadaan asal sama seperti semasa pembinaan awalnya dahulu akan tetapai ada beberapa elimen moden tradisional ditambah terutamanya pada binaan mimbar dan seni ukiran yang terdapat padanya.
KEMUDAHAN
1. Ruang solat lelaki dan wanita
2. Tempat wudhuk
3. Tandas
4. Bilik Stor
5. Ruang pengurusan jenazah
6. Ruang makan jemaah
7. Parking kereta dan motosikal
8. Tempat istirehat
9. Kenderaan Jenazah
