Masjid Kariah Kem Segenting telah dibina pada tahun 1976M dan diasas oleh Kolonel Mohd Zain bin Daud, Komandan Sekolah Pegawai Kadet ketika itu. Tapak masjid ini telah diwakafkan oleh Kementerian Pertahanan Malaysia. Pada mulanya masjid ini merupakan sebuah surau kem, dan dibenarkan mendirikan solat jumaat oleh Majlis Agama Islam pada 12hb Feb 1994M. Masjid ini pernah dibaiki dan dinaik taraf pada tahun 1994M dan 2007M.
Semasa dibina ahli jemaah adalah seramai 300 orang dan kini telah bertambah seramai 500 orang. Masjid ini mengurus dan mengawal selia sebuah surau.