Pembangunan masjid ini adalah untuk menggantikan Surau Babul Jannah yang telah berusia 147 tahun dan telah pun dimakan usia. Masjid ini kemudian telah dinamakan sebagai Masjid AlBukhary mengambil sempena nama keluarga Pengasas Yayasan AlBukhary. Masjid ini dibina di atas tapak seluas 1 ekar di Lot 192, Seksyen 56, Mukim Bandar Kuala Lumpur. Asalnya adalah tanah surau lama dan sebahagiannya tapak perkuburan Islam yang diwakafkan oleh DYMM Sultan Selangor iaitu Almarhum Sultan Abdul Samad pada tahun 1860. Almarhum Baginda Sultan telah mengamanahkan Allahyarham Syed Lal Shah Albukhary untuk membangunkan serta menjaga surau ini yang telah diberi nama Babul Jannah.
BINAAN
Pembinaan masjid ini bermula pada September 2004 dan telah siap sepenuhnya pada September 2006 iaitu mengambil masa selama 24 bulan dengan kos pembangunannya iailah sebanyak RM12 juta. Keluasan masjid ini ialah 2700 meter persegi di mana terdapat 2 Dewan Solat yang boleh menampung lebih kurang 1600 orang jemaah pada satu-satu masa. Keseluruhan konsep senibina masjid ini adalah bercirikan senibina Islam. Dua buah menara adalah diadaptasi daripada ciri-ciri yang terdapat di Masjid Nabawi, Madinah. Di samping itu juga terdapat sebuah kubah utama yang ditutupi seramik kaca yang diimport khas dari Itali dan bahagian dalam kubah utama pula dihiasi dengan corak-corak yang diadaptasi darpada kesenian Negara Timur Tengah. Elemen yang terdapat pada bahagian luar masjid adalah gabungan ciri-ciri kesenian Melayu dengan Negara-negara Timur Tengah.
