Bangunan masjid ini mengusung atap berbentuk kerucut dengan tiga undakan bertingkat, tersebut digawangi oleh Pangeran Radjab selaku arsitek dengan dibantu oleh ahli bangunan Alhari Joedanagara.[1] Bentuk masjid yang sekarang adalah hasil lima kali perubahan yang cukup signifikan.[5] Pada renovasi pertama yang dilakukan tahun 1902, bentuk masjid dipertahankan. Perubahan hanya dilakukan pada serambi dengan memperluas halaman.[6] Namun pada renovasi selanjutnya, bentuk masjid sudah berubah dua kali lipat dari renovasi awal.[1]