Ahmad Syarwani Zuhri lahir di desa Sungai Gampa, Kecamatan Rantau Badauh, Kabupaten Barito Kuala, Kalimantan Selatan, lebih kurang 40km dari Kota Banjarmasin, dari pasangan Haji Zuhri bin Haji Acil dan Hajjah Marwiyah binti Haji Khalil. Ayah beliau, Haji Zuhri adalah seorang petani biasa dan beliau lahir dalam lingkungan adat keluarga yang sangat fanatik.[2]
Walau cukup lama di Mekkah dan Madinah, rupanya dahaga ilmunya belum terpuaskan. Maka berangkatlah ia ke Syria untuk belajar serta mengambil ijazah ilmu-ilmu tafsir dan ilmu-ilmu hadits kepada para ulama di sana. Antara lain:
Setelah menuntut ilmu di Irak, ia melanjutkan pengembaraannya ke Negeri Piramida, Mesir, yang cukup terkenal sebagai gudangnya ilmu dan ulama. Di sana, ia memperdalam ilmu kepada para ulama negeri itu, seperti:
Pada tahun 1986 ia kembali ke tanah air dan langsung menuju kampung halaman di Sungai Gampa, Barito Kuala, Kalimantan Selatan. Atas inisiatif keluarga, ia kemudian membeli rumah di Martapura, yaitu di Jalan Pesayangan Gang Kurnia RT I No. 1.[4] Beberapa saat ia menempati rumah yang baru dibeli, sambil merasakan nikmatnya barakah berkumpul dengan guru-guru dan ulama-ulama di Martapura, seperti K.H. Samman Mulia, K.H. Muhammad Zaini Ghani, K.H. Husin Dahlan, K.H.M. Ramli Radhi, K.H. Badaruddin, K.H. M. Royani.[3]
Pada pertengahan tahun 1987, tanah seluas 30 ha itu dulunya hutan semak belukar dan terletak di Km 19,5 Jalan Raya Balikpapan-Samarinda tersebut kemudian dibuka dan di atasnya didirikan pondok pesantren yang nama lengkapnya Pondok Pesantren Syech Muhammad Arsyad Al-Banjari. Pembangunan Pondok Pesantren Syech Muhammad Arsyad Al-Banjari dimulai pada 1987. Perataan tanah pada 1990 dibantu oleh Denzipur Kodam VI Tanjung Pura. Pada tanggal 13 Maret 1993, diresmikanlah pondok pesantren ini.[butuh rujukan]
Kini di pondok pesantren ini sudah tersedia masjid, gedung Ma’had Aly, penginapan santri, perumahan para ustad, selain rumah untuk pengasuh pondok pesantren.[butuh rujukan] Di samping itu juga perpustakaan, puskesmas, kantin, dan lapangan olahraga.[butuh rujukan] K.H. Syarwani Zuhri memulai proses pendidikan di pesantren ini awalnya hanya dengan 45 santri.[butuh rujukan] Waktu itu ia masih sendirian. Kini, jumlah santri di Pondok Pesantren Syech Muhammad Arsyad Al-Banjari ada sekitar 700 putra dan 200putri.[butuh rujukan] Santri putri memang masih sedikit, karena pondok pesantren putri baru didirikan tahun 2004.[butuh rujukan]