Ia merupakan zuriat ke-8 dari Syekh Muhammad Arsyad al-Banjari, yaitu, KH. Muhammad Zaini Ghani bin Abdul Ghani bin Abdul Manaf bin Muhammad Samman bin Saad bin Abdullah Mufti bin Muhammad Khalid bin Khalifah Hasanuddin bin Syekh Muhammad Arsyad Al Banjari atau Datu Kalampayan.

Pada tahun 1949 saat berumur 7 tahun, beliau mengikuti pendidikan formal di Madrasah Ibtidaiyah Pondok Pesantren Darussalam, Martapura.

Kemudian tahun 1955 pada usia 13 tahun, beliau melanjutkan pendidikan di Madrasah Tsanawiyah Pondok Pesantren Darussalam, Martapura.