Meski ayahnya memiliki sikap anti-Belanda, namun Andi Patoppoi mengenyam pendidikan gaya Belanda secara baik. Sejak muda, Andi Patoppoi sudah menjadi pegawai negeri pemerintah Hindia Belanda. Berkali-kali pindah tugas, pada 1951-1954 ia ditugaskan ke Jawa dengan menjadi Asisten Residen Koordinator Daerah Pati, Kudus, Jepara, dan Blora. Ia diangkat menjadi Bupati Grobogan tahun 1954-1958, berkantor di Purwodadi. Saat menjadi Bupati Grobogan, ia merangkap sebagai Ketua Umum Partai Nahdlatul UlamaPurwodadi (1954-1958). Ia juga menjabat sebagai pelindung Panitia Kongres I Jamiyah Thariqat Mu’tabarah pada tahun 1957.
Saat menjabat Bupati Grobogan, Andi Patoppoi secara terbuka dan terang-terangan menyatakan diri sebagai Ketua Umum Partai NU. Ia tak gentar kendati Grobogan ketika itu kawentar sebagai basis utama Partai Komunis Indonesia yang menjadi rival terbesar Partai NU. Andi Patoppoi sangat serius menjalankan tugasnya sebagai Ketua Partai NU. Sehingga, Partai NU di wilayah kerjanya menjadi besar berkat kerja kerasnya.
Andi Patoppoi selalu menunjukkan jati dirinya sebagai seorang nahdliyyin. Semasa hidupnya, ia pernah menjabat Ketua Pepermi (Persatuan Pengasuh Rakyat Muslimin Indonesia). Ia menggantikan KH. Musta’in—Bupati Tuban—yang meninggal dunia tahun 1963. Ketika pemerintah Orde Baru menerapkan kebijakan monoloyalitas, di mana seluruh pegawai negeri wajib mendukung Golkar, Andi Patoppoi tetap setia di dalam NU. Sejak 1972, ia menjadi anggota DPRD Sulawesi Selatan dari Partai NU. Ketika MPRS terbentuk, ia menjadi anggotanya mewakili NU.
