Ia bekerja sebagai ekonom dan menjadi profesor Ekonomi di Vrije Universiteit pada usia tiga puluh pada tahun 1948. Zijlstra diminta menjadi Menteri Urusan Ekonomi setelah pemilihan umum Belanda 1952 di Kabinet Drees II di bawah Perdana Menteri Willem Drees dari Partai Buruh, ia mengundurkan diri sebagai profesor pada hari yang sama ketika ia menjabat sebagai Menteri Urusan Ekonomi yang baru pada 2 September 1952. Zijlstra menjadi lijsttrekker (calon teratas) dari Partai Anti Revolusioner untuk pemilihan umum Belanda 1956 dan menjabat sebagai pemimpin partai dari 23 April 1956 sampai 3 Oktober 1956, dan sebagai pemimpin parlemen Partai Revolusioner Anti di Dewan Perwakilan dari 14 Juni 1956 sampai 3 Oktober 1956 dan menjadi Anggota Dewan Perwakilan dari 3 Juli 1956 sampai 3 Oktober 1956. Setelah Kabinet Drees III dibentuk, Zijlstra tetap menjadi Menteri Urusan Ekonomi. Kabinet Drees III jatuh pada 22 Desember 1958 dan kabinet sementara dibentuk oleh mantan Perdana Menteri Louis Beel dari Partai Rakyat Katolik. Zijlstra tetap menjabat sebagai Menteri Urusan Ekonomi dan menjabat pula sebagai Menteri Keuangan dalam Kabinet Beel II. Zijlstra kembali menjadi lijsttrekker untuk Partai Anti Revolusioner selama pemilihan umum Belanda 1959, dan menjabat sebagai pemimpin Partai Anti Revolusioner untuk yang kedua kalinya dari 29 Desember 1958 sampai 26 Mei 1959. Setelah Kabinet De Quay dibentuk pada 19 Mei 1959, Zijlstra tetap sebagai Menteri Keuangan di bawah Perdana Menteri baru Jan de Quay dari Partai Rakyat Katolik, dan menjabat sampai 14 Juli 1963 ketika Kabinet Marijnen terbentuk.
Zijlstra menjadi Anggota Senat pada 25 Juni 1963 dan kembali ke Vrije Universiteit sebagai profesor keuangan publik. Pada 14 Oktober 1966, Kabinet Cals penerus Kabinet Marijnen jatuh setelah pemimpin Partai Rakyat Katolik, Norbert Schmelzer mengusulkan mosi tidak percaya terhadap Kabinet Cals dan Perdana Menteri Jo Cals yang merupakan anggota dari partainya sendiri. Zijlstra diminta untuk membentuk kabinet caretaker yang memiliki tugas utama untuk mengadakan pemilihan umum Belanda 1967. Zijlstra menjadi Perdana Menteri Belanda dan Menteri Urusan Umum pada 22 November 1966 dan mengundurkan diri sebagai Anggota Senat. Zijlstra juga menjabat sebagai Menteri Keuangan pada Kabinet Zijlstra hingga 5 April 1967 sampai Kabinet De Jong terbentuk.
Setelah menjadi perdana menteri, Zijlstra pensiun dari politik aktif pada usia empat puluh delapan dan menjadi Presiden Bank Sentral Belanda dari 1 Mei 1967 hingga 1 Januari 1982. Zijlstra juga menduduki banyak kursi di dewan pengawas dalam dunia bisnis dan industri. Zijlstra secara luas dihormati karena keahlian dan integritasnya, dan merupakan wali baptisRaja Willem-Alexander. Pada 30 April 1983 ia dianugerahi gelar kehormatan Menteri Negara, yang dia pegang sampai kematiannya.[3][4]
