Di sana, ia menjadi anggota Sociaal-Democratische Arbeiderspartij, sebagai sekretaris lokal. Ia menduduki beberapa jabatan umum untuk SDAP di Wieringermeer, termasuk wali kota sementara di sana. Pada Perang Dunia II, ia aktif dalam gerakan perlawanan terhadap Jerman Nazi. Ia membantu orang yang sedang dalam bahaya untuk bersembunyi di Wieringermeerpolder; ia mengorganisir distribusi makanan gelap untuk provinsi-provinsi di barat. Segera setelah perang, PMPvdA yang berhaluan sosialisWim Schermerhorn memintanya menduduki jabatan menteri pertanian, perikanan, dan distribusi makanan dalam kabinetnya. Mansholt menjadi anggota termuda di kabinet itu yang baru berusia 36.
Ia menjadi anggota dalam 6 kabinet: Schermerhorn-Drees pada tahun 1945; Beel pada tahun 1946; Drees-Van Schaik pada tahun 1948, dan 3 kabinet Drees pada tahun 1951, 1952, dan 1956. Sebagai menteri pertanian selama masa itu, ia merupakan salah satu arsitek penting Kebijakan Pertanian UmumKomisi Eropa. Pada tahun 1958, ia menjadi salah satu komisaris Komisi Eropa yang baru. Ia menjadi Komisaris Pertanian, memodernisasi pertanian Eropa dan wakil presiden lembaga tersebut. Ia menjadi Presiden Komisi Eropa pada tanggal 22 Maret1972 (Komisi Mansholt) dan mendudukinya hingga tanggal 5 Januari 1973. Pada masa inilah, ia banyak mendapat pengaruh dari Klub Roma.
Pada tahun 1954, debat parlemen atas anggaran departemen pertanian ditunda. Mansholt pernah mengikuti skating es di Elfstedentocht yang panjangnya mencapai 200 kilometer di Fryslân. Ia ikut pertandingan tersebut 2 kali seumur hidupnya.
Ia menikah dengan Henny J. Postel pada tahun 1938, dan memiliki 2 putera dan 2 puteri. Mansholt menghabiskan hari tuanya di Wapservene, Belanda timur laut sampai akhir hayatnya.
