Machfud Arifin mengawali kariernya di kepolisian dengan menjabat sebagai Kepala Satuan Reserse (Kasat Serse) Polres Belitung Polda Sumatera Selatan pada 1 Januari 1987. Selanjutnya, ia dipercaya sebagai Kasat Serse Polres Bangka Polda Sumatera Selatan pada 3 September 1989, kemudian menjabat Kasat Serse Polresta Bandar Lampung pada 16 Februari 1991. Pada 16 Agustus 1991, ia menjadi Kapolsekta Tanjung Karang Barat Polresta Bandar Lampung.
Kariernya terus berlanjut dengan menduduki jabatan Kepala Sub Bagian Binmin Ops Bag Serse Umum Polda Sumbagsel pada 29 November 1992. Ia kemudian diangkat sebagai Kapolsektif Batu Polwil Malang Polda Jawa Timur pada 1 Desember 1994, lalu menjadi Wakil Kepala Satuan Reserse (Wakasat Serse) Polwiltabes Surabaya Polda Jawa Timur pada 1 Maret 1996. Pada 1 Oktober 1997, ia dipercaya sebagai Komandan Detasemen Provos Polda Nusa Tenggara Barat, sebelum kemudian bertugas di Mabes Polri pada 1 Januari 1998.[4]
Setelah itu, Machfud menjabat Wakapolres Tangerang Polda Metro Jaya pada 1 November 1999, dan pada 1 September 2000 bertugas sebagai Perwira Menengah (Pamen) di Sespim Polri. Pada 23 Mei 2001, ia diangkat menjadi Kepala Bagian Serse Tipiter Ditserse Polda Sumatera Utara, kemudian menjabat Kapolres Deli Serdang pada 6 September 2002, serta Kapolres Asahan pada 3 Juni 2005.
Kariernya di Mabes Polri berlanjut dengan jabatan Kasubbag Renbinnis Set Pusbinprof Divpropam Polri pada 9 Februari 2006, kemudian menjadi Analis Utama Roanalisis Bareskrim Polri pada 15 Maret 2007. Pada 5 Juni 2008, ia menjabat Direktur Reserse Kriminal (Dirreskrim) Polda Kalimantan Selatan, lalu pada 14 Februari 2010 diangkat sebagai Wakil Direktur V/Tindak Pidana Tertentu (Tipiter) Bareskrim Polri.[5]
Setelah itu, ia menjadi Direktur Satwa Baharkam Polri pada 29 September 2010, lalu dipercaya menjabat Kepala Kepolisian Daerah Maluku Utara pada 25 Maret 2013 dan Kepala Kepolisian Daerah Kalimantan Selatan pada 9 September 2013. Pada 5 Juni 2015, Machfud menjabat sebagai Kepala Divisi Teknologi Informasi (Kadiv TI) Polri.
Kariernya mencapai puncak ketika diangkat sebagai Kepala Kepolisian Daerah Jawa Timur pada 12 Desember 2016. Setelah menjabat di Polda Jatim, ia kemudian dipercaya sebagai Analis Kebijakan Utama bidang Sabhara Baharkam Polri pada 13 Agustus 2018, yang menjadi jabatan terakhirnya sebelum pensiun.[6]
Pada tahun 2020, setelah pensiun dari kepolisian, Machfud Arifin maju sebagai calon Wali Kota Surabaya berpasangan dengan Mujiaman Sukirno, yang sebelumnya menjabat sebagai Direktur Utama PDAM Surya Sembada Kota Surabaya (2017–2020). Pasangan ini diusung oleh koalisi besar partai politik yang terdiri dari PKB, Gerindra, PKS, Golkar, Demokrat, NasDem, PAN, dan PPP.[7]
Dalam Pilkada Surabaya 2020, Machfud Arifin dan Mujiaman Sukirno memperoleh 451.794 suara atau 43,06%. Mereka kalah dari pasangan Eri Cahyadi dan Armuji, yang diusung oleh PDI-P dan PSI, dengan raihan 597.540 suara atau 56,94%.
Pada Pemilu 2024, Machfud Arifin maju sebagai calon legislatif DPR RI melalui Partai NasDem dan berhasil meraih 51.915 suara. Ia terpilih sebagai anggota DPR RI dari daerah pemilihan Kalimantan Selatan II yang meliputi Kabupaten Kotabaru, Tanah Bumbu, Tanah Laut serta Kota Banjarbaru dan Banjarmasin.[8]
Di parlemen, ia duduk sebagai anggota Komisi XIII dengan nomor anggota A-417. Ia menggantikan Rahmat Trianto yang mengundurkan diri untuk maju dalam Pemilihan umum Bupati Tanah Laut 2024. Pada saat pelantikan, ia dilantik bersama istrinya, Lita Machfud Arifin, yang juga terpilih sebagai anggota DPR RI Fraksi Partai NasDem dari daerah pemilihan Jawa Timur I.[9]
Selain menjabat di DPR, sejak 2024 Machfud Arifin juga dipercaya sebagai Anggota Dewan Pertimbangan DPP Partai NasDem. Di luar politik, ia tercatat sebagai Komisaris Utama PT Manggala Akasha Indonesia sejak tahun 2021.[10][11]