Rahmi Mulyati memulai karier sebagai staf di Pengadilan Negeri Bogor pada 1985. Setahun berikutnya, ia diangkat sebagai Calon Hakim di sana. Pada 1989, ia diangkat sebagai Hakim Tingkat Pertama Pengadilan Negeri Padang Panjang. Pada 1996, ia dimutasi ke Mahkamah Agung Republik Indonesia menjadi asisten Hakim Agung hingga 2003. Pada 2003, ia menjadi asisten koordinator Hakim Agung Mahkamah Agung.[3]
Pada 2006, Rahmi Mulyati dimutasi menjadi Hakim Niaga Tingkat Pertama di Pengadilan Niaga pada Pengadilan Negeri Jakarta Pusat dan menangani hak cipta dan hukum dagang lainnya.[2] Setahun berikutnya, ia diangkat menjadi Hakim Tinggi Pengadilan Tinggi Jakarta. Pada 2008, ia diangkat menjadi Panitera Muda Perdata Khusus Mahkamah Agung Republik Indonesia.[3] Pada 16 Maret 2020, ia diangkat menjadi Hakim Agung Mahkamah Agung Republik Indonesia.[4]
Selama menjadi hakim, Rahmi sering ditugaskan mengikuti pelatihan dalam dan luar negeri berkaitan dengan hukum bisnis dan hak kekayaan intelektual. Pelatihan yang diikutinya di luar negeri di antaranya Intellectual Property Rights Course (1997) dan Advanced Intellectual Property Rights Course (1999) di Universitas Teknologi Sydney, Australia, Industrial Property Right di Jepang, Strenthening the Rule of Supervisory Judges and the Enforcement of Bankruptcy Law Decisions di Belanda, WIPO Training Course on the Enforcement of Intellectual Property Rights di Jepang, Workshop on IPR For Judges di Bangkok, Roundtable for Sea Judges European Union Intellectual Property Office (EUIPO) di Alicante, Spanyol, dan lain-lain.[2]
