Pada 1961, Yahya memulai karier sebagai hakim di Pengadilan Negeri Tebing Tinggi. Dua tahun kemudian, ia dipromosikan menjadi Ketua Pengadilan Negeri Tebing Tinggi. Pada 1968, ia dimutasi menjadi Wakil Ketua Pengadilan Negeri Medan. Dua tahun kemudian, ia diangkat menjadi Hakim Tinggi Pengadilan Tinggi Medan. Pada 1980, ia diangkat menjadi Wakil Ketua Pengadilan Tinggi Banda Aceh. Setahun kemudian, ia dipercaya menjadi Ketua Pengadilan Tinggi Jayapura. Pada 1982, ia diangkat oleh Presiden Soeharto menjadi Hakim Agung Mahkamah Agung Republik Indonesia. Pada 1997, ia diangkat Presiden Soeharto menjadi Ketua Muda Mahkamah Agung Urusan Lingkungan Peradilan Umum Bidang Hukum Pidana Umum menggantikan Adi Andojo Soetjipto.[2] Pada 2000, ia resmi purnabakti mengakhiri tugas kehakimannya.[1]
Karya Tulis
Yahya Harahap dikenal sebagai penulis yang produktif, dengan karya-karyanya yang menjadi pedoman bagi banyak praktisi hukum di Indonesia. Beberapa buku yang diterbitkannya antara lain:
Pembahasan Permasalahan dan Penerapan KUHAP
Hukum Acara Perdata
Hukum Perseroan Terbatas
Ruang Lingkup Permasalahan Eksekusi Bidang Perdata
Kekuasaan Pengadilan Tinggi dan Proses Pemeriksaan Perkara Perdata dalam Tingkat Banding
Kebijakan Hukum Pidana (2022)
Kematian
Yahya Harahap meninggal dunia pada 22 Januari 2024 pukul 03.30 WIB dalam usia 89 tahun. Ia dimakamkan di TPU Tanah Kusir setelah salat Asar karena masih menunggu kedatangan anak-anaknya dari Medan.[3][4][5][6]
