PSIS Junior

Johan merupakan jebolan PSIS Yunior. Bersama PSIS Yunior ia tampil di Piala Soeratin

PSIS Semarang

Selama di PSIS, pelatih Bambang Nurdiansyah jarang memainkan Johan. Menurut Bambang, Johan masih butuh waktu untuk masuk jajaran pemain inti. Walau sering dibangku cadangkan, Johan tak bersungut-sungut. Sebagai pemain, dia patuhi keputusan pelatih. Johan tak berkecil hati karena hanya memiliki 17 caps di Liga Super Indonesia 2008–09.^[2] Satu - satunya gol Johan bersama PSIS Semarang saat itu dicetak di ajang Piala Indonesia.

Persiba Balikpapan

Dengan bermodalkan 17 caps liga bersama PSIS Semarang, Johan mengadu nasib di Balikpapan. Dia berharap, tim berjuluk Beruang Madu mau memberikan kesempatan kepadanya, tanpa melihat jam terbangnya yang minim. Harapannya terkabul, Direktur Teknik Persiba, Daniel Roekito, mau memberi kesempatan. Hingga pada tanggal 11 November 2009 menjadi momen yang tak akan pernah dilupakan Johan Yoga Utama. Dia mencetak gol debutnya di Liga Indonesia. Ketika itu, Persiba Balikpapan berhasil mengalahkan tamunya Persib Bandung dengan skor 2-0 di ajang Djarum Indonesia Super League 2009/2010. Salah satu gol disumbangkan oleh Johan pada menit ke-26.^[2] Bersama Persiba Balikpapan, Johan bermain sebanyak 14 kali dengan mencetak 2 gol di Djarum Indonesia Super League 2009/2010.

Persib Bandung

Musim berikutnya Johan mengikuti langkah pelatih Daniel Roekito menuju Persib Bandung. Bersama Persib Bandung Johan hanya bermain di level Tim U-21 saja, tetapi namanya didaftarkan ke Badan Liga Indonesia untuk bisa tampil di Liga Super Indonesia. Johan belum pernah turun memperkuat Persib di kompetisi resmi. Untuk mengisi posisi striker ia harus bersaing dengan tiga striker yakni Christian Gonzales, Hilton Moreira dan Airlangga Sucipto.^[3] Johan fokus menjalani pemusatan latihan bersama Timnas U-23 untuk menghadapi SEA Games 2011.

Putra Samarinda, Persiba Balikpapan, Martapura FC

Tahun 2011 Johan kembali ke Kalimantan dengan bergabung bersama Putra Samarinda, hanya bermain sebanyak 7 kali dengan mencetak 2 gol. Musim berikutnya Johan membela bekas klubnya, Persiba Balikpapan, hanya dipasang sebagai starter 2 kali dan 14 kali menjadi pemain pengganti Johan mencetak 2 gol. Di musim 2014, masih di pulau Kalimantan, Johan hijrah ke Martapura FC dengan menyumbangkan 3 gol dari 15 penampilan.

PSM Makassar

Setelah batal bergabung dengan PSIS Semarang, Johan akhirnya berlabuh ke PSM Makassar. Sebelum kompetisi berhenti, Johan mencetak 1 gol dari satu - satunya penampilan di Liga Super Indonesia bersama PSM Makassar.

PSIS Semarang

Setelah kompetisi terhenti, Johan memilih bergabung dengan PSIS Semarang di Tahun 2015 untuk menghadapi kompetisi Polda Jateng Cup. Di bawah asuhan M. Dhofir Johan menjadi andalan di lini depan PSIS Semarang. Gol demi gol ia ciptakan bersama Tim Mahesa Jenar hingga ia meraih gelar Top Scorer Polda Jateng Cup, kontribusinya berhasil pula mengantarkan klub kebanggaan Kota Semarang meraih Juara Polda Jateng Cup.^[4]

Musim 2016, Johan masih membela panji PSIS Semarang di kompetisi Indonesia Soccer Championship B 2016. Sayang, PSIS Semarang hanya sanggup lolos di babak kedua / Babak 16 Besar tidak berhasil menjadi 8 (delapan) tim terbaik. Johan berhasil menobatkan dirinya sebagai Pencetak Gol terbanyak di ISC B 2016. Mantan penyerang Timnas U-23 itu menceploskan 15 gol dan hanya selisih satu gol dari striker belia milik PSS Sleman, Chandra Waskito. Atas torehan itu, Johan membawa pulang sepatu emas sekaligus uang tunai Rp 50 juta.^[5]