Ia memulai karier dengan bermain di klub Dzerzhinets Chelyabinsk. Pada tahun 1950 ia bergabung dengan VVS Moskwa. Pada musim pertama bersama VVS Moskwa, ia hanya bermain 4 pertandingan. Kemudian pada tahun 1951 dan 1952 ia bermain 21 pertandingan dan mencetak satu gol. Selama bermain bersama VVS Moskwa, ia sudah bermain sebanyak 25 pertandingan. Setelah klub dibubarkan, bersama dengan Eugene Vitaly Artemyev, ia pergi ke Lokomotiv Moskwa. Bersama Eugene, ia memenangkan Piala Uni Soviet pada tahun 1957. Pada tahun 1955 dan 1957 ia termasuk dalam daftar 33 pemain terbaik semusim. Total ia sudah bermain sebanyak 129 pertandingan bersama Lokomotiv Moskwa. Setelah itu, Rogov melanjutkan karier kepelatihan.