Ruge tumbuh di Oslo dalam keluarga dengan tradisi militer yang kuat. Dia mengikuti Sekolah Katedral Oslo. Saat berusia 20 tahun, dia telah menjadi perwira militer. Dia mengikuti Akademi Militer Norwegia (1905) dan mengambil ujian Staf Umum (1915). Kolonel Otto Ruge menjadi Kepala Staf Umum pada tahun 1933. Pada tahun 1938 dia mundur dari posisinya dan ditunjuk sebagai Inspektur Jenderal Infanteri.[2]