Jakob adalah putra seorang pensiunan guru di Sleman, Yogyakarta. Karier jurnalistik Jakob dimulai ketika menjadi redaktur Mingguan Penabur tahun 1956 dan berlanjut dengan mendirikan majalah Intisari tahun 1963 bersama P.K. Ojong, yang mungkin diilhami majalah Reader's Digest dari Amerika. Dua tahun kemudian, 28 Juni 1965, bersama Ojong, Jacob mendirikan Harian Kompas yang dikelolanya hingga 2020. Tahun 1980-an Kompas Gramedia Group mulai berkembang pesat, terutama dalam bidang komunikasi. Saat ini, Kompas Gramedia Group memiliki beberapa anak perusahaan/bisnis unit yang bervariatif dari media massa, toko buku, percetakan, radio, hotel, lembaga pendidikan, penyelenggara ajang, stasiun TV, hingga perguruan tinggi. Selain itu, bersama dengan Jusuf Wanandi, Muhammad Chudori, Eric Samola, Fikri Jufri, Goenawan Mohamad, H. G. Rorimpandey dan Harmoko, Jakob Oetama juga ikut mendirikan The Jakarta Post, harian nasional Indonesia berbahasa Inggris.[4]
Jakob menamatkan pendidikan dasarnya di Yogyakarta dan kemudian melanjutkan ke Sekolah Menengah Atas Seminari Menengah Petrus Canisius Mertoyudan di Yogyakarta (1951). Dia sempat bekerja menjadi guru di SMP Mardiyuana (Cipanas, Jawa Barat) dan SMP Van Lith di Jakarta, serta bekerja sebagai redaktur Mingguan Penabur Jakarta, sebelum melanjutkan pendidikan kembali di Sekolah Guru Jurusan B-1 Ilmu Sejarah hingga tahun 1956. Jakob kemudian melanjutkan ke Perguruan Tinggi Publisistik, Jakarta (1959) dan lulus dari Jurusan Publisistik Fakultas Ilmu Sosial dan Politik Universitas Gajah Mada pada 1961.[2][7]