Anak seorang pendeta, Bajer adalah perwira di militer Denmark dan sebagai letnan bertempur melawan Prusia dan Austria pada tahun 1864. Pada tahun 1865 ia diberhentikan dan pindah ke Kopenhagen, di mana ia menjadi seorang guru, penerjemah, dan penulis. Ia menikah dengan Mathilde Bajer (l. Schlüter).