Gašparovič lahir di Poltár, dekat Lucenec dan Banska Bystrica di selatan pusat Slowakia. Ayahnya (Vladimir Gašparović), bermigrasi ke Slowakia dari Kroasia saat berakhirnya Perang Dunia I dan menjadi guru di sebuah sekolah di Bratislava kemudian menjadi kepala sekolahnya.
Pada 1964, Gašparovič menikah dengan Silvia Beníková dan dikaruniai dua anak. Dalam kehidupan pribadinya, ia menyukai olahraga balap motor dan hoki es. Ia menjadi salah satu pemimpin klub hoki Slovan ChZJD (kini HC Slovan Bratislava). Ia juga wakil presiden Komisi Internasional Uni Hoki Es Cekoslowakia dan wakil presiden olahraga tim hoki unit Slovan Bratislava.