Iohannis pertama kali terpilih sebagai wali kota Sibiu pada tahun 2000, mewakili Forum Demokrasi Bangsa Jerman di Rumania. Iohannis meraih kemenangan mengejutkan dan terpilih kembali pada tahun 2004, 2008 dan 2012. Iohannis dikenal karena mengubah kotanya menjadi salah satu tujuan wisata paling populer di Rumania, dan kotanya dinyatakan sebagai Ibukota Kebudayaan Eropa pada tahun 2007. Pada Februari 2013, Iohannis menjadi anggota Partai Liberal Nasional, ia menerima undangan dari pemimpin partai Crin Antonescu, dan langsung terpilih menjadi Wakil Presiden Pertama partai, ia menjadi Presiden partai pada tahun berikutnya.