Selanjutnya, Herzog memimpin Kementerian Pariwisata (2006–2007) dan Kementerian Diaspora, Masyarakat, dan Perjuangan Melawan Anti-Semitisme (2007–2009) di bawah Perdana Menteri Ehud Olmert (2006–2009). Dia juga mengepalai Kementerian Kesejahteraan dan Pelayanan Sosial (2007–2011) di bawah Olmert.
Meskipun Herzog memegang posisi penting dalam partai yang mendominasi politik Israel sepanjang sejarah negara Yahudi itu, Partai Buruh harus bekerja keras untuk tetap kompetitif pada saat dia terlibat dalam politik. Ketika partai tersebut melewati masa kepemimpinan satu periode, Herzog terpilih sebagai ketua partai pada 2013. Menjelang pemilu Knesset 2015, dia bergabung dengan Tzipi Livni yang berhaluan tengah untuk membentuk koalisi. Aliansi baru tersebut, bernama Zionist Union, menempati posisi kedua dalam pemilu dengan 24 kursi. Itu adalah capaian Partai Buruh tersukses sejak 2001. Herzog kemudian menjadi pemimpin oposisi. Namun dia juga kehilangan kepemimpinan partainya pada 2017 selepas satu periode menjabat.
Dia lalu menerima tawaran untuk memimpin Badan Yahudi Israel dan mengundurkan diri dari Knesset pada pertengahan 2018. Sebagai ketua badan tersebut, dia berjanji untuk memperkuat hubungan antara Pemerintah Israel yang berorientasi sayap kanan dan diaspora Yahudi yang lebih berhaluan kiri.
Pada Mei 2021, Herzog mengumumkan niatnya untuk mencalonkan diri sebagai presiden Israel. Meskipun berafiliasi dengan Partai Buruh yang berideologi kiri, dia menerima dukungan dari beberapa anggota sayap kanan Knesset. Dia pun terpilih jadi presiden pada Juni tahun itu dengan selisih suara terbanyak dalam sejarah Israel.
Meskipun kepresidenan Israel sebagian besar bersifat seremonial semata, posisi Herzog sebagai presiden terlihat jelas baik di luar negeri maupun di dalam negeri. Pada Januari 2022, dia menjadi presiden Israel pertama yang mengunjungi Uni Emirat Arab, setelah kedua negara menormalisasi hubungan pada 2020. Pada Maret lalu, dia juga menjadi presiden Israel pertama yang melakukan kunjungan resmi ke Yordania.
Saat Netanyahu kembali menjadi perdana menteri akhir 2022, politik Israel sedang bergejolak. Pada 2023, politikus Partai Likud itu mencoba untuk mereformasi sistem peradilan negara tersebut denga mengajukan RUU yang menempatkan lembaga yudikatif berada di bawah pengawasan legislatif. Tak pelak rencana itu menuai protes dan perlawanan dari orang-orang Israel, karena dinilai akan melanggengkan kekuasaan Netanyahu yang korup.
Ketika protes besar-besaran mengguncang pemerintahan Netanyahu, Herzog berusaha menjadi penengah antarfaksi dan menawarkan rencana alternatif untuk reformasi peradilan Israel.