Sebelum menempati posisi Rektor UIN Syarif Hidayatullah, Azyumardi Azra menapaki kariernya di kampus tersebut sebagai dosen Fakultas Adab dan Fakultas Tarbiyah pada 1992, lalu menjadi Guru Besar Sejarah Fakultas Adab dan Pembantu Rektor I pada 1998.
Ia pernah pula menjadi Professor Fellow di Universitas Melbourne, Australia (2004-2009), sebagai orang Asia Tenggara pertama yang didapuk posisi tersebut. Selain itu, ia juga menjadi anggota Dewan Penyantun (Board of Trustees) International Islamic University Islamabad Pakistan (2004-2009).
Beberapa penghargaan pernah diraih oleh Azyumardi. Antara lain, Penulis Paling Produktif dari Penerbit Mizan, Bandung tahun 2002 dan Sarwono Prawirohardjo Memorial Lecture (SML) dari Lembaga Ilmu Pengetahuan Indonesia (LIPI) pada 2017. Sedangkan di tahun 2010, ia menerima gelar kehormatan dari Kerajaan Inggris, yakni Commander of the Order of British Empire.