Di masa perkuliahan, dia bertemu Necmettin Erbakan, seorang politikus Islamis yang membuatnya aktif di partai pimpinan Erbakan, Partai Kesejahteraan. Namun di Turki ada larangan partai politik berbasis agama.
Erdogan terpilih sebagai wali kota Istanbul melalui Partai Kesejahteraan (AK) pada 1994. Dia menjadi pmeluk Islam taat pertama yang menjadi wali kota hingga mengguncang kelompok sekuler. Meski demikian Erdogan berhasil menumbuhkan citra positif dengan statusnya yang dianggap asing itu.
Sayangnya, pada 1998 Erdogan dihukum atas tuduhan menghasut kebencian agama setelah membacakan puisi yang membandingkan masjid dan barak dengan umat beriman dengan tentara.
Dia dihukum 10 bulan penjara kemudian mengundurkan diri sebagai wali kota. Setahun kemudian, dia bebas dan kembali terjun ke dunia politik. Erdogan kemudian memutuskan hubungan dengan Erbakan serta membantu membentuk Partai Keadilan dan Pembangunan (AKP).
Partai ini memenangkan pemilihan parlemen pada 2002, namun Erdogan secara hukum dilarang menjabat di parlemen atau sebagai perdana menteri terkait hukuman yang diterimanya pada 1998.