Sementara, di luar kampus, Arief aktif di Solidaritas Mahasiswa Indonesia untuk Demokrasi (SMID) Cabang Yogyakarta dan masuk dalam struktur Dewan Pengurus Persatuan Rakyat Demokratik yang kemudian berganti nama menjadi Partai Rakyat Demokratik (PRD). Aktivitasnya di SMID Yogyakarta membuat Andi Arief berkenalan dengan SBY yang ketika itu menjabat Komandan Resor Militer (Danrem) Pamungkas.
Pada 1996, Andi Arief menjabat ketua umum SMID. Dia pun menjadi salah satu incaran aparat lantaran aktivitas SMID dan PRD yang kerap membikin gerah penguasa Orde Baru. Pada masa itu, kedua organisasi tersebut memang terbilang gencar menggalang aksi unjuk rasa menolak rezim Soeharto.
Pada 28 Maret 1998, sekelompok orang tak dikenal menculik Andi Arief di sebuah ruko di Bandar Lampung. Namun, pada 14 Juli 1998 atau hampir dua bulan setelah kejatuhan Soeharto, dia akhirnya dibebaskan.
Di awal-awal Era Reformasi, nama Andi Arief tak banyak muncul ke publik. Akan tetapi, pada perhelatan Pemilu Presiden (Pilpres) 2004, dia turut ambil andil dalam memenangkan SBY dan Jusuf Kalla (JK) dengan menjadi relawan bagi pasangan capres-cawapres tersebut.
Sejak itu, SBY pun menaruh perhatian khusus dan kepercayaan kepada Andi Arief. Pada 2006, presiden keenam RI itu memberikan amanah kepada sang mantan aktivis untuk menempati posisi komisaris di PT Pos Indonesia.