Lulus dari Akpol, Sandi Nugroho lalu mengawali karier di kepolisian menjadi Pama Polda Metro Jaya. Selanjutnya dipindah ke Pamapta Polres Metro Jakarta Pusat.
Setelah itu, kariernya cemerlang dan melesat. Sederet jabatan yang pernah diembannya antara lain Kapolsek Medan Labuhan Poltabes Medan (2002), Kasat Reskrim Polresta Medan, Kapolres Bandung Polda Jabar, Kapolrestabes Medan, dan Analis Kebijakan Madya Bidang Pideksus Bareskrim Polri.
Kemudian Kapolrestabes Surabaya, Penyidik Tindak Pidana Utama Tk II Bareskrim Polri, dan Karojianstra SSDM Polri.