Siapa pun yang terlibat dalam pengeboman tersebut akan dijatuhi hukuman mati. Siapa sangka, nama Rommel ikut terseret. Rommel pun ditangkap oleh dua jenderal suruhan Hitler. Namun Hitler tidak ingin mengadili Rommel di depan umum karena bisa mengikis semangat juang para prajurit yang sedang melawan sekutu di barat dan Uni Soviet di timur.
Karena itu Rommel diberi dua pilihan, diadili di Volksgerichtshof (pengadilan rakyat) atau bunuh diri. Jika Rommel memilih pengadilan, keluarganya akan sengsara dengan titel pengkhianat Jerman. Namun jika memilih bunuh diri, nama baik keluarganya akan terlindungi.
Putusan Rommel jatuh pada pilihan kedua. Tepat di usianya ke-52 tahun, Rommel bunuh diri dengan menenggak sianida.
Bersama konspirator lainnya, Erwin Rommel menyetujui bahwa Hitler harus dicopot dari kekuasaan. Namun dia tidak menyukai ide untuk membunuh Hitler sehingga berperan tak aktif dalam pembunuhan tersebut.