Rommel kemudian bergabung dalam pasukan elite Alpen Korps saat Perang Dunia I yakni pada 1914. Dia terlibat dalam banyak pertempuran, seperti Pertempuran Lembah Jiu (7-17 November 1916), Oituz II (8-20 Agustus), dan Penaklukan Kota Longarone (9 November 1917). Meskipun terluka berulang kali, Rommel berhasil membawa pulang kemenangan serta berbagai lencana penghargaan.
Pertemuan pertamanya dengan pemimpin NaziAdolf Hitler terjadi saat inspeksi Pasukan Batalyon Jaeger ke-3 pada 30 September 1934. Saat itu Rommel merupakan komando pasukan Resimen Infanteri ke-17. Buku taktik infanteri yang bersumber dari catatan harian milik Rommel selama Perang Dunia I mampu membuat Hitler terkesan.
Sayang, di puncak kariernya sebagai perwira, Rommel menghadapi malapetaka. Dia mengalami luka parah akibat serangan pesawat Inggris pada 17 Juli 1944 atau 11 hari setelah pasukan sekutu melancarkan D-Day. Saat itu Rommel dalam perjalanan kembali dari markas.
Di dekat Sainte Foy de Montgommery, mobilnya ditembaki pesawat Inggris hingga terguling hingga membuat Rommel terlempar keluar.
Lalu pada 20 Juli, terjadilah insiden Operasi Valkyrie atau upaya pembunuhan Hitler. Bom diledakkan ketika rapat front barat dan timur di markas rahasia Wolfsschanze atau Sarang Serigala di Rastenburg, Prusia Timur. Namun, rencana pembunuhan tersebut gagal. Hitler tidak lolos dari maut, melainkan hanya mengalami luka ringan.