Bakat Rudy kemudian ditempa ayahnya melalui Persatuan Bulu Tangkis Oke dengan proses latihan yang sangat disiplin. Ia selalu ditekankan pada empat hal utama yakni kecepatan, pengaturan napas, sifat permainan yang agresif dan konsistensi dalam mengambil target.
Rudy kemudian pindah ke grup bulu tangkis yang lebih besar yaitu Rajawali Group, yakni grup yang telah melahirkan banyak pemain bulu tangkis dunia.
Pada perkembangannya, Rudy memutuskan untuk pindah ke Pusat Pelatihan Nasional pada akhir tahun 1965 untuk persiapan Piala Thomas. Tak lama setelah itu, penampilan Rudy Hartono semakin membaik.
Ia turut ambil bagian dengan memenangkan Thomas Cup untuk Indonesia pada tahun 1967. Pada usia 18 tahun, untuk pertama kalinya Rudy memenangkan titel Juara All England dengan mengalahkan Tan Aik Huang dari Malaysia dengan hasil akhir 15-12 dan 15-9. Setelah itu, namanya terus melesat dan haus gelar juara dari tahun ke tahun.
Rudy Hartono memang terkenal memiliki keterampilan yang komprehensif, taktik yang bervariasi, serta kecepatan selancar yang cepat. Ia juga menyerang di lini tengah, terutama dalam membunuh lawan secara diagonal dan garis lurus di lapangan belakang.
Nama Rudy Hartono akhirnya tercatat di Guinness Book of Record sebagai pemain tunggal putra dengan gelar juara dunia paling banyak. Berikut ini adalah sederet prestasinya di dunia bulutangkis.
-Juara Tunggal Putra All England delapan kali (1968, 1969, 1970, 1971, 1972, 1973, 1974, dan 1976):
1968: menang vs Tan Aik Huang (Malaysia)
1969: menang vs Darmadi (Indonesia)
1970: menang vs Svend Pri (Denmark)
1971: menang vs Muljadi (Indonesia)
1972: menang vs Svend Pri (Denmark)
1973: menang vs Christian (Indonesia)
1974: menang vs Punch Gunalan (Malaysia)
1975: kalah dari Svend Pri (Denmark)