Dia berinvestasi di Woodruff Sleeping Car Company (pemegang asli paten Pullman) dan memperkenalkan gerbong tidur pertama yang sukses di jalur kereta api Amerika. Setelah meninggalkan jabatannya di perkeretaapian pada 1865, dia melakukan investasi yang cerdik di bidang industri, seperti Keystone Bridge Company, Superior Rail Mill and Blast Furnaces, Union Iron Mills, dan Pittsburgh Locomotive Works.
Dia juga berinvestasi secara menguntungkan di ladang minyak Pennsylvania. Pada awal 1870-an, Carnegie membangun pabrik baja pertama di AS yang menggunakan proses pembuatan baja Bessemer baru, yang dipinjam dari Inggris.
Selama beberapa dekade, dia menciptakan kerajaan baja, memaksimalkan keuntungan dan meminimalkan inefisiensi melalui kepemilikan pabrik, bahan baku dan infrastruktur transportasi yang terlibat dalam pembuatan baja. Pada 1892, kepemilikan utamanya dikonsolidasikan untuk membentuk Carnegie Steel Company.
Pada 1900, keuntungan Carnegie Steel mencapai 40 juta dolar AS, di mana bagian Carnegie senilai 25 juta dolar AS. Pada 1991, Carnegie menjual perusahaannya ke United States Steel Corporation yang baru dibentuk J.P. Morgan seharga 480 juta dolar AS pada 1901.
Pada usia awal 30-an, Carnegie telah menjadi orang yang sangat kaya. Namun setelah kesuksesannya, dia memilih mengabdikan dirinya untuk filantropi.
Dia menyumbangkan 90 persen kekayaannya atau lebih dari 350 juta dolar AS untuk keperluan amal. Uang itu disumbangkan ke universitas, perpustakaan, dan organisasi nirlaba lainnya sebelum dia meninggal.