Tjong A Fie sepanjang hidupnya banyak berbuat sosial dan senang menolong orang susah serta miskin. Mungkin itu karena keyakinannya, harta kekayaan yang berasal dari uang panas, yaitu dari keuntungan monopoli penjualan candu, maka sebagian harus dikembalikan ke masyarakat. Ia membangun sarana-sarana untuk kepentingan umum dan menolong orang miskin tanpa membedakan warna kulit, suku, dan agamanya.
Tjong A Fie membangun sarana ibadah kelenteng, tempat pemakaman di Pulo Brayan, dan mendirikan perkumpulan kematian untuk merawat kuburan. Ia juga membangun rumah sakit Tjie On Tjie Jan dan rumah sakit khusus untuk merawat pasien berpenyakit lepra di Pulau Sicanang. Dia membangun Masjid Raya Medan dengan menyumbang sepertiga dari seluruh biaya pembangunan. Tjong A Fie juga membiayai seluruh biaya pembangunan Masjid Gang Bengkok di dekat kediamannya di Jalan Kesawan, yang kini menjadi Jalan Jenderal A Yani.
Di Kota Medan, bahkan hampir di seluruh Sumatra Timur saat itu, Tjong A Fie sangat terkenal karena kedermawanannya. Banyak sekolah mendapat bantuannya, baik sekolah Kristen, Islam, maupun Tionghoa. Ia menyediakan tanah untuk pembangunan sekolah Methodis di Medan. Memberi sumbangan pada berbagai kelenteng, masjid, gereja, dan kuil-kuil Hindu. Dia juga menyumbang jam besar di puncak gedung Balai Kota lama.
Sebagai pemimpin masyarakat Tionghoa, Tjong A Fie sangat disegani dan dihormati karena piawai memadukan kekuatan ekonomi dan politik. Kerajaan bisnisnya meliputi perkebunan, pabrik minyak kelapa sawit, pabrik gula, bank, dan perusahaan kereta api. Di masa itu, lebih dari 10.000 orang bekerja di berbagai perusahaannya. Atas rekomendasi Sultan Deli, Tjong A Fie diangkat menjadi anggota dewan kota atau saat itu disebut sebagai gemeenteraad dan dewan kebudayaan atau culturraad. Tak hanya itu, dia juga diangkat sebagai penasihat oleh pemerintah Hindia Belanda untuk urusan Tionghoa.
Hal yang luar biasa dari Tjong A Fie, meskipun memiliki banyak perkebunan, ia menentang poenale sanctie. Ini peraturan yang melindungi kepentingan para pemilik perkebunan. Jika buruh melarikan diri sebelum masa kontrak kerjanya habis, maka buruh akan dikejar dan ditangkap. Kemudian, dikembalikan atau dihukum penjara. Menurut Tjong A Fie, peraturan ini pada hakikatnya membuat nasib para buruh atau kuli kontrak tidak jauh berbeda dengan budak belian. Karena sikapnya itu, Tjong A Fie pernah dituduh para pemilik perkebunan lainnya sebagai pengkhianat.