Keberadaan Sam Poo Kong bisa menjadi gambaran yang cukup umum dan mudah dibayangkan oleh masyarakat, khususnya untuk yang tinggal di kota.
Berdasarkan situs resmi Kelenteng Sam Poo Kong, ketika itu Cheng Ho menepi di Pantai Simongan pada awal abad ke-15.
Dia beralasan, karena seorang juru mudi kapal bernama Wang Ji Hong sedang sakit keras. Gua batu yang lokasinya dekat dimanfaatkan menjadi tempat tinggal Cheng Ho untuk mengobati juru mudinya.
Seiring kondisi Wang Ji Hong yang mulai membaik, Cheng Ho memutuskan melanjutkan perjalanan ke timur untuk berdagang dan mewujudkan perdamaian. Akhirnya, Wang Ji Hong dan para awak kapal memutuskan untuk tinggal di Simongan.
Wilayah pantai yang kini menjadi Kelurahan Ngemplak Simongan tersebut kini berada di tengah Kota Semarang, tepatnya di wilayah dekat Banjir Kanal Barat.