Menurut masyarakat setempat, nama Sipiso Piso artinya pisau atau piso. Karena ketinggian dan derasnya air mengalir seperti sebilah pisau tajam.
Sebelum melihat Air Terjun Sipiso Piso dari dekat, berkunjunglah ke gardu pandang yang terletak di puncak bukit. Anda akan melihat hamparan keindahan Tanah Karo. Dari gardu pandang ini, Anda dapat menikmati keindahan Pulau Samosir, pulau yang berada di tengah Danau Toba.
Setelah puas menikmati pemandangan dari puncak bukit, perjalanan bisa Anda lanjutkan dengan menyusuri pinggiran tebing yang curam.
Melewati 1.000 anak tangga yang berliku tersebut akan memakan waktu sekitar satu jam hingga ke dasar air terjun. Selama perjalanan, jangan lupa mengabadikan momen dengan berfoto, sehingga rasa lelah tak akan terasa.
Untuk sampai ke Air Terjun Sipiso Piso, harus menyusuri jalan setapak yang menikung dan curam. Karena itu, harus sangat hati-hati. Di sepanjang jalan banyak tersedia pondok, jadi tak perlu khawatir bila hujan atau ingin beristirahat melepas lelah di perjalanan.