Bangunan masjid ini sebenarnya lebih mirip dengan rumah panggung pada umumnya di Yogyakarta. Bangunannya dibuat tanpa paku dengan dinding dari anyaman bambu dan atap terbuat dari ilalang kering. masjid tiban Gunungkidul tidak dibangun dengan pondasi dari semen, hanya berupa kayu berukuran besar yang didirikan dengan teknik pantek.
Di depan masjid ini terdapat gentong alias tempayan yang terbuat dari tanah liat. Gentong ini untuk menampung air yang bisa digunakan untuk wudhu. Di dalam terdapat beberapa kaligrafi usang yang dipasang setiap sisi dalam dinding masjid tersebut. Sementara, untuk lantai terbuat dari bilah bambu yang ditutupi karpet warna hijau.
Kini masjid tersebut dijaga dan dirawat oleh Manto Suwitnyo, yang juga pemilik lahan pekarangan tempat masjid berdiri. Manto mengaku dia adalah generasi ketujuh dari penjaga masjid tersebut. Meski mengklaim sebagai generasi ketujuh, dia mengaku tidak mengetahui secara pasti kapan masjid tersebut dibangun.
"Hingga saat ini kami tidak mengetahui siapa yang membangun masjid ini," kata dia.
Namun, berdasarkan cerita yang dia peroleh, masjid tersebut awalnya tidak ada di pekarangan belakang rumahnya. Masjid tersebut awalnya berada di puncak Gunung Gambar, gunung kecil yang berada di belakang rumah Manto. karena keadaan tertentu masjid tersebut terlempar ke Dusun Jurang Jero dan jatuh ke belakang rumah.
Oleh karena itu, kini banyak warga dari luar Ngawen bahkan luar daerah yang sengaja datang ke Jurang Jero untuk salat di masjid tiban ini. Karena konon katanya, jika salat di masjid ini maka hajatnya bakal terkabul. Dan hingga saat ini, ada pejabat ataupun seseorang yang ingin memiliki jabatan datang ke masjid tersebut agar terkabul.
Hingga kini, masyarakat masih tetap berupaya melestarikan keberadaan masjid tiban di Dusun Jurang Jero. Setiap ada kerusakan, warga berupaya memperbaiki dengan cara bergotong royong. Mereka bakal berupaya memperbaiki dengan tetap mempertahankan bentuk aslinya. Warga juga tidak ingin mengubah bentuknya agar kesakralannya tetap terjaga.