วัดถ้ำคีรีวงศ์ เป็นสถานที่ปฏิบัติธรรมในเขตพื้นที่ของตำบลทุ่งหว้า ซึ่งเป็นที่เป็นที่รู้จักกันดีในท้องถิ่น โดยภายในวัดจะมี ถ้ำคีรีวง ซึ่งเป็นถ้ำขนาดกลาง ภายในมีหินงอกหินย้อยส่งแสงสะท้อนกับหินระยิบระยับ ซึ่งมีความสวยมาก ถ้ำคีรีวงศ์ ยังไม่เป็นที่รู้จักของนักท่องเที่ยวมากนัก ถ้ำแห่งนี้จึงมีความเงียบสงบ และหินงอกหินย้อยก็ยังคงมีความอุดมสมบูรณ์อยู่มาก นอกจากหินงอกหินย้อยที่สวยงามแล้ว ภายในถ้ำยังค้างคาว และน้ำตกที่งดงามไม่แพ้กันค่ะ นอกจากการชมถ้ำแล้วที่นี่ยังสามารถเดินป่าศึกษาธรรมชาติ หรือจะส่องสัตว์ ดูนก หรือจะมาแสวงบุญก็ยังได้ค่ะ