วัดถ้ำกลองเพล เป็นวัดป่าที่มีชื่อเสียงของจังหวัด ตั้งอยู่เชิงเขาภูพาน ห่างจากตัวเมืองตามทางหลวงหมายเลข 210 (หนองบัวลำภู-อุดรธานี) ระยะทาง 13 กิโลเมตร จากนั้นแยกขวาเข้าไปอีกประมาณ 2 กิโลเมตร เดิมสันนิษฐานว่าเป็นวัดเก่าแก่ที่สร้างขึ้นในสมัยขอมเข้ามาครอบครองแผ่นดินแห่งนี้ แต่ไม่มีหลักฐานว่าสร้างมาตั้งแต่ พ.ศ.ใด ต่อมาเป็นวัดร้าง ไม่มีพระภิกษุสามเณรจำพรรษา จนกระทั่งเมื่อ พ.ศ. 2501 พระอาจารย์หลวงปู่ขาว อนาลโย พระวิปัสสนากรรมฐานสายพระอาจารย์มั่น ภูริทัตตะเถระ ได้อาศัยวัดแห่งนี้เป็นสถานที่วิปัสสนากรรมฐาน โดยใช้พื้นที่ที่เกิดจากหมู่ก้อนหินขนาดใหญ่ 3-4 ก้อน ที่มีหลืบและชะโงกหิน ก่อเป็นหลังคาคอนกรีตเชื่อมถึงกัน ทำให้พื้นที่บริเวณนั้นกลายเป็นห้องโถงขนาดใหญ่ สามารถจุคนได้หลายร้อยคน เพื่อใช้เป็นที่บำเพ็ญสมณธรรมอยู่ที่นั่นจนกระทั่งมรณภาพเมื่อปี พ.ศ. 2526 จากวัดถ้ำกลองเพลไม่ไกลนักมีถนนลาดยาง ลัดเลาะไปตามแนวป่าและหมู่ก้อนหินรูปทรงแปลกๆ เป็นระยะทาง 2 กิโลเมตร ก็จะถึงอนุสรณ์สถานของหลวงปู่ขาว ที่ประกอบด้วย กุฎิเก่าของหลวงปู่ขาว เป็นเรือนไม้หลังเล็กๆ ตั้งอยู่กลางดงไม้ บรรยากาศร่มรื่น ส่วนกุฏิใหม่สร้างเป็นเรือนทรงไทยทันสมัยหลังใหญ่