วัดเขาถ้ำม้าร้อง ภายในถ้ำ มีรูปหินย้อยลักษณะคล้ายหัวม้า มีบ่อน้ำศักดิ์สิทธิ์ ซึ่งเป็นบ่อน้ำที่นำไปใช้ในงานพระราชพิธีสำคัญต่าง ๆ น้ำที่บ่อน้ำศักดิ์สิทธิ์แห่งนี้จะไม่มีวันแห้งเลย วัดถ้ำม้าร้องแห่งนี้มีประวัติเป็นที่พักสงฆ์มาแต่โบราณกาล พระสงฆ์ชาวศรีลังกาและอินเดีย ได้เดินทางเข้ามาเผยแผ่พุทธศาสนา ในประเทศไทยและประเทศพม่า ใช้เป็นที่พักพิง ต่อมาในรัชสมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว เจ้าพระยาบดินทร์เดชา (สิงห์ สิงหเสนี) ได้ออกปราบพวกโจรตามหัวเมืองต่างๆ ในระหว่างปี พ.ศ.2385- 2387 เจ้าพระยาบดินทร์เดชา ได้นำทัพมาพักที่หนองหัดไทย วัดเขาถ้ำม้าร้องปรากฏ ว่าม้าของท่านเจ้าพระยาบดินทร์เดชาได้หายไป แม้นจะส่งทหารเข้าไปค้นหาอย่างไรก็ไม่พบ ได้ยินแต่เสียงม้าร้องเท่านั้น ภูเขาลูกนี้จึงได้ถูกขนานนามว่า เขาถ้ำม้าร้อง