อุทยานแห่งชาติภูผาเหล็กมีมีเนื้อที่ประมาณ 252,898 ไร่ หรือประมาณ 404 ตารางกิโลเมตร ครอบคลุมพื้นที่อำเภอส่องดาว อำเภอวาริชภูมิ อำเภอนิคมน้ำอูน อำเภอกุดบาก อำเภอภูพาน จังหวัดสกลนคร อำเภอวังสามหมอ จังหวัดอุดรธานี และอำเภอสมเด็จ อำเภอคำม่วง จังหวัดกาฬสินธุ์ ในพื้นที่ป่าสงวนแห่งชาติป่าดงพันนา ป่าดงพระเจ้า ป่าภูวง ป่ากุดไห ป่านาใน ป่าโนนอุดม ป่าบะยาว ป่าหัวนาคำ ป่าหนองหญ้าไชย และ ป่าแก้งกะอาม จากการสำรวจพื้นที่ป่าอนุรักษ์เพื่อจัดตั้งเป็นเขตอุทยานแห่งชาติภูผาเหล็ก ได้พื้นที่ รวมประมาณ 404 ตารางกิโลเมตร หรือ 252,898 ไร่ วันที่ 20 ธันวาคม 2525 ต่อมาเมื่อปี พ.ศ. 2537 นายผ่อง เล่งอี้ อธิบดีกรมป่าไม้ ได้มาตรวจราชการและเห็นความสำคัญของพื้นที่ดังกล่าว จึงมีบัญชาให้สำรวจเป็นอุทยานแห่งชาติ โดยใช้ชื่อว่า อุทยานแห่งชาติภูผาเหล็ก-ภูผาหัก ต่อมาในปีพ.ศ. 2539 ได้อนุมัติให้ตัดคำว่า ภูผาหัก ออกใช้ชื่อว่า อุทยานแห่งชาติภูผาเหล็ก เป็นต้นมา