แหล่งโบราณคดีแห่งนี้ มีประวัติการค้นพบ เริ่มตั้งแต่ พ.ศ.2534 เป้นต้นมา ได้ปรากฎข่าวการค้นพบโบราณวัตถุจากการขุดไถปรับพื้นที่เพื่อทำบ้านจัดสรรในบริเวณบ้านก้านเหลือง จนหลักฐานต่างๆ ทางโบราณคดีถูกทำลายเสียหายเป็นจำนวนมาก กรมศิลปากรจึงจัดทำโครงการเพื่อหางบประมาณมาทำการสำรวจศึกษา และเก็บข้อมูลทางวิชาการไว้ และในปี พ.ศ.2535 หน่วยศิลปากรที่ 6 อ.พิมาย จ.นครราชสีมา กองโบราณคดีซึ่งรับผิดชอบพื้นที่เขตอีสานล่างในขณะนั้น (ปัจจุบัน อยู่ในความดูแลของสำนักานโบราณคดีและพิพิธภัณฑสถานแห่งชาติที่ 8 อุบลราชธานี) ซึ่งได้ทำการสำรวจขุดค้นทางโบราณคดี และศึกษาหลักฐานต่างๆ พร้อมกับจัดตั้งเป็นพิพิธภัณฑสถานประจำแหล่งโบราณคดี กรมศิลปากร ได้วางแนวทางการอนุรักษ์แหล่งโบราณคดีบ้านก้านเหลืองไว้ โดยการสำรวจหลักฐานที่พบบนผิวดินและเก็บข้อมูลวิชาการ เพื่อศึกษาวิเคราะห์ทางโบราณคดี จึงต้องขุดค้นหาหลักฐานที่อยู่ในชั้นดินที่ลึกลงไปกว่าชั้นดินปัจจุบัน โดยได้เลือกบริเวณที่ไม่ถูกรบกวนเป็นหลุมขุดค้นทางโบราณคดีขึ้น 2 หลุม ขุดลงไปทีละชั้นจนกระทั่งถึงชั้นดินที่ปราศจากการกระทำของมนุษย์
ผลของการขุดค้นศึกษาและวิเคราะห์หลักฐานต่างๆ สรุปว่า บริเวณบ้านก้านเหลืองในอดีต มีคนเข้ามาใช้พื้นที่นี้ตั้งแต่เมื่อ 1,500 – 2,500 ปีมาแล้ว เป็นคนในยุคสมัยก่อนประวัติศาสตร์ตอนปลายต่อกับระยะเริ่มต้นประวัตศาสตร์