แต่เดิมห้องสมุดแห่งนี้เป็นสาขาหอสมุดแห่งชาติจังหวัดชัยภูมิตั้งขึ้นเมื่อ พ.ศ. ๒๔๘๑ ในสมัยหลวงอุบลศักดิ์ประชาบาล เป็นผู้ว่าราชการจังหวัด เป็นอาคารไม้ชั้นเดียว กว้าง ยาว ประมาณ ๗x๑๖  เมตร ตั้งเป็นเอกเทศติดถนนหฤทัย สังกัดกรมศิลปากร ต่อมาย้ายตู้และหนังสือไปฝากไว้ที่โรงเรียนชัยภูมิภักดีชุมพล  พ.ศ. ๒๔๙๔ จังหวัดขอรับโอนทรัพย์สิน จากกรมศิลปากรเป็นทรัพย์สิน และกิจการของห้องสมุดประชาชน

จังหวัดชัยภูมิ พ.ศ. ๒๕๑๑ ย้ายห้องสมุดจากโรงเรียนการช่างชัยภูมิ มาอยู่ที่ห้องสมุดสร้างใหม่หลังสำนักงานศึกษาธิการจังหวัดเป็นอาคารไม้ชั้นเดียว    พ.ศ. ๒๕๒๐ นายเจริญสุข ศิลาพันธ์ ผู้ว่าราชการจังหวัดและนายเลื่อน เพชรล้ำ ศึกษาธิการจังหวัด ได้ของบไปยังกรมสามัญศึกษา จึงสร้างอาคารห้องสมุด ประชาชนขนาดกลางโดยใช้แบบของกรมสามัญศึกษาได้งบประมาณครุภัณฑ์ และค่าถมดินจากกรมสามัญ-ศึกษา ได้ถมดินรอบบริเวณแต่งสถานที่เรียบร้อยพร้อมเปิดใช้การได้ จึงได้ทำพิธีเปิด ในวันที่   ๑   ตุลาคม พ.ศ. ๒๕๒๐  เวลา ๙.๐๐ น. พ.ศ. ๒๕๒๒ กรมสามัญศึกษาได้โอนห้องสมุดประชาชนจังหวัดชัยภูมิ สังกัดกรมการศึกษานอกโรงเรียน  กระทรวงศึกษาธิการ

 พ.ศ. ๒๕๔๒  เนื่องในโอกาสพระบาทสมเด็จพระเจ้าอยู่หัวมีพระชนมพรรษาครบ ๗๒ พรรษา กรมการศึกษานอกโรงเรียน ได้พัฒนาห้องสมุดประชาชนทุกแห่งให้เป็นห้องสมุดอิเล็กทรอนิกส์เฉลิมพระเกียรติ และ ดร. ทองอยู่  แก้วไทรฮะ อธิบดีกรมการศึกษานอก โรงเรียน ได้ทำพิธีเปิดห้องสมุดอิเล็กทรอนิกส์ เมื่อวันที่ ๑๔   กุมภาพันธ์   ๒๕๔๓