จากเหตุการณ์ทางประวัติศาสตร์ของไทย ช่วงปี พ.ศ. 2485-86 อันเป็นช่วงปลายเหตุการณ์สงครามโลกครั้งที่ 2 รัฐบาลไทยซึ่งมี จอมพล ป. พิบูลสงคราม เป็นนายกรัฐมนตรี ได้วางแผนจะย้ายเมืองหลวงมาตั้งที่จังหวัดเพชรบูรณ์ เพราะประเทศไทยกำลังตกอยู่ในภาวะคับขัน กรุงเทพมหานครถูกโจมตีจากการทิ้งระเบิดอย่างหนักจากฝ่ายสัมพันธมิตร และเห็นว่าจังหวัดเพชรบูรณ์มีความเหมาะสมที่จะเป็นเมืองหลวงแห่งใหม่ เพราะมีชัยภูมิเหมาะสม มีภูเขาล้อมรอบ มีเส้นทางคมนาคมเข้าออกเพียงทางเดียว มีภูมิประเทศสวยงาม อากาศดี อยู่ตรงกลางของประเทศ เป็นศูนย์กลางภาคเหนือกับภาคอีสานและกรุงเทพมหานคร

การดำเนินการก่อสร้างนครบาลเพชรบูรณ์ รัฐบาล จอมพล ป. พิบูลสงคราม ได้ออกคำสั่งเป็นคำสั่งนายกรัฐมนตรีเป็นส่วนใหญ่ โดยคำสั่งครั้งแรกในวันที่ 13 มีนาคม 2486 และดำเนินการร่างพระราชกำหนดจัดระเบียบราชการบริหารนครบาลเพชรบูรณ์ฯ กำหนดให้ราชการบริหารส่วนภูมิภาคจังหวัดเพชรบูรณ์เป็นนครบาลเพชรบูรณ์ และดำเนินการอพยพราษฎรมาตั้งหลักแหล่งที่เพชรบูรณ์ พร้อมกับย้ายที่ทำการรัฐบาลตลอดจนสถานที่ราชการมาตั้งที่เพชรบูรณ์ มีการทำพิธีสร้างหลักเมืองนครบาลเพชรบูรณ์ขึ้นที่บ้านบุ่งน้ำเต้า อำเภอหล่มสัก

และได้มีการย้ายส่วนราชการสำคัญต่างๆ มาที่เพชรบูรณ์ เช่น มีการสร้างอาคารที่ทำการกระทรวงยุติธรรมขึ้นที่บ้านห้วยลาน ตำบลน้ำชุน อำเภอหล่มสัก สร้างอาคารที่ทำการกระทรวงมหาดไทย ที่บ้านบุ่งคล้า อำเภอหล่มสัก และมีการย้ายกระทรวงการคลังมาตั้งที่ถ้ำฤๅษี ตำบลบุ่งน้ำเต้า อำเภอหล่มสัก โดยได้ขนย้ายพระคลังสมบัติ ทรัพย์สินของชาติ ทรัพย์ในพิพิธภัณฑสถานแห่งชาติมาเก็บรักษาไว้ มีการก่อสร้างตึกที่ทำการกระทรวง ตลอดจนก่อสร้างปรับปรุงถ้ำเก็บทรัพย์สมบัติให้มั่นคงปลอดภัยด้วย แม้ว่าภายหลังจะมีการยกเลิกการจัดตั้งนครบาลเพชรบูรณ์ ปัจจุบันชาวบ้านยังคงเรียกกันว่า “ถ้ำฤๅษีสมบัติ”

กรณีการขนย้ายพระคลังสมบัติและของมีค่าคู่แผ่นดินมาเก็บรักษาไว้ที่ถ้ำฤๅษีสมบัติ แม้ว่าจะมีการส่งมอบสมบัติและเคลื่อนย้ายกลับลงไปยังกรุงเทพมหานครเสร็จสิ้นตั้งแต่วันที่ 23 เมษายน 2489 ตามหนังสือแจ้งของ พันเอก หาญ อุดมสรยุทธ์ ลงวันที่ 31 พฤษภาคม 2489 แต่ก็มีเสียงเล่าลือในหมู่ชาวบ้านละแวกนั้นว่า ยังมีสมบัติอีกส่วนหนึ่งถูกซ่อนไว้ไม่ได้ขนกลับไป หรือว่าทหารลืมขนสมบัติกลับไป และยังมีคนท้องถิ่นหลายคนเล่าว่าพระพุทธมหามณีรัตนปฏิมากร หรือ “พระแก้วมรกต” พระประธานในพระอุโบสถวัดพระศรีรัตนศาสดารามในพระบรมมหาราชวังก็เคยถูกอัญเชิญมาประดิษฐานเพื่อความปลอดภัยไว้ในถ้ำแห่งนี้ด้วย ซึ่งต่อมาได้มีพระมหาเถระอาวุโสรูปหนึ่งท่านเล่าว่า ท่านเคยได้รับพระบัญชาจากสมเด็จพระสังฆราชเจ้า กรมหลวงวชิรญาณวงศ์ ให้มาอัญเชิญพระแก้วมรกตกลับไปกรุงเทพมหานครด้วย และกลายเป็นประเด็นสำคัญในท้องถิ่นจังหวัดเพชรบูรณ์ในเวลาต่อมาที่ชาวเพชรบูรณ์ต่างเชื่อว่า “พระแก้วมรกตเคยประดิษฐานอยู่ที่ถ้ำฤๅษีสมบัติในช่วงสงครามโลกครั้งที่ ๒”

 (คัดมาบางส่วน และอ่านเพิ่มเติมได้ใน บทความเรื่อง พระแก้วมรกตเคยถูกอัญเชิญไปประดิษฐานในถ้ำฤๅษีสมบัติที่จังหวัดเพชรบูรณ์ (?) ในศิลปวัฒนธรรม ปีที่ 36 ฉบับที่ 8 เดือนมิถุนายน 2558)