このあたりは、古代より背後の吉備の中山に巨大な天津磐座（神を祭る石）磐境（神域を示す列石）を有し、山全体が神の山として崇められいた。第10代崇神天皇の御世に四道将軍として遣わされた大吉備津彦命もこの山に祈り吉備の国を平定し、諸民と国を深く愛し、永住された吉備中山の麓の屋敷跡に社殿が建てられたのがこの神社のはじまりである。後に佛教が入り正宮、本宮、摂末社合わせて51社を具え神宮寺や法華堂も建ち、御神威は広大無辺に広がり古代気比大神宮・大社吉備津宮とも称され朝廷直属の一品一宮、吉備大明神として武将庶民に至るまで厚く崇敬されてきた神社。