中华民族始祖轩辕皇帝传说在5000年前的蛮荒时代，降服炎帝、诛杀蚩尤，结束战争，人类文明从此开始。因此，黄帝去世后，当时的人们就设立神庙、祭坛，用各种精美的器物祭祀黄帝。
黄帝陵祭典活动分为公祭和民祭两部分，公祭黄帝陵即为以官方名义组织的有严格规模、等级和仪式的大型祭祀活动。据《绎史》记载：“黄帝崩，其臣左彻取衣冠几杖而庙祀之。”黄帝祭祀从此开始。之后，从《国语》、《礼记》、《礼祀》等书籍的零星记载中可以看出，从尧、舜、禹时代直至春秋时期，公祭黄帝的活动从未间断。
最早有记载的公祭活动源于春秋时期。据《史记》记载，周威列王四年（前422年），“秦灵公作吴阳上畴，祭黄帝，作下畴，祭炎帝。”汉高祖刘邦建立西汉后，在政治治理上以黄帝为榜样，所以自然很重视对黄帝的祭祀。汉武帝刘彻即位后，“先振兵泽旅，然后封禅。”元封元年冬（前110年）武帝巡边，也曾“祠黄帝于桥山”，他还曾率军18万人来这里祭祀祖先，修筑了汉武仙台，供人们攀登怀古，这是历史上规模最大的一次官方祭祖活动。东汉开国黄帝刘秀于建武二年（公元26年），“为圆坛八陛，中又为重坛，天地位其上，皆南向，西上。其外坛上为五帝位……黄帝位在丁末之地。”进行了一次重大的祭祀活动。
魏晋南北朝时期及隋朝，公祭规模越来越大，祭典亦越来越隆重，据《魏书·太宗纪》记载：神瑞二年（公元415年），明元皇帝“幸涿鹿，登桥山，观温泉，使使者以太牢祠黄帝庙”。《魏书·世祖纪》还记载了太武帝拓跋焘于公元428年 “东幸广宁，临观温泉，以太牢祭黄帝”。《魏书·礼志》也记载文成帝和平元年（公元460年）“帝东巡，历桥山，祀黄帝”时的情景。隋朝虽然存在时间不长，但据史书记载，隋文帝和隋炀帝也对黄帝进行过祭祀。