汉高祖庙位于芒砀山主峰东南山麓，从斩蛇碑向北300米折而向西就到了高祖庙旧址。
汉文帝时在刘邦隐于芒砀山的紫气岩前建立高祖庙，绘高祖刘邦和萧何、张良、韩信等大臣像，汉朝灭亡后，高祖庙受到冷落。
唐永隆年(公元680年)改建为"王宫寺";大历元年(公元 766年)赐名静林寺。
宋祥符七年(公元1014年)宋真宗巡视亳州，游览芒砀山，百姓同乐，又赐名均庆寺;嘉佑六年(1061年)主持僧继诚开始请十方主持，并对均庆寺进行维修扩建，整个寺院香火不断，气势恢宏，蔚为壮观，成为永城境内一大名胜。
以后历代，屡遭兵燹，到明朝已是仅存遗址。明朝佥事曹连在《题汉高祖庙》一诗中写道:"砀山寂寂昔人非，遗庙苍茫失故基。海宇徒思刘社稷，衣冠犹忆汉威仪。黄昏云落疑蛇断，白昼风高恨鸟悲。自古兴衰关气运，经行何日抚残碑?"道出了高祖庙的凄凉。
清朝乾隆丁亥年间(1767年)永城知县周梦龙在均庆寺旧址东建立芒山书院，文风盛极一时。咸丰年间，捻军起义，书院被毁，光绪十六年( 1890年)永城邑绅吕永辉又重修之，未几又毁。
原庙内碑刻甚多，时至今日，仅存清康熙时《闻机和尚重修均庆寺东院大殿落成序》碑一尊。芒山书院的遗物有大门石匾额一方，上镌"芒山书院"四个大字。