北镇庙始建于隋开皇十四年（594年），初称“医巫闾山神祠”。金大定四年（1164年），重建北镇庙，称“广宁神祠”。元大德二年(1298)，加封医巫闾山为贞德广宁王，将神祠扩建后改称“广宁王神祠”，元末被毁。明洪武三年（1370）在原址重建，改称“北镇庙”。

北镇庙坐北朝南，依山而建，南北长240米，东西宽109米。在其中轴线上，由南至北依次为石牌坊、山门、神马殿、钟鼓楼、御香殿、大殿、更衣殿、内香殿、寝宫等。庙内保存有元明清碑刻56通。庙东有乾隆年间所建的“广宁行宫”遗址。

北镇庙是医巫闾山的山神庙，山下立有祠庙，始建于金代。根据碑刻记载，现在的北镇庙基本上是明永乐十九年（1421年）和弘治八年（1495年）重修扩建的。

御香殿共有厅堂五间，是陈放朝廷御书和皇家祭祀用香蜡供品的地方。御香殿的后面是大殿，大殿是庙内整体建筑的对称中心，也是庙内最大的建筑，殿宽23.4米，面阔七间、进深五间，是举行祭扫大典的场所；大殿为歇山式大木架结构，殿墙以青砖围砌而成，绿琉璃瓦顶，雕梁画栋，柱、檩均为红色；墙壁上绘有汉代至明代各朝著名的文臣武将画像32人，各具神态，惟妙惟肖，至今仍色彩鲜艳。殿内有一尊“北镇山神”的泥塑。殿的正中悬挂着清乾隆帝书的“乾始神区”铜制御匾。

大殿的后面有三间更衣殿，是祭祖者入大殿朝拜前更换衣服的地方。再后有三间内香殿，是存放地方官员祭品和香火的地方。最后的寝宫，是山神的内宅，所以规模仅次于大殿。清康熙帝敬献的御匾“郁葱佳气”悬挂于殿眉的正中，大殿的周围以白色的石栏围绕。

北镇庙内有翠云屏、棋盘山、揽秀亭和古松，自古游人到此，赞美不已，称为庙内“四大奇观”。

翠云屏位于北镇庙西北角，是一方广丈余的天然巨石，因石壁如屏风矗立，雨季壁面遍染青苔如绿云，故称“翠云屏”。石下一洞，南北相通，故又称“窟窿山”。因其洞之上缘呈弓背形，状如驼背，乍看势如悬馨，故又俗称“偻佝山”、“罗锅山”等。世人流着“钻了罗锅山，腰不疼来腿不酸”的俗语。游人到此，皆欲一试。

棋盘山位于北镇庙东北隅，即广宁行宫北机御花园东北角。它是拔地而起的天然巨石，高约4米，沿十九级台阶可登其上，顶上原建有四角凉亭一座早毁。亭中基石上古代刻有棋盘，两旁有两块天然石座，可供两人对在此下棋。乾隆驻跸广宁行宫时，曾在此处下棋，故称“棋盘山”。

庙内还保存有元、明、清三代的石碑56甬，其中有元代大德、皇庆、延祐、至顺、至正等年间的祭山、封山碑11甬；明代永乐、成化、弘治、正德、隆庆和万历年间的修庙碑15甬；清代康熙、雍正、乾隆、道光和光绪年间的祭山修庙、游山诗等碑30甬。这些石碑在考古学研究和书法艺术上，都有着很高的的价值。

   北镇庙是全国五大镇山中唯一保存完好的镇山庙，具有重要的历史和艺术价值，1988年被公布为第四批全国重点文物保护单位。