大同是北魏的都城，当时称为平城，直到北魏孝文帝太和十八年（494年）迁都洛阳，一直是中国北方的政治中心。五代时期，大同为云州，后唐河东节度使石敬瑭为了皇位，认契丹耶律德光为父，自称儿皇帝，以割让燕云十六州给契丹为报酬，登上帝位。自此，直到明朝统一天下为止，大同被异族统治达430余年。

北魏太武帝时期(439年)，将从凉州掳掠的僧尼3000多人、信众3万余户迁徒到平城，使大同成为当时中国北方佛教的中心。在此期间，北魏王朝一边在城外开凿云冈、方山、鹿野苑等石窟，—边在城内修建寺院，广收僧尼，在北魏政府的支持下，全国僧尼—度达到了20多万人。到孝文帝太和元年(477年)，仅大同城内就有佛教庙宇100多座，僧尼2000余人。

北方佛教的兴盛一直延续下来，到辽金时期进入极盛，大同华严寺就是这—时期修建的。华严寺最早修建于辽代重熙七年(1038年)，位于大同市内华严街和清远街交叉路口的西南方向，东距鼓楼约400米。华严寺得名于佛教经典《华严经》，取经中“慈悲之华，必结庄严之果”的佛教教义而命名。华严寺殿宇嵯峨，气势雄伟壮观。

华严寺最初修建并不是纯粹的佛教寺院，既参禅礼佛、存放经藏，又是皇家太庙。辽中期后的100多年，是华严寺的鼎盛时期。

辽、金两代，大同被定为别都，华严寺也就格外受皇家重视。《辽史·地理志》记载，清宁八年（1062年）“建华严寺，奉安诸帝石像、铜像。”辽代末年，一部分建筑被战火破坏。金代天眷三年（1140年）进行重修。通悟法师等重建大殿、观音阁、山门、钟楼等殿堂。后省学、慈慧法师又广植花木，征集藏经，使华严寺得到恢复，但规模已逊于辽代。金大定六年（1166年），金世宗曾到此巡视。

明初，华严寺被收为官产，明宣宗、明代宗年间重修，明宪宗、明神宗年间分为上寺和下寺，各开山门，自成一体。清初，因战乱华严寺再次被毁，虽然康熙年间经过维修，却已经风光不再。

华严寺是现存规模较大、较完整的辽、金代寺院建筑群，两座主殿是辽、金代建筑，其他均为清代重建。主殿坐西朝东，与传统坐北朝南不同，这是因为辽代契丹族崇尚太阳，以东为尊。