嵩岳寺初建时是作为北魏宣武帝元恪的离宫，至正光元年（西元520年）改名“闲居寺”， 迄今约1,500年。塔就建在寺院的中心。塔的东西方各有千佛殿及定光佛堂，两面是回廊，南边有山门，北方建立大佛殿，成为一个塔院。到隋仁寿二年（西元602年）改名为“嵩岳寺”。北魏时期的嵩岳寺规模宏大，盛极一时。武则天陪同唐高宗游嵩山时，曾把这里改作行宫，并为该寺塑金佛像。随着少林寺的兴起，嵩岳寺日渐衰微，至今，只空遗古塔耸立在嵩山的幽谷中。
但是研究考古的人，不敢轻慢它。他们到登封，可以不去少林寺、嵩阳书院、中岳庙，却不能不去嵩岳寺塔“朝圣”，它是研究古塔中极其珍贵的建筑。
全塔由基台、塔身、密檐和塔刹四部分组成。塔基为石制。随着塔身砌筑作十二边形，台高0.85米，宽1.6米。塔前砌有长方形的月台，塔后以砖砌铺甬道，与基台同高。
嵩岳寺塔除了塔刹部分以石雕之外，上下全部用灰黄色的砖和黄泥及糯米汁，层层粘砌而成，塔砖小而且簿，外涂白灰，腰檐以上的砖柱均涂以红色。这是当时砖塔的特点，并一直流传到宋代。历经千余年的风霜雪雨侵蚀依然坚固，至今完整无损，可知古代建筑工艺之高妙。
塔身建于简朴的台基上，塔身则用青灰条砖垒砌，全塔呈圆弧状的抛物线形。总高39.8米。底层直径约10.6米，内部空间直径约5米，壁体厚2.5米。塔高41米。塔的形制为南北朝期间少见的密檐式建筑，所谓“密檐”，指檐与檐之间的塔身距离很短，各层檐下都各有一个小窗，但多数仅具窗形，并不采纳光线，有的只开一个小孔。
塔身内为“楼阁式’，内部以内檐分为十层。外为“密檐式”分为十五层。各层都以砖叠涩做成十五层的塔檐，檐宽逐层收分，层层外挑，檐层逐渐向上缩减与密集，砖砖相叠出檐，直叠到临界状态“收砖”，和缓地向上收缩，充满节奏美感。
砖塔的第一层塔身特别高大，为十二角型，而从第二层开始则改为八角形。十二边形的特殊造型，有分解风力的优点，但是它比四边、八边形的塔容易垒筑，但是后期所建的塔很少采用十二边形。
塔身中部用挑出的砖叠涩砌一周腰檐，将它分为上下两段：上段建于叠涩上，为全塔装饰的重点，高3.73米。比下段稍大。下段为光素白砖面，高3.59米，上下垂直。腰檐以上塔身，各角砌出八角形倚柱，采用方墩柱础，束莲柱头。壁面除四个券门外，每面砌有“阿育王塔”的形象作为塔身的装饰。
腰檐以下塔身角隅均砌出六边形倚柱，柱头饰以砖雕的火焰宝珠与覆莲，柱下为雕砖的莲瓣形柱础，柱间四面有对称的四门，其余八面壁外各砌佛龛，龛座上刻有狮子作装饰，各塔层之间均有壶门、棂窗、雕兽等，雕工手法精巧，造形独特，为北魏砖雕艺术珍品。
塔中构造采用“厚壁空心式”木板楼层结构，壁体砌到楼层处，以砖叠涩与楼板相互交连，楼板架设在木梁上。塔的东、南、西、北四面设入口，门口宽2.5米。可自下而上直达顶部。在四个正面有贯通上下两段的门，门上在半圆形拱券上做成尖形券面装饰，券门通向塔心室。
中央塔心室为正八角形，共有十个八角形塔室，作9层内叠涩砖檐，宽7.6米，底层塔壁厚2.45米。整个塔室上下贯通，呈圆筒状，上上下下用木扶梯。内部原设置佛台佛像，供绕塔做佛事之用。
塔顶的塔刹由三部分组成：自下而上由覆莲式须弥座、七层相轮刹身、刹顶冠以巨型宝珠等组成，塔内为空筒式。此塔刹的形式一直被后来的砖石密檐式塔所延用。塔刹通高4.75米，以硕大的覆莲承受相轮、宝珠，高约3米多。塔刹为石雕圆柱，呈螺旋形，保留了印度佛塔的风格。
唐宋之前所造的塔中，尚未见到有“地宫”建筑。隋代以前的佛塔是直接将舍利容器埋入塔基底下。而上世纪末发掘到嵩岳寺塔地宫，其为“平面方形，四壁微外弧，上作穹隆顶”的结构。是北朝常见的墓室形制，宫室内墙的缝隙间以红泥黏合，这与甬道、塔体的建筑用料相符合，推论可能与塔同时建造。其中一造像刻有“大魏正光四年”的题记，此约为嵩岳寺塔始建的年代。
嵩岳寺塔的结构、造型以及装饰，可谓古代砖塔建筑的开创性尝试。北魏工匠们其运用了地质、几何、力学、物理、化学等原理，1500年前仅用砖砌结构，就建成四十多米的高塔，经历了千多年依然屹立。塔的造型气势刚劲雄伟，线条轻快秀丽，刚柔并济的古塔建筑工艺可谓鬼斧神工。它独特的十二边形塔造型，更成为中国古建史上的千古绝唱。无论在建筑艺术或技术方面，都是中国和世界建筑史上的珍品，是密檐式砖砌佛塔的一个经典代表作。
