庵内依山势起伏，布置前、后院落。大殿位于前院平坦的台地上。从该殿柱上所刻施捐者题记看，大殿建于北宋宣和七年（1125）。
大殿面阔、进深各三间，单檐九脊殿，建在高约1米的砖砌台基上。面阔11.14米，深10.70米，平面近于方形。前、后当心间施板门，前檐次间装直棂窗，侧面前次间施木板壁，余用墙封闭，石砌下肩有压地隐起水浪纹浮雕，内间鱼、龙、狮、人物等。台基仅于当心间前出踏道，后檐因室外地平升高，台阶只有一步之差。两后内柱间砌扇面墙，前设佛坛。殿内外共用16根内外同高的石柱。露明者作八角断面，埋入墙体者作方形抹角。八角石柱径48厘米，当心间柱高3.53米，柱高与柱径之比约为7：1。角柱升起7厘米，与《营造法式》“三间生二寸”的规定，完全一致。采用侧脚做法，侧脚正、侧面均为9厘米，相当于柱高的2.5%，与《营造法式》规定的正面柱“每长一尺侧脚一分”，侧面柱“每长一尺即侧脚八厘”，虽然偏小，但毕竟运用了侧脚做法。
大殿为彻上明造，由于后内柱向后移动了半架左右，使得构架出现了较为特殊的形式。
虽后内柱不在椽架的中线上，三椽栿却依然延伸到了后下平槫下，从而省去了后檐的劄牵，后檐的乳栿长度也缩减成只有一椽半的椽距，形成了“六架椽屋前乳栿劄牵后乳栿用四柱”的特殊形制。这种后内柱后移的布置虽使室内佛坛处空间加大，但带来了柱梁结构的混乱。为了承托后下平槫，不得不在三椽栿上立短柱，其上再安三椽栿，从而形成了两重三椽栿的形制。为了两重三椽栿的前尾有柱可依，因此只好在前内柱的铺作上按平坐插柱造的方法立上层木柱，作为联络两重三椽栿、前乳栿、劄牵以及承托平梁的构件。平梁上安蜀柱、叉手以承脊槫。这种在单层厅堂构架的内柱上接二层柱的做法是宋代建筑中的孤例。殿的山面各从当心间两柱上伸出丁栿，分别插入前内柱上层木柱身或搭在三椽栿上。丁栿上立蜀柱，承托山面出际处的平梁，构成九脊殿顶。构架还用襻间、串、额等联络构件。如在脊槫下使用单材襻间，在平梁上的蜀柱间使用顺脊串等。
石柱上饰有花卉、人物、力士、盘龙等精美雕刻，其中前槽东内柱有宣和七年韶州人刘善恭施柱题记，成为此殿断代的依据。外檐露明的8根石柱皆施压地隐起雕饰，每面于四周留边框2.5厘米，上端留出一段作如意头，下端留出一段作卷草纹，以双线拦出，中部作卷枝图案。枝条自下部仰、覆莲花中生出，向上延展，在翻卷的花叶之间时而出现化生童子、嫔伽、舞乐人，时而出现孔雀、飞凤、排箫、琵琶等，变化多样。花卉品类有牡丹花、宝相花、莲荷花、海石榴等，丰富多采。内柱4根亦作雕饰，但题材手法与外柱不同。其八个面无明确边棱，图案采用剔地起突手法雕成。前内柱向外部分雕天王执剑与降龙，向内部分雕云卷夹双凤。
后内柱雕天王执杵、嫔伽、降龙等。
此殿构架中石柱及额枋采用规整的形式，而所有梁栿用原材略经加工而成，用材很不严格。两者形成了明显的精、粗对比，这或许是后世多次修缮而形成的结果。也有可能石柱及额枋完成在前，而大殿最终建成在宣和七年之后，是北宋末年的战乱中未能按原计划施工而留下的结果。
大殿斗栱主要有四种形式，即外檐柱头铺作、外檐补间铺作、转角铺作、内柱柱头铺作。
斗栱用材为18.50×11.50厘米，栔高7厘米，约合《营造法式》六等材。
外檐柱头铺作为五铺作单杪单下昂，下昂作插昂，重栱计心造，里转四铺作出单杪偷心造，上承头。铺作中除头为足材外，华栱、慢栱、令栱皆为单材，头前半部为华头子，承插昂，后半部承梁，端头作蝉肚式，比里跳华栱长出72份。柱头铺作所承乳栿或丁栿入斗栱后做成耍头，但这里的耍头与一般建筑中的斗栱做法不同，在外露于令栱之外的部位作成单材，自令栱以内，截面高度渐变，直至慢栱里侧变成梁高，至正心枋后截面宽度也不再受斗栱材宽限制，断面尺寸变成28×22厘米。柱头铺作皆用圆栌斗。
外檐补间铺作为五铺作单杪单下昂，里转五铺作出双杪，重栱计心造。下昂后尾上撤下平槫，挑一材两栔，即一横栱，上下各施一斗。横栱之上并施替木。昂尾下紧贴挑斡及靴楔。
栌斗用方形讹角斗。补间铺作当心间二朵，次间及山面每间一朵。
转角铺作为五铺作单杪单下昂，重栱计心造，在45度方向出华栱一缝，里转仅角华栱两跳。外跳列栱齐全，华栱与泥道栱出跳相列，下昂后尾取平与泥道慢栱出跳相列，瓜子栱与小栱头出跳相列，慢栱与切几头出跳相列，令栱作鸳鸯交手栱与瓜子栱出跳相列。角华栱上承角昂及由昂，皆作平昂，角昂里转后成第二跳华栱，由昂里转后成耍头，并于跳头施异形栱，上承角梁尾。
内柱柱头铺作，从殿身横剖面看，外跳出单杪，上承头。里跳出双杪，上承头及三椽栿。从殿身纵剖面看，前内柱斗栱向室外的一面出单杪，上承头，向内的一面出双杪，上承木枋。后内柱内外皆出双杪，上承木枋及耍头形的枋子出头。内柱铺作皆为偷心造，栌斗讹角。
此外，在脊槫蜀柱上施丁华抹颏栱一组，脊槫襻间下使用横栱两重承托，上平槫下并有一组令栱，充当补间斗栱。
以上是初祖庵大殿构造的大致情况。从中我们可以看到，初祖庵虽然虽地处中原腹地，但其建筑形制、构件样式与同期中原及北方地区宋、辽、金建筑相比有较大差异，而与江南宋元木构建筑极为一致。
中国木构架的梁架类型主要分为北方抬梁和南方穿斗两大体系。两者的最大区别在于荷载的传递方式，即穿斗不若抬梁需经“檩（槫）-短柱-梁-柱”的过程，而以“檩（槫）-柱”直接传递，这样穿斗因缺少梁的稳定机制，易造成横向倾覆，故穿斗建筑更重柱间串（枋）的联系，“串”的稳定作用是南方建筑重要的特点，同时还需依赖衍生构件如丁头栱等来加强整体稳定，形成典型的南方区别于中原及北方地区抬梁“梁-柱”体系的“柱-串”体系。穿斗结构依然大量分布在南方地区，例如浙江、徽南、四川和福建等地，故穿斗与抬梁各自反映了南北建筑构架的基本特征。少林寺初祖庵大殿虽然属于抬梁式梁架类型，但介于《营造法式》中规定的“殿阁造”和“厅堂造”之间。厅堂造是一种在抬梁式梁架基础上吸取穿斗式梁架一些做法后而形成的结构形式。这种形式在浙江宁波保国寺大殿、福建福州华林寺大殿的构架及各种串、丁头栱等做法上，得到了充分的体现。少林寺初祖庵大殿在前内柱的铺作上按平坐插柱造的方法立上层木柱而形成的特殊构架，以及构架中运用襻间、串、额等联络构件的做法，显然带有厅堂造和穿斗架的某些特征。
如果说少林寺初祖庵大殿构架上只是带有些许穿斗式的痕迹，那么它的许多构件的式样做法完全是江南建筑的模样。如初祖庵大殿的圆斗、讹角斗等做法在中原及北方地区建筑中是孤例，但这种做法普遍用于五代十国末期的浙江杭州闸口白塔、北宋的宁波保国寺大殿和明清以后的浙江永嘉等地的村落建筑中。再如初祖庵大殿当心间补间铺作两朵、次间一朵，该做法是江南建筑的典型特征，江南现存五代、宋、元建筑大多采用当心间补间铺作两朵、次间一朵的方式，而中原及北方建筑中唯隆兴寺摩尼殿当心间采用双补间铺作。又如昂嘴的做法，中原及北方地区宋、辽多为批竹昂，如晋祠圣母殿殿身及副阶、榆次永寿寺雨花宫、辽塔及辽代诸殿等，初祖庵大殿斗栱中的昂嘴采用琴面的做法，是中原及北方地区宋、辽建筑中鲜有的实例，而南方建筑中琴面昂的做法历史悠久且使用极为普遍。此外，初祖庵大殿橑檐枋也是中原及北方地区的孤例，资料曾记载中原及北方地区既有橑檐枋（或下加替木）又有橑风槫（下必施替木）两种形式，但中原及北方地区实例多用圆形的橑风槫而非方形的橑檐枋，江南现存建筑则无一用橑风槫，江南从五代、宋、元，甚至到明、清的许多民居檐下都保留以枋承椽的做法；而中原及北方地区替木加橑风槫的形式则一直延续到明、清官式建筑。
初祖庵大殿具有明显的江南建筑特征，也是现存中原及北方地区宋、元遗构中最接近《营造法式》的实例。从年代上来看，初祖庵大殿仅较《营造法式》刊行晚25年，且登封距当时汴梁较近，故推测该殿受《营造法式》的影响甚大，尤其是运用了《营造法式》中的南方建筑因素。
《营造法式》编着过程与少林寺初祖庵大殿建筑特点给了我们这样的启示：江南建筑确实对《营造法式》产生过影响。那么，在江南现存的早期木结构建筑与《营造法式》的比较中定能进一步找到相应的例证。对此，我们将在下一章中作专门的比较分析。