房屋装修是泥匠、木匠、纸匠和画匠等的工作。泥匠先抹泥把墙抹平再抹灰、压光，称“亮家”，然后盘炕、砌锅台、铺地、垒烟囱等。木匠装修门窗有讲究，门窗有各种图案造型，甚至要雕花，开启要严丝合缝。晋东南一带上门窗时用特制的尺子，按二十八星宿位置来确定其长度和方位。土木工程一完，纸匠便修天花板，又称打顶棚，又叫“打仰尘”，多以木条或高粱秆、麻秆、玉米秆、葵花秆等捆制成架子，用麻纸裱糊，粉刷一新。最后，油匠要作炕围画。炕围画是在沿炕周围墙上作的一种装饰且实用的壁画，有的地方叫“炕围子”、“腰墙子”。
盖房碹窑在农村是一件大事，一般都采取家人、朋友、乡邻义务帮工的办法，形成了互帮互助的社会道德风尚。房屋建好落成，新麦上场，很多地方要磨一斗面，蒸大贡、炸油花、烧香焚纸诚谢神灵，安请土神回新宅居住，保佑平安，同时要感谢亲戚四邻，俗称“谢土”。
山西民居的院落建筑都是独门独户的四合院、三合院和地窨院等。
四合院一般是小康人家的住宅形式。按风水先生测定的位置，坐北朝南，以高檐出厦的大房为主，带耳房、左右厢房、下房门洞、照壁、院门、街门。大房坐北朝南向阳，称正房，装通顶四扇格窗，系主人所居；厢房左右对称，按左上右下顺序，归子女居住；下房则多为厨房。排场一点的四合院用方砖铺地、石砌踏阶、房屋一砖到顶、飞檐翘角、雕花斗拱、鸡头兽吻、木雕门窗、石雕门洞、磨砖对缝垛窗台。院门、街门比较讲究，由门扇、门框、门垛、门楣、门楼等主体组成，又有门墩石、门槛石、坐街石等附件。门楼造型各异，但以压瓦脊顶式最为普遍，通常在门楣上方留匾空，砖雕“耕读传家”、“集祥凝瑞”、“竹雨松风”等字样。一些声名显赫的权贵富豪之家有规模较大的套院，有主院、偏院、书房院、绣楼、花园等，雕梁画栋，门楣高大，气势不凡。
历史上，随着晋商和山西票号的兴起，在晋中一些县里更出现了一进几院、十几院的建筑群，这些建筑围墙高耸、房屋宏大、层楼叠起，垒有女墙防护设施，院内还有车马、粮仓、库房、家兵等各种用房。这些院落大都建有正堂、门楼、过厅、厢房等，院落之间则建有牌坊和其他一些村巷建筑。1936年春，红军东征到山西，山西院落建筑的豪华、坚固、宏大，极大地震撼了转战11个省经历了二万五千里长征的将士们（见《聂荣臻回忆录》）。至今，山西不但保留了许多寺院、祠庙、名胜景观建筑，还保留了很多民间村落宅居建筑，最著名者有建于明万历二十一年（1593）至清咸丰（1851—1861）末年间的襄汾丁村20余处院落、建于清中叶的阳城皇城相府和祁县乔家堡的26处院落等。
三合院有正房、东西厢房、街门和照壁等主体建筑，但无南房。一般农民居住的三合院大部分只有三间或五间正房，院内随便搭盖一些柴草房。院门即街门，有的院门简陋到只是在土墙上挖一门洞或豁口，以木条木棍绑扎成栅栏，或以篱笆绑架柴草成门，家居情况路人一望而知，可谓是地道的“柴门”。农家院落的附属设施有柴草房、马厩、牛棚、鸡窝、猪圈、羊栏等，一般都用简陋的方法搭建，厕所则多搭建于院外。
窑洞一般为土窑，也有砖石拱窑，还有二者结合的前房后窑建筑，多集中于山区。山西气候干燥，黄土层积厚实，打出的窑洞耐用，可节省砖瓦、木材、地基、屋顶等工料和工序。窑洞深挖于土层之内，除门窗向阳外，窑壁屋顶夯厚，与大气接触少，温度传导慢，冬暖夏凉，最适合当地百姓居住生活。窑洞不是论间数，而说几“眼”、几“孔”，修建形式有多种：有全倚黄土层挖成的，也有以砖石碹成的；有单孔一室，亦有一套二孔、一套三孔的，或再挖小洞作壁橱柜的；有随着黄土崖畔一层层一排排建起的，也有顺着山势回转，形成一家或几家一群的；有的窑洞本身一层，也有在窑洞上再加盖一层砖房的。窑洞前面安门窗，光线充足，内部深浅不等，一般用砖石或泥灰贴面，再加粉刷石灰。平川地区受窑洞建筑的影响，也常有砖瓦房不用木料作梁柱，只用砖石碹成半圆形窑洞样式屋顶的。窑洞在山区很普遍，山西不少旧志都有“民多穴居”的记载。清康熙四十八年（1709）修的《隰州志》中有一段文字记载，描述了山西山区的民居风情：“民皆穿土为窑，工费甚省，久者可支百年。有曲折而入如层楼复者。每过一村，自远视之，短垣疏牖，高下数层，缝囊捆屦，历历可指。坡之高者，路峭而窄，老翁驱犊，少妇汲水，登降甚捷，殊不以为苦。平地亦多垒砖为窑，山木难购，且窑中夏凉冬暖也。”
“地窨院”建筑是一种天井式土窑院落，格局极似四合院，它是晋南芮城、平陆两县山区居民的创造，多建于中条山南麓坡度较为平缓处。“地窨院”的建筑方式，简单地说就是挖院、掏窑、凿甬道。建址选在不会有山体滑坡和流水的平顶坡地，自上而下开始挖方坑，坑口面积即是院地面积，坑深即是建筑高度，坑底即为院地。“地窨院”一般长宽各10余丈，深约三四丈，然后在四侧坑壁上掏出若干孔窑洞来，分正窑侧窑，多为一明两暗式结构。从坑底院角处向崖边一面凿出一条长长的上下倾斜的甬道，院门在甬道的上端，街门在甬道的下端。“地窨院”中有水井或旱井，另设排水道，可种花草树木。“地窨院”的屋顶上面多是平坦的场地，有窑洞的烟道口和粮仓通气口，更是打场晒谷的好地方，可把打好的粮食直接倒进贮粮的窑洞里。崖畔上有树木挡风土，花草纷披在窑额，院里的花草藤蔓沿坑壁攀援而上，“车从屋顶过，声从地下来”，沐浴着阳光的院落像是一个鲜花盛开的艺术盆景。行人在百米之外常常误认为前面是一处桃花林，芳草鲜美，落英缤纷，欲穷其林，而得小口，仿佛若有光，“从口入，初极狭，才通人；复行数十步，豁然开朗”（陶渊明《桃花源记》），别有天地，是红红火火过日子的人家。大风从地窨院的头顶刮过，无论是东南风还是西北风，地窨院人家听到的都不过是浩浩天歌，颇有“帝力于我何有哉”的桃花源之趣。
山西窑洞是因地制宜的建筑，但绝非仅是出于节用之虑，它是人与自然的和谐共处的表现，而且它也具备了多种功能。明万历年间，浙江人王士性在《广志绎》一书中提到“山西地高燥，人家盖藏多以土窖，谷粟入窖，经年如新，盖土厚水深，不若江南过夕即浥烂。惟隔岁开窖避其窖头气，一时刻卒然遇之，多杀人。其窖地非但藏粟，变以避虏，虏人遇窖不敢入，惟积草熏之，然其多歧窦，即熏烟，有他窍出不为害，第家家穿地道，又穿之，每每长里余，常与他家穿处相遇。江南洞在地上，皆天生，塞北洞在地下，皆人造。”黄土地“水泉深厚，故其力多坚劲，而少湿郁微肿之疾。地有洞，故其虏至可避；商有伴，故其居积能饶。”由此可见，山西村落景观的自然区分并不只受地貌因素的影响，也受其他因素影响。例如，历史上边塞时常受到战祸兵事影响，其村落就筑有堡墙、寨门、吊桥之类的设施。在今天平鲁、闻喜、襄汾和永济的一些村落中，至今还完整地保留着这样一些古堡景观。尤其是建于隋唐之际的介休县张壁村古城堡，该堡墙用土夯筑而成，高约10米，周长1300米，占地面积1.2万平方米，堡上民居俨然，庙宇陈列，堡下穿有三层四通八达、功能齐备的3000米地道，是一座“明筑城堡，暗设地道，易守难攻，退进有路”，集文化、宗教、民居、军事于一体的地下古建筑群。
“油碗碗点灯半炕炕明，酒盅盅量米不嫌哥哥你穷”，从这句山西民歌的唱词中，也可以知道炕在房屋中所占的面积有多大。一间房子半间炕，半间炕却发挥出房屋多一半的作用，这是山西民居室内陈设的一大特点。无论在平川的砖瓦房，还是山地的窑洞，山西家家户户在房内都修有土炕，而没有木制的床铺。炕不仅有床铺的作用，而且发挥着供暖取暖、座椅沙发、衣柜陈放、会餐酒筵等作用。贵客来了，主人多是热情地招呼“盘腿上炕”。炕是与火灶相连的，火灶的烟道通向炕，炕内用土坯立起近似迷宫的烟道，弯弯曲曲回环婉转地将灶烟送往室外，这样就把烟火热量充分利用了，这叫火炕。有的人家甚至把一堵或四堵墙壁都连接烟火通道，这叫暖墙。它满足了冬季取暖、夏季清凉的需要。炕的建筑材料主要用土坯，而不用砖木材料。砖石导温快，易烫易凉，木则有易燃隐患，因此，砖木只用在炕外壁一侧和炕沿上。炕的高度以土坯立起，炕的平面以土坯覆盖，蓄热时间长且温而不火，但最忌捣踏水浸，因而有“捣塌炕”、“尿塌炕”之说。人肤色黑也常被戏称是“从炕里爬出来的”，因为炕里有多年的烟灰粉，贫寒人家就常常掏炕灰调墨写字。由此，又造成了民俗中的一些“炕文化”，有了炕围画的艺术体裁，有了辗转反侧是“翻烙饼”的比喻，有了没人照料的孩子是“炕头上爬大的”的隐喻等等。也有不与火灶相连的炕，但有炕必留有烧火道。晋北农村还有一种被称作“地老虎”的过火炉子，虎口是炕沿下的烧火口、虎身藏于炕体、虎尾即是排烟于室外的烟窗，燎一把柴火即能暖炕暖家。