关林的建筑，主要建于明万历年间，清乾隆时又加以扩建，是一处保存完整完善的古建筑群。关林的建筑规格按照宫殿形式修建，布局严谨壮观。庙前有戏台，中轴线建筑依次有大门、仪门、甬道、拜殿、大殿、二殿、三殿、石牌坊、林碑亭、关陵；中轴线两侧附以其他形式相同的对称建筑物。其中最具特色的当数戏楼，前台的歇山式和后台的硬山式组合在一起，重檐楼阁，构筑之妙、布局之巧在全国十分少见。
关公的地位是逐步提高的。最初，曹操封他为荆王；明万历三十三年（公元1605年），朝廷敕封关羽“三界伏魔大帝神威远镇关圣帝君”，关羽始封“圣”。清朝，顺治五年（公元1648年）敕封关羽“忠义神武关圣大帝”，康熙五年（公元1666年）敕封洛阳关帝陵为“忠义神武关圣大帝林”，始称“关林”，成为与山东曲阜“孔林”并肩而立的两大圣域——文圣人“孔林”，武圣人“关林”。当然，其他后人也有用“林”命名的，但基本不被后世认可。
关林的大门建于清代，比较独特，有九九八十一颗金色乳钉，是封建社会等级制度最高品级的标志。大门东西两边为八字墙，分别篆写“忠义”“仁勇”4个大字，概括了关羽忠心、义气、仁爱、勇武的一生。关林的仪门建于明万历年间，取“有仪可象”之意，是当时文官到此下轿，武官到此下马的场所。其原为明代关帝庙大门，清代改称仪门。门额上的“威扬六合”匾，是慈禧太后的笔迹，十分珍贵。
关林有著名的石狮甬道，也叫“石狮御道”。石狮御道由仪门到大殿，长35米、宽4米，两边石栏有36根望柱，共104个石狮子。此石狮甬道，被誉为“洛阳小卢沟”。据碑文记载，现时之甬道，重修于明万历四十七年（公元1619年），由在洛客商捐资，依宫殿式样修建。石狮御道是皇帝或朝廷遣官致祭时的专用步道，百狮百态，惟妙惟肖。御道甬柱、栏板多为信众所捐建，祈愿生意兴隆、财源广进，故上多雕刻铜钱纹饰，寓意四方来财，故民间又称之为“生财之道”，同时也把关公作为财神的形象表现得甚是到位。
关林的建筑是比较规范大气的，有大门、仪门、大殿、二殿、三殿、关冢等。大殿始建于明万历二十四年（公元1596年），面阔七间，进深三间，高26米，庑殿顶，琉璃瓦覆盖，五脊横立，六兽扬威。正门上，有12幅明代浮雕木刻，讲的是桃园三结义、三英战吕布的故事等。大殿中有拜殿，位于正殿之前，是春秋大祭时百官谒拜之所。殿中悬挂有乾隆御书的“声灵于铄”匾和“翌汉表神功龙门并峻，扶纲伸浩气伊水同流”对联。大殿中还有平安殿，又称启圣殿，是关林的主体建筑，位于整个庙院的中心，雕梁画栋、气势恢宏。殿内供奉有贴金的关帝像，关平、周仓、王甫、廖化侍立两侧，庄严恢弘。
关林三重殿的二殿，是五开间，庑殿式，门上悬挂着“光昭日月”匾额，是清光绪帝御笔，内塑关公武财神像，关平、周仓捧印持刀分立身后，招财童子、利市童子侍奉身前。古往今来，人们多在这里祈求生意兴隆、财运亨通、事业发达。二殿中有娘娘殿，是财神殿东配殿，建于明代，供奉关羽夫人胡氏、女儿虎女和儿子关兴。殿内东西两侧绘《祛病祈福图》和《求子还愿图》。民间流传胡夫人能祛病送子，故人们多在娘娘殿前燃香祛灾、虔心求嗣。
关林除大殿、二殿外还有三殿，三殿又称春秋殿，也称寝殿，现存建筑建于清嘉庆二十二年（公元1817年），殿前有旋生和结义两株奇柏，殿内塑有关公夜读《春秋》像和关公睡像。再往后，有“忠义神武灵佑仁勇威显关圣大帝林”碑，立于关林（冢）前奉敕碑亭内，碑文记载了关羽生平事迹及封号、建庙等情况，是关林称“林”的重要依据，反映了历代帝王对关羽至高无上的尊奉和对关林崇祀不断的历史，同时也证明了关林在海内外数千座关庙中的领衔庙宇地位。
关林还有著名的石牌坊和八角楼。石牌坊宽10米、高6米，三门道，正额题“汉寿亭侯墓”五字，坊上题联甚多，均是歌颂关羽之作，书体皆为明清书法。八角楼建于清康熙五年（公元1666年），构筑奇巧，别具一格。亭内有龟趺（fū）座石碑一通，高4.8米，碑头雕龙，额题“敕封碑记”。碑的正面书题“忠义神武灵佑仁勇威显关圣大帝林”，碑文为洛阳名人、时任谏官的左都御史董笃行撰写。该碑为历代帝王对关羽的最高封号实物例证。
关林南边还有著名的“千秋鉴”戏楼。戏楼历史悠久，始建于清乾隆五十六年（公元1791年），专为祭祀关公演戏所用，算起来已有200多年历史。戏楼位于关林建筑群南北中轴线的最南端，坐南朝北，结构精妙，前台为歇山式，后台为硬山式，两者组合在一起，犹如华丽的重檐楼阁，正面上书“千秋鉴”三个大字，更是有着浓郁的历史气息。舞楼台基东侧立有一通石碑，据碑文记载，当初晋商为修建戏楼出过不少力。过去祭祀关公，要在农历正月十三、五月十三、九月十三唱大戏。“千秋鉴”戏楼上曾涌现不少名角，河南的有些剧种如曲剧也是在这里唱火的，不过《走麦城》是不能在这里演唱的。