石室教堂始建于1863年，落成于1888年，前后历时25年，至今有130多年的历史。由于教堂的全部墙壁和柱子都是用花岗岩石砌筑，所以称之为“石室”或“石室耶稣圣心堂”、“石室天主教堂”，是省重点文物保护单位。

石室教堂建筑总面积2754平方米，坐北朝南，东西宽32.85米，南北长77.1米，底层建筑面积约2200平方米，而从地面到塔尖高58.5米。教堂属哥特式风格，可与闻名世界的巴黎圣母院媲美。1863年6月28日是天主教圣心瞻礼日，正式举行奠基典礼，并命名为圣心大教堂。

教堂的建筑结构是：正面为一对巍峨高耸的双尖石塔，塔尖直插蓝天。石塔中间西侧是一座大时钟，东侧一座大钟楼，安放四座专门从法国运来的大闹钟。堂内是尖形肋骨叉的拱形窟窿。正面大门上面和四周墙分布的花窗棂都是合掌式。所有门窗都以法国制造的较深的红、黄、蓝、绿等七彩玻璃镶嵌。这种玻璃可避免窗外强光射入，而使室内光线终年保持着柔和，形成祥和、肃穆、神秘的宗教气氛。

石室的平面为“＋”字形。这是有其十分明显象征意义的。“十”字在世界各地的远古时代，是太阳和火的象征，也即“光明”之意。但十字又是古代一种极其残酷的刑具，它用横直二木交叉而成。行刑时，将受刑者的两手分别钉于横木的两端，双足合在一起重叠钉于直木的下方，然后将木架竖起，使受刑者高悬，距地面3米。受刑者最终由于体力或心力衰竭而死去。当年耶稣就是被打死在这样的十字架上的。

后来这种十字架刑具因耶稣受难而成为基督教信仰的标记。它又与古代的“十”字为太阳、火、光明的意义相吻合，符合基督教对上帝之光的追求，因而成为西欧基督教堂正院的平面形式。

圣心大教堂现仅存教堂、主教府和东面颐铎堂。教堂建筑可分为前后两个部分：前半部分是两座尖顶石塔，这种哥特式建筑艺术有着浓厚的宗教色彩与含义，象征着向天升华、皈依上帝的宗教思想。后半部分是大礼拜堂，这礼拜大堂又高又圆又大。其顶部原为木桁桷结构，1929年由法国人巍畅茂改为现在的钢筋混凝土结构。基石位于堂前东西两侧：东侧刻有拉丁文“耶路撒冷”，西侧刻有“罗马”字样。其意思十分明显，意为天主教创立于东方的耶路撒冷，而盛兴于西方的罗马。基石下面除藏有清代流通的银币以及宗教用品外，还有建堂人法国主教明稽章和中国青年“亚海”分别取自耶路撒冷和罗马的泥块，各1公斤。

教堂的外围四周有大小石亭近百座，按原设计可安放宗教人物塑像之用。后因故未能实现，成为该建筑物未完成之部分。