1248年8月15日，科隆大教堂在大主教Konrad von Hochstaden的主持下开土动工。建筑为哥特式，由建筑师Gerhard von Rile以法国亚眠的主教座堂为蓝本设计。之后建造工程时断时续，1560年因为资金原因完全停工。于是，未完工的主教座堂统治了科隆的城市轮廓线300多年。

直到19世纪初，随着德意志民族意识的觉醒，作为德国统一象征的科隆主教座堂获得了越来越重要的意义。另外，当时盛行德国的浪漫主义风气使得人们对中世纪重新感兴趣，教堂的最终完工也再次获得机遇。

1842年9月2日，教堂在普鲁士国王腓特烈·威廉四世的支持下重新开工。

1880年，教堂在开工600多年之后终于按照最初的设计完工。

157米高的双塔使得它成为当时世界上最高的建筑。德国皇帝威廉一世于1880年10月15日在科隆主持了盛大的落成庆典。

科隆主教座堂在第二次世界大战中受到相当程度的损坏，被炮弹击中共约70次。尤其是北塔塔基，在战后的几十年里都依靠临时的砖结构加固才逃脱倒塌的命运。

1948年在尚未完全修复的教堂里举行了庆祝开工700周年的仪式。1956年重新对信徒开放。1996年，联合国教科文组织将其列为世界文化遗产。

2004年，联合国教科文组织将科隆主教座堂列入濒危世界遗产名录，原因是科隆市规划在教堂四周建设高层楼房，这将影响科隆主教座堂周围的空间环境，对教堂的整体风貌造成破坏。2006年，科隆主教座堂脱离濒危世界遗产名录。