孔庙的历史极其漫长，似乎可以上溯到孔子逝世之时。最初是因宅立庙或以宅为庙，因此孔庙是孔宅的一部分。直到1300年(大德四年)前后元成宗孛儿只斤·铁穆耳时，孔庙与孔府分开，且孔庙修建依据王宫之制。孔庙最终规模在1500年(弘治十三年)前后明孝宗朱祐樘弘治中兴时形成。随后又多次毁损和重建，目前的建筑似乎是在1730年(雍正八年)建成，此后仍有不同规模的修缮。

金声玉振坊是入孔庙的起点，典出“孔子之谓集大成。集大成也者，金声而玉振之也。金声也者，始条理也；玉振之也者，终条理也。始条理者，智之事也；终条理者，圣之事也。(《孟子·万章下》) ”

棂星门，建于1415年(永乐十三年)，1754年(乾隆十五年)改为石柱铁梁，棂星门三字为乾隆所书。

太和元气坊，典出李纲《题李伯时三教图卷其三》“素王峨峨，万世所师。太和元气，逝者如斯。”

圣时门，典出“孔子，圣之时者也。(《孟子·万章下》)”孔庙正门始建于1415年(永乐十三年)， 1730年(雍正八年)雍正钦定孔庙正门名“圣时门”。

弘道门，典出“人能弘道，非道弘人(《论语·卫灵公》)”，始建于1377年 (洪武十年)，为孔庙正门，1415年(永乐十三年)成为二门。清初名“天阶门”，1730年(雍正八年)，雍正钦定为“弘道门”

乾隆题写

奎文阁

大成门，典出“孔子之谓集大成。(《孟子·万章下》)”孔庙最后一道大门

雍正1729年(雍正七年)原创的楹联

先觉先知为万古伦常立极

至诚至圣与两间功化同流

杏坛，典出“孔子游于缁帷之林，休坐乎杏坛之上。弟子读书，孔子弦歌鼓琴。(《庄子·渔父》)” 1024年(天圣二年)设杏坛”。金代于杏坛上建亭。1267年 (至元四年)重修。1569年 (隆庆三年)改造重檐方亭。现存结构建于清代，乾隆题匾。

大成殿，孔庙正殿，唐代称为文宣王殿，宋徽宗1104年(崇宁三年)下诏更名为大成殿，典出“孔子之谓集大成。(《孟子·万章下》)”。现有结构为1724年(雍正二年)重建，“大成殿”三字为雍正御书。

“生民未有”为雍正1725年(雍正三年)御书，典出 “自生民以来，未有夫子也。(《孟子·公孙丑下》)”。两边楹联为雍正1729年(雍正七年)撰题

德冠生民溯地辟天开咸尊首出

道隆群圣统金声玉振共仰大成

“万世师表”为康熙1684年(康熙二十三年)御书，典出“昔仲尼大圣之才，怀帝王之器，当衰周之末，无受命之运，……可谓命世之大圣，亿载之师表者也。(《三国志·魏志·文帝纪》)”。楹联为康熙撰乾隆书

气务四时与天地日月鬼神合其德

教垂万世继尧舜禹汤文武作之师

 “圣集大成”为嘉庆皇帝于1799年(嘉庆四年)御书，典出：“孔子之谓集大成。(《孟子·万章下》)”“德齐帱载”为咸丰于1851年(咸丰元年)御书，典出 “仲民祖述尧舜，宪章文武，上律天时，下袭水土，譬如天地无不持载，无不复帱。(《中庸》)”“斯文在兹”为光绪在1875年(光绪元年)御书，典出“子谓于匡，曰：‘文王既没，文不在兹乎！’天将之丧斯文也，匡人其如予合？(《论语·子罕》)”