台北孔庙最早建于1665年（明永历十九年），日军侵台后被毁。1925年，台北爱国人士200余人集会决定重建孔庙，于1939年建成。后经修葺扩充，孔庙现已恢复昔日巍峨的面貌。
台北孔庙位于大龙洞、哈密街一带，采用中国古代宫殿式建筑，色彩缤纷的瓷砖耀眼夺目，为全台寺庙建筑一大特色，是仿泉州孔庙建成的“正统南中国式孔庙”。
由于孔子崇尚朴实，所以孔庙的建筑较简单朴素，不像一般庙宇有华丽的装饰，连门口也没有放置石狮。孔庙以大成殿为主，站在大成殿外，可看到中间的屋顶上，有一对圆筒，叫做“藏经筒”。用以表达对当时读书人爱书精神的敬佩。同时，在前方屋顶上，有枭鸟的雕饰。枭鸟是一种既不孝顺又残暴的鸟，可是孔子也对它施予教化，所以枭鸟雕饰，是代表孔子“有教无类”的精神。
另外，位于两边阶梯的中间，有一块座落于大龙街上，刻有龙身浮雕的斜面台阶，叫做“御路”，是当时皇帝或神明上、下殿堂时的踩脚石。还有，孔庙所有的柱子、门窗和其它的寺庙不同，上面都没有文字，据说这是表示没有人敢在至圣先师孔夫子门前卖弄文章。而且庙中也没有塑像。在古代，孔庙原有孔子塑像，但因雕刻技术不同，有些塑像无法表现孔子神态，所以明太袓时，就下令以后新盖的孔庙，都以牌位取代塑像；到明嘉靖皇帝，则下令撤消全国孔子像，完全使用牌位。从此以后，虽然改朝换代，相对地更突显出人格的伟大。
台北孔庙曾是台湾人民反抗外来侵略，坚持民族文化传统的大集会场所。如每年的9月28日，即孔子诞辰纪念日，当天清晨会举行隆重的祭孔大典，并在大成殿外的月台上，由学生表演八佾舞，来表达对孔子的崇敬。祭典过后，会有许多人为子女或自己拔智能毛（牛毛），象征祈求子孙增长智能求学过程顺利。
