文庙也称学宫，位于文庙路，是古时上海的最高学府。文庙建筑群布局严谨，气势宏敞，极具民族特色。有两条纵轴线贯穿其中：一条是从棂星门、大成门、大成殿到崇圣祠，这是文庙的祭祀线。另一条是从学门、仪门、明伦堂到尊经阁，这是学宫线。文庙内陈列有孔子铜雕像等三圣雕像、青铜编钟、《论语》全文碑刻等文物，有尧缔茶壶展、奇石、赏石、名石展、根雕造型展，还有《论语》全文碑刻、明清楹联碑刻展、宣廊的上海县籍进士录、杏廊的古碑展示等四大碑刻系列展览。每周日大成殿广场上的旧书交易市场，已成为上海的一道著名的文化风景线。
“万世师表” 匾额是清康熙皇帝二十三年（1684年）书写。殿中有抱柱联两对，都是清乾隆十三年（公元1748年）高宗撰写的，前一对是“觉世牖民诗书易象春秋永垂道法，出类拔萃河海泰山麟凤莫喻圣人。”上联大意是：为让民众读懂典籍，孔子删改《诗》、《书》、《周易》，撰写《春秋》，这是值得永远称道的。下联大意是：麟凤为禽兽之神，泰山远比土堆要高，河海比小溪更浩瀚，自从有人类 以来，还没有比孔子更伟大的。后面一对是 “气备四时与天地鬼神日月合其德，教垂万世继尧舜禹汤文武作之师。”上联大意是：孔子的为人、道德、气度是顶天立地、无与伦比的。下联大意是：孔子的教化民众是比历代明君有过之而无不及的。
上海文庙在元朝第三次搬迁时，已有天光云影池。“天光云影”取自宋朝大儒朱熹诗句：“半亩方塘一鉴开，天光云影共徘徊；问渠哪得清如许，谓有源头活水来。”以中国古典园林的艺术手法，在有限的空间里凿池取景，池中白云苍狗，变幻奇丽，尤其是周围的亭台楼阁倒影在水中，更有一种生动起伏的动态之美。水池周围植以桃柳，表示文庙的学子是桃李满天下。池中石峰“龙吟虎啸”重5.6吨，产于安徽灵壁县群山中。
大成殿是文庙的主体建筑。大成殿在唐代被称作文宣王殿，宋朝徽宗尊崇孔子“集古圣先贤之大成”，赐名大成殿。大成殿重檐歇山，庄严肃穆，是祭孔正殿。大殿屋顶上的双重飞檐和动态十足的狻猊、辟邪等，使庄严肃穆的大成殿充满生命的气息。镶嵌于大成殿屋脊上的“海滨邹鲁”四个大字是民族英雄林则徐所题，寓意此地是上海的孔孟之乡。大成殿正面的双重飞檐中间有“大成殿”三字竖匾，是清朝雍正皇帝手书墨迹。
大成钟铸于二OOO年。钟高1.8米，直径1.1米，重1.5吨，工艺精致，神态生动。钟钮是一对首尾相缠的蒲牢；钟肩有十二条春秋龙纹围绕，下沿有四对相向戏珠的双龙；钟灵则镶嵌有上海市花白玉兰图案；钟腰上下两圈共铸有二十四辆顺向排列的孔子出游马车图；钟钲上直铸“大成钟”三个字，与其相北则有大成钟的铭文。大成钟声音洪亮、圆润、悠扬、声波可持续三分钟之久。
大成门也称戟门，“大成门”三字为清雍正皇帝亲书。“大成”一词出自《孟子·万章下》一书中：“孔子之谓集大成也”，是说在孔子身上集中了古代圣贤的一切优秀品德和古代社会的一切优秀文化。大成门铜门环上的兽头叫蒲首，相传龙一胎生九子，蒲首就是其中之一。由于它性好静，所以把它装在门上。大成门只在祭孔大典时开启，平时，人们皆从两扇腋门进出。
从1986年开始，每逢星期天，大成殿前广场上会进行旧书交易活动。进入九十年代，文庙旧书市逐渐成为上海最著名的旧书市场。文庙整修期间，在文庙东北部，尊经阁以东专门划出一片“文庙书刊交易市场”，使图书交易更加繁荣。此外，还沿老道前街、梦花街和学宫街三面的围墙建造起与文庙建筑风格一致的仿古建筑，作为经营古玩、书画等的商店。
文庙讲堂位于文庙学宫线明伦堂内。讲堂的东部为古代讲台形式，背景屏风由红木加工的木刻孔子圣迹图的长窗组成，共8扇，颇具古代简朴、明快、书卷气的感觉。其上悬挂由著名国学大师文怀沙先生题的“文庙讲堂”黑底金字匾额，更显庄重、大气，使讲堂凭添浓浓的文化氛围和严谨的治学色彩。
魁星阁又称奎星阁，供奉奎星神，建于1855年，是学宫的主要建筑。据古籍记载：“奎”是星名，二十八宿之一，为西方白虎之首，有星十六颗，“屈曲相钩，似文字之画”，故有奎主文章之说。后来人们逐渐把奎星演化为文官之首，说孔子乃是天上奎星，所以在文庙就有了魁星阁。
青铜方鼎是古代的一种礼器，鼎重850公斤。鼎上的铭文：“博学于文，约之于礼。”指的是君子要广泛地学习一切知识，并要用礼来约束自己。“学而不厌，诲人不倦”是说勤奋学习而不感到厌倦，教导别人而不感到卷怠。青铜方鼎上纹饰为饕餮纹，此鼎置于明伦堂前有警世作用。
庑殿是大成殿的配殿，过去是祭祀孔子学生七十二贤和历代大儒的地方，现展示180位明清著名的书法家撰写的楹联300幅，其中有清代康熙、雍正、乾隆三代皇帝的御书，有民族英雄史可法、林则徐的手迹，也有八大山人、扬州八怪、江南才子的墨宝，具有很高的文学艺术价值。
儒学署下层开设历代茶具陈列，即“尧缔茶壶博物馆”，展示历代茶壶400余件，为美籍华人陈亦尧捐赠的个人数十年的收藏。展品材质繁多，形状各异，一把茶壶的壶嘴是从肚脐眼出来，让人遐想翩翩，可管窥中国茶具发展之源流，二楼辟为会议室，不供人参观。
杏廊取杏坛之意，杏廊里安放古碑，大都是历代修缮学宫的碑记。其中一块是上海县儒学科贡碑，是明朝正统六年所制。所谓科贡，就是朝廷开科举取士，网罗天下人才。这块碑记录了明朝时通过上海文庙学习而取得功名的人物名单，有纪念表彰、发扬光大的意思。
宣廊里的碑上刻有元朝至清末上海建县700年来，由上海文庙培养的279位进士的名录，其中有元朝被尊为上海城隍老爷的秦裕伯。明朝官至礼部尚书兼东阁大学士、文渊阁大学士的徐光启，他是古代著名科学家，又是最早向西方学习科学技术的朝廷大臣。
新建的尊经阁前的灵璧石“玉麒麟”是上海文庙的镇庙之宝。灵壁石为石中之王，产于安徽省东北部灵壁县群山中。在春夏秋冬的更替中，沐风雨雷电，蕴天地精华，神工鬼斧，极具瘦、透、漏、皱之灵秀。所以灵壁石又被称为天下第一石。
明伦堂的“明伦”取自《孟子》：“学则三代共之，皆所以明人伦也”。明伦堂是古代儒生们讲学的地方。也是儒家思想的宣扬之地。明伦堂有着光荣的历史，咸丰三年（1853年）9月4日，小刀会发动起义，曾在明伦堂设立总指挥部。
月台也称佾台，是每年春秋丁祭时奏乐和歌舞的地方。月台东、西南三面围有荷叶石柱和透雕石栏，月台的石阶中间镶嵌着石雕龙陛。月台上的孔子铜像高1.8米，这座铜像是根据唐代画家吴道子所画的《孔子行教像》铸造而成。
青铜编钟铸于清同治庚午年间（1870年），由上海江南制造局铸造。它不仅是乐器，还是地位和权力的象征。1982年在文庙大成殿月台前出土，据说是爱国人士在抗战期间为防日寇掳掠，深埋地下，才得以保存。
“儒家经典展示基地”位于学宫内的尊经阁藏书楼，由上海文庙管理处和上海图书馆联手共建。现藏有儒学经典等古、旧书籍250种，计15大类，6000余册。其中，有诸多元、明、清时期的古版善本珍品。
明清楹联碑刻展位于东、西庑殿内，陈列有马光先生捐赠的三百幅楹联刻石，集明清名人楹联精品，其中有康熙、雍正、乾隆三代皇帝的御笔，有林则徐、史可法等民族英雄的墨宝真迹，是一种高雅的艺术享受。
学门也叫黉门、文曲门。意为学宫之门，是进入学宫的的第一道大门，学宫是古代上海最高学府。读书人考中秀才后，才能进文庙学习，历史上“文庙”是人们步入仕途的必经之路，是读书人心中的殿堂。
