南嶽還是著名的佛教聖地。環山數百里，有寺、廟、庵、觀等200多處。位於南嶽古鎮的南嶽大廟，是中國南方和五嶽中最大的古建築群，有「江南第一廟」、「南國故宮」之稱，始建於唐，後經唐、宋、元、明、清六次大火和十六次修繕擴建，於光緒八年（1882年）形成現在98500平方米的規模，依次九進。大廟坐北朝南，四周圍以紅牆，角樓高聳。林澗山泉，繞牆流注。廟內，東側有8個道觀，西側有8個佛寺，以示南嶽佛道平等並存。南嶽大廟，是一件有歷史意義和藝術價值的珍品，其規模之宏大，建築之精美，結構之完整，佈局之周密，實屬罕見。在南嶽古鎮，還有一座佛教古寺——祝聖寺。它位於鎮的東街，與山上的南台寺、福嚴寺、上封寺和衡山城外的清涼寺等，合稱為南嶽六大佛教叢林。相傳大禹治水時曾經來到這裡，並在這裡建立清冷宮佘禮舜帝。清康熙年間作為皇帝的行宮進行大規模改建，並更名祝聖寺。現在寺的四周古木蒼翠，寺內香煙繚繞，木魚鐘磬之聲，不絕於耳，佛圖佛像滿目，有興趣者，還可入內與法師交談，品嚐一下南嶽著名的素餐齋席。其它如廣瀏寺、湘南寺、丹霞寺、鐵佛寺、方廣寺及傳法院、黃庭觀等，都是明代以前的古鐔，規模大小雖不相同，但也各有佳趣。
衡山還是著名的道教名山，漢武帝以南嶽名安徽天柱山，隋文帝復以衡山為南嶽。道教稱第三小洞天，名其岳神為司天王。山有七十二峰，以祝融､紫蓋､芙蓉､石廩､天柱五峰為著，祝融又為之冠。有黃庭觀，傳為晉天師道女祭酒魏華存修道處。上清宮乃晉道士徐靈期修行處。降真觀，舊名白雲庵，乃唐司馬承禎修道處。九真觀西有白雲先生（司馬承禎）藥巖。五代道士聶師道亦修道於此。
山上寺廟很多，著名的有福嚴寺、南台寺、藏經殿、方廣寺。福嚴寺規模很大，稱為「南山第一古剎」，寺右有一株1400餘年的銀杏樹，樹幹粗壯，枝葉茂盛。南台寺建於六朝，到現在已有1400多年。日本佛教曹洞宗視南台寺為祖庭。藏經殿因明太祖賜大藏經一部存放於此，故名藏經殿。其周圍層巒疊翠，古木參天，景色秀麗，附近有搖錢樹、同根生、連理枝等奇樹以及允春亭、梳妝台、釣魚台等古跡。「藏經殿之秀」為南嶽四絕之一。方廣寺處於南嶽峰嶺間，古樹蒼蒼，流水潺潺，幽雅深邃，因而有「方廣寺之深」的說法。
南嶽最大的寺廟是位於衡山腳下的南嶽廟。它規模宏大，佈局嚴謹，佔地面積多達98500平方米，在南方一帶也是數一數二的大廟。南嶽廟始建於唐，歷代進行重修、擴建，規模不斷擴大。現存建築是清代重修的。整個廟宇有9進，包括正殿、寢宮、御書樓、盤龍亭等建築。正殿高22米，莊嚴肅穆，氣勢雄渾。殿內有72根石柱，象徵著衡山七十二峰。正殿中央供奉著「南嶽司天昭聖帝」，即祝融神君。南嶽廟以總體佈局完整著稱。