Le Puy leży w kotlinie wśród wygasłych wulkanów Velay, a nad dachami miasta sterczą ich resztki: kominy z zastygłej lawy, które erozja oczyściła z miękkich skał dookoła. Na Rocher Corneille, bazaltowym kominie wysokim na 132 m, stoi Notre-Dame de France, żeliwna Madonna z Dzieciątkiem wysoka na 16 m. Odlano ją w Givors ze 150 ton żeliwa z rosyjskich armat okrętowych zdobytych w Sewastopolu: biskup Auguste de Morlhon wyprosił je u Napoleona III w 1855 r., trzy dni przed upadkiem twierdzy. Posąg poświęcono 12 września 1860 r. przy ok. 120 tys. wiernych. Do dziś krąży plotka, że rzeźbiarz Jean-Marie Bonnassieux skoczył z niego, bo umieścił Dzieciątko po złej stronie; to nieprawda.

Na sąsiedniej iglicy Aiguilhe, wysokiej na 82 m, stoi kaplica Saint-Michel. Zbudował ją kanonik Truannus z inicjatywy biskupa Godescalca i ukończył w 961 r.; prowadzi do niej 268 stopni. Sam Godescalc w 950–951 r. wybrał się z licznym orszakiem do grobu św. Jakuba w Santiago i jest jednym z pierwszych znanych z imienia pielgrzymów spoza Hiszpanii. Od niego wywodzi się Via Podiensis, droga z Le Puy do Santiago, jedna z czterech głównych francuskich dróg św. Jakuba; od 2010 r. jej początek na schodach katedry znaczy drewniany posąg świętego.

Katedra Notre-Dame-de-l'Annonciation, romańska, z kopułami na wzór bizantyjski, ma fasadę z wielobarwnych kamieni wulkanicznych w pasy i mozaiki. Wchodzi się do niej po 134 stopniach z ulicy, a dalej schodami prosto pod nawę: „wchodzi się przez pępek, a wychodzi przez uszy”, jak mówił jeden z zakonników. Przy ołtarzu stoi Czarna Madonna z XVII w.; poprzednią, według tradycji dar św. Ludwika z krucjaty, rewolucjoniści spalili 8 czerwca 1794 r. na placu du Martouret. Wielkie jubileusze, ogłaszane, gdy Zwiastowanie (25 marca) wypada w Wielki Piątek, należą do najstarszych w Europie; ostatni był w 2016 r. Le Puy słynie też z koronek, zielonej soczewicy i likieru werbenowego Verveine du Velay.