Ok. 15 km na północny wschód od Kyrdżali, nad wsią Gorna Krepost i złotonośną rzeką Perperek, wznosi się skaliste wzgórze wysokie na ok. 470 m. Ludzie bywali tu już ok. 5000 r. p.n.e. W epoce brązu wykuto w skale wielki okrągły ołtarz, a później na szczycie wyrosło całe miasto: domy, schody, kanały i mury, wszystko wycięte w litej skale albo z niej zbudowane. Archeolodzy nazywają je największym zespołem megalitycznym na Bałkanach. Nazwa może pochodzić od trackiego słowa „skała”, choć Owczarow wiąże ją z bizantyjską złotą monetą perperą.

Bułgarski archeolog Nikołaj Owczarow, który kopie tu od 2000 r., utożsamia wzgórze z najsłynniejszą wyrocznią Dionizosa u Traków. Herodot (ok. 484–425 p.n.e.), nazywany ojcem historii, pisał o wyroczni na wysokim szczycie, prowadzonej przez kapłanów z plemienia Bessów, podobnej do delfickiej. Swetoniusz opowiada, że ojciec cesarza Augusta, Oktawiusz, pytał w Tracji wyroczni Dionizosa o los syna. Gdy wylał wino na ołtarz, płomień buchnął tak wysoko ponad dach świątyni, że kapłani wróżyli chłopcu panowanie nad światem. Wróżba się spełniła: syn Oktawiusza to August (63 p.n.e.–14 n.e.), który zakończył rzymskie wojny domowe i jako pierwszy cesarz rządził Rzymem od 27 r. p.n.e. do śmierci. Ten sam znak miał się podobno ukazać Aleksandrowi Wielkiemu (356–323 p.n.e.). Wielu trakologów, m.in. Walerija Fol, nie zgadza się z tym utożsamieniem i szuka sanktuarium Dionizosa gdzie indziej. Wątpliwości dotyczą jednak tylko wyroczni, bo nikt nie kwestionuje, że wzgórze było przez tysiąclecia ważnym miejscem kultu.

Potem przyszli Rzymianie, którzy zbudowali na szczycie piętrowy pałac i twierdzę z murami grubymi do 2,8 m. W późnym antyku stanął tu kościół: w 2005 r. znaleziono jego ambonę z greckimi napisami. Owczarow uważa, że Perperikon był siedzibą biskupa, a stąd na początku V w. Niceta z Remezjany nawracał Bessów. Niceta (ok. 335–414) był biskupem Remezjany, dzisiejszej Beli Palanki w Serbii. Jego przyjaciel, poeta Paulin z Noli, sławił go w wierszu za to, że nauczył dzikich górali śpiewać pieśni o Chrystusie. Część uczonych przypisywała mu też hymn „Te Deum”, śpiewany do dziś w całym Kościele zachodnim, ale to autorstwo pozostaje sporne. Po Rzymianach mieszkali tu Goci, Bizantyjczycy i Bułgarzy, aż w 1362 r. zniszczyli ją Turcy. Mieszkańców uprowadzono w niewolę, a skalne miasto w ciągu kilkudziesięciu lat opustoszało.