Wardzia to klasztor i schronienie wykute w ścianie góry Eruszeti, wysoko nad lewym brzegiem Mtkwari (Kury), ok. 30 km od Aspindzy. Ludzie mieszkali w tej dolinie już w epoce brązu, a w okolicy znano wcześniejsze pustelnie w skale, ale Wardzię zaplanował dopiero król Jerzy III (1156–1184) jako miejsce, w którym ludność pogranicza mogła się schronić przed najazdami Turków seldżuckich. Badacze wyróżniają cztery fazy budowy: za Jerzego wyznaczono teren i wykuto pierwsze komnaty; między jego śmiercią w 1184 r. a ślubem córki w 1186 r. wykuto i ozdobiono główną cerkiew; za samodzielnych rządów Tamar, do bitwy pod Basiani ok. 1203 r., powstała większość mieszkań, mury, wodociąg i system nawadniania pól; czwarta faza to odbudowa po katastrofie z 1283 r. Według kronik Tamar przeniosła tu wspólnotę z Górnej Wardzii (Zeda Wardzia) i ufundowała cerkiew dla cudownej ikony Matki Bożej z Wardzii, a przed wyprawą przeciw sułtanowi Rukn ad-Dinowi, zakończoną zwycięstwem pod Basiani, modliła się tu za wojsko.

Najbardziej znana jest legenda o nazwie. Mała Tamar miała się zgubić w labiryncie grot, a gdy szukający jej wuj zaczął wołać, odpowiedziała: „Ak war, dzia!”, czyli „Tu jestem, wujku!”. To ludowa etymologia, nie historia, ale każdy przewodnik ją opowiada. Pewniejsze są liczby: skalne miasto ciągnie się przez ok. 500 m ściany i miało do 19 poziomów. W samej części wschodniej archeolodzy policzyli 79 mieszkań z 242 pomieszczeniami, wśród nich kaplice, aptekę, „komnatę Tamar” i 25 piwnic winnych, w których w podłogę wpuszczono 185 kwewri, glinianych dzbanów na wino. Część zachodnia miała refektarz z piekarnią, piece chlebowe i kuźnię. Wodę doprowadzano ok. 3,5 km akweduktem z Górnej Wardzii, a do komnat prowadziły ukryte tunele, którymi w razie oblężenia można było zejść do rzeki.

Sercem Wardzii jest cerkiew Zaśnięcia Bogurodzicy, wykuta w skale i obmurowana od frontu, o wymiarach ok. 8 × 14,5 m i wysokości ponad 9 m. Jej malowidła należą do najważniejszych w średniowiecznej Gruzji. Na północnej ścianie fundator dekoracji, eristawi Kartlii Rati Surameli, ofiarowuje cerkiew Matce Bożej, a obok stoją Jerzy III i Tamar z modelem świątyni, w bizantyjskich szatach koronacyjnych i z nimbami. Tamar nie ma wstęgi mężatki, a podpis życzy jej długiego życia, czego brak przy ojcu: stąd datowanie na lata 1184–1186. To najstarszy z czterech znanych portretów królowej namalowanych za jej życia. Ciekawostka dla dociekliwych: to formalnie nie freski, bo farby kładziono na suchy tynk (technika secco). Malarz podpisał się w części ołtarzowej imieniem Giorgi.

W 1283 r. trzęsienie ziemi oderwało przednią część zbocza. Zawaliły się zewnętrzne ściany wielu komnat i część tuneli, a wnętrza, które miały być ukryte w skale, stanęły otworem: to, co dziś wygląda jak plaster miodu na urwisku, było kiedyś ukrytym miastem. Wardzia przetrwała najazd mongolski w latach 90. XIII w., ale w 1551 r. złupiły ją wojska perskie szacha Tahmaspa I; kronikarz Hasan Beg Rumlu nazwał ją cudem, „niezdobytym jak mur Aleksandra”. Po wejściu Osmanów w 1578 r. mnisi odeszli, a groty przez stulecia służyły pasterzom, stąd okopcone sklepienia wielu komnat. Od 1985 r. działa tu muzeum-rezerwat, a pod koniec lat 80. do Wardzii wróciło kilku mnichów [data powrotu do sprawdzenia], którzy mieszkają w zamkniętej dla zwiedzających części ściany.

Królowa Tamar jest w Gruzji świętą: jej dzień, Tamaroba, przypada 14 maja, a jej imię nosi tu co druga ulica i niezliczone dziewczęta. Przy cerkwi w Wardzii jest źródło nazywane Łzami Tamar, które według tradycji dawało wodę w czasie oblężeń; pielgrzymi nabierają z niego wodę do butelek. Dolina Mtkwari między Chertwisi a Wardzią to kraina dawnych tarasów winnych Meschetii, z wioskami, w których po latach przerwy znów sadzi się winorośl, i z drugą twierdzą, Tmogwi, na przeciwległym brzegu. Wardzia i Chertwisi są razem na liście wstępnej UNESCO, a ICOMOS porównywał je z klasztorami skalnymi Kapadocji.