L'imperatore romano Giustiniano I, nato nel sud della Serbia, volle costruire una città - che portasse il suo stesso nome - nel territorio in cui era nato. Così, nel VI secolo dopo Cristo, fondò Giustiniana Prima, una delle più importanti città bizantine dell'area Balcanica.
Conosciuta anche col nome di Caričin grad, la Città di Caričin, dal vicino fiume Caričina (il fiume dell’imperatrice), fu eretta su un altopiano vicino alla foce dei due fiumi, sui pendii miti che scendono dal Monte Radan verso il bacino di Leskovac, in un luogo fuori dalle strade principali.
I resti di ben 10 chiese paleocristiane (basiliche) rinvenuti sparsi per tutta la località confermano lo status della città che fu centro ecclesiastico dell'intero nord illirico. Un tour del sito circondato dalle mura, vi porterà alla visita delle tre sezioni della città: l'Acropoli, la Città Alta e la Città Bassa.
All'Acropoli, la parte eretta per prima, dominano i resti della grande basilica episcopale e del palazzo episcopale. Immediatamente dietro la chiesa, invece, è possibile scorgere i resti di una grande piscina scolpita nella pietra, il cui riempimento era affidato ad un complesso sistema idrico e un lunghissimo acquedotto (ben 16 chilometri!) che arrivava fino a Petrova Gora. Nel forum a forma circolare presente sotto questo complesso, un tempo dominava la monumentale statua placcata in oro dedicata al fondatore della città. Attualmente in questa zona si trovano i resti della chiesa con un mosaico decorato con nove tonalità differenti. I resti della basilica nella Città Bassa sono decorati con un monogramma dedicato all'imperatore Giustiniano, mentre non lontano dalle mura della città si trova ciò che resta delle terme romane.
L'anno 615 è considerato dagli storici l'inizio della fine del potere della città: spinta da frequenti incursioni degli Avari e Slavi, la popolazione locale iniziò ad abbandonarla sempre più in massa; si crede che un incendio oppure l’interruzione del corso d’acqua dell’acquedotto durante frequenti assedi abbia causato la fuga degli ultimi abitanti di Giustiniana Prima, e con essi la fine della gloria e del prestigio di questa potente città romana dove una passeggiata tra i resti delle mura, le strade coi portici, le numerose basiliche e gli edifici pubblici e privati, muniti di sistemi idrici, piscine e terme, rimandano alle grandi conquiste della civiltà sorte sulla scia del patrimonio greco-romano.