La Chiesa di San Giovanni degli Eremiti è uno degli edifici maggiormente rappresentativi nell'ambito della produzione di età normanna, costruita secondo modelli architettonici che hanno fuso insieme la cultura bizantina e quella islamica. A rivelarlo sono le proporzioni armoniose, la predilezione per le forma geometriche semplici, il nitido accostamento dei volumi e il trattamento austero della scatola muraria ad ampie superfici pressoché prive di accenti figurativi. La chiesa ha una pianta a croce commissa (a forma di T) con la parte sacra rivolta a Est. L'impianto planimetrico consiste in un'unica navata, suddivisa in due campate di forma quadrata, accostata a un pronunciato ma poco profondo corpo trasverso dal quale fuoriesce, all'esterno, solo l'abside centrale. Le conche absidali di protesi e diaconico, rispettivamente a sinistra e a destra del presbiterio sono, invece, ricavate entro lo spessore del muro. Il suo sviluppo tridimensionale è ottenuto per accostamento di volumi semplici ( cubi e cilindri ) sovrastati da cupole emisferiche dalla tipica colorazione rossa all’estradosso: due di maggiori dimensioni in corrispondenza della navata e tre più piccole lungo l'asse del corpo trasverso di cui una sul campanile che ricade nello spazio occupato dalla protesi. Il passaggio dal quadrato di base alla circonferenza e quindi dal cubo alla cupola - figure geometriche che caratterizzano l'intero schema compositivo - è strutturalmente ed elegantemente risolto per mezzo di quattro nicchie angolari ad archetti pensili degradanti alternati a finestre archiacute a triplo rincasso che illuminano dall'alto la navata. Una finestra centrale mette in comunicazione le due campate. Altre quattro piccole finestre si trovano sulla superficie cilindrica su cui poggia la calotta emisferica. In origine le finestre erano dotate di transenne rese a motivi geometrici e contornate da una iscrizione in caratteri cufici. Un esemplare venuto alla luce nel corso dei lavori ottocenteschi si trova alla Galleria Regionale di Palazzo Abatellis. Attraverso un vano ricavato nel muro del diaconicon, si accede a un ambiente più antico denominato “Sala Araba” di cui la chiesa ha occupato l'area a Nord. Nelle pertinenze di quest'ultimo edificio vi era anche un porticato del quale la chiesa ha utilizzato il muro di fondo come limite meridionale dell'aula. La chiesa di San Giovanni degli Eremiti comprende anche un chiostro.

Esistono varie ipotesi riguardo l'origine del complesso. Secondo quanto afferma Rocco Pirri sul luogo in cui è oggi il complesso vi era un monastero, dedicato a S. Ermete, fondato nel VI secolo da Papa Gregorio Magno e andato distrutto presumibilmente con l'invasione islamica. A seguito degli studi di Giuseppe Patricolo, nella seconda metà dell'Ottocento, si è fatta largo l'ipotesi che entro le strutture di età normanna siano state inglobati i resti di una “sala di preghiera” di età islamica, ipotesi tuttavia contrastata da altri studiosi. Problematica è anche l'origine del termine “Eremiti”. Molti studiosi ritengono derivi da S. Ermete, il nome del santo a cui era stato dedicato il primitivo monastero. L'assonanza del nome e l'intitolazione a S. Mercurio del piano su cui sorge S. Giovanni e del pozzo un tempo ivi esistente e noto per le sue acque miracolose, nonché del vicinissimo oratorio, sembrerebbe confermarne l'origine. Fu per volere del re Ruggero che attorno al 1132, nei pressi del Palazzo Reale, fu realizzata una abbazia dedicata a S. Giovanni e concessa ai monaci benedettini. Nel XIV secolo il monastero è in declino. Nel 1464, oramai pressoché privo di religiosi, per ordine di papa Paolo II venne ripopolato da monaci benedettini provenienti da S. Martino delle Scale. Ciò malgrado il decadimento dell'abbazia non si arrestò. Tra il terzo o quarto decennio del '500 si decise di attuare una riforma radicale del complesso che da struttura riservata ai soli monaci passò al servizio della comunità. L'ex Sala Capitolare fu trasformata in aula e resa accessibile alla popolazione. La chiesa antica assunse il ruolo di coro dei religiosi. Tali disposizioni rimasero fino alla fine dell'Ottocento quando l'architetto G. Patricolo, mosso da orgoglio patrio, nel tentativo di restituire al monumento il presunto aspetto originario, intraprese una estesa e incisiva campagna di restauri.

All’esterno l’edificio si impone all'attenzione per la semplicità dei volumi che definiscono la scatola muraria, sebbene la qualità cromatica dell’apparecchio murario, in conci squadrati di calcare e privi di rivestimento, contrasti con la vivace coloritura rossa delle cupole innalzate su brevi tamburi cilindrici. All’interno, un sorprendente sistema di trombe angolari a più rincassi, caratteristica distintiva delle chiese normanne cupolate, rende possibile il passaggio dal quadrato di base al cerchio su cui si imposta la cupola. Il raccordo, secondo la prassi costruttiva abituale, è ottenuto dalla rotazione del quadrato di base fino a raggiungere la forma di un ottagono (figura geometrica prossima al cerchio). Sui vertici dei lati così ottenuti si innalzano otto archi. Su quelli disposti lungo gli assi principali (nei sensi longitudinale e trasversale alla chiesa) si aprono le finestre che illuminano dall'alto le due campate di cui è composta la navata. Agli angoli una serie di archi pensili (tre in corrispondenza delle campate e solo uno su diaconico e presbiterio su cui insistono cupole di dimensioni minori) sono disposti in successione a degradare verso l'interno, mentre, una semi-volticina a crociera risolve l'attacco in corrispondenza degli angoli interni. Sulla sommità degli archi si imposta, in leggero aggetto, la base circolare della calotta entro cui sono aperte quattro piccole finestre. Quando lo spazio da coprire non corrispondeva con la forma del quadrato la si riconduceva a questa realizzando brevi tratti di volte cosi come è stato necessario eseguire per creare l'appoggio delle basi circolari delle piccole cupole all'incrocio fra navata e corpo trasverso e nel diaconicon . La particolare soluzione adottata per le coperture, come anche la singolare tessitura delle cupole e delle conche absidali in conci disposti ad anelli concentrici, di chiara derivazione islamica, sono espressioni di un sapere costruttivo che i normanni accettarono e seppero fare fruttare attraverso l'impiego di manodopera musulmana, facendo di ciò una propria caratteristica.