La Chiesa del Carmine (fondata nel 1505 e più volte rimaneggiata) segna il limite Nord del centro storico, e assieme all'annesso Convento dei Carmelitani (1520), sorge sulla roccia nella parte più alta di quel versante, praticamente inaccessibile dalla parte esterna dell'antica città (attualmente via Ennio).

La facciata risale alla prima metà del XVIII sec. Il portale è arricchito da un medaglione con la Madonna del Carmelo. Un ampio finestrone si apre nel secondo ordine di lesene. Completa in alto la composizione un timpano con cornice curvilinea, all'interno del quale vi è lo stemma dell'Ordine dei Carmelitani.

Alla maestosa facciata che sovrasta un'angusta piazzetta, si oppone un interno semplice, con pianta cinquecentesca composta da una navata centrale con volta a botte e due navate laterali con volte a stella.

In una cappella alla sinistra dell'altare è posto un artistico presepe in pietra, opera eseguita nel 1530 dal celebre scultore locale Stefano da Putignano; notevole inoltre l'affresco bizantino che raffigura S. Maria della Grotta dei primi decenni del XIV secolo, ricavato dall'omonima cappella - cripta quando nel 1505 furono costruiti chiesa e convento dei Padri Carmelitani.

Maestoso è anche l'edificio conventuale, il cui chiostro (1590) è interamente affrescato con rappresentazioni di scene bibliche. Il convento è rimasto tale fino alla metà del XVIII sec., poi ha assunto la funzione di carcere mandamentale. Attualmente, una parte dei locali ospita una Scuola Materna ed un Istituto Professionale, mentre nell'ala anticamente destinata a carcere vengono periodicamente allestite mostre ed esposizioni.

Di fronte alla Chiesa del Carmine sorge l'omonima Congrega, dalla quale, per tradizione, la sera del Giovedì Santo, parte il pellegrinaggio dei confratelli incappucciati (in dialetto «Bubbli-Bubbli») per la visita dei Sepolcri.