La Diocesi di Acerenza è una delle più antiche dell'Italia meridionale, certamente la prima fondata in Basilicata, forse dallo stesso San Pietro, che, recandosi da Brindisi a Roma, percorrendo la Via Appia, molto probabilmente soggiornò in Acerenza, predicandovi il Vangelo e lasciando alla sua partenza un "anziano" a guidare la nascente comunità cristiana: fu il primo Vescovo della Città e della Diocesi. Tuttavia il primo di cui si conosce il nome con certezza è il Vescovo Marcello, che fu Pastore intorno al 300 d.c.

Il Vescovo Godano, che al Concilio di Melfi nel 1059 fu una figura di spicco, legato agli interessi dei Normanni di Roberto il Guiscardo, ottenne dal Papa Nicolò II il titolo di Arcivescovo Metropolita e la Diocesi fu elevata ad Archidiocesi Metropolitana

Fu allora che l'Arcivescovo, con i generosi finanziamenti di Roberto, iniziò la costruzione di una nuova e più imponente Cattedrale, degna del nuovo e più importante ruolo del Vescovo e della Diocesi. Tuttavia fu l'Arcivescovo Arnoldo, divenuto Pastore nel 1067, a continuare i lavori, a mezzo di maestranze locali dirette certamente da architetti francesi, che si ispirarono alla architettura del monastero benedettino di Cluny. Fu lo stesso arcivescovo che nel 1080 poté consacrare solennemente il nuovo maestoso Tempio, dedicato a Santa Maria Assunta e a San Canio, il cui Corpo fu ritrovato appunto in quello stesso anno, durante i lavori di ripristino e di ampliamento.

La Festa della Dedicazione della Cattedrale, elevata alla dignità di Basilica Minore nel 1954, si celebra il 13 maggio di ogni anno.

La Cattedrale è in stile romanico - normanno ed è di una semplicità grandiosa e severa, con pianta a croce latina. Essa è lunga n. 69 e larga 23 con una crociera di m. 39 con 10 massicci pilastri , cinque per lato, 3 navate con transetto, tiburio ottagonale, 2 absidiole, coro con deambulatorio e cappelle radiali intorno all’absidiole, coro con deambulatorio e cappelle radiali intorno all’abside centrale.

La Cattedrale così come noi la vediamo oggi, è sorta sull'area della primitiva Chiesa Paleocristiana, a sua volta eretta sul luogo dove sorgeva un tempio pagano dedicato ad Ercole Acheruntino. Qua e là, sia all'interno che all'esterno, sono incastonati nel nuovo edificio resti sia dell'antico tempio pagano che della primitiva chiesa.

Tracce delle due costruzioni più antiche furono rinvenute sotto il pavimento della Cattedrale, rifatto completamente tra il 1975-1977. Accanto alla costruzione, sulla destra, in parte sotto l'attuale Casa Canonica, in parte sotto il pavimento del cortile, furono rinvenute tracce di una costruzione a pianta circolare, probabilmente il Battistero, come testimonierebbe anche la toponomastica, essendo la via che rasenta la Casa Canonica e la Cattedrale, intitolata a San Giovanni.