Il castello è stato costruito nell’XI secolo su Colle San Giovanni, sui resti di fortificazioni preesistenti, probabilmente di età antica. Infatti presso il forte si trova la cosiddetta Porta Osca, accesso alla cinta fortificata dei Sanniti, con le mura ciclopiche, e l’elemento di collegamento della fortezza degli italici con quella medievale sarebbe proprio il mastio maggiore delle tre torri, che presenta evidenti strati di fortificazioni succedutesi nei secoli. Il restante borgo, invece, si sviluppò nel XIII secolo. Il castello di Castel di Sangro serviva da presidio militare, fu conteso da varie famiglie, a partire dai Longobardi, fino ai Normanni. Appartenuto ai Di Sangro, venne soprannominato il “Castello del Re”, fu poi conquistato da Jacopo Caldora, distrutto da Braccio da Montone nel 1421 ed abbandonato nel XVI secolo, quando iniziò a svilupparsi sempre più a valle il paese, dove sorse il palazzo feudale baronale, dove si insediò la famiglia Caracciolo, che acquistò il feudo.
Il terremoto della Maiella del 1706 dette il colpo di grazia alle mura del castello, la maggior parte delle quali crollò definitivamente. Del castello rimane la pianta quadrata irregolare, delimitata dalle basi di tre torrioni circolari, di cui la maggiore, detta “mastio” è la più antica e veniva impiegata come presidio di guardia dai Longobardi e prima ancora dai Sanniti, testimoniando la tipica funzione del castello nel IX secolo circa, quando fungeva da cittadella di controllo e riparo dagli assalti per la popolazione, con il torrione maggiore che fungeva anche da residenza del barone.
Il castello fu utilizzato anche durante la Seconda Guerra Mondiale come presidio militare, in quanto punto strategico e di globale osservazione. In mezzo alle torri si trova la chiesa dei Santi Cosma e Damiano, usata come cappella privata.