La dynastie de la comtesse Celje avait la dynastie la plus forte de Slovénie aux XIVe et XVe siècles et leur siège au pouvoir était cette forteresse qui se câlinait au sud de la ville moderne.
Il a formé l'enceinte supérieure dans les années 1930 et a gardé une ville entière à l'intérieur de son aile extérieure, ce qui en fait la plus grande forteresse de Slovénie à l'époque.
Dans le complexe, il y a une tour Freddy de quatre étages, où le comte Hermann II a emprisonné son fils Freddy II après être tombé amoureux de la mauvaise femme.
