Das Schloss in Starý Hrozňatov (Altkinsberg) thront über dem an dieser Stelle relativ engen Muglbachtal auf einem steil abfallenden Felssporn. Es ist durch einen teilweise in den Felsen gehauenen Graben vom restlichen Hügel abgetrennt. Auffallend ist der wie ein Fremdkörper wirkende und aus gröber behauenen Steinen bestehende hohe, dunkle Turm. Er wird analog zum Erkennungszeichen der Egerer Burg „Schwarzer Turm“ genannt, besteht im Gegensatz zu diesem aber aus Kambrium-Schiefer statt aus Basalt. Die Burg Kinsberg gehörte zum Burgenring der Staufer um die Reichstadt Eger, einem Machzentrum des Nordgaus ab der ersten Jahrtausendwende.
Erstmals vermutet wird eine befestigte Anlage in Hrozňatov (Kinsberg) im Zusammenhang mit der Nennung von Ušalk von Kinsberk aus einem Ministerialen-Geschlecht der Reichspfalz Eger im Jahr 1188. 29 Jahre später wird ein Reichsritter Heinrich von Künsberg als Lehensnehmer der Staufer auf der Burg Kinsberg erwähnt. Für das Jahr 1233 ein frühgotischer Umbau der ursprünglich romanischen Anlage datiert. 1322 erwarb König Jan von Luxemburg Cheb und die Burg wurde ein Lehen der böhmischen Krone. Viele Besitzerwechsels folgten. 1608 erwarb sie Ritter Christoph Elbogner von Schönfeld und Ottengrün für 36.000 Rheingold. Um die Wende zum 17. Jahrhundert erfolgte ein schlossähnlicher Umbau im Renaissance-Stil.
Zum Ende des 30jährigen Krieges 1647 wurde die durch die bereits 1631 von den Schweden gebrandschatzte Anlage noch ein weiteres Mal von ihnen belagert, erobert und geplündert. Die Egerer Jesuiten bauten sie wieder auf, restaurierten Schloss und Schlosskirche im Barockstil und ergänzten weitere Gebäude. In diesem Zusammenhang erfolgt auch der Wiederaufbau der nahen Wallfahrtskirche Maria Loreto im noch heute erhaltenen äußeren Erscheinungsbild. Beide Anlagen blieben in deren Besitz bis zur Auflösung des Ordens im Jahre 1773. Es folgten wieder einige Besitzerwechsel. Im 19. Jahrhundert ließ Josef Antonín Halbmayer das Schloss nach dem Entwurf des Architekten Adam Haberzettl zum heutigen Aussehen im neugotischen Stil umbauen und die von den Jesuiten ergänzten Gebäude im Norden und Osten wurden entfernt.
Nach dem Zweiten Weltkrieg wurde die Anlage 1945 beschlagnahmt und von Grenzschutzeinheiten genutzt, die sie vor allem innen vollständig verwüstete und sogar über Sprengung und Abriss wurde nachgedacht. 1965 wurde das Schloss von der Galerie Eger erworben. Es wurden kurzzeitig alte Volkskunstwerke des Grenzgebietes dort restauriert und es sollten Ateliers und Bildhauerwerkstätten entstehen. 1968 wurde es sogar der Öffentlichkeit zugänglich gemacht. Nach dem Ende des Prager Frühlings wurde das Schloss allerdings wieder wegen der Grenznähe beschlagnahmt. Anfang der 90er Jahre wurde das Schloss zunächst erfolglos privatisiert. Erst ab 2007 erfolgte eine schrittweise vor allem äußerliche Sanierung.
Außer dem markanten Turm sind einige weiter Gebäudeteile aus der romanischen Anfangszeit erhalten. Die unzähligen, teils massiven Umbauten lassen das ursprüngliches Aussehen der Burg nur vermuten. Man kann aber auf Grund der prädestinierte Lage auf dem Felssporn und der immer noch imposanten Erscheinung die Wichtigkeit des Bauwerkes in der Vergangenheit erahnen.