Asi tři kilometry východně od České Kamenice se nachází unikátní skalní útvar Pustý zámek (Fredevald či Wüstes Schloß). Tento strmý skalní ostroh, tyčící se nad údolím říčky Kamenice, je tvořen horizontálně uspořádanými čtyřbokými i šestibokými znělcovými sloupci, z nichž některé jsou dlouhé až 25 metrů, a tloušťku mají téměř dva metry.
Na úpatí skály jsou sloupce uloženy vodorovně, ale směrem vzhůru se zvedají do svislejší polohy, takže nakonec vytvářejí obrovský vějíř. Sloupce byly obnaženy při stavbě silnice a železnice, které údolím vedou. Stěna ostrohu má výšku 50 metrů a nachází se 405 metrů nad mořem. Takto skála ale původně nevypadala. Pustý zámek společně s Břidličným vrchem tvořily celistvý znělcový masiv. Protékající říčka však postupem času vyhloubila skalní soutěsku, která nyní oba útvary odděluje. Části skal se také rozlámaly při výstavě komunikací.
Na vrcholu ostrohu Pustý zámek je zřízena vyhlídka, z níž je rozhled do údolí říčky a výhledy na protější Břidličný vrch a vzdálenější Střední vrch. Pod ostrohem se nachází zřícenina hradu Fredevald. Ten byl pravděpodobně založen ve 13. století, aby sloužil k ochraně obchodní stezky, která vedla údolím Kamenice do Žitavy, a celkově měl zajišťovat ochranu této oblasti panství pro kamenickou vrchnost. Mohl ho tedy vystavět rod Michaloviců, jimž od roku 1283 českokamenické panství náleželo. Písemné zmínky o hradu se ale objevují až v roce 1406 v Českokamenické městské knize. Tehdy už panství náleželo Hynku Berkovi z Dubé. Období vzniku hradu dosud nebylo přesně určeno, takže nad jeho původem se prozatím vznáší otazník. Jisté však je, že roku 1440 byl hrad dobyt a zničen.
Na vrchol skály vede stezka, která však není původní. Současně se zřízením vyhlídky ji v roce 1890 upravil Českokamenický horský spolek.
Dnes jsou ostroh Pustý zámek i zbytky hradeb Fredevald součástí chráněné přírodní rezervace Pustý zámek a patří i k naučné stezce Okolím Studence, která tudy vede; Pustý zámek je jedním z jejich zastavení.