Niewielkie ruiny, które można dziś zobaczyć obok kościoła w Gudhjem, to pozostałości po Sct. Kaplica Anny, ostatnia z pierwotnych siedmiu kaplic nadbrzeżnych. W 1893 roku ukończono budowę nowego kościoła, a los kaplicy pozostał nieznany. Pojawiły się jednak życzenia wykorzystania terenu na 30 nowych pochówków.
Nie wszyscy jednak chcieli, aby kaplica zniknęła, wystąpiono nawet do ministerstwa o nakaz konserwatorski, ale odmówiono, jednak około 1 m muru ma pozostać. Kiedy przeciwnicy rozbiórki chcieli zgłosić sprawę do Muzeum Narodowego, pospieszyli się z wysadzeniem kapliczki dynamitem, zanim dojdzie do konserwacji. Ruina została objęta ochroną w 1911 roku.
Istnieją pewne wątpliwości co do tego, kiedy faktycznie kaplica została zbudowana, ale szacuje się, że było to około XII-XIII wieku. Kaplica zbudowana jest jako gotycki domek z późnośredniowieczną kruchtą, jednak wykopaliska z 1957 roku wskazują, że obiekt powstał pierwotnie jako kaplica romańska i w średniowieczu został zmieniony na gotycki domek. Budynek mierzył 17,5 x 6,5 m i miał wysokość około 3,7 m. Po reformacji w 1536 roku do północnej strony budynku dobudowano kruchtę. Podczas głównego remontu w 1776 r. podwyższono całą nawę o 1 m, używając głównie piaskowca.
Mur został solidnie wykonany jako ściana skrzyniowa z surowego granitu z wypełnieniem z gontu i gruzu kamienia mnichów. Do wykonania otworów wokół drzwi i okien użyto cegieł. Dach pierwotnie składał się z dachówek typu mnich i mniszka, które zostały wymienione podczas głównego remontu w 1776 roku. Kaplica otrzymała nowy dach z murowanym szczytem od zachodu i półszczytem od wschodu. Nad zachodnim szczytem umieszczono ozdobną iglicę, a na zachodnim szczycie dzwonnicę, którą w 1870 roku zastąpiono nową, zaprojektowaną jako wizjer i umieszczoną za iglicą.
Wnętrze kościoła zostało ozdobione freskami z około XIII-XV wieku. Stół ołtarzowy jest częściowo zachowany, jest zamurowany wschodnim szczytem ze słabo zamurowaną skorupą z kamieni mnichów. Ołtarz, późnogotycki, z około 1475 – 1500 roku, od czasu rozbiórki znajduje się w Muzeum Bornholmskim. Jest to 3-skrzydłowa deska gabinetowa z płaskorzeźbionymi figurami. W centralnym punkcie znajduje się płaskorzeźba przedstawiająca łoże śmierci Maryi. W bocznych skrzydłach są święci, było ich ośmiu, ale jeden zniknął.
W 1940 roku Bornholmskie Stowarzyszenie Morskie umieściło na zachodnim szczycie kaplicy kamienną tablicę pamiątkową. Tablica pamiątkowa została postawiona w 100. rocznicę śmierci 11 fińskich marynarzy, którzy wraz ze swoimi statkami „Dyggan” i „Alexander” rozbito w Gudhjem na. 22 maja 1840 r.
