Die kleine Ruine, die heute neben der Kirche von Gudhjem zu sehen ist, sind die Überreste von Sct. Anna-Kapelle, die letzte der ursprünglich sieben Kapellen an der Küste. Im Jahr 1893 wurde die neue Kirche fertiggestellt und das Schicksal der Kapelle blieb unbekannt. Es gab jedoch den Wunsch, das Gelände für 30 neue Bestattungen zu nutzen.
Doch nicht alle wollten die Kapelle loswerden, sie hatten sogar beim Ministerium einen Antrag auf Denkmalschutz gestellt, der jedoch abgelehnt wurde, etwa 1 m Mauer sollte erhalten bleiben. Als die Gegner des Abrisses den Fall dem Nationalmuseum vorlegen wollten, beeilten sie sich, die Kapelle mit Dynamit in die Luft zu sprengen, bevor ein Erhalt in Frage kommen konnte. Die Ruine wurde 1911 unter Denkmalschutz gestellt.
Wann die Kapelle tatsächlich erbaut wurde, ist nicht ganz klar, aber man schätzt, dass sie zwischen dem 12. und 13. Die Kapelle ist als gotisches Langhaus mit einem spätmittelalterlichen Vorbau gebaut. Eine Ausgrabung im Jahr 1957 zeigt jedoch, dass das Gebäude ursprünglich als romanische Kapelle gebaut und im Mittelalter in ein gotisches Langhaus umgewandelt wurde. Das Gebäude war 17,5 x 6,5 m groß und hatte eine Höhe von etwa 3,7 m. Nach der Reformation im Jahr 1536 wurde an der Nordseite des Gebäudes eine Vorhalle angebaut. Bei einer Hauptrenovierung im Jahr 1776 wurde das gesamte Kirchenschiff um 1 m erhöht, wobei hauptsächlich Sandstein verwendet wurde.
Das Mauerwerk wurde solide als Kastenmauer aus rohem Granit mit einer Füllung aus Schindeln und Bruchstücken von Mönchsstein errichtet. Für die Öffnungen um Tür und Fenster wurden Ziegelsteine verwendet. Das Dach bestand ursprünglich aus Mönchs- und Nonnenziegeln, die bei der Hauptrenovierung im Jahr 1776 ersetzt wurden. Die Kapelle erhielt ein neues Dach mit einem Ziegelgiebel im Westen und einem Halbbogen im Osten. Über dem Westgiebel wurde eine dekorative Spitze und auf dem Westgiebel ein Glockenturm angebracht, der 1870 durch einen neuen, als Guckloch gestalteten und hinter der Spitze angebrachten Turm ersetzt wurde.
Das Innere der Kirche ist mit Fresken aus dem 13. bis 15. Jahrhundert geschmückt. Der Altartisch ist teilweise erhalten, er ist am Ostgiebel mit einer schlecht gemauerten Schale aus Mönchssteinen zugemauert. Das spätgotische Altarbild aus der Zeit zwischen 1475 und 1500 ist seit dem Abriss im Bornholmer Museum untergebracht. Es handelt sich um ein 3-flügeliges Schrankbrett mit reliefartig geschnitzten Figuren. Der Mittelteil enthält ein Relief, das das Sterbebett Marias darstellt. In den Seitenflügeln sind Heilige, es waren acht, aber einer ist verschwunden.
Im Jahr 1940 wurde am Westgiebel der Kapelle von der Bornholmer Marinevereinigung eine steinerne Gedenktafel angebracht. Die Gedenktafel wurde anlässlich des 100. Jahrestages der 11 finnischen Seeleute errichtet, die mit ihren Schiffen „Dyggan“ und „Alexander“ bei Gudhjem Schiffbruch erlitten. 22. Mai 1840.
