Un rasgo distintivo de esta isla es a homónima iglesia de Riddarholmen, que los suecos llaman Riddarholmskyrkan. Tiene la estructura de una abadía y es conocida en todo el mundo como la tumba de los primeros gobernantes suecos.

Fue el soberano Magnus III Birgersson quien decidió construirla para la congregación franciscana en la segunda mitad del 1200. La primera piedra se colocó en 1270, mientras que los trabajos de construcción duraron unos quince años. Nació una iglesia de estilo gótico, caracterizada por dos naves, pero sin torre. En los primeros años de 1400 el edificio sagrado fue ampliado con la construcción de las capillas del transepto. De los franciscanos la iglesia pasó a los benedictinos, que se establecieron a principios de 1500. Más tarde la Corona de Suecia se convirtió en la propietaria de la abadía.

A finales de 1500 se añadió la torre, pero en 1835 fue completamente destruida por una tormenta. Así que se construyó una sustituta que tiene una aguja de hierro de 90 metros de altura. En el interior se pueden ver detalles típicos del gótico desarrollado en los países bálticos, como el uso de ladrillos. Curiosos los muros en los que están expuestos muchos escudos de los Caballeros de la Orden de los Serafines.

En la isla de Riddarholmen vale la pena visitar el Viejo Parlamento sueco: el Gamla Riksdagshuset. Curiosamente, el edificio se construyó sobre la estructura que había albergado, en la orden, un monasterio, una guarnición de hospital, una residencia médica e incluso la primera prisión de Estocolmo.

Un rediseño posterior se remonta a mediados del siglo XIX, cuando la estructura se amplió para dar cabida al primer Parlamento bicameral. Su función original cambió a principios de 1900, después de que el Parlamento se trasladara a la isla de Helgeandsholmen.