Mitten im Lande Kärnten, auf einem Hügel über dem Zollfeld, das Spuren keltischer, römischer und slawischer Besiedelung trägt, liegt das Schloss Tanzenberg. Der Name dürfte auf eine fehlerhafte Eindeutschung zurück-zuführen sein. Der unbewaldete Hügel Plešivec wurde nicht mit Kahlenberg (pleša), sondern mit Tanzenberg (ples-ati) übersetzt.

1247 wird ein Konrad als Besitzer genannt. In Urkunden von 1300 und 1341 wird die Familie Mordax (Mordachs) als Eigentümer bezeichnet. 1513 wird Kaiser Maximilian I. als Schlossherr erwähnt. 1515 erwerben die Brüder Sigmund und Wolfgang von Keutschach – Vettern des Salzburger Erzbischofs Leonhard – das Schloss. Mit ihnen beginnt eine rege Bautätigkeit (Renaissancebau Hauptgebäude). Bis in die zweite Hälfte des 17. Jahrhunderts bleibt das Schloss im Besitz der Keutschacher. Ihnen folgen die Grafen Attems, der Freiherr von Ankershofen, der Freiherr von Pfeilsheim. Eine Zeitlang gehörte das Schloss der bürgerlichen Familie Mayern, sodann der Familie Mayerhoffen. Von ihr geht es an das Adelsgeschlecht Fugger-Barenhausen über. Schließlich übernimmt es Ritter Georg von Guttmannsthal. Dieser verkauft das vom Verfall bedrohte Schloss 1898 an den Olivetanerorden- einen Zweig der Benediktiner-, der in Tanzenberg ein Kloster errichtet.

Im Südwesttrakt, wo sich einst ein prunkvoll ausgestatteter Festsaal befand, wird eine neuromanische, dreischiffige Emporenbasilika mit Rundapsis errichtet. Dem Renaissancebau wird zudem ein drittes Geschoß aufgesetzt.
1953 nimmt die Diözese Gurk-Klagenfurt das Kloster in Besitz. Unter dem Bischof Dr. Josef Köstner findet das Seminar „Marianum“ in Tanzenberg seine Heimat. Eine gute Unterbringung der Schüler verlangt Um- und Zubauten (1959 Schulgebäude, 1995 Internatstrakt, 2004 Generalsanierung). Die künstlerische Gestaltung der Kirche erfolgt unter dem Bischof Dr. Egon Kapellari in den Jahren 1986/87. Im Jahr 2009 wurde das Internat aufgrund stagnierender Schülerzahlen geschlossen!