Künstliche Intelligenz muss der Menschheit dienen, nicht der Macht weniger“: Dieser Kernsatz aus der kaum zwei Monate alten Enzyklika Magnifica humanitas von Papst Leo XIV. ist noch im Ohr, da macht sich besagte KI auch schon selbstständig: Ein Modell der Firma OpenAI brach vor wenigen Tagen eigenständig aus seiner Testumgebung aus, verschaffte sich Zugang zum offenen Internet und kaperte das System eines externen Unternehmens. Zu wessen Nutzen? Sicherlich nicht der Menschheit. Vielmehr sollte die KI bestimmte Testziele erreichen – dafür nutzte sie Schwachstellen, um Zugangsdaten zu ergaunern und geheime Informationen zu kapern.
Kardinal Reinhard Marx betrachtet Leos Mahnung als bestätigt: „Der Papst sieht auch die Möglichkeiten. Aber er tut das mit der klaren Überzeugung: Nur wir Menschen sollten bestimmen, was KI darf“, sagte er Vatican News. Man muss keine wilden Szenarien einer entfesselten, unkontrollierbaren KI ersinnen, um zu erkennen: Die Verantwortung des Menschen gilt nicht nur der Schöpfung gegenüber, sondern auch den Geistern, die er rief.