Ob technische Hilfsmittel und Errungenschaften für sich genommen moralisch neutral sind oder nicht, war immer schon umstritten. Während das klassische Beispiel des Messers, das in der Küche nützlich und in den Händen eines Mörders tödlich sein kann, noch relativ eindeutig für die moralische Neutralität spricht, wird es insbesondere mit der zunehmenden Komplexität der technischen Hilfsmittel immer deutlicher, dass Technik nicht immer wertfrei ist. Ob gewollt oder ungewollt, Maschinen und Systeme üben auf ihre Nutzer mitunter massive Zwänge aus, wirken mehr oder weniger unbemerkt auf sie zurück und verändern sie schließlich so tiefgreifend, dass die These der moralischen Neutralität unhaltbar geworden ist.
Im Fall neuer KI-Systeme ist es mit der moralischen Neutralität endgültig vorbei, davon zeigt sich Leo XIV. in seiner Enzyklika Magnifica humanitas, die das Erbe der kirchlichen Soziallehre in das Zeitalter der KI übersetzen will, überzeugt. Diese Überzeugung ist für den Ton und die Zielrichtung des lang erwarteten Lehrschreibens grundlegend.
Eine doppelte Betrachtungsweise
Die wichtige Unterscheidung, die Leo XIV. dabei trifft, ist die zwischen zwei Betrachtungsebenen: der abstrakten und der konkreten. Abstrakt betrachtet ist Technik tatsächlich moralisch neutral. Sie kann zum Guten und zum Schlechten verwendet werden, auch und gerade die KI. Damit wendet sich Leo XIV. sowohl gegen die Verteufelung als auch gegen die Vergöttlichung der KI. "Konkret betrachtet aber ist sie nicht neutral, weil sie die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen" (MH 9).
So sehr also "die KI", verstanden als allgemeine Bezeichnung für gewisse Technologien, an sich moralisch neutral ist, so wenig gilt das für einzelne KI-Systeme:
"Wir können KI nicht als moralisch neutral betrachten. In Wirklichkeit bringt jedes technische Artefakt Entscheidungen und Prioritäten mit sich: was es misst, was es ignoriert, was es optimiert und wie es Menschen und Situationen einstuft" (MH 104).
Gerade weil KI ja menschliche Intelligenz und Handeln imitieren soll (MH 99), ist jede KI hochgradig moralisch gefärbt. Design, Anwendungsbereiche, Trainingsdaten etc., alles spiegelt ethische und ideologische Überzeugungen, die bewusst oder unbewusst in die KI eingezeichnet werden.
Diese Betrachtungsweise des Papstes, der einerseits die moralische Neutralität der KI als Technologie und damit ihren möglichen Einsatz für das Gute anerkennt und andererseits klarsichtig erkennt, dass jede KI immer schon moralische Werte in sich trägt und es daher entscheidend ist, welche das sind, erklärt die zweigleisige Argumentation der Enzyklika in Bezug auf die Haltung der Kirche zu KI und ihren Anwendungen.
Einerseits spricht sich Leo XIV. nämlich klar und deutlich gegen bestimmte ideologische Anschauungen aus, die im Umkreis der treibenden Kräfte hinter der Entwicklung von KI angetroffen werden können. Andererseits ruft er aber zu einer verantwortlichen, klugen und partizipativen Gestaltung der Zukunft im Zeitalter von KI auf. Es ist, als ob er mit der linken Hand ein klares Stopp signalisiert, während er als Geste der Kooperationsbereitschaft die rechte Hand reicht.
Auf der ideologischen Ebene kennt Leo XIV. gut augustinisch nur ein Entweder-Oder: Turm zu Babel oder Nehemias Aufbau der Mauern Jerusalems (MH 7-10, 90, 129, 184-185, 241-242). Entweder die Kultur der Macht – oder die Zivilisation der Liebe. Entweder Effizienz, Kontrolle und schließlich Totalitarismus – oder Menschenwürde, Allgemeinwohl und Pluralismus.
Gegen die Soziallehre der Kirche steht hier das explizite oder implizite Welt- und Menschenbild des Trans- und Posthumanismus (MH 115-117).
Es bleibt nicht beim Nein
Die Haltung von Macht- und Machbarkeitsdenken, gegen die sich Leo XIV. stemmt, gibt es nicht ausschließlich in der KI-Welt; und sie ist dort auch nicht unangefochten. Allerdings sieht der Papst, dass viele konkrete Anwendungen von KI genau dieses Welt- und Menschenbild transportieren und verstärken, ob im Bereich der großen Sprachmodelle wie ChatGPT, im Design von Social Media, in der arbeitsplatzvernichtenden Automatisierung von Produktion und Dienstleistung oder in autonomen Waffensystemen. Anhand zahlreicher konkreter Beispiele schädlicher oder risikobehafteter KI-Anwendungen deckt Leo XIV. die zugrundeliegenden verfehlten ideologischen Versatzstücke auf.
Allerdings bleibt es nicht bei diesem Nein zu einer Ideologie, die mit der christlichen Weltanschauung und dem Gedeihen echter Menschlichkeit unvereinbar ist. Die Enzyklika verbindet in jedem der drei Kapitel, die sich mit den Herausforderungen und Risiken unseres Zeitalters befassen (III-V), die pars destructiva mit einer pars constructiva. Die einhaltgebietende Hand wird durch die ausgestreckte Hand ergänzt. Das päpstliche Lehrschreiben ruft alle Menschen guten Willens auf, ein Bündnis zur verantwortungsvollen und geduldigen Gestaltung einer menschenwürdigen Zukunft und damit auch einer entsprechenden Regulierung und Implementierung von KI einzugehen.
Für diese "Baustelle unserer Zeit" (MH 236-242) sollen Wahrheit und Weisheit, echte soziale Gerechtigkeit, ganzheitliche Bildung, verkörperte Relationalität und die Hoffnung auf wahren Frieden leitend sein. Nur technologische Anwendungen, die jeden Menschen und dem ganzen Menschen dienen (MH 82-85) bauen an einer Zukunft die dem Reich Gottes entspricht.