Immer mehr Experten warnen, dass sich Künstliche Intelligenz (KI) verselbstständigen und zu einer Bedrohung für die Menschheit werden könnte. So fordert Dario Amodei, Chef von Anthropic, einer der größten KI-Entwicklungsfirmen, „das Tempo zu verlangsamen, mit dem wir Fähigkeiten von KI-Modellen verbessern“, und die gewonnene Zeit zu nutzen, um menschliche Kontrolle über KI sicherzustellen. Open-AI-Chef Sam Altman (u.a. Chat-GPT) und Elon Musk, der ein eigenes KI-Unternehmen entwickelt, haben Amodei zugestimmt. Anthropic-Sicherheitsexperte Evan Hubinger beziffert die Gefahr, dass KI die Menschheit im nächsten Jahrzehnt auslösche, auf über zehn Prozent und vergleicht sie mit einem Flugzeug: Würde man bei einer solchen Absturzwahrscheinlichkeit einsteigen?
Vom Ruf der wichtigsten KI-Entwickler nach Selbstbeschränkung will US-Präsident Trump nichts wissen: Entscheidend sei, den KI-Wettlauf gegen China zu gewinnen. Papst Leo XIV. hat davor gewarnt, dass der technische Fortschritt außer Kontrolle geraten könnte – in der Enzyklika Magnifica humanitas und auch danach immer wieder.