UNO: KI könnte Existenz der Menschheit gefährden

Genf. Künstliche Intelligenz (KI) ist nach Ansicht der Vereinten Nationen (UNO) potenziell existenzgefährdend für die Menschheit. "Ich fordere daher hier und heute, dass wir verbindliche Garantien für die Sicherheit und den Schutz im Zusammenhang mit KI schaffen, bevor es zu spät ist", sagte Volker Türk, der UN-Hochkommissar für Menschenrechte, am Montag vor dem UNO-Menschenrechtsrat in Genf.

Derzeit konzentriere sich die Macht über diese Technologie bei einer Handvoll Menschen. Daher müssten sich die Staaten der Welt auf gemeinsame rote Linien einigen, so der österreichische Diplomat.

Die KI-Entwicklung wird derzeit von wenigen Unternehmen dominiert. Zu den Vorreitern gehören OpenAI, Anthropic und Google aus den USA sowie DeepSeek, Z.ai und Moonshot aus China. UNO-Generalsekretär Antonio Guterres hatte im Juli für eine koordinierte Regulierung dieser Technologie geworben. "Eine Technologie, die Volkswirtschaften neu gestalten, die Arbeitswelt verändern, Wahlen beeinflussen und das Sicherheitsgefüge verschieben kann, wird schneller eingeführt, als irgendjemand – einschließlich der Entwickler – damit Schritt halten könnte", warnte er. Die UNO ist mit ihren Warnungen vor den Gefahren der KI nicht allein. So veröffentlichte Papst Leo XIV. im Mai eine Enzyklika zu diesem Thema. Selbst Sam Altman, der Chef des ChatGPT-Entwicklers OpenAI, warnte vor einer drohenden Auslöschung der Menschheit.

Während die Europäische Union (EU) mit dem "AI Act" bereits ein Gesetzespaket zur Regulierung der Branche verabschiedet hat, plädieren die USA für einen zurückhaltenden Ansatz. Stattdessen sollten Staaten die "Carolina Principles" übernehmen. Diese sehen vor, auf neue Gesetze für KI zu verzichten und stattdessen Regeln für "neuartige" Anwendungsfälle zu schaffen. Der US-Regierung zufolge hat China, das sich mit den USA einen Wettlauf um die technologische Führung bei KI liefert, die Prinzipien bereits unterzeichnet. Bill Gates, der Mitgründer des Softwarekonzerns Microsoft, will im November mit Chinas Staatspräsident Xi Jinping über weltweite Beschränkungen für KI beraten.