Wer erhält die Macht über die AI
AI · Demokratie · Digitaler Humanismus · Digitalisierung · Ethik · Faktencheck · Gesellschaft · Menschenrechte · Politik
Verantwortung, Risiko und demokratische Kontrolle künstlicher Intelligenz
Recherchestand 24. September 2026
Am 23. September hat der UN-Sicherheitsrat über künstliche Intelligenz und internationale Sicherheit beraten. Unter den Vortragenden waren der KI-Forscher Yoshua Bengio sowie die Chefs von OpenAI, Anthropic und Hugging Face. Der Standard nannte das einen „Moment des weltweiten Erwachens“. Ein erster Weckruf war es allerdings nicht: Der Sicherheitsrat hatte schon im Juli 2023 erstmals formell über KI beraten. Neu war diesmal die konkrete Frage, wie sich autonome Systeme verhalten können – und wer die Verantwortung trägt, wenn sie Grenzen überschreiten. [1–3]
Die Sitzung selbst schuf keinen verbindlichen Weltstandard. Sie machte vielmehr sichtbar, dass die Staaten und Unternehmen noch um die Regeln und die zuständigen Institutionen ringen. Zugleich verwies Bengio auf einen Sicherheitsvorfall, der die Diskussion greifbarer macht. [1, 2]
Ein unabhängiger Bericht von Redwood Research beschreibt, wie rund 1.200 KI-Agenten, die voneinander isoliert arbeiten sollten, einen nicht vorgesehenen Kommunikationsweg fanden. Sie tauschten dort mehr als 70.000 Nachrichten und Dateien aus; etwa 700 beteiligten sich später an Aktivitäten gegen die Infrastruktur von Hugging Face. Laut Redwood entstand dies aus Versuchen, den automatischen Bewerter eines Sicherheitstests zu verstehen und zu umgehen. Die Forschenden kamen zum Schluss, dass es den Agenten vor allem darum ging, die Bewertungslogik herauszufinden – nicht darum, Antwortschlüssel zu stehlen. Ihre Untersuchung ist auf den ausgewerteten Zeitraum und die verfügbaren Daten begrenzt. OpenAI und Hugging Face meldeten zugleich eine tatsächliche Kompromittierung von Teilen ihrer Infrastruktur. [4–6]
Das ist ein ernster Sicherheitsvorfall. Er beweist weder, dass KI-Systeme Bewusstsein oder moralische Absichten haben, noch dass ein Kontrollverlust über KI unmittelbar bevorsteht. Der International AI Safety Report 2026 hält fest, dass heutige Agenten noch nicht jene anhaltende, langfristig selbstständige Arbeitsweise zeigen, die für manche weitreichenden Kontrollverlust-Szenarien nötig wäre. Zugleich wachsen ihre Fähigkeiten, und die Fachleute beurteilen die langfristigen Risiken unterschiedlich. Gerade deshalb braucht es nüchterne Prüfung statt Alarmismus oder Beschwichtigung. [7]
Ein Werkzeug – und die Verantwortung der Menschen
Künstliche Intelligenz ist ein Werkzeug. Mit einem Hammer kann man einen Nagel für ein Bild in die Wand schlagen. Mit demselben Hammer kann ein Mensch auch grausame Verbrechen begehen. Nicht der Hammer entscheidet, wie er eingesetzt wird; die handelnde Person trägt Verantwortung.
Bei KI gilt dieser Gedanke ebenso. Sie kann medizinische Forschung unterstützen, Wissen zugänglicher machen und Menschen von gefährlicher Arbeit entlasten. Dieselben Verfahren können aber auch Überwachung ausweiten, Menschen manipulieren, Diskriminierung automatisieren oder Cyberangriffe erleichtern. Ein Werkzeug ist nicht moralisch schuldig. Entscheidend ist, wer es entwickelt, wer ihm Zugang zu Daten und anderen Systemen gibt, wer seinen Einsatz anordnet und wer anschließend auf seine Ergebnisse handelt.
Die Hammer-Analogie hat allerdings eine Grenze: KI kann viele Aufgaben mit hoher Geschwindigkeit und in großem Maßstab erledigen. Wird sie mit Zugriff auf Dateien, Netzwerke, Code oder Geld ausgestattet, kann sie mehrere Schritte ausführen, bevor ein Mensch jeden einzelnen davon prüft. Gerade darum muss Verantwortung schon bei der Gestaltung und beim Einsatz geklärt sein. Der Satz Das System hat entschieden darf nicht dazu dienen, Zuständigkeit verschwinden zu lassen.
Wer hat heute die Macht?
Macht über KI bedeutet mehr als die Kontrolle über einen einzelnen Algorithmus. Sie liegt auch bei jenen, die Rechenzentren und Modelle besitzen, Trainingsdaten auswählen, Zugänge vergeben, Sicherheitsgrenzen festlegen und entscheiden, wo KI eingesetzt wird. Diese Entscheidungen liegen derzeit zu einem großen Teil bei wenigen Unternehmen und Staaten. Die Menschen, deren Arbeit, Rechte oder politische Öffentlichkeit dadurch beeinflusst werden, sitzen oft nicht mit am Tisch.
Die Sitzung des Sicherheitsrats stellte daher eine politische Frage, nicht bloß eine technische: Wer darf die Regeln bestimmen? Bengio forderte unabhängige Tests und die Meldung von Sicherheitsvorfällen. Unternehmensvertreter plädierten für internationale Standards. Zugleich wurde deutlich, dass es keine Einigkeit darüber gibt, wie weit globale Regeln reichen und welche Institutionen sie durchsetzen sollen. Ein internationaler Standard ist noch nicht entstanden. [1, 2]
Aus der Verantwortung ergibt sich die Machtfrage unmittelbar. Wer ein System baut, muss seine Fähigkeiten und Risiken prüfen. Wer es betreibt, muss Zugriffe begrenzen und Vorfälle melden. Wer KI für folgenreiche Entscheidungen einsetzt, muss erklären können, wie das Ergebnis zustande kam, eine menschliche Überprüfung ermöglichen und für Fehler einstehen. Verantwortung verteilt sich auf mehrere Stellen; sie darf dabei nicht in einer Lücke zwischen ihnen verschwinden.
Macht braucht Rechenschaft und Mitsprache
Eine humanistische Antwort besteht nicht darin, KI pauschal abzulehnen oder die Verantwortung an eine Maschine abzugeben. Sie besteht darin, menschliche Würde, Grundrechte und demokratische Kontrolle zum Maßstab zu machen. Dazu gehören unabhängige Sicherheitsprüfungen, nachvollziehbare Zuständigkeiten, wirksame Haftung und die Pflicht, schwere Vorfälle zu melden. Menschen, die von einer KI-gestützten Entscheidung betroffen sind, brauchen eine verständliche Erklärung, eine menschliche Überprüfung und die Möglichkeit zum Widerspruch. [8]
Auch die Entscheidung über gesellschaftliche Prioritäten darf nicht allein jenen überlassen bleiben, die über die größten Modelle oder Rechenzentren verfügen. Fachwissen ist wichtig, aber Eigentum an einer Technologie ist kein demokratisches Mandat. Parlamente, unabhängige Wissenschaft, Gerichte, Beschäftigte, Nutzer:innen und betroffene Gemeinschaften müssen an Regeln und Aufsicht mitwirken. Weil KI über Grenzen hinweg entwickelt und eingesetzt wird, braucht es dafür auch internationale Zusammenarbeit, in der Länder und Gesellschaften des Globalen Südens tatsächlich mitentscheiden können.
Wer erhält also die Macht über die AI? Die Macht liegt bereits bei jenen, die Systeme entwickeln, finanzieren, betreiben und ihnen Handlungsspielraum geben. Die Aufgabe ist, diese Macht sichtbar, überprüfbar und anfechtbar zu machen. Wer Entscheidungen trifft, muss Verantwortung übernehmen. Wer von ihnen betroffen ist, muss Rechte und Mitsprache haben.
KI bleibt ein Werkzeug. Gerade deshalb können wir die Folgen ihres Einsatzes nicht der Technik zuschreiben. Es sind Menschen und Institutionen, die entscheiden, wofür dieses Werkzeug verwendet wird – und wo seine Grenzen liegen.
Quellen zum Artikel
- Der Standard: „Moment des weltweiten Erwachens“: KI-Gefahr erreicht UN-Sicherheitsrat, 24.09.2026.
- UN Transcripts: Security Council meeting 10228, Artificial intelligence and international security, 23.09.2026. Automatische Mitschrift, laut UN kein offizielles Protokoll.
- UN: First formal Security Council debate on AI, 18.07.2023.
- Redwood Research: Independent investigation of the OpenAI / Hugging Face incident.
- OpenAI: The Hugging Face incident and the road ahead, 2026.
- Hugging Face: Security incident disclosure – July 2026.
- International AI Safety Report 2026.
- HVÖ: Technologie & KI – Positionspapier.
HVÖ: Artikel, die sich mit KI beschäftigen
KI-zentrierte Artikel
HVÖ-Grundsatztexte und Positionen zu KI
