Internationales KI-Sicherheitsabkommen

Wenn du in den Nachrichten liest, Großbritannien und die USA seien zu den Erstunterzeichnern eines „internationalen KI-Sicherheitsabkommens“ gehört, klingt das nach einem großen, neuen Sicherheitspakt speziell für KI. Die Realität ist etwas nuancierter – und trotzdem bedeutsam.

Das Abkommen, um das es geht

Gemeint ist das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit (CETS Nr. 225, oft kurz „KI-Konvention“ oder „Framework Convention on Artificial Intelligence“). Es ist der erste rechtsverbindliche internationale Vertrag, der Aktivitäten im gesamten Lebenszyklus von KI-Systemen an Menschenrechte, Demokratie und Rechtsstaatlichkeit binden will.

Der Text wurde vom Ausschuss für künstliche Intelligenz (CAI) des Europarats ausgearbeitet und am 17. Mai 2024 vom Ministerkomitee angenommen. Zur Unterzeichnung freigegeben wurde er am 5. September 2024 bei der Justizministerkonferenz in Vilnius. Verhandelt haben die 46 Mitgliedstaaten des Europarats gemeinsam mit der Europäischen Union und mehreren Nichtmitgliedstaaten (darunter USA, Kanada, Japan, Israel, Australien und weitere).

Die EU hat das Abkommen am 5. September 2024 im Namen ihrer Mitgliedstaaten unterzeichnet. Parallel unterzeichneten unter anderem Großbritannien, die USA, Israel, Andorra, Georgien, Island, Norwegen, die Republik Moldau und San Marino. Später kamen Kanada und Japan (Februar 2025) sowie weitere Staaten hinzu. Das Abkommen steht auch anderen Staaten offen.

Wichtig: Es handelt sich um einen völkerrechtlichen Rahmenvertrag. Er verpflichtet die Vertragsparteien, Risiken von KI-Systemen – etwa Diskriminierung, Eingriffe in die Privatsphäre, Beeinträchtigung demokratischer Prozesse oder Sicherheitsbedrohungen – im Einklang mit bestehenden Menschenrechtsverpflichtungen und rechtsstaatlichen Prinzipien zu adressieren. Es ist kein detailliertes „KI-Strafgesetz“ mit neuen globalen Straftatbeständen und auch kein technisches Regulierungsinstrument wie der EU-AI-Act.

Das Abkommen tritt in Kraft, sobald fünf Unterzeichner (davon mindestens drei Europaratsmitglieder) es ratifiziert haben. Bislang (Stand Mitte 2026) liegt die Zahl der Ratifikationen noch niedrig; die EU hat den internen Prozess zur Zustimmung und zum Abschluss inzwischen weitgehend durchlaufen.

Was das Abkommen konkret bedeutet

Die Konvention setzt vor allem auf grundlegende Prinzipien, die über den gesamten Lebenszyklus von KI-Systemen gelten sollen:

• Menschenwürde und individuelle Autonomie
• Gleichheit und Nichtdiskriminierung
• Achtung der Privatsphäre und des Datenschutzes
• Transparenz und Aufsicht
• Rechenschaftspflicht und Verantwortlichkeit
• Zuverlässigkeit und sichere Innovation

Sie verfolgt einen risikobasierten, abgestuften Ansatz: Je schwerwiegender und wahrscheinlicher nachteilige Auswirkungen auf Menschenrechte, Demokratie oder Rechtsstaatlichkeit sind, desto stärker müssen die Maßnahmen ausfallen. Das ähnelt dem Ansatz des EU-AI-Acts, ist aber bewusst technologie-neutral und prinzipienbasiert formuliert, damit der Text länger haltbar bleibt.

Zu den konkreten Anforderungen gehören unter anderem Risik- und Folgenabschätzungen, Transparenz (etwa der Hinweis, dass man mit einem KI-System interagiert), Dokumentationspflichten bei riskanteren Systemen sowie die Möglichkeit, bestimmte Anwendungen zu verbieten oder auszusetzen, wenn sie unvereinbar mit den geschützten Werten sind. Betroffene sollen effektive Rechtsbehelfe haben.

Geltungsbereich: Öffentlicher Sektor klar, Privatsektor mit Spielraum

Der Vertrag gilt zwingend für Aktivitäten von Behörden und von privaten Akteuren, die im Auftrag oder im Namen von Behörden handeln (z. B. Auftragnehmer der öffentlichen Hand).

Für den übrigen Privatsektor gibt es bewusst Flexibilität: Jede Vertragspartei muss erklären, wie sie die Risiken privater KI-Aktivitäten adressiert – entweder durch direkte Anwendung der Konventionsprinzipien oder durch andere geeignete Maßnahmen. Dabei darf sie jedoch nicht hinter ihren bestehenden internationalen Verpflichtungen zum Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zurückbleiben. Diese Lösung war ein Kompromiss, damit auch Staaten wie die USA unterschreiben konnten.

Ausgenommen sind in der Regel Aktivitäten im Bereich der nationalen Sicherheit (solange sie dem Völkerrecht und demokratischen Grundsätzen entsprechen) sowie reine Forschungs- und Entwicklungstätigkeiten, solange sie keine unmittelbaren Auswirkungen auf die geschützten Werte haben.

Warum das Abkommen trotzdem zählt

Auch wenn der Text keine detaillierten technischen Vorgaben und keine direkten Verpflichtungen für private Unternehmen enthält, setzt er einen gemeinsamen internationalen Referenzrahmen. Er bindet Staaten an die Einhaltung von Menschenrechten und Rechtsstaatlichkeit beim Umgang mit KI und schafft eine Plattform für Kooperation und Monitoring. Für die EU ist er weitgehend kompatibel mit dem bereits geltenden AI-Act und wird darüber umgesetzt.

In der Praxis bedeutet das für dich als Nutzer oder Betroffener: Mehr Verbindlichkeit auf staatlicher Ebene, mehr Druck auf Transparenz und Rechenschaft – aber die konkrete Durchsetzung hängt stark von der nationalen Umsetzung und den Erklärungen der einzelnen Staaten ab. Der Vertrag ist ein wichtiger erster Schritt zu global abgestimmten Mindeststandards, kein fertiges Regelwerk für die gesamte KI-Industrie.

---

---

(*) Hinweis: Hinter einigen Links stehen Affiliate-Programme. Für Sie bleibt der Preis exakt derselbe, wir erhalten jedoch eine kleine Provision, die wir direkt in unsere kommenden Recherchen investieren. Vielen Dank, dass Sie unsere Arbeit auf diese Weise unterstützen!

Views: 0