Die neue ITU-Fokusgruppe zu Vertrauen und Identität für Menschen und KI-Agenten, die auf dem AI for Good World Summit, entsteht zu einem Zeitpunkt, an dem sich künstliche Intelligenz (KI) rasant weiterentwickelt und über reine Assistenzsysteme hinaus zunehmend zu autonomen Agenten wird, die im Auftrag von Menschen handeln.
KI-Agenten versprechen zwar erhebliche Produktivitätssteigerungen, bergen aber auch neue Risiken. Diese reichen von der Vortäuschung der Identität von Personen oder Organisationen durch autonome Agenten bis hin zu unautorisierten Aktionen in vernetzten Systemen. Die ITU-Fokusgruppe wird diese Herausforderungen angehen, indem sie Rahmenbedingungen entwickelt, die eine sinnvolle menschliche Kontrolle bei Aufgaben wie der Durchführung von Finanztransaktionen und dem Betrieb kritischer Infrastrukturen gewährleisten.
„Die Zukunft der KI hängt vom Vertrauen ab“, sagte ITU-Generalsekretärin Doreen Bogdan-Martin. „Da KI immer autonomer wird, müssen wir – Industrie, Regierungen, Wissenschaft und Zivilgesellschaft – zusammenarbeiten, um ein Höchstmaß an Vertrauen in KI-Systeme zu gewährleisten.“.
Da KI-Systeme zunehmend unabhängig planen und handeln, wird die Fähigkeit, die Identität eines Agenten festzustellen und zu bestimmen, ob sein Verhalten vertrauenswürdig ist, von entscheidender Bedeutung.
KI-Systeme müssen sich zunehmend gegenseitig identifizieren und authentifizieren. Ebenso wichtig ist, dass ihre Entscheidungen und Handlungen nachvollziehbar, kontrollierbar und zuverlässig bleiben.
Identitätssysteme legen fest, wer handelt, während Zuverlässigkeitssysteme bestimmen, ob dieser Akteur vertrauenswürdig ist. Zusammen bilden sie die Grundlage für eine sichere Interaktion zwischen Menschen und autonomen KI-Systemen.
Die Arbeitsgruppe wird sich mit den Herausforderungen des Vertrauensmanagements für Menschen und KI-Agenten, der allgemeinen Zuverlässigkeit von KI-Systemen mit Handlungsfähigkeiten und Möglichkeiten zur Stärkung des Vertrauens in das Verhalten von KI-Agenten bei gleichzeitiger Wahrung der Kontrolle über deren Handlungen befassen.
„KI-Agenten werden schon bald in unserem Namen verhandeln, Transaktionen durchführen und Entscheidungen treffen“, sagte Debora Comparin, Co-Vorsitzende der Arbeitsgruppe. „Bevor diese Zukunft Realität wird, brauchen wir gemeinsame internationale Grundlagen, die festlegen, wer diese Agenten sind, wann wir ihnen vertrauen können und wie die Menschen die Kontrolle behalten. Genau dieser Herausforderung soll sich diese Arbeitsgruppe stellen.“
„Agentive KI führt eine neue Klasse digitaler Akteure ein, die zunehmend mit und unter Menschen zusammenarbeiten werden“, bemerkte Co-Vorsitzender Amir Banifatemi. „Die Identität gibt uns Auskunft darüber, wer handelt, und die Vertrauenswürdigkeit darüber, wie sich dieser Akteur voraussichtlich verhalten wird. Die Kombination dieser beiden Elemente schafft die notwendige gemeinsame Basis für interoperable, nachvollziehbare und zuverlässige KI-Systeme auf globaler Ebene.“
Die Gruppe steht technischen Experten sowie Spezialisten aus den Bereichen Politik, Recht und Regulierung offen, um Folgendes zu entwickeln: Die Arbeitsgruppe wird der ITU-Expertengruppe für Sicherheitsstandards, der ITU-T-Studiengruppe 17,
. Gemeinsame Terminologie und Definitionen;
Referenzarchitekturen für Identität, Vertrauen, Agentenerkennung und Interoperabilität;
Vertrauensrahmen und Lebenszyklusmodelle (Zusicherung);
Interoperabilitätsmechanismen für digitale Identität und Anmeldeinformationen;
Sicherheitskriterien und Benchmarks für die laufende Bewertung von KI-Agenten; und
einen Standardisierungsfahrplan zur Koordinierung der Maßnahmen zwischen Expertengemeinschaften.
„Wir schreiten strategisch und zügig voran, nehmen uns aber bewusst die Zeit, ein solides Fundament zu legen“, sagte Arnaud Taddei, Vorsitzender der Studiengruppe 17. „Wir kennen die Richtung und wissen im Großen und Ganzen, was wir aufbauen wollen. Jetzt bringen wir die richtige Führung und Struktur zusammen, und ‚KI zum Wohle der Allgemeinheit‘ ist genau der Ort, an dem wir Partner treffen werden, die sich uns anschließen möchten.“.
Die beiden Vorsitzenden der Gruppe werden von einem erweiterten Führungsteam unterstützt, dessen Zusammensetzung nach eingehenden Konsultationen in den kommenden Wochen endgültig festgelegt wird. Die Gruppe, die allen interessierten Experten offensteht, wird ihre erste Sitzung im November 2026 in Paris und ihre zweite im Januar 2027 in Genf abhalten.
Die Arbeitsgruppen der ITU tragen dazu bei, die Entwicklung neuer globaler Standards zu beschleunigen und werden häufig eingesetzt, um mit der rasanten Entwicklung im Bereich der Künstlichen Intelligenz Schritt zu halten.
„Der Konsens, den wir bei der Entwicklung der ITU-Standards erzielt haben, schafft die notwendige Klarheit für das Wachstum neuer Innovationsökosysteme“, sagte Seizo Onoe, Direktor des ITU-Büros für Telekommunikationsnormung. „Diese Arbeitsgruppe ist eine offene Plattform, die allen Beteiligten helfen soll, mit Zuversicht und Gewissheit voranzukommen.“
Weitere aktive Arbeitsgruppen befassen sich mit KI für intelligente Städte, eingebetteter KI und Multimedia-KI sowie KI-nativen Netzwerken. Frühere KI-Arbeitsgruppen untersuchten autonome Netzwerke, Gesundheit, Landwirtschaft, Katastrophenvorsorge und autonome Fahrzeuge.
