La création du nouveau groupe de travail de l'UIT sur la confiance et l'identité pour les humains et l'IA agente, annoncée lors du Sommet mondial « L'IA au service du bien commun », intervient à un moment où l'intelligence artificielle (IA) évolue rapidement, dépassant le simple cadre des outils d'assistance pour devenir de plus en plus autonome et agissant pour le compte de personnes.
Si l'IA agente promet des gains de productivité considérables, elle introduit également de nouveaux risques, allant de l'usurpation d'identité par des agents autonomes à la réalisation d'actions non autorisées dans des systèmes interconnectés. Le groupe de travail de l'UIT s'attachera à relever ces défis en élaborant des cadres qui préservent un contrôle humain significatif dans des tâches telles que l'exécution de transactions financières et l'exploitation d'infrastructures critiques.
« L’avenir de l’IA repose sur la confiance », a déclaré Doreen Bogdan-Martin, secrétaire générale de l’UIT. « À mesure que l’IA gagne en autonomie, nous devons collaborer – industrie, gouvernements, monde universitaire et société civile – afin de garantir le plus haut niveau de confiance possible dans les systèmes d’IA. ».
À mesure que les systèmes d'IA planifient et agissent avec une indépendance croissante, la capacité d'établir l'identité d'un agent et de déterminer si son comportement est digne de confiance devient cruciale.
De plus en plus, les agents d'IA doivent s'identifier et s'authentifier mutuellement. Il est tout aussi important que leurs décisions et actions restent responsables, contrôlables et fiables.
Les systèmes d'identité permettent d'établir qui agit, tandis que la fiabilité détermine si cet acteur est digne de confiance. Ensemble, ils constituent le fondement d'une interaction sécurisée entre les humains et les systèmes d'IA autonomes.
Le groupe de travail abordera les défis liés à la gestion de la confiance entre les personnes et les agents d'IA, la fiabilité globale des systèmes d'IA dotés de capacités d'agence, et les moyens de renforcer la confiance dans le comportement des agents d'IA tout en conservant l'autorité sur leurs actions.
« Les agents d’IA négocieront, effectueront des transactions et prendront des décisions en notre nom », a déclaré Debora Comparin, coprésidente du groupe de travail. « Avant que cet avenir ne devienne réalité, nous avons besoin de fondements internationaux communs définissant qui sont ces agents, quand on peut leur faire confiance et comment les individus pourront conserver le contrôle. C’est le défi que ce groupe de travail a été créé pour relever. »
« L’IA agentive introduit une nouvelle catégorie d’acteurs numériques qui collaboreront de plus en plus avec et entre les individus », a souligné Amir Banifatemi, coprésident. « L’identité nous indique qui agit, et la fiabilité nous indique comment cet acteur peut se comporter. La combinaison de ces deux éléments crée le socle commun nécessaire à des systèmes d’IA interopérables, responsables et fiables à l’échelle mondiale. »
Le groupe est ouvert aux experts techniques ainsi qu'aux spécialistes des politiques, du droit et de la réglementation, afin de développer : Le groupe de travail fera rapport au groupe d'experts de l'UIT sur les normes de sécurité, le Groupe d'étude 17 de l'UIT-T.
une terminologie et des définitions communes ;
des architectures de référence pour l'identité, la confiance, la détection des agents et l'interopérabilité ;
des cadres de confiance et des modèles de cycle de vie (assurance) ;
des mécanismes d'interopérabilité pour l'identité et les informations d'identification numériques ;
des critères et des points de référence de sécurité pour l'évaluation continue des agents d'IA ; et
une feuille de route de normalisation pour coordonner l'action entre les communautés d'experts.
« Nous avançons de manière stratégique et rapide, mais en prenant délibérément le temps de bâtir des fondations solides », a déclaré Arnaud Taddei, président du Groupe d’étude 17. « Nous connaissons la direction à suivre et, globalement, ce que nous voulons construire. Nous mettons maintenant en place l’équipe dirigeante et la structure adéquates, et c’est lors de la conférence « L’IA au service du bien commun » que nous rencontrerons les partenaires qui souhaitent nous rejoindre. ».
Les coprésidents du groupe seront rejoints par une équipe dirigeante élargie, dont la composition sera finalisée dans les prochaines semaines après de larges consultations. Ce groupe, ouvert à tous les experts intéressés, tiendra sa première réunion à Paris en novembre 2026 et la seconde à Genève en janvier 2027.
Les groupes de travail de l'UIT contribuent à accélérer l'élaboration de nouvelles normes internationales et sont largement utilisés pour suivre l'évolution rapide du domaine de l'IA.
« Le consensus auquel nous sommes parvenus lors de l’élaboration des normes de l’UIT apporte la clarté nécessaire à l’essor de nouveaux écosystèmes d’innovation », a déclaré Seizo Onoe, directeur du Bureau de normalisation des télécommunications de l’UIT. « Ce groupe de travail constitue une plateforme ouverte conçue pour permettre à tous d’avancer avec confiance et sérénité. »
D’autres groupes de travail actifs se penchent sur l’IA pour les villes intelligentes, l’IA embarquée et multimédia, ainsi que les réseaux natifs de l’IA. Les précédents groupes de travail sur l’IA ont exploré les réseaux autonomes, la santé, l’agriculture, la réduction des risques de catastrophes et les véhicules autonomes.
