El nuevo Grupo de Enfoque de la UIT sobre Confianza e Identidad para los Seres Humanos y la IA Agente, anunciado en la Cumbre Mundial «IA para el Bien», surge en un momento en que la inteligencia artificial (IA) evoluciona rápidamente más allá de las herramientas de asistencia y se convierte cada vez más en agentes autónomos que actúan en nombre de las personas.
Si bien la IA agente promete importantes avances en productividad, también introduce nuevos riesgos que van desde que los agentes autónomos se hagan pasar por personas u organizaciones hasta que realicen acciones no autorizadas en sistemas interconectados. El Grupo Temático de la UIT abordará estos retos mediante el desarrollo de marcos que preserven un control humano significativo en tareas como la ejecución de transacciones financieras y el funcionamiento de infraestructuras críticas.
«El futuro de la IA depende de la confianza», afirmó la secretaria general de la UIT, Doreen Bogdan-Martin. «A medida que la IA se vuelve más autónoma, debemos trabajar juntos —la industria, los gobiernos, el mundo académico y la sociedad civil— para garantizar la mayor confianza posible en los sistemas de IA».
A medida que los sistemas de IA planifican y actúan con una independencia cada vez mayor, resulta fundamental la capacidad de establecer la identidad de un agente y determinar si su comportamiento es digno de confianza.
Cada vez más, los agentes de IA necesitan identificarse y autenticarse entre sí. Y lo que es igual de importante, sus decisiones y acciones deben seguir siendo responsables, controlables y fiables.
Los sistemas de identidad establecen quién está actuando, mientras que la fiabilidad determina si ese actor es de confianza. Juntos sientan las bases para una interacción segura entre los seres humanos y los sistemas autónomos de IA.
El Grupo de Trabajo abordará los retos de la gestión de la confianza para las personas y los agentes de IA, la fiabilidad general de los sistemas de IA con capacidad de agencia y las formas de reforzar la confianza en el comportamiento de los agentes de IA, al tiempo que se mantiene la autoridad sobre sus acciones.
«Los agentes de IA pronto negociarán, realizarán transacciones y tomarán decisiones en nuestro nombre», afirmó la copresidenta del Grupo de Trabajo, Debora Comparin. «Antes de que ese futuro se haga realidad, necesitamos bases internacionales comunes que establezcan quiénes son estos agentes, cuándo se puede confiar en ellos y cómo las personas mantendrán el control. Ese es el reto para el que se ha creado este grupo de trabajo».
«La IA agentiva introduce una nueva clase de actores digitales que colaborarán cada vez más con las personas y entre sí», señaló el copresidente Amir Banifatemi. «La identidad nos indica quién actúa y la fiabilidad nos indica cómo cabe esperar que se comporte ese actor. La combinación de ambos elementos crea la base común necesaria para unos sistemas de IA interoperables, responsables y fiables a escala mundial».
El grupo está abierto a expertos técnicos, así como a especialistas en políticas, derecho y regulación, con el fin de desarrollar: El Grupo de Trabajo rendirá cuentas ante el grupo de expertos de la UIT en normas de seguridad, la Comisión de Estudio 17 del UIT-T.
terminología y definiciones comunes;
arquitecturas de referencia para la identidad, la confianza, la detección de agentes y la interoperabilidad;
marcos de confianza y modelos de ciclo de vida (garantía);
mecanismos de interoperabilidad para la identidad digital y las credenciales;
criterios de seguridad y parámetros de referencia para la evaluación continua de los agentes de IA; y
una hoja de ruta de normalización para coordinar la acción entre las comunidades de expertos.
«Estamos avanzando de forma estratégica y rápida, pero tomándonos deliberadamente el tiempo necesario para sentar unas bases sólidas», afirmó Arnaud Taddei, presidente de la Comisión de Estudios n.º 17. «Conocemos la dirección y, a grandes rasgos, lo que queremos construir. Ahora estamos reuniendo el liderazgo y la estructura adecuados, y “AI for Good” es precisamente el lugar donde nos reuniremos con los socios que deseen unirse a nosotros».
A los copresidentes del grupo se unirá un equipo de liderazgo más amplio, cuya composición se ultimará en las próximas semanas tras una amplia consulta. El grupo, abierto a todos los expertos interesados, celebrará su primera reunión en París en noviembre de 2026 y la segunda en Ginebra en enero de 2027.
Los grupos de trabajo de la UIT contribuyen a acelerar el desarrollo de nuevas normas mundiales y se han utilizado ampliamente para seguir el ritmo del panorama de la IA, en rápida evolución.
«El consenso que alcanzamos al elaborar las normas de la UIT aporta la claridad que necesitamos para que crezcan los nuevos ecosistemas de innovación», afirmó Seizo Onoe, director de la Oficina de Normalización de las Telecomunicaciones de la UIT. «Este grupo de trabajo es una plataforma abierta diseñada para ayudar a todos a avanzar con confianza y certeza».
Otros grupos de trabajo activos se ocupan de la IA para ciudades inteligentes, la IA incorporada y multimedia, y las redes nativas de IA. Los grupos de trabajo anteriores sobre IA han explorado las redes autónomas, la salud, la agricultura, la reducción del riesgo de desastres y los vehículos autónomos.
