在 “人工智能造福人类世界峰会”上宣布成立的国际电信联盟（ITU）“信任与身份：人类与智能体人工智能”焦点小组，正值人工智能（AI）迅速发展，不再局限于辅助工具，而是日益成为代表人类行事的自主代理之际。
智能体人工智能有望显著提高生产力，但也带来了新的风险，例如自主代理冒充个人或组织，以及在互联系统中执行未经授权的操作。ITU焦点小组将通过制定相关框架来应对这些挑战，从而在执行金融交易和运营关键基础设施等任务中，保持对人类的有效控制。

国际电信联盟秘书长多琳·博格丹-马丁表示：“人工智能的未来取决于信任。随着人工智能变得越来越自主，我们必须携手合作——包括产业界、政府、学术界和民间社会——以确保人工智能系统拥有尽可能高的信任度。”.

随着人工智能系统规划和行动的独立性不断增强，确定智能体的身份并判断其行为是否可信变得至关重要。.

人工智能代理越来越需要相互识别和验证身份。同样重要的是，它们的决策和行为必须保持可问责、可控和可靠。
身份系统确定了行动者的身份，而可靠性则决定了该行动者是否值得信赖。二者共同为人类与自主人工智能系统之间的安全交互奠定了基础。

工作组将探讨人类和人工智能代理的信任管理挑战、具有代理能力的人工智能系统的整体可靠性，以及如何在保持对人工智能代理行为的控制权的同时，加强对其行为的信任。.

“人工智能代理很快就会代表我们进行谈判、交易和决策，”工作组联合主席黛博拉·康帕林 (Debora Comparin) 表示。“在这一未来成为现实之前，我们需要建立共同的国际基础，明确这些代理的身份、何时可以信任它们以及人们如何保持控制权。这正是本工作组成立的初衷。” 联合主席阿米尔·
巴尼法特米 (Amir Banifatemi) 指出：“智能体人工智能引入了一类新型的数字主体，它们将越来越多地与人类进行协作。身份告诉我们谁在行动，而可信度告诉我们该主体应该如何行动。将这两个要素结合起来，就能为在全球范围内构建可互操作、可问责且可靠的人工智能系统奠定共同基础。”

该工作组向技术专家以及政策、法律和监管方面的专家开放，旨在制定：工作组将向国际电信联盟安全标准专家组（ ITU-T 第 17 研究组）
通用术语和定义；
身份、信任、代理检测和互操作性的参考架构；
信任框架和生命周期模型（保证）；
数字身份和凭证的互操作性机制；
人工智能代理持续评估的安全标准和基准；以及
协调专家群体行动的标准化路线图。

“我们正以战略性和速度向前迈进，但同时也在刻意地花时间打好坚实的基础，”第17研究小组主席阿尔诺·塔代伊表示。“我们清楚发展方向，也大致了解我们想要构建什么。现在，我们正在组建合适的领导团队和组织架构，而‘人工智能向善’正是我们与有意加入我们的合作伙伴会面的平台。”.

该小组的联合主席将与一个更广泛的领导团队共同工作，其组成将在未来几周内经过广泛磋商后最终确定。该小组面向所有感兴趣的专家开放，将于2026年11月在巴黎举行第一次会议，并于2027年1月在日内瓦举行第二次会议。
国际电信联盟（ITU）的工作组有助于加速制定新的全球标准，并已被广泛用于跟上快速发展的人工智能领域的步伐。

国际电信联盟电信标准化局局长小上清三表示：“我们在制定国际电联标准过程中达成的共识，为新型创新生态系统的发展提供了所需的清晰度。这个工作组是一个开放平台，旨在帮助所有人充满信心和确定性地向前迈进。”
其他活跃的工作组则致力于智慧城市人工智能、嵌入式和多媒体人工智能以及原生人工智能网络等领域。此前的人工智能工作组曾探索过自主网络、医疗健康、农业、灾害风险降低和自动驾驶汽车等领域。