数据中心消耗大量能源。据德国领先的数字产业协会Bitkom称，过去十年间，数据中心的用电量增加了一倍多。随着数字化转型蓬勃发展，这一趋势正在加速。数据存储、处理、传输和检索都需要能源。人工智能尤其耗能巨大。在全球范围内，训练和运行当今庞大的人工智能模型需要消耗数太瓦时的电力。（一太瓦时相当于十亿千瓦时的电能。）利用这些模型生成图像和文本也消耗大量能源。因此，数据中心不得不不断扩建，这意味着它们需要越来越多的电力来驱动和冷却数量庞大的处理器，这反过来又导致其碳排放量大幅增加。所有这些都无助于欧洲实现其到2050年温室气体净零排放的目标。显然，必须做出改变。.
“人工智能可以更加节能。只要方法得当，我们就能让未来的数据中心更加可持续，” 萨尔兰大学和德国人工智能研究中心 (DFKI) 的沃尔夫冈·马斯教授说道。为了控制人工智能的能源消耗并节约资源，他的研究团队正在开发更轻量级、更个性化的人工智能模型。他们还希望找到让数据中心更加节能的方法。
“通过缩小模型规模、提高模型效率，我们正在助力可持续发展，” 沃尔夫冈·马斯团队的高级研究科学家萨宾·詹森博士表示。 “我们的工作也让中小企业能够使用强大的AI模型，因为这些更小、更轻量的AI模型不需要庞大的技术基础设施。这将使所有人，而不仅仅是大型企业，都能受益于这项新技术，”詹森说道。
目前的人工智能聊天机器人（例如 ChatGPT）和视觉人工智能模型需要使用数万亿个参数和庞大的数据集来完成任务。因此，它们的能耗非常巨大。萨尔布吕肯的研究人员正在开发降低能耗的方法，同时又不影响这些轻量级人工智能模型的性能。 “我们工作的核心是一种名为知识蒸馏的技术。这是一种压缩技术，它使我们能够创建更小、更节能的模型，同时性能与大型模型一样出色，”萨宾·詹森解释道。
研究团队采用的方法可以概括如下：在寻找特定问题的答案时，人们不会阅读整个图书馆，而是只专注于与问题相关的书籍。萨尔布吕肯的研究人员从较大的“主模型”中提取出更小、更专注、更节能的“学生模型”。通过提炼特定领域任务所需的知识并将其简化为核心要素，他们可以将数据模型的规模减少高达90%。与研究领域无关的模型参数则保持不变。 “就推理速度而言——即模型处理输入数据并产生结果的速度——这些学生模型与较大的主模型性能相当，但所需的能量却减少了90%。”扬岑解释道。
该团队利用另一种名为神经架构搜索（NAS）的自动化效率技术，在视觉人工智能模型（即处理数字图像数据的模型）方面也取得了令人瞩目的成果。“我们最新的研究结果表明，我们可以使用NAS方法将模型规模缩小约90%。” Sabine Janzen说道。在这项工作中，研究人员专注于使用人工神经网络进行机器学习。人工神经网络是一种高能耗的人工智能方法，可以分析海量数据。人工神经网络旨在模拟人脑。我们的大脑包含数十亿个神经细胞，称为神经元，它们通过数万亿个突触相互连接。突触本质上是两个神经元之间的接口，通过突触，两个神经元可以相互交流。当我们学习新知识时，神经元会通过突触相互发送电信号。随着学习的深入，相同的神经元会持续激活，它们之间的连接会越来越强，而不活跃的神经元之间的连接则会越来越弱。
人工神经网络的学习过程与人类大脑类似，通过向这些网络输入大量数据，可以训练它们识别自然语言或图像中的模式。然而，尽管大脑是高效节能学习的高手，训练一个大型人工神经网络却需要大量的计算能力和能源。此外，训练人工神经网络以产生有意义的结果还需要大量的人工干预。通常，这些人工网络需要手动设计和配置，并且众多参数需要由专家进行调整和优化，直到达到所需的性能水平。萨尔布吕肯的研究人员正是在此背景下引入了“神经架构搜索”（NAS）技术。 “我们不再手动设计神经网络，而是使用NAS来自动化设计优化过程，”萨宾·詹森解释道，“NAS使我们能够检查不同的网络架构并对其进行优化，从而创建一个兼具高性能、高效率和低成本的模型。”
为了在实践中测试这些更紧凑的人工智能模型，沃尔夫冈·马斯（Wolfgang Maaß）的团队正与钢铁公司萨尔钢铁控股公司（Stahl Holding Saar）合作。他们的目标是训练人工神经网络高效地对废钢进行分类。制造商需要质量合格的废钢才能利用废钢生产新钢。只有特定类型的废钢才能回收利用，用于生产高质量钢材。然而，运送到铸造厂的废钢是各种类型废钢的混合物，必须进行分类。废钢分类可以实现自动化，但迄今为止，人工智能模型过于庞大，难以实际应用。“我们压缩了人工智能视觉分类模型，使其更加紧凑、节能。事实上，在某些参数下，更小的模型性能甚至更好，从而提高了钢铁回收流程的效率，”扬岑（Janzen）说道。以前庞大的人工智能模型需要消耗大量能源才能运行，而现在，一个小型、定制化且节能的模型就能完成同样的任务。.
研究人员首先使用包含所有信息的完整数据集训练模型。然后，他们利用知识蒸馏和专门编译的神经网络来优化人工智能模型，使模型仅包含完成当前任务真正必要的参数。在本例中，目标是创建一个拥有分析摄像头图像所需全部知识的人工智能，以便对运送到现场的废钢进行分类。.
萨尔布吕肯的研究团队正与合作伙伴共同制定可持续数据中心和节能人工智能的概念并收集相关建议。 “迄今为止，估算创建和运行人工智能模型所需的能源量一直很困难。这使得企业难以进行规划，”正在研究这些节能人工智能模型的博士生汉娜·斯坦解释道。“我们目前正在开发一种工具，可以对不同人工智能模型的能耗及其相关成本进行可靠的预测，”斯坦说道。数据中心和人工智能用户可以利用这些信息更有效地进行规划，识别低效流程，并根据需要采取纠正措施——例如，将繁重的计算任务安排在电价较低的时段。
沃尔夫冈·马斯教授及其团队的研究成果入选了德国联邦经济事务和气候行动部在今年汉诺威工业博览会的展位。该团队将展示由联邦政府资助的ESCADE项目的最新成果，该项目隶属于德国人工智能研究中心（DFKI）。.
背景：
ESCADE（面向可持续数据中心的大规模人工智能和能源效率）是一个为期三年、预算约500万欧元的项目，由德国联邦经济事务和气候行动部（BMWK）资助。
该项目将持续到2026年4月底。ESCADE项目联盟由以下机构组成：由沃尔夫冈·马斯（萨尔兰大学和德国人工智能研究中心）领导的研究团队、NT Neue Technologie AG、Stahl-Holding-Saar GmbH & Co. KGaA、SEITEC GmbH、德累斯顿工业大学、比勒费尔德大学以及奥地利应用研究机构萨尔茨堡研究所。https ://escade-project.de
