Rechenzentren verbrauchen enorme Mengen an Energie. Laut Bitkom, Deutschlands führendem Verband der Digitalwirtschaft, hat sich der Strombedarf für Rechenzentren im letzten Jahrzehnt mehr als verdoppelt. Und mit der rasanten digitalen Transformation beschleunigt sich dieser Trend noch weiter. Speichern, Verarbeiten, Übertragen und Abrufen von Daten – all das erfordert Energie. Künstliche Intelligenz (KI) ist besonders energieintensiv. Weltweit werden mehrere Terawattstunden für das Training und den Betrieb der heutigen KI-Modelle benötigt. (Eine Terawattstunde entspricht einer Milliarde Kilowattstunden elektrischer Energie.) Auch die Generierung von Bildern und Texten mithilfe dieser Modelle verbraucht enorme Mengen an Energie. Daher müssen Rechenzentren immer größer werden, was wiederum bedeutet, dass sie immer mehr Strom benötigen, um die enorme Anzahl an Prozessoren zu betreiben und zu kühlen. Dies führt zu einer massiven Vergrößerung ihres CO₂-Fußabdrucks. All dies trägt nicht dazu bei, dass Europa sein Ziel der Klimaneutralität bis 2050 erreicht. Es ist offensichtlich, dass sich etwas ändern muss.
„KI kann deutlich energieeffizienter sein. Mit dem richtigen Ansatz können wir die Rechenzentren der Zukunft wesentlich nachhaltiger gestalten“, sagt Professor Wolfgang Maaß, der an der Universität des Saarlandes und dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) forscht. Um den Energiebedarf von KI zu reduzieren und Ressourcen zu schonen, entwickelt sein Forschungsteam leichtere und stärker personalisierte KI-Modelle. Außerdem suchen sie nach Wegen, Rechenzentren energieeffizienter zu machen.
„Indem wir die Modelle kleiner und effizienter gestalten, tragen wir zur Nachhaltigkeit bei“, sagt Dr. Sabine Janzen, leitende Wissenschaftlerin im Team von Wolfgang Maaß. „Unsere Arbeit ermöglicht auch kleinen und mittelständischen Unternehmen den Zugang zu leistungsstarken KI-Modellen, da diese kleineren, schlankeren KI-Modelle keine umfangreiche technische Infrastruktur benötigen. So kann jeder, nicht nur Großunternehmen, von dieser neuen Technologie profitieren“, so Janzen.
Aktuelle KI-Chatbots wie ChatGPT und visuelle KI-Modelle nutzen Billionen von Parametern und riesige Datensätze, um ihre Aufgaben zu erfüllen. Entsprechend hoch ist ihr Energieverbrauch. Forscher in Saarbrücken entwickeln Methoden, diesen Energieverbrauch zu reduzieren, ohne die Ergebnisqualität dieser schlankeren KI-Modelle zu beeinträchtigen. „Ein zentrales Element unserer Arbeit ist die sogenannte Wissensdestillation. Dabei handelt es sich um eine Komprimierungstechnik, die es uns ermöglicht, kleinere und somit energieeffizientere Modelle zu erstellen, die genauso gut funktionieren wie größere“, erklärt Sabine Janzen.
Der Ansatz des Forschungsteams lässt sich folgendermaßen beschreiben: Um eine konkrete Frage zu beantworten, liest man nicht die gesamte Bibliothek, sondern konzentriert sich ausschließlich auf die relevanten Bücher. Die Forscher in Saarbrücken extrahieren kleinere, fokussiertere und energieeffizientere „Studentenmodelle“ aus größeren „Mastermodellen“. Indem sie das für die Aufgaben in einem bestimmten Bereich notwendige Wissen herausfiltern und auf das Wesentliche reduzieren, können sie die Größe der Datenmodelle um bis zu 90 Prozent verringern. Modellparameter, die für den Untersuchungsbereich irrelevant sind, bleiben unverändert. „Hinsichtlich der Inferenzgeschwindigkeit – also wie schnell das Modell Eingabedaten verarbeiten und Ergebnisse liefern kann – sind diese Studentenmodelle mit den größeren Mastermodellen vergleichbar, benötigen dafür aber 90 Prozent weniger Energie“, erklärt Janzen.
Mithilfe einer weiteren automatisierten Effizienztechnik, der sogenannten neuronalen Architektursuche (NAS), erzielte das Team auch beeindruckende Ergebnisse mit visuellen KI-Modellen – Modellen, die digitale Bilddaten verarbeiten. „Unsere neuesten Ergebnisse zeigen, dass wir die Modellgröße mithilfe der NAS-Methode um etwa 90 Prozent reduzieren können“, so Sabine Janzen. Die Forscher konzentrieren sich in ihrer Arbeit auf maschinelles Lernen mit künstlichen neuronalen Netzen, einer energieintensiven KI-Methode zur Analyse großer Datenmengen. Künstliche neuronale Netze sind so konzipiert, dass sie das menschliche Gehirn nachahmen. Unser Gehirn enthält viele Milliarden Nervenzellen, sogenannte Neuronen, die über Billionen von Synapsen miteinander verbunden sind. Eine Synapse ist die Schnittstelle zwischen zwei Neuronen, über die diese miteinander kommunizieren. Wenn wir etwas Neues lernen, senden Neuronen über Synapsen elektrische Signale aneinander. Während wir weiter lernen, feuern dieselben Neuronen immer wieder gleichzeitig, und die Verbindungen zwischen ihnen werden stärker, während die Verbindungen zwischen inaktiven Neuronen schwächer werden.
Die Lernprozesse in künstlichen neuronalen Netzen ähneln denen des Gehirns. Durch das Training mit großen Datenmengen können diese Netze darauf trainiert werden, Muster in natürlicher Sprache oder Bildern zu erkennen. Während das Gehirn jedoch energieeffizient lernt, erfordert das Training eines großen künstlichen neuronalen Netzes erhebliche Rechenleistung und Energie. Auch das Training eines solchen Netzes, um aussagekräftige Ergebnisse zu erzielen, erfordert einen beträchtlichen menschlichen Eingriff. Typischerweise werden diese künstlichen Netze manuell entworfen und konfiguriert, und die zahlreichen Parameter werden von Experten so lange angepasst und optimiert, bis sie die gewünschte Leistung erbringen. Hier setzt die „Neural Architecture Search“ (NAS) an, die von Forschern in Saarbrücken eingesetzt wird. „Anstatt neuronale Netze manuell zu entwerfen, automatisieren wir den Designoptimierungsprozess mithilfe von NAS“, erklärt Sabine Janzen. „NAS ermöglicht es uns, verschiedene Netzwerkarchitekturen zu untersuchen und sie so zu optimieren, dass ein Modell entsteht, das hohe Leistung, Effizienz und geringere Kosten bietet.“
Um diese kompakteren KI-Modelle in der Praxis zu testen, arbeitet das Team von Wolfgang Maaß mit dem Stahlunternehmen Stahl Holding Saar zusammen. Ziel ist es, künstliche neuronale Netze für die effiziente Sortierung von Stahlschrott zu trainieren. Für die Herstellung von neuem Stahl aus Schrott benötigen die Hersteller Schrott der richtigen Qualität. Nur bestimmte Schrottsorten können zu hochwertigem Stahl recycelt werden. Der in der Gießerei angelieferte Stahlschrott ist jedoch ein Gemisch aller Sorten und muss sortiert werden. Die Schrottsortierung lässt sich automatisieren, doch bisher war das KI-Modell zu groß für den praktischen Einsatz. „Wir haben das KI-Modell zur visuellen Sortierung komprimiert und es dadurch kompakter und energieeffizienter gemacht. Tatsächlich schneidet das kleinere Modell bei bestimmten Parametern sogar besser ab und macht den Stahlrecyclingprozess effizienter“, sagt Janzen. Wo zuvor ein riesiges KI-Modell viel Energie verbraucht hätte, kann nun ein kleines, maßgeschneidertes und energieeffizientes Modell dieselbe Aufgabe erfüllen.
Die Forscher beginnen damit, ihre Modelle mit dem vollständigen Datensatz, der alle Informationen enthält, zu trainieren. Anschließend verfeinern sie die KI-Modelle mithilfe von Wissensdestillation und speziell entwickelten neuronalen Netzen, sodass die Modelle nur noch die für die jeweilige Aufgabe wirklich notwendigen Parameter enthalten. In diesem Fall besteht das Ziel darin, eine KI zu entwickeln, die über das gesamte Wissen verfügt, um Kamerabilder zu analysieren und den angelieferten Stahlschrott zu klassifizieren.
Das Forschungsteam in Saarbrücken arbeitet gemeinsam mit Partnern an einem Konzept für nachhaltige Rechenzentren und energieeffiziente KI und erarbeitet Empfehlungen. „Bisher war es schwierig abzuschätzen, wie viel Energie für die Erstellung und den Betrieb eines KI-Modells benötigt wird. Das erschwert die Planung für Unternehmen“, erklärt Doktorandin Hannah Stein, die zu diesen energieeffizienten KI-Modellen forscht. „Wir entwickeln derzeit ein Tool, das zuverlässige Prognosen zum Energieverbrauch und den damit verbundenen Kosten für verschiedene KI-Modelle liefert“, so Stein. Rechenzentren und KI-Anwender können diese Informationen nutzen, um effektiver zu planen, ineffiziente Prozesse zu identifizieren und gegebenenfalls Korrekturmaßnahmen zu ergreifen – beispielsweise die Ausführung rechenintensiver Aufgaben in Zeiten niedriger Strompreise.
Die Forschung von Professor Wolfgang Maaß und seinem Team wurde für den Stand des Bundesministeriums für Wirtschaft und Klimaschutz auf der diesjährigen Hannover Messe ausgewählt. Das Team präsentiert dort die neuesten Ergebnisse des vom Bund geförderten Projekts ESCADE, das am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) angesiedelt ist.
Hintergrund:
ESCADE (Großskalige Künstliche Intelligenz und Energieeffizienz für nachhaltige Rechenzentren) ist ein dreijähriges Projekt mit einem Budget von rund 5 Millionen Euro, gefördert vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK).
Das Projekt läuft bis Ende April 2026. Das ESCADE-Konsortium besteht aus dem Forschungsteam um Wolfgang Maaß (Universität des Saarlandes und DFKI), der NT Neue Technologie AG, der Stahl-Holding-Saar GmbH & Co. KGaA, der SEITEC GmbH, der Technischen Universität Dresden, der Universität Bielefeld und dem österreichischen Institut für angewandte Forschung Salzburg Research. https://escade-project.de
