Im vergangenen Oktober nahmen Ben Coughlin (Colovore), Gerard Thibault (Kao Data) und Don Mitchell (Victaulic) gemeinsam mit mir an einer von Lucas moderierten Podiumsdiskussion auf dem OCP Global Summit teil, um dieses Thema zu erörtern. Unser Gespräch verdeutlichte, dass Flüssigkeitskühlung die Zukunft von Rechenzentren ist, um mit dem massiv steigenden Rechenbedarf, insbesondere im Bereich Colocation, Schritt zu halten. Ein anderer OCP-Referent brachte es auf den Punkt: Entweder man nutzt Flüssigkeitskühlung bereits jetzt oder in den nächsten drei bis fünf Jahren.
Was treibt die rasante Entwicklung der Kühlung von Rechenzentren an?
In den letzten zwölf Jahren haben sich Server und Komponenten grundlegend verändert. Blade-Server und Virtualisierung, die vor über einem Jahrzehnt aufkamen, haben eine dramatisch gestiegene Leistungsdichte erreicht, sodass moderne Server heute routinemäßig zwischen 750 Watt und 1 Kilowatt (kW) pro Höheneinheit (HE) verbrauchen. Selbst Flash-Speicher, die historisch gesehen eine geringe Leistungsdichte aufwiesen, benötigen mittlerweile zwischen 400 und 600 Watt pro HE.
Flüssigkeitskühlung gibt es seit den Anfängen der Computertechnik, doch die Luftkühlung dominierte die Branche lange Zeit, da sie vor dem jüngsten Anstieg der Rechenleistung ein einfacherer Prozess war. Luftkühlung ist nach wie vor weit verbreitet, insbesondere in Großbritannien, aber flexible Rechenzentrumsinfrastrukturen, die den OCP-Richtlinien entsprechen, gewinnen zunehmend an Bedeutung. Die höhere Rechenleistung und einige moderne Chips, die ihre Wärme nicht an die Luft abgeben können, haben die Berücksichtigung und den Einsatz von Flüssigkeitskühlungsoptionen verstärkt. Von der Flüssigkeitskühlung auf Gehäuseebene bis hin zur Kühlplattenkühlung treiben neue Flüssigkeitskühlungstechnologien für Rechenzentren die Entwicklung und den Einsatz von hybriden Luft-/Flüssigkeitskonfigurationen voran.
Meine Kollegen im OCP-Roundtable und ich erhalten wöchentlich Anrufe von bestehenden und potenziellen Kunden, die wissen möchten, wie man eine Flüssigkeitskühlung in ein luftgekühltes Rechenzentrum integrieren kann. Vertivs Antwort: Beginnen Sie mit Backdoors, bevor Sie eine direkte Chipkühlung in Betracht ziehen.
Flüssigkeitskühlsysteme erfüllen die Anforderungen von Hochleistungsrechnern.
Flüssigkeitskühlung bietet deutlich höhere Wärmeübertragungseigenschaften als Luftkühlung. Flüssigkeitskühlsysteme in Rechenzentren sind wesentlich effizienter und eine kostengünstige Kühllösung für Hochleistungsracks.
Moderne Racks benötigen mehr als 20 kW Leistung, und viele Installationen planen den Einsatz von Racks mit einem Bedarf von 50 kW oder mehr. Bewährte Kühlsysteme mit Flüssigkeitswärmetauscher für die Rückwand, wie beispielsweise das Vertiv Liebert® DCD, können Leistungsdichten über 20 kW bewältigen. Diese Flüssigkeitswärmetauscher ersetzen die Rückwand des Racks. Bei einer passiven Bauweise wird die warme Luft durch eine flüssigkeitsgefüllte, wärmeabsorbierende Spule abgeführt, die anstelle der Rückwand montiert ist. Eine aktive Bauweise verwendet Lüfter, die Luft durch die Spulen saugen und die Wärme aus Racks mit höherer Leistungsdichte abführen.
Luftbasierte Kühlsysteme verlieren ihre Effektivität, wenn die Rackdichte 20 kW übersteigt; ab diesem Punkt ist Flüssigkeitskühlung die praktikable Lösung.
Flüssigkeitskühlsysteme mit Wärmetauschern an der Rückseite sind ein vielversprechender erster Schritt hin zur direkten Chipkühlung. Rückwandpaneele eignen sich hervorragend für ein Hybridsystem aus Luft und Flüssigkeit mit unterschiedlichen Rackdichten. Mein Kollege Gerard Thibault berichtete, dass Kao Data diesen Hybridansatz in seinem 2-Megawatt-Raum einsetzt. Das Unternehmen verfügt über 2 MW Luftkühlung und ergänzt diese um 10 MW Flüssigkeitskühlung, um eine Gesamtkühlleistung von 12 MW zu erreichen.
Neben höherer Effizienz und Kosteneinsparungen bietet die Flüssigkeitskühlung auch eine nachhaltigere Kühlmethode. Auf dem Global Summit erklärte OCP Nachhaltigkeit neben Effizienz, Wirkung, Offenheit und Skalierbarkeit zu seinem fünften Prinzip. Flüssigkeitskühlung für Rechenzentren kann Unternehmen helfen, ihre Nachhaltigkeitsziele in den kommenden Jahren zu erreichen. Im Gegensatz zur Luftkühlung, deren Kühlleistung stetig zunimmt, erzielt der Kühlmechanismus eines rückseitigen Wärmetauschers oder einer direkten Chipkühlung mit Flüssigkeit bessere Kühlergebnisse bei geringerem Aufwand. Dies führt zu niedrigerem Energieverbrauch und reduzierten CO₂-Emissionen. Diese Technologien könnten sogar kombiniert werden, um die gesamte Wärmelast in die Kühlflüssigkeit zu leiten!
Aussehen und Geräusch eines flüssigkeitsgekühlten High-Density-Colocation-Centers
: Unterscheiden sich flüssigkeitsgekühlte oder hybride Rechenzentren wesentlich von luftgekühlten? Ben Coughlin von Colovore beschrieb die Infrastruktur seines Unternehmens: ein externer Kühlturm, Pumpen und Rohrleitungen. Jeder Serverschrank verfügt über zwei Rohranschlüsse: einen für die Wasserzufuhr und einen für die Wasserabfuhr. Es gibt keine Kältemaschinen oder Kältemittelverteiler im Erdgeschoss. Die lüfterunterstützten, „aktiven“ Rücktüren von Vertiv arbeiten mit mehreren Megawatt direkter Flüssigkeitskühlung zusammen, deren Leistung jedoch durch die installierten Rohrleitungen begrenzt ist. Optisch sind die Unterschiede minimal. Temperatur und Geräuschentwicklung hingegen sind deutlich spürbar.
Colocation-Rechenzentren mit leistungsstarker Rechenleistung und Hybridkühlung halten eine angenehme Umgebungstemperatur von etwa 21 °C aufrecht, im Gegensatz zu den Kalt- und Warmgängen herkömmlicher luftgekühlter Rechenzentren. Hochleistungsrechner und KI-Server sind zwar sehr laut, die Kühlkomponenten tragen jedoch nicht zu zusätzlichen Geräuschen bei. Ansonsten handelt es sich um ganz normale Serverräume mit Standard-45U-Racks, und Kunden greifen wie gewohnt auf ihre Server zu.
Der größte Unterschied liegt in der Luftzirkulation im Serverschrank. Netzwerk-Switches sind sehr kurz und benötigen daher eine Belüftung von vorne nach hinten. Größere Stromverteiler erfordern eine saubere Verkabelung, da die Racks nicht im gleichen Maße wie die darin untergebrachten Server lang sind. Im Serverschrank ist es recht eng. Sorgfältige Planung und Installation ermöglichen es, diese Probleme zu beheben.
Planen Sie jetzt für die Zukunft flüssigkeitsgekühlter Rechenzentren.
Wie mein Kollege Don sagte: „Keine Angst vor Flüssigkeitskühlung, planen Sie dafür ein.“ Moderne Rechenzentren stehen an einem Wendepunkt. Luftkühlung wird den enormen Anforderungen des High-Density-Computing in den nächsten 5 bis 10 Jahren – also in der Rechenzentrumsära schon „morgen“ – nicht mehr gerecht werden können. Jetzt ist es an der Zeit, sich auf den bevorstehenden Wandel einzustellen und entsprechend zu planen.
Ich freute mich sehr, gemeinsam mit Ben, Gerard, Don und Lucas am OCP Empowering Open Global Summit teilzunehmen und die Zukunft der Flüssigkeitskühlung für Rechenzentren zu diskutieren. Unternehmen wie unseres (Dell'Oro Group, Colovore, Kao Data, Victaulic und Vertiv) unterstützen gerne Innovationen in unserer Branche und tragen zum Erfolg der Projekte unserer Kunden bei.
Fred Rebarber
ist als Global Technical Director bei Vertiv die technische Schnittstelle des Unternehmens für große Endkunden und beratende Ingenieure, die auf unternehmenskritische Systeme spezialisiert sind. Eine seiner Hauptaufgaben ist die Mitwirkung an der Produktentwicklung auf Basis von Kundenbedürfnissen und Marktanforderungen. Zuvor arbeitete Fred im OEM-Bereich mit Herstellern und Endkunden zusammen, um die Akzeptanz bestehender Vertiv™ Liebert®-Produkte zu fördern und Spezifikationen für neue Produkte zu erstellen. Vor seiner Tätigkeit im OEM-Bereich war Fred Vertriebs- und Marketingleiter bei Cooligy, einem Startup-Unternehmen, das Flüssigkeitskühlungslösungen für Chips entwickelt und herstellt. Fred hat einen Bachelor of Science in Maschinenbau von der University of California, Berkeley.
Mit der in den letzten fünf Jahren gestiegenen Nachfrage nach Computern hat auch der Markt für Präzisionskühlung zugenommen. Laut Lucas Beran, leitender Analyst der Dell'Oro Group, erreichte dieser Markt im vergangenen Jahr ein Volumen von 3,5 Milliarden US-Dollar und soll bis 2026 auf 6 Milliarden US-Dollar anwachsen. Dieses außergewöhnliche Marktwachstum verdeutlicht, dass in vielen Fällen neue Technologien erforderlich sind, um mit dieser Entwicklung Schritt zu halten.
