PUE und Energieeffizienz im Data Center

Die richtige Kühlung für das Rechenzentrum

03.07.2014 von Ariane Rüdiger
Kühlung verschlingt im ungünstigen Fall mehr als ein Drittel des Energieverbrauchs im Rechenzentrum. Kein Wunder, dass sich viele Bemühungen um mehr Energieeffizienz und bessere PuE-Werte im Data Center auf diesen Bereich konzentrieren. Das beliebteste Kühlmedium ist derzeit Luft. Doch könnte zukünftig auch die Wasserkühlung wieder mehr Freunde finden.

Mit dem richtigen Standort und der passenden Kühltechnologie können Unternehmen beim Betrieb eines Rechenzentrums viel Energie und Geld sparen. Länder im Norden mit gemäßigten Temperaturen – beispielsweise Irland oder Schweden – liegen gut im Rennen. Doch der grüne Server in Norwegen, wie ihn etwa Fjord IT oder Green Mountain anbieten, ist nicht für jede Organisation eine passende Lösung. Oft sollen eigene Rechenzentren oder gehostete Infrastruktur wenigstens einigermaßen in der Nähe stehen, zumindest aber im deutschen Rechtsraum. Und weil hiesige Unternehmen bei Kühl- und Klimatechnik weltweit führend sind, kommen aus ihren Ideenschmieden immer wieder neue Konzepte, die optimale Kühlung garantieren sollen. Sie werden nicht nur auf der IT-Leitmesse CeBIT vorgestellt, sondern finden sich auch auf sehr spezialisierten Veranstaltungen wie der Sanitär- und Klimamesse ISH, die jährlich in Frankfurt stattfindet.

Einen schnellen Überblick über die vorgestellten Kühlsysteme bietet unsere Bilderstrecke:

Kühlsysteme für das RZ

Hetzner Online verwendet für seine Rechenzentren ein standardisiertes Design mit Luftkühlung, um Aufwand und Kosten zu sparen.

Wärmetauschertüren als Kühlelement sorgen im Demo-Rechenzentrum von eCube an der Frankfurter Goethe-Universität für die richtige Rechnertemperatur.

Wegen des Einsatzes eines magnetgelagerten Turboverdichters zur Verdampfung des Wärmetransportmediums Wasser bei niedrigen Temperaturen kann Coolblue von Stulz – hier ein Prototyp – trotz ausgezeichneter Effizienz auf ein Kühlmittel verzichten und arbeitet ausschließlich mit Wasser.

Der neue Seitenkühler Loopus von Schäfer IT-Systeme arbeitet je nach Situation abwechselnd mit reinem Wasser oder mit Kältemittel.

Mit einem neuen, standardisierten Moduldesign, bei dem die Kühleinrichtungen unter den Rechnerschränken untergebracht sind, wendet sich Rital an Betreiber von Rechenzentren jeder Größenordnung.

Mit Eis gefüllter unterirdischer Speicher: Im Sommer schmilzt das Eis, die Kälte kühlt das RZ

Der Eisspeicher wird mit einer Wärmepumpe und anderen Elementen zu einer ganzjährig tauglichen heiz- und Kühllösung fürs RZ kombiniert

Für dauerhafte 45 Grad Eingangstemperatur sind Dells Hyperscale-Server nach Angaben des Herstellers ausgelegt – da reicht freie Kühlung meistens aus

Mit dreidimensional skalierten Miniaturbauelementen, die on-board gekühlt werden, schrumpfen Chips für gigantische Rechenleistungen gewaltig zusammen.

Kühlung im Rechenzentrum mit Kühlrad

Ein Beispiel für moderne Kühlkonzepte ist das neue Kollokations-Rechenzentrum der Noris Network in Nürnberg. Sein PUE-Wert(Power Usage Effectiveness) lag 2012 bei 1,3, 2013 soll er wegen der besseren Auslastung 1,2 betragen, die Stromdichte 2,5 kW pro Quadratmeter. Gekühlt wird mit einem Kühlrad von Kyoto Cooling. Solche Räder werden seit Jahrzehnten zur Gebäudekühlung verwendet, existieren allerdings erst kurz auch für Rechenzentren. Noris kombiniert aktuell zwei Kyoto-Cooling-Zellen mit je einem Rad von sechs Metern Durchmessern und drei Tonnen Gewicht. Sie bestehen aus Alu-Wärmetauschern und drehen sich je nach Kühllast und Außentemperatur mit 1-6 U/min. Geplant sind bis zu achtzehn Kühlzellen – jedes Jahr eine mehr. Die Einlasstemperatur der Rechner liegt bei 22 Grad. Wenn die Außenluft über 19 Grad warm ist, setzt Noris zusätzlich Kompressoren ein. „Wir könnten am Rechner auch mit höheren Einlasstemperaturen arbeiten, aber die Kunden wollen es anders“, erklärt Florian Zippel, verantwortlicher Projektleiter für Rechenzentrumsbau bei Noris Network. Die Kühllast, also das Verhältnis von IT- zu Kühlenergie, betrage bis zu einer Außentemperatur von 19 Grad nur 7 Prozent.

Heißluft ab nach oben

Auch der Rechenzentrumsbetreiber Hetzner Online, für sein nachhaltiges RZ-Konzept bereits ausgezeichnet, verwendet Luft als Kühlmittel. Hetzner nutzt ein standardisiertes RZ-Design. Jedes RZ hat 1.600 KVA (Kilovoltampere) USV-Leistung und einen Soll-Arbeitspunkt von 1.200 KW (Kilowatt) Wärmelast. Die Nennkühlleistung jedes RZ liegt bei 1.600 KW und wird auf 16 Anlagen zu 100 KW aufgeteilt. Die Stromdichte beträgt je nach RZ zwischen knapp 1 und 2,7 kW/qm. Der PUE-Wert wurde vom TÜV Süd mit 1,124 im Jahresmittel berechnet. Marketing-Manager Christian Fitz erläutert: „Gegenüber einem RZ mit PUE 2,0 sparen wir jährlich 8,75 Millionen kWh (Kilowattstunden) pro Rechenzentrumseinheit. Neun davon laufen derzeit. Das entspricht bei Hetzner jährlich einer Einsparung von etwas über neun Millionen Euro jährlich.“

Hetzner Online verwendet für seine Rechenzentren ein standardisiertes Design mit Luftkühlung, um Aufwand und Kosten zu sparen.
Foto: Hetzner

Hinsichtlich der Anlagen-Betriebsführung weist Fitz auf die bei Kälte draußen sehr geringe Luftfeuchtigkeit an den Servern hin.

Mittelfristig will Hetzner auf Warmgangeinhausung umsteigen, um höhere Ablufttemperaturen ohne Beeinträchtigung der Mitarbeiter zu ermöglichen. "Außerdem sollte man insgesamt weg von Kühlung und hin zur Nutzung der erzeugten Wärme gehen", fordert der Manager. Einsatzbereiche der Abwärme wären beispielsweise die Trocknung von Holzpellets, Klärschlamm oder das Aufladen von Wärmeakkus.

Direkte oder indirekte Freiluftkühlung

In puncto Kühltechniken gilt es zu unterscheiden zwischen direkter und indirekter freier Kühlung. Die direkte freie Kühlung kühlt die Rechner direkt mit der kühlen Außenluft, die indirekte freie Kühlung nutzt zusätzlich zur Wärme/Kälteübertragung ein Wasser-Glykolgemisch und Wärmetauscher. Die energetischen Unterschiede zwischen reiner und indirekter Freikühlung fallen knapp aus – zumindest bei der Kühltechnik-Simulation eines Rechenzentrums der Swisscom in Zürich: Während die simulierten Gesamt-Energieeinsparungen bei indirekter Freikühlung bei 54 bis 55 Prozent lagen, bewegten sie sich bei direkter Freikühlung im Bereich von 56 Prozent. Höhere Temperaturen am Servereingang brachten dabei nur einstellige zusätzliche Einsparungen. Der größere apparative Aufwand bei indirekter Freikühlung wurde in die Überlegungen nicht einbezogen. Beteiligt waren daran Forscher der Fachhochschule Nordwestschweiz, der Swisscom und der R+B Engineering. Die Wissenschaftler betonen, dass es sich hier um die Simulation eines individuellen Rechenzentrums handele, dass also die Ergebnisse für andere RZs durchaus anders aussehen können.

RZ-Kühlung mit Wasser in der Tür

Wasser leitet Wärme bis zu 4000-mal besser als Luft. Das machen sich immer mehr Anbieter zunutze. Beispielsweise eCube Computing: Das Unternehmen hat seine Wasserkühlungstechnologie zuerst im Rechenzentrum des Teilchenbeschleunigers CERN implementiert und jetzt in einem RZ der GSI Helmholtzzentrum für Schwerionenforschung GmbH. Ein Referenzrechenzentrum befindet sich am Loewe CSC (Center for Scientific Computing) der Universität. Erfunden hat die Technologie der Firmengründer Prof. Dr. Volker Lindenstruth, der den Lehrstuhl für die Architektur von Hochleistungsrechnern an der Goethe Uni in Frankfurt innehat. eCube kühlt mit wasserdurchströmten Wärmetauschertüren an den Racks.

Wärmetauschertüren als Kühlelement sorgen im Demo-Rechenzentrum von eCube an der Frankfurter Goethe-Universität für die richtige Rechnertemperatur.
Foto: eCube

"Diese Türen benötigten zunächst noch Ventilatoren, sind aber inzwischen so weit optimiert, dass sie ohne diese Ventilatoren auskommen und also als einziges Kühlsystem im RZ verwendet werden können.“ Nötig sind nur noch Pumpen, die laut eCube-Geschäftsführer Alexander Hauser rund drei Prozent der Energie des gesamten RZ verbrauchen, und Kühltürme für die indirekte freie Kühlung des Wassers. Die Server im Referenzrechenzentrum werden mit 30 Grad Eingangstemperatur betrieben. Ein Doppelboden entfällt. Die Stromdichte kann bis zu 6 kW pro Kubikmeter oder 35 kW pro Rack betragen. Als PUE-Wert für das Rechenzentrum in Frankfurt gibt Hauser 1,1 an. An den Systemen müssten über die Türen hinaus keine Veränderungen vorgenommen werden.

"Die Türen sind heute mit 2.200 Euro etwas teuer", räumt Hauser ein. Leichtere und daher auch billigere Typen seien in der Entwicklung. Außerdem entwickelt eCube ein Konzept für freistehende Rechner, wie sie bei Kollokationsrechenzentren die Regel sind.

BT setzt auf Regenwasser zur Kühlung im Data Center

Der Telekommunikationsanbieter BT betreibt zur Kühlung in einem Frankfurter Rechenzentrum ein Regenwassersammelbecken. Der unterirdische 240000-Liter-Tank sammelt Wasser für die Rückkühlung der RZ-Fläche. Vor dem Einsatz wird es entkeimt und gefiltert. Im Kaltgang herrschen maximal 24 Grad. Pro Rack beträgt die Strombelastung 15 bis 20 kW, pro Quadratmeter 2 kW. Die Leistungen der Kühlanlage liegen bei 9660 kW, dazu kommen 11200 kW maschinelle Kühlmöglichkeiten.

„In unserem Frankfurter Rechenzentrum haben wir ein Regenwasserbecken im Keller.“ Oliver Henkel, Head of BT Compute, BT Germany
Foto: BT Compute, BT Germany

Bei der freien Kühlung wird das Wasser durch den Rückkühler auf dem Dach geführt, der das Wasser mittels Außenluft kühlt. Ist es wärmer, wird der Rückkühler mit Regenwasser bespritzt, was einen weiteren Kühleffekt hat, so dass die freie Kühlung bis zu einer Außentemperatur von 16 bis 17 Grad ausreicht. Bei höheren Temperaturen unterstützen die Kältemaschinen. Das überschüssige, nicht verdunstete Wasser wird anschließend ins System zurückgeführt. „Reicht das Regenwasser nicht aus, verwendet BT Waser aus städtischen Leitungen“, sagt Oliver Henkel, Head of BT Compute bei BT Germany. Der PUE der Anlage liegt bei 1,3.

Kaltes Wasser aus dem Brunnen kühlt das RZ

Der RZ-Betreiber IGN aus München ist eines der Unternehmen, die Wasser aus Brunnen verwenden, um die Abwärme aus dem Rechenzentrum zu entfernen. Weil Grundwasser immer eine Temperatur von 11,5 Grad hat, braucht man keinerlei Kühlgeräte, lediglich Energie für Pumpen, die pro Pumpe 1,8 kW Leistung haben. „Auch wenn sich das Klima erwärmt, gehen wir davon aus, dass das Grundwasser seine Temperatur hält“, erläutert Dr. Andreas Thomas, Leiter Vertrieb bei IGN. Die Anlage soll 40 Jahre lang halten. Das RZ darf über zwei 15 Meter tiefe Brunnen bis zu 90 m3 Wasser täglich aus dem Aquifer (Fachwort für Grundwasserschicht) entnehmen. Das Wasser wird gefiltert und an primären Wärmetauschern vorbeigeführt, es kommt also nicht mit Stoffen in Berührung und wird nicht verunreinigt. Zwei weitere Brunnen führen das Wasser fünf Grad wärmer zurück. Gekühlt werden können damit 230 Racks mit 2,5 kW Leistung. Der PUE-Wert liegt ab einer Auslastung von 60 Prozent bei 1,2, das spart den Angaben zufolge 4,2 Millionen kWh ein. Interessant ist, dass sich IGN die Kalt- respektive Warmgangeinhausung sparen kann, weil die Temperatur des Kühlmediums dadurch nicht beeinflusst wird - es kommt ja mit der richtigen Temperatur aus dem Boden.

Rechenzentrum: Innovative Kühlkonzepte

Im Frühjahr werden wieder diverse Neuerungen für die RZ-Kühlung präsentiert, die teilweise neue Konzepte verwirklichen. Beispielsweise zeigt Stulz zur Fachmesse ISH "Cyberblue" als Prototyp. Das Gerät verwendet ausschließlich Wasser. "Kältemittel heizt die Atmosphäre auf", begründet Kurt Plötner, Berater und Leiter Export bei Stulz. Die neue Technik verdampft das Wasser mit einem magnetgelagerten Turboverdichter und erhöht so dessen Transportfähigkeiten, was laut Stulz die Effizienz bekannter Lösungen deutlich übertrifft.

Wegen des Einsatzes eines magnetgelagerten Turboverdichters zur Verdampfung des Wärmetransportmediums Wasser bei niedrigen Temperaturen kann Coolblue von Stulz – hier ein Prototyp – trotz ausgezeichneter Effizienz auf ein Kühlmittel verzichten und arbeitet ausschließlich mit Wasser.
Foto: Stulz

Schäfer IT-Systeme wirbt für den neuen Seitenkühler Loopus, der je nach Situation abwechselnd ausschließlich mit Wasser oder mit Kältemittel arbeitet. Normalerweise wird das Wasser von Außenluft gekühlt; überschreitet diese eine bestimmte Temperatur, schaltet das System auf den Kreislauf mit Kühlmittel um. Das spart Energie zu den Zeiten, in denen der Kältemittel-Kreislauf ausgeschaltet ist. Geeignet ist die Neuerung für kleine und mittlere Rechenzenten oder Backup-Rechenzentren. Das System liefert bis zu 50 kW Nutzkälte.

Der neue Seitenkühler Loopus von Schäfer IT-Systeme arbeitet je nach Situation abwechselnd mit reinem Wasser oder mit Kältemittel
Foto: Schäfer IT-Systeme

Rittal präsentiert ein hochgranulares und –standardisiertes RZ-Design, RimatrixS. Es versteht sich als Erweiterung zum kundenindividuell geplanten und gebauten Rechenzentrum mit den einzelnen RiMatrix-Komponenten. RiMatrix S kann in drei verschiedenen Formen eingebaut werden: Mit Gangeinhausung im Trockenbau, als Container und im Rittal Sicherheitsraum. Die Kaltluft strömt von vorn in die Server und hinten wieder hinaus. „Weil jedes Modul ein Kühlgerät hat, ergibt sich hohe Redundanz“, erklärt Bernd Hanstein, Hauptabteilungsleiter Produktmanagement IT bei Rittal. Auch in Teillast lasse sich das System nahe am optimalen Betriebspunkt betreiben, sein PUE-Wert liege bei 1,15.

Rittal präsentiert mit RimatrixS ein granulares und standardisiertes RZ-Design.
Foto: Rittal

Neuartiger Wärmetauscher im Data Center

Das Beratungsunternehmen DC-CE hat ein Patent für eine RZ-geeignete Kühlzelle auf Basis eines Kreuzwärmetauschers, wie er zum Beispiel in Nullenergie-Häusern zum Luftaustausch verwendet wird, eingereicht. Kreuzwärmetauscher galten für die RZ-Kühlung bisher als zu leistungsschwach. An der TU Berlin entsteht gerade ein Rechenzentrum, das die Technologie nutzt. Eine Kühlzelle misst 2,40 x 1,20 x 1,20 Meter und wiegt rund eine halbe Tonne. In der in sich geschlossenen Zelle befinden sich neben dem Kreuzwärmetauscher auch ein Split-Gerät und die nötige Regeltechnik. „Wir können damit kleinere Kühleinheiten liefern als die Kühlradtechnik“, sagt Ulrich Terrahe, Geschäftsführer des Beratungsunternehmens. Die Lösung arbeite praktisch verschleißfrei und sei zur weiteren Energieoptimierung mit drehzahlgesteuerten Ventilatoren ausgerüstet, die sich austauschen lassen. Das System hat nur zwei Kreise: Außen- und Innenluft. DC-CE garantiert „bei sauberer Elektrotechnik“ einen PUE-Wert von 1,25.

Eiskeller im RZ

Mit Eis gefüllter unterirdischer Speicher: Im Sommer schmilzt das Eis, die Kälte kühlt das RZ.
Foto: SK Kühlsysteme

Mit einem Eisspeicher im Boden möchte die SK-Kühltechnik Rechenzentren kühlen. Geschäftsführer Marc Siegelkow, dessen Unternehmen sonst auf geothermische RZ-Kühlung spezialisiert ist, sagt: „Wir sind auf die Idee gekommen, weil es bei manchen unserer Projekte sehr schwer war, die für Geothermie nötigen Bohrungen einzubringen.“ Daher habe man beschlossen, in Anlehnung an frühere Eiskeller etwa in Gaststätten einen Eisspeicher einzurichten. Die erste 100-kW-Anlage entsteht derzeit in Kiew (Ukraine). Ein Speicher für 70 kW Kühlleistung hat einen Durchmesser von rund 13 Metern und ist zwei Meter tief, was beträchtlichen Erdaushub bedeutet. Im Sommer speichert das unterirdische Becken Wärmeenergie, die mit Kollektoren gesammelt wird, in relativ kühlem Wasser. Diese Wärme wird dem Wasser im Winter per Wärmepumpe entzogen und heizt das Rechenzentrum oder andere Gebäude. Dadurch kühlt das Wasser aus und gefriert. Im Sommer wird nun dem Eis diese Kälte entzogen und ins RZ geleitet. In der Heizperiode wird das RZ mit direkter Freiluftkühlung temperiert. Obwohl ein solches System in der Investition eher etwas teurer ist – unter anderem durch den Erdaushub – amortisiert es sich, so Siegelkow, innerhalb von drei Jahren.

Der Eisspeicher wird mit einer Wärmepumpe und anderen Elementen zu einer ganzjährig tauglichen heiz- und Kühllösung fürs RZ kombiniert.
Foto: SK Kühlsysteme

RZ der Zukunft: Strom aus der Alge

Andere Entwürfe sind noch weiter entfernt von der praktischen Umsetzung. So schlägt der RZ-Bauer Prior1 ein Design vor, bei dem in den rund 14 Zentimeter dicken Zwischenräumen von Außenwandelementen Algen bei der Zellteilung Methan produzieren. Das Gas befeuert zwei redundante Blockheizkraftwerke (BHKW), die das RZ mit Strom und gegebenenfalls Wärme versorgen – ein geschlossener Kreislauf, denn: „Die Biomasse, die durch die Zellteilung der Algen entsteht, kann zu Bioplastik verarbeitet oder zu Pellets gemacht werden“, erklärt Oliver Fronk, der im Projektvertrieb von Prior1 tätig ist. Im Keller befinden sich mit ultraviolettem Licht bestrahlte Tanks, so dass dort ebenfalls Photosynthese stattfindet. Reicht der Ertrag der Methanfabrik in der Wand nicht aus, gibt es zur Sicherheit noch einen Anschluss ans öffentliche Gasnetz.

Weniger Server – weniger Kühlung

Eine sparsamere IT-Infrastruktur macht die Kühltechnik einfacher. Neue Servertypen, die mit weniger Strom auskommen oder Wärme besser tolerieren, könnten daher die Kühltechnik revolutionieren. Beispielsweise die Hyperscale-Server von Dell, die für dauerhafte Eingangstemperaturen von 45 Grad entwickelt wurden. Spielt der Rest der Infrastruktur hier mit, wird Freikühlung für viel mehr geografische Regionen eine Option. Besonders gespannt darf man auf die demnächst zu erwartenden Ankündigungen von Atom-Servern und deren Echtbetriebs-Leistungswerten durch Dell und HP sein. HP wirbt für sein Moonshot-Projekt mit Leistungs- und Platzeinsparungen von mehr als 90 Prozent.

Für dauerhafte 45 Grad Eingangstemperatur sind Dells Hyperscale-Server nach Angaben des Herstellers ausgelegt – da reicht freie Kühlung meistens aus.
Foto: Dell

Doch es geht auch bescheidener: Schon eine richtige Berechnung der Leistungsdichte des RZ hilft, dieses nicht zu groß zu dimensionieren. Dieser Fehler kommt durchaus häufiger vor. In einem Whitepaper des eco-Verbandes vom Juni 2012, das ein Verfahren zur realistischen Schätzung der Leistungsdichte eines zukünftigen RZ vorschlägt, heißt es: „Als grobe Faustformel kostet jedes kW Überdimensionierung 3.000 bis 5.000 Euro für ein Rechenzentrum mit einem guten n+1 Redundanzkonzept.“ Dazu kommen dann die laufenden Kosten für die ebenfalls überdimensionierte Kühlung.

Ganz neue Perspektiven könnten durch dreidimensionale Chipdesigns entstehen, die IBM derzeit auf Forschungskonferenzen vorstellt. Hier werden mehrere winzige Bauelemente in einem einzigen dreidimensional gestalteten Chip mit integrierten winzigen Wasserkanälen integriert. Das Wasser führt die Hitze der hochintegrierten Einheiten direkt da ab, wo sie entsteht: im Herzen des Bauelements. Wann solche Entwürfe tatsächlich kaufbare Realität werden, steht aber noch in den Sternen.

Mit dreidimensional skalierten Miniaturbauelementen, die on-board gekühlt werden, schrumpfen Chips für gigantische Rechenleistungen gewaltig zusammen.
Foto: IBM