Green IT Best Practice Award 2012

Christmann Informationstechnik + Medien

26.11.2012
Von Benjamin Jockisch
Auf der ISC 2012, der weltweit wichtigsten Messe für Supercomputing, belegte das von der niedersächsischen Firma Christmann unterstützte Team "Kluster" vom Karlsruher Institut für Technologie (KIT) den ersten Platz für den Linpack-Benchmark in der Kategorie reine CPU-Cluster (also ohne Grafikkarten-Beschleuniger).

Christmann hat beim Wettbewerb GreenIT Best Practice Award 2012 in der Kategorie 1 "Energieeffiziente Systeme" neben der Deutschen Bundesagentur für Arbeit gewonnen.

Seit 2005 ist Christmann Informationstechnik + Medien GmbH & Co. KG Hersteller von leistungsfähigen und ressourceneffizienten (= material- und energieeffizienten) IT-Systemen, sowohl im Server- als auch im Desktopbereich. Seit Jahren entwickelt das Unternehmen Lösungen im Bereich hocheffiziente IT und Green-IT. Unter dem Namen RECS (Resource Efficient Computing & Storage) entwickelt das Unternehmen eine Serverarchitektur, die es durch konsequente Materialeffizienz erlaubt, bei Neubauten von Rechenzentren mehr als 50 Prozent der Herstellungskosten einzusparen. Im laufenden Betrieb sind ebenso hohe Einsparungen bei den Energiekosten möglich. Der Schwerpunkt bei RECS liegt auf mittleren bis großen Infrastruktursystemen für die Hauptanwendungsbereiche Cloud-Computing und HPC (High Performance Computing).

Wettbewerb als Projekt

Christmann unterstützte das Team des Karlsruher Instituts für Technologie (KIT) bei der "Student Cluster Challenge" auf der International Supercomputing Conference '12 (ISC). Ziel des Engagements war einerseits zu zeigen, was im HPC-Bereich mit Green-IT möglich ist, andererseits der Gewinn neuer Erkenntnisse für die Weiterentwicklung der eigenen Produktlinien.

Gemeinsam mit Samsung, deren Low-Voltage-Green-DDR3-RAM-Module eine wichtige Rolle bei der Umsetzung des Vorhabens gespielt haben, und anderen Herstellerpartnern wie Intel zeigte Christmann, dass es mit einem klaren und auf neuesten Effizienztechnologien basierenden Green-IT-Design gelingen kann, den weltweit schnellsten reinen CPU-Cluster mit einem Verbrauch von unter drei Kilowatt zu bauen.

Unterstützt wurde das Projekt neben Samsung und Intel auch vom Mainboard-Hersteller Supermicro sowie Enermax, einem Hersteller energieeffizienter Netzteile, dem deutschen Severschrank-Hersteller Lehmann und Mellanox, dem israelischen Marktführer für Hochleistungsnetzwerkkomponten (Infiniband). Auch das Fraunhofer-Institut für Techno- und Wirtschaftsmathematik steuerte spezieller Softwaretechnologie einen wichtigen Teil zum Gelingen des Projektes bei.

Bei der Student Cluster Challenge müssen die eigens für den Wettbewerb konfigurierten Rechner verschiedene Rechenoperationen lösen, Spezialprogramme bewältigen (beispielweise die Berechnung von Molekulardynamik oder Ozeanströmungen) und dürfen dabei einen Stromverbrauch von drei Kilowatt nicht übersteigen. Zusätzlich wird durch standardisierte Bewertungssysteme (wie etwa den Linpack-Benchmark) die Rechenleistung der Systeme ermittelt und verglichen.

Fünf Teams am Start

Auf der ISC 2012 in Hamburg im Juni starteten im Finale des Wettbewerbs fünf Teams: Zwei Teams aus den USA, zwei aus China und nur ein einziges Team repräsentierte Europa - das Team vom KIT. Am Ende des dreitägigen Wettbewerbs erreichte das deutsche "Kluster"-Team mit einer Leistung von 2,37 Teraflops den ersten Platz beim Linpack-Benchmark in der Kategorie reine CPU-Cluster (ohne Grafikkarten-Beschleuniger), mit großem Abstand vor den Zweitplatzierten.

Projektphasen

Der Ablauf des Projektes "Student Cluster Challenge" gliederte sich in mehrere Phasen:

  • Evaluationsphase:

Das Studenten-Team vom KIT ermittelte im Vorfeld die für den Wettbewerb in Frage kommenden Basis-Systeme. Vier unterschiedliche System-Design-Konzepte kamen in die engere Auswahl. Nach einer gründlichen und detaillierten Bewertung der Konzepte wurden zwei Systeme intensiv physisch geprüft. Im Test wurden verschiedene CPUs, Mainboards, Grafikkarten, Lüftungskonzepte und unterschiedlicher Arbeitsspeicher (RAM) evaluiert.

  • Entscheidungsphase:

Nach Abschluss der Tests entschied sich das Team, dass der CPU-Cluster im Wettbewerb ohne Grafikkarte auskommen würde. Grafikkarten bringen beim High Performance Computing nur bei speziellen Anwendungen einen Nutzen, während sie relativ viel Energie verbrauchen, was sich immer dann negativ bemerkbar macht, wenn Programme nicht optimal für das Rechnen auf Grafikkarten ausgelegt sind.

Weiterhin entschied man sich für den neuesten Intel "Romley"-Chipsatz, der gegenüber seinem Vorgänger eine erhebliche Verbesserung der Energieeffizienz aufweist. Erstmals kam auch die neue Befehlssatzerweiterung "AVX" zum Einsatz, die für eine weitere Erhöhung der Rechenleistung sorgen konnte.

  • Konfigurationsphase:

Der Aufbau sowie das Feintuning des Wettbewerbsrechners fanden einige Wochen vor dem Wettbewerb in der Christmann-Zentrale in Ilsede statt. Vor der Endkonfiguration fiel die Entscheidung auf den Einsatz von Samsungs Low-Voltage-RAM. Dieser Speicherchip benötigt nur 1,35 Volt und trägt damit zur weiteren Reduzierung des Energieverbrauchs bei. In Abstimmung mit Intel und dem Mainboard-Hersteller Supermicro wurde eine Basiskonfiguration für ein stabiles Low-Voltage-System gefunden.

Eine Woche vor Beginn des Wettbewerbs traf die KIT-Mannschaft erneut in Ilsede ein, um während ihres einwöchigen "Boot-Camps" in der Christmann-Zentrale die Endkonfiguration des Rechners vorzunehmen und den Einbau des Low-Voltage-RAMs vorzunehmen.

Probleme innovativ gelöst

Leistungsfähige CPU-Cluster sind heute häufig mit Grafikkarten ausgestattet. Das Team vom KIT entschied sich in Abstimmung mit den Experten aus dem Hause Christmann nach intensiven Tests gegen die Benutzung von Grafikkarten. Da die Softwareunterstützung für das Rechnen auf Grafikkarten immer noch sehr begrenzt ist, bringen sie nur in wenigen Disziplinen Vorteile. Auch wenn Grafikkarten eigentlich mehr Rechenleistung pro Watt erbringen, ergibt sich bei einer Gesamtbetrachtung ein klarer Effizienzvorteil für eine reine CPU-Architektur. Der Einsatz von Grafikkarten im HPC ist nur dann energieeffizient, wenn deren Leistungsfähigkeit von entsprechend angepasster Software komplett ausgeschöpft wird. Dies war jedoch bei den für den Wettbewerb vorgegebenen Anwendungsprogrammen nicht der Fall. Durch die Einsparung der Grafikkarte konnten die freigewordenen Kapazitäten in mehr CPU-Rechenleistung investiert werden. Es wurden Acht-Kern-Prozessoren von Intel eingesetzt, deren Effizienz durch eine Verringerung der Taktfrequenz noch zusätzlich gesteigert wurde.

Low-Voltage-RAM

Der Einsatz von Low-Voltage-RAM bietet sich zwar für einen solchen Wettbewerb an, allerdings ist diese Technik noch nicht am Markt etabliert. Deshalb mussten mit den Herstellern zunächst Wege gefunden werden, diese neue Technologie einzusetzen und das Zusammenspiel aller einzelnen Komponenten zu ermöglichen. Das Ziel war, neben der Taktrate auch die Spannung des Rechners abzusenken. Dies ist nur durch den Einsatz von DDR3-Modulen möglich, die auf der Basis neuester Produktionstechnologie auch bei reduzierter Spannung dauerhaft die höchste vom Intel-Chipsatz "Romley" unterstützte Geschwindigkeit leisten. Solche Module konnten zur Zeit des Versuchsaufbaus nur von Samsung in ausreichender Stückzahl produziert und geliefert werden.

Um die Low-Voltage-Technik einsetzen zu können, war es nötig, das stabile Zusammenwirken mit anderen Komponenten sicherzustellen. Insbesondere bei den Mainboards tauchten Schwierigkeiten auf, da es bisher nur wenige Systeme gibt, die mit Low-Voltage-Einstellungen tatsächlich laufen. Ein Mainboard des Herstellers Supermicro wurde nach zahlreichen Tests als geeignete Basis ausgewählt.

Energieeffiziente Netzteile

Besonders energieeffiziente Netzteile des Herstellers Enermax lieferten einen wichtigen Beitrag zur Gesamteffizienz des Systems. Für den Einbau war allerdings zunächst eine Gehäuseanpassung notwendig, die Christmann innerhalb weniger Tage durchführen konnte. Durch diese Anpassung war der Einsatz eines Netzteiles mit einem Wirkungsgrad von 93 Prozent möglich. Dies ist ein Spitzenwert, wenn man bedenkt, dass Netzteile schon mit einem Wirkungsgrad von über 80 Prozent als energieeffizient gelten, wie etwa Zertifizierungen durch das Label "80 plus" zeigen.

Herausforderungen

Die größte technische Herausforderung war die Konfiguration des stabilen Betriebs mit der Low-Voltage-Technik. Von der Mehrzahl der Hersteller wird diese Technik für marktfähige Produkte noch nicht unterstützt, sondern bisher lediglich in Labors getestet. Letzten Endes gelang es jedoch, diese Herausforderung zu meistern. Die Wahl innovativer Komponenten - wie etwa Low-Voltage-DDR3-Module und Low-Energy-CPUs - bedeutete auch einen erheblichen zusätzlichen Aufwand bei der Beschaffung der Bauteile. Da diese Teile völlig neuartig sind, mussten diverse Komponenten weltweit beschafft werden. Dazu bedurfte es einer engen Zusammenarbeit und Koordination mit den Herstellern.

Durch Lieferzeiten und den zeitraubenden Konfigurationsprozess entstand ein sehr kurzes Zeitfenster, in dem die neu eingetroffene Technik konfiguriert werden musste. Das Team arbeitete in der letzten Woche regelmäßig bis in die Nachtstunden. Noch in der Nacht vor dem Aufbruch zum Wettbewerb nach Hamburg arbeitete das KIT-Team fieberhaft an der Endkonfiguration. Glücklicherweise trafen die letzten Komponenten "just in time" in Ilsede ein, und der Rechner konnte durch den gemeinsamen Einsatz der kluster-Team-Mitglieder und der Christmann-Mitarbeiter rechtzeitig für den Wettbewerb fit gemacht werden.

Neugewonnene Erkenntnisse

Wie bei der Formel 1, bei der häufig die ursprünglich für Rennwagen entwickelte High-End-Technologie ihren Weg in die Produktion von Serienfahrzeugen findet, so kann auch in der IT eine für High-Performance-Computing konzipierte Lösung zur Optimierung von Serversystemen oder Arbeitsplatzcomputern beitragen. Insbesondere bei Servern und Arbeitsstationen für besonders leistungsintensive Anwendungen bestehen noch erhebliche Optimierungspotentiale. Hierfür können Erkenntnisse wie die aus den Cluster-Wettbewerbssystemen sehr aufschlussreich sein. Bereits für die zweite Hälfte von 2012 ist die Integration von Low-Voltage-RAM in erste Systeme der Christmann-Produktlinien geplant.

Kosten und Nutzen

Der Aufwand an Personal und Material auf der Seite von Christmann war erheblich: Die Gesamtkosten lagen im hohen fünfstelligen Bereich. Die neu gewonnenen Erkenntnisse, inklusive das aus den verworfenen Lösungen gewonnene Wissen, waren den Aufwand allerdings wert. Die Ausrichtung der Christmann-Modellpalette für den HPC-Bereich profitiert davon in sehr direkter Weise. Und nicht zuletzt tragen solche Wettbewerbe zu einer Beschleunigung und Verdichtung von Entwicklungs- und Entscheidungsprozessen bei.

Einer der wertvollsten Effekte: Die noch stärkere Verzahnung mit den Partnern. Hier ist insbesondere das KIT zu nennen. Das "Kluster"-Team hat durch sein hohes Engagement und seine freundliche und offene Art viele Freunde bei den Mitarbeitern der Firma Christmann gewonnen. Deshalb kam es im Anschluss an den offiziellen Wettbewerb noch zur Verleihung eines Sonderpreises für das "sympathischste Team des Wettbewerbs" im Hause Christmann.

Partnerschaftliche Zusammenarbeit

Diese Intensivierung der partnerschaftlichen Zusammenarbeit galt auch für die anderen beteiligten Partner. Insbesondere Samsung hat sich mit hohem Einsatz für das Projekt engagiert. Auch die Fachingenieure und Experten von Intel und die beteiligten Partner von Mellanox, Supermicro und Lehmann haben ein hohes Engagement für die Sache gezeigt. Hier sind ebenfalls weitere Projekte geplant.

Die Low-Voltage-Technologie wird in der Zukunft besonders im Bereich der Hochleistungs-Server und Workstations erhebliche Spareffekte bringen. Dank der Fortschritte in der Fertigungstechnologie (Samsung fertigt mittlerweile DRAMs in Strukturen in der 20-Nanometer-Klasse, die aber für den Versuchsaufbau noch nicht zum Tragen kamen) sind hier deutliche Energieeinsparungen möglich. Die nächste Stufe wartet bereits: Noch niedrigere Spannungen sind möglich. 1,25 Volt ist beim Green-DDR3-Memory von Samsung bereits Realität. Im Testbetrieb bei einem Christmann-Partner aus einem universitären Forschungsinstitut läuft sogar schon ein System mit erheblich niedrigerer Spannung. Nach Untersuchungen von Samsung kann mit Low Voltage-Green-Memory eine Einsparung von bis zu 67 Prozent erzielt werden.

Auch im PC-Bereich?

Im PC-Bereich wird ein Einsatz dieser Technologie ebenfalls geprüft. Bei hochwertigen PCs kann ein mit dem Serverbereich vergleichbarer Effekt erzielt werden, insbesondere bei den sehr leistungshungrigen CAD-Workstations.

Die Auswirkungen auf den Energieverbrauch können langfristig erheblich sein. Auch andere Hersteller werden nach und nach dem Beispiel folgen und die Energieeffizienz ihrer Systeme verbessern. Wünschenswert wäre eine Umkehrung des Trends hin zu einer Senkung des absoluten Energieverbrauches in der IT. Erste Anzeichen sind in der Neuauflage der Borderstep-Studie für Rechenzentren zu sehen - möglicherweise beeinflusst durch die wirtschaftlichen Krisenjahre nach 2008.

Um diesen Umbruch tatsächlich nachhaltig zu erreichen, müssten größere Schritte getan werden als bisher. Insbesondere in Beschaffungs- und Ausschreibungsverfahren wird eher der Status Quo gefestigt. Hier ist noch vieles auf Mainstream-Technologie ausgerichtet - mit begrenzten Fortschritten in der Effizienz.

Ökologische Nachhaltigkeit

Durch den geringeren Energiebedarf der 1,35 Watt-Low-Voltage-Technologie wird beim Betrieb des Geräts weniger Wärme erzeugt. Dadurch ist automatisch weniger Kühlleistung vonnöten, was wiederum Energie und Kosten bei den ansonsten sehr energieintensiven Kühlsystemen spart.

Zusammen mit dem geringeren CO2-Ausstoß kann die Umweltbelastung durch Server- und Rechenzentrumstechnologie sowie PC-Arbeitsplätzen auf diese Weise erheblich reduziert werden.

In komplexeren Systemen ist mit einer realen Minderung des Energieverbrauchs zwischen 20 und 60 Prozent zu rechnen. Bei flächendeckender Umsetzung dieser Technologie kann man von einer zirka 30-prozentigen Einsparung ausgehen. Dies ergäbe allein im Bereich der deutschen Rechenzentren eine Energiereduktion in der Größenordnung von drei Terrawattstunden pro Jahr. Hinzu kommen Einsparungen bei den benötigten Materialien und ein stark reduzierter Platzbedarf bei Rechenzentren.

Fazit

Foto: GreenIT BB

Der Erfolg bei der Student Cluster Challenge ist für Christmann ein Ansporn, künftige Weiterentwicklungen der eigenen Server- und Desktop-PC-Baureihen noch energieeffizienter zu gestalten. Low-Voltage-RAM (speziell von Samsung) war einer der entscheidenden Erfolgsfaktoren beim Student-Cluster-Wettbewerb und wird bei dieser Weiterentwicklung eine große Rolle spielen. (mhr)