© maxkrasnov, 123RF

Das Streben nach immer schnelleren Rechnern scheint kein Ende zu nehmen, aber lässt sich der Energiehunger der Supercomputer auch in Zukunft noch stillen? Welche Rolle spielt dabei Linux? Das Linux-Magazin sprach mit einem Experten.

Linux-Magazin: Die Rechenleistung von Hochleistungsrechnern ist in den vergangenen Jahrzehnten exponentiell angestiegen. Dennoch strebt man immer weiter nach noch schnelleren Rechnern. Welche realen Probleme sind denn mit einem heutigen Petaflop-Rechner immer noch nicht lösbar?

Dieter Kranzlmüller: Der Bedarf an mehr Rechenleistung ist nach wie vor ungebrochen und ein Ende ist auch in naher Zukunft nicht zu erwarten. Wir sehen das sowohl bei der Auslastung unseres aktuellen Systems, als auch im Zusammenhang mit Themen, bei denen wir noch ganz am Anfang stehen. So hatten wir erst kürzlich ein Symposium zu Next-Gen-HPC, also künftigen Supercomputern, mit Fokus auf personalisierter Medizin und den interessanten Möglichkeiten, die sich durch mehr verfügbare Rechenleistung eröffnen.

Ein weiteres Beispiel, an dem seit Jahren gearbeitet wird, stammt aus der Geophysik, wo Wissenschaftlerinnen und Wissenschaftlern der LMU München und der TU München letztes Jahr die bisher komplexeste Simulation des verheerenden Erdbebens und des Tsunami in Südostasien im Jahr 2004 gelungen ist. Aber auch hier sehen wir einen zusätzlichen Bedarf an Rechenleistung, denn Tsunami und Erdbeben gemeinsam zu simulieren, das ist derzeit immer noch äußerst schwierig.

Ganz generell gesagt: Künftige Supercomputer und ihre höhere Rechenleistung werden ein ganz neues Zusammenspiel von komplexen, hochauflösenden Computersimulationen, Machine Learning und der Analyse großer Datenmengen ermöglichen.

Linux-Magazin: Immerhin haben Supercomputer längst die Rechenleistung überschritten, die für das menschliche Gehirn geschätzt wird, und verstehen trotzdem selber nicht, was sie tun. Bräuchte es nicht eine andere Strategie, eine andere Qualität von Datenverarbeitung, damit Computer auch Dinge hinterfragen, Regeln brechen statt sie immer nur stur zu befolgen, bislang unbekannte Zusammenhänge entdecken können?

Dieter Kranzlmüller: Alle gerade angeführten Beispiele zeigen, wie wichtig es ist, dass der Mensch im wissenschaftlichen Prozess auch weiterhin eine wichtige Rolle spielt. Das gilt, auch wenn sich mit der Rechenkapazität von Supercomputern Dinge berechnen lassen, die ein Mensch ohne Computerhilfe niemals berechnen könnte.

Die wissenschaftliche Arbeit, die sorgfältige Auswertung und Analyse der Daten und schließlich der Erkenntnisgewinn sind nach wie vor Dinge, bei denen die Intelligenz und Kreativität der Wissenschaftlerinnen und Wissenschaftler gefragt sind. Und schließlich sind für die Anwendung der Erkenntnisse unser Wertesystem und unsere Ethik essenziell und unverzichtbar und aus meiner Sicht noch längere Zeit nicht einfach in einem Computer nachzubilden.

Linux-Magazin: Wenn es dabei bleibt, dass der Computer das Rechnen übernimmt, der Mensch dagegen das Interpretieren der Resultate und deren Anwendung gemäß ethischer Standards, kann es dann nicht zum Problem werden, dass das Zustandekommen der Ergebnisse immer weniger nachvollziehbar ist? Man denke etwa an unüberschaubare Datenmengen oder an das maschinelle Lernen mit neuronalen Netzen, bei dem sich nicht mehr aufs Bit nachvollziehen lässt, wie genau die Maschine beispielsweise zu einer Klassifikationsentscheidung gelangt ist. Kann der Mensch hier dem Rechner nur noch glauben?

Dieter Kranzlmüller: Das ist in der Tat eine Frage, die in der Wissenschaft heiß diskutiert wird. Meiner persönlichen Meinung nach müssen wir dafür sorgen, dass die wissenschaftlichen Ergebnisse nachvollziehbar und reproduzierbar bleiben. Tun wir das nicht, laufen wir tatsächlich Gefahr, dem Rechner nur noch zu glauben. Ihre Frage ist also einerseits eine berechtigte Frage, die in den Geisteswissenschaften diskutiert werden muss, andererseits eine Aufgabe für die Informatik, um entsprechend Licht ins Dunkel zu bringen und Werkzeuge für die Anwendung solcher Systeme zu liefern, die Nachvollziehbarkeit möglich machen.

Linux-Magazin: Mehr Rechenleistung hieß in der Vergangenheit meist: mehr Prozessoren. Mehr Prozessoren führen zu mehr Komplexität und nützen gleichzeitig nur, wenn sich der Algorithmus auch effektiv parallelisieren lässt. Werden wir mit immer besseren Algorithmen auch in Zukunft von immer mehr CPUs profitieren oder könnte es da eine Grenze geben?

Dieter Kranzlmüller: In der Tat ist es so, dass Algorithmen, die sich besonders gut parallelisieren lassen und die optimal auf die Architektur eines bestimmten Rechners und dessen CPUs passen, davon in höherem Maße profitieren. Dies ist unter anderem ein Grund, weshalb wir im Gauss Centre for Supercomputing (GCS) seit Jahren eine Strategie auf der Grundlage unterschiedlicher Architekturen verfolgen. Damit wollen wir möglichst alle Anwender in Deutschland optimal unterstützen.

Gleichzeitig ist es eine Tatsache, dass viele Forscherinnen und Forscher mit Codes arbeiten, die es seit Jahrzehnten gibt. Diese Codes zu optimieren und auf moderne CPUs anzupassen ist unabdingbar, um von künftigen Supercomputern zu profitieren und diese effizient und stromsparend einzusetzen. Diese Optimierungen sind zeitintensiv und arbeitsaufwändig und erfordern höchste Expertise im Application-Support. Am Leibniz-Rechenzentrum (LRZ) haben wir dafür ein großes Team, das Nutzerinnen und Nutzern des Super-MUC bei der Optimierung ihrer Codes unterstützt. Diese Aufgabe wird auch zukünftig ganz wichtig sein und entsprechenden Aufwand erfordern.

Die technologische Entwicklung ist eine andere Geschichte. Mehr CPUs machen ein System nicht nur komplexer in der Bedienung für die Nutzerinnen und Nutzer, sondern auch im Betrieb. Damit stehen Rechenzentren wie unseres weltweit vor großen Herausforderungen: Wie lässt sich der Energieverbrauch in einem angemessenen Rahmen halten? Wie lässt sich so ein großes System programmieren? Wie kann man die verschiedenen Codes effizient verteilen?

Linux-Magazin: Apropos Energieverbrauch. Der ist ja ein großes Problem der Hochleistungsrechner. Welche Lösungen zeichnen sich dafür ab?

Dieter Kranzlmüller: Tatsächlich ist die Energieeffizienz von Rechnern dieser Größe einer der Schwerpunkte unserer eigenen Forschung am LRZ. Wir sind davon überzeugt, dass sich der Energieverbrauch nur in den Griff kriegen lässt, wenn man einen ganzheitlichen Ansatz fährt, so wie wir mit unserem Vier-Säulen-Modell.

Über die Energieeffizienz der Software haben wir schon gesprochen. Ein weiterer Punkt ist die Systemsoftware: Auch hier versuchen wir die Nutzung der Maschine (Abbildung 1) so effizient wie möglich zu gestalten, zum Beispiel über spezielle Scheduling-Software oder eine so genannte Energy Aware Runtime, die wir in unserem nächsten Höchstleistungsrechner – Super-MUC-NG – einsetzen werden.

Abbildung 1: Blick auf den Hochleistungsrechner Super-MUC im Leibniz-Rechenzentrum in Garching bei München.

Dann spielt natürlich die Energieeffizienz der Hardwarekomponenten eine wichtige Rolle dafür, wie stromsparend sich eine CPU betreiben lässt. Schließlich ist aber auch die Gebäudeinfrastruktur ein wichtiger Punkt. Wir setzen etwa seit Jahren auf Warmwasserkühlung unserer Rechner. Die Infrastruktur dafür bereitzustellen ist erst mal aufwändiger als bei einem luftgekühlten System. Aber über die Lebenszeit eines Supercomputers zahlt es sich aus, und jeden Euro, den wir da einsparen, können wir an anderer Stelle für die Unterstützung der Wissenschaft investieren.

Linux-Magazin: Bedeuten immer schnellere Prozessoren nicht auch, dass sich der Geschwindigkeitsunterschied zwischen CPU und Haupt- oder gar Massenspeicher weiter vergrößert? Oder können auch diese Komponenten im selben Tempo zulegen?

Dieter Kranzlmüller: Die Verbesserungen bei den Prozessoren haben in der Tat zu einer Öffnung der Schere zwischen Prozessor- und Speicherleistung geführt. Die Lösung für dieses Problem ist eine Erweiterung der Speicherhierarchien, die wir aktuell in vielen Systemen sehen. Ganz neue Speichertechnologien und deren Einbindung in die Supercomputer machen verbesserte Lösung bei der Nutzung von Speicher und in Bezug auf die Lokalität der Daten erforderlich. Viele Ideen dafür befinden sich derzeit gerade in Entwicklung, unter anderem auch bei uns, und wir werden sehen, welche davon es zu weiter Verbreitung bringen werden.

Linux-Magazin: Könnten Sie vielleicht zu dem Beitrag des Leibniz-Rechenzentrums ein Beispiel geben?

Dieter Kranzlmüller: Bei unserem CoolMUC-3, einem unserer Linux-Cluster, haben wir zum Beispiel ein besonderes Multi-Channel-DRAM im Einsatz. Das ist ein Speicher mit hoher Bandbreite (High Bandwidth Memory), der direkt an der CPU sitzt und mit 460 GByte/s rund dreimal so schnelle Übertragungsraten zulässt wie klassische Multi-Channel-DRAMs. Innerhalb unseres Intel Parallel Computing Centre (IPCC) am LRZ optimieren wir anschließend Codes ganz speziell für solche neuen Speicherarchitekturen. Und mit Hilfe des Projekts DASH [1] wird derzeit an meinem Lehrstuhl eine C++-Template-Library entwickelt, die Datenstrukturen auf verschiedenste Speicherlösungen verteilen kann und dabei einen hierarchischen Ansatz erlaubt, der dem Partitioned-Global-Address-Space-Programmiermodell (PGAS, [2]) entspricht.

Linux-Magazin: Sehr viele der Hochleistungsrechner laufen unter Linux. Welche Rolle spielt Open Source in der HPC-Welt allgemein?

Dieter Kranzlmüller: Da auf den Supercomputern der Welt hauptsächlich selbst entwickelte Software läuft, die Anwender in Zusammenarbeit mit den Rechenzentren für die Systeme optimieren, ist der Quellcode in der Regel vorhanden. Nur so ist es möglich, auch das letzte Bit noch zu optimieren. Das führt dazu, dass offene Software im Allgemeinen wertgeschätzt wird und dementsprechend weit verbreitet ist. Ähnlich verhält es sich mit Open Data und Open Access, das sehr gut zu der Grundeinstellung der Wissenschaftler passt.

Allerdings sind der Verbreitung von Software für Supercomputer natürlich Grenzen gesetzt, wenn es in einem bestimmten Bereich nur eine Handvoll von Experten gibt, die die Software verstehen und einsetzen können. Ebenso hilft es nichts, Open Data zu haben, wenn sich kein Mensch die Datenmengen überhaupt herunterladen kann. Hier ist noch einiges zu tun, aber in der HPC-Welt sehe ich durchwegs eine positive und offene Haltung.

Linux-Magazin: Die Liste der schnellsten Rechner der Welt dominieren die USA und China. Russland oder Indien haben zum Beispiel in der gesamten Top-500-Liste weniger Systeme als die USA unter den ersten zehn. Was bedeutet diese extreme Ungleichverteilung? Ist sie auf Dauer festgeschrieben?

Dieter Kranzlmüller: Die Top-500-Liste spiegelt immer nur den Stand der Entwicklung zu einem festgelegten Zeitpunkt wieder, auch wenn natürlich die wissenschaftliche Entwicklung von diesen Systemen profitiert. Dennoch haben wir in der Geschichte der Top 500 oft genug erlebt, wie neue Ideen die Liste nachhaltig verändert haben. Das war zum Beispiel so beim japanischen Earthsimulator oder auch im Zusammenhang mit dem Einsatz von Grafikkarten.

Bei den ersten zehn Systemen kommt noch eine gewisse Kapitalkraft dazu, die sich ein Land leisten beziehungsweise zu der sich die Politik durchringen muss. Auch das haben wir mit der Dominanz der chinesischen Systeme gesehen, die einmal mehr unterstreichen, wie wichtig dieses Thema für die Entwicklung der Wissenschaft ist. Auf Dauer ist daher nichts festgeschrieben und ich freue mich schon auf zukünftige Ideen, die hier frischen Wind reinbringen werden.

Linux-Magazin: Die schnellsten Rechner sind extrem teuer, das klang eben schon an. Kann das dazu führen, dass sich Forschung mit Supercomputern bald nur noch für ganz wenige Gebiete rechnet?

Dieter Kranzlmüller: Aus Sicht der Forschung: nein. Forscherinnen und Forscher, die beispielsweise auf dem Super- MUC rechnen, zahlen keinen Cent – und solange es der politische Wille ist, wird das auch so bleiben. Das einzige Kriterium dafür, ob sie Rechenzeit bekommen oder nicht, ist die wissenschaftliche Exzellenz ihres Vorhabens.

Grundlage dafür ist, wie der Zugang zu derartigen Rechenressourcen für die Wissenschaft hier in Deutschland geregelt ist. Die Politik ist sich einig, dass Forschung mit Hilfe von Supercomputern äußerst wichtig ist, und unterstützt dafür das Gauss Centre for Supercomputing als Dachorganisation für Höchstleistungsrechnen in Deutschland.

Um Zugriff auf diese Systeme zu bekommen, schreiben die Forscherinnen und Forscher Anträge, in denen sie zum einen den wissenschaftlichen Nutzen ihres Vorhabens begründen und zum anderen darlegen, dass sie so ein großes System sinnvoll und effizient nutzen können. Ein renommiertes Expertengremium entscheidet dann auf Basis dieser Anträge und vergibt Rechenzeit für diese Projekte. Der Bedarf an Rechenzeit liegt aber nach wie vor bei einem Vielfachen dessen, was zur Verfügung steht. Auch das zeigt, wie wichtig diese Supercomputer für Wissenschaft und Gesellschaft sind.