© illustrator / 123RF.com

Wer meint, weil man Software nicht anfassen kann, spiele sie auch keine Rolle in der Umweltbilanz, der irrt gewaltig. Wir zeigen, was Entwickler und Admins tun müssen und wobei Politiker helfen könnten.

Die digitale Transformation hat nicht nur in unserem Land alle Bereiche des Lebens, der Wirtschaft und Gesellschaft erfasst, sondern überall auf der Welt. Ohne digitale Technologien geht so gut wie nichts mehr. Inzwischen ist aber auch klargeworden, dass die von den Vereinten Nationen deklarierten Ziele der nachhaltigen Entwicklung (SDGs, Sustainable Development Goals) sich ohne digitale Technologien nicht erreichen lassen. Dasselbe gilt für die Reduktion der CO₂-Emissionen zur Klimastabilisierung.

Der Energiebedarf für den Betrieb der weltweit unzähligen Geräte, Netze, Anwendungen, Rechenzentren und Clouds ist immens. Zudem belegen zahlreiche Studien einen rasant ansteigenden Energiehunger digitaler Systeme. Es gilt also, Anstrengungen zu unternehmen, um die Energieeffizienz und damit die Nachhaltigkeit von IT-Systemen stark zu verbessern.

Das erfordert zunächst einmal Maßnahmen, um den Energieverbrauch digitaler Systeme systematisch zu erheben und vergleichbar zu machen. Dann steht die Entwicklung von Methoden an, mit denen sich IT-Systeme stromsparender gestalten lassen. Dazu gilt es, die Prinzipien der algorithmischen Effizienz und des nachhaltigen Computings in einem grundlegenden Paradigma der Sustainability by Design zusammenzufassen und bei allen IT-Systementwicklungen weltweit zur Anwendung zu bringen.

Massiv steigender Energieverbrauch

In den letzten Jahrzehnten wurden digitale Technologien als das “saubere” Gegenstück zu den “schmutzigen” Industrien in der Fertigung, Landwirtschaft und Energieerzeugung gefeiert. Man glaubte, digitale Geräte, Produkte und Dienstleistungen trügen aufgrund ihres immateriellen Charakters nicht oder nur in sehr geringem Maß zum globalen CO₂-Ausstoß bei. Diese Annahme ist falsch: Global haben die digitalen Geräte und Anwendungen einen ganz erheblichen CO₂-Fußabdruck.

Jeglicher Datenverkehr benötigt Energie. Die Gesamtmenge des jährlichen Internet-Verkehrs hat in den letzten Jahren exponentiell zugenommen und steigt weiter steil an. Während 2007 nur 54 Exabyte an Daten durch das Internet liefen, stieg diese Menge 2017 laut Internationaler Energieagentur um das Zwanzigfache auf 1,1 Zettabyte an. 2022 wird sich der jährliche Datenverkehr vervierfachen und rund 4,2 Zettabyte erreichen [1]. Schon heute übersteigt der Kohlendioxidausstoß der digitalen Technologien den des weltweiten Flugverkehrs um das Zweifache. So war 2019 der gesamte Flugverkehr für rund 1 Milliarde Tonnen Kohlendioxidemissionen verantwortlich, etwa 2 Prozent der Gesamtemissionen. Im selben Jahr emittierten digitale Technologien rund 2 Milliarden Tonnen, also etwa 4 Prozent des gesamten vom Menschen verursachten Kohlendioxids [2].

Dieser Befund lässt sich auf verschiedene innovative digitale Technologien und ihre Anwendungsbereiche herunterbrechen. Forscher an der University of Massachusetts Amherst haben den Energieverbrauch moderner KI-Systeme untersucht und festgestellt, dass insbesondere die Trainingsphasen der neuen neuronalen Netze in ganz erheblichem Maße Energie verbrauchen und infolgedessen riesige Mengen Kohlendioxid emittiert werden.

So fallen beim Training eines gängigen KI-Modells mit Big Data etwa 300 Tonnen Kohlendioxid-Äquivalente an, was den CO₂-Emissionen des Lebenszyklus von fünf Autos einschließlich Kraftstoff entspricht oder von 300 Hin- und Rückflügen von New York City nach San Francisco [3]. Für den Einsatz der Bitcoin-Technologie errechneten Wissenschaftler des Massachusetts Institute of Technology in Cambridge, dass beim Mining jährlich bis zu 22 Megatonnen CO₂ entstehen. Das entspricht in etwa den jährlichen Treibhausgasemissionen eines Landes wie Jordanien oder Sri Lanka [4].

Eine Studie des The Shift Project zeigt einen weiteren interessanten Trend: Bereits 2017 übertraf der Energieverbrauch bei der Nutzung digitaler Technologien den der Produktion digitaler Geräte um mehr als 5 Prozent, mit stetig steigendem Anteil. Das legt nahe, dass sich Maßnahmen zur Verringerung des CO₂-Fußabdrucks digitaler Technologien in Zukunft stärker darauf konzentrieren müssen, die Energiebilanz von Softwaresystemen und deren Interaktion mit Hardware zu verbessern, statt sich nur auf die Energiebilanz von Hardware zu beschränken [5].

Green IT ist noch lange nicht genug

Das Problem des zunehmenden CO₂-Fußabdrucks der IT ist seit einiger Zeit bekannt und hat zu verschiedenen Initiativen geführt, die sich unter dem Begriff Green IT zusammenfassen lassen. Das Hauptaugenmerk dieser Bewegung liegt insbesondere im Rechenzentrumsbereich auf der Verringerung der Verschwendung natürlicher Ressourcen beim Einsatz digitaler Geräte, der Nutzung erneuerbarer Energiequellen sowie der Forderung nach “digitalem Fasten”.

So führten bereits 1992 die US-Umweltschutzbehörde (EPA) und die EU-Kommission (2003) das Label Energy Star für energieeffiziente IT-Geräte und Computer ein. Trotz aller Bemühungen steigt der Energieverbrauch in diesem Bereich weiter steil an. Die Prüfverfahren für das Energy-Star-Label sind weder ausreichend streng noch gründlich genug, und der rasant zunehmende Anteil der Kohlendioxidemissionen, den die Nutzung von Software und digitalen Anwendungen auf diesen Geräten verursachen, wird kaum berücksichtigt. Algorithmische Effizienz und nachhaltiges Computing erweisen sich als großer blinder Fleck der meisten Green-IT-Initiativen: Sie konzentrieren sich auf die Produktion und den Betrieb der Geräte, lassen aber die täglichen Emissionen außer Acht, die viel zu energiehungrige Software während der Lebensdauer der Geräte hervorruft.

Auch “digitales Fasten” eignet sich nicht dazu, das Streben nach einem klimagesunden Planeten zu unterstützen. Digitale Technologien und ihre verschiedenen innovativen Anwendungen wie Big Data, KI, Blockchain und so weiter sind von grundsätzlicher Bedeutung für die Verringerung der CO₂-Emissionen in anderen Sektoren wie der Energieerzeugung, der Fertigung und der Landwirtschaft. Eine Verringerung des Einsatzes digitaler Technologien in diesen Bereichen würde die gesamten Kohlendioxidemissionen über alle Sektoren hinweg erhöhen anstatt ihn zu senken.

Warum Clean IT und Sustainability by Design?

Ein wachsender CO₂-Fußabdruck der Digitalisierung lässt sich vermeiden, indem man Softwaresysteme energieeffizienter gestaltet. So kann man Algorithmen unter der Maßgabe entwickeln, bei gleicher Berechnungskraft, -genauigkeit und -effizienz mit weniger Energie auszukommen, also mit möglichst wenigen und einfachen Rechenoperationen. Ein weiteres Potenzial, den Energieverbrauch zu senken, steckt in der Implementierung der Algorithmen, also bei ihrer Umsetzung in Programmcode.

Zudem kann man bei der Entwicklung innovativer Softwarearchitekturen über Tradeoffs zwischen Präzisionsanforderungen bei den Berechnungsergebnissen und gesenktem Energiebedarf nachdenken, wann immer sich das inhaltlich vertreten lässt. Insbesondere bei Systemen, die millionenfach zum Einsatz kommen, summieren sich schon geringste Einsparungen in den einzelnen Berechnungsabläufen zu nennenswerten Einsparbeträgen auf.

Da die Nutzung digitaler Technologien bereits jetzt den größten Anteil am digitalen CO₂-Fußabdruck ausmacht und weiter stark ansteigt, ist es vor allem wichtig, Algorithmen effizienter zu gestalten. In diesem Zusammenhang gilt es, die Abhängigkeiten zwischen Präzision, Geschwindigkeit sowie Datendurchsatz einerseits und dem Energieverbrauch andererseits stärker zu berücksichtigen. Das muss zu einem Kernprinzip der Gestaltung digitaler Systeme werden.

Um das scheinbare Paradox von mehr Digitalisierung mit weniger Energie zu lösen, braucht es neue Paradigmen im Bereich Algorithmenentwurf und Programmierung sowie deren breite Umsetzung in der Praxis. Auch müssen Prinzipien wie energieeffiziente Algorithmen und nachhaltiges Computing von Anfang an in der Ausbildung von Informatikern und IT-Ingenieuren eine große Rolle spielen. Es gilt, den Fokus auf eine Sensibilisierung für das Thema Energieeffizienz von Softwaresystemen zu richten und den Grundsatz der Sustainability by Design zur Grundlage für die IT-Entwicklungspraxis zu machen.

Typische Beispiele für Clean-IT-Lösungen

Typischerweise entwickeln Informatiker und IT-Ingenieure Software, die darauf abzielt, verschiedene Klassen von Problemen mithilfe von Algorithmen zu lösen. Es liegt in der Natur der Sache, dass sich selbst für ganz ähnliche Probleme verschiedene Algorithmen entwickeln lassen. Müssen diese Algorithmen sehr schnell (bei der Berechnung des Ergebnisses) und exakt (hundertprozentige Genauigkeit) arbeiten, kann das einen erheblichen Rechenaufwand und eine lange Laufzeit erforderlich machen. Dieser Rechenaufwand und lange Laufzeiten verursachen einen hohen Energiebedarf, und Algorithmen für beste Lösungen sind oft extrem komplex. Bei sehr umfangreichen Problemstellungen, etwa im Fall von komplexen Klimamodellen oder Verkehrsvorhersagen, liegt die Rechenzeit außerhalb vernünftiger Skalen.

Ein wichtiges Forschungsgebiet im Bereich der Algorithmentechnik konzentriert sich darauf, dieses Problem mithilfe vom Kompromissen zwischen Genauigkeit und Laufzeit zu lösen. Entsprechende Algorithmen erarbeiten mit Heuristiken und randomisierten Ansätzen ein Ergebnis, das der optimalen Lösung möglichst nahekommt, sich aber mit einem viel geringeren Aufwand und einer kürzeren Laufzeit berechnen lässt. Solche “zweitbesten” Algorithmen, die meist sehr nahe an die exakte Lösung herankommen, können abhängig von der zu lösenden Problemklasse die Laufzeit von Algorithmen um Faktoren von 100 bis 10 000 verkürzen.

Experimente am HPI haben gezeigt, dass die Anwendung heuristischer Algorithmen zur Optimierung submodularer Funktionen, die sich zur Optimierung des Verkehrs, des Einsatzes von Rohstoffen in der Produktion oder der Allokation von Gütern auf Märkten eignen, die Laufzeit im Vergleich zu traditionellen Algorithmen um dreistellige Faktoren reduzieren können. Während herkömmliche Software zwei Tage für die Berechnung der Lösung eines solchen Problems benötigt, berechnet der heuristische Algorithmus die Aufgabe in nur zehn Minuten und reduziert damit den Energieverbrauch auf weniger als 1 Prozent.

Energieeffizientes Profiling von Daten

Digitale Anwendungen erfordern wie viele neue intelligente Technologien perfekt organisierte Massendatenbestände. Je größer jedoch die Datenmenge, desto mehr Zeit und damit Energie erfordert das Aufbereiten der Daten. Eine der Hauptaufgaben von Dateningenieuren besteht darin, Daten automatisch sinnvoll zu organisieren, sodass sich die Datensätze für eine Vielzahl von Anwendungen der künstlichen Intelligenz und für Analysen aller Art nutzen lassen.

“Reine” Daten haben keinen Wert. Um eine Wirkung zu erzielen, muss man sie in sinnvolle Kategorien einteilen (Erkundung der Art der Daten), normalisieren (homogen strukturiert), von Redundanzen befreien und so weiter. Metadaten spielen bei dieser Art von Aufgabe eine wichtige Rolle, denn sie helfen bei der Organisation von Daten für die Wertschöpfung. In diesem Sinne bildet die Organisation von Datensätzen die Grundlage für alle datengesteuerten digitalen Produkte und Dienstleistungen.

Ein wichtiger Aspekt bei der Erstellung von Datenprofilen sind eindeutige Spaltenkombinationen (Unique Column Combinations, UCC). Sie identifizieren Entitäten in Datensätzen und unterstützen verschiedene Datenorganisationsaktivitäten. Bis vor kurzem war es äußerstenfalls möglich, UCCs für mittelgroße Datensätze mit erheblichem Zeitaufwand zu ermitteln. Für große Datenmengen waren UCCs aufgrund von Laufzeit- und Speicherbeschränkungen bislang nicht entdeckt worden. Kollegen am HPI haben einen neuartigen Algorithmus zur Entdeckung von UCCs entwickelt (HPIValid), der die Laufzeit der UCC-Entdeckung um Größenordnungen verkürzt und gleichzeitig den Speicherbedarf im Vergleich zu aktuellen Algorithmen wie HyUCC reduziert.

Bei verschiedenen Datensätzen mittlerer Größe war HPIValid fünf- bis hundertmal schneller und verbrauchte im Durchschnitt nur 5 bis 20 Prozent des Speichers, wobei die Effizienz bei größeren Datensätzen abnahm. Während der bisher genutzte HyUCC-Algorithmus nicht in der Lage war, UCCs auf extrem großen Datensätzen zu entdecken, kann HPIValid die Berechnung innerhalb einer angemessenen Laufzeit und mit einem angemessenen Speicherverbrauch vornehmen, was eine Wertschöpfung auf massiven Datensätzen ermöglicht [6].

Abbildung 1: Die Forscher am Hasso-Plattner-Institut beschäftigen sich unter anderem eingehend mit dem energieeffizienten Profiling von Daten. Quelle: HPI

Energieeffizienz für künstliche Intelligenz

Die Entwicklung von Machine-Learning-Verfahren und tiefer neuronaler Netze waren ein entscheidender Fortschritt im Bereich der KI-Forschung. Allerdings verursachen die immer weiter verbesserten Deep-Learning-Algorithmen insbesondere während des Trainings, aber auch bei der Ausführung einen immer weiter ansteigenden Energiebedarf.

Moderne maschinelle Lernsysteme trainieren neuronale Netze auf der Grundlage von 32-Bit-Algorithmen wie ResNet. Durch das Verringern der Komplexität von KI-Modellen mithilfe von Quantisierungs- und Pruning-Techniken lässt sich jedoch Energie einsparen. Das Runden von Datenwerten in Deep-Learning-Modellen senkt den Energieverbrauch von KI-Systemen drastisch.

Im Extremfall lassen sich die Deep-Learning-Netze mit binären neuronalen Netzen (1-Bit-Algorithmus) ausführen. Das reduziert den Aufwand in den einzelnen Rechenschritten und führt sofort zu einer Energieeinsparung um den Faktor 20. Obwohl binäre neuronale Netze derzeit noch um etwa 5 Prozent weniger präzise sind als die aktuell besten KI-Systeme, bestechen sie durch ihre Reduzierung des Energieverbrauchs um 95 Prozent. Bei täglich millionenfacher Anwendung lassen sich so enorme Mengen an Energie einsparen.

Die Tabelle “Energie sparen beim Deep Learning” zeigt die signifikante Verringerung der Modellgröße und der Anzahl von Operationen dreier Varianten binärer neuronaler Netze im Vergleich zu vollpräzisen 32-Bit-ResNet-Netzen [7]. Der Verlust an Genauigkeit fällt dabei moderat aus.

Energy-aware Computing im Rechenzentrum

Rechenzentren gelten als das Herzstück der Digitalisierung. Cloud-Anwendungen, Streaming, komplexe Simulationen – alles läuft in RZs. Der daraus resultierende, ständig steigende Energieverbrauch trägt erheblich zur globalen CO₂-Bilanz bei. Die Rechenzentren der nächsten Generation umfassen eine immer vielfältigere Landschaft von Beschleunigern und Hardwarearchitekturen, die jeweils Vorteile für bestimmte Algorithmenklassen oder Anwendungsbereiche bieten.

Allerdings ignorieren die heutige Rechenzentrumsarchitektur und -software diesen Grad an Heterogenität weitgehend. Durch das Ausführen von Arbeitslasten auf der dafür am besten geeigneten Hardware lässt sich die Energieeffizienz erheblich verbessern. Bei einer vorläufigen Bewertung im Rahmen eines Forschungsseminars zur Energieeffizienz konnten die Teilnehmer die Energieeffizienz bei Wettersimulationsmodellen durch den Einsatz von FPGA-Beschleunigern anstelle von Allzweckprozessoren um mehr als den Faktor 10 steigern.

In diesem speziellen Fall lief eine Wettersimulation auf verschiedenen Prozessoren mit unterschiedlichen Ergebnissen (siehe Tabelle “Mehr Effizienz mit Spezialprozessoren”). Bei dieser speziellen Aufgabe zeigte der Xilinx-Prozessor eine höhere Energieeffizienz als andere Prozessoren. Andere Aufgaben erfordern jedoch andere spezialisierte Hardware. In ähnlicher Weise haben Qasaimeh et al. [8]. eine zwanzigfache Verbesserung der Energieeffizienz beim Einsatz von FPGAs für bestimmte Computer-Vision-Aufgaben nachgewiesen. Dagegen können Rechenaufgaben, die stark auf Floating-Point-Arithmetik basieren, oft auf GPUs eine höhere Leistung und bessere Energieeffizienz erzielen [9].

Damit eröffnet sich das wesentliche Forschungs- und Entwicklungsfeld, auf der Basis heterogener Rechenressourcen zu untersuchen, wie man Rechenoperationen in Datenzentren optimal verteilen kann, um den Energieverbrauch zu senken.

Ausblick und politische Implikationen

Digitalisierung trägt in erheblichem und zunehmendem Maße zu Treibhausgasemissionen bei. Gleichzeitig ist die Nutzung digitaler Technologien der Schlüssel für die Eindämmung von CO₂ in klassischen Sektoren. Bisher wurde die IT-Systementwicklung kaum unter dem Gesichtspunkt der Energieeffizienz betrachtet. Darin liegt jedoch die große Chance, digitale Systeme in Zukunft so zu bauen, dass sie deutlich weniger Energie verbrauchen. Dazu müssen Prinzipien der Nachhaltigkeit in die Curricula von Informatikstudiengängen Einzug halten und von Anfang an auch in der Energiebilanz von IT-Systemen Berücksichtigung finden.

Das HPI hat zu diesem Zweck die Clean-IT-Initiative gestartet. Sie soll über die Möglichkeiten der Verringerung des CO₂-Fußabdrucks im Bereich der Digitalisierung aufklären und gemeinsam mit nationalen und internationalen Partnern aus Wissenschaft, Industrie und Zivilgesellschaft Lösungen aufzeigen, wie nachhaltige Digitalisierung gelingen kann. Das Clean-IT-Forum [10] auf der interaktiven Lernplattform des HPI präsentiert Beispiele und Best Practices zu energieeffizienten Algorithmen und zum Sustainable Computing, die ganz konkrete Maßnahmen beschreiben, um Algorithmen, Datenzentren und KI-Systeme energieeffizient zu entwickeln (Abbildung 2).

Abbildung 2: Mit dem Clean-IT-Forum bietet das Hasso-Plattner-Institut (HPI) seit April 2021 Nachhaltigkeitsexperten aus aller Welt eine Plattform zum Ideenaustausch. Quelle: HPI

Trotzdem steckt die Forschung zum Energieverbrauch digitaler Systeme noch in den Kinderschuhen. Es gibt kaum einschlägige wissenschaftliche Konferenzen und Journale, die sich explizit mit der Frage energieeffizienter Software und nachhaltigen Computings beschäftigen. Auch der Transfer der bereits bestehenden Forschungsergebnisse in skalierende energieeffiziente Softwareprodukte muss auf breiter Front noch umgesetzt werden.

Die Politik könnte hier Anreize schaffen, um Forschung im Bereich Clean IT zu stärken. Auf der Grundlage dieser Forschung könnte man verlässliche Kriterien entwickeln, anhand derer sich beurteilen ließe, ob eine digitale Anwendung ausreichend energieeffizient arbeitet. Internationale Zertifizierungen könnten die Verbreitung von energieeffizienten IT-Systemen beschleunigen. Vor allem sollte die öffentliche Hand als größter Beschaffer von IT-Systemen in Deutschland in ihren Beschaffungsrichtlinien festlegen, nur energieeffiziente Software einzusetzen, um so den Markt für nachhaltige Software und IT-Systeme zu stärken. (jcb/jlu)