© Kwanchai Lerttanapunyaporn / 123RF.com
Das AI HAT+ für den Raspberry Pi hebt die Inferenzleistung auf ein neues Level. Statt Daten umständlich in die Cloud zu schicken, lassen sich KI-Modelle direkt am Entstehungsort der Daten ausführen. Das eröffnet spannende Möglichkeiten für Entwickler – von smarter Bildverarbeitung bis hin zu Robotikprojekten.
Edge-Computing erlebt seit einigen Jahren einen Aufschwung. In Sensor-, Kamera- und IoT-Systemen entstehen immer mehr Daten, die in Echtzeit verarbeitet werden müssen. Die Übertragung dieser großen Datenmengen in die Cloud ist jedoch aus Datenschutz-, Latenz- und Kostengründen oft unattraktiv. Edge-AI-Beschleuniger ermöglichen es, komplexe neuronale Netze direkt an der Datenquelle auszuführen und so autonome Roboter, intelligente Überwachungssysteme oder smarte Fertigungsanlagen zu realisieren. Die Raspberry Pi Foundation brachte 2024 mit dem AI Kit [1] die erste Hailo-basierte KI-Beschleuniger-Erweiterung auf den Markt. Im Oktober 2024 folgte das AI HAT+: Bei dieser überarbeiteten Fassung ist der Hailo-Beschleuniger direkt auf der Platine integriert und via PCIe-Gen3-Schnittstelle an den Raspberry Pi 5 angebunden [2].
Innere Werte
Das AI HAT+ kommt als quadratische HAT-Platine, die ein FFC-Flachbandkabel mit dem Pi verbindet [3]. Für den perfekten Sitz sorgen die mitgelieferten 16-mm-GPIO-Stacking-Header und Distanzbolzen. Die Anbindung via PCIe Gen3 erkennt die Firmware automatisch. Nach dem Booten steht die Neural Processing Unit (NPU) dem Betriebssystem sofort zur Verfügung.
Das AI HAT+ steht in zwei Leistungsstufen zur Wahl, deren Eckdaten Tabelle 1 zusammenfasst. Die 26-TOPS-Variante enthält den KI-Beschleuniger Hailo-8, die 13-TOPS-Variante den Hailo-8L [4]. Beide Varianten nutzen denselben Software-Stack. Die 26-TOPS-Version bringt jedoch die do...
[...]
Linux-Magazin Online veröffentlicht alle Print-Artikel, die seit 2001 im Linux-Magazin erschienen sind. Damit steht Ihnen ein hochwertig bestücktes Archiv bis hin zu den Beiträgen der aktuellen Ausgabe online zur Verfügung. Die über 4.000 Artikel sind größtenteils kostenlos zugänglich, nur für Beiträge (als PDF) der jüngsten zehn Linux-Magazine ist eine kleine Gebühr fällig.
