Bei der derzeit in Paris stattfindenden KubeCon + CloudNativeCon Europe 2024 ist das Thema künstliche Intelligenz allgegenwärtig. In ihrer Keynote konnte Priyanka Sharma, Executive Director bei der Cloud Native Computer Foundation (CNCF) mit über 12.000 Besuchern die bislang größte KubeCon eröffnen.
Wenn im Juni 2024 Kubernetes sein 10jähriges Jubiläum feiert, ist die künstliche Intelligenz ein fester Bestandteil der weiteren Evolution des freien Systems zur Containerverwaltung. In Paris zumindest führte alles unausweichlich auf die Artificial Intelligence hin.
Die Keynotespeaker wurden nicht müde zu betonen, dass KI klare Bekenntnisse für Open Source brauche. Priyanka Sharma von der CNCF sagte „KI braucht Standards“ und „KI braucht uns“. Es dürfe bei KI kein Open-Source-Washing geben. Die nötigen Technologien sollten unter Apache License oder MIT-License stehen. Die Modelle, Kompiler und Frameworks müssten Open Source sein, sagte auch Paige Bailey, Lead Product Manager bei Google DeepMind.
Priyanka Sharma, Executive Director der Cloud Native Computer Foundation bei der Keynote.
Die bei der CNCF neu gegründete AI Working Group präsentierte in Paris ein Whitepaper zu KI, in dem ein Überblick über die neuesten KI/ML-Techniken zu finden ist und das die Möglichkeiten aufzeigen soll, die Cloud Native-Technologien bieten. Zudem sind die Herausforderungen und Lücken thematisiert, die mit der Technologie einhergehen.
Bei den Keynotes war auch Nvidia zu Gast. Kevin Klues und Sanjay Chatterjee zeigten in ihrem Vortrag, wie sich AI Workloads mit GPUs in Kubernetes beschleunigen lassen. Dynamic Ressource Allocation (DRA) gilt den Nvidia-Experten dabei als ein Weg. DRA sei als Alpha-Feature in Kubernetes ab Version 1.26 enthalten.
Jorge Palma von Microsoft warb für den Kubernetes AI Toolchain Operator (KAITO), der vor kurzem in Version 0.2.0 erschienen ist. Mit KAITO lasse sich der Workflow für das Onboarding großer KI-Interferenzmodelle in Kubernetes stark vereinfachen, sagte Palma.
Abschließend kam Priyanka Sharma bei der Keynote zum Schluss, dass Kubernetes der Standard für KI-Plattformen wird. Man müsse nun unter anderem dafür sorgen, das Workloads besser auf Kubernetes laufen.
