(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Red Hat stellt mit Red Hat AI Factory with NVIDIA eine neue Softwareplattfor vor, die Red Hat AI Enterprise und Nvidia AI Enterprise zu einer Ende-zu-Ende-KI-Lösung für Unternehmen vereint, die KI in großem Maßstab einsetzen. Das Projekt ist der jüngste Meilenstein in der engen Zusammenarbeit von Red Hat und Nvidia.
Die Plattform stellt sie eine vertrauenswürdige, Enterprise-taugliche Lösung mit einer hochskalierbaren Basis für KI-Bereitstellungen in beliebigen Umgebungen dar – sei es on-premises, in der Cloud oder am Edge. Sie liefert Kernfunktionen für ein leistungsstarkes KI-Inferencing, für das Tuning und die Anpassungen von Modellen sowie die Bereitstellung und Verwaltung von Agenten. Dabei liegt der Fokus auf Sicherheit.
Dank vorkonfigurierter Modelle können Anwender ihre KI-Workloads schnell in den Produktivbetrieb überführen. Angeboten werden die Granite-Familie von IBM sowie die offenen Modelle NVIDIA Nemotron und NVIDIA Cosmos, bereitgestellt als NVIDIA NIM-Microservices. Die Plattform bietet Funktionen für die Überwachung der Modelle und nutzt die Inference-Funktionen von Red Hat AI, die auf vLLM, NVIDIA TensorRT-LLM und NVIDIA Dynamo basieren.
Daneben bietet sie einen On-Demand-Zugriff auf GPU-Ressourcen über eine intelligente Orchestrierung und gepoolte Infrastrukturen. Durch die Nutzung von Red Hat Enterprise Linux als flexibler und stabiler Basis erhalten Unternehmen fortschrittliche Sicherheits- und Compliance-Funktionen, die fest integriert sind und dazu beitragen, Risiken zu reduzieren, Zeit zu sparen und Ausfallzeiten zu minimieren.
Red Hat AI Factory with NVIDIA ist ab sofort verfügbar.
