Der OpenAI-Vorstand hat einen Sicherheitsausschuss gebildet. Außerdem lässt der KI-Experte durchblicken, dass er am nächsten Modell arbeitet.
OpenAI hat vor kurzem mit dem Trainin seines nächsten Modells begonnen, und es sei zu erwarten, dass die daraus resultierenden Systeme uns einen Schritt näher zur AGI bringen werden, heißt es im Beitrag. AGI bezeichnet eine Artificial General Intelligence und damit eine KI, die jede intellektuelle Aufgabe verstehen und lösen können soll.
Zu den damit verbundenen Risiken hat der OpenAI-Vorstand einen Sicherheitsausschuss unter der Leitung der Direktoren Bret Taylor (Vorsitz), Adam D’Angelo, Nicole Seligman und Sam Altman (CEO) eingesetzt. Dieses Komitee soll dafür verantwortlich sein, dem gesamten Vorstand Empfehlungen zu kritischen Sicherheitsentscheidungen für OpenAI-Projekte und den Betrieb zu geben.
Eine erste Aufgabe des Sicherheitsausschusses wird es sein, die Prozesse und Sicherheitsvorkehrungen von OpenAI in den nächsten 90 Tagen zu bewerten und weiterzuentwickeln. Nach Ablauf der 90 Tage wird das Safety and Security Committee seine Empfehlungen dem gesamten Board mitteilen. Nach der Überprüfung durch den gesamten Vorstand wird OpenAI eine Aktualisierung der angenommenen Empfehlungen in einer Weise veröffentlichen, die mit der Sicherheit vereinbar ist.
