(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Die ethische Diskussion bei OpenAI, das anstelle des geschassten Anthropic Verträge mit dem amerikanischen Kriegsministerium abgeschlossen hat, ist noch nicht beendet. Jetzt hat Caitlin Kalinowski, die Hardware sowie operative Themen innerhalb der Robotics-Division verantwortet hat, genau aus diesem Grund gekündigt.
Das sei eine Entscheidung, die ihr nicht leichtgefallen sei, schreibt die auf X. Doch es ginge dabei um Prinzipien. Die massenhafte Überwachung von Amerikanern ohne richterliche Kontrolle und der Einsatz tödlicher autonomer Waffen ohne letzte Genehmigung durch einen Menschen hätten einer eingehenderen Betrachtung bedurft.
Exakt diese beiden Fälle waren es, die Konkurrent Anthropic dem Pentagon nicht zugestehen wollte, weswegen es als Lieferkettenrisiko gebrandmarkt wurde und OpenAI die Lücke füllte, das offenbar nicht so rigoros moralische Bedenken vorgetragen hat. Ursprünglich hatte OpenAI einmal die Nutzung seiner KI für militärische Zwecke komplett verboten, rückte aber in letzter Zeit mehr und mehr davon ab. Höhepunkt dieser Entwicklung ist der Vertrag mit dem Pentagon, der diesem vermutlich weitgehende Zugriffsrechte einräumt.
Das Robotik-Team, dem Kalinowski angehörte, ist für die KI-Entwicklung besonders wichtig, weil es an Modellen arbeitet, die nicht nur Text oder Bilder verarbeiten, sondern kontinuierlich auch Sensordaten aus der physischen Umgebung. Man spricht von “Embodied AI”, bei der Wahrnehmung, Planung und Ausführung einer Handlung miteinander verknüpft sind, wodurch die KI aus realen Erfahrungen lernen kann, statt nur aus statistischen Daten.
