(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Das KI-Unternehmen Anthropic, Urheber des Chatbots Claude, widersetzt sich weiter einem Ultimatum des Pentagon, dass das Ziel hatte, die völlig unbeschränkte Verwendung der KI durchzusetzen.

Anthropic betont in einer Entgegnung, dass das Unternehmen sehr wohl anerkenne, wie wichtig es sei, die USA und andere Demokratien zu verteidigen. Entsprechend habe Anthropic proaktiv daran gearbeitet, seine Modelle im Kriegsministerium und in den Geheimdiensten einzusetzen. Man sei das erste Pionierunternehmen im Bereich KI gewesen, dass seine Modelle in den geheimen Netzwerken der US-Regierung einsetzte, das erste, dass sie in den National Laboratories einsetzte, und das erste, dass maßgeschneiderte Modelle für Kunden aus dem Bereich der nationalen Sicherheit bereitstellte. Claude werde im Kriegsministerium und anderen nationalen Sicherheitsbehörden umfassend für missionskritische Anwendungen eingesetzt, darunter Geheimdienstanalysen, Modellierung und Simulation, Einsatzplanung, Cyberoperationen und vieles mehr.

Darüber hinaus habe Anthropic die Führungsrolle der USA im Bereich KI auch dann verteidigt, wenn dem eigene Interessen entgegenstanden. So habe man sich dafür entschieden, auf mehrere hundert Millionen Dollar Umsatz zu verzichten, um die Nutzung von Claude durch Unternehmen mit Verbindungen zur Kommunistischen Partei Chinas zu unterbinden. Auch verstehe man, dass private Firmen keine militärischen Entscheidungen treffen können.

Nichtsdestotrotz gäbe es zwei Einsatzfälle, die Anthropic für seine Modelle immer ausgeschlossen habe und man glaube, dass das so bleiben solle: Massenüberwachung im Inland und KI in autonomen Waffen ohne Kontrolle durch Menschen. Massenüberwachung im Inland sei inkompatibel mit demokratischen Werten und würde neue, ernste Gefahren für die Grundfreiheiten heraufbeschwören, denn leistungsstarke KI ermögliche es, verstreute, einzelne harmlosen Daten zu einem umfassenden Bild des Lebens einer Person zusammenzufügen – automatisch und in großem Umfang. Für vollständig autonome Waffensysteme sei die heutige KI nicht zuverlässig genug. Ohne menschliche Aufsicht brächten sie nicht das nötige Urteilsvermögen auf und nötige Sicherheitsvorkehrungen gäbe es noch nicht.

Das US-Kriegsministerium habe damit gedroht, keine Verträge mit Anthropic abzuschließen und die Firma sogar als Lieferketten-Risiko zu brandmarken. “Ungeachtet dessen ändern diese Drohungen nichts an unserer Haltung: Wir können ihrer Forderung nicht guten Gewissens nachkommen”, heißt es in einer Erklärung.