(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Der Mitgründer und CEO des bekannten KI-Unternehmens Anthropic, Dario Amodei, hat sich zur internationalen Fachkonferenz in Paris zur Künstlichen Intelligenz geäußert.

Amodei schreibt in einem Blogbeitrag auf der Firmenseite, man müsse die Aktionen dringend beschleunigen. “Möglicherweise schon 2026 oder 2027 (und mit ziemlicher Sicherheit nicht später als 2030) werden die Fähigkeiten von KI-Systemen am ehesten mit dem Auftreten eines völlig neuen, von hochintelligenten Menschen bevölkerten Staates auf der Weltbühne vergleichbar sein – einem “Land der Genies in einem Rechenzentrum”. Damit einher gingen tiefgreifende wirtschaftliche, gesellschaftliche und sicherheitspolitische Auswirkungen. Die wirtschaftlichen, wissenschaftlichen und humanitären Chancen seien potenziell größer als bei jeder anderen Technologie in der Geschichte der Menschheit, aber es gäbe auch ernsthafte Risiken, die es zu bewältigen gelte.

“Erstens müssen wir sicherstellen, dass demokratische Gesellschaften bei der KI führend sind und dass autoritäre Länder sie nicht dazu nutzen, eine globale militärische Vorherrschaft zu erlangen. Die Regulierung der KI-Lieferkette (einschließlich Chips, Halbleiterfertigungsanlagen und Cybersicherheit) ist ein Thema, das viel mehr Aufmerksamkeit verdient – ebenso wie der vernünftige Einsatz von KI-Technologie zur Verteidigung freier Gesellschaften.

“Zweitens müssen die internationalen Gespräche über KI die wachsenden Sicherheitsrisiken der Technologie stärker berücksichtigen. Fortgeschrittene KI birgt erhebliche globale Sicherheitsrisiken, die vom Missbrauch von KI-Systemen durch nichtstaatliche Akteure (z. B. für chemische, biologische, radiologische oder nukleare Waffen) bis hin zu den autonomen Risiken leistungsstarker KI-Systeme reichen.” Man begrüße die Einigung von mehr als 16 Pionierunternehmen der KI im Vorfeld des Gipfels auf die Einhaltung von Sicherheitsplänen, glaube aber auch, dass die Regierungen diese Pläne noch energischer durchsetzen müssten.

Drittens habe die KI zwar das Potenzial, das Wirtschaftswachstum weltweit drastisch zu beschleunigen, aber sie habe auch das Potenzial, sich als äußerst zerstörerisch zu erweisen. “Ein ‘Land der Genies in einem Rechenzentrum’ könne die größte Veränderung des globalen Arbeitsmarktes in der Geschichte der Menschheit darstellen. Die Regierungen müssten ihre Ressourcen nutzen, um Auswirkungen der heutigen KI-Systeme zu messen und zu überwachen – und schließlich eine Politik betreiben, die sicherstellt, dass alle an den wirtschaftlichen Vorteilen einer sehr leistungsfähigen KI teilhaben.