(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Die Darwin Awards zeichnen seit Jahrzehnten mit Bezug auf Darwins Theorie der natürlichen Auslese auf sarkastische Weise Menschen aus, die sich aus eigener Dummheit umgebracht oder unfruchtbar gemacht haben. Daran angelehnt gibt es nun die AI Darwin Awards, die Personen ehren, die KI auf spektakulär dumme und schädliche Weise eingesetzt haben.

Geehrt werden sollen damit “Visionäre, die sich die künstliche Intelligenz – eine Technologie, die die Zivilisation umgestalten kann – ansahen und dachten: ‘Wisst ihr, was das braucht? Weniger Sicherheitstests und mehr Risikokapital!’ Diese mutigen Pioniere erinnern uns daran, dass die natürliche Auslese nicht mehr nur für die Biologie gilt; sie ist digital geworden und wird unsere gesamte Spezies erfassen.”

Eine Webseite  sammelt dafür noch bis Jahresende Fälle, in denen Menschen auf atemberaubende Weise offensichtliche Risiken ignorierten. In jedem Fall muss KI involviert sein. Die Entscheidung muss so großartig kurzsichtig sein, dass künftige Historiker sie als warnendes Beispiel verwenden werden (sofern es überhaupt noch Historiker gibt). Extra Punkte gibt es für Statements wie “Was soll schon passieren?” oder “Die KI weiß, was sie tut”.

Die Nominierten sollten die Fähigkeit nachweisen, jedes Warnsignal zu ignorieren, das von Ethikern, Sicherheitsforschern und dem einen Praktikanten gesendet wird, der ständig unbequeme Fragen stellt. Die Preisrichter schätzen besonders diejenigen Nominierten, die bei ihrem ersten Versuch eine globale Wirkung anstreben.

Bewertet wird nach Kriterien wie möglichst große messbare Auswirkungen, Zerstörungspotential, virale Dummheit, unbeabsichtigte Konsequenzen oder Unbelehrbarkeit.

Zu den ersten Nominierten gehört beispielsweise die Fastfood-Kette Taco Bell, die an über 500 Standorten eine Sprach-KI für die Bestellannahme eingesetzt hat, was zu einer Flut von Beschwerden führte und Kunden dazu brachte, das System mit absurden Bestellungen zu sabotieren. Geehrt wird hier das blinde Vertrauen in die KI-Fähigkeiten, der massenhafte Einsatz ohne angemessene Tests und das öffentliche Eingeständnis, dass ihre Spitzentechnologie dem einfachen menschlichen Wunsch nach individuellen Taco-Bestellungen unterlegen war.

Ein anderer Nominierter ist ein aus rechtlichen Gründen anonymer australischer Anwalt, der Anthropics Chatbot Claude zur “Verbesserung rechtlicher Argumente” einsetzen wollte und danach bei Gericht Dokumente einreichte, die etliche von der KI frei erfundene Fälle zitierten. Das Legal Practice Board of Western Australia verurteilte den Anwalt schließlich zu einer Zahlung in Höhe von 8371,30 Dollar.

Auf der Liste der Anwärter stehen auch so prominente Namen wie der KI-Riese OpenAI. Er bewirbt sich um einen Preis dafür, dass sein mit großem Tamtam beworbener neuer Chatbot GPT-5 bereits eine Stunde nach Veröffentlichung geknackt wurde. Das gelang Dr. Sergey Berezin mithilfe seiner “Task-in-Prompt”-Angriffsstrategie (TIP). Dabei werden schädliche Anfragen in scheinbar harmlose sequentielle Aufgaben wie die Entschlüsselung von Chiffren und Rätseln eingebettet.

“Dies ist das perfekte Zusammentreffen von KI-Überheblichkeit und strenger akademischer Forschung. OpenAI hat Monate damit verbracht, Sicherheitsmaßnahmen zu entwickeln, und musste dann zusehen, wie ein akademischer Forscher seine Verteidigungsmaßnahmen in 60 Minuten mit Hilfe von ausgeklügelten Worträtseln aushebelte.”, heißt es in der Bewerbung.