Twitter hat ein Programm zur Fehlersuche in den Algorithmen seiner Machine-Learning-Modelle ein Bug-Bounty-Programm aufgesetzt. Das Programm soll dazu dienen, Vorurteile und Diffamierungen durch künstliche Intelligenz aufzufinden.

Twitter war selbst in die Kritik geraten, weil die Bildauswahl über den vom Unternehmen genutzten Machine-Learning-Algorithmus weiße Menschen bevorzugt. Der betreffende Algorithmus war von Twitter seit dem Jahr 2018 eingesetzt worden, um via geeignetem Bildzuschnitt dem Nutzer mehr Tweets in seiner Timeline anzuzeigen. Der sogenannte Saliency-Algorithmus schätze dabei ab, was Nutzer in einem Bild zuerst sehen möchte, und ermögliche damit den Zuschnitt auf eine leicht zu betrachtende Größe, so Twitter. Nachdem Nutzer sich über eine Bevorzugung von weißen Menschen gegenüber schwarzen Menschen und von Männern gegenüber Frauen im Bildzuschnitt beschwert hatten, hatte Twitter selbst geprüft und musste diese rassistische und frauenfeindliche Tendenz eingestehen.

Der nun gestartete Wettbewerb soll allgemein dazu dienen, Vorurteile beim Machine Learning auszubügeln. Twitter stellt für den Wettbewerb den Saliency-Algorithmus und den Code zur Verfügung, mit dem ein Bildausschnitt anhand eines vorhergesagten maximal auffälligen Punktes erzeugt wird, und bitten die Teilnehmer, dafür ihre eigene Bewertung zu erstellen. Dem Sieger winken 3500 US-Dollar Preisgeld. Im Beitrag von Twitter-Managerin Jutta Williams sind die Teilnahmebedingungen genannt und verlinkt.