Laut Bloomberg lauschen weltweit tausende von Amazon-Angestellten den Konversationen zufällig ausgewählter Nutzer. Sie sollen die Spracherkennungsqualität von Alexa testen. Reines Machine Learning reicht offenbar nicht aus.

Laut dem Bloomberg-Artikel sollen die Angestellten rund um den Erdball in verschiedenen sprachlichen Regionen arbeiten und eine Stillschweige-Klausel unterschrieben haben. Sie füllen Lücken in Alexas Verständnis, indem sie Teile von Konversationen mitschreiben, mit Notizen versehen und zurück in das System füttern. Besonders mit dem Erkennen bekannter Namen, aber auch Verwechselungen bei den Wake Words, scheint Alexa Schwierigkeiten zu haben.

Pro Schicht hören sich die Mitarbeiter demnach etwa um die 1000 Audioclips an. Sie tauschen sich auch in einem Chat untereinander aus und teilen “amüsante Aufnahmen”, aber auch aufwühlende und potenziell kriminelle Audiohappen. Sind persönlich identifizierbare Angaben darunter, Namen oder Bankdaten, sollen die Mitarbeiter eine entsprechendes Kästchen ankreuzen und den Clip aussortieren. Manchmal würden die Audioclips auch nahelegen, dass Alexa mitunter auch ohne Wake Word startet.

Doch nicht so smart

Gegenüber Bloomberg wiegelte Amazon in einem E-Mail-Statement ab. Es handele sich nur um eine sehr kleine Auswahl an Clips, und die Angestellten könnten die Personen nicht identifizieren und hätten keinen Zugriff auf das Material. Dennoch dürften viele Nutzer überrascht sein, denn Amazon weist nirgendwo explizit darauf hin, dass sich Menschen am Prozess der Qualitätssicherung beteiligen. Professor Florian Schaub, der an der Universität von Michigan arbeitet, bringt es auf den Punkt: Die Menschen seien konditioniert, zu glauben, dass diese Maschinen lediglich über Machine Learning lernen. Tatsächlich seien aber Menschen involviert.

Offenbar sind Smart Speaker doch nicht smart genug für Menschen-unabhängiges Lernen. Das aber betrifft nicht nur die Spracheingaben von Amazon. Laut dem Artikel erklärt auch Apple in einem Security-Whitepaper, dass Menschen die Spracheingaben von Siri anonymisiert auswerten. Bei Google hätten Reviewer ebenfalls Zugriff auf Audioschnipsel, die aber laut Google verzerrt und nicht mit identifizierbaren Informationen versehen seien.