Die Moderation von Inhalten ist eine arbeitsintensive Aufgabe für Betreiber digitaler Plattformen und für die Moderatoren kann es belastend sein. KI-Anbieter OpenAI sieht dafür eine Lösung: Das Eigengewächs GPT-4.
Das Sprachmodell GPT-4 könne etwa Richtlinienänderungen viel schnelleren bearbeiten und in Stunden erledigen, was sonst Monate dauern können, lässt OpenAI wissen. GPT-4 sei außerdem in der Lage, Regeln und Nuancen in langen Dokumenten zu Inhaltsrichtlinien zu interpretieren und sich sofort an Aktualisierungen der Richtlinien anzupassen. KI könne damit helfen, den Online-Verkehr gemäß den plattformspezifischen Richtlinien zu moderieren und die mentale Belastung einer großen Anzahl menschlicher Moderatoren verringern, heißt es im Blogbeitrag weiter. Jeder mit OpenAI-API-Zugang könne diesen Ansatz implementieren, um sein eigenes KI-gestütztes Moderationssystem zu schaffen, schreibt OpenAI.
Indem sie die Diskrepanzen zwischen den Urteilen von GPT-4 und denen eines Menschen untersuchen, könnten die Richtlinienexperten GPT-4 auffordern, die Gründe für seine Bezeichnungen zu nennen, die Mehrdeutigkeit in den Richtliniendefinitionen zu analysieren, Unklarheiten zu beseitigen und die Richtlinie entsprechend zu präzisieren, heißt es weiter. Im Blogbeitrag ist ein Beispiel zu sehen, wie GPT-4 einen Text einstuft und auch die Begründung weshalb.
