Wie OpenAI und Microsoft in Blogbeiträgen verkünden, haben sie Konten von staatlich geleiteten, böswilligen Gefährdern geschlossen.
Die Inhaber der Konnten versuchten Services von OpenAI zu benutzten, um Informationen abzufragen, Texte zu übersetzen, Programmieraufgaben zu lösen und Code zu debuggen. Namentlich genannt werden Gruppen wie Charcoal Typhoon, die unter anderem Content für Phishing-Zwecke generiert haben, Salmon Typhoon, die öffentlich verfügbare Informationen über Geheimdienste sammelten, Crimson Sandstorm, die danach forschten, wie Malware sich vor Entdeckung schützen könnte oder Forest Blizzard, die sich für Radarsysteme und Protokolle der Satellitenkommunikation interessierten.
Wie man in Zusammenarbeit mit externen Cybersecurity-Experten festgestellt habe, sei GPT-4 den Kriminellen dabei aber nur von begrenztem Nutzen gewesen. Dennoch halte man es für wichtig, aufkommende Gefahren durch KI im Blick zu behalten. Dafür verfolge man einen mehrgleisigen Ansatz, der das Monitoring der staatsnahen Gefährdergruppen beinhaltet, weiter die Zusammenarbeit aller gutwilligen Kräfte im KI-Ökosystem, die schrittweise Verbesserug der Sicherheitsmaßnahmen und öffentliche Transparenz.
Die Inhaber der Konnten versuchten Services von OpenAI zu benutzten, um Informationen abzufragen, Texte zu übersetzen, Programmieraufgaben zu lösen und Code zu debuggen. Ist das nicht eine der Aufgaben für KI und werden diese Dinge nicht auch für normale, also nicht kriminelle Arbeiten eingesetzt?! Die KI sollte natürlich nicht wissen wofür ich die Abfrage verwenden möchte, andernfalls wäre das für mich ein Eingriff ins Persönlichkeitsrecht & Privatsphäre. Falls diese “Überwachung”darauf abzielen soll den Missbrauch von damit generierten Daten/Codes ect. zu unterbinden, dann ist es nutzlos, weil derjenige der die KI kontrolliert letztlich darüber bestimmt was OK ist und was eine… Mehr »