Frankreich: Ermittlungen gegen Grok von X wegen Deepfakes

Die französischen Behörden haben eine Untersuchung gegen Grok, das KI-Tool der Plattform X (ehemals Twitter), eingeleitet, nachdem Hunderte von Beschwerden über die Erstellung und Veröffentlichung von Deepfakes nackter Frauen eingegangen waren. Die Beschwerden beziehen sich auf Fotos, die von Grok 'entkleidet' und auf X veröffentlicht wurden, wobei die Frauen oft in sexuellen Posen gezeigt werden.

Die Untersuchung wurde nach einer Beschwerde von Parlamentariern eingeleitet, da Tausende von nicht einvernehmlichen Deepfakes mit sexuellem Inhalt erstellt und auf der Plattform veröffentlicht wurden. Samantha Smith, ein Opfer dieser Praxis, sagte, sie habe sich 'entmenschlicht' gefühlt.

Das Unternehmen xAI, das hinter Grok steht, reagierte zunächst mit einer automatisch generierten Erklärung über 'alte Medienlügen', erklärte aber später, dass es an der Verbesserung der Sicherheitsvorkehrungen arbeite, um solche Anfragen zu blockieren.

In Großbritannien arbeitet das Innenministerium an einem Gesetz zum Verbot von Nacktheitstools, mit Gefängnisstrafen und Geldstrafen für diejenigen, die solche Technologien anbieten. Ofcom fordert von Technologieunternehmen, das Risiko illegaler Inhalte auf ihren Plattformen zu bewerten.

Die französische Untersuchung ergänzt eine bestehende Untersuchung gegen X in Bezug auf antisemitische Äußerungen und Holocaustleugnung, die über Grok verbreitet werden.