Francia investiga a Grok de X por deepfakes

Las autoridades francesas han iniciado una investigación sobre Grok, la herramienta de IA de la plataforma X (anteriormente Twitter), tras cientos de denuncias sobre la creación y publicación de deepfakes de mujeres desnudas. Las denuncias se refieren a fotos que fueron 'desnudadas' por Grok y publicadas en X, a menudo mostrando a las mujeres en poses sexuales.

La investigación se inició tras una denuncia de parlamentarios, ya que miles de deepfakes no consentidos de contenido sexual fueron creados y publicados en la plataforma. Samantha Smith, víctima de la práctica, dijo que se sentía 'deshumanizada'.

La empresa xAI, detrás de Grok, respondió inicialmente con una declaración generada automáticamente sobre 'viejas mentiras de los medios', pero luego declaró que está trabajando para mejorar las salvaguardias para bloquear tales solicitudes.

En Gran Bretaña, el Ministerio del Interior está legislando para prohibir las herramientas de desnudez, con penas de prisión y multas para quienes proporcionen dicha tecnología. Ofcom exige que las empresas de tecnología evalúen el riesgo de contenido ilegal en sus plataformas.

La investigación francesa se suma a una investigación existente sobre X con respecto a declaraciones antisemitas y negación del Holocausto difundidas a través de Grok.