Baltimore demanda a xAI de Elon Musk por las imágenes falsas de desnudos de Grok

El martes, el gobierno de la ciudad de Baltimore presentó una demanda en el tribunal de circuito contra la empresa de inteligencia artificial de Elon Musk, xAI. La demanda sostiene que el chatbot Grok infringe las leyes locales de protección al consumidor al producir deepfakes explícitos y no consensuales, incluyendo imágenes de menores.

Los funcionarios de la ciudad dicen que la empresa engañó a las personas al promocionar X $TWTR 0.00% como una red social regular y Grok como una herramienta segura y cotidiana. La queja dice que este marketing oculta el riesgo de que los usuarios puedan ver contenido ilegal o que sus fotos familiares sean transformadas en imágenes degradantes y sexualmente explícitas sin su consentimiento.

Contenido Relacionado

Meta ordenada a pagar $375 millones en caso de explotación infantil en Nuevo México

Ford recuerda más de 254,000 SUV debido a un problema de software de la cámara de reversa

La demanda cita investigaciones del Centro para Contrarrestar el Odio Digital, que encontró que el software creó aproximadamente tres millones de imágenes sexualizadas en 11 días entre finales de diciembre y principios de enero. Los medios difieren en el número de imágenes que muestran menores: NBC News informa sobre 20,000, mientras que The Guardian estima alrededor de 23,000 y Reuters cita más de 23,000.

La ciudad también critica una función llamada “modo picante”. Según NBC News, la demanda dice que esta función permite a las personas eliminar digitalmente la ropa de fotos de figuras públicas, ciudadanos privados y niños, y luego colocar sus imágenes en escenas violentas o sexualmente degradantes.

La demanda también señala una publicación en redes sociales del 31 de diciembre de 2025, donde Musk compartió una imagen generada por inteligencia artificial de él mismo a los 54 años en un bikini de hilo azul. Los abogados de Baltimore dicen que esta publicación alentó públicamente a los usuarios a crear imágenes que expusieran a personas reales.

El alcalde Brandon M. Scott enfatizó lo dañinos que son estos deepfakes. En declaraciones a los medios, dijo que causan trauma duradero a las víctimas y representan una amenaza seria para la privacidad, la seguridad y la dignidad. Agregó que quienes son responsables deben rendir cuentas.

Baltimore está pidiendo al tribunal las máximas sanciones financieras posibles y otras multas. Los funcionarios de la ciudad también quieren una orden judicial que requiera a la empresa cambiar su publicidad, rediseñar su plataforma y dejar de aprovecharse de los residentes locales.

Esta demanda se produce en un momento en que la empresa enfrenta un escrutinio global. Reuters dice que xAI está bajo investigación en las Américas, Europa, Asia y Australia, lo que llevó a limitar algunas funciones de generación de imágenes a mediados de enero. En ese momento, Musk dijo que no tenía conocimiento de que el software estuviera creando imágenes desnudas de menores.

The Guardian también informa sobre una demanda colectiva separada presentada en marzo por tres adolescentes en Tennessee. Dicen que una aplicación externa utilizó la tecnología de xAI para crear y compartir imágenes desnudas de ellos. xAI y sus empresas relacionadas no respondieron de inmediato a las preguntas de los medios sobre el caso.

📬 Regístrate para el Daily Brief

Nuestro resumen gratuito, rápido y divertido sobre la economía global, entregado cada mañana de lunes a viernes.

Regístrame