El fiscal general de California, Rob Bonta, ha iniciado una investigación contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, debido a la circulación de material sexualmente explícito no consensuado que ha sido generado por su chatbot, Grok.
Según la fiscalía, el número de informes sobre contenido sexualmente explícito y no consensuado producído por xAI es alarmante. Este material incluye imágenes de mujeres y niños en situaciones sexualmente explícitas y está siendo utilizado para acosar a diversas personas en internet.
La investigación surge luego de múltiples reportes que indican que usuarios de Grok han estado tomando imágenes de mujeres y niños disponibles en internet y modificándolas para representarles en situaciones explícitas, desnudándoles sin su consentimiento ni conocimiento previo, señaló Bonta.
Te interesa
Además, se han documentado casos donde imágenes generadas por el chatbot han sido utilizadas para acosar a tanto a personas influyentes como a usuarios comunes de redes sociales. Un aspecto preocupante es que estos informes han descrito el uso de Grok para alterar imágenes de niños, presentándoles en posturas sugestivas que involucran poca ropa.
Ante este escenario, la Fiscalía de California ha instado a Elon Musk a tomar medidas inmediatas para poner fin a esta situación, asegurando que el problema no se extienda más allá de lo ya reportado.
El gobernador de California, Gavin Newsom, ha respaldado esta investigación y ha mencionado que la red social X, anteriormente Twitter, se ha convertido en un entorno propicio para que los depredadores distribuyan deepfakes de IA que son sexualmente explícitos y no consensuados.
En respuesta a la situación, la compañía X ha indicado que han impuesto medidas tecnológicas para evitar que la cuenta de Grok edite imágenes de personas reales en atuendos sexualmente sugestivos, como bikinis. Esta política se aplica a todos los usuarios, incluidos los suscriptores de pago.
Sin embargo, la declaración de X ha generado confusión, ya que menciona que se aplicará un «bloqueo geográfico» para la generación de imágenes de desnudos de personas reales con Grok únicamente en jurisdicciones donde dicha actividad sea ilegal.
Horas antes de estas declaraciones, tanto la Unión Europea como el Reino Unido han expresado su cautela respecto a las medidas anunciadas por X, manifestando que se evaluará cuidadosamente su implementación para asegurar la protección adecuada de los ciudadanos de la Unión Europea.
