La ministra de Juventud e Infancia, Sira Rego, ha enviado un escrito a la Fiscalía General del Estado para que se investigue si Grok, la inteligencia artificial de X (antes Twitter), podría estar generando contenido relacionado con delitos de violencia sexual contra menores.
Según informan fuentes del ministerio, Grok habría producido, a petición de algunos usuarios, material que podría constituir pornografía infantil, tipificada en el artículo 189 del Código Penal, así como delitos contra la integridad moral, según el artículo 173.
Rego ha subrayado que estas prácticas representan una vulneración grave de la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital. En su escrito a la Fiscalía, la ministra hace referencia a la sentencia 86/2024 del Juzgado de Menores de Badajoz, que condenó a varias personas por manipular imágenes de menores mediante inteligencia artificial, reconociendo estas acciones como violencia digital.
«Estamos ante una vulneración de derechos fundamentales», afirmó Rego, insistiendo en la necesidad de que la Fiscalía investigue los hechos y tome medidas para garantizar la protección de la infancia en internet, evitando prácticas que atenten contra su desarrollo seguro y libre en el espacio digital.
Actualmente, el Congreso tramita una ley orgánica para la protección de los menores en entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros departamentos. La normativa busca reforzar la protección de la integridad y la intimidad de los menores frente a nuevas formas de vulneración derivadas del uso de tecnologías como la inteligencia artificial, priorizando siempre el interés superior del niño frente a cualquier modelo de negocio digital.
Juventud e Infancia recalca la importancia de construir entornos digitales seguros, ya que las plataformas de internet no fueron diseñadas pensando en la infancia y no siempre garantizan un espacio libre de violencia ni de explotación de la imagen de menores.
