España pide a la Fiscalía investigar a la IA de X por supuesta pornografía infantil
El Ejecutivo solicita a la Fiscalía General del Estado que investigue si Grok, la inteligencia artificial de la red social X, ha generado contenido de violencia sexual contra menores, lo que podría constituir delitos tipificados en el Código Penal.
España pide a la Fiscalía investigar a Grok, la IA de X
Madrid.– El Gobierno de España envió un escrito a la Fiscalía General del Estado para solicitar que investigue si Grok, la inteligencia artificial (IA) de X, red social antes conocida como Twitter que el magnate Elon Musk compró en 2022, puede estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.
Fue la ministra de Juventud e Infancia, Sira Rego, quien hizo la petición a la Fiscalía.
Según explicaron este miércoles fuentes del departamento de Rego, Grok habría generado, a petición de usuarios, material de violencia sexual contra menores, "una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil", recogido en el Código Penal de España.
También podría suponer un delito contra la integridad moral, incluido, asimismo, en el Código Penal.
Implicaciones legales y judiciales de la inteligencia artificial
Para el Gobierno de España, se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital.
En el oficio remitido a la Fiscalía, la ministra de Juventud e Infancia alude a una sentencia de 2024 del Juzgado de Menores de Badajoz, al oeste de España, en la que se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes.
- Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, señala la responsable de Juventud e Infancia en el documento remitido a la Fiscalía.
"Estamos ante una vulneración de derechos fundamentales", sostuvo Rego, quien subrayó que "es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet" y poner freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.
Actualmente, el Congreso tramita una ley orgánica para la protección de los menores en los entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros ministerios.
Con este contexto, el Ejecutivo considera prioritario reforzar los mecanismos de control y supervisión sobre el desarrollo y uso de sistemas de inteligencia artificial, especialmente cuando pueden facilitar conductas delictivas.
Desde el Gobierno se insiste en que las empresas tecnológicas deben asumir su responsabilidad y colaborar con las autoridades para prevenir abusos, al tiempo que se avanza en un marco legal más estricto que garantice un entorno digital seguro para la infancia y la adolescencia.