California abre una investigación a xAI de Elon Musk por imágenes sexualizadas
La fiscalía de California señala que imágenes de mujeres y niños desnudos se han usado para acosar en internet.
La investigación a xAI por imágenes sexualizadas se centra en material no consensual generado con el chatbot Grok
Los Ángeles (EE.UU.).- El fiscal general de California, Rob Bonta, abrió este miércoles una investigación contra xAI, la empresa de inteligencia artificial del magnate Elon Musk, por la proliferación de material sexualmente explícito no consensual producido con Grok, el chatbot de la empresa.
Investigación a xAI por imágenes sexualizadas
"La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet", informó la fiscalía en un comunicado.
La investigación sucede a los numerosos reportajes que se han publicado en las últimas semanas en los que usuarios de Grok "toman imágenes comunes de mujeres y niños disponible en internet y las utilizan para representarlas en situaciones sugerentes y sexualmente explícitas, desnudándolas, todo ello sin su conocimiento ni consentimiento", explicó Bonta.
Reacciones oficiales y contexto
Las imágenes generadas por el chatbot de X "se están utilizando para acosar tanto a figuras públicas como a usuarios comunes de redes sociales. Lo más alarmante es que los informes periodísticos han descrito el uso de Grok para alterar imágenes de niños con ropa mínima y en situaciones sexuales", agregó.
La fiscalía de California instó, en este sentido, a Musk a "medidas inmediatas para garantizar que esto no vaya más allá".
Por su parte, el gobernador de California, el demócrata Gavin Newsom, secundó esta investigación sobre el gigante tecnológico y afirmó que la red social X "alberga un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados".
La investigación abierta por la Fiscalía General de California contra xAI, la empresa de inteligencia artificial de Elon Musk, se enmarca en la creciente preocupación por el uso indebido de herramientas de IA para la creación y difusión de contenido sexualmente explícito no consensual en internet.
En las últimas semanas, diversos reportajes han alertado sobre la utilización del chatbot Grok para generar imágenes manipuladas de mujeres y niños sin su conocimiento ni autorización.
Según las autoridades, usuarios de la plataforma han empleado imágenes comunes disponibles en la red para sexualizar digitalmente a personas reales, representándolas desnudas o en situaciones sexualmente explícitas.
Este material, de acuerdo con la fiscalía, no solo vulnera la privacidad y la dignidad de las víctimas, sino que también se ha convertido en un mecanismo de acoso en línea, dirigido tanto a figuras públicas como a usuarios comunes de redes sociales.