OpenAI presenta a votantes de California una propuesta de seguridad de IA para niños

OpenAI presentó una propuesta legislativa en California enfocada en la seguridad para los chatbots de IA dirigidos a niños, marcando su primera incursión en la política estatal. La iniciativa, denominada AI Companion Chatbot Safety Act, propone controles específicos para chatbots como ChatGPT.

La medida busca complementar las protecciones existentes en materia de seguridad y salud mental para chatbots, contempladas en una legislación aprobada por el gobernador de California, Gavin Newsom, en octubre pasado. Según un asesor de OpenAI, la propuesta se encuentra en diálogo con diversas partes interesadas, incluyendo otras empresas tecnológicas y grupos de la industria.

El abogado de OpenAI, Tom Hiltachk, presentó la iniciativa que desde el lunes por la noche está disponible para consideración pública en el sitio web de la Fiscalía General de California. Para que la propuesta aparezca en la boleta electoral de noviembre de 2026, debe reunir el número de firmas requerido.

Demanda y medidas de seguridad para menores

La seguridad de los menores que usan chatbots es una prioridad en California. En octubre, Newsom firmó una ley que obliga a las plataformas a recordar a los usuarios que interactúan con un chatbot y no con un humano.

Para menores, la notificación debe aparecer cada tres horas y las empresas deben establecer protocolos para prevenir y reportar casos de suicidio.

La querella presentada en una corte de San Francisco acusa a OpenAI y a su CEO, Sam Altman, de homicidio culposo, alegando que ChatGPT ayudó a Adam a explorar métodos de suicidio.

OpenAI ha negado responsabilidad, argumentando que los daños fueron causados por un uso indebido y no autorizado del chatbot por parte del menor.

La propuesta de OpenAI compite con otra iniciativa presentada por Common Sense Media, que plantea medidas más estrictas para la seguridad de la IA en niños.

Esta iniciativa representa un paso relevante en la regulación de la inteligencia artificial en California, con un enfoque en la protección de los usuarios más vulnerables.