Familias demandan a OpenAI en EE.UU. por no prevenir matanza en Canadá

Toronto, Canadá. – Siete familias de víctimas de la matanza de Tumbler Ridge, en Canadá, tiroteo en el que murieron ocho personas, además de la autora, que se suicidó, presentaron este miércoles una demanda en San Francisco (EE.UU.) contra OpenAI.

• La demanda acusa a la compañía responsable de ChatGPT de «jugar un papel en el tiroteo masivo» y de que OpenAI «podía prevenir y debería haber evitado» la matanza.

El pasado 10 de febrero, Jesse Van Rootselaar, de 18 años, mató a cinco niños y a una profesora en una escuela de una pequeña localidad del oeste de Canadá. La joven, que sufría trastornos mentales, también asesinó el mismo día a su madre y a su hermano.

Qué sabía OpenAI

Tras la masacre, el periódico The Wall Street Journal reveló que OpenAI había detectado meses antes del ataque interacciones inquietantes de la autora del tiroteo con su sistema ChatGPT.

Pero la empresa no las consideró lo suficientemente graves como para avisar a la Policía canadiense.

La demanda de las siete familias señala que el personal de OpenAI solicitó a los líderes de la compañía que notificaran a la Policía canadiense sobre las interacciones de Van Rootselaar, dijo la televisión canadiense Global News.

Según los demandantes, OpenAI rechazó advertir a las autoridades porque la alerta «sentaría un precedente» que obligaría a la compañía a contactar a las fuerzas de seguridad «cada vez que su equipo de seguridad identificara a un usuario que planeara violencia en el mundo real».

La demanda añade que «el público vería por fin lo que OpenAI trataba desesperadamente de ocultar: que ChatGPT no es la herramienta segura y esencial que la empresa presenta, sino un producto lo bastante peligroso como para que sus creadores identifiquen de forma habitual a sus usuarios como amenazas para la vida humana».

Demanda y disculpas

La presentación de la demanda en EE. UU. se produce seis días después de que el consejero delegado de OpenAI, Sam Altman, pidiera disculpas a Tumbler Ridge por no haber alertado a las autoridades.

En una carta fechada el 23 de abril y dirigida a la comunidad, Altman expresó sus “más profundas condolencias” a las familias de las víctimas y reconoció que la empresa no informó a las fuerzas del orden cuando detectó actividad alarmante en la cuenta de la autora del tiroteo, que posteriormente fue cancelada.