x

Exempleado de OpenAI alerta sobre riesgos de una IA más inteligente que los humanos 

Inteligencia Artificial

Carroll Wainwright renunció la semana pasada a su puesto como parte del equipo de alineamiento práctico y superalineamiento, que vigila que los modelos más potentes de OpenAI sean seguros y vayan en consonancia con los valores humanos.

Fuente externa.
Escuchar el artículo
Detener

Nueva York .- Un exempleado de OpenAI, firmó esta semana una carta junto con otros empleados de la empresa creadora de ChatGPT para denunciar la opacidad sobre los posibles riesgos de la inteligencia artificial (IA), señaló a Agencia EFE el peligro de una carrera en el sector por crear una super IA que sea más inteligente que los humanos. 

Carroll Wainwright renunció la semana pasada a su puesto como parte del equipo de alineamiento práctico y superalineamiento, que vigila que los modelos más potentes de OpenAI sean seguros y vayan en consonancia con los valores humanos. 

IA más inteligente que los humanos 

Cuando se lanzó, con un éxito que sorprendió hasta a la propia empresa, el “chatbot” ChatGPT, Wainwright empezó a trabajar en un equipo de superalineamiento para investigar, a medida que OpenAI obtenía modelos cada vez más inteligentes, las intervenciones técnicas que se pueden realizar para mantener el control sobre ellos. 

A diferencia de la IA generativa, la IAG reproduciría acciones humanas como escribir o dibujar, cosa que hace la IA generativa y comprendería la complejidad y contexto de sus acciones. 

Esta tecnología aún no existe. Algunos expertos, como Elon Musk, predicen que se creará en unos dos años, mientras que otros como Robin Li, director ejecutivo de Baid, una de las mayores tecnológicas de China, dice que llegará en una década. 

Wainwright cree que podría verse en unos cinco años, «¿Seguro que sucederá en cinco años? No, pero creo que es posible. Puede que lleve mucho más tiempo, pero si hay algo que potencialmente puede cambiar el mundo, deberíamos tomárnoslo muy, muy en serio», enfatizó. 

No obstante, el extrabajador señala que el motivo por el que renunció y luego firmó la carta no se debe a que encontró algo «aterrador», ya que por ahora OpenAI solo está investigando la posibilidad de crear tecnología. 

El cambio de OpenAI 

El principal detonante de su renuncia fue el cambio de visión de la compañía, que comenzó como un laboratorio de investigación sin fines de lucro «con la misión de que esta tecnología realmente beneficie a la humanidad», tras el enorme éxito ChatGPT en 2022. 

«Creo que las motivaciones que impulsan a OpenAI en sus acciones cotidianas son casi en su totalidad incentivos para obtener ganancias», aseguró Wainwright. 

Los principales riesgos de la IAG 

Wainwright subraya tres riesgos de la IAG: que las máquinas sustituyan a los trabajadores sobre todo de los trabajos cualificados, el impacto social y mental, ya que la gente podría tener un amigo o asistente personal de IA y, por último, el control de la tecnología. 

«El riesgo de alineación a largo plazo se produce si se obtiene un modelo que es más inteligente que los humanos. ¿Cómo se puede estar seguro de que ese modelo realmente está haciendo lo que el humano desea que haga o que la máquina no tenga un objetivo propio? Y si tiene un objetivo propio es preocupante», explicó. 

Carroll Wainwright piensa que las grandes empresas de la IA respetarán las regulaciones, el problema es que por el momento no se han implantado, es por ello que los empleados de este sector piden en su carta que se cree un sistema en el que los trabajadores puedan alertar a un organismo independiente de los peligros que ven en sus empresas. 

Según el exempleado, el problema de los gigantes de la IA no es la falta de seguridad, sino la rapidez a la que se enfrentan debido a la rivalidad de las empresas, sobre todo entre OpenAI y Google. 

«El hecho de que nadie quiera que ocurra un desastre no significa que vayan a tomarse el tiempo para asegurarse de que no suceda, ya que existe el incentivo de competir y vencer a todos los demás», resaltó. 

El Parlamento Europeo ratificó en marzo la ley de IA de la Unión Europea (UE), la primera que regula esta tecnología en el mundo, aunque no será hasta 2026 cuando entre en vigor y, según anunció este jueves la prensa especializada, los reguladores de Estados Unidos abrirán investigaciones antimonopolio contra Microsoft, OpenAI y Nvidia para analizar su influencia en el sector. 

Comenta con facebook
Recientes
Contenido más reciente en Noticias SIN
País

Hombre hiere y golpea menor y a la madre por 100 pesos

Mundo

Barack Obama dice que Joe Biden tiene que reconsiderar la candidatura

País

LEIDSA entrega 27 millones a la millonaria 469 del Loto

País

Familiares de menor ahogada en San Cristóbal culpan a EGEHID por extracción de arena

Mundo

Muere niña de un año olvidada por su padre en el coche por el calor

Salud

Lenacapavir: El medicamento que promete un 100% la prevención del VIH

País

Diputada Magda Rodríguez dice que nunca había visto un Congreso tan conservador como el que está hoy

Mundo

«Los valientes no temen al perdón, si esto ayuda a fomentar la paz» Nelson Mandela

Deportes

Yilber Díaz pasó de vender helados en la calle a ser lanzador de Grandes Ligas

Mundo

Trump dará discurso en público tras intento de asesinato

País

Dictan un mes de prisión preventiva a hombre amenazó a Abinader

País

Abogadas se halan las greñas en el Palacio de Justicia de Ciudad Nueva