Redacción Internacional. – Mientras las sociedades exigen estándares extremadamente estrictos de seguridad para tecnologías como la energía nuclear, algunos especialistas en inteligencia artificial advierten que los riesgos asociados a los sistemas más avanzados podrían ser considerablemente mayores.
Expertos alertan por riesgo catastrófico
Diversos expertos estiman que la probabilidad de un evento catastrófico vinculado a la IA podría situarse entre el 10% y el 50%; una preocupación que también ha sido expresada por dirigentes de las principales empresas del sector.
El rápido avance de la Inteligencia Artificial ha desatado una competencia global impulsada por inversiones multimillonarias. Sin embargo, varios investigadores sostienen que el ritmo del desarrollo tecnológico supera los esfuerzos destinados a la seguridad y supervisión de estos sistemas.
Auto-mejora recursiva y superinteligencia
Una de las principales inquietudes gira en torno a la denominada auto-mejora recursiva, un escenario en el que una inteligencia artificial adquiere la capacidad de modificar y optimizar su propio código sin intervención humana. Según algunos expertos, este proceso podría desencadenar un crecimiento acelerado de sus capacidades, dando paso a formas de inteligencia muy superiores a las humanas.
Los críticos advierten que la aparición de una superinteligencia plantearía desafíos inéditos para la humanidad. Entre ellos figura la posibilidad de que los mecanismos de control diseñados por los seres humanos resulten insuficientes frente a sistemas capaces de anticipar comportamientos, influir en decisiones o explotar vulnerabilidades psicológicas.
A estas preocupaciones se suman recientes informes sobre modelos de IA con potencial para afectar infraestructuras críticas o facilitar actividades ilícitas. Aunque algunas empresas han aplicado restricciones y pruebas de seguridad antes de lanzar sus sistemas al público, estas medidas han dependido en gran medida de decisiones voluntarias de cada laboratorio.
Ante este panorama, especialistas en gobernanza tecnológica consideran insuficientes las regulaciones existentes y alertan sobre la falta de un marco internacional coordinado. Las medidas adoptadas por distintos gobiernos, incluidas restricciones de exportación y controles de acceso a tecnologías avanzadas, han sido calificadas como respuestas fragmentadas a un desafío global.
Algunos analistas proponen que Estados Unidos y China, los principales actores en el desarrollo de inteligencia artificial, lideren la creación de mecanismos conjuntos de supervisión y verificación. La idea sería establecer normas comunes sobre seguridad, transparencia y uso responsable de sistemas avanzados, siguiendo modelos similares a los utilizados históricamente en acuerdos de control de armamentos.
Propuestas para limitar usos peligrosos
Entre las propuestas iniciales figuran la prohibición de divulgar herramientas que puedan facilitar la creación de armas biológicas, la restricción de ciberataques contra infraestructuras esenciales y la limitación de aplicaciones vinculadas al fraude o a la explotación infantil.