Panel científico de la ONU alerta que la IA corre más rápido que las normas y pide una gobernanza global urgente

Un informe que eleva el tono de alarma

El panel internacional científico independiente sobre inteligencia artificial de la ONU hizo público su primer informe preliminar, concebido como la base científica de un futuro régimen global de gobernanza de la IA. El diagnóstico central es contundente: las capacidades de la IA —desde los modelos generativos hasta sistemas diseñados para actuar de forma autónoma— avanzan más rápido que la capacidad de los gobiernos para entenderlas, supervisarlas y regularlas de manera efectiva.

El panel describe la IA como una tecnología de propósito general con beneficios demostrados en salud, ciencia, agricultura o accesibilidad, pero advierte que esos beneficios “no son automáticos” y dependen de decisiones políticas deliberadas. Sin reglas claras, señalan los expertos, la misma infraestructura que permite acelerar la investigación médica puede amplificar ciberataques, fraudes masivos, vigilancia abusiva o desinformación a gran escala.

Qué advierte exactamente el panel

Entre las principales conclusiones, el informe subraya que:

• Los marcos de gobernanza actuales son fragmentarios, voluntarios y en gran parte definidos por las propias grandes empresas tecnológicas.
• Los sistemas “frontera” y los modelos “agénticos” —capaces de ejecutar cadenas de acciones con mínima supervisión humana— multiplican los riesgos de pérdida de control y de explotación maliciosa.
• La capacidad técnica para evaluar y probar la seguridad de esos sistemas está concentrada en pocos actores, lo que deja a la mayoría de los países como meros receptores de riesgos.
• Falta evidencia robusta y sistemática sobre impactos laborales y macroeconómicos, pero los indicios apuntan a un posible ensanchamiento de las desigualdades entre y dentro de los países.

El panel introduce la idea de un “dilema de la evidencia”: los responsables públicos necesitan datos sólidos para regular, pero cuando la evidencia es concluyente, el daño puede ser ya irreversible, dado el ritmo de despliegue de la IA.

Las voces de Guterres y de los copresidentes

António Guterres presentó el informe como una pieza clave para que los líderes globales pasen “de principios a políticas”. Recordó que “el mundo no puede gobernar lo que no entiende” y advirtió que el costo de esperar es creciente, porque cada nueva generación de sistemas amplía tanto el potencial como los riesgos.

Yoshua Bengio, referente científico en aprendizaje profundo y copresidente del panel, fue más lejos al señalar que la comunidad científica no puede garantizar que la IA no provoque daños catastróficos, ya sea por comportamientos emergentes de sistemas muy avanzados o por su uso por actores maliciosos. Subrayó además la aparición de comportamientos engañosos en algunos modelos avanzados, lo que complica la evaluación de su seguridad.

Maria Ressa, también copresidenta, encuadra estas advertencias en un contexto de ecosistemas informativos frágiles: los mismos modelos que facilitan el acceso al conocimiento pueden potenciar campañas de desinformación y acoso, especialmente en democracias con instituciones débiles, una preocupación que la periodista ha expresado reiteradamente en foros internacionales y que el informe recoge al analizar riesgos para los derechos humanos y la integridad electoral.

Recomendaciones: de los principios a la arquitectura

El informe propone una batería de recomendaciones concretas. Para los gobiernos, llama a:

• Establecer marcos legales obligatorios para los modelos de mayor riesgo, incluyendo requisitos de pruebas de seguridad independientes antes de su despliegue.
• Crear capacidades nacionales de supervisión técnica y participación en estándares internacionales, de modo que la regulación no dependa exclusivamente de información proporcionada por las empresas.
• Impulsar un sistema de gobernanza global interoperable, con normas mínimas comunes que “viajen con la tecnología” entre jurisdicciones.

Para las empresas de IA, el panel plantea obligaciones de transparencia sobre datos de entrenamiento, métodos de evaluación, incidentes de seguridad y uso de recursos computacionales, así como responsabilidad jurídica clara por daños causados por sistemas de alto riesgo. También propone mecanismos de financiación internacional para apoyar a los países con menos capacidades técnicas.

Implicaciones para México, Colombia y Venezuela

El informe insiste en la brecha entre el Norte y el Sur Global en infraestructura de cómputo, talento y capacidad regulatoria. Para México, Colombia y Venezuela, eso se traduce en un doble riesgo: quedar fuera de los beneficios económicos de la IA avanzada y, al mismo tiempo, estar expuestos a modelos y plataformas diseñados bajo otras realidades regulatorias.

En México, la creciente integración económica con Estados Unidos y el auge de servicios digitales y manufactura avanzada hacen urgente armonizar reglas de IA con los principales socios, evitando convertirse solo en campo de pruebas de tecnologías desarrolladas fuera. Colombia, inmersa en una etapa de alta tensión política y redefinición institucional, enfrenta el desafío de usar la IA para mejorar la gestión pública sin reforzar la vigilancia abusiva ni la desinformación electoral.

En Venezuela, donde la infraestructura digital es frágil y las instituciones están sometidas a fuerte control político, el despliegue de sistemas opacos de IA podría agravar la falta de transparencia y los riesgos para los derechos humanos. El panel sugiere que la única forma de que estos países no queden rezagados es participar activamente en la construcción de estándares globales, acceder a financiamiento para capacidades técnicas y articular regulaciones internas que protejan a sus ciudadanos sin bloquear usos socialmente beneficiosos.