Inteligencia Artificial: ¿Qué hacer ante un 20% de riesgo existencial?

En una era donde la inteligencia artificial avanza a pasos agigantados, surge una pregunta fundamental: ¿qué haríamos si un nuevo tecnológico tuviera un 20% de probabilidad de provocar un desastre catastrófico? Esta es precisamente la cuestión que plantea Nicolas Miailhe, cofundador de AI Safety Connect, durante el Foro Global de Gobernanza 2026 en Xiong'an. Su perspectiva no busca generar alarma, sino abrir un diálogo urgente sobre cómo gestionar el desarrollo de la IA de manera responsable.

Contenido clave

• El riesgo del 20%: Miailhe señala que mientras otras industrias como la aeronáutica o farmacéutica no aceptarían riesgos superiores al 0.001%, la IA está siendo desarrollada con una tolerancia al riesgo sorprendentemente alta. Esta contradicción entre el potencial de la tecnología y la gestión de sus riesgos es alarmante.

• De la innovación a la aplicación: La IA ha pasado de ser un campo de investigación a una tecnología masivamente aplicable. Sin embargo, los marcos de gobernanza global no han evolucionado al mismo ritmo, dejando a la humanidad con poderes casi divinos pero sin la sabiduría correspondiente.

• El problema de los 'enjambres de agentes': La tecnología está evolucionando de sistemas individuales a 'enjambres' de miles de agentes inteligentes coordinados. Estos sistemas pueden generar consecuencias inesperadas a velocidades y escalas que superan nuestra capacidad de supervisión, lo que Miailhe denomina 'choque de velocidad' y 'choque de escala'.

• La caja negra en expansión: A pesar de los avances en la interpretabilidad de la IA, los modelos actuales con billones de parámetros son cada vez más complejos y menos comprensibles. Esta opacidad no es solo un desafío técnico, sino que se ha convertido en un problema sistémico que afecta a la sociedad, la economía y la gobernanza.

• La brecha tecnológica global: Países del Sur Global expresan una creciente ansiedad frente a la revolución de la IA. Mientras luchan por construir infraestructuras básicas como electricidad y conectividad, ya enfrentan la presión de participar en la carrera de IA, lo que podría crear nuevas dependencias tecnológicas y agravar las desigualdades existentes.

Análisis profundo

La visión de Miailhe revela una paradoja fundamental: la humanidad está desarrollando tecnologías con potencial existencial sin haber establecido marcos de gobernanza adecuados. Su énfasis en la necesidad de cooperación entre Estados Unidos y China como potencias líderes en IA es particularmente relevante. Sin la participación de estas dos naciones, cualquier esfuerzo global por regular la inteligencia artificial artificial estaría destinado al fracaso.

La propuesta de Miailhe de comenzar con cooperación en áreas específicas como la detección y respuesta a incidentes de seguridad, en lugar de buscar soluciones globales inmediatas, refleja una comprensión realista de la política internacional. Este enfoque gradual, similar al que impulsó la integración europea a través de sectores específicos como el carbón y el acero, podría sentar las bases de una gobernanza más amplia en el futuro.

El problema de la desigualdad en la distribución de los beneficios de la IA es otro aspecto crítico. Si los avances tecnológicos solo benefician a un pequeño número de países o corporaciones, el riesgo de inestabilidad social y política aumentará significativamente. La educación emerge como un elemento clave para abordar este desafío, no solo como adaptación a nuevas herramientas, sino como mecanismo para preservar el pensamiento crítico y la creatividad humana.

Preguntas frecuentes

¿Por qué es tan urgente abordar los riesgos de la IA ahora? La tecnología está avanzando tan rápidamente que los riesgos que antes parecían lejanos se han vuelto inmediatos. No podemos esperar a que surjan problemas graves para actuar; necesitamos establecer marcos de gobernanza que anticipen y mitigen riesgos antes de que se materialicen.

¿Cómo pueden los países del Sur Global prepararse para la revolución de la IA? Estos países necesitan apoyo internacional para construir sus capacidades básicas antes de sumergirse en la carrera de IA avanzada. Deben evitar saltar etapas de desarrollo y trabajar en paralelo en infraestructuras fundamentales y gobernanza tecnológica apropiada a sus contextos.

¿Qué papel puede desempeñar China en la gobernanza global de la IA? China ya ha dado pasos importantes con su Marco de Gobernanza de Seguridad de IA 3.0. Su experiencia en regulación coerciva y su enfoque estructurado pueden ofrecer valiosas lecciones para el resto del mundo, especialmente en la gestión de sistemas inteligentes autónomos que plantean desafíos de seguridad complejos.

Fuente: https://www.thepaper.cn/newsDetail_forward_34335688