Si l'IA a 20 % de chances de détruire l'humanité, que faisons-nous ?

Si une technologie comporte un risque de 20 % de déclencher une catastrophe mondiale, accepteriez-vous de la développer sans réserve ? Cette question, brûlante et inquiétante, a été posée lors du Forum mondial sur la gouvernance 2026. Elle soulève non seulement des enjeux existentiels, mais aussi la responsabilité morale des nations face à l'essor de l'intelligence artificielle.

L'IA n'est plus une simple innovation de laboratoire ; elle est devenue un moteur industriel omniprésent. Cependant, cette puissance croissante crée un décalage inquiétant entre nos capacités techniques et notre capacité à les contrôler. Nicolas Miailhe, co-fondateur de l'association AI Safety Connect, met en lumière ce paradoxe avec une précision redoutable.

Les points clés à retenir

• Le risque est plus élevé qu'on ne le pense : Des figures de proue de la tech comme Geoffrey Hinton estiment le risque d'extinction à 20 %. Pour comparaison, les industries comme l'aviation ou la pharmacie tolèrent des risques bien inférieurs, souvent inférieurs à 0,001 %.
• L'urgence d'une action immédiate : Les conséquences de l'IA ne concernent plus seulement l'avenir lointain. Elles affectent déjà le quotidien, l'économie et la sécurité de millions de personnes. Il est impératif de mettre en place des structures de gouvernance aujourd'hui.
• L'émergence des "agents intelligents" : L'IA évolue vers des systèmes autonomes capables de coopérer à grande échelle. Ce changement de paradigme, souvent qualifié de "choc de vitesse" et de "choc de taille", rend la surveillance humaine traditionnelle obsolète.
• Un défi pour le Sud global : Les pays en développement, comme certains d'Afrique, se sentent dépassés. Ils doivent combler des lacunes en infrastructures tout en tentant de suivre la course à l'IA, risquant une nouvelle dépendance technologique.
• La nécessité d'un "bas commun" : La coopération entre les États-Unis et la Chine est cruciale. Ces deux superpuissances doivent définir des règles fondamentales pour éviter une course aux armements inutile et dangereuse.
• L'importance de l'interprétabilité : Le problème du "boîte noire" reste un obstacle majeur. Comprendre comment fonctionne une IA est essentiel pour garantir sa sécurité, mais les progrès sont lents face à l'accélération des modèles.
• La formation au changement : L'éducation doit s'adapter. Il faut apprendre aux humains à collaborer avec l'IA plutôt qu'à la remplacer, en valorisant la pensée critique et l'innovation.

Analyse approfondie

La réflexion de Nicolas Miailhe nous force à remettre en question notre rapport au risque. Historiquement, l'humanité a toléré des risques technologiques élevés en les considérant comme acceptables ou lointains. L'IA, avec son expansion rapide et ses capacités potentiellement dévastatrices, brise ce schéma traditionnel. Le concept de "20 % de risque" ne doit pas être perçu comme une statistique abstraite, mais comme un signal d'alarme urgent concernant la viabilité à long terme de notre civilisation.

Le contexte géopolitique ajoute une couche de complexité. La course à l'IA est devenue un enjeu de puissance stratégique, où chaque nation cherche à dominer. Cette compétition peut nuire à la coopération nécessaire. Miailhe souligne que sans une collaboration bilatérale forte entre Washington et Pékin, il est impossible de réguler efficacement la course à la super-intelligence. Les deux pays sont interdépendants, que ce soit par le biais des données, des modèles ou des puces informatiques, ce qui offre une base solide pour un dialogue constructif.

Par ailleurs, l'IA représente un risque pour la fracture numérique mondiale. Si la technologie profite à certains, elle pourrait éroder les acquis des pays en développement. C'est une forme nouvelle de dépendance qui pourrait exacerber les inégalités mondiales. Pour éviter cela, il faut une gouvernance internationale qui garantisse que les bénéfices de l'IA sont partagés équitablement et que les risques sont partagés également.

Enfin, la question de l'éducation est centrale. L'IA va transformer la nature même du travail intellectuel. Si nous ne reformons pas nos systèmes éducatifs, nous risquons de produire des populations incapables de naviguer dans un monde dominé par l'automatisation. L'objectif n'est pas de résister à l'IA, mais de l'intégrer de manière responsable, en mettant l'humain au centre de la stratégie technologique.

Questions fréquentes

Qu'est-ce que le risque de 20 % évoqué par Nicolas Miailhe ? Ce chiffre provient d'estimations émises par des pionniers de l'IA comme Geoffrey Hinton. Il représente la probabilité que l'IA devienne incontrôlable et cause des dommages irréversibles à l'humanité. Pourtant, cette probabilité est considérée comme inacceptable dans d'autres secteurs critiques comme l'aviation ou la sécurité nucléaire.

Pourquoi la coopération Chine-États-Unis est-elle indispensable ? Ces deux nations sont les moteurs de l'innovation mondiale en IA. Sans leur accord sur les règles fondamentales de sécurité et de gouvernance, toute tentative de régulation internationale sera vouée à l'échec. Ils doivent servir de modèle pour définir un "bas commun" de sécurité.

Comment l'IA pourrait-elle affecter les pays en développement ? L'IA pourrait créer une nouvelle forme de dépendance technologique pour les pays du Sud global, qui peinent déjà à développer leurs infrastructures numériques. Il est crucial de garantir que ces pays ne soient pas laissés pour compte et puissent participer équitablement à la révolution technologique.

Source: https://www.thepaper.cn/newsDetail_forward_34335688