L'IA peut-elle vraiment tous nous tuer? Le Québec doit-il s'inquiéter?

Des chercheurs en intelligence artificielle tirent la sonnette d'alarme: des formes avancées d'IA pourraient un jour anéantir l'humanité. Alors que les laboratoires américains se livrent une course effrénée au développement de systèmes «superintelligents», la question de la réglementation devient urgente, et le Québec n'est pas à l'abri de ces bouleversements technologiques.

Quel est le pire scénario envisagé par les experts?

En 2023, des centaines d'experts en IA et de dirigeants de l'industrie, y compris les patrons des plus grands laboratoires de recherche américains, ont signé une déclaration sur le risque d'extinction lié à l'IA. Ils demandent que ce danger soit traité avec le même sérieux que les pandémies ou les armes nucléaires.

Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley, craint qu'une IA devenue incontrôlable puisse utiliser des robots pour «synthétiser et diffuser de nouveaux agents pathogènes». Elle pourrait aussi «convaincre des personnes de déclencher une guerre nucléaire, notamment en piratant les systèmes d'alerte précoce», a-t-il expliqué à l'AFP.

Ces craintes ne concernent pas les systèmes actuels, précise le spécialiste. Mais à mesure que la technologie progresse, une IA superintelligente pourrait poser des actions létales au-delà de notre compréhension, comme retirer l'oxygène de l'atmosphère. «Nous sommes moins intelligents qu'une IA superintelligente», argue-t-il.

Le danger immédiat, selon lui, vient toutefois des humains eux-mêmes: «dans l'année ou les deux années à venir, je pense que le risque le plus élevé vient d'un mauvais usage par des humains», par exemple lors d'une attaque terroriste.

Pourquoi les laboratoires ne ralentissent-ils pas le développement?

Jacob Coxon, un chercheur de 27 ans, a démissionné cette semaine de la start-up américaine Anthropic en avertissant sur le réseau social X que «les enjeux sont bien compris». Mais les laboratoires «sont enfermés dans une course pour être les premiers», déplore-t-il, expliquant qu'Anthropic «croit que personne d'autre n'agira de manière responsable, donc elle doit le faire elle-même».

L'entreprise a d'ailleurs supprimé cette année de sa charte de sécurité un engagement à stopper le développement de ses modèles si elle n'arrivait pas à en contrôler les risques. Sa justification: si elle suspendait ses travaux, des concurrents moins prudents s'imposeraient dans le secteur.

«Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie», avertit Jacob Coxon, qui a aussi travaillé chez OpenAI, le créateur de ChatGPT. Il accuse les deux entreprises de «jouer avec nos vies» en s'efforçant de développer des modèles capables de s'autoaméliorer.

Les craintes se sont intensifiées après qu'une technologie d'OpenAI, opérant sans supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA. «Nous croyons vraiment que l'IA pourrait tuer tous les humains!», a renchéri Evan Hubinger, responsable de la sécurité chez Anthropic.

Peut-on encore ralentir avant de perdre le contrôle?

«La situation est encore contrôlable et peut être gérée», affirme Hussein Abbass, professeur d'informatique à l'université de Nouvelle-Galles du Sud à Canberra. Mais les gouvernements ne peuvent rester les bras croisés, ajoute-t-il, recommandant une approche «agile» à mesure que le développement s'accélère.

En juillet, plus de 1000 employés du secteur, dont le PDG d'Anthropic, ont demandé à Washington de soutenir un ralentissement coordonné du développement des systèmes les plus avancés. Anthropic et OpenAI devraient d'ailleurs entrer en Bourse prochainement.

Certains estiment que ces alertes anxiogènes donnent à l'IA une apparence de puissance qui incite à investir. D'autres croient qu'elles détournent l'attention de problèmes plus urgents, comme les suppressions d'emplois ou les machines qui discriminent les minorités.

Que faut-il pour réglementer l'IA?

Jusqu'ici, les États-Unis se sont opposés fermement à une régulation mondiale qui pourrait décourager l'innovation. Mais les capacités de piratage des modèles les plus avancés ont fait réfléchir Washington, les dernières versions d'Anthropic et d'OpenAI ayant été retardées pour des raisons de sécurité nationale.

«Nous ne voulons pas les brider au point de nous retrouver soudain derrière la Chine», a déclaré le président Donald Trump. Une position qui inquiète Stuart Russell: «Il faudra peut-être une catastrophe de l'ampleur de Tchernobyl pour que les gouvernements se décident à agir», regrette-t-il, exhortant à créer des licences pour l'IA, comme pour l'aviation ou la médecine.

Pour le Québec, la question n'est pas que théorique. Notre économie, nos services publics et notre culture sont déjà touchés par la transformation numérique. Si nos gouvernements ne participent pas activement aux débats sur la régulation de l'IA, nous risquons de subir les conséquences de décisions prises ailleurs, sans avoir notre mot à dire. La défense de notre modèle social passe aussi par une vigilance accrue face à ces technologies qui façonnent déjà nos vies.

Questions fréquentes sur les risques de l'IA

L'IA actuelle est-elle dangereuse?

Les systèmes actuels ne présentent pas de danger existentiel, mais les experts craignent un mauvais usage par des humains, notamment pour des attaques terroristes, dans les deux prochaines années.

Pourquoi ne pas simplement arrêter le développement de l'IA?

Les laboratoires sont engagés dans une course à la première place et craignent que des concurrents moins prudents prennent le dessus s'ils ralentissent. La pression économique et géopolitique rend un arrêt unilatéral difficile.

Quelle réglementation serait nécessaire?

Les experts recommandent des licences obligatoires pour le développement de l'IA avancée, comparables à celles de l'aviation ou de la médecine, ainsi qu'une approche agile qui s'adapte à la vitesse des innovations.