Arthur Grimonpont
Un appel historique vient d'être lancé par une coalition de Prix Nobel, d'anciens chefs d'État, et d’intellectuels de renommée mondiale : « Nous exhortons les gouvernements du monde entier à établir des lignes rouges sur l’intelligence artificielle pour protéger l’humanité. »
Annoncé par la lauréate du prix Nobel de la paix Maria Ressa lors de l’évènement d’ouverture de la 80ème assemblée générale des Nations unies, il réunit plus de 200 personnalités :
Les signataires avertissent que, sans règles internationales contraignantes, l’humanité s’expose à des périls majeurs : pandémies d’origine artificielle, manipulation de masse, ou perte de contrôle sur des systèmes autonomes.
Les incidents récents de chatbots accusés d'avoir manipulé leurs utilisateurs jusqu’à causer leur mort ne fournissent qu’un petit aperçu des menaces bien plus grandes qui planent sur notre futur proche si nous n'agissons pas.
Des centaines de millions de personnes utilisent déjà des systèmes d’IA avancés, et les dirigeants d'OpenAI, d’Anthropic et de Google DeepMind reconnaissent eux-mêmes les risques majeurs associés à leurs modèles dans le domaine des armes biologiques ou du cyberterrorisme.
Cet appel mondial exhorte donc les États à tracer des lignes rouges internationales et contraignantes pour bannir les usages et capacités de l'IA présentant des risques jugés universellement inacceptables, pour la vie et pour la dignité humaine.
Quelques exemples de lignes rouges possibles : interdire à l’IA de contrôler l’arme nucléaire, d'aider à concevoir une arme biologique, ou d'être utilisée à des fins de surveillance de masse.
Certains pensent que le monde est trop divisé pour se mettre d’accord sur de telles règles. Cette perspective est dangereuse car elle nous condamne à l’inaction et ne fait qu'entériner le scénario de la fuite en avant. Rappelons-nous que les traités ayant banni les armes biologiques et limité la prolifération nucléaire ont été conclus en pleine guerre froide.
”L’histoire nous enseigne que lorsque nous sommes confrontés à des menaces irréversibles et sans frontières, la coopération est la seule forme rationnelle de poursuite des intérêts nationaux” souligne Maria Ressa.
Si les gouvernements ne parviennent pas à s’accorder sur ce qu’ils veulent faire de l’IA, ils doivent au moins s’entendre sur ce qu’elle ne doit jamais faire.
Le Centre pour la Sécurité de l’IA est fier d’avoir initié cet appel aux côtés de The Future Society et du Center for Human-Compatible AI, avec le soutien de 20 organisations partenaires.
La déclaration complète et la liste des signataires sont disponibles sur : red-lines.ai
