Le CeSIA a contribué à l’article de recherche “Dans quels domaines de la sécurité technique de l’IA les rivaux géopolitiques pourraient-ils coopérer?” dirigé par Ben Bucknall et 21 autres coauteurs, accepté à la conférence ACM sur l'équité, la responsabilité et la transparence (ACM FAccT 2025). Charbel-Raphaël Segerie, directeur du CeSIA, figure parmi les coauteurs de l'article.
La coopération internationale est courante dans la recherche en intelligence artificielle, y compris entre rivaux géopolitiques. Si de nombreux experts plaident pour une coopération internationale accrue sur la sécurité de l’IA afin de faire face à des risques mondiaux communs, certains considèrent cette coopération avec méfiance, estimant qu’elle pourrait poser des risques inacceptables pour la sécurité nationale. Toutefois, la mesure dans laquelle la coopération en matière de sécurité de l’IA présente de tels risques ainsi que des bénéfices dépend du domaine spécifique de coopération.Dans cet article, nous examinons les facteurs techniques qui influencent les risques liés à la coopération internationale sur la recherche en sécurité de l’IA, en nous concentrant sur la manière dont cette coopération peut favoriser le développement de capacités dangereuses, entraîner le partage d’informations sensibles ou offrir des opportunités de nuisance. Nous commençons par étudier pourquoi les nations coopèrent historiquement sur les technologies stratégiques et analysons la coopération actuelle entre les États-Unis et la Chine dans le domaine de l’IA comme étude de cas.Nous soutenons en outre que les cadres existants de gestion des risques associés peuvent être complétés par une prise en compte de risques spécifiques à la coopération sur la recherche technique en sécurité de l’IA. Notre analyse montre que la recherche sur les mécanismes de vérification de l’IA et les protocoles partagés pourrait constituer des domaines propices à une telle coopération. Par cette analyse, nous visons à aider les chercheurs et les gouvernements à identifier et atténuer les risques de la coopération internationale en sécurité de l’IA, afin que les bénéfices de cette coopération puissent être pleinement réalisés.
