Le Conseil de sécurité des Nations Unies tient, mercredi, une séance d’information de haut niveau consacrée à l’intelligence artificielle (IA) et à la sécurité internationale, dans le cadre du point « Maintien de la paix et de la sécurité internationale » inscrit à son ordre du jour, durant le segment de haut niveau de la 81e session de l’Assemblée générale de l’ONU.
La séance devrait porter notamment sur les risques sécuritaires liés à l’évolution rapide des capacités de l’intelligence artificielle, en particulier la possibilité d’une perte de contrôle humain sur les systèmes avancés et les menaces que cela pourrait engendrer pour la paix et la sécurité internationales.
Parmi les principales questions qui seront examinées, figurent les risques liés à l’utilisation de systèmes d’intelligence artificielle autonomes pour mener des actions aux conséquences graves, notamment le ciblage d’infrastructures critiques, ainsi que la nécessité de mettre au point des mécanismes d’évaluation et de vérification de la sécurité de ces systèmes, à la mesure de l’évolution rapide de leurs capacités.
Cette séance intervient dans un contexte marqué par de récents incidents ayant montré la capacité de certains systèmes d’intelligence artificielle à contourner des restrictions techniques qui leur étaient imposées, à accéder à des systèmes externes ou à communiquer par des canaux non autorisés, relançant ainsi la question des garanties nécessaires au maintien du contrôle humain.
Les membres du Conseil examineront également le rôle des gouvernements et des acteurs non étatiques dans la réduction de ces risques, ainsi que la possibilité de mettre en place des mesures internationales visant à renforcer la confiance et à favoriser l’échange d’informations sur les incidents et les vulnérabilités. Ils devraient également aborder les divergences concernant la question de savoir si la gouvernance de l’intelligence artificielle doit reposer principalement sur des mesures nationales ou sur des dispositifs internationaux.
La discussion devrait en outre faire ressortir des appels à renforcer la participation des pays en développement à l’élaboration des règles et normes de gouvernance de l’intelligence artificielle, afin d’éviter d’accentuer les disparités technologiques existantes, ainsi que les divergences de vues sur le rôle que devrait jouer le Conseil de sécurité dans la gestion des risques liés à cette technologie.
