Le contrôle humain de l'IA sur l'usage de la force doit être garanti

Le secrétaire général de l'ONU, Antonio Guterres, a souligné mercredi l'importance de garantir le contrôle humain de l'intelligence artificielle (IA) sur l'usage de la force.

"Soyons clairs : le destin de l'humanité ne peut être laissé à un algorithme. Les humains doivent toujours conserver leur autorité sur les décisions de vie ou de mort," a-t-il affirmé lors d'un débat public du Conseil de sécurité sur l'IA et la paix et la sécurité internationales.

Le Conseil de sécurité et les Etats membres de l'ONU doivent veiller à ce que l'utilisation militaire de l'IA reste en totale conformité avec le droit international et la Charte des Nations Unies. Le contrôle et le jugement humains doivent être préservés dans chaque recours à la force, a-t-il déclaré.

L'IA n'est plus un horizon lointain. Elle est déjà là, transformant la vie quotidienne, l'espace informationnel et l'économie mondiale à une vitesse vertigineuse. La question n'est pas de savoir si l'IA influencera la paix et la sécurité internationales, mais comment le monde façonnera cette influence, a fait observer M. Guterres.

Sans garde-fous, l'IA peut être utilisée comme une arme. Les cyberattaques basées sur l'IA peuvent perturber ou détruire des infrastructures critiques en quelques minutes. La capacité à fabriquer et à manipuler des fichiers audio et vidéo menace l'intégrité de l'information, alimente la polarisation et peut déclencher des crises diplomatiques. Et les besoins massifs en énergie et en eau des modèles à grande échelle, associés à la concurrence pour les minéraux critiques, créent de nouveaux facteurs de tension, a-t-il averti.

Selon M. Guterres, des cadres réglementaires mondiaux cohérents pour l'IA doivent être mis en place.

Les gouvernements, les plateformes, les médias et la société civile doivent coopérer pour détecter et dissuader les tromperies générées par l'IA, qu'il s'agisse de campagnes de désinformation ou de deepfakes (un contenu truqué grâce à l'IA) visant les processus de paix, l'accès humanitaire et les élections, a-t-il déclaré.

"Nous avons besoin de transparence tout au long du cycle de vie de l'IA : attribution rapide et vérifiée des sources d'information et de leur diffusion, et garanties systémiques pour empêcher les systèmes d'IA de propager la désinformation et d'attiser la violence," a-t-il indiqué.

Il est également nécessaire de combler le fossé en matière de capacités d'IA, a déclaré M. Guterres. "La technologie peut accélérer le développement durable, favoriser la stabilité et la paix. Nous devons créer un espace permettant à toutes les nations de façonner notre avenir en matière d'IA."

Du contrôle des armes nucléaires à la sécurité aérienne, la communauté internationale a relevé le défi des technologies susceptibles de déstabiliser les sociétés, en convenant de règles, en créant des institutions et en insistant sur la dignité humaine, a-t-il déclaré. " La fenêtre pour façonner l'IA - pour la paix, pour la justice, pour l'humanité - est en train de se refermer. Nous devons agir sans tarder."