La Chine s’alarme : les IA contrôlant nos armes tueront accidentellement des millions de personnes

Plusieurs experts et politiciens chinois craignent que la course aux armements contrôlés par l’Intelligence Artificielle ne déclenche un jour accidentellement une guerre. Selon eux, les frontières floues de la cyberguerre pourraient affecter la façon dont les armées envisagent les conflits.

Confusion et conflits potentiels

Selon un nouveau rapport publié par le Center for a New American Security (CNAS), groupe de réflexion américain sur la sécurité nationale, les responsables chinois considèrent de plus en plus la dynamique de la course aux armements autonomes comme une menace pour la paix mondiale. Alors que les pays s’efforcent de tirer parti des avantages de l’intelligence artificielle dans divers domaines, y compris dans le domaine militaire, de nombreux experts craignent que les normes internationales régissant la façon dont les pays communiquent ne deviennent désuètes, ce qui entraînerait confusion et conflits potentiels.

Comme l’explique Gregory C. Allen, chercheur au CNAS et auteur principal du rapport : « Le scénario spécifique qui m’a été décrit par un officiel chinois se résume à une escalade militaire accidentelle liée à l’utilisation d’un drone. Actuellement, les appareils que nous développons sont capables capables d’exécuter des tâches simples, comme voler en cercle autour d’une cible, mais les dispositifs autonomes chinois se rapprochent plus d’un usage mortel de la force. C’est notamment le cas du drone Blowfish A2, exporté à l’international, qui est capable d’effectuer des frappes ciblées ».

Parce que les drones sont contrôlés à distance, les militaires ont tendance à être plus cavaliers quant à leur utilisation. Sans risque de pertes humaines, ils sont plus enclins à les abattre, mais aussi à les déployer dans des espaces aériens contestés.

China is worried an AI arms race could lead to accidental war https://t.co/AMdyALIbYO pic.twitter.com/MJWDZRG34K

— The Verge (@verge) 7 février 2019

Les frontières floues de la cyberguerre

En l’absence d’une nomenclature internationale définissant clairement les limites de l’utilisation des équipements militaires autonomes, le risque que leur comportement soit mal interprété par les humains est extrêmement grand, et cela pourrait accidentellement conduire à une escalade militaire. Par exemple, si un drone ou un robot tire un coup de semonce sur les troupes ennemies, comment cette action sera-t-elle interprétée ? Les troupes comprendront-elles qu’il s’agit d’une réponse automatisée ou penseront-elles que cette décision émane d’un commandement humain ?

Les États-Unis et la Chine sont les deux seules superpuissances possédant les ressources nécessaires pour développer et produire ce type d’équipements ultra-perfectionnés à grande échelle. Si la Chine a accès à plus de données, l’Amérique, conserve une longueur d’avance dans le domaine des puces, indispensables pour traiter les flots de données qui alimentent l’IA. Mais cela pourrait changer prochainement, avec la mise en place d’importants projets de développement par plusieurs sociétés chinoises et l’acquisition d’entreprises occidentales produisant ce type de technologie.

Bien qu’il faille s’attendre à une certaine concurrence entre la Chine et les États-Unis dans les années à venir, Allen affirme qu’une coopération est également nécessaire, surtout en ce qui concerne les questions militaires…