Classée deuxième meilleure université de Corée du Sud, le KAIST (Korea Advanced Institute of Science and Technology) s'est doté en février 2018 d'un nouveau centre de recherche, spécialisé dans la convergence entre défense nationale et intelligence artificielle.
Dans une lettre ouverte largement diffusée sur Internet, de nombreux spécialistes de l'intelligence artificielle, professeurs issus d'universités de renom telles Cambridge, UC Berkeley ou encore Cornell, dénoncent le partenariat signé entre ce nouveau laboratoire et le fabricant d'armes coréen Hanwha Systems. Ils craignent que cette collaboration ne débouche sur le développement de robots tueurs et appellent tout bonnement au boycott du KAIST.
Intelligence artificielle et géopolitique
Ce boycott intervient alors que l’Organisation des Nations unies a nommé, en novembre 2017, un groupe d'experts chargé d’étudier la possibilité d’interdire ces armes autonomes. Cette proposition a été soutenue par de nombreux spécialistes de l'intelligence artificielle, dont Elon Musk, fondateur de Tesla, rappelle Times Higher Education.
Sung-Chul Shin, président de KAIST, nie les accusations portées contre le nouveau centre de recherche, assurant qu'il n'est nullement destiné à produire des robots tueurs. Une réponse qui ne semble pas convaincre les signataires de l'appel au boycott. Selon des informations obtenues par Toby Walsh, professeur à la New South Wales University (Australie) et instigateur du boycott, le laboratoire travaillerait sur quatre types d'armes autonomes, dont un sous-marin.
Il rappelle en outre que Hanwha Systems est un partenaire industriel plus que controversé, cette société fabriquant des armes à sous-munitions, interdites par une convention de l'ONU, que la Corée du Sud n'a pas ratifiée.
Si Toby Walsh reconnaît que l'intelligence artificielle peut être utilisée à bon escient dans le domaine militaire, il rappelle néanmoins que son contrôle doit être laissé aux humains. Sa mise en garde est claire : aucune arme autonome n'est à l'abri d'une attaque informatique, et toutes les mesures de sécurité peuvent être contournées. Avec, en toile de fond, une crainte : qu'adviendrait-il si la Corée du Nord prenait le contrôle de ces armes ?