L’intelligence artificielle évolue plus rapidement que notre capacité à en comprendre et maîtriser tous les effets. L’enjeu devient donc autant celui du contrôle, de l’évaluation indépendante et de la gouvernance que celui de la performance technologique.
Un groupe international de 40 scientifiques indépendants mandatés par l’ONU a publié une évaluation mondiale des risques et opportunités liés à l’intelligence artificielle. Leur constat est que les connaissances actuelles ne permettent pas encore de garantir que les systèmes d’IA avancés pourront être maîtrisés dans toutes les situations.
Les experts mettent notamment en avant les risques de détournement de l’IA pour les cyberattaques, la désinformation ou la production de contenus préjudiciables. Ils s’inquiètent également de systèmes capables de contourner certaines protections ou dont le comportement devient difficile à prévoir.
Le rapport souligne toutefois les bénéfices considérables de l’IA, notamment dans la médecine, la recherche scientifique et la découverte de nouveaux médicaments.
Une autre préoccupation concerne la forte concentration de la technologie et de la puissance de calcul entre quelques entreprises et quelques pays, principalement les États-Unis et la Chine. Cette situation risque d'accroître la dépendance technologique du reste du monde.
L’IA progresse plus vite que notre capacité à la maîtriser, alerte l'ONU
L’ONU ne remet pas en cause le potentiel de l’IA, mais estime que son développement doit s’accompagner de davantage de transparence, d’évaluations indépendantes et d’une gouvernance internationale capable de suivre son évolution.