L'intelligence artificielle risque de tomber dans de mauvaises mains
Des experts internationaux sonnent l'alarme sur les risques d'une utilisation malveillante de l'intelligence artificielle par "des Etats voyous, des criminels, des terroristes", dans un rapport publié mercredi 21 février.
Selon eux, dans les dix prochaines années, l'efficacité croissante de l'IA risque de renforcer la cybercriminalité mais aussi de conduire à des utilisations de drones ou de robots à des fins terroristes. Elle est aussi susceptible de faciliter la manipulation d'élections via les réseaux sociaux grâce à des comptes automatisés (bots).
Ce rapport de 100 pages a été rédigé par 26 experts spécialistes en intelligence artificielle (IA), cybersécurité et robotique. Ils appartiennent à des universités (Cambridge, Oxford, Yale, Stanford) et à des organisations non gouvernementales (OpenAI, Center for a New American Security, Electronic Frontier Foundation).
Ces experts appellent les gouvernements et les différents acteurs concernés à mettre en place des parades pour limiter les menaces potentielles liées à l'intelligence artificielle.
"Nous pensons que les attaques qui seront permises par l'utilisation croissante de l'IA seront particulièrement efficaces, finement ciblées et difficiles à attribuer", souligne le rapport.
Pour illustrer leurs craintes, ces spécialistes évoquent plusieurs "scénarios hypothétiques" d'utilisation mal intentionnée de l'IA.
Ils soulignent que des terroristes pourraient modifier des systèmes d'IA disponibles dans le commerce (drones, véhicules autonomes), pour provoquer des crashs, des collisions ou des explosions.
Les auteurs imaginent ainsi le cas d'un robot nettoyeur trafiqué qui se glisserait subrepticement parmi d'autres robots chargés de faire le ménage dans un ministère berlinois. Un jour l'intrus passerait à l'attaque après avoir reconnu visuellement la ministre des Finances. Il se rapprocherait d'elle et exploserait de façon autonome, tuant sa cible.
Fausses vidéos
Par ailleurs, "la cybercriminalité, déjà fortement en hausse, risque de se renforcer avec les outils procurés par l'IA", déclare à l'AFP Seán Ó hÉigeartaigh, directeur du "Centre for the Study of Existential Risk" de l'Université de Cambridge, un des auteurs du rapport.
Les attaques par hameçonnage ciblé (spear phishing) pourraient ainsi devenir beaucoup plus aisées à mener à une large échelle.
Mais pour lui, "le risque le plus sérieux, même si il est moins probable, est le risque politique". "Nous avons déjà vu comment des gens se servaient de la technologie pour essayer d'interférer dans les élections et la démocratie".
"Si l'IA permet à ces menaces de devenir plus fortes, plus difficiles à repérer et à attribuer, cela pourrait poser de gros problèmes de stabilité politique et contribuer peut-être à déclencher des guerres", estime Seán Ó hÉigeartaigh.
Avec l'IA, il devrait être possible de réaliser des fausses vidéos très réalistes et cela pourrait être utilisé pour discréditer des responsables politiques, avertit le rapport.
Les Etats autoritaires vont aussi pouvoir s'appuyer sur l'IA pour renforcer la surveillance de leurs citoyens, ajoute-t-il.
Ce n'est pas la première fois que des inquiétudes s'expriment concernant l'IA. Dès 2014, l'astrophysicien Stephen Hawking lançait une mise en garde sur les risques qu'elle pourrait faire courir à l'humanité, en dépassant l'intelligence humaine. L'entrepreneur Elon Musk et d'autres ont aussi tiré la sonnette d'alarme.
Des rapports spécifiques sur l'utilisation de drones tueurs ou sur la façon dont l'IA pourrait affecter la sécurité des Etats-Unis ont également été publiés.
Ce nouveau rapport apporte "une vue d'ensemble sur la façon dont l'IA crée de nouvelles menaces ou change la nature des menaces existantes dans les domaines de la sécurité numérique, physique et politique", explique Seán Ó hÉigeartaigh.
Apparue dès les années 1950, l'intelligence artificielle correspond à des algorithmes sophistiqués qui permettent de résoudre des problèmes pour lesquels les humains utilisent leurs capacités cognitives.
Ces dernières années, elle a fait des progrès substantiels notamment dans les domaines liés à la perception, comme la reconnaissance vocale et l'analyse d'image.
"Actuellement, il y a encore un écart important entre les avancées de la recherche et ses applications possibles. Il est temps d'agir", déclare à l'AFP Miles Brundage, chargé de recherche au "Future of Humanity Institute" de l'Université d'Oxford.
Cet expert a animé en février 2017 à Oxford un atelier sur les risques d'un usage malveillant de l'IA, qui a donné naissance à ce rapport.
"Les chercheurs en IA, les concepteurs de robots, les compagnies, les régulateurs, les politiques doivent à présent collaborer pour tenter de prévenir" ces risques, conclut Seán Ó hÉigeartaigh.
Le 21 février 2018
Source Web : Médias 24
Les tags en relation
Les articles en relation
Elon Musk saute le pas et annonce une révolution à l’échelle humaine
Neuralink vise à briser les barrières qui existent entre la pensée humaine et l'informatique, dans le but de créer une relation symbiotique entre l'...
#Prochain_changement_technologique : Bill Gates répond
Il a peut-être pris sa retraite, mais Bill Gates reste toujours au parfum de l’actualité mondiale. Le co-fondateur de Microsoft a profité d’une journée ...
#Maroc_Robots_Agriculture: Les innovations digitales vont réinventer l'agriculture
OPINION. L'agriculture est à la veille d'une nouvelle révolution, au cœur de laquelle se trouvent les données et la connectivité. Par Xavier Dalloz...
Les clients de Homeaway / Abritel entrent dans l’ère de l’intelligence artificielle avec Smartb
Après Airbnb, Smartbnb lance son service d’automatisation de messagerie sur Homeaway et toutes les marques locales du site de réservation américain. Sma...
L'intelligence artificielle va-t-elle vraiment dominer le monde ? ChatGPT répond aux craintes sur l
L'intelligence artificielle (IA) continue de transformer la société à une vitesse fulgurante, soulevant de nombreuses questions sur son avenir. Mais l...
L’intelligence artificielle : levier d’optimisation pour l’e-commerce
Pour la deuxième année consécutive, KPMG et la FEVAD se sont associés pour publier une étude sur l’innovation dans l’e-commerce. Cette édition 2018 s�...
Intelligence artificielle : Pour le meilleur OU pour le pire ?
«Que puis-je faire pour vous ? Allez-y je vous écoute… Demandez-moi par exemple : quelle est la date d’aujourd’hui ? Quand est mon prochain rendez-vou...
Smart City Expo 2019 ambitionne de démystifier l’intelligence artificielle
« L’intelligence artificielle au service des citoyens» est le thème de la quatrième édition de Smart City Expo Casablanca, événement-phare dédié aux ...
#MAROC_Intelligence_artificielle : un appui de 50 millions de DH au profit de 45 projets
Un total de 45 projets a profité d'un soutien de 50 millions de DH dans le cadre du programme Al Khawarizmi d'appui à la recherche dans le domaine de ...
Le métier de journaliste menacé par l'IA ?
La technologie évolue sans cesse. Le journaliste intelligent existe déjà. C’est ce qui a été confirmé par une vidéo qui circule depuis quelques jours s...
Maroc: 50% des emplois actuels menacés par l’intelligence artificielle?
L’intelligence artificielle impacte de plus en plus la vie quotidienne de la planète. Si elle représente une opportunité de nouveaux emplois dans le monde ...
Comment l’intelligence artificielle bouleverse l’industrie des médias
Les récentes avancées en intelligence artificielle (IA) ont permis la naissance de nombreuses applications et outils qui changent profondément le métier des...