Facebook arrête d’urgence son système d’IA : les robots avaient créé leur propre langage !
![Facebook arrête d’urgence son système d’IA : les robots avaient créé leur propre langage !](/images/actualite/mark-z-face.jpg)
La lecture de cet article pourrait sembler être le début d’un scénario de film de science fiction… et pourtant c’est bien la réalité. Selon une information de Business Insider, qui se base sur un rapport du Tech Times, Facebook a rencontré un problème grave sur leur système d’intelligence artificielle (IA), et a dû l’arrêter d’urgence.
En effet, l’IA composée d’agents conversationnels (des robots donc) ne s’est pas amusé à infiltrer d’autres systèmes, à pirater des réseaux protégés, voire prendre possession d’un parc de machine et d’éteindre les systèmes… pire que cela, les robots qui composent l’IA en question sont configurés pour communiquer en anglais, et ils ont créé un nouveau langage de communication qu’eux seuls maîtrisaient, désobéissant par la même occasion aux ordres donnés par les ingénieurs Facebook !
Keynote de Mark Zuckerberg : 10 ans de roadmap pour Facebook (incluant l'IA)
La rebellion des robots de l’IA Facebook : quand les ingénieurs sont dépassés par leur invention
Cette création de langage ne s’est pas faite toute seule : en effet, ces robots « agents » utilisaient des algorithmes de machine-learning pour développer leurs capacités et améliorer leurs compétences de communication. Jusqu’ici rien d’anormal, puisque c’est le principe même de l’IA. Sauf que pendant que les ingénieurs se penchaient sur d’autres sujets en interne (en l’occurence l’amélioration des chatbots), laissant les robots « agents » discuter en autonomie, ces derniers ont poursuivi leur apprentissage et entrepris de créer leur propre langage, sans aucune initiative humaine derrière.
Ainsi, l’autre caractéristique inquiétante, c’est que ces robots, qui ont la particularité d’apprendre d’eux-même, en plus de créer leur propre langage, ont développé également la capacité d’être des « négociateurs rusés », allant jusqu’à exiger un élément pour orienter la négociation, puis à la dernière minute changer complètement d’avis, utilisant cet élément comme un faux compromis…
Les ingénieurs Facebook relativisent sur cet incident, qui n’a rien d’anormal
Dans un article publié sur Le Monde, on peut y lire la version « Facebookienne » de l’événement, moins alarmante. En effet, selon Dhruv Batra, chercheur en IA chez Facebook, revenu de vacances, et découvrant l’ampleur médiatique qu’a connu cet incident pendant son absence, il est tout à fait normal que ces robots aient dévié des règles initiales, car ils avaient été développé dans un but de négociation. En effet, l’exercice consistait à répartir entre deux agents les objets suivants : deux livres, un chapeau et trois ballons. Les robots ont été formés grâce notamment à de vraies négociations humaines, qu’ils ont « appris », et l’objectif final était de terminer la négociation entre les deux agents avec une répartition des objets et un accord final. Sans cet accord, les agents devaient recommencer la négociation à zéro.
Par ailleurs, le langage créé était très proche de l’anglais, et restait visiblement compréhensible des ingénieurs. On y apprend également qu’il arrive souvent que des intelligences artificielles créent de nouveaux langages, et que pour les non spécialistes dans le domaine, cela pouvait être étonnant, mais que c’est un phénomène connu des chercheurs en IA. Pas sûr que cet argument soit réellement rassurant pour le grand public.
De nombreuses startups de la Silicon Valley travaillent sur l'IA
Les dangers qui menacent la planète : Réchauffement climatique, épuisement des ressources naturelles… Intelligence artificielle incontrôlable
D’après une étude de l’organisation WWF et Global Footprint Network, depuis le 02 août 2017, notre planète Terre vit à « crédit », c’est-à-dire que les ressources créées par notre planète ont été totalement consommées, ce qui signifie que l’être humain consomme plus que ce que la nature a comme capacité de régénération au niveau de ses ressources. Ainsi, les menaces écologiques sont déjà préoccupantes pour notre planète.
Mais à travers cet incident chez Facebook, démontrant que des robots dotés d’IA sont capables de dévier des ordres initialement donnés par des ingénieurs, voire de créer de nouveaux langages, on peut penser que les scénarios de films de science fiction, où une intelligence artificielle se rebelle, peuvent devenir réalité. Cela fait peser une responsabilité supplémentaire sur ces sociétés technologiques misant énormément sur l’IA et multipliant les expériences dans le cadre de leur R&D (Facebook, Google, Apple, Tesla, Microsoft…).
Avec l’essor des objets connectés, des voitures autonomes, des assistants personnels, ou encore des maisons intelligentes, voilà un nouvel « entourage technologique » sur lequel il faudra garder l’oeil.
Le 03 août 2017
SOURCE WEB Par E-Works
Les tags en relation
Les articles en relation
![Maroc, va-t-on droit dans le mur ?](/images/actualite/drapeau-maroc-0eEEE6-1-9230.jpg)
Maroc, va-t-on droit dans le mur ?
Un climat de scepticisme et de défiance continue d’assombrir les perspectives économiques et sociales, alors que celles politiques sont depuis quelques temp...
![#MAROC_Digital_2021: 22 millions d’utilisateurs de médias sociaux au Maroc](/images/actualite/fb.jpg)
#MAROC_Digital_2021: 22 millions d’utilisateurs de médias sociaux au Maroc
Un rapport intitulé « Digital 2021 », publié début février par "We are Social" en partenariat avec "Hootsuite", relève que le Maroc est plutôt bien posi...
![Demain vendrons-nous nos données personnelles ? Y a t-il un ras-le-bol des consommateurs ?](/images/actualite/GAFAM-gf.jpg)
Demain vendrons-nous nos données personnelles ? Y a t-il un ras-le-bol des consommateurs ?
La data est partout, vous en entendez parler à toute les sauces, mais peu de médias parlent du problème que pose le vide juridique laissé, par la propriét�...
![Aramco, première entreprise au monde à atteindre une valorisation de 2.000 milliards de dollars](/images/actualite/aramco.jpeg)
Aramco, première entreprise au monde à atteindre une valorisation de 2.000 milliards de dollars
Le prix de l'action du géant pétrolier saoudien Aramco a grimpé, ce jeudi à la Bourse de Ryad, au deuxième jour de sa cotation, portant la valorisation...
![Coronavirus: Google envisage de publier des statistiques sur le déplacement de ses utilisateurs](/images/actualite/DSOIRUTYHRTD.jpg)
Coronavirus: Google envisage de publier des statistiques sur le déplacement de ses utilisateurs
En vue d’aider les pouvoirs publics à évaluer l’efficacité des mesures de distanciation sociale, le géant américain Google compte à partir de ce vendr...
![E-tourisme : destination data](/images/actualite/e-tourisme-destination-data-web.jpg)
E-tourisme : destination data
CHRONIQUE. Le tourisme fait partie des secteurs les plus secoués par le numérique. La réservation de voyage est devenue la première pratique d'achat en ...
![Marketing digital : Infobip redéfinit les normes avec le Click-to-chat](/images/actualite/Infobip.webp)
Marketing digital : Infobip redéfinit les normes avec le Click-to-chat
La plateforme mondiale de communications en nuage Infobip a lancé une analyse publicitaire Click-to-chat pour les marques et les professionnels du marketing qu...
![Administration. Laftit interdit WhatsApp et Facebook à ses hommes](/images/actualite/laftit-.jpg)
Administration. Laftit interdit WhatsApp et Facebook à ses hommes
Les fonctionnaires de l’Intérieur sont interdits de WhatsApp et Facebook. Le ministre de tutelle, Abdelouafi Laftit, vient en effet de mettre en garde les wa...
![L’Irlande et Apple face à la justice européenne](/images/actualite/TOFAHA644.jpg)
L’Irlande et Apple face à la justice européenne
Apple et l’Irlande qui contestent la décision de Bruxelles de 2016 demandant à la firme américaine de rembourser à l’Irlande plus de 13 milliards d’eu...
![Intelligence artificielle : les ambitieux projets de Facebook](/images/actualite/facebook-gooogle-microsoft-intele.jpg)
Intelligence artificielle : les ambitieux projets de Facebook
Pour Facebook, l'intelligence artificielle et la réalité virtuelle sont deux domaines clés auxquels le réseau social consacre de gros moyens financiers ...
![Facebook étend son programme de Fact-Checking en Afrique Subsaharienne](/images/actualite/c96231d971fcab0f8bcc7cbd62d96f9b.jpg)
Facebook étend son programme de Fact-Checking en Afrique Subsaharienne
Facebook a annoncé ce mardi l’extension de son programme de vérification des faits par des organismes tiers (Third-Party Fact-Checking) à dix nouveaux pays...
![Comment optimiser votre présence sur le web en 2019 ?](/images/actualite/taswi9-chabaki.jpg)
Comment optimiser votre présence sur le web en 2019 ?
Cela devient incontournable. À chaque début d’année, nous faisons le point sur les grands changements de l’année précédente et de ce qui nous attend p...