The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Google lance en Inde et au Japon une nouvelle version de son moteur de recherche basé sur l'IA
Google a lancé Search Generative Experience (SGE) en Inde et au Japon, un service qui combine l'intelligence artificielle générative avec les expérience...

La bataille des influenceuses IA : Kenza affronte Radia dans un duel annoncé
Pendant votre exploration virtuelle des méandres des réseaux sociaux, vous avez probablement croisé deux figures marocaines intrigantes : Kenza Layli et Radi...

Conférence Nvidia GTC 2025 : Jensen Huang face aux défis de l’IA et à la montée de DeepSeek
Le PDG de Nvidia, Jensen Huang, prendra la parole ce mardi lors de la conférence annuelle GTC, un événement majeur pour les développeurs et l’industrie de...

Transformation numérique de l'éducation au Maghreb : l'Unesco dévoile un rapport ambitieux
L’Unesco, en partenariat avec les ministères de l’Éducation de cinq pays maghrébins (Maroc, Algérie, Libye, Mauritanie et Tunisie), a lancé une publica...

Enthousiasme et Appréhension : Les Consommateurs Face à l'Intelligence Artificielle selon une Étu
Une enquête récente menée par le Boston Consulting Group (BCG), leader en stratégie d’entreprise, révèle que 70% des consommateurs sont enthousiastes à...

Le Maroc et les États-Unis Lancent un Groupe des Amis sur l'IA pour le Développement Durable
Vendredi à New York, l’ambassadeur représentant permanent du Maroc auprès de l’ONU, Omar Hilale, et son homologue des États-Unis, Linda Thomas-Greenfiel...

Intelligence artificielle : les conseils de Microsoft pour en faire bon usage
Face à l’explosion de l’intelligence artificielle, la prudence est de mise. Les experts appellent à fournir des efforts concertés pour anticiper et atté...

Le Pentagone pense pouvoir prédire les événements avec plusieurs jours d'avance grâce à une IA
En relevant des informations de terrain normalement invisibles pour des analystes militaires, une combinaison d'IA, de cloud Computing et de capteurs pourra...

L'impact de l'IA en Afrique : Microsoft soutient l'innovation marocaine avec son AI Tour
L’intelligence artificielle (IA) s’impose comme l’une des technologies les plus révolutionnaires de notre époque, capable de transformer les méthodes d...

Les créateurs de ChatGPT dévoilent les 34 métiers qui ne seront jamais remplacés par l’IA
Depuis l’arrivée de ChatGPT, de nombreux travailleurs se demandent s’ils ne risquent pas de perdre leur emploi au profit de l’intelligence artificielle. ...

Trump : 92 Mds $ pour l’IA et l’énergie en Pennsylvanie
Lors du Sommet sur l’énergie et l’innovation à l’université Carnegie Mellon, Donald Trump a annoncé 92 milliards de dollars d’investissements privé...

Gestion Durable de l’Eau : Vers une Agriculture Résiliente au Maroc
Agadir a accueilli, le 18 février, une rencontre dédiée à la gestion durable des ressources hydriques pour une agriculture plus résiliente. Organisé par l...