The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Intelligence artificielle : les conseils de Microsoft pour en faire bon usage
Face à l’explosion de l’intelligence artificielle, la prudence est de mise. Les experts appellent à fournir des efforts concertés pour anticiper et atté...

Australie interdit l'IA chinoise DeepSeek : cybersécurité en jeu
L’Australie a officiellement interdit l’utilisation des logiciels d’intelligence artificielle de la start-up chinoise DeepSeek sur l’ensemble des appare...

Automatisation : Dukaan remplace 90 % du service client par un chatbot
L'automatisation en entreprise : Dukaan opte pour l'IA au détriment de l'emploi humain En juillet 2023, Suumit Shah, PDG de l’entreprise indie...

OpenAI : 400 millions d’utilisateurs et valorisation record
OpenAI, la start-up à l’origine du célèbre chatbot ChatGPT, revendique désormais plus de 400 millions d’utilisateurs dans le monde, un chiffre en hausse...

Microsoft prétend que GPT-4 montre des « étincelles » d'intelligence artificielle générale
« nous pensons que l'intelligence de GPT-4 signale un véritable changement de paradigme » Microsoft parie fortement sur l'intégration des modèle...

Les robots remplaceraient 20 millions d'emplois d'ici 2030
Les emplois qui exigent "compassion, créativité ou intelligence relationnelle devraient rester l'apanage des humains pendant encore des décennies. Ph. Sh...

Maroc : pénurie d’eau et solutions pour une gestion durable
Face à la raréfaction des ressources en eau et à la hausse des besoins hydriques, le Centre d'études stratégiques de l'Afrique appelle à une strat...

La SCA24 explore l’intelligence artificielle et les nouvelles technologies pour bâtir des villes
La 9e édition de la Conférence internationale sur les applications des villes intelligentes (SCA24) se tiendra les 2 et 3 octobre, sous le thème “Construir...

Mark Zuckerberg dévoile une technologie révolutionnaire aux airs de science-fiction
Mark Zuckerberg dévoile les avancées de Meta dans la recherche de nouvelles technologies révolutionnaires. L'entrepreneur américain a récemment annonc�...

GPT-4: l’intelligence artificielle gagne en intelligence «humaine»
Après le fameux ChatGPT, l’Américain OpenAI vient de lancer GPT-4, une nouvelle version encore plus performante. Désormais doté de la reconnaissance des t...

IA au Maroc : Opportunités, défis et perspectives
L'intelligence artificielle (IA) au Maroc connaît un essor croissant, offrant aux entreprises une opportunité unique d’optimiser leurs performances et d...

Intelligence artificielle générative : révolution technologique ou nouvelle bulle financière ?
Le boom de l’intelligence artificielle générative, qui attire des investissements massifs, suscite des interrogations quant à la possibilité d’une nouve...