The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Akdital : L’Ascension Vertigineuse d’un Leader de la Santé Privée au Maroc
Lors de son passage au Club de L’Economiste, Rochdi Talib, PDG du groupe Akdital, a révélé les dessous de la success story d'Akdital, un groupe de sant...

GPT-4: l’intelligence artificielle gagne en intelligence «humaine»
Après le fameux ChatGPT, l’Américain OpenAI vient de lancer GPT-4, une nouvelle version encore plus performante. Désormais doté de la reconnaissance des t...

IA au Maroc : enjeux, opportunités et besoin d’une stratégie
« L’intelligence artificielle (IA) ne remplacera pas l’humain, mais l’humain qui utilise l’IA surpassera celui qui ne l’exploite pas. » Cette citati...

Presse écrite : Face à la baisse des ventes mondiales, l’innovation à la rescousse
Si le format papier n’est pas près de disparaître, les patrons de presse devront repenser leur modèle économique de telle sorte à équilibrer leurs compt...

Accord avec Oracle : Le Maroc se positionne comme un hub numérique régional
La ministre déléguée chargée de la Transition numérique et de la Réforme de l’administration, Ghita Mezzour, souligne l'importance de l'accord s...

Maroc : pénurie d’eau et solutions pour une gestion durable
Face à la raréfaction des ressources en eau et à la hausse des besoins hydriques, le Centre d'études stratégiques de l'Afrique appelle à une strat...

L’intelligence artificielle fait son entrée dans toutes les disciplines
Le Maroc a récemment annoncé un projet visant à former 22.500 diplômés par an dans le domaine du numérique d’ici 2027. Cette initiative, visant à réus...

L'Intelligence Artificielle au service de la justice marocaine : enjeux éthiques et opportunités d
Les 8 et 9 octobre, des experts en justice se sont réunis à Rabat pour un colloque sur l’intégration de l’intelligence artificielle (IA) dans le système...

Analyse : Le Maroc, un Hub Émergent pour les Investissements Multinationaux
Le Maroc émerge de plus en plus en tant que destination privilégiée des investissements multinationaux, séduits par sa stabilité économique et politique. ...

Microsoft prétend que GPT-4 montre des « étincelles » d'intelligence artificielle générale
« nous pensons que l'intelligence de GPT-4 signale un véritable changement de paradigme » Microsoft parie fortement sur l'intégration des modèle...

Le Maroc et les États-Unis Lancent un Groupe des Amis sur l'IA pour le Développement Durable
Vendredi à New York, l’ambassadeur représentant permanent du Maroc auprès de l’ONU, Omar Hilale, et son homologue des États-Unis, Linda Thomas-Greenfiel...

Comment l’Intelligence artificielle révolutionne la conception actuelle des organisations (Confé
Le mouvement lié à l’intelligence artificielle n’en est qu’à son début. Et il faudra du temps pour se l’approprier complètement. Pourtant, plusieur...