The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Mark Zuckerberg dévoile une technologie révolutionnaire aux airs de science-fiction
Mark Zuckerberg dévoile les avancées de Meta dans la recherche de nouvelles technologies révolutionnaires. L'entrepreneur américain a récemment annonc�...

Quand l’Efficacité à la Elon Musk Inspire la Gouvernance : Un Modèle pour le Maroc ?
Et si Elon Musk, avec sa philosophie révolutionnaire d’efficacité, devenait un modèle pour le gouvernement Akhannouch ? Imaginons un instant un scénario ...

Google lance Gemini, son nouveau modèle d'IA
Google va commencer mercredi à déployer Gemini, son nouveau modèle d'intelligence artificielle (IA) censé lui permettre de mieux rivaliser avec OpenAI (...

Relation client au Maroc : IA et humain au cœur de l’excellence 2025
La deuxième édition du Club des lauréats de l’Élection du Service Client de l’Année au Maroc (ESCDA) 2025 s’est tenue à Casablanca, réunissant 24 e...

Africa Risk-Reward Index 2024 : Opportunités prometteuses pour l'Afrique, avec le Maroc en exemple
L’Africa Risk-Reward Index 2024 met en lumière des perspectives encourageantes pour l'Afrique, tout en soulignant l'importance d'une compréhensi...

Conflit commercial : la Chine et le Canada ripostent aux taxes US
La guerre commerciale entre les États-Unis, la Chine et le Canada s'intensifie avec l'imposition de nouveaux droits de douane. Pékin a annoncé, ce ma...

L'IA au Service de la Sécurité : Une Nouvelle Ère pour la DGSN
L’intelligence artificielle s’impose dans tous les secteurs, et la sécurité ne fait pas exception. Ce sujet a été exploré en profondeur lors d'un c...

Les créateurs de ChatGPT dévoilent les 34 métiers qui ne seront jamais remplacés par l’IA
Depuis l’arrivée de ChatGPT, de nombreux travailleurs se demandent s’ils ne risquent pas de perdre leur emploi au profit de l’intelligence artificielle. ...

Elon Musk alerte sur la crise démographique et ses solutions
Elon Musk, visionnaire et figure incontournable du secteur technologique, continue d’alerter sur des défis cruciaux pour l’humanité. Qu’il s’agisse de...

IA et énergie au Maroc : atout stratégique ou mirage ?
L’intelligence artificielle (IA) représente une opportunité majeure pour le Maroc dans les secteurs de l’énergie et de l’industrie, à condition de ne ...

Près de 40% des emplois dans le monde pourraient être impactés par l’Intelligence artificielle
Près de 40% des emplois dans le monde sont exposés à l'intelligence artificielle (IA), selon une analyse du Fonds monétaire international (FMI). L...

IA et enseignement supérieur au Maroc : enjeux et défis
Depuis son émergence, l’intelligence artificielle (IA) bouleverse en profondeur les modèles économiques et les modes de vie à l’échelle mondiale. Véri...