The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

IA au Maroc : enjeux, opportunités et besoin d’une stratégie
« L’intelligence artificielle (IA) ne remplacera pas l’humain, mais l’humain qui utilise l’IA surpassera celui qui ne l’exploite pas. » Cette citati...

ChatGPT : un nouveau moteur de recherche concurrent de Google
ChatGPT, la plateforme d'intelligence artificielle (IA) générative la plus populaire, évolue et se positionne désormais en concurrent direct de Google. ...

Relation client au Maroc : IA et humain au cœur de l’excellence 2025
La deuxième édition du Club des lauréats de l’Élection du Service Client de l’Année au Maroc (ESCDA) 2025 s’est tenue à Casablanca, réunissant 24 e...

DeepSeek R1 : le chatbot chinois qui inquiète les gouvernements
Le chatbot à intelligence artificielle R1, développé par la start-up chinoise DeepSeek, bouscule le secteur de la tech par ses performances compétitives fac...

La sécheresse, une leçon à retenir
En ces temps de dérèglement climatique, le Maroc ne peut plus compter sur la régularité des saisons de pluies. Il doit faire preuve d’imagination et trouv...

Le secteur bancaire face au défi de la cybersécurité : Investissements massifs dans les systèmes
Le secteur bancaire est confronté à de nouveaux défis en matière de cybersécurité, avec l'émergence de menaces générées par l'intelligence art...

Tourisme durable : les hébergements s'engagent face à une clientèle toujours plus exigeante
En 2025, selon cette étude, les champs d'action prioritaires des chaines et établissements les plus connus porteront sur: La réduction de la consom...

Hollywood contre l’IA : 400 stars défendent les droits d’auteur
Plus de 400 personnalités d’Hollywood ont adressé une lettre ouverte à la Maison Blanche, demandant une protection renforcée des droits d’auteur face à...

Indice QS : Le Maroc face aux défis de l’employabilité
Le cabinet britannique Quacquarelli Symonds (QS), reconnu pour ses analyses des établissements d’enseignement supérieur à travers le monde, a récemment pu...

Lancement de la 5ème Édition des Journées Portes Ouvertes de la DGSN à Agadir
La 5ème édition des Journées Portes Ouvertes (JPO) de la Direction Générale de la Sûreté Nationale (DGSN) a débuté jeudi soir à Agadir sous le thème ...

CSRD, IA, FORMATION : LES 5 MÉTIERS DE LA RSE QUI RECRUTENT EN 2024
Quels sont les métiers RSE les plus recherchés par les entreprises pour renforcer leur stratégie de durabilité en 2024 ? La dernière analyse du cabinet de ...

Gitex Africa 2025 : l'Afrique innove à Marrakech
Le Gitex Africa Morocco 2025, événement phare de l’innovation technologique en Afrique, se tient du 14 au 16 avril à Marrakech, sous le Haut Patronage de S...