The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Maladies rares : partenariat FM6SS-AstraZeneca au Maroc
La Fondation Mohammed VI des Sciences et de la Santé (FM6SS) et le laboratoire biopharmaceutique AstraZeneca ont signé un protocole d’accord pour créer au ...

Relation client au Maroc : IA et humain au cœur de l’excellence 2025
La deuxième édition du Club des lauréats de l’Élection du Service Client de l’Année au Maroc (ESCDA) 2025 s’est tenue à Casablanca, réunissant 24 e...

Intelligence artificielle : le chef de l’ONU charge un comité d’experts d’élaborer des recom
Le secrétaire général de l’ONU a mis en place un comité d’experts chargé de faire, d’ici la fin de l’année, des recommandations dans le domaine de...

Microsoft prétend que GPT-4 montre des « étincelles » d'intelligence artificielle générale
« nous pensons que l'intelligence de GPT-4 signale un véritable changement de paradigme » Microsoft parie fortement sur l'intégration des modèle...

UM6P, UNESCO et OCP : partenariat pour l’Afrique 2025-2027
L’Université Mohammed VI Polytechnique (UM6P), l’UNESCO et la Fondation OCP ont signé à Paris un nouvel accord stratégique pour 2025-2027, doté d’un ...

Les 5 principales menaces qui guettent le Maroc, selon un rapport du Forum économique mondial
Le Maroc sera confronté à court terme à cinq principales menaces, à savoir le ralentissement économique, l’inflation, la pénurie d’eau, l’inégalit�...

Africa Risk-Reward Index 2024 : Opportunités prometteuses pour l'Afrique, avec le Maroc en exemple
L’Africa Risk-Reward Index 2024 met en lumière des perspectives encourageantes pour l'Afrique, tout en soulignant l'importance d'une compréhensi...

Chine : des superordinateurs d’IA lancés dans l’espace
Chaque satellite embarque un modèle d’IA doté de 8 milliards de paramètres, capable d’effectuer 744 tera-opérations par seconde (TOPS). Combinées, leur...

L’avenir, des enjeux de puissance et de progrès formidables, mais aussi des risques extrêmes
Jeudi 2 mai, l’Académie du Royaume du Maroc a soumis au débat « le passage du XXème au XXIème siècle ». Il y a certainement mieux pour exciter les curi...

Cet État membre des BRICS prévoit d'investir 1 milliard dans cette technologie
Émergente et dotée d'un potentiel économique colossal, l'Inde vient de marquer un tournant majeur dans le domaine de l'intelligence artificielle ...

MAI-DxO : l’IA de Microsoft bat les médecins en diagnostic
Microsoft explore une nouvelle frontière de l’intelligence artificielle en santé avec MAI-DxO, un système d’IA diagnostique avancé conçu pour assister ...

UNESCO : une plateforme IA pour former les talents de demain
Face à une crise mondiale des compétences qui touche près de 450 millions de jeunes, l’UNESCO a lancé la plateforme "Skills for the Future", un outil num�...