The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Assises AUSIM 2024 : L'importance des données pour les entreprises marocaines face aux enjeux de du
Lors de la septième édition des Assises de l'Association des utilisateurs des systèmes d'information au Maroc (AUSIM), organisée à Marrakech du 23 ...

OpenAI : 400 millions d’utilisateurs et valorisation record
OpenAI, la start-up à l’origine du célèbre chatbot ChatGPT, revendique désormais plus de 400 millions d’utilisateurs dans le monde, un chiffre en hausse...

ChatGPT-4 montre des bribes d’intelligence générale artificielle, selon des scientifiques
C’est indéniable : l’intelligence artificielle ChatGPT a fait des progrès fulgurants depuis des débuts. Assez pour commencer à se rapprocher d’un nive...

La Start-up d'Elon Musk, xAI, Valorisé à 24 Milliards de Dollars Après une Levée de Fonds de 6 M
La start-up xAI, fondée par Elon Musk et spécialisée dans l'intelligence artificielle, vient de lever 6 milliards de dollars supplémentaires, portant sa...

Semrush Copilot : L’IA au service de votre SEO pour des performances optimisées
Gérer le SEO (référencement naturel) peut se révéler particulièrement complexe. Les règles de Google évoluent constamment, les concurrents sont toujours...

Comment le Japon révolutionne l'agriculture sans terre et sans agriculteurs
Yuichi Mori ne cultive pas ses fruits et légumes en terre. Il n'a même pas besoin de terre. Au lieu de cela, le scientifique japonais s'appuie s...

Intelligence artificielle et transport aérien, état des lieux et perspectives
S’il est difficile, de l’avis même des experts, de définir ce que c’est que l’intelligence artificielle (IA), il n’en demeure pas moins vrai qu’on...

Intelligence artificielle : le chef de l’ONU charge un comité d’experts d’élaborer des recom
Le secrétaire général de l’ONU a mis en place un comité d’experts chargé de faire, d’ici la fin de l’année, des recommandations dans le domaine de...

Quand l’Efficacité à la Elon Musk Inspire la Gouvernance : Un Modèle pour le Maroc ?
Et si Elon Musk, avec sa philosophie révolutionnaire d’efficacité, devenait un modèle pour le gouvernement Akhannouch ? Imaginons un instant un scénario ...

Intelligence artificielle : Google dévoile son modèle IA de pointe pour rivaliser avec ChatGPT
À l'instar de nombreux acteurs mondiaux, Google se lance dans la création d'une version améliorée de son Intelligence Artificielle, visant à être ...

Enthousiasme et Appréhension : Les Consommateurs Face à l'Intelligence Artificielle selon une Étu
Une enquête récente menée par le Boston Consulting Group (BCG), leader en stratégie d’entreprise, révèle que 70% des consommateurs sont enthousiastes à...

IA au Maroc : révolution des entreprises et enjeux clés
L’intelligence artificielle (IA) transforme en profondeur les entreprises marocaines. Automatisation des workflows, agents conversationnels, analyse prédicti...