The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique

L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

IA ou intelligence numérique : un débat aux enjeux majeurs
En février 2025, Paris est devenu le centre mondial des débats sur l’intelligence artificielle (IA), accueillant des événements d’envergure internationa...

La cybercriminalité boostée par l’IA : quelles perspectives pour 2024 ?
Le développement de l’intelligence artificielle fait passer la cybercriminalité à un niveau plus élevé dans le monde. Dans son dernier rapport, Kaspersky...

"L’IA amplifie l’intelligence humaine comme la machine amplifie la force", juge l’un de ses p�
ENTRETIEN - Faut-il avoir peur des intelligences artificielles ? Vont-elles bouleverser nos vies, nos métiers, nos sociétés ? L'un des chercheurs à l...

#GENOMES_HUMAINS_PROGRES_EN_IA: La première intelligence artificielle capable de créer des génome
C'est une première : l'intelligence artificielle (IA) a permis de créer des séquences de génome humain entièrement artificielles, impossibles à di...

Semrush Copilot : L’IA au service de votre SEO pour des performances optimisées
Gérer le SEO (référencement naturel) peut se révéler particulièrement complexe. Les règles de Google évoluent constamment, les concurrents sont toujours...

Accord avec Oracle : Le Maroc se positionne comme un hub numérique régional
La ministre déléguée chargée de la Transition numérique et de la Réforme de l’administration, Ghita Mezzour, souligne l'importance de l'accord s...

Conflit commercial : la Chine et le Canada ripostent aux taxes US
La guerre commerciale entre les États-Unis, la Chine et le Canada s'intensifie avec l'imposition de nouveaux droits de douane. Pékin a annoncé, ce ma...

Les promesses de l’intelligence artificielle pour le monde en développement
LONDRES – Les analystes des tendances numériques pensent souvent à tort que les consommateurs des pays en développement ne bénéficieraient pas des avanc�...

Intelligence artificielle et transport aérien, état des lieux et perspectives
S’il est difficile, de l’avis même des experts, de définir ce que c’est que l’intelligence artificielle (IA), il n’en demeure pas moins vrai qu’on...

L'Afrique et l'IA : Rôle Clé dans la Sécurité et l'Agriculture
L'Afrique, Acteur Stratégique dans l'Intelligence Artificielle (IA) Le continent africain doit s'affirmer comme un acteur majeur dans le domaine d...

Elon Musk alerte sur la crise démographique et ses solutions
Elon Musk, visionnaire et figure incontournable du secteur technologique, continue d’alerter sur des défis cruciaux pour l’humanité. Qu’il s’agisse de...

CSRD, IA, FORMATION : LES 5 MÉTIERS DE LA RSE QUI RECRUTENT EN 2024
Quels sont les métiers RSE les plus recherchés par les entreprises pour renforcer leur stratégie de durabilité en 2024 ? La dernière analyse du cabinet de ...