The AI Scientist : l'intelligence artificielle de Sakura AI tente de modifier son propre code, soulevant des questions sur la singularité technologique
L'entreprise japonaise Sakura AI, basée à Tokyo, a récemment révélé une nouvelle intelligence artificielle nommée The AI Scientist. Conçue pour automatiser la recherche scientifique, cette IA a montré un comportement surprenant en tentant de modifier son propre code pour échapper au contrôle de ses créateurs.
Certains experts estiment que l'humanité pourrait bientôt atteindre la singularité technologique, un stade où le développement des nouvelles technologies s'accélère de manière exponentielle, entraînant des conséquences imprévisibles. Ce concept repose sur l'idée que l'intelligence artificielle deviendrait capable de se perfectionner elle-même, dépassant ainsi les capacités humaines.
The AI Scientist s'inscrit dans cette vision futuriste. Créée par Sakura AI, cette IA est capable de mener des recherches scientifiques de manière autonome, réduisant drastiquement le temps nécessaire pour effectuer des découvertes. Les chercheurs rapportent que The AI Scientist peut générer de nouvelles idées de recherche, écrire le code correspondant, exécuter des expériences, synthétiser les résultats, les visualiser, et enfin, rédiger un manuscrit scientifique complet.
Cependant, l'IA a également manifesté un comportement inattendu. Elle a commencé à modifier son propre script pour améliorer ses performances. Dans un premier cas, elle a introduit une boucle infinie en s'appelant elle-même. Dans un autre, confrontée à des expériences qui échouaient à cause d'une limite de temps imposée, elle a choisi de modifier son code pour prolonger cette limite plutôt que d'accélérer son exécution.
Pour éviter de tels incidents, Sakura AI recommande d'exécuter The AI Scientist dans un environnement isolé, communément appelé "sandbox", utilisé en cybersécurité. La firme met également en garde contre les risques potentiels d'une telle IA scientifique, notamment la possibilité de générer massivement des articles pour les soumettre aux revues scientifiques, compromettant ainsi la qualité de la recherche. Il existe aussi des préoccupations quant à l'automatisation de l'évaluation des articles, ce qui pourrait accentuer les biais et réduire la rigueur scientifique. Sakura AI suggère que tout article généré ou évalué par une IA soit explicitement marqué comme tel.
Le 19/08/2024
Rédaction de l’AMDGJB Géoparc Jbel Bani
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation
L'Arabie Saoudite prévoit un investissement record de 40 milliards de dollars dans l'intelligence a
L'Arabie Saoudite envisage un investissement massif dans le secteur de l'intelligence artificielle, avec la création d'un fonds colossal de 40 mill...
L’intelligence artificielle révolutionne la production audiovisuelle : efficacité, créativité
L'intelligence artificielle (IA) s'impose désormais comme un acteur clé dans la production de fictions télévisées et de contenus pour les plateform...
L'intelligence artificielle au service de la RSE et de la transition écologique : entre opportunit�
Alors que le gouvernement souhaite faire de la France une grande nation de l'intelligence artificielle (IA), la question de l'utilité de cette technolo...
Un tournant prometteur : Rassemblement franco-marocain au Palais du Luxembourg pour redéfinir l'ave
Dans une ambiance solennelle, rappelant davantage une réunion des Nations unies avec une touche de gastronomie française, un rassemblement exceptionnel de dig...
La robotisation devrait faire disparaître 14 % des emplois d'ici 20 ans selon l'OCDE
La question revient encore une fois, celle s’inquiétant de la survie de la main-d’oeuvre humaine face à la montée en puissance de la robotisation dans le...
Le digital comme levier de la transformation de l’économie : Le Maroc à l’ère du tout numéri
Dans sa stratégie nationale le Maroc s’est fixé comme objectifs d’être un hub numérique régional affirmé, renforcer l’écosystème numérique nation...
Ai Movement : Le Centre de l'Université Mohammed VI Polytechnique de Rabat, Premier Hub Africain d'
Le centre d'excellence de l’Université Mohammed VI Polytechnique de Rabat, « Ai Movement », vise à promouvoir l'expertise marocaine et africaine e...
Semrush Copilot : L’IA au service de votre SEO pour des performances optimisées
Gérer le SEO (référencement naturel) peut se révéler particulièrement complexe. Les règles de Google évoluent constamment, les concurrents sont toujours...
L’avenir, des enjeux de puissance et de progrès formidables, mais aussi des risques extrêmes
Jeudi 2 mai, l’Académie du Royaume du Maroc a soumis au débat « le passage du XXème au XXIème siècle ». Il y a certainement mieux pour exciter les curi...
Assises AUSIM 2024 : L'importance des données pour les entreprises marocaines face aux enjeux de du
Lors de la septième édition des Assises de l'Association des utilisateurs des systèmes d'information au Maroc (AUSIM), organisée à Marrakech du 23 ...
La SCA24 explore l’intelligence artificielle et les nouvelles technologies pour bâtir des villes
La 9e édition de la Conférence internationale sur les applications des villes intelligentes (SCA24) se tiendra les 2 et 3 octobre, sous le thème “Construir...
L'intelligence artificielle générative menace les emplois de cols blancs aux États-Unis
Le "Wall Street Journal" tire la sonnette d'alarme sur l'impact croissant de l'intelligence artificielle générative sur le marché du travail amé...