Intelligence artificielle, une science sans conscience?

Et si le retour d’un homme motivé par l’argent et non par le bien de l’humanité était un nouveau cas de «science sans conscience», aux conséquences potentiellement catastrophiques?
On a suivi avec stupéfaction, ces derniers jours, les péripéties du feuilleton OpenAI. C’est dans la nuit de mardi à mercredi, comme dans un film à suspense, que la start-up créatrice de ChatGPT a annoncé le retour de son cofondateur Sam Altman. Le patron de l’entreprise avait été limogé quelques jours plus tôt par son conseil d’administration.
Le plus intéressant dans cette affaire est que le renvoi de Sam Altman avait été motivé par des raisons… philosophiques. En effet, le conseil d’administration avait estimé que le jeune entrepreneur n’était plus motivé par la recherche pure, mais par le profit (un drôle de reproche quand on pense qu’il s’agit des États-Unis, pays du capitalisme débridé). Il est vrai qu’OpenAI, fondée en 2015, avait été conçue comme une entreprise à but non lucratif.
Ce débat philosophique est d’une importance cruciale. Pour le comprendre, il faut se référer à la fameuse phrase de Rabelais: «Science sans conscience n’est que ruine de l’âme».
Cette maxime est susceptible d’au moins deux interprétations.
1. Première interprétation: toute connaissance non réflexive («sans conscience») est dangereuse. Il faut savoir que l’on sait (ou que l’on ne sait pas) pour pouvoir avancer. Par exemple, nous savons que l’excès de sucre est dangereux pour la santé, mais ce savoir ne sert à rien si on n’en tire pas de conclusion pratique, par exemple en limitant notre consommation de pâtisseries… Nous savons que le niveau des mers va monter à cause du réchauffement climatique, mais il faut «en avoir vraiment conscience», par exemple en cessant de bâtir le long du littoral. Sachez (constamment) que vous savez: vous vivrez mieux.
2. Deuxième interprétation: la morale prime sur la science. Il faut d’abord être guidé par des principes moraux (c’est ça, la conscience) avant de chercher le savoir et ses applications. Par exemple, avant de cloner des êtres humains, ce qui est techniquement possible, il faut se poser la question morale, philosophique, de la pertinence de cette prouesse. On ne peut avancer constamment sur le chemin de la science et de ses applications sans poser, au préalable, quelques principes éthiques.
Cette deuxième interprétation me semble être la bonne. C’est évident si on examine le texte dans lequel apparaît la phrase de Rabelais. Il s’agit d’une longue lettre que Gargantua adresse à son fils Pantagruel au moment où ce dernier va commencer ses études. «Mais parce que selon les dires du sage Salomon, sapience n’entre point en âme malveillante, et science sans conscience n’est que ruine de l’âme, etc.» Il s’agit donc de sagesse («sapience») et de bienveillance.
Quand on demanda à l’alpiniste George Mallory pourquoi il voulait gravir le mont Everest, ce que personne n’avait fait avant lui, il répondit «because it is there» («parce qu’il est là»). Cette fameuse réplique est acceptable quand il s’agit de battre un record sportif, elle ne l’est pas quand il s’agit de recherche scientifique. Ce n’est pas «parce qu’il est là» qu’il faut tenter de résoudre n’importe quel problème. Le clonage des êtres humains, la fission de l’atome -qui a donné la bombe atomique-, le remplacement de l’intelligence humaine par l’intelligence artificielle constituent des «mont Everest» qu’il ne s’agit pas de gravir simplement «parce qu’ils sont là»; il faut d’abord se poser des questions morales, philosophiques.
Le retour de Sam Altman a été unanimement salué comme le happy end d’une saga où un petit génie recouvre ses droits après en avoir été dépossédé par des méchants. Tout est bien qui finit bien.
Et si c’était le contraire?
Et si le retour d’un homme motivé par l’argent et non par le bien de l’humanité était au contraire un nouveau cas de «science sans conscience», aux conséquences potentiellement catastrophiques?
Le 22/11/2023
Source web par : le360
www.darinfiane.com www.cans-akkanaitsidi.net www.chez-lahcen-maroc.com
Les tags en relation
Les articles en relation

Les jeunes et la conscience climatique
Selon les statistiques des Nations unies pour l’année 2015, le nombre de jeunes de 15-24 ans dans le monde est évalué à 1,19 milliard de personnes, soit...

COP27 : Yoweri Museveni s’en prend à « l’hypocrisie » des Européens
Dans un texte publié au moment où la conférence des parties bat son plein en Égypte, le chef de l’État ougandais argue que l’incapacité de l’Europe ...

La géoingénierie pour sauver la planète : fertiliser les océans pour augmenter le captage du CO2
La solution serait simple et peu coûteuse, il s'agirait de transformer l'océan en une gigantesque pompe à CO2 en boostant le développement de microa...

COP25 : onze questions pas si bêtes sur le réchauffement climatique
A l'occasion de la COP25, qui se tient à Madrid de lundi jusqu'au 13 décembre, France info revient sur les questions et idées reçues autour du réch...

Des océans "malades" du réchauffement climatique
Le réchauffement climatique abîme les océans comme jamais, diffusant des maladies aux animaux comme aux êtres humains et menaçant la sécurité alimentaire...

La mer Méditerranée se réchauffe et attire des poissons tropicaux dévastateurs
Pollution plastique, surpêche... La mer Méditerranée est menacée sous de multiples aspects. Début juin, le WWF a publié une revue des études scientifique...

Afrique du Nord : réchauffement climatique rapide et impacts sévères sur la sécurité alimentair
Bien que l’Afrique ne contribue qu’à 4 % des émissions mondiales de gaz à effet de serre, elle demeure le continent le plus vulnérable face aux changeme...

Chevron, Shell, Total… Ces 20 entreprises qui émettent un tiers des émissions de CO2 mondiales
Elles sont seulement vingt et émettent 35 % des émissions mondiales depuis 1965. Le Guardian vient de publier une vaste enquête révélant le nom de ces ving...
Cop 25 : Le secrétaire général de l’ONU se dit « déçu » et regrette « une importante occas
Antonio Guterres, déçu de la COP 25 — Manu Fernandez/AP/SIPA Le secrétaire général de l'ONU Antonio Guterres s’est dit « déçu » dimanche par...

L'axe de la Terre se déplacerait plus rapidement en raison du changement climatique, selon une étu
La fonte des glaciers contribue à l'élévation du niveau de la mer, mais elle pourrait aussi avoir comme conséquence d'accélérer le déplacement de...

Climat: Le GIEC tire encore la sonnette d’alarme
Le changement climatique continue de bouleverser le monde et les écosystèmes. Le phénomène ne pourra être freiné qu’en limitant les émissions de CO2 et...

Plan National de Lutte Contre le Réchauffement Climatique
Plan National de Lutte Contre le Réchauffement Climatique Vous pouvez cliquer sur l’image pour voire le fichier PDF Le 16/07/2019 Source web P...