« Science sans conscience n’est que ruine de l’âme » RABELAIS pbc
« Ne plus savoir ce qui est vrai »: Geoffrey Hinton, prix Nobel de physique, regrette d’avoir créé la technologie à la base de ChatGPT
« Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes », pointe Geoffrey Hinton, souvent surnommé « le parrain de l’IA ».
L’impact économique de l’intelligence artificielle est également au cœur de ses craintes. D’ailleurs, un rapport de la banque américaine Goldman Sachs estime que la technologie pourrait remplacer 300 millions de postes. Dans le même temps, Chris Pissarides – prix Nobel d’économie en 2010 – estime que les modèles tels que ChatGPT pourraient aider à la mise en place de la semaine de quatre jours.
Mais Geoffrey Hinton préfère rester prudent. « Cela supprime les tâches pénibles. Il se pourrait bien qu’il enlève plus que cela », conclut-il.3
Geoffrey Hinton, gagnant du dernier prix Nobel de physique et considéré comme un des pères de l’IA, estime entre 10 et 20% les chances de survie de l’humanité face à des IA non réglementés.
Un rare exemple où l’inventeur regrette son invention. Le britano-canadien Geoffrey Hinton est considéré comme l’un des pères de l’intelligence artificielle. Mais après avoir quitté le monde de la recherche, le scientifique affiche une position très pessimiste quant au devenir de l’IA. Dans une interview donnée sur la radio britannique BBC Radio 4 le 28 décembre, le chercheur estime que l’IA a « entre 10 et 20% de chance » de mener l’humanité à son extinction dans les 30 prochaines années.
Il remplace 700 employés par l’IA, et avoue avoir des remords. Certains sont retournés chercher des employés.
Face à une décision révolutionnaire, un dirigeant éprouve des remords en reconnaissant les dilemmes éthiques de remplacer la main-d’œuvre humaine par l’intelligence artificielle.
Aujourd’hui, où la technologie règne en maître, l’adoption de l’IA remodèle le paysage professionnel. Klarna, pionnière dans ce domaine, a franchi, en ce sens, une étape audacieuse. L’entreprise remplace ainsi 700 postes par des solutions d’IA, un acte qui pousse son PDG à exprimer publiquement ses remords plus tard.
« Des choses plus intelligentes que nous »
Ce n’est pourtant pas le premier cri d’alerte du chercheur. En octobre 2023 sur X, Geoffrey Hinton faisait déjà ses pronostics: 10% de chances « que l’IA, si elle n’est pas fortement réglementée, conduira à l’extinction de l’humanité dans les 30 prochaines années ». Aujourd’hui, il estime ce risque à 20%, témoignant de l’inquiétude grandissante du chercheur.
Le chercheur redoute que la puissance de l’IA n’échappe aux mains de ses créateurs en les surpassant. Il argumente sur l’antenne de la BBC:
« Nous n’avons jamais eu à faire avec des choses plus intelligentes que nous avant. Et combien avez-vous d’exemple de chose plus intelligente se faire contrôler par une chose moins intelligente? (…) Je l’imagine comme ceci: imaginez-vous avec un enfant de trois ans. Face à l’IA, nous serions les enfants de trois ans. »
Et en l’absence de règlements internationaux, le développement de l’IA ne connaît pas de limites. « Mêler le développement de l’IA aux objectifs lucratifs de grosses entreprises ne va pas garantir un développement sûr », ajoute Hinton. « La seule chose qui peut forcer ces entreprises à faire plus de recherches sur la sûreté est une régulation gouvernementale. » Mais en dehors de l’AI Act spécifique à l’Europe, aucun texte majeur ne semble pouvoir ralentir cette course à l’innovation.
Geoffrey Hinton veut réguler l’IA
Quand il parle d’IA, Geoffrey Hinton est à prendre au sérieux. L’homme est une figure scientifique notable puisqu’à l’origine des réseaux de neurones dont il publie les travaux en 1986. Cette innovation est une première pierre pour les modèles qu’on connaît aujourd’hui sous le nom d’intelligence artificielle. Il a d’ailleurs remporté le prix Nobel de physique 2024 pour ses recherches dans le domaine.
Mais le physicien remet souvent en question sa création qui a connu une évolution fulgurante ces dernières années. En mai 2023, le chercheur quitte ses fonctions chez le géant de la tech Google. Il voit l’émergence de certains chatbots comme « effrayant » et comme un outil qui, placé entre de mauvaises mains, pourrait devenir inquiétant.
Depuis son départ de Google, Geoffrey Hinton milite pour une régulation beaucoup plus stricte de l’IA. Il rejoint les positions de Yoshua Bengio, un autre père de l’IA, lui aussi critique envers les utilisations actuelles de son invention.
Pour ce qui est des réglementations internationales sur l’IA, les chercheurs peuvent espérer des avancées lors du Sommet pour l’action sur l’intelligence artificielle qui aura lieu le 10 et 11 février 2025 à Paris. De nombreux chefs d’État y sont attendus pour discuter de l’avenir et du déploiement de l’IA « dans l’intérêt général et le respect du bien commun ».