M. Cohen a déclaré à la commission : “Avec l’IA surhumaine, il y a un risque particulier qui est d’une autre sorte de classe, qui est, eh bien, il pourrait tuer tout le monde.
“Si vous imaginez dresser un chien avec des friandises : il apprendra à choisir des actions qui lui permettront d’obtenir des friandises, mais si le chien trouve l’armoire à friandises, il peut obtenir les friandises lui-même sans faire ce que nous voulions qu’il fasse.”
Il a ajouté que l’IA surhumaine pourrait nous attaquer d’une manière telle qu’elle ne laisserait aucune indication qu’elle est sur le point d’attaquer. Par conséquent, l’humanité n’aurait aucun avertissement.
M. Cohen a dit : “Si vous avez quelque chose qui est beaucoup plus intelligent que nous sur chaque domaine, il éviterait vraisemblablement d’envoyer des signaux d’alarme alors que nous pourrions encore tirer la prise.”
M. Cohen n’est pas le seul universitaire d’Oxford à mettre en garde contre la future domination de l’IA.
Le professeur Michael Osborne a déclaré : “Je pense que le scénario sombre est réaliste parce que l’IA tente d’embouteiller ce qui rend les humains spéciaux que…”. [quality] a conduit les humains à changer complètement la face de la Terre. Donc si nous sommes capables de capturer cela dans la technologie, alors bien sûr, cela va poser autant de risques pour nous que nous en avons posé à d’autres espèces – le dodo en est un exemple.”
Les commentaires du professeur Osborne interviennent quelques mois après qu’une enquête menée auprès de scientifiques ait révélé que 36 % d’entre eux pensaient qu’une intelligence artificielle super-intelligente pourrait provoquer une catastrophe ou une guerre nucléaire.
S’adressant au Daily Star, Julian Michael de l’Université de New York a déclaré : “Si l’apprentissage automatique est déployé dans un système d’alerte nucléaire et qu’il commet une erreur… alors nous avons peut-être un problème.”
Le scénario qui préoccupe les scientifiques est celui qui a été repris dans de multiples films au fil des ans, dont The Matrix.
Le film dépeint un avenir où les machines utilisent l’humanité comme source d’énergie pour leur simulation numérique.
Au cours de l’une des premières salves du film, l’un des personnages principaux, Morpheus, explique que les problèmes ont commencé avec la naissance de l’IA qui est ensuite entrée en guerre contre l’humanité.
Bien que ce scénario ne constitue pas une menace imminente, les scientifiques s’inquiètent de la course à l’armement qui se développe entre les différents groupes technologiques qui s’affrontent pour produire les meilleurs systèmes d’IA.
En outre, l’impact se fait déjà sentir, de l’éducation de la nation aux relations.
Au début de l’année, il a été rapporté qu’une femme a déclaré que c’était à cause d’un chatbot IA qu’elle avait décidé de divorcer de son mari.
Elle a déclaré qu’elle se séparait de son conjoint parce que le chatbot ChatGPT lui avait dit de le faire.