Home » Technologie » Des robots tueurs “surhumains” pourraient dépasser l’humanité d’ici 2040 : “Nous devons être vigilants”.

Des robots tueurs “surhumains” pourraient dépasser l’humanité d’ici 2040 : “Nous devons être vigilants”.

par

Grace a été conçue par le fondateur de SingularityNET, le Dr Ben Goertzel, pour ressembler à un être humain et agir comme tel. Elle est également capable de résoudre des problèmes complexes.

Elle offre une indication de la forme des choses à venir de l’AGI – définie comme la capacité hypothétique d’une machine à apprendre n’importe quelle tâche intellectuelle dont un être humain est capable.

Mais Mme Adams a déclaré à Express.co.uk qu’il était, en un sens, inutile de comparer l’évolution humaine et technologique.

Elle a expliqué : “La technologie progresse de façon spectaculaire chaque mois, alors que l’évolution biologique n’a pas fait grand-chose au cours des cent mille dernières années.

Janet Adams

“Il y a une différence plus importante que la vitesse – l’évolution biologique est motivée par la survie, alors que l’évolution technologique semble avancer sans relâche, poursuivant un ensemble d’objectifs plus large que la simple survie – des objectifs comme apprendre et créer toujours plus, et aussi – si nous faisons les choses correctement – des objectifs bénéfiques comme maximiser le bien-être des humains et de toutes les autres sensibilités.”

Elle ajoute : “La singularité technologique dont nous parlons est un moment dans le futur où le changement technologique devient si rapide – et d’une si grande portée – qu’il brise nos hypothèses sur la condition humaine”.

“Les gens ont donné diverses dates pour le moment où ils s’attendent à ce que cela se produise, 2040 à 2050 est une estimation populaire, mais qui sait ?

“Le Dr Goertzel a suggéré que la singularité pourrait potentiellement arriver beaucoup plus tôt.”

Grace SingularityNET

Mme Adams a souligné : “Des robots ayant une apparence et un comportement extrêmement proches de ceux des humains seraient une conséquence très probable de la singularité technologique, mais il se peut que ce ne soit pas une avancée aussi fondamentale que des capacités de raisonnement, de réflexion et d’apprentissage surhumaines.”

La série de science-fiction Westworld de HBO, qui met en scène des robots dans un parc à thème futuriste qui commencent à développer une conscience de soi, aborde de nombreux thèmes de ce type, a reconnu Mme Adams.

Elle a déclaré : “La principale leçon de Westworld est que si nous voulons que nos robots AGI de niveau humain nous traitent de manière bénéfique, nous devrions probablement les traiter de manière bénéfique.

“Ce n’est pas exactement une conclusion surprenante ou avancée – la voie la plus probable vers l’AGI bénéfique est d’inscrire les esprits AGI évolutifs de stade précoce dans la compassion mutuelle, l’aide, l’amour et la cocréation avec les êtres humains.”

Des progrès technologiques aussi rapides obligeraient inévitablement l’humanité à se poser des questions plus tard, a souligné Mme Adams.

Evan Rachel Wood et James Marsden dans Westworld.

Dr Ben Goertzel Grace

Elle a dit : “Le jour où un AGI ou un robot déclarera qu’il est conscient de lui-même et criera qu’il veut l’égalité des droits, il sera difficile pour la plupart des humains de l’ignorer de tout cœur.

“Lorsque nous parlons à une autre personne, nous ne sommes pas sûrs qu’elle a une conscience de soi, mais nous avons tendance à la croire sur parole – nous imaginons qu’il en sera de même pour les relations entre humains et robots.

” Les systèmes juridiques, économiques et culturels devront s’adapter radicalement et rapidement aux nouvelles réalités ouvertes par les diverses technologies singularitaires qui se profilent à l’horizon.

“Au final, les nouvelles règles seront élaborées par les humains et les AGIs travaillant ensemble.”

Il n’y a pas non plus actuellement de garanties sur la manière dont les technologies de plus en plus avancées seront utilisées, a souligné Mme Adams, ce qui soulève des possibilités inquiétantes.

Intelligence artificielle

Elle a ajouté : “Ce serait formidable si nous pouvions dire que cette technologie ne peut jamais être utilisée de manière malveillante, mais la vie n’est pas aussi simple.

“En tant qu’humains, et en tant que société, nous devrons être vigilants, nous devrons faire des choix moraux sur la façon de nourrir ces nouveaux esprits puissants.”

L’une des raisons pour lesquelles Grace a été conçue comme un “robot bienveillant” était d'”élever nos premiers esprits artificiels” dans un environnement où leurs premiers souvenirs et leurs premiers objectifs étaient liés au soin des êtres humains, a souligné Mme Adams.

Elle a ajouté : “C’est un meilleur départ que de concevoir des robots pour tuer, espionner, vendre ou exploiter financièrement, qui sont les thèmes poursuivis par la majeure partie de l’industrie mondiale de l’IA à l’heure actuelle.”

Quoi qu’il en soit, il est clair que la technologie révolutionnaire qui sous-tend le développement des robots est là pour rester.

Ai-Da

Mme Adams a déclaré : “Les robots joueront un rôle de plus en plus important dans notre vie quotidienne, dans le cadre de la progression et de la pénétration continues de l’IA.

“D’ici une ou deux décennies, l’IA sera aussi présente dans notre vie quotidienne que l’énergie électrique – avec un mélange subtil d’AGI et de systèmes d’IA étroite qui nous aideront dans tous les aspects de nos routines quotidiennes.

“Les robots humanoïdes joueront un rôle là où une connexion émotionnelle profonde est importante, comme l’éducation et les soins de santé, mais l’activité globale de la matrice IA ira au-delà de tout dispositif matériel ou interface particulier.”

Elle a ajouté : “Il sera très important que cette matrice d’IA omniprésente soit contrôlée et guidée de manière démocratique et décentralisée, plutôt que par un seul gouvernement ou une seule entreprise”.

“C’est l’objectif central du projet SingularityNET – utiliser la blockchain pour créer une infrastructure décentralisée pour les systèmes d’IA mondiaux, y compris ceux qui font fonctionner les robots humanoïdes.”

Related Articles

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More