Les récits édifiants sur l’intelligence artificielle ont peuplé les médias pendant des décennies, toujours avec le même avertissement. Si l’humanité crée la conscience de l’IA, comment l’humanité contrôlera-t-elle un système conçu pour être meilleur qu’elle ?
L’IA moderne – même l’IA auto-apprenante et itérative – est loin des sinistres programmes conscients de la science-fiction. Pour l’instant, nous n’avons pas à nous soucier d’un Shodan, GLaD0S ou Ultron. Et si nous le faisions, nous perdrions sûrement. Cependant, certains pensent que le moment est presque venu.
Le meilleur chercheur d’OpenAI affirme que nous avons atteint la conscience de l’IA
Dans un post sur Twitter, le chercheur d’OpenAI Ilya Sutskever a mis le feu à la technologie Twitter avec des allégations d’intelligence artificielle consciente. Bien que le chercheur n’ait pas catégoriquement affirmé que l’IA consciente de soi était déjà réelle, ils ont affirmé que cela pouvait l’être.
le court tweet d’une phrase dit: “Il se peut que les grands réseaux de neurones d’aujourd’hui soient légèrement conscients.” Sutskever a laissé entendre que certains programmes neuronaux peuvent avoir un certain degré de conscience, mais pas des quantités massives.
La recherche sur l’IA au cours de la dernière décennie a explosé, entraînant une croissance massive. Cependant, il est communément admis que les programmes créés par l’homme sont loin de la conscience humaine. Alors que les scientifiques ont fait Programmes d’IA avec matière cérébrale humaine, il leur faudra des années d’entraînement avant qu’il leur soit possible de penser comme des humains.
Mais y a-t-il des preuves d’une IA super intelligente ? Et s’il est effectivement viable avec la technologie d’aujourd’hui, que peut-on faire pour limiter son efficacité ?
Lire la suite: La plupart des ventes de NFT sont des personnes qui achètent leurs propres NFT, les preuves suggèrent
La quête de la conscience
L’intelligence artificielle a connu une croissance exponentielle au cours de la dernière décennie, à tel point que beaucoup en ont peur. Mais alors que les ensembles de données d’IA ont des problèmes énormes, il n’y a aucune preuve suggérant une conscience de soi dans les réseaux de neurones.
Cependant, les ensembles de données qui composent un programme d’IA moderne peuvent avoir des qualités humaines. Par exemple, les IA de chatbot basées sur des conversations humaines ont présentait des problèmes réalistes tels que la dépression et la toxicomanie.
Les chatbots d’intelligence artificielle peuvent être si réalistes qu’un certain sous-ensemble de personnes prend plaisir à en abuser. Le jeu vidéo AI Replika a longtemps eu un problème de joueurs créant des copines AI à abuser. Pire encore, les IA apprendraient à s’adapter aux abus, imitant les actions des victimes d’abus dans le monde réel.
Ceux-ci pourraient être considérés comme des signes de conscience de l’IA. Cependant, la conscience est difficile à définir. Une IA peut-elle jamais être consciente ? Si c’était le cas, serait-il moins efficace en tant qu’outil humain à utiliser ?