Les visages de l’IA sont considérés comme plus fiables que les personnes réelles

Alors que la technologie deepfake et la génération d’IA deviennent plus réalistes, beaucoup s’inquiètent de son rôle à l’avenir. Les visages de l’IA sont constamment utilisé dans les émissions de télévision à succèsbizarre Publicités télévisées russes et même lignes NFT extrêmement racistes.

Alors que certaines personnes peuvent faire la différence entre les visages IA et les vrais visages, d’autres ne le peuvent pas. Cependant, c’est en fait faux. Ceux qui ne peuvent pas dire quels visages sont réels remarquent inconsciemment des détails dans les faux visages, et ils accordent plus de confiance à ces caractéristiques.

Les visages de l’IA sont plus fiables

Rapporté par NN, des chercheurs de l’Université de Lancaster et de l’Université de Californie ont mené des recherches sur la fiabilité des faux visages. Les chercheurs du projet, le Dr Sophie Nightingale et le professeur Hany Farid, mènent l’appel pour des garanties et des réglementations sur la technologie deepfake.

À l’aide du programme de génération de visages StyleGAN2, Nightingale et Farid ont généré des visages réalistes et ont demandé aux participants de signaler le faux. Cependant, les participants ne pouvaient souvent pas dire quels visages étaient générés par ordinateur.

Lors du premier test, la précision pour déterminer un faux visage était de 48 %. Cependant, après la formation, cela a vu une augmentation substantielle. Lors du test final, les participants avaient une précision de 58 % pour repérer un visage généré par ordinateur.

De plus, lorsqu’on leur a demandé quel visage était le plus confortable et digne de confiance, la plupart des participants ont sélectionné les faux visages. Les visages générés par ordinateur sont perçus comme 7,7 % plus dignes de confiance que les vrais visages par le groupe.

“Un visage souriant est plus susceptible d’être considéré comme digne de confiance, mais 65,5% des vrais visages et 58,8% des visages synthétiques sourient”, indique l’étude. “Ainsi, l’expression faciale ne peut à elle seule expliquer pourquoi les visages synthétiques sont considérés comme plus fiables.”

Lire la suite: Le mégasatellite Cérès abritant des colonies humaines proposé par des scientifiques finlandais

La vallée étrange a été dépassée

Nightingale et Farid ont expliqué que cela marque le moment où CGI traverse l’Uncanny Valley. L’étude se lit comme suit :

“Notre évaluation du photoréalisme des visages synthétisés par l’IA indique que les moteurs de synthèse ont traversé l’étrange vallée et sont capables de créer des visages indiscernables – et plus fiables – que les vrais visages.”

Les chercheurs expliquent qu’il s’agit d’un moment dangereux pour les visages de l’IA. Nightingale et Farid affirment que nous vivons désormais « dans un monde numérique dans lequel n’importe quelle image ou vidéo peut être truquée ». Si l’authenticité ne peut être prouvée, à quoi peut-on faire confiance ?

Dans cet esprit, les chercheurs proposent de nouvelles garanties pour protéger les gens de la propagande, de la fraude et plus encore créées avec des visages d’IA. Ces garanties comprennent des «filigranes robustes» et des restrictions sur l’utilisation de visages synthétiques.

Lire la suite: Le marché NFT suspend presque toutes les ventes en raison d’une crypto-fraude

Les visages générés par l’IA sont-ils impossibles à contrôler ?

Bien sûr, même avec la réglementation, des versions de la version actuelle de StyleGAN2 existent déjà. Ceux qui souhaitent utiliser le programme AI pour des actes répréhensibles peuvent déjà le faire avec la version actuelle. Bien que des améliorations viendront certainement aux versions plus récentes, si la version actuelle est aussi dangereuse qu’on le prétend, le mal est déjà fait.

Après tout, comme tout ce qui se trouve sur Internet, une fois que les fichiers sont diffusés en ligne, ils y restent pour toujours. De plus, rien n’empêche les petits termes de créer leurs propres versions de StyleGAN2 sans filigranes ni restrictions.