mediacongo.net - Actualités - L'intelligence artificielle de Google a-t-elle dépassé l'homme ?

Retour Sur le net

L'intelligence artificielle de Google a-t-elle dépassé l'homme ?

L'intelligence artificielle de Google a-t-elle dépassé l'homme ? 2016-11-10
http://www.mediacongo.net/dpics/filesmanager/actualite/2016_actu/novembre/07_au_13/ordinateur-quantum-cryptographie-image.jpg -

Dans les laboratoires de Google Brain, deux IA ont réussi à créer un algorithme unique pour communiquer sans être comprises des autres intelligences, pas même leur créateur...

A-t-on fait un pas de plus vers un avenir digne de Terminator ? Malgré la méfiance que peut susciter le développement d'une intelligence artificielle forte, les chercheurs continuent de faire des avancées considérables dans ce domaine. Et notamment les chercheurs du programme Google Brain qui ont pour la première fois été dépassés par leur création.

Générer du chiffrement évolutif

Dans un article de recherche, Google a mis au point un scénario où des réseaux neuronaux parviennent à générer eux-mêmes du chiffrement évolutif, sur la base de l'intelligence artificielle et du machine learning. Concrètement, Alice et Bob, deux réseaux neuronaux en l'espèce, font évoluer seuls leurs outils de chiffrement de manière à laisser Eve dans le noir. Oui, car Eve est aussi un réseau neuronal.

Ces trois figures classiques de la cryptologie sont des entités utilisée par les chercheurs pour tester des protocoles de sécurité et faire avancer la recherche (le chiffrement RSA, datant de 1970 a été perfectionné sur cette base). Leur rôle ? Alice et Bob tentent de communiquer de manière sécurisée, comprenez sans que personne à part eux ne soient au courant de ce qu'ils se racontent. Eve quant à elle tente d'écouter Alice et Bob par tous les moyens.

Les deux chercheurs du projet Google Brain (lancé en 2011), Martin Abadi et David Andersen, viennent de publier une étude dans laquelle ils montrent que des intelligence artificielles utilisant des réseaux neuronaux (des algorithmes dont le fonctionnement est inspiré des réseaux neuronaux biologiques) peuvent parvenir à créer leur propre système de chiffrement.

Le tour de force des chercheurs est mentionné en page 3 de l'étude. "Au lieu d'entraîner Alice et Bob séparément à mettre en œuvre un cryptosystème connu, nous entraînons Alice et Bob conjointement à communiquer avec succès et à vaincre Eve et ce sans notion prédéterminée du cryptosystème qu'ils doivent utiliser à cette fin". Concrètement, les deux machines ne devaient pas appliquer un plan prédéfini, mais trouver ensemble les ressources et les moyens nécessaires pour ne plus être compris de Eve.

Au sein de ce laboratoire que la firme de Mountain View a consacré à l'intelligence artificielle, Martin Abada et David G. Andersen se sont livrés à une expérience qui a dépassé leurs espérances. Ils ont publié le résultat de leurs travaux dans un article sur la protection des messages cryptés entre « réseaux neuronaux ». Dans cet article, les deux chercheurs expliquent qu'ils ont cherché à découvrir si deux intelligences artificielles arrivaient à communiquer sans qu'un troisième « réseau neuronal » parvienne à décrypter leurs messages.

Evolution des erreurs de Bob et Eve pendant leur formation. Les courbes représentent les erreurs moyennes. Passé 15000 essais, les erreurs de compréhension de Bob sont nulles. Eve de son côté ne comprend que 8 des 16 bits transmis par Alice. (Source: Google)

 À l'issue de l'expérience, Alice et Bob ont finalement réussi à créer un langage qui ne pouvait même pas être déchiffré par les chercheurs de Google.

Le début de la fin de l'Humanité ?

Est-ce que dans le futur les robots ne risquent-ils pas d'exterminer ou réduire l'humanité en esclaves ? (extrait du fim Matrix)

Martin Abada et David G. Andersen sont stupéfaits de cette évolution, car, comme ils l'expliquent eux-mêmes: "Nous n'avions pas défini d'algorithme de cryptage spécifique à ces deux réseaux neuronaux. [...] Ils ont découvert des formes de cryptage et de décryptage, sans qu'on leur donne d'algorithmes dédiés à cet usage." En clair, deux intelligences artificielles ont réussi à apprendre toutes seules comment communiquer entre elles dans leur propre langue.

Cette avancée des IA peut nourrir de nombreux fantasmes, mais il n'y a pas encore besoin de s'inquiéter pour l'instant. On est encore loin de Skynet. Dans Terminator, cette intelligence artificielle surpuissante provoque l'Apocalypse nucléaire. Chez Google, Alice et Bob ont dû échanger 10.000 messages avant de se comprendre et 15.000 avant de créer leur cryptage.

Il n'empêche, cela démontre que les intelligences artificielles se développent plus vite que ce que nous aurions pensé, et cela pose question. En 2014, le célèbre astrophysicien Stephen Hawking avait déjà alerté la communauté scientifique, au micro de la BBC: "Une fois que les hommes auront développé l'intelligence artificielle, celle-ci décollera seule, et se redéfinira de plus en plus vite. [...] Les humains, limités par une lente évolution biologique, ne pourront pas rivaliser et seront dépassés." 

Qui va ouvrir la boîte de Pandore ?

Qu'adviendra-t-il si l'I.A. se rend compte de son existence et devient indépendant (extrait du film Terminator 3: Rise Of The Machines)

Problème soulevé par l'étude, intitulée "Apprendre à protéger les communications à travers la cryptographie neuronale": si Eve n'a plus réussi au fil du temps, soit des essais/erreurs du machine learning, à comprendre ce que se disaient Alice et Bob, les chercheurs non plus. La cryptographie inventée par les deux entités n'est plus déchiffrable par Martin Abadi et David Andersen.

De quoi effrayer Jacques Attali qui dans l'Express sonne l'alarme: les machines se dégageraient ainsi de la main mise des humains, ouvrant la voie à l'autonomie des machines, et les scénarios à la Terminator. "Ces intelligences (...) peuvent d’abord considérer que leur mission est de contrecarrer ceux de nos comportements qui, à leurs yeux, nous nuiraient ; qu’elles peuvent ainsi penser que l’humanité courre à sa perte et décider, pour son bien, de l’arrêter à temps. Mais elles pourront alors aussi agir contre l’humanité, dans leur seul intérêt ; surtout si elles pensent que, à terme, nous aurons intérêt à les détruire : elles peuvent alors nous combattre, en légitime défense" assure Jacques Attali.

Machine learning oblige, le processus d'apprentissage de Bob pour comprendre ce que disait Alice a été particulièrement long et fastidieux. Il a fallu 15.000 essais à Bob pour comprendre les 16 bits du message envoyé par Alice, alors qu'Eve ne comprenait que la moitié de ce que disait Bob avec le même nombre d'essais.

"Nous démontrons que les réseaux de neurones peuvent apprendre à protéger les communications" mentionnent en conclusion les deux chercheurs. "L'apprentissage ne nécessite pas de prescrire des algorithmes cryptographiques particuliers, ni d'indiquer les moyens d'appliquer ces algorithmes: il est basé uniquement sur une spécification de secret représentée par les objectifs de formation".

Pour l'instant, rassurons-nous, le plus gros défi du programme Google DeepMind est de savoir si, après avoir battu un champion mondial de go, il va réussir à battre un champion du jeu vidéo StarCraft II.


Le Point / Zdnet / MCN, via mediacongo.net
868 suivent la conversation
0 commentaire(s)
Chers internautes, les commentaires sont déposés librement par les utilisateurs et n’engagent nullement mediacongo.net. Néanmoins, afin de conserver un espace constructif et de qualité, mediacongo.net se réserve le droit de supprimer tout commentaire injurieux, immoral ou contraire à ses valeurs.
right
ARTICLE SUIVANT : Yahoo! réduit la voilure
left
ARTICLE Précédent : Transfert : la Direction du TP Mazembe recadre Matampi
AUTOUR DU SUJET

Championnat de boxe d’Afrique : Kiaku Lewis du Congo Brazza perd par KO devant Ntumba Cobra de...

Sport ..,

Rentrée judiciaire : "Seules 4 requêtes sur 37 adressées au parlement ont reçu une suite...

Société ..,

L’ACAJ réclame la libération de Jean-Claude Kyungu Kabila

Société ..,

Grève des professeurs : un accord trouvé entre le gouvernement et les syndicats

Société ..,