Invité de l'Agora des Directeurs Juridiques, l'Agora des DRH, l'Agora du Développement RH et l'Agora des DSI, Luc Ferry est venu évoquer « La révolution transhumaniste ». D’un grand optimisme, il n’a cependant pu cacher ses craintes à l’évocation des deux intelligences artificielles qui viennent de communiquer entre elles dans une langue indéchiffrable.
L’actualité très récente est venue pimenter le discours de Luc Ferry, le philosophe et écrivain, ancien ministre de la Jeunesse, de l'Éducation nationale et de la Recherche, invité d’une soirée exceptionnelle organisée par l'Agora des Directeurs Juridiques, l'Agora des DRH, l'Agora du Développement RH et l'Agora des DSI.
L’actualité du philosophe, c’est la parution de son dernier ouvrage, « La révolution transhumaniste ». L’occasion pour lui, avec l’engagement, l’humour et le brio qu’on lui connaît, de brosser deux siècles d’innovation, et la transformation de notre société au travers de l’industrie et des technologies.
Face aux sceptiques, aux tenants du « c’était mieux avant », aux défenseurs des valeurs en partie oubliées, aux opposants de la nouvelle économie et de l’uberisation, Luc Ferry n’a cessé de défendre le progrès, et de se réjouir non de la transformation de l’homme par le transhumanisme, mais de son amélioration, pour vivre mieux et plus longtemps.
Les interrogations de Luc Ferry
Nous avons cependant assisté à un moment inattendu d’inquiétude dans le discours de Luc Ferry, le moment où vers la fin de son intervention il a évoqué une expérience très récente menée par Google sur son programme d’étude des intelligences artificielles et des réseaux neuronaux appelé Google Brain, lancé en 2011.
Pour cette expérience, objet d’une publication fin octobre, les chercheurs de Google Brain Martin Abadi et David Andersen, qui travaillent sur le deep learning, un champ du machine learning, ont déployé trois intelligences artificielles, nommées Alice, Bob et Eve. Les deux premiers possèdent leurs réseaux neuronaux pour créer leur langage codé, le dernier ayant reçu pour mission de casser le code sans le connaître.
Le résultat inattendu a surpris les chercheurs : Alice et Bob ont créé leur propre langage, et communiqué entre elles. Par contre, elles ont également créé leur propre algorithme de chiffrement de bout en bout, leur langage devenant alors crypté. Ce qui leur a permis de communiquer entre elles, sans difficulté, via 15.000 messages envoyés, mais en dehors de toute compréhension des observateurs. Du coup, Eve, chargé le lire les communications entre les deux AI, a été incapable de décrypter les messages chiffrés.
Quand la démonstration vire à l’inquiétude
L’objectif de Google était de démontrer que des réseaux multi agents de neurones peuvent protéger des communications. Le résultat a été au-delà des espérances de ses chercheurs, mais également se révèle bien inquiétant. Car, comme l’a souligné Luc Ferry en observateur attentif de l’évolution des technologies, les deux AI ont communiqué… sans que nous puissions comprendre ce quelles ont échangé. L’expérience a apporté la preuve que deux AI peuvent communiquer secrètement entre elles, et surtout sans nous !
La crainte de Luc Ferry est donc pleinement justifié, car si l’AI prend son indépendance, ou plutôt si nous la lui donnons, aurons nous encore besoin de l’homme ?
Image d’entête 96709991 @ iStock Pixtum
