Andrew Moore, le nouveau patron de Google Cloud IA, tout comme d’autres chercheurs de Google, lancent des avertissements sur les éventuels impacts négatifs – qualifiés de 'scénarios horribles' - de l’IA (Intelligence Artificielle).
Certaines perspectives de l’Intelligence Artificielle (IA) font trembler jusqu'aux experts...
Leur discours est souvent porté par l’image que donnent de l’IA et des robots les films de science fiction, avec les machines malveillantes qui nous sont proposées, parfois brillamment il faut le reconnaitre.
Mais au-delà du spectacle, de plus en plus d’experts nous communiquent leur malaise. Si le robot-tueur qui échappe à ses créateurs appartient aujourd’hui au monde du spectacle, certains chercheurs commencent à se dire que les dérives de l’IA pourraient devenir une réalité, sous différentes formes, dans les années à venir.
1Ce que disait le nouveau patron de l’IA de Google
En novembre dernier, lors de l’Artificial Intelligence and Global Security Initiative, le docteur Andrew Moore, le doyen de l’Ecole d’informatique de l’Université Carnegie Mellon, déclarait : « Si une catastrophe se produit, par exemple une voiture autonome tuant des gens à cause de bugs graves, à un moment donné le développement des systèmes d’IA va être bloqué, du moins aux États-Unis. »
« Il y a des scénarios encore plus horribles - dont je ne veux pas parler sur scène, mais qui nous inquiètent énormément - qui entraîneront le blocage complet de la recherche en robotique. »
Depuis ses déclarations, Andrew Moore a été nommé voici quelques jours à la tête de Google Cloud IA.
2Ce qui effraie la chercheuse de Google
La capacité des systèmes d’IA à lire les émotions prend des tournures incroyables. Dans un avenir pas si lointain, la technologie permettra d’interpréter et de stocker nos pensées. De nouveau lors de l’Artificial Intelligence and Global Security Initiative, Meredith Whittaker, cofondatrice de l'institut AI Now de l'Université de New York, et chercheur chez Google, nous interpelle : « Que se passera-il si les autorités se rendaient dans une entreprise qui a entreposé les pensées de ses clients et assigne à témoigner les dossiers d'une personne ? »
Elle a jugé cette possibilité « effrayante » ! Que pourtant Andrew Moore, évoquant les progrès réalisés dans les résolutions des caméras des smartphones, qui leur donnera la capacité de détecter les mouvement des muscles sur les visages, confirme : « A partir de ce que font les muscles, en utilisant des connaissances antérieures en psychologie, vous pouvez détecter des unités d’action faciale et des micro-expressions pour obtenir des informations dont nous n’avons même pas conscience en tant que humains. »
3Ce qu’avait dit le patron de Google China
Avec l’IA, les propriétaires d'entreprise automatiseront de plus en plus de tâches autrefois effectuées par des humains. Mais qui va y gagner ? La semaine dernière, lors de la conférence Artificial Intelligence 2018 qui s’est tenue à San Francisco, Kai-Fu Lee, ancien président de Google China, a prédit que l’IA va révolutionner de nombreuses industries et générera beaucoup de richesses. Mais également que ces richesses se retrouveront dans les poches d'un nombre restreint de personnes...
L’automatisation « aura un effet de doublement (...) sur la création de nouveaux magnats de l’Intelligence, en même temps que sur les plus pauvres de la société. »
Nos interlocuteurs robotiques, en plus de prendre notre place, seront prochainement capables de détecter si nous sommes heureux, ou s’ils nous font peur, voire le mépris que nous leur porterons...
Sources : les conférences Artificial Intelligence and Global Security Initiative 2017 et Artificial Intelligence 2018
Image d’entête 941100298 @ iStock PrettyVectors
