Des progrès substantiels ont accéléré le développement de l'IA, qui a le potentiel de remodeler le paysage concurrentiel des entreprises, des emplois et du développement économique des pays. Mais gare aux conséquences néfastes, prévient le cabinet McKinsey.
L'intelligence artificielle et l'analyse avancée offrent une foule d'avantages, mais les risques liés à celle-ci peuvent survenir à n'importe quel stade de développement.
Au cours des dernières années, il y a eu de nombreuses percées et annonces dans l’IA. Néanmoins, « l'intelligence artificielle s'avère être une arme à double tranchant », estime le rapport. Bien que l'on puisse dire la même chose de la plupart des nouvelles technologies, « les deux fils de la lame de l’IA sont beaucoup plus tranchants, et aucun des deux n'est bien compris », préviennent les analystes de McKinsey.
Un grand pouvoir implique de grandes responsabilités
Dans un rapport publié en septembre 2018, l’OCDE pointait les risques non seulement pour l’emploi, mais aussi les questions posées aux employés et les difficultés d’adaptation. Selon les chiffres cités, « 32 % de la main-d'œuvre dans les pays de l’OCDE est confrontée à des changements importants dans la façon dont son travail est effectué ».
Et ce n’est pas tout, car « à mesure que l'omniprésence de l'IA s'accroît, il y a la question urgente de savoir comment protéger la vie privée et l'autonomie, et assurer la sensibilisation, la transparence, la sécurité et la responsabilisation », conclut l’analyse.
Des difficultés liées aux données
L’avènement de l’intelligence artificielle a eu comme premier effet de concentrer l’attention sur les données et leur exploitation. « Dans les entreprises en avance de phase, il est devenu de plus en plus difficile d'ingérer, de trier, de relier et d'utiliser correctement les données à mesure que la quantité de ces données non structurées, provenant de sources telles que le Web, les médias sociaux, les appareils mobiles, les capteurs et l'Internet des objets, a augmenté ».
Par conséquent, il est facile d'être victime d'écueils tels que l'utilisation par inadvertance ou la divulgation d'informations sensibles cachées dans des données anonymes. « Il est important que les dirigeants soient conscients de ces considérations lorsqu'ils s'efforcent de respecter les règles de protection de la vie privée », comme le RGPD de l'Union européenne ou le Consumer Privacy Act de la Californie.
Quand la technologie est mal implémentée
Les problèmes de technologie et de processus peuvent avoir un impact négatif sur la performance des systèmes d'IA. Par exemple, une grande institution financière a eu des problèmes après que son logiciel de conformité ait échoué à repérer les problèmes de transaction, parce que les données l’alimentant ne comprenaient plus toutes les opérations des clients.
Des problèmes de sécurité
Un autre problème émergent est la possibilité pour les fraudeurs d'exploiter des données apparemment non sensibles sur le marketing, la santé et les finances que les entreprises recueillent pour alimenter leurs systèmes d'IA. Si les mesures de sécurité sont insuffisantes, il est possible d'unir ces informations pour créer de fausses identités. Bien que les sociétés cibles soient des complices involontaires, elles pourraient subir la colère des consommateurs lésés et les répercussions de la réglementation.
Des modèles qui fonctionnent mal
Les modèles d'IA eux-mêmes peuvent créer des problèmes lorsqu'ils sont mal intégrés. Ils peuvent produire des conclusions pour lesquelles il n'existe aucun recours pour les personnes touchées par ses décisions (un refus de prêt par exemple).
Plus difficiles à repérer sont les cas où les modèles d'intelligence artificielle se cachent dans les offres SaaS. « Lorsque les vendeurs introduisent de nouvelles fonctionnalités intelligentes, ils introduisent également des modèles qui pourraient interagir avec les données du système de l'utilisateur pour créer des risques inattendus », pointe le rapport.
Des ratés dans l'interaction homme-machine
L'interface entre les personnes et les machines est un autre domaine de risque important. Parmi les plus visibles se trouvent les défis des systèmes automatisés de transport, de fabrication et de gestions des infrastructures.
Les accidents et les blessures sont possibles lorsqu’il y a « incompréhension » entre les opérateurs et le système intelligent. Inversement, le jugement humain peut aussi s'avérer erroné. Dans les coulisses de l'organisation de l'analyse des données, les erreurs de script, les failles dans la gestion des données et les erreurs de jugement dans la formation des modèles de données peuvent facilement compromettre l'équité, la confidentialité, la sécurité et la conformité.
Source : McKinsey
