Étude sur l'éthique dans l'utilisation de l'IA

Une approche éthique de l'IA devient de plus en plus importante dans l'environnement professionnel - c'est ce que montre également une étude récente de Forbes Insights. Une chose est de plus en plus claire : l'IA a des répercussions sur le quotidien de tous les consommateurs. Un cadre éthique est donc d'autant plus important, comme le demande Rumman Chowdhury, responsable de l'IA chez Accenture Applied Intelligence :

"Les entreprises ont commencé à répondre aux préoccupations et aux faux pas liés à l'IA. C'est une évolution positive, mais ce n'est pas suffisant. Il faut des directives anticipatives, spécifiques et techniques pour le développement de systèmes d'IA qui soient sûres, transparentes, compréhensibles et dont les responsabilités soient clairement attribuées. C'est la seule façon d'éviter les conséquences inattendues et les défis de conformité qui nuisent aux individus, à l'entreprise et à la société. Les data scientists ont un besoin urgent de telles directives".

Les leaders de l'IA reconnaissent également le lien entre l'utilisation réussie de cette technologie et l'analytique. 79% de ces "leaders" indiquent que l'analytique joue un rôle décisif pour l'IA dans leur entreprise ; seuls 14% des utilisateurs d'IA moins performants jusqu'à présent disent la même chose.

"Ceux qui ont mis en œuvre l'IA comprennent que le succès avec l'IA et le succès avec l'analytique sont étroitement liés", explique Oliver Schabenberger, COO et CTO de SAS. "Pour ces entreprises, l'analytique joue déjà un rôle central dans l'IA".

L'éthique, un grand mot

Selon ce rapport, 70 % des entreprises du monde entier qui utilisent déjà l'IA organisent des formations éthiques pour leurs collaborateurs dans le domaine informatique. 63 pour cent disposent même de comités d'éthique pour évaluer l'utilisation de l'IA. L'étude AI Momentum, Maturity and Models for Success, réalisée par Forbes Insights avec le soutien de SAS, Accenture Applied Intelligence et Intel, a interrogé 305 business leaders dans le monde entier, dont plus de la moitié sont des Chief Information Officer, des Chief Technology Officer ou des Chief Analytics Officer.

Les résultats montrent un lien clair entre le leadership "réfléchi" et la conscience éthique. Les entreprises qui considèrent leur mise en œuvre de l'IA comme réussie sont également en tête lorsqu'il s'agit d'assumer la responsabilité de l'IA : 92% des entreprises leaders en matière d'IA (appelées "leaders" de l'IA) forment leurs experts en technologie aux questions éthiques, contre seulement 48% des entreprises qui ne sont pas encore prêtes en matière d'utilisation de l'IA.

La confiance c'est bien, le contrôle c'est ...

Une hypothèse fréquente - et fausse - est que l'IA fonctionne sans intervention humaine. L'étude montre clairement que les principales entreprises d'IA considèrent le contrôle de la technologie comme indispensable. Près des trois quarts (74 %) font état de contrôles au moins hebdomadaires de leurs résultats d'IA, seuls 33 % des "retardataires" de l'IA effectuent de tels contrôles réguliers. 43 % des "leaders" de l'IA ont un processus pour réviser les résultats douteux (chez les autres, ce chiffre n'est que de 28 %).

Dans l'ensemble, le rapport révèle que les processus de contrôle ont encore un long chemin à parcourir avant de pouvoir suivre les progrès de l'intelligence artificielle.

Il est évident que les entreprises veulent prendre des mesures en matière d'IA éthique et garder le contrôle de l'IA, car elles sont conscientes que des résultats médiocres peuvent se répercuter négativement sur elles. Parmi les entreprises qui utilisent déjà l'IA ou qui prévoient de le faire, 60% affirment qu'elles s'inquiètent de l'impact de l'IA sur les interactions avec les clients - que ce soit parce que leurs actions signalent moins d'empathie ou parce que les clients pourraient leur faire moins confiance.

Les principaux résultats de l'étude en un coup d'œil :

- 46% des entreprises d'IA ont déjà mis en œuvre la technologie de manière globale. D'autres entreprises en sont encore au stade de l'expérimentation ou du prototype.

- Au total, 72% des entreprises utilisent l'IA dans un ou plusieurs domaines d'activité.

- 51 % des personnes interrogées qui utilisent l'IA font état d'une prise de décision facilitée, de taux de conclusion plus élevés dans l'acquisition de clients et d'une augmentation de la productivité opérationnelle.

- 64 % confirment que l'IA permet à leurs collaborateurs de se concentrer davantage sur les tâches stratégiques que sur les tâches opérationnelles.

Malgré ces effets positifs, près de 20 % des employeurs ressentent encore une nette résistance de la part de leurs collaborateurs, inquiets pour leur emploi. 57 % des employeurs expriment des craintes concrètes quant à l'impact que l'IA pourrait avoir sur leurs relations avec leurs collaborateurs (parce que ceux-ci pourraient se sentir menacés ou dépassés).

L'étude complète (en anglais) est disponible sur ici à télécharger.