La majorité des entreprises forment leurs experts à l’éthique et ont mis en place des comités d’éthique, selon une étude sur l’IA de SAS, Accenture Applied Intelligence, Intel et Forbes Insights
PARIS, le 9 octobre 2018 – Une nouvelle étude montre que l’utilisation responsable de l’intelligence artificielle (IA) est désormais une priorité pour les dirigeants. Parmi les entreprises qui ont recours à l’IA (soit 72% des entreprises dans le monde), la majorité forme leurs experts à l’éthique (70%) et a mis en place un comité d’éthique pour évaluer l’utilisation de l’IA (63%).
“AI Momentum, Maturity and Models for Success”, SAS, Accenture Applied Intelligence, Intel, Forbes Insights
Dans cette volonté d’utiliser l’IA de manière éthique et responsable, l’étude révèle également un écart important entre les entreprises les plus en avance (celles qui jugent leur mise en œuvre de l’IA comme une réussite) et celles en phase d’adoption : la grande majorité des leaders (92%) forment leurs experts à l’éthique, contre la moitié (48%) seulement dans les autres entreprises moins matures en matière d’IA.
“AI Momentum, Maturity and Models for Success”, SAS, Accenture Applied Intelligence, Intel, Forbes Insights
Ces conclusions sont fondées sur une enquête mondiale menée auprès de 305 décideurs, dont des directeurs des systèmes d’information, directeurs de la technologie ou directeur de l’analytique. L’étude, intitulée “AI Momentum, Maturity and Models for Success” a été initiée par SAS, Accenture Applied Intelligence et Intel, et conduite par Forbes Insights.
« Les entreprises commencent à prendre en compte les inquiétudes et les aberrations que l’IA peut potentiellement engendrer : par exemple, les biais que l’IA pourrait induire, et les problèmes de discrimination et de traitement injuste des personnes qui en découleraient, » selon Patrick Darmon, directeur exécutif d’Accenture Applied Intelligence pour la France et le Benelux. « Cette prise de conscience est certes positive, mais les entreprises doivent aller au-delà des simples codes de déontologies sur l’IA. Elles doivent à présent mettre en place des règles précises et techniques pour développer des systèmes IA sécurisés, transparents, explicables et responsables. Les data scientists sont très demandeurs d’une telle approche. »
Les entreprises les plus en avance reconnaissent également les liens étroits entre l’analytique et leur succès dans le domaine de l’IA. Parmi ces leaders, 79% (80% en France) déclarent que l’analytique joue un rôle majeur ou central dans les initiatives IA de leur entreprise, contre seulement 14% (16% en France) des entreprises qui n’ont pas encore tiré parti de leur utilisation de l’IA.
« Les entreprises qui ont déployé des technologies IA reconnaissent que le succès dans ce domaine est en réalité un succès dans le domaine de l’analytique, » explique Oliver Schabenberger, Chief Operating Officer et Chief Technology Officer chez SAS. « De leur point de vue, l’analytique joue un rôle central dans l’IA. »
Le contrôle de l’IA est indispensable, pas une option
Malgré l’idée largement répandue selon laquelle l’IA opèrerait indépendamment de toute intervention humaine, l’étude montre que les entreprises les plus avancées reconnaissent que la surveillance est indispensable. Trois quarts (74%) de ces entreprises ont ainsi établi un processus de contrôle approfondi, avec au minimum une évaluation hebdomadaire des résultats de l’utilisation de l’IA (contre 33% pour les entreprises en phase d’adoption de l’IA).
“AI Momentum, Maturity and Models for Success”, SAS, Accenture Applied Intelligence, Intel, Forbes Insights
Pour autant, le rapport montre aussi que ces processus de contrôle doivent encore s’adapter au rythme effréné des progrès de l’IA.
« La capacité à comprendre comment l’IA prend des décisions permet d’accroitre la confiance dans ces technologies et de rendre le contrôle humain plus efficace, » selon Yinyin Liu, responsable Data Science pour Intel AI. « Pour les développeurs et clients déployant l’IA, la transparence et la responsabilité des algorithmes, ainsi que des systèmes IA précisant qu’ils ne sont pas humains sont des prérequis pour instaurer la confiance nécessaire à une adoption plus massive de l’IA. »
Si les entreprises prennent des mesures en matière d’encadrement éthique et de contrôle de l’IA, c’est parce qu’elles savent que des dysfonctionnements dans ce domaine pourraient avoir de sérieuses répercussions. Parmi les entreprises qui ont déjà déployé l’IA ou qui envisagent de le faire prochainement, 60% déclarent être préoccupées par l’impact des décisions prises par l’IA sur la qualité de la relation client, craignant par exemple que ces actions ne fassent ressortir un manque d’empathie ou ne finissent par dégrader la confiance de ces derniers.
Autres conclusions de l’étude :
- De nombreuses entreprises considèrent l’IA comme bénéfique pour leurs employés car elle peut faire évoluer leurs tâches : 64% des entreprises interrogées (48% en France) s’accordent à dire que l’IA permet à leurs employés de se concentrer davantage sur des tâches plus stratégiques qu’opérationnelles.
- En revanche, près de 20% des entreprises (35% en France) identifient la « résistance des employés, préoccupés par la sécurité de leur emploi » comme un obstacle qui entrave leurs initiatives IA.
« Comme pour toute nouvelle technologie qui gagne rapidement du terrain, il y aura inévitablement des défis à relever, » déclare Ross Gagnon, directeur de la recherche chez Forbes Insights. « Mais les opportunités offertes par l’IA semblent véritablement infinies, qu’il s’agisse de l’efficacité opérationnelle ou de l’amélioration de la productivité et de la rentabilité. La question que les dirigeants doivent se poser n’est pas de savoir s’il faut ou non déployer l’IA, mais plutôt à quel rythme il convient de procéder. »