L'idée en bref :
LE DÉFI
Alors que l’intelligence artificielle est de plus en plus présente dans les produits, les processus de fabrication et les prises de décisions des entreprises, les discussions autour des risques liés au numérique tournent désormais davantage autour de la manière dont les données sont traitées par les logiciels.
QUEL EST LE PROBLÈME?
Appliquée à mauvais escient et non réglementée, l’IA est susceptible d’accroître les biais contenus dans les données et donc de produire des résultats inéquitables. De plus, les algorithmes sont souvent difficiles à expliquer, ce qui est amplifié par le fait qu’ils se modifient et s’adaptent à mesure qu’ils intègrent de nouvelles données.
COMMENT Y REMÉDIER
Les chefs d’entreprise doivent analyser clairement un certain nombre de facteurs. Pour garantir l’équité des résultats, ils doivent évaluer l’impact de conséquences injustes, la portée des décisions prises, la complexité opérationnelle et les capacités de gouvernance de l’entreprise. Lorsqu’ils fixent des standards de transparence, ils doivent estimer le niveau d’explication requis et les compromis à faire. En contrôlant l’évolutivité de l’IA, ils doivent tenir compte des risques, de la complexité et des interactions entre l’IA et l’humain.
En ce qui concerne le numérique, le public s’est avant tout soucié, durant la majeure partie de la dernière décennie, de la potentielle utilisation abusive des données personnelles. Les gens n’appréciaient pas que les entreprises surveillent leurs activités en ligne et collectent régulièrement leur numéro de carte de crédit, leur adresse et d’autres informations essentielles. Le fait d’être ciblés par des publicités clairement déclenchées par leurs futiles recherches sur le Web les mettait mal à l’aise et ils redoutaient de voir leur identité être usurpée et d’être victimes de fraudes.
Ces inquiétudes ont conduit à l’adoption aux Etats-Unis et en Europe de mesures, notamment le règlement général sur la protection des données (RGPD) de 2018 de l’UE, garantissant aux internautes un certain niveau de contrôle sur leurs données et images personnelles. Bien entendu, ces mesures n’ont pas mis fi n au débat autour de l’utilisation des données personnelles par les entreprises. Pour certains, imposer des limitations dans ce domaine ne peut que nuire à la performance économique de l’Europe et des Etats-Unis par rapport à d’autres pays moins répressifs en la matière, notamment la Chine, dont les géants du numérique ont prospéré grâce à un accès facile et peu réglementé à toutes sortes d’informations personnelles (récemment, cependant, le gouvernement chinois a commencé à brider la liberté des entreprises de ce secteur, comme en témoignent les lourdes amendes infligées à Alibaba). D’autres font aussi remarquer que les preuves abondent montrant que cette réglementation, plus stricte, a sérieusement désavantagé les petites entreprises européennes face à leurs riches concurrentes américaines telles que Google et Amazon.
Mais le débat est en passe d’entrer dans une nouvelle phase. Alors que l’intelligence artificielle est de plus en plus présente dans les produits, les processus de fabrication et les prises de décisions des entreprises, l’attention est à présent davantage portée sur la manière dont les données sont traitées par les logiciels – en particulier par des algorithmes complexes et évolutifs capables de diagnostiquer un cancer, de conduire une voiture ou d’approuver un prêt. L’UE, qui, de nouveau, ouvre la marche (avec son livre blanc de 2020, intitulé « Intelligence artificielle – Une approche européenne axée sur l’excellence et la confiance » et sa proposition de 2021 visant à doter l’IA d’un cadre juridique), considère la réglementation essentielle au développement d’outils à base d’IA en lesquels les consommateurs peuvent avoir confiance.
Quelles seront les conséquences pour les entreprises ? Les recherches que nous avons menées sur la manière de réglementer les algorithmes d’IA et de mettre en oeuvre des systèmes d’IA basés sur les principes clés qui sous-tendent les cadres réglementaires proposés nous ont permis d’aider des entreprises de divers secteurs à lancer et à développer des projets dans ce domaine. Dans les pages suivantes, nous nous appuierons sur ce travail et celui d’autres chercheurs pour évaluer les trois principaux défis qui se posent aux chefs d’entreprise lorsqu’ils intègrent l’IA dans leurs circuits décisionnels et leurs processus tout en s’efforçant de s’assurer qu’elle ne présente pas de danger pour les clients et que ces derniers peuvent lui faire confiance. Nous proposons également un cadre pour guider les dirigeants dans la mise en oeuvre de ces tâches, en nous inspirant en partie de concepts appliqués à la gestion des risques stratégiques.
Résultats inéquitables : les risques liés à l’utilisation de l’IA
Les systèmes d’IA qui produisent des résultats biaisés font la une des médias. Le cas de l’algorithme de la carte de crédit d’Apple accusé de discriminer les femmes, qui a déclenché une enquête du département des services financiers de l’Etat de New York, est bien connu.
Mais le problème prend bien d’autres formes, comme dans les algorithmes des publicités en ligne omniprésentes qui peuvent cibler les individus par origine ethnique, religion ou genre, ou encore dans le système d’Amazon de sélection des CV qui éliminait les candidatures des femmes. Une étude récente publiée dans « Science » a montré que les outils de prédiction des risques utilisés dans le secteur de la santé qui affectent la vie de millions d’Américains chaque année présentent un important biais racial. Une autre, publiée dans le « Journal of General Internal Medecine », a mis en évidence que le logiciel déployé dans les hôpitaux de pointe pour prioriser les bénéficiaires de dons de reins discriminait les patients noirs.
Dans la plupart des cas, le problème trouve son origine dans les données utilisées pour entraîner l’IA. Si celles-ci sont biaisées, alors l’IA reproduira ces biais et pourra même les amplifier. Ainsi, après avoir entraîné avec des tweets un chatbot devant interagir avec des utilisateurs de Twitter, Microsoft a dû le désactiver le lendemain de sa mise en service à cause de ses messages racistes incendiaires. Malgré tout, éliminer des informations démographiques telles que l’origine ethnique ou le genre des données servant à entraîner l’IA n’est pas forcément la solution, étant donné que, dans certains cas, ces mêmes données permettent de corriger des biais.
En théorie, en faisant en sorte que tous les résultats répondent à certains standards, une notion d’équité devrait pouvoir être intégrée dans le code du logiciel. Amazon expérimente ainsi un indicateur d’équité dénommé « inégalités démographiques conditionnelles » et d’autres entreprises développent des indicateurs similaires. La difficulté, c’est qu’il n’existe aucune définition de l’équité sur laquelle tout le monde s’accorde et il n’est pas non plus possible de définir de façon catégorique les conditions générales capables de produire des résultats équitables. De plus, dans une situation donnée, les parties prenantes peuvent avoir des avis très différents sur ce qu’ils considèrent comme équitable. En conséquence, toute tentative d’intégrer une telle notion dans un logiciel s’avère périlleuse.
Confrontés à des résultats biaisés, les organismes de réglementation se sont avant tout appuyés sur la législation standard de lutte contre les discriminations, ce qui fonctionne tant que des individus peuvent être tenus responsables de décisions problématiques. Cependant, comme l’IA occupe une place de plus en plus prépondérante, la responsabilité individuelle se voit diluée. Pire, l’IA accroît l’ampleur potentielle des biais : tout défaut est susceptible d’impacter des millions d’individus, exposant ainsi les entreprises à des recours collectifs d’envergure historique et mettant leur réputation en danger.
Que peuvent faire les dirigeants pour pallier de tels problèmes ?
Pour commencer, avant de prendre la moindre décision, ils doivent approfondir leur compréhension des enjeux ; pour ce faire, quatre facteurs doivent être évalués :
L’impact des décisions. Certains algorithmes prennent ou influent sur des décisions dont les conséquences sur la vie des gens sont directes et conséquentes. Par exemple, ils posent des diagnostics médicaux, sélectionnent des candidats à l’embauche, approuvent des demandes de prêt immobilier ou même suggèrent des peines de prison. Dans ces cas-là, il vaut sans doute mieux ne pas recourir à l’IA ou, tout du moins, subordonner ses recommandations au jugement d’un humain.
Cette dernière approche appelle tout de même une réflexion approfondie. Imaginez qu’un juge accorde une remise en liberté anticipée à un délinquant contre l’avis de l’IA et que cette personne commette un crime violent. Le juge serait sous pression pour expliquer pourquoi il a ignoré la recommandation de l’IA. En accroissant la part de responsabilité des décisionnaires humaines, l’IA peut donc inciter ces derniers à s’en remettre aux algorithmes plus souvent qu’ils ne le devraient.
Cela ne signifie cependant pas que l’IA n’est pas utile dans des contextes à fort impact. Les entreprises qui s’en remettent à des humains pour prendre des décisions auront toujours besoin de s’assurer que ces dernières ne sont pas guidées par des biais plus ou moins conscients, ce que l’IA peut aider à déceler. Amazon a ainsi décidé de ne pas utiliser l’IA comme outil de recrutement, mais comme aide à l’identification des défauts de son processus de recrutement en cours. Ce qu’il faut retenir, c’est que l’équité dans la prise de décision d’un algorithme par rapport à celle d’un humain doit être bien évaluée avant de décider d’avoir recours ou non à l’IA.
La nature et le périmètre des décisions. Les études montrent que le degré de confiance dans l’IA varie selon le type de décisions pour lesquelles elle est employée. Quand une tâche est perçue comme relativement mécanique et circonscrite – par exemple, lorsqu’il s’agit d’optimiser un emploi du temps ou d’analyser des images –, le logiciel est jugé au moins aussi fiable que des humains.
Mais quand les décisions sont jugées subjectives ou que les variables changent (comme c’est le cas avec les décisions de justice où les circonstances atténuantes varient d’un délinquant à un autre), les gens font davantage confiance au jugement humain, notamment parce qu’ils sont capables d’empathie. Cela montre que les entreprises doivent communiquer avec beaucoup de prudence sur la nature et le périmètre des décisions qu’elles confient à l’IA et qu’elles justifient en quoi cette dernière est préférable au jugement humain dans ces cas précis. Dans nombre de situations, cet exercice est assez simple, même lorsque les décisions sont lourdes de conséquences. Par exemple, lorsqu’il s’agit de confier à une machine le soin de poser un diagnostic à partir d’une image médicale, les gens comprennent facilement les avantages d’un logiciel entraîné avec des milliards de données précises par rapport à un humain qui n’a pu en traiter que quelques milliers.