Éthique de l’IA et des données : 5 principes à considérer

Par Jack Berkowitz

Alors que les entreprises développent leurs propres pratiques d’éthique et que les pays continuent à définir des exigences juridiques, nous sommes au début de la détermination de normes pour l’utilisation éthique des données et de l’intelligence artificielle (IA).

Au cours des 20 dernières années, notre capacité à collecter, stocker et traiter les données a crû de façon importante. Il existe des outils prometteurs qui peuvent nous aider à automatiser les processus, à apprendre les choses que nous ne pouvions voir avant, à reconnaître les tendances et à prédire ce qui va probablement arriver. Puisque notre capacité à faire de nouvelles choses s’est développée rapidement, la technologie s’est principalement concentrée sur ce que l’on peut faire. Aujourd’hui, les entreprises commencent à se demander quelles sont les bonnes choses à faire.

C’est une question qui relève partiellement du domaine législatif mondial, alors que les pays mettent en place de nouvelles exigences pour l’utilisation et la protection des données, surtout en ce qui concerne des renseignements directement ou indirectement liés aux individus. C’est aussi une question éthique à mesure que nous traitons des questions portant sur les biais et la discrimination, et que nous explorons des inquiétudes à propos de la vie privée et les droits d’une personne pour comprendre la façon dont sont utilisées les données qui les concernent.

Qu’est-ce que l’éthique de l’IA et des données?

L’utilisation éthique des données et des algorithmes signifie travailler à faire ce qui est bien en matière de conception, de fonctionnalité et d’utilisation de données en intelligence artificielle (IA).

Il faut évaluer la manière et la raison pour lesquelles les données sont utilisées, en tenant compte des personnes qui y ont et qui devraient y avoir accès, et en anticipant comment les données pourraient être mal utilisées. Il faut se demander quelles données devraient ou ne devraient pas être liées à d’autres données et comment les stocker, les déplacer et les utiliser de façon sécuritaire. Les considérations d’utilisation éthique incluent la confidentialité, les biais, l’accès, les renseignements sur l’identification des personnes, le cryptage, les exigences et restrictions légales ainsi que ce qui pourrait mal tourner.

L’éthique des données signifie qu’il faut poser des questions difficiles sur les risques et les conséquences possibles pour les personnes sur lesquelles portent les données et les entreprises qui utilisent les données. Ces considérations comprennent la manière d’être plus transparent à propos des données auxquelles les entreprises ont accès et ce que celles-ci en font. Il s’agit aussi d’être en mesure d’expliquer le fonctionnement de la technologie, pour que les gens puissent faire des choix éclairés sur comment les données qui les concernent sont utilisées et partagées.

Pourquoi l’éthique est-elle importante en technologie des RH?

La technologie évolue rapidement. On peut créer des algorithmes qui relient et comparent de l’information, voir des tendances et des corrélations, et proposer des prédictions. Les outils basés sur les données et sur l’IA changent les entreprises, notre façon de travailler et nos mandats. Mais on doit aussi faire attention à ne pas tirer de fausses conclusions à partir des données, à augmenter les biais ou à se fier à des opinions d’IA ou à des prédictions sans complètement comprendre ce sur quoi elles se basent.

Nous voulons réfléchir correctement aux données utilisées dans les décisions portant sur le lieu de travail, à la façon dont l’IA et la technologie influencent ces décisions et puis trouver des principes justes sur l’utilisation des données et de l’IA.

Que sont les principes d’éthique des données?

L’éthique, c’est reconnaître des intérêts divergents et envisager ce qui est juste. L’éthique, c’est se poser des questions comme : qu’est-ce qui est important? Qu’est-ce qui est requis? Qu’est-ce qui est juste? Qu’est-ce qui pourrait mal tourner? Est-ce quelque chose que l’on devrait faire?

En essayant de répondre à ces questions, on dégage certains principes communs pour l’utilisation éthique des données et de l’IA.

1. La transparence : ceci inclut de dévoiler la nature des données recueillies, se conformer avec ce qui peut être recueilli et comment est-il permis d’utiliser ces données, quelles décisions sont prises avec l’aide de l’IA et si un utilisateur traite avec des robots ou avec des humains. Ceci signifie également être capable d’expliquer le fonctionnement des algorithmes et ce sur quoi sont basés leurs résultats. De cette façon, on peut évaluer les renseignements qu’ils donnent et les comparer avec les problèmes qu’on essaie de régler. La transparence inclut également la manière dont on informe les gens sur le type de données détenues par une entreprise et dont les données sont utilisées. Parfois, ceci inclut de donner aux gens l’occasion de faire corriger ou supprimer l’information.
2. L’équité : l’IA ne donne pas seulement de l’information. Parfois, elle propose des opinions. Ceci signifie que nous devons réfléchir à la façon dont on utilise ces outils et les informations qu’ils nous donnent. Puisque les données proviennent des humains et les concernent, il est important de chercher des biais dans les données recueillies, quelles règles sont appliquées et quelles questions on pose aux données. Par exemple, si on veut accroître la diversité dans l’embauche, on évitera de se fier uniquement aux outils qui indiquent les personnes ayant bien réussi dans l’entreprise par le passé. Cette seule information donnerait plus ou moins le même résultat, plutôt que plus de diversité. Bien qu’il n’y ait aucun moyen d’éliminer complètement les biais dans les outils créés par et à propos des gens, nous devons comprendre comment les outils sont biaisés afin de pouvoir diminuer et contrer les biais et les corriger pour améliorer notre prise de décision.
3. L’exactitude : les données utilisées en IA devraient être à jour et exactes. Il faut aussi qu’il y ait des moyens de les corriger. Les données devraient aussi être gérées, nettoyées, triées, reliées et partagées avec soin, afin de conserver leur exactitude. Parfois, quand on prend des données hors contexte, elles peuvent sembler trompeuses ou fausses. L’exactitude dépend donc partiellement de la véracité des données et partiellement de leur sens et de leur utilité d’après ce qu’on essaie de faire, ou ce qu’on essaie d’apprendre.
4. La confidentialité : dans certaines cultures, la confidentialité est fondamentale aux droits de la personne et à la dignité. Les lois sur la confidentialité des données au Canada varient selon la région. Un nombre croissant de lois portant sur la confidentialité partout dans le monde reconnaît les droits sur la confidentialité, en lien avec nos noms et ressemblances, nos dossiers financiers et médicaux, nos relations personnelles, nos domiciles et notre propriété. Nous travaillons encore à trouver un équilibre entre la confidentialité et le besoin d’utiliser tant de données personnelles. Les législateurs ont permis des utilisations plus larges des données anonymes plutôt que des données dans lesquelles on sait ou on peut facilement identifier le sujet. Mais à mesure que plus de données sont recueillies et mises en lien, des questions surgissent sur la façon de conserver l’anonymat. D’autres questions sur la confidentialité incluent la sécurité de l’information et ce que les gens devraient savoir sur qui possède des données sur eux et comment elles sont utilisées.
5. La responsabilité : il ne s’agit pas seulement de se conformer aux lois mondiales et aux règlements. La responsabilité porte aussi sur l’exactitude et l’intégrité des sources de données, la compréhension et l’évaluation des risques et des conséquences potentielles liées au développement et à l’utilisation de données et de l’IA, et à la mise en œuvre de processus pour s’assurer que de nouvelles technologies et de nouveaux outils sont créés de façon éthique.

Alors que les entreprises développent leurs propres pratiques d’éthique et que les pays continuent à mettre sur pied des exigences juridiques, nous sommes au début de la détermination de normes pour l’utilisation éthique des données et de l’IA.

ADP travaille déjà sur son éthique de l’IA et des données, en établissant un comité d’éthique de l’IA et des données et en élaborant des principes éthiques personnalisés selon les données, les produits et les services d’ADP. Pour poursuivre notre série sur l’IA et l’éthique, nous parlerons avec chacun des membres de ce comité d’éthique d’ADP à propos des principes directeurs d’ADP en matière d’éthique et sur la façon dont ADP applique ces principes à ses conceptions, à ses processus et à ses produits.

En savoir plus

Nous vous invitons à découvrir cette page Web pour en savoir plus sur la confidentialité chez ADP, notamment comprendre les étapes prises pour protéger les données personnelles dans le monde. Dans cette page Web, vous trouverez nos Énoncés sur la confidentialité, un aperçu de nos Règles d’entreprise contraignantes, notre Programme de confidentialité, ainsi que nos brochures et notre documentation en lien avec la confidentialité.

Lisez cet article (en anglais seulement) : Algorithms and Ethics: What’s in your A.I.?

Cet article est paru à l’origine dans SPARK parrainé par ADP.