Socio-économie & Nouvelles technologies
Intelligence artificielle & Technologies émergentes

Big Data

Défis sociétaux

Prise de décision, biais & équité

IA éthique & Innovation responsable

Discrimination & Droits humains

Post-Doctoral Fellowships

Germany

Intelligence artificielle : quel cadre légal européen pour éviter les cas de discrimination et d’exploitation ?

Le domaine de l'intelligence artificielle (IA) progresse à une allure exponentielle. Les algorithmes de Machine Learning sont désormais capables de trier et d'interpréter une immense quantité de données, et promettent d'apporter des bénéfices considérables aux entreprises et à l'économie en général. Cependant, l'adoption rapide de ces outils ne va pas sans présenter des risques importants, en particulier celui de la discrimination et de l’exploitation des faiblesses. “Cette thématique de recherche attire de plus en plus l'attention dans les domaines des sciences de l'informatique et de l'économie, mais la littérature juridique n’en fait pas encore suffisamment cas”, explique le Dr Philipp Hacker, de l’université de Humboldt, à Berlin. Des exemples de discrimination et de tentatives d’exploitation ont déjà pu être observés dans le fonctionnement de systèmes de Machine Learning, et il est désormais devenu essentiel de s’attaquer aux problèmes de la réglementation. Ce projet a pour objectif d’analyser la manière dont la législation européenne répond actuellement à de tels risques, et d’envisager des outils de réglementation novateurs.

Les algorithmes de Machine Learning (ML) permettent l’extrapolation rapide de schémas à partir d'une large base de données. De nos jours, les entreprises collectent d’énormes quantités de données clients afin de proposer à chaque individu toujours plus de produits sur mesure. « Mais ce ciblage n’est pas sans risque. Le projet est né du constat que les différenciations obtenues au moyen du Machine Learning ne sont pas bénignes ; au contraire, certaines doivent être considérées comme illégitimes », comme l’explique le Dr. Philipp Hacker. A titre d’exemple, il mentionne le cas récent d’un concours de beauté organisé au moyen d’un Agent Intelligent (AI), qui s’est avéré discriminer contre les femmes de couleur. « Imaginez l’ampleur que ce genre de partialité peut avoir sur des décisions concernant les demandes de crédits, par exemple ». L’autre risque auquel ce projet s’efforce de répondre est l’exploitation de la notion de vulnérabilité cognitive. Dans la mesure où les offres contractuelles proposées par les algorithmes sont de plus en plus adaptées aux caractéristiques individuelles, il y a un risque sérieux que les contrats soient ajustés non seulement en fonction des préférences, mais également des faiblesses cognitives éventuelles révélées par les données. Cela peut bénéficier aux entreprises, mais c’est une “violation des règles fondamentales de l’impartialité”. D’où la nécessité de prendre des dispositions légales. « La confiance est une autre raison pour laquelle nous devons agir contre ces risques ». De tels abus entament la confiance accordée aux systèmes de Machine Learning, qui suscitent déjà une certaine méfiance. « La confiance dans les systèmes avec lesquels nous interagissons au quotidien, qu’il s’agisse d’institutions politiques ou de systèmes technologiques, est l’une des ressources les plus importantes de nos sociétés. Elle est en train de s’éroder à un rythme dangereux ».

Comment adapter le cadre juridique européen aux défis futurs

La question que pose le Dr. Philipp Hacker est la suivante : comment offrir aux gens l’assurance que les algorithmes de Machine Learning sont capables de prendre des décisions équitables et fiables sur le plan juridique ? Afin d’apporter une réponse pertinente, le chercheur entend procéder par étapes successives, en commençant par se poser les questions concernant le cadre doctrinal proposé par la législation européenne en vigueur : les stratégies de régulation actuelles sont-elles efficaces ? Quelles sont leurs limites ? Le projet pourra, ensuite, s’attaquer à la question de nouveaux outils de régulation en vue de remédier aux lacunes de ceux déjà existants. Deux stratégies principales seront examinées : une législation personnalisée, et ce que l’on pourrait appeler ‘des règles de codification fondées sur des principes’. La première stratégie utilise le Machine Learning pour détecter la vulnérabilité potentielle de la personne concernée afin, par la suite, de fournir une protection juridique spécifique ; la seconde injecte directement la réglementation dans des algorithmes en intervenant au cours du processus de codification. « La législation personnalisée permet de « traduire cette technologie en justice » ; et inversement, avec un codage fondé sur des principes, la réglementation est injectée au cœur même de la technologie », résume le Dr Hacker. Chacune de ces deux stratégies présente des avantages et des inconvénients : la première permet notamment une plus grande flexibilité, mais génère ses propres enjeux en matière de protection de la vie privée puisqu’elle implique que les régulateurs, gagnent, eux-aussi, accès aux données des citoyens.

La réglementation de l’économie digitale est l’un des sujets de recherche juridique de pointe les plus pressants. Le projet du Dr. Hacker propose de s’intéresser à un autre sujet que le très discuté enjeu de la protection de la vie privée et de s’attaquer à des sujets qui n’ont, jusqu’à présent, pas bénéficié de suffisamment d’attention, à savoir la discrimination et l’exploitation. Son approche, très novatrice, considère le Machine Learning comme étant à la fois un objet de réglementation et un moyen. Le traitement simultané des risques de discrimination et d’exploitation nourrit de grands espoirs d’enrichissement mutuel pour l’élaboration de nouvelles solutions de réglementation de pointe.