Jeter les bases d’une intelligence artificielle responsable

L’intelligence artificielle (IA) apparaît comme la technologie déterminante de notre époque, nous permettant d’accomplir des choses que nous n’aurions jamais cru possibles. Toutefois, avant de pouvoir profiter en toute sécurité des bénéfices de ce type de technologie, il reste des défis essentiels à résoudre, dont le principal est le développement d’une IA responsable. En effet, la création de machines intelligentes qui imitent les capacités humaines transforme radicalement les interactions homme- machine, en faisant appel à des algorithmes capables de prendre en compte les besoins, les perceptions, les comportements et les attentes de l’être humain. « Comment concevoir ces interactions de façon responsable ? », telle est la question au cœur du programme scientifique du Pr. Gopal Ramchurn. Plus précisément, ses recherches visent à relever les principaux défis techniques et pratiques pour le développement d’agents intelligents et de systèmes d’apprentissage automatique responsables. L’objectif global du projet est double : expliquer les méthodologies et algorithmes sous-jacents à cette technologie et apporter un éclairage aux communautés juridiques et aux compagnies d’assurance en définissant la gamme des risques auxquels les systèmes IA exposent les organisations et les utilisateurs.

« Ces dernières années ont vu une progression significative du développement des approches d’apprentissage automatique avec de nombreuses réussites dans des domaines spécifiques tels que les jeux et la prédiction de séries chronologiques pour la surveillance du trafic, l’épidémiologie et les applications de réponse aux catastrophes », explique le chercheur. « De fait, l’évolution dans ce domaine au cours de ces dix dernières années a été trop rapide pour ceux qui utilisent, exploitent et contrôlent des systèmes qui finissent par utiliser des solutions basées sur l’IA. » Afin d’illustrer cet écart entre théorie et application, le Dr Ramchurn utilise l’exemple des drones autonomes, l’un des principaux domaines sur lequel son étude se fondera. « L’Autorité de l’Aviation Civile britannique a eu bien des difficultés à établir les règles des vols impliquant des drones entièrement autonomes, a fortiori des flottes de drones ! ». « De tels systèmes sont, par conséquent, susceptibles de connaître de graves pannes qui peuvent impacter négativement les organisations qui les dirigent, mais, surtout, les utilisateurs finaux.. » « Prenons, par exemple, Uber. Lorsque le système a été conçu, les chauffeurs n’ont pas suffisamment été pris en compte. S’ils veulent gagner décemment leur vie, ils doivent travailler de nombreuses heures et sans aucune sécurité de l’emploi. La technologie peut changer complètement un secteur et avoir un impact négatif sur des vies », souligne-t-il. « Améliorer les systèmes après coup n’est pas satisfaisant. Ces enjeux doivent être pris en compte en amont. » C’est l’objet de ce programme de recherche : bâtir une méthodologie pour garantir que les futurs algorithmes seront plus responsables.

Permettre à l’IA et aux humains de travailler main dans la main

Son programme se focalisera sur deux domaines d’applications essentiels : l’utilisation de drones pour répondre aux catastrophes et l’utilisation de systèmes IoT pour la conservation de l’énergie dans les maisons intelligentes. « En nous basant sur les nombreux résultats existants que nous possédons sur ces deux types de systèmes d’IA, nous allons essayer d’exposer des méthodes qui permettent à ces systèmes d’IA de comprendre ce qui se passe autour d’eux et de prendre des décisions dignes de notre confiance », explique le Dr Ramchurn. Parmi les enjeux du projet, se trouvent la conception d’algorithmes prenant en compte les risques auxquels les autres sont exposés, les principes de conception garantissant des interactions intelligibles, équitables et durables, le respect de la vie privée ou encore le développement d’une « responsabilité » au sein du raisonnement des systèmes d’apprentissage automatique. Pour répondre à ces questions, le Dr Ramchurn, dans son programme de recherche, collabore avec des experts venant de différents domaines : psychologues sociaux, ethnographes, spécialistes des interactions homme/machine, experts juridiques.

Les scientifiques sont constamment à la recherche de nouveaux moyens pour réduire l’écart entre l’homme et la machine. Par le passé, cet effort a conduit à l’invention des claviers, de la souris et des écrans tactiles. Aujourd’hui, avec l’IA, les interactions sont devenues infiniment plus complexes. « De nouvelles questions se posent, comme l’égalité entre les hommes et les machines au sein d’une équipe, par exemple. » Avec les nouvelles technologies de l’IA qui sont sur le point de voir le jour, il est urgent d’apporter des réponses sur la façon d’assurer des interactions harmonieuses entre l’homme et l’ordinateur. En visant à développer une méthodologie pour une IA responsable, les recherches du Dr Ramchurn abordent des questions qui vont bientôt avoir une importance capitale. Dans ce sens, ce projet se rapproche étroitement des projets existants financés par AXA, parmi lesquels ceux du Professeur Christophe Marsala, du Professeur Maurizio Filippone et du Dr Joanna Bryson.