Comment le dernier projet de recherche collaboratif d’IDnow, MAMMOth, fait du monde connecté un endroit plus sûr et plus juste pour tous ?

Bien que la capacité de l’intelligence artificielle à optimiser et à améliorer l’efficacité des processus soit reconnue, il existe également de réels enjeux quant à la façon dont le traitement biaisé des données peut conduire à des pratiques discriminatoires et à des inégalités.

Chez IDnow, nous exploitons l’IA dans nos algorithmes propriétaires pour automatiser trois tâches essentielles :

1. Capturer et analyser des documents d’identité.

2. Assurer la conformité et l’authenticité des documents.

3. Vérifier l’identité du détenteur du document, notamment grâce à la vérification faciale.

Des recherches menées par IDnow ont révélé des biais démographiques dans les algorithmes de vérification faciale, principalement liés à la sous-représentation de certains groupes ethniques.

Bien qu’une analyse manuelle effectuée après la vérification automatisée puisse rectifier des verdicts erronés, la correction des biais dans les services assistés par l’IA est une priorité pour IDnow, car nous voulons nous assurer que nos clients et leurs utilisateurs ont accès à des outils fiables et équitables.

Lara Younes, Enigneering Team Lead chez IDnow

Pour tenter de faire reculer les discriminations, IDnow collabore depuis environ un an avec 12 partenaires européens, dont des institutions académiques, des associations et des entreprises privées, dans le cadre du projet MAMMOth.

Financé par l’Agence exécutive de la recherche européenne, l’objectif de ce projet de trois ans est d’étudier les biais existants et d’offrir une boîte à outils aux ingénieurs en IA, aux développeurs et aux data scientists afin qu’ils puissent identifier et atténuer les biais dans les ensembles de données et les résultats des algorithmes.

Cette boîte à outils sera traitée sur trois cas d’usage :

L’évaluation des demandes de prêt bancaire.
L’évaluation et la visibilité des travaux de recherche académique. Dans le monde de la recherche, la réputation d’un chercheur est souvent liée à la visibilité de ses articles scientifiques, et au nombre de citations dont il fait l’objet. Des études ont montré que sur certains moteurs de recherche, les femmes et les auteurs provenant de pays ou d’universités moins prestigieux ont tendance à être moins représentés.
La vérification faciale appliquée à la vérification d’identité. IDnow se concentre principalement sur ce troisième cas d’usage, dans le but de mettre en œuvre des méthodes pour atténuer les biais présents dans ses algorithmes.

Faire entendre la voix des minorités.

Afin de fournir un outil qui réponde aux besoins des personnes victimes de préjugés, le projet bénéficie du soutien de chercheurs en sciences sociales de l’UNIBO et de trois associations œuvrant à la promotion de la voix des groupes sous-représentés : IASIS, DAF et DDG. Leur implication dans le projet MAMMOth permet à IDnow de comprendre leurs besoins et leurs attentes.

Grâce à une série de questionnaires et d’ateliers, les partenaires ont recueilli les retours de groupes sous-représentés, en particulier des femmes et des minorités ethniques. Les informations recueillies ont révélé les appréhensions des participants quant à la discrimination pouvant découler des algorithmes de vérification d’identité, soulignant la nécessité de garantir la fiabilité de ces algorithmes avant leur utilisation. Les participants ont également plaidé en faveur d’une supervision humaine sur les décisions prises par les algorithmes.

D’autres craintes portaient sur la divulgation de données personnelles, soulignant la nécessité d’aborder les questions liées à la protection de la vie privée et à la sécurité lors de la mise au point des systèmes.

Il convient également de noter que certains participants ont insisté sur le fait que les contrôles manuels, réalisés par l’humain, pouvaient également être biaisés et qu’une utilisation responsable de l’IA pouvait réduire ce risque.

L’IA au service d’un avenir responsable.

Chez IDnow, nous pensons que l’innovation réside dans la recherche de solutions à des problèmes qui n’existent pas encore mais qui auront certainement un impact sur l’avenir. C’est pourquoi nous avons investi massivement dans la recherche et les technologies d’IA.

« Nous sommes fiers de faire partie d’un projet de recherche collaboratif d’une telle importance. Ces études soulignent la nécessité de disposer d’algorithmes de vérification faciale fiables et impartiaux. C’est le défi qu’IDnow et les partenaires de MAMMOth visent à relever au cours des deux années restantes du projet », a déclaré Lara.

Par