Das kollaborative Forschungsprojekt MAMMOTH von IDnow, das Wege zur Bekämpfung von Vorurteilen in Systemen zur Gesichtsverifizierung erforscht, endet im Herbst 2025. Im Folgenden teilen wir eine Zusammenfassung der bisherigen Ergebnisse und eine Erläuterung, was diese für eine inklusivere Zukunft der Identitätsprüfung bedeuten könnten.
Die Gesichtsverifizierung hat sich für Unternehmen als unverzichtbares Mittel erwiesen, um die Identität ihrer Kunden schnell und sicher zu überprüfen. Ihre weite Verbreitung hat mehrere Gründe, darunter erhöhte Sicherheit, reduzierte Betriebskosten und verbesserte Nutzererfahrungen.
Was ist Gesichtsverifizierung und wann wird sie eingesetzt?
Bei der Gesichtsverifizierung handelt es sich um eine Form der biometrischen Technologie, bei der die einzigartigen Merkmale eines Gesichts genutzt werden, um eine Identität zu bestätigen. Im Rahmen der Remote-Identitätsprüfung wird dazu ein digitales Bild des Gesichts einer Person aufgenommen, oft in Echtzeit, und mit dem Identitätsfoto aus einem eingereichten Ausweisdokument abgeglichen.
Bei der Gesichtsverifizierung wird ein einzelnes Gesicht mit einem gespeicherten Referenzbild abgeglichen, während bei der Gesichtserkennung ein Gesicht mit vielen gespeicherten Bildern abgeglichen wird. Die Gesichtserkennung dient dazu, eine Person aus einer Gruppe von Personen zu identifizieren.
In Kombination mit Liveness-Erkennung, 3D-Tiefenanalyse und KI-gestützter Mustererkennung kann die Gesichtsverifizierung sowohl Ausweisdokumente als auch die dahinterstehende Person verifizieren. Dadurch werden Kontoübernahmen, künstlicher Identitätsbetrug und Identitätsdiebstahl drastisch reduziert, während gleichzeitig ein nahtloses Kundenerlebnis geschaffen wird.
Vom Onboarding bei einer Bank bis zur Sicherheitskontrolle am Flughafen kann die Gesichtsverifizierung zeitaufwändige Identitätsprüfungen in reibungslose und vertrauenswürdige Prozesse verwandeln.
Über ihre kommerziellen Vorteile hinaus bietet die Gesichtsverifizierung erhebliche soziale und wirtschaftliche Vorteile. Sie ist besonders transformativ in Regionen, in denen viele Menschen keine traditionellen Ausweisdokumente besitzen. Sie bietet einen einfachen Weg, um die Identität zu überprüfen und Zugang zu Dienstleistungen zu gewährleisten.
Trotz ihrer weiten Verbreitung weisen viele Systeme zur Gesichtsverifizierung jedoch immer noch Leistungsdefizite bei bestimmten demografischen Gruppen auf, beispielsweise bei Menschen mit dunklerer Hautfarbe.
So ergab eine Studie des MIT Media Lab aus dem Jahr 2019, dass die Fehlerrate bei der Gesichtsverifizierung für weiße Männer lediglich 0,8 % betrug, während sie bei Frauen mit dunklerer Hautfarbe auf 34,7 % anstieg.
Diese demografische Voreingenommenheit ist nicht nur ein technischer Fehler, sondern untergräbt auch das Recht auf gleichberechtigten Zugang zu wesentlichen digitalen Diensten wie dem Eröffnen von Bankkonten oder der Anmeldung bei Sozial- oder Gesundheitsdiensten.
Ein MAMMOTH-Projekt in Angriff nehmen.
Gemeinsam mit zwölf europäischen Partnern – darunter akademische Einrichtungen, Verbände und private Unternehmen – machte sich IDnow im Jahr 2022 daran, diese Barrieren der Voreingenommenheit abzubauen.
Das von der Europäischen Exekutivagentur für Forschung der Europäischen Kommission finanzierte Projekt hatte zum Ziel, bestehende Verzerrungen zu untersuchen und ein Toolkit für KI-Ingenieure, -Entwickler und -Datenwissenschaftler bereitzustellen, damit sie Vorurteile in Datensätzen und Algorithmen besser erkennen und abmildern können.
Im April 2025 nahm ich am MAMMOTH-Webinar über die Beseitigung visueller Vorurteile bei der biometrischen Identitätsprüfung teil, um einige der Ergebnisse des Projekts vorzustellen und zu erörtern, wie Voreingenommenheit bei der Gesichtsverifizierung entsteht und was dagegen getan werden kann.
Gemeinsam mit Ioannis Sarridis, Deep-Learning-Forscher am Centre for Research and Technology Hellas, Dr. Miquel Pérez Torres, Bildungsentwickler an der Universität Groningen, sowie Dr. Francisco Hernández, Postdoktorand und Dozent an der Universität Groningen, war ich bestrebt, eine Lösung für dieses sehr reale Problem der digitalen Welt zu finden.
Was ist das Problem? Vorurteile der Hautfarbe bei der Identitätsprüfung.
Moderne Modelle zur Gesichtsverifizierung, die mit herkömmlichen Datensätzen trainiert wurden, weisen bei Personen mit dunkleren Hauttönen eine signifikant höhere Fehlerrate auf. Dies liegt an der Unterrepräsentation von Minderheiten in öffentlichen Datensätzen. Dieser Mangel an Vielfalt in den Daten erschwert es den Modellen, bei unterrepräsentierten Gruppen gut zu funktionieren. Das Ergebnis sind höhere Fehlerraten für Menschen mit dunkleren Hauttönen. Dies unterstreicht die dringende Notwendigkeit gezielter Lösungen, um demografische Ungleichgewichte in Trainingsdaten anzugehen.
Was ist die Lösung? Die Macht der Repräsentation.
Die Sicherstellung, dass Modelle zur Gesichtsverifizierung mit einem ausgewogenen Datensatz von Bildern trainiert werden, die Merkmale aufweisen, die in öffentlichen Datensätzen typischerweise fehlen, verbessert die Leistung der Modelle erheblich. Da Personalausweisfotos beispielsweise Farbanpassungen durch die ausstellenden Stellen – etwa Regierungen – durchlaufen können, spielt der Hautton eine wichtige Rolle, insbesondere, wenn die Kalibrierung nicht für dunklere Hauttöne optimiert ist.
Eine solche Fehlkalibrierung kann insbesondere bei Personen mit dunklerer Hautfarbe zu Inkonsistenzen zwischen dem aufgenommenen Selfie-Bild und dem Erscheinungsbild der Person auf dem Ausweisfoto führen.
Dies zeigt, dass das Training mit einem demografisch ausgewogenen, realen Datensatz, der die spezifischen Merkmale und Variabilität von Ausweisbildern widerspiegelt, eine genauere und fairere Erkennung von Personen mit dunkleren Hauttönen gewährleistet.
Um dieses Problem zu lösen, schlug IDnow vor, eine „Style-Transfer“-Methode zu verwenden, um neue Ausweisfotos zu generieren, die natürliche Variationen und Inkonsistenzen in realen Daten nachahmen. Durch die Erweiterung des Trainingsdatensatzes mit synthetischen Bildern wird nicht nur die Modellrobustheit durch Exposition gegenüber einem breiteren Spektrum an Variationen verbessert, sondern es wird auch eine weitere Reduzierung der Voreingenommenheit gegenüber dunkleren Gesichtern ermöglicht.
Verschiedene Experimente mit öffentlichen und proprietären Datensätzen aus der realen Welt zeigen, dass sich die Genauigkeit modernster Modelle zur Gesichtsverifizierung durch die vorgeschlagene Feinabstimmung um 8 % verbessert, während nur 25 % der ursprünglichen Trainingsdaten benötigt werden. Dabei konnte die Genauigkeitslücke zwischen den verschiedenen Hautton-Gruppen um mehr als 50 % reduziert werden, was letztendlich zu einem faireren System der Gesichtsverifizierung führt.
Durch die Integration der Erkenntnisse aus dem MAMMOTH-Projekt konnten wir das IDnow-Gesichtsverifizierungssystem verbessern, um ethnisch vielfältige Märkte in Europa und darüber hinaus besser bedienen zu können.
Eine künstliche Lösung für ein reales Problem.
Da biometrische Systeme zur Gesichtsverifizierung in verschiedenen Branchen zunehmend global eingeführt werden, ist es entscheidend, sicherzustellen, dass diese Systeme für alle Personen, unabhängig von Hautfarbe, Geschlecht oder Alter, genau und fair sind. Durch die Erstellung ausgewogener, ausweisspezifischer Trainingsdatensätze und die Anwendung künstlicher Datenaugmentierungstechniken wie „Style Transfer” können wir Vorurteile erheblich reduzieren und die Robustheit dieser Modelle verbessern.
Selbst der größte technologische Durchbruch wird jedoch ohne einen rechtlichen Rahmen, der die Einhaltung ethischer Standards gewährleistet, nicht ausreichen, um eine langfristige soziale und wirtschaftliche Wirkung zu erzielen. Wir sind stolz auf unsere Arbeit zur Reduzierung von Vorurteilen in Gesichtsverifizierungssystemen und hoffen, dass solche Leitlinien zum Standard in globalen Vorschriften, wie dem EU-KI-Gesetz, werden.
Wenn Sie einen tieferen Einblick in die Ergebnisse des MAMMOTH-Projekts erhalten möchten, schauen Sie sich das vollständige Webinar an.
Im Rahmen des MAMMOTH-Projekts wurde sichergestellt, dass alle erforderlichen Sicherheitsmaßnahmen zum Schutz der Daten befolgt wurden und international anerkannte Standards und Datenschutzbestimmungen, einschließlich der DSGVO, eingehalten wurden.
Das MAMMOTH-Projekt wurde von der Europäischen Union unter der Grant Agreement ID 101070285 gefördert. Die geäußerten Ansichten und Meinungen sind jedoch ausschließlich die des Autors und spiegeln nicht unbedingt die der Europäischen Union oder der Europäischen Kommission wider. Weder die Europäische Union noch die Bewilligungsbehörde können hierfür verantwortlich gemacht werden.
Von
Dr Elmokhtar Mohamed Moussa
Research Scientist, Biometrics Team bei IDnow
Jetzt mit Elmokhtar auf LinkedIn vernetzen
