Ausschneiden geclusterter Datenpunkte, um Gesichtserkennungsverzerrungen zu reduzieren, erklärt im AFRL-Vortrag

Obwohl es im öffentlichen Diskurs über Voreingenommenheit bei der Gesichtserkennung viele „harte Schlagmänner“ gibt, sind Missverständnisse über die Natur des Problems und seinen Ursprung weit verbreitet, heißt es in einem aktuellen Vortrag im Rahmen der virtuellen Gesprächsreihe des Applied Face Recognition Lab .

John Howard, leitender Datenwissenschaftler des Identity and Data Sciences Laboratory der Maryland Test Facility, ging in einem Vortrag mit dem Titel „Verzerrungen bei der Gesichtserkennung von Menschen und Maschinen verstehen und abschwächen“ näher auf das Thema ein.

Während viele Beobachter, darunter viele, die in den Bereichen Informatik und maschinelles Sehen tätig sind, die Rolle von Daten als Ursache für Verzerrungen bei der Leistung biometrischer Algorithmen betonen, weist Howard darauf hin, dass es viele mögliche Quellen gibt.

„Ich denke auch, dass die bloße Schuldzuweisung an die Daten, ehrlich gesagt, eine Möglichkeit ist, wahrscheinlich anspruchsvolleren und interessanteren Problemen auszuweichen“, erklärt Howard. Dies ist eine attraktive Tendenz, da sie zu einer Lösung führt, an die Datenwissenschaftler gewöhnt sind und mit der sie sich wohlfühlen; die Aufnahme weiterer Daten.

Verlustfunktion, Bewertungsverzerrung und die Art und Weise, wie Menschen mit Maschinen umgehen, seien wichtig für ein umfassenderes Verständnis des Problems der Verzerrung bei der Gesichtserkennung, argumentiert Howard. Das letztgenannte Problem umfasst Projektionsbias, Bestätigungsbias und Automatisierungsbias. Mit anderen Worten: Menschen neigen dazu, von Maschinen zu erwarten, dass sie sich wie sie verhalten, ihre Überzeugungen bestätigen und Ergebnisse liefern, die nicht überprüft werden müssen.

Das Gesicht sei eine weniger ausgereifte biometrische Modalität als Fingerabdruck und Iris, sagt Howard, und aus den beiden älteren Modalitäten der „großen Drei“ könnten möglicherweise Lehren gezogen werden. „Einzigartige Probleme“ können jedoch durch Elemente entstehen, die für die Gesichtsmodalität einzigartig sind.

Die falschen Übereinstimmungen, die beispielsweise durch Iris-Erkennungsalgorithmen erzeugt werden, überschneiden sich häufig zwischen Geschlecht und ethnischer Zugehörigkeit, während dies bei Gesichtserkennungsalgorithmen nicht der Fall ist. Dies macht es für Menschen schwieriger, Fehler beim Gesichtsabgleich zu erkennen, obwohl in jedem Fall die gleiche Terminologie („falscher Übereinstimmungsfehler“) verwendet wird.

Howard überprüfte mehrere Forschungsarbeiten, die zeigten, wie unterschiedlich die Vorurteile sind. Der Automatisierungsbias ist gering und zeigt sich im Idealfall vor allem dann, wenn Menschen unsicher sind. Wenn die Umstände weniger ideal sind, beispielsweise wenn Menschen Masken tragen, ist es wahrscheinlicher, dass Menschen der Beurteilung durch einen Computer den Vorzug geben.

Er überprüfte auch die Auswirkung der „breiten Homogenität“ und die Ergebnisse des FRVT Teil 3 des NIST, der die Verzerrung von Algorithmen auf individueller Basis bewertet.

Letztendlich enthalten Gesichter zwar ähnliche oder „gruppierte“ Daten basierend auf demografischen Merkmalen, doch Howard betont, dass die Forschung zeigt, dass es möglich ist, bestimmte Datenpunkte auszuwählen, die kein Clustering aufweisen, um die Fehler durch falsche Übereinstimmungen zu reduzieren, die insbesondere bei der Gesichtsbiometrie zu einer Verzerrung führen wenn ein Mensch auf dem Laufenden ist. Denn die Algorithmen liefern Kandidatenlisten, die plötzlich eher denen der Fingerabdruck- und Iriserkennung ähneln. Der richtige Kandidat ist in vielen Fällen für das menschliche Auge offensichtlich.

Genauigkeit | biometrische Voreingenommenheit | Biometrie | Gesichtserkennung | Maryland Test Facility (MdTF)

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahren Sie, wie Ihre Kommentardaten verarbeitet werden.