- Gesichtserkennungssysteme sind biometrische Technologien, die die Gesichtsmerkmale einer Person erfassen, um ihre Identität zu überprüfen oder sie in einer Gruppe, an einem Ort oder in einer Datenbank zu lokalisieren. Die dabei verwendete Technologie hat die Art und Weise, wie Menschen identifiziert werden können, verändert und den Prozess wesentlich effizienter gemacht. Anwendungen wie Snapchat nutzen sie, um Gesichtsfilter anzuwenden, sie kann zum Entsperren Ihres Telefons verwendet werden, und einige Flughäfen testen derzeit Gesichtserkennungstechnologien, um Passagiere vor dem Einsteigen zu identifizieren. Sie kann aber auch zu Überwachungszwecken missbraucht werden, sei es zur Verfolgung von Personen auf der Straße, zur Überwachung von Protesten oder für geschäftliche Zwecke – der Einsatz von KI nimmt zu.
- Infolgedessen hat die Gesichtserkennungstechnologie viele Debatten und Kontroversen ausgelöst. Im Entwurf des Gesetzes über künstliche Intelligenz, der im April 2021 veröffentlicht wurde, schlug die Europäische Kommission vor, die öffentliche Nutzung der Gesichtserkennungstechnologie in gewissem Umfang einzuschränken. Das Europäische Parlament forderte im Oktober 2021 ein Verbot dieser Technologie. Der Europäische Datenschutzbeauftragte und der Europäische Datenschutzausschuss veröffentlichten 2021 eine gemeinsame Stellungnahme zum KI-Gesetz, in der sie ein Verbot der biometrischen Fernüberwachung an öffentlichen Orten fordern. Menschenrechtsorganisationen haben den Einsatz dieser Technologie im öffentlichen Raum kritisiert und warnen regelmäßig vor ihren Gefahren. Viele setzen sich für ein Verbot ein.
- Warum gibt es so viele Bedenken? Was können wir dagegen tun? Werfen wir einen genaueren Blick auf die wichtigsten Bedenken.
- Gesichtsbilder sind extrem leicht zu sammeln, da man an öffentlichen Orten von Kameras gefilmt werden kann. Das größte Problem besteht darin, dass kein Sicherheitssystem absolut sicher ist. Stellen Sie sich vor, es gibt eine Datenbank mit Ihrem Foto oder Ihrer Adresse. Wenn diese Datenbank gehackt wird und eine böswillige Person Zugriff darauf erhält, könnte sie diese für Identitätsdiebstahl, Raub oder Belästigung missbrauchen. Stalker könnten beispielsweise Bilder rückwärts suchen, um persönliche Informationen über eine Person, wie beispielsweise ihre Adresse, zu sammeln. Sie könnten Ihr Bild auch verwenden, um sich online als Sie auszugeben und Menschen zu betrügen, und die Polizei könnte denken, dass Sie die Person dahinter sind.
- Biometrische Datenbanken werden häufig von Polizeibehörden und Regierungen sowie von beliebten Websites und Anwendungen verwendet, die Daten über unsere Gesichter oder andere biometrische Merkmale wie unsere Fingerabdrücke speichern. Als Clearview AI, ein berüchtigtes Unternehmen für Gesichtserkennung, das unter anderem US-Strafverfolgungsbehörden Zugang zu seiner Datenbank verkaufte, erklärte US-Senator Edward Markey: „Wenn Ihr Passwort geknackt wird, können Sie es ändern. Wenn Ihre Kreditkartennummer gestohlen wird, können Sie Ihre Karte sperren lassen. Aber biometrische Informationen wie Ihre Gesichtsmerkmale können Sie nicht ändern.“
- Umfrageergebnisse zeigen, dass diese Technologie, wie alle anderen auch, nicht immun gegen voreingenommene Urteile ist. Sie erkennt weiße Männer leichter als Frauen oder andere ethnische Gruppen. Im Jahr 2018 traten 35 % der Fehler bei der Gesichtserkennung bei der Identifizierung von Frauen mit dunkler Hautfarbe auf, gegenüber 1 % bei weißen Männern. Diese Verzerrung konnte durch Schulungen im Laufe der Zeit verringert werden, ist aber immer noch vorhanden und sehr schwer vollständig zu beseitigen.
- Diese Fehlalarme können zu falschen Verhaftungen führen. Nijeer Parks beispielsweise wurde 2019 in den USA wegen angeblichen Ladendiebstahls und versuchter Körperverletzung eines Polizisten mit einem Auto verhaftet. Er war aufgrund der Gesichtserkennung falsch identifiziert und zu Unrecht festgenommen worden. Der Fall wurde schließlich eingestellt, aber es dauerte ein Jahr, einschließlich 10 Tagen im Gefängnis und 5000 Dollar für die Rechtsverteidigung. Darüber hinaus könnte die Verwendung biometrischer Daten zum Zwecke der Klassifizierung nach bestimmten Kriterien den Weg für Profiling ebnen, was aufgrund bewusster oder unbewusster Vorurteile im Justizsystem zu Diskriminierung und falschen Verurteilungen bestimmter Gruppen führen könnte.
- Schließlich nutzen bestimmte Regime diese Technologie, um Minderheiten ins Visier zu nehmen, wie im Fall der chinesischen Regierung, die die Gesichtserkennungssoftware von Huawei zur Identifizierung von Uiguren einsetzte. Einem internen Testbericht zufolge war das verwendete System angeblich in der Lage, in einer Menschenmenge das Alter, das Geschlecht und die ethnische Zugehörigkeit jeder Person zu identifizieren und dann einen Alarm auszulösen, der jedes Mitglied der uigurischen Gemeinschaft an die Polizei meldete. Huawei soll die Server, Kameras und andere Tools bereitgestellt haben.
- Die Art und Weise, wie Gesichtserkennungstechnologie eingesetzt wird, ist von Natur aus invasiv und eingreifend. In der heutigen Form erfolgt die Datenerfassung ohne Zustimmung oder Wissen der betroffenen Personen: So kann man beispielsweise beim Spazierengehen auf der Straße gefilmt werden.
- Ohne Einwilligung und sogar ohne Wissen aufgezeichnet und überwacht zu werden, ist eine klare Verletzung der Privatsphäre und Freiheit des Einzelnen. Es nimmt einem die Gewissheit, sich frei bewegen und handeln zu können, ohne ständig beobachtet und überwacht zu werden. Beobachtet zu werden verändert unser Verhalten und beeinträchtigt unser Wohlbefinden. Ein solcher Blick kann das Gefühl hervorrufen, ständig von anderen beobachtet zu werden, was zu erhöhtem Stress und verringertem Vertrauen zwischen den Menschen und der Regierung führen kann. Wenn Menschen befürchten, dass ihre täglichen Interaktionen und Gespräche überwacht werden, könnten sie es vermeiden, die Regierung zu kritisieren, aus Angst, dass ihnen oder ihren Angehörigen etwas zustoßen könnte.
- Die Überwachung von Menschen aufgrund der Annahme, dass sie in Zukunft etwas Illegales tun könnten, ist auch ein Verstoß gegen die Unschuldsvermutung. Die Strafverfolgungsbehörden könnten jemanden anders behandeln, aufgrund einer vermuteten zukünftigen Schuld, die nicht bewiesen werden kann.
- Gesichtserkennungstechnologie ist bedenklich, da sie zu einem biometrischen Massenüberwachungsinstrument werden kann. Überwachung, insbesondere bei Demonstrationen, schränkt die Meinungsfreiheit ein und schreckt von Aktivitäten wie politischem Aktivismus ab. Diese Instrumente werden zur Überwachung der Bevölkerung und in Ländern, in denen Kritik an der Regierung nicht toleriert wird, zur Verhaftung von Regierungsgegnern eingesetzt. In den USA hat die Nichtregierungsorganisation Electronic Frontier Foundation aufgedeckt, dass die Polizei von San Francisco Live-Zugriff auf über 400 Kameras erhalten hat, um Demonstranten während der Proteste im Jahr 2020 auszuspionieren. Wenn bestimmte Technologien vorhanden sind, können sie missbraucht werden, was auch häufig der Fall ist.
- Ebenso schränkt der Einsatz von Gesichtserkennungstechnologie das Recht auf Anonymität ein. Menschen erwarten auch in der Öffentlichkeit ein gewisses Maß an Anonymität und möchten nicht, dass ihr Gesicht mit Fakten, Handlungen oder Daten über sie in Verbindung gebracht wird, die online verfügbar sind. Nicht jederzeit anonym zu sein, ist umso gefährlicher, wenn es dank Technologie möglich ist, zu erkennen, mit wem Menschen in Verbindung stehen und aus welchen Gründen.
- In einem Artikel von VICE erklärte Joshua Franco, Senior Research Advisor und stellvertretender Direktor von Amnesty Tech bei Amnesty International: „Die durch Überwachung hervorgerufene Angst und Unsicherheit hemmen Aktivitäten mehr als jede Maßnahme der Polizei, [...] wenn man sich beobachtet fühlt, übt man Selbstkontrolle aus, und das verdrängt Menschen aus dem öffentlichen Raum.“
- Transparenz ist wichtig, weil sie eine bessere Kontrolle darüber ermöglicht, wie Ihre Daten verarbeitet werden: Sie können beispielsweise sicherstellen, dass Unternehmen die Gesetze einhalten und Ihre individuellen Rechte respektieren, indem Sie überprüfen, ob die Informationspflichten eingehalten werden oder ob Sie Zugang zu Ihren personenbezogenen Daten haben. Ist dies nicht der Fall, können Sie eine Beschwerde bei der Aufsichtsbehörde einreichen. Ohne Transparenz können Unternehmen ohne Ihr Wissen mit Ihren personenbezogenen Daten tun, was sie wollen, und die Menschen wissen nicht, wer ihre biometrischen Daten besitzt und zu welchem Zweck. Menschen könnten gezielter Werbung, Profiling usw. ausgesetzt sein oder ihre Daten könnten an Dritte verkauft werden. Ein Beispiel hierfür ist das oben erwähnte Unternehmen Clearview AI, das ohne Zustimmung der Betroffenen Bilder von Menschen im Internet gesammelt und zur Erstellung einer Datenbank verwendet hat, die dann von privaten Unternehmen genutzt wurde. Nach zwei Jahren Rechtsstreit einigte sich Clearview AI mit der American Civil Liberties Union darauf, den Verkauf seiner biometrischen Datenbank an private Unternehmen und Einzelpersonen in den Vereinigten Staaten dauerhaft einzustellen.
- Wenn die Gesichtserkennungstechnologie ungehindert weiter verbreitet wird, könnten sich die Menschen daran gewöhnen und sie könnte zur Norm werden. Es besteht die Gefahr, dass solche Maßnahmen bestehen bleiben und mit der Zeit immer häufiger eingesetzt werden. Der Raum für Bürgerrechte würde dann aus allen zuvor genannten Gründen zunehmend schrumpfen, wenn die Überwachung institutionalisiert würde.
- Im Jahr 2011 führten A. Acquisti und sein Team mehrere Experimente durch, um die potenziellen Gefahren der Gesichtserkennungstechnologie in der Zukunft aufzuzeigen. Im ersten Experiment verwendeten sie diese Technologie, um öffentliche Facebook-Profilbilder und Profilbilder von Dating-Websites abzugleichen. Sie konnten viele Personen identifizieren, selbst wenn diese in ihrem Dating-Profil nur ihren Vornamen oder ein Pseudonym verwendet hatten. In einem anderen Experiment nahmen sie Webcam-Fotos von Studenten auf und verglichen diese mit ihren Facebook-Profilen. Sie konnten etwa ein Drittel von ihnen identifizieren. Dies lässt eine Zukunft ahnen, in der wir alle von jedem mit einem Smartphone erkannt werden können; ein Stalker könnte Ihre persönlichen Daten finden und sie verwenden, um Sie zu verfolgen.
- Wie uns das letzte Jahrhundert gezeigt hat, schreitet die technologische Entwicklung exponentiell voran. Die Möglichkeit, jemanden auf der Straße zu identifizieren, könnte zur Norm werden – 2021 entwickelte die Polizei im Vereinigten Königreich eine App für Mobiltelefone, mit der gesuchte Personen in Echtzeit über eine Gesichtserkennungs-App identifiziert werden können. Auf YouTube wurden Videos veröffentlicht, die zeigen, wie man sein eigenes Gesichtserkennungssystem erstellen und Personen in der Öffentlichkeit mithilfe von Gesichtserkennungstechnologie identifizieren kann.
- Welche Lösungen gibt es? Zunächst sollte die Erhebung, Speicherung und Weitergabe biometrischer Daten vollständig transparent sein, indem den Menschen die Möglichkeit gegeben wird, auf ihre Daten zuzugreifen und diese zu kontrollieren, und indem sie erfahren können, wer die Daten verarbeitet. Die Menschen sollten eine klare und vor allem informierte Einwilligung geben können, bevor ihre biometrischen Daten in eine Datenbank aufgenommen werden und bevor jemand auf diese Daten zugreifen kann.
- Eines der Hauptprobleme ist hier die mangelnde Regulierung. Zwar werden zunehmend mehr Rechtsvorschriften ausgearbeitet, doch ist der derzeitige Rechtsrahmen unzureichend und zwischen den Ländern ungleich, um eine wirksame Kontrolle dieser Technologie zu erreichen. Viele Länder haben keine diesbezüglichen Rechtsvorschriften, und diejenigen, die solche Vorschriften haben, sind noch relativ unvollständig. In Europa gibt es mit der DSGVO eine relativ strenge Regelung, die jedoch nur unzureichend durchgesetzt wird. Darüber hinaus gilt die DSGVO nicht für Strafverfolgungsbehörden.
- Die Öffentlichkeit ist sich der Probleme im Zusammenhang mit dem Datenschutz zunehmend bewusst. Die Bedenken hinsichtlich der Gesichtserkennungstechnologie sind jedoch noch wenig bekannt, da ihre Erfassung und Verwendung in unserem Alltag „unsichtbar“ ist. Die Nutzer müssen in dieser Frage wachsamer und besser informiert sein, um gesellschaftliche Veränderungen zu erreichen.
- Dieses allgemeine Bewusstsein sollte in Unternehmen, Behörden und allen anderen Institutionen, die Gesichtserkennungstechnologie einsetzen, verankert werden. Jede dieser Ei
- nrichtungen sollte über eigene Sicherheitsexperten für diesen Bereich sowie über spezielle Sicherheitsprotokolle und Mitarbeiterschulungen verfügen. Organisationen, die öffentlich zugängliche Daten speichern, sollten proaktive Maßnahmen zum Schutz vor Missbrauch ergreifen, beispielsweise durch die Beschränkung des Zugriffs auf sensible Datenbanken.
- Weiterführende Literatur:
- Gesichtserkennung: Vor- und Nachteile
- Sind Entscheidungsalgorithmen immer richtig, fair und zuverlässig oder NICHT?
- 10 Auswirkungen künstlicher Intelligenz auf unseren Alltag
- Bildnachweis: Christopher Burns/Unsplash
- Bild
Was sind die größten Datenschutzbedenken im Zusammenhang mit Gesichtserkennungstechnologie?
1. Unsachgemäße Datenspeicherung
2. Missbrauch von Daten
3. Verletzung der Privatsphäre des Einzelnen
4. Verletzung der Meinungs- und Versammlungsfreiheit
5. Mangelnde Transparenz
Die Transparenz bei der Erhebung, Verwaltung und Löschung von Daten ist in der EU in der Praxis noch immer zu gering; gegen Unternehmen oder Institutionen werden häufig Sanktionen wegen mangelnder Erfüllung der Informationspflichten verhängt. Die DSGVO verlangt prägnante, transparente, verständliche und leicht zugängliche Informationen für die betroffenen Personen (Art. 12, 13, 14). So ist es beispielsweise in vielen Fällen, in denen Gesichtserkennung zum Einsatz kommt, unmöglich, die Datenerheber und -verarbeiter zu identifizieren, da man möglicherweise gar nicht weiß, dass man erfasst wird. Und selbst wenn sie identifiziert werden, bleiben der Umfang der erhobenen Daten und der Zweck, für den sie verwendet werden, möglicherweise unbekannt. Darüber hinaus können betroffene Personen solche Daten nicht abrufen, berichtigen, kontrollieren oder löschen, wenn sie nicht wissen, dass sie existieren.
6. Es könnte zur Normalität werden
7. Neue Fortschritte könnten sie für alle zugänglich machen
