Die USA wollen das Altern von Migrantenkindern mithilfe von KI-Gesichtserkennung überwachen

von | 22. Aug 2024

Das US-Ministerium für Innere Sicherheit (DHS) prüft, wie es die Gesichtserkennungstechnologie einsetzen kann, um die Identität von Migrantenkindern bis hin zum Säugling zu verfolgen, wenn sie älter werden, so John Boyd, stellvertretender Direktor des Office of Biometric Identity Management (OBIM) des Ministeriums, dessen Hauptaufgabe darin besteht, künftige biometrische Identitätsdienste für die Regierung zu erforschen und zu entwickeln.

Wie Boyd auf einer Konferenz im Juni erläuterte, lautet die Schlüsselfrage für OBIM: „Wenn wir jemanden aus Panama an der südlichen Grenze im Alter von vier Jahren aufgreifen und ihn dann im Alter von sechs Jahren wieder aufgreifen, werden wir ihn dann erkennen?“

Die Gesichtserkennungstechnologie (FRT) wurde bisher nicht auf Kinder angewandt, vor allem, weil es nur wenige Trainingsdatensätze mit echten Kindergesichtern gibt, die entweder aus qualitativ schlechten Bildern aus dem Internet oder aus kleinen Stichproben mit geringer Vielfalt bestehen. Diese Einschränkungen spiegeln die erheblichen Bedenken hinsichtlich der Privatsphäre und der Einwilligung von Minderjährigen wider.

Nach Angaben des Transactional Records Access Clearinghouse (TRAC) der Universität Syracuse kamen im Jahr 2022, dem letzten Jahr, für das Zahlen vorliegen, 339.234 Kinder an der Grenze zwischen den USA und Mexiko an. Von diesen Kindern waren 150.000 unbegleitet – die höchste jährliche Zahl seit Beginn der Aufzeichnungen. Wenn die Gesichtsabdrücke von auch nur 1 % dieser Kinder in die OBIM-Initiative zur strukturellen Entwicklung des Schädels aufgenommen würden, würde der daraus resultierende Datensatz fast alle bestehenden Datensätze von echten Kindergesichtern, die für die Altersforschung verwendet werden, in den Schatten stellen.

Vor der Veröffentlichung dieses Artikels erklärte Boyd gegenüber MIT Technology Review, dass die Agentur seines Wissens nach noch nicht mit der Datenerfassung im Rahmen des Programms begonnen hat, aber er fügte hinzu, dass er als „leitender Angestellter“ mit seinen Mitarbeitern sprechen müsste, um das zu überprüfen. Er konnte nur bestätigen, dass sein Büro das Programm „finanziert“. Trotz wiederholter Anfragen gab Boyd keine zusätzlichen Informationen. Nach der Veröffentlichung dementierte das DHS, dass es Pläne habe, Gesichtsbilder von Minderjährigen unter 14 Jahren zu sammeln.

Boyd beschrieb die jüngsten „Regelungen“ bei „einigen DHS-Komponenten“ oder Unterbehörden, die Altersbeschränkungen für die Erhebung biometrischer Daten aufgehoben haben. Die US-Zoll- und Grenzschutzbehörde (CBP), die US-Verkehrssicherheitsbehörde (Transportation Security Administration) und die US-Einwanderungs- und Zollbehörde (Immigration and Customs Enforcement) lehnten eine Stellungnahme vor der Veröffentlichung ab. Die US-Einwanderungsbehörde USCIS (US Citizenship and Immigration Services) reagierte nicht auf mehrere Bitten um Stellungnahme. OBIM verwies die MIT Technology Review an die Hauptpressestelle des DHS zurück.

Das DHS hat sich vor der Veröffentlichung nicht zu dem Programm geäußert, aber danach eine Erklärung per E-Mail verschickt: „Das Department of Homeland Security (Ministerium für Innere Sicherheit) verwendet verschiedene Arten von Technologien, um seine Aufgaben zu erfüllen, einschließlich einiger biometrischer Fähigkeiten. Das DHS stellt sicher, dass alle Technologien, unabhängig von ihrer Art, im Rahmen der festgelegten Befugnisse und der gesetzlichen Bestimmungen eingesetzt werden. Wir verpflichten uns, die Privatsphäre, die Bürgerrechte und die bürgerlichen Freiheiten aller Personen zu schützen, die von der Technologie betroffen sein können, die wir einsetzen, um die Sicherheit der Nation zu gewährleisten.“

Später stellte die Behörde fest: „Das DHS sammelt keine Gesichtsbilder von Minderjährigen unter 14 Jahren und hat derzeit auch keine Pläne, dies für operative oder Forschungszwecke zu tun“, und nahm damit Boyds Aussagen zurück.

Boyd sprach öffentlich über den Plan im Juni auf dem Federal Identity Forum and Exposition, einer jährlichen Konferenz zum Identitätsmanagement für Bundesbedienstete und Auftragnehmer. Enge Beobachter des DHS, mit denen wir gesprochen haben – darunter ein ehemaliger Beamter, Vertreter zweier einflussreicher Gesetzgeber, die sich über den Einsatz von Überwachungstechnologien durch die Bundesregierung geäußert haben, und Organisationen für die Rechte von Einwanderern, die die Politik in Bezug auf Migranten genau verfolgen -, wussten jedoch nichts von einer neuen Politik, die die Erfassung biometrischer Daten von Kindern unter 14 Jahren erlaubt.

Das heißt aber nicht, dass sie alle überrascht sind. „Das ist nachvollziehbar“, sagt ein ehemaliger CBP-Beamter, der mehrere Migrantenverarbeitungszentren an der Grenze zwischen den USA und Mexiko besucht hat und um Anonymität bat, um frei sprechen zu können. Er sagt, dass „jedes Zentrum“, das er besuchte, „eine biometrische Identitätserfassung hatte, und jeder durchlief sie“, obwohl er nichts von einer spezifischen Richtlinie wusste, die diese Praxis vorschreibt. „Ich kann mich nicht daran erinnern, dass sie Kinder aussortiert haben“, fügt er hinzu.

„Die Berichte über die Ausweitung des Einsatzes von Gesichtserkennungstechnologien zur Verfolgung von Migrantenkindern durch die CBP und das DHS im Allgemeinen sind ein weiterer Schritt in Richtung Überwachungsstaat und sollten jeden beunruhigen, der Wert auf seine Privatsphäre legt“, sagte Justin Krakoff, stellvertretender Kommunikationsdirektor des Senators Jeff Merkley aus Oregon, in einer Erklärung gegenüber MIT Technology Review. Merkley hat sowohl die Einwanderungspolitik des DHS (vgl. Jeff Merkley) als auch den Einsatz von Gesichtserkennungstechnologien durch die Regierung scharf kritisiert. (Vgl. Jeff Merkley)

Abgesehen von den Bedenken in Bezug auf Datenschutz, Transparenz und Rechenschaftspflicht machen sich einige Experten auch Sorgen über biometrische Technologien, die auf eine Bevölkerung abzielen, die kaum die Möglichkeit hat, ihre Zustimmung zu geben – oder zu verweigern.

„Wenn Sie an einer Grenze ankommen … und vor der unmöglichen Wahl stehen: Entweder Sie kommen in ein Land, wenn Sie uns Ihre biometrischen Daten geben, oder nicht“, sagt Petra Molnar, Autorin von The Walls Have Eyes: Surviving Migration in the Age of AI.

„Das macht eine informierte Zustimmung völlig unmöglich“, fügt sie hinzu.

Diese Frage wird noch schwieriger, wenn es um Kinder geht, sagt Ashley Gorski, eine leitende Anwältin bei der American Civil Liberties Union. „Es gibt einen erheblichen Einschüchterungsfaktor, und Kinder sind nicht so gut in der Lage, langfristige Risiken zu berücksichtigen.

Undurchsichtige neue Regeln

Das Office of Biometric Identity Management, das früher als US-VISIT (US Visitor and Immigrant Status Indicator Technology Program) bekannt war, wurde nach dem 11. September 2001 mit dem ausdrücklichen Auftrag gegründet, biometrische Daten von allen Nicht-US-Bürgern zu sammeln, die in das Land einreisen wollen – zunächst nur Fingerabdrücke und Fotos.

Seitdem hat das DHS damit begonnen, neben anderen Modalitäten auch Gesichtsabdrücke, Iris-Scans und sogar DNA zu erfassen. Es testet auch neue Methoden zur Erfassung dieser Daten, darunter die kontaktlose Erfassung von Fingerabdrücken, die derzeit an fünf Standorten an der Grenze eingesetzt wird, wie Boyd in seinem Konferenzvortrag erläuterte.

Seit 2023 verwendet die CBP eine mobile App, CBP One, (vgl. MIT Technology Review) mit der Asylbewerber bereits vor der Einreise in die Vereinigten Staaten biometrische Daten übermitteln können; die Nutzer müssen in regelmäßigen Abständen Selfies machen, um ihre Identität zu überprüfen. Die App ist mit Problemen behaftet, darunter technische Pannen und Gesichtserkennungsalgorithmen, die dunkelhäutige Menschen nicht erkennen können. (Vgl. The Guardian) Erschwerend kommt hinzu, dass nicht jeder Asylbewerber ein Smartphone besitzt.

Unmittelbar nach dem Grenzübertritt in die Vereinigten Staaten unterziehen sich die Migranten dann der Erfassung weiterer biometrischer Daten, einschließlich der DNA. Um ein Gefühl für die Größenordnung zu bekommen, hat ein aktueller Bericht des Center on Privacy and Technology der Georgetown Law School festgestellt, dass die CBP 1,5 Millionen DNA-Profile, vor allem von Migranten, die die Grenze überquert haben, in die Datenbanken der Strafverfolgungsbehörden aufgenommen hat, seit sie im Januar 2020 gemäß den vom Justizministerium unter der Trump-Administration erlassenen Vorschriften damit begonnen hat, die DNA von „jeder Person in CBP-Gewahrsam, der Fingerabdrücke abgenommen werden“, zu sammeln. Die Forscher stellten fest, dass eine Überrepräsentation von Einwanderern – von denen die meisten „people of color“ sind – in einer von den Strafverfolgungsbehörden genutzten DNA-Datenbank zu übermäßiger Überwachung und anderen Formen von Voreingenommenheit führen könnte.

Im Allgemeinen verlangen diese Programme nur Informationen von Personen im Alter von 14 bis 79 Jahren. Das DHS hat versucht, dies im Jahr 2020 zu ändern, mit vorgeschlagenen Regeln für USCIS und CBP, die die Erfassung biometrischer Daten drastisch ausgeweitet hätten, auch nach Alter. (Die von USCIS vorgeschlagene Regelung hätte die Zahl der Personen, von denen biometrische Daten verlangt werden, verdoppelt, einschließlich aller US-Bürger, die einen Einwanderer unterstützen). Die USCIS-Regelung wurde jedoch im Zuge der neuen Prioritäten der Regierung Biden zum Abbau von Hindernissen und unangemessenen Belastungen im Einwanderungssystem“ zurückgezogen. (Vgl. USCIS) In der Zwischenzeit wurde die vorgeschlagene CBP-Regelung aus noch ungeklärten Gründen nie in Kraft gesetzt. (Vgl. Federal Register)

Dies würde es als „widersprüchlich“ erscheinen lassen, wenn das DHS damit beginnen würde, die biometrischen Daten von Kindern unter 14 Jahren zu sammeln, sagt Dinesh McCoy, ein Mitarbeiter von Just Futures Law, einer Gruppe für die Rechte von Einwanderern, die Überwachungstechnologien verfolgt.

Weder Boyd noch die Pressestelle des DHS wollten bestätigen, auf welche spezifischen Änderungen der Politik er sich in seiner Präsentation bezog, obwohl MIT Technology Review ein Memo aus dem Jahr 2017 identifiziert hat, das vom damaligen Minister für Heimatschutz John F. Kelly herausgegeben wurde (vgl. DHS) und in dem die DHS-Komponenten aufgefordert wurden, „das Alter als Grundlage für die Bestimmung des Zeitpunkts der Erfassung biometrischer Daten abzuschaffen“. Das Office of the Inspector General (OIG) des DHS zitierte einen hochrangigen DHS-Beamten, der das Memo in einem Bericht vom September 2023 als „übergreifende Richtlinie für die Biometrie im DHS“ bezeichnete, obwohl keine der von MIT Technology Review kontaktierten Pressestellen – einschließlich der Hauptpressestelle des DHS, des OIG und des OBIM – offiziell bestätigen wollte, ob dies immer noch die relevante Richtlinie ist; wir waren nicht in der Lage, seitdem irgendwelche diesbezüglichen Änderungen der Richtlinie zu bestätigen.

Die OIG-Prüfung fand auch eine Reihe grundlegender Probleme im Zusammenhang mit der Aufsicht des DHS über die Erhebung und Verwendung biometrischer Daten, einschließlich der Tatsache, dass der 10-Jahres-Strategierahmen für Biometrie, der den Zeitraum von 2015 bis 2025 abdeckt, „den aktuellen Stand der Biometrie im gesamten Ministerium nicht genau widerspiegelt, wie z. B. die Verwendung der Gesichtserkennung zur Überprüfung und Identifizierung“. (Vgl. DHS) Auch enthielt er keine klaren Leitlinien für die einheitliche Erfassung und Verwendung biometrischer Daten im gesamten DHS, einschließlich der Altersanforderungen.

Einige Anwälte behaupten, dass es problematisch wäre, die Altersgrenze für die Datenerfassung durch die Politik des Ministeriums zu ändern und nicht durch eine Bundesvorschrift, die eine öffentliche Kommentierungsfrist erfordert. McCoy sagt zum Beispiel, dass jeder Mangel an Transparenz in diesem Bereich die ohnehin schon „extrem schwierige“ Aufgabe, „systematisch herauszufinden, wie diese Technologien eingesetzt werden“, noch verstärkt – auch wenn dies für die Rechenschaftspflicht entscheidend ist.

Das Feld voranbringen

Auf dem Identitätsforum und in einem anschließenden Gespräch erklärte Boyd, dass die Initiative die Entwicklung effektiver FRT-Algorithmen vorantreiben soll. Boyd leitet das Future Identity Team von OBIM, dessen Aufgabe es ist, „Technologie, Politik und menschliche Faktoren zu erforschen, zu überprüfen, zu bewerten und zu entwickeln, die schnelle, genaue und sichere Identitätsdienste ermöglichen“ und OBIM „zum bevorzugten Anbieter für Identitätsdienste innerhalb des DHS zu machen“.

Angetrieben durch aufsehenerregende Fälle vermisster Kinder besteht seit langem ein Interesse daran zu verstehen, wie Kindergesichter altern. Gleichzeitig gab es dabei technische Herausforderungen, sowohl vor als auch nach der FRT.

Im Kern identifiziert die Gesichtserkennung Personen durch den Vergleich der Geometrie verschiedener Gesichtsmerkmale in einem ursprünglichen Gesichtsabdruck mit späteren Bildern. Auf der Grundlage dieses Vergleichs ordnet ein Gesichtserkennungsalgorithmus eine prozentuale Wahrscheinlichkeit zu, dass eine Übereinstimmung vorliegt.

Aber während Kinder wachsen und sich entwickeln, verändert sich ihre Knochenstruktur erheblich, was es für Algorithmen zur Gesichtserkennung schwierig macht, sie im Laufe der Zeit zu identifizieren. (Diese Veränderungen sind bei Kindern unter 14 Jahren meist noch ausgeprägter. Im Gegensatz dazu sind die Veränderungen bei Erwachsenen eher in der Haut und in den Muskeln zu finden und variieren insgesamt weniger). Mehr Daten würden helfen, dieses Problem zu lösen, aber es mangelt an hochwertigen Datensätzen von Kindergesichtern mit verifizierbarem Alter.

„Wir versuchen, große Datensätze von bekannten Personen zu erhalten“, so Boyd gegenüber MIT Technology Review. Das bedeutet, dass wir hochwertige Gesichtsabdrücke „unter kontrollierten Bedingungen nehmen, bei denen wir wissen, dass wir die Person mit dem richtigen Namen [und] dem korrekten Geburtsdatum haben“ – oder, mit anderen Worten, wo sie sich über die „Herkunft der Daten“ sicher sein können.

Ein für die Altersforschung genutzter Datensatz besteht beispielsweise aus den Gesichtern von 305 Prominenten im Alter zwischen fünf und 32 Jahren. Aber diese Fotos, die aus dem Internet stammen, enthalten zu viele andere Variablen – wie unterschiedliche Bildqualitäten, Lichtverhältnisse und Entfernungen, in denen sie aufgenommen wurden – um wirklich nützlich zu sein. Außerdem kann das tatsächliche Alter der Personen auf den einzelnen Fotos nur geschätzt werden, was das von Boyd hervorgehobene Problem der Herkunft betrifft.

Eine andere Taktik ist die Verwendung von Datensätzen erwachsener Gesichter, die synthetisch entaltert wurden. Synthetische Daten gelten als datenschutzfreundlicher, aber auch sie haben ihre Grenzen, sagt Stephanie Schuckers, Direktorin des Center for Identification Technology Research (CITeR). „Man kann Dinge nur mit den generierten Daten testen“, erklärt Schuckers, aber die Frage bleibt: „Würden Sie ähnliche Ergebnisse wie mit den echten Daten erhalten?“

(Das CITeR, das an der Clarkson University in New York angesiedelt ist, bringt ein Netzwerk von akademischen und staatlichen Partnern zusammen, die an Identitätstechnologien arbeiten. OBIM ist ein Mitglied des Forschungskonsortiums).

Schuckers‘ Team am CITeR hat einen anderen Ansatz gewählt: eine fortlaufende Längsschnittstudie mit einer Kohorte von 231 Grund- und Mittelschülern aus der Umgebung der Clarkson University. Seit 2016 hat das Team alle sechs Monate biometrische Daten erfasst (mit Ausnahme von zwei Jahren während der Covid-19-Pandemie), darunter auch Gesichtsbilder. Sie haben herausgefunden, dass die getesteten Open-Source-Gesichtserkennungsmodelle die Kinder drei bis vier Jahre nach ihrer ersten Erfassung tatsächlich erfolgreich erkennen können.

Die Bedingungen dieser Studie sind jedoch nicht ohne weiteres in großem Maßstab reproduzierbar. Die Bilder der Studie werden in einer kontrollierten Umgebung aufgenommen, alle Teilnehmer sind Freiwillige, die Forscher haben die Zustimmung der Eltern und der Probanden selbst eingeholt, und die Forschung wurde vom Institutional Review Board der Universität genehmigt. Schuckers Forschung verspricht auch, die Privatsphäre zu schützen, indem andere Forscher Zugang beantragen müssen und Gesichtsdatensätze getrennt von anderen gesammelten Daten bereitgestellt werden.

Darüber hinaus hat diese Untersuchung noch technische Einschränkungen, darunter die Tatsache, dass die Stichprobe klein und überwiegend kaukasisch ist, was bedeutet, dass sie bei der Anwendung auf andere Ethnien weniger genau sein könnte.

Schuckers sagt, sie habe nichts von der Initiative des DHS zur strukturellen Schädelentwicklung gewusst.

Weitreichende Implikationen

Boyd sagt, dass OBIM Datenschutzüberlegungen ernst nimmt und dass „wir keine Daten mit kommerziellen Unternehmen teilen“. Dennoch hat OBIM „etwa 140“ Regierungspartner, mit denen es Informationen austauscht und empfängt, wie aus einem Bericht des Government Accountability Office hervorgeht, das OBIM für die mangelhafte Dokumentation seiner Vereinbarungen kritisiert hat.

Selbst wenn die Daten innerhalb der Bundesregierung verbleiben, könnten die Ergebnisse von OBIM bezüglich der Genauigkeit von FRT für Kinder im Laufe der Zeit dennoch beeinflussen, wie – und wann – der Rest der Regierung biometrische Daten sammelt und ob die breitere Gesichtserkennungsindustrie ihre Dienste für Kinder ebenfalls vermarkten darf. (In der Tat sagt Boyd, dass die Weitergabe von „Ergebnissen“ oder der Erkenntnisse darüber, wie genau FRT-Algorithmen sind, etwas anderes ist als die Weitergabe der Daten selbst).

Die Tatsache, dass diese Technologie auf Menschen abzielt, deren Privatsphäre weniger geschützt ist als die von US-Bürgern, ist nur ein Teil des allgemeinen Trends, Menschen aus den Entwicklungsländern – seien es Migranten an der Grenze oder Zivilisten in Kriegsgebieten – zur Verbesserung neuer Technologien einzusetzen.

Boyd hat bereits an der Entwicklung der biometrischen Systeme des Verteidigungsministeriums im Irak und in Afghanistan mitgewirkt und dabei eingeräumt, dass für die Menschen andere Regeln galten als in vielen anderen Zusammenhängen, obwohl dort viel auf dem Spiel stand. (Vgl. National Defense Magazine) Die in diesen Kriegsgebieten gesammelten biometrischen Daten – in einigen Gebieten von jedem Mann im kampffähigen Alter – wurden zur Identifizierung und gezielten Bekämpfung von Aufständischen verwendet, und eine falsche Identifizierung konnte den Tod bedeuten.

Diese Projekte spielten in der Folge eine wesentliche Rolle bei der Ausweitung der biometrischen Datenerfassung durch das Verteidigungsministerium, die inzwischen weltweit erfolgt. Und Architekten des Programms wie Boyd haben eine wichtige Rolle bei der Ausweitung des Einsatzes biometrischer Daten in anderen Behörden übernommen.

„Es ist kein Zufall“, so Molnar, dass diese Entwicklung im Kontext von Grenzgebieten stattfindet. Grenzen sind „das perfekte Labor für technische Experimente, weil die Aufsicht schwach ist und die Entscheidungen nach eigenem Ermessen getroffen werden … Das erlaubt dem Staat, auf eine Weise zu experimentieren, die ihm in anderen Bereichen nicht erlaubt wäre“.

Aber sie merkt an: „Nur weil es an der Grenze passiert, heißt das nicht, dass es dort bleiben wird“.

Quelle: MIT Technology Review

Telegram zensiert nicht! Wenn du diese Information wichtig findest, kannst du Legitim auf Telegram kostenlos abonnieren: hier anmelden (Telegram herunterladen)

Legitim-Newsletter

 

Abonniere den Newsletter,


um die wichtigsten Updates per E-Mail zu erhalten!

Du hast dich erfolgreich angemeldet - danke!