Detroit: U-Haft im achten Monat: Hochschwangere wird wegen falscher Gesichtserkennung für Raubüberfall eingebuchtet

Immer wieder warnen KI-Experten vor den Folgen von Gesichtserkennungssoftware. In den USA ist nun erstmals eine Frau wegen einer Falscherkennung verhaftet worden. Und saß mit Wehen in der U-Haft.

Als Mutter von zwei Kindern hochschwanger zu sein, ist eigentlich schon Herausforderung genug. Durch einen Justizirrtum musste die 32-jährige Porcha Woodruff allerdings noch deutlich mehr Leid erleben. Trotz ihrer Schwangerschaft wurde sie wegen des Vorwurfs eines Raubüberfalls und eines Autodiebstahls verhaftet. Weil eine Polizei-KI sie für die Täterin hielt.

Als die Polizei im letzten Februar vor ihrer Tür stand, dachte Woodruff zunächst, dass sie auf den Arm genommen wird, berichtet sie der "New York Times". "Wollt ihr mich veralbern", fragte sie die Polizisten, die vor der Tür ihres Hauses in Detroit standen, als sie gerade ihre Kinder zur Schule bringen wollte. Sie machte auf ihren Schwangerschaftsbauch aufmerksam, versuchte zu erklären, wie absurd die Vorstellung sei, im achten Monat einen Überfall zu begehen. Doch die Polizisten ließen sich nicht überzeugen. In Handschellen wurde sie vor den Augen ihrer Kinder abgeführt.KI Bild des Papst geht viral - und zeigt ein Problem 14.31

Elf Stunden U-Haft

Erst später erfuhr sie den Grund ihrer Verhaftung. Das Detroit Police Department hatte eine Gesichtserkennungs-Software genutzt, die Woodruff in einer Datenbank als Täterin identifiziert hatte. Dem Gericht reichte das offenbar. Nach elf Stunden in Untersuchungshaft durfte Woodruff das Gebäude wieder verlassen – gegen Zahlung von 100.000 Dollar Kaution. Erst Wochen später wurde die Klage aus Mangel an Beweisen wieder fallengelassen.

Wegen ihrer Schwangerschaft war die Belastung für die unschuldig Angeklagte besonders hoch. "Ich habe vor Stress in der Zelle Wehen bekommen. Mein Rücken schmerzte, ich hatte Krämpfe", berichtet sie. Nach der Entlassung habe sie sich entschieden, ein Krankenhaus aufzusuchen. Dort wurde Dehydrierung festgestellt, sie bekam intravenös Flüssigkeit verabreicht. Bis zum Ende der Schwangerschaft habe sie extrem unter der Belastung und den beiden über Videotelefonie geführten Befragungen durch die Polizei gelitten.Wer wird der nächste James Bond? KI-Künstler zeigt, wie potenzieller Nachfolger von Daniel Craig aussehen könnte, 20.30

Bekanntes KI-Problem

Woodruff ist nicht die erste Person, die in den USA wegen Fehlern bei der Gesichtserkennung unschuldig verhaftet wurde. Alleine dem Detroit Police Department passierte das laut der "NYT" bereits dreimal. Allerdings ist Woodruff die erste Frau, bei der eine solche Falscherkennung bekannt wird. Und: Wie in allen anderen bekannten Fällen falscher KI-Erkennung ist sie Afroamerikanerin.

Dass KI-Programme besonders bei Schwarzen fehleranfällig sind, ist ein seit Jahren bekanntes Problem. Da die KI-Programme mit vorgefertigten Datensätzen trainiert werden und Schwarze in der Software-Industrie stark unterrepräsentiert sind, scheinen die Programme bei der Mustererkennung in Gesichtern ein Problem mit dunkleren Hauttönen antrainiert zu haben. Entsprechende Hinweise hatte bereits 2020 eine Studie der US-Eliteuni Harvard klar dargelegt. Durch die Bank weg wurden dort Menschen mit dunklerer Haut und dort besonders Frauen besonders schlecht erkannt.

Gerade im Kontext der Polizei ist das ein besonders schwerwiegendes Problem: Der Großteil der durchschnittlich 125 jährlich vom Detroit Police Department abgerufenen Gesichtserkennungssuchen bezog sich laut dem Transparenzbericht der Behörde auf schwarze Verdächtige. Die Polizeibehörde "hat jeden Grund die Risiken der Nutzung von Gesichtserkennung zu kennen", klagt Clare Garvie, eine Technologie-Expertin bei der Vereinigung der Strafverteidiger gegenüber der Zeitung. "Und es passiert trotzdem."

Klage gegen die Stadt

Der Fall Woodruff beschäftigt die Gerichte nun anderweitig. Das Justizopfer hat wegen ihrer Verhaftung Klage gegen die Stadt eingereicht. Die Vorwürfe seien in der Tat "sehr besorgniserregend", gab der Polizeichef zu Protokoll. Man nehme die Sache sehr ernst. Die Staatsanwältin würde offenbar wieder so handeln. Sie halte die Anklage weiterhin "angesichts der Faktenlage für angemessen", erklärte ihr Büro.

Quelle: New York Times, Harvard-Studie