Bereits 2016 baute Microsoft eine Datenbank mit mehr als 10 Millionen Bildern mit rund 100.000 Menschen auf. Heute hat die Financial Times berichtet, dass Microsoft diese Datenbank mit dem Namen MS Celeb leise aus dem Internet gelöscht hat. Vor seiner Löschung war MS Celeb der größte öffentliche Gesichtserkennungsdatensatz der Welt. Es wurde angeblich als „Promi“ bezeichnet, um anzudeuten, dass die Gesichter im Datensatz von Persönlichkeiten des öffentlichen Lebens stammten.
Der Fang ist, so die Financial Times, dass viele der im Set vorgestellten Personen nicht um ihre Zustimmung gebeten wurden.
Stattdessen wurden ihre Bilder durch Scraping von Bild- und Videosuchen über die Creative Commons-Lizenz aufgenommen. (Unter der Lizenz können Sie Fotos für die akademische Forschung wiederverwenden. Und das Thema der Fotos gewährt nicht unbedingt die Lizenz, der Urheber tut es.) Die Financial Times fand jedoch heraus, dass der Set Gesichter von Privatpersonen und Sicherheitsjournalisten enthielt, darunter Kim Zetter, Adrien Chen und Julie Brill, eine ehemalige FTC-Kommissarin, unter anderem.
„Die Website war für akademische Zwecke gedacht“, sagte Microsoft der Financial Times. „Es wurde von einem Mitarbeiter geleitet, der nicht mehr bei Microsoft ist und inzwischen entfernt wurde.“
Leider ist es nicht ganz so einfach. Das MS Celeb Set wurde von mehreren Unternehmen verwendet, darunter IBM, Panasonic, Alibaba, Nvidia und Hitachi. Es wird auch von Sensetime und Megvii verwendet. Diese beiden Unternehmen sind Lieferanten für chinesische Beamte in Xinjiang, wo Gesichtserkennungstechnologie und künstliche Intelligenz eingesetzt wurden, um Minderheitengruppen wie Uiguren und Muslime zu verfolgen und einzusperren.
Sensetime wurde Ende 2018 auf mehr als 4,5 Milliarden US-Dollar geschätzt, und seine Systeme SenseTotem und SenseFace werden von verschiedenen chinesischen Polizeibehörden eingesetzt. Megvii hat kürzlich 750 Millionen Dollar in der Serie D gesammelt, und seine Face++-Technologie wurde tatsächlich in einem Bericht von Human Rights Watch als Anbieter für die Integrated Joint Operations Platform zitiert – eine Polizei-App, die in Xinjiang eingesetzt wird. Die Gruppe änderte dann jedoch ihren Bericht, dass das Face=++-Konto im IJOP-Code nie aktiv genutzt worden sei.
In einem Bericht der New York Times leugneten beide Unternehmen die direkte Kenntnis davon, dass ihre Software zur rassistischen Profilierung von Minderheiten in China eingesetzt wird.
Es ist unklar, ob der MS Celeb-Datensatz definitiv eine Rolle bei Versuchen gespielt hat, ein rassistisches Profil im Xinjiang-Programm zu erstellen, und wenn ja, wie entscheidend der Datensatz bei der Entwicklung dieser Technologie war. Die Forscher von MegaPixel behaupten jedoch, dass Microsoft die Kontrolle darüber, wer den Datensatz tatsächlich verwendet hat, deutlich verloren hat. Eine Grafik zeigt, dass China sowohl 2018 als auch 2019 die Liste der Länder anführt, die MS Celeb in den Zitaten der Datensätze verwenden.
Microsoft selbst hat sich gegen den Einsatz solcher Technologien als eine Form der staatlichen Überwachung ausgesprochen. In einem Blog vom Dezember 2018 forderte Microsoft die Unternehmen auf, Sicherheitsvorkehrungen zu treffen und die Regierungen auf, die Gesichtserkennungstechnologie zu regulieren. In dem Blog wurde auch das Potenzial für Regierungen anerkannt, die Gesichtserkennung zu missbrauchen.
Anfang April lehnte Microsoft Berichten zufolge auch die Bitte einer kalifornischen Strafverfolgungsbehörde ab, Gesichtserkennungstechnologie in Officers‘ Autos und Körperkameras zu installieren, da dies unverhältnismäßig große Auswirkungen auf Frauen und Minderheiten haben würde.
Die Einwände und guten Absichten von Microsoft gehen jedoch nur soweit. Die FT stellte fest, dass der MS Celeb-Datensatz immer noch für alle akademischen Institutionen oder Unternehmen verfügbar ist, die ihn zuvor heruntergeladen haben, und er wird immer noch auf GitHub, Dropbox und Baidu Cloud geteilt. CPORT wandte sich an Microsoft zur Stellungnahme, erhielt aber nicht sofort eine Antwort.