Ende Juli schickte der Gesetzgeber einen Brief, in dem er nach Details zu Rekognition suchte, der hauseigenen Gesichtserkennungssoftware von Amazon. Amazon schrieb im August höflich zurück, aber nach dieser immer ungeduldigeren Gruppe von Kongressteilnehmern hat das Unternehmen „nicht genügend Antworten gegeben“.
Die anfängliche Untersuchung wurde um einen schädlichen ACLU-Bericht herum geplant, der ergab, dass Rekognition-Software, die das Unternehmen an die Strafverfolgungsbehörden verkauft und zur Verwendung durch Immigration and Customs Enforcement-Hat, fälschlicherweise die Gesichter von 28 Mitgliedern des Kongresses mit Personen abgleichte, die in einer Datenbank mit Mugshots enthalten waren. Gegen den Einsatz dieser potenziell fehlerhaften Software sprachen auch die Mitarbeiter von Amazon, die im Juni einen Brief an das Management unterzeichneten, in dem sie forderten, dass sie Rekognitionsverträge mit Strafverfolgungsbehörden kündigen.
Viele dieser Bedenken der Mitarbeiter wurden von den Kongressleuten Markey, Schakowsky, Jayapal, Khanna, Chu und Lewis geteilt, die in ihrem heutigen Schreiben schrieben, dass sie Bedenken hinsichtlich der „Genauigkeitsprobleme“ der Anerkennung und der Wahrscheinlichkeit hatten, dass sie „unverhältnismäßige Belastungen für die Farbgemeinschaften“ mit sich bringen würden.
Amazon hat öffentlich weitgehend über die möglichen negativen Auswirkungen seiner Gesichtserkennungssoftware geschwiegen. Wie erstmals von CPORT berichtet, ging Andy Jassy, CEO von Amazon Web Services, auf einem All-Hand-Meeting Anfang des Monats auf die Bedenken der Mitarbeiter ein, bei dem er die Allgemeinen Geschäftsbedingungen der Software als zentrale Barriere für den möglichen Einsatz bei der Durchsetzung von Bürgerrechten nannte.
Vermutlich würde Amazon die Software von Unternehmen widerrufen, die sie missbrauchen – obwohl die VP von AWS Teresa Carlson in einer Linie, die sie sicher verfolgen wird, erklärte, dass „wir oft nicht alles wissen, was (Kunden sind) tatsächlich das Tool benutzt“, auf dem diesjährigen Aspen Security Forum.
Auf der re:Invent-Konferenz von Amazon gestern sagte Jassy: „Obwohl wir keinen gemeldeten Missbrauchsfall hatten, sind wir uns sehr bewusst, dass die Menschen in der Lage sein werden, mit diesen Diensten Dinge zu tun, die Schaden anrichten könnten“. Amazon verkauft diese potenziell schädliche Software weiterhin, unabhängig davon.
Gesetzgeber schlossen heute den Brief mit vier spezifischen Fragen über die Funktionsweise und Verzerrung von Rekognition, und sie geben Amazon eine strenge Antwortfrist vom 13. Dezember. Den vollständigen Text finden Sie hier.