Gigarbeiter haben Google und dem Pentagon unwissentlich geholfen, eine KI für Drohnen zu erstellen

Die Zukunft der künstlichen Intelligenz und des Krieges klingt schwindelerregend hochtechnisch, aber das ist nicht immer der Fall. Die Wahrheit, für mindestens ein Multimillionen-Dollar-Startup in San Francisco und seine Kunden Google und das US-Militär, ist, dass der Aufbau einer hochmodernen KI anscheinend eine Gruppe von altmodischen Menschen betrifft, die durch Berge von Daten schleifen, oft ohne zu wissen, woran sie arbeiten.

Google stellte Gigarbeiter von einem „Human-in-the-Loop“-Unternehmen für maschinelles Lernen namens Figure Eight ein, um bei der Entwicklung der umstrittenen Project Maven-Initiative des Unternehmens zu helfen, einem Projekt mit dem U.S. Defense Department zur Entwicklung eines Programms für künstliche Intelligenz zur Analyse von Drohnenmaterial, so ein Montagsbericht des Intercept.

Diese Arbeiter hatten keine Ahnung, dass sie entweder für Google oder das US-Militär arbeiten, sagte Will Pleskow, der Account-Manager von Figur Acht, angeblich dem Intercept. Gig-Mitarbeiter auf einer solchen Crowdsourcing-Plattform können bis zu 1 $ pro Stunde für „Mikroaufgaben“ verdienen, als Teil eines Modells namens „Human-in-the-Loop“, das darauf ausgelegt ist, dass Menschen Aufgaben übernehmen, bei denen Computer typischerweise ausfallen.

Project Maven kam erstmals im vergangenen Jahr ans Licht, als CPORT über die Partnerschaft von Google mit dem US-Verteidigungsministerium berichtete, um ein KI-Programm zur Analyse von Drohnenmaterial aufzubauen. Google entschied sich gegen eine Vertragsverlängerung nach öffentlichem Aufschrei und einem Feuersturm unter den Mitarbeitern, als sie von dem Projekt erfuhren. Tausende von Google-Mitarbeitern unterzeichneten eine Petition, in der Google aufgefordert wurde, den Vertrag zu kündigen, und Dutzende von Mitarbeitern traten aus dem Unternehmen aus.

Obwohl Google-Beamte die Beteiligung des Unternehmens am Project Maven verteidigten und die Arbeit als minderwertig bezeichneten, zeigten E-Mails, die von CPORT überprüft wurden, dass die Google-Führungskräfte eine große Chance für ein Wachstum in der Möglichkeit lukrativer Geschäfte mit dem Pentagon und Projekten sahen, die letztendlich zu einem hochmodernen KI-gestützten System führen könnten, das in der Lage ist, ganze Städte zu überwachen.

Die Tatsache, dass Google den seltenen Schritt unternahm, Pentagon-Verträge im Wert von hoffentlich bis zu 250 Millionen Dollar zu unterstützen, die größtenteils auf Mitarbeiterrevolte zurückzuführen sind, macht es noch erstaunlicher, dass das Unternehmen eine unbestimmte Anzahl von Gig-Arbeitern hatte, die mit dem Aufbau des Drohnen-KI-Programms beauftragt waren, die nicht wussten und nicht wissen konnten, was sie bauten. Diese Geheimhaltung ist von vornherein festgelegt.

Die Google-Mitarbeiter, die sich gegen Project Maven gewehrt haben, sind typischerweise die traditionellen und relativ wohlhabenden technischen Mitarbeiter, die mit dem Silicon Valley verbunden sind. Es sind die im Allgemeinen ärmeren und weniger unterstützten Gig-Arbeiter auf der ganzen Welt – Tech-Arbeiter in ihrem eigenen Recht -, die wenig Möglichkeiten haben, die Giganten des Silicon Valley zu kennen oder zu beeinflussen, für die sie indirekt arbeiten.

„Den Mitwirkenden der Plattform Figure Eight wird nicht mitgeteilt, wem die Daten zugute kommen werden“, sagte ein ehemaliger Mitarbeiter der Menge vor dem Intercept. „Normalerweise bekommen sie einen Grund dafür, warum sie eine Aufgabe erledigen, wie z.B. „Zeichne Kästen um ein bestimmtes Produkt herum, um Maschinen zu helfen, es zu erkennen“, aber sie bekommen nicht die Firma, die die Daten empfängt.“ Laut Figure Eight’s Pleskow wissen die Menschen, die „Mikroaufgaben“ für das Unternehmen erledigen, selten, welche Art von Programm sie ausbilden.

„Human-in-the-Loop (HITL) ist ein Zweig der künstlichen Intelligenz, der sowohl menschliche als auch maschinelle Intelligenz nutzt, um maschinelle Lernmodelle zu erstellen“, erklärt das Marketingmaterial von Figure Eight. „In einem traditionellen Human-in-the-Loop-Ansatz sind Menschen in einen positiven Kreis eingebunden, in dem sie einen bestimmten Algorithmus trainieren, abstimmen und testen.“ Meredith Whittaker, eine Forscherin am NYU’s KI Now Institute, sagte, die Geschichte illustrierte „Kernfragen“ über die Zukunft der KI.

Nach den sehr öffentlichen Turbulenzen über die Beteiligung des Unternehmens am Pentagon veröffentlichte Google einen aktualisierten Satz ethischer Grundsätze der künstlichen Intelligenz, der das Versprechen enthält, „den Menschen gegenüber rechenschaftspflichtig zu sein“. Auf die Frage, ob sich dieses Prinzip in Zukunft auf diese Art von Blindarbeit auswirken würde, antwortete das Unternehmen nicht.

Der Vertrag mit Google Project Maven endet irgendwann im Jahr 2019. Das Unternehmen reagierte nicht auf die Aufforderung von CPORT zur Stellungnahme oder Fragen zum genauen Zeitplan des Vertrags. Abbildung Acht hat auch keine Antworten auf Fragen gegeben.