Schmutzarbeit: Wie Menschen zur Optimierung von KI ausgebeutet werden

Tech-Konzerne lagern Daten- und Moderationsarbeit für Künstliche Intelligenz in Regionen in Afrika und Asien aus. Während wir - und insbesondere die großen Unternehmen - davon profitieren, spricht kaum jemand über die katastrophalen Arbeitsbedingungen der Drittfirmen. 

Die Angestellten sind dafür zuständig, die Inhalte von ChatGPT und ähnlichen KI-Programmen zu optimieren. Dabei geht es vor allem darum, sexualisierte, rassistische, missbräuchliche oder andere verbotene Inhalte auszusortieren. Millionen Fotos, Videos und Texte werden von Datenarbeiter:innen gefiltert und gesäubert, damit die KI überhaupt angemessen lernen kann. 

Ohne diese Arbeit würden massenweise toxischer Inhalte bei den Nutzer:innen aufschlagen.  Denn KI-Sprachmodelle saugen in ihrem unstillbaren Datenhunger alles auf, was das Internet zu bieten hat. KI-Unternehmen haben nämlich schon früh auf Quantität statt Qualität gesetzt, um die technologische Weiterentwicklung im gegenseitigen Wettbewerb möglichst schnell voranzutreiben.

Und so kommt es, dass die vermeintlich “schlaue” Künstliche Intelligenz jede Menge menschlicher Hilfe benötigt, um als Endprodukt überhaupt erträglich und brauchbar zu werden. 

“Niedere Dienste” werden ausgelagert

Weil diese Moderations- und Trainingsarbeiten als “niedere Dienste” angesehen werden, finden sie nicht im Silicon Valley in den USA statt, wo die meisten Firmen ansässig sind. Stattdessen wird die Datenarbeit in afrikanische Länder, vor allem nach Kenia, ausgelagert. Auch in Indien findet man sie.

Konzerne wie OpenAI (die Firma hinter ChatGPT) schließen Verträge mit Drittfirmen, die diese Tätigkeiten zu Billigstkonditionen anbieten. Für ein wenig mediales Aufsehen sorgte in den vergangenen Jahren die Firma Sama (ehemals Samasource), die ihren Hauptsitz in San Francisco hat. Ihre Angestellten beschäftigt sie aber überwiegend in Ländern des Globalen Südens. Recherchen des Time Magazine hatten aufgezeigt, dass die Datenarbeiter:innen dort weniger als zwei US-Dollar Stundenlohn bekamen.

Hohe psychische Belastung

Dafür mussten sie in Neun-Stunden-Schichten bis zu 250 Texte mit bis zu 1000 Wörtern lesen und bereinigen, berichten Mitarbeiter:innen. Die Inhalte, die bearbeitet wurden, handelten oft von sexualisierter oder anderer Gewalt, von Tierquälerei oder Suiziden. Sie sind also durchwegs belastend und verstörend. Entsprechende mentale Unterstützung oder Hilfsangebote für die Arbeiter:innen gibt es in aller Regel kaum. Firmen wie Sama behaupten gegenüber Medien zwar gerne, dass es angemessene Angebote gebe, die Berichte vieler Mitarbeiter:innen widersprechen dem aber.

Wie die bittere Realität aussieht, darüber berichtet auch die US-Journalistin Karen Hao in ihrem Buch “Empire of AI”, das tiefe Einblicke in die Entstehung und Führung von OpenAI gibt. Hao reiste im Jahr 2023 in die kenianische Hauptstadt Nairobi und traf dort vier verschiedene Personen, die bei der kritisierten Firma Sama beschäftigt waren. Die Berichte der Betroffenen sind schockierend. Die Folgen der belastenden Arbeiten reichten von Depressionen über Angstzustände bis hin zum Zerbrechen ganzer Familien. 

Strenge Vorgaben und Überwachung

Hinzu kommt, dass die Angestellten auch engmaschig überwacht werden. Sie müssen sich in digitale Systeme einloggen, wo ihre Arbeit streng kontrolliert und dokumentiert wird, berichtet Hao in ihrem Buch. Arbeiten sie zu langsam, gibt es Ärger. Arbeiten sie zu schnell, gibt es ebenfalls Ärger, weil dann unterstellt wird, sie würden beim Filtern und Moderieren betrügen.

Nun sprach die Journalistin Hao als Eröffnungsrednerin auf der Berliner Digitalkonferenz re:publica. Auch dort war die Ausbeutung von Arbeitskräften für US-KI-Konzerne Thema. Man kann die gesamte Keynote hier nachsehen. 

Sama hatte Fehlverhalten zunächst zurückgewiesen. Es folgten Klagen von ehemaligen Mitarbeiter:innen. Schließlich wurde angekündigt, dass sich die Firma aus dem “Moderationsgeschäft” zurückziehen wolle.

Großes Geschäft mit Ausbeutung durch KI

Das große Geschäft mit der Ausbeutung ist dadurch natürlich nicht beendet. Für die Anbieter solcher Filtertätigkeiten ist es schließlich äußerst lukrativ. So soll OpenAI zum Beispiel einen festgelegten Stundensatz von 12,5 Dollar an Sama bezahlt haben. Dass davon meist nur maximal zwei Dollar bei den Arbeiter:innen ankamen, zeigt die Gewinnspanne. Und für die KI-Unternehmen selbst ist die Auslagerung in afrikanische oder asiatische Länder jedenfalls deutlich günstiger, als Arbeitskräfte im Silicon Valley dafür zu beschäftigen. 

Fragt man übrigens ChatGPT zu dem Thema, bekommt man unter anderem folgende Antwort: 

“Ob man das als ‘Ausbeutung’ bezeichnet, ist letztlich eine ethische und politische Bewertung. Kritiker sagen: ja, weil schlecht bezahlte Menschen traumatisierende Arbeit für milliardenschwere KI-Firmen erledigen mussten. Andere argumentieren, dass solche Jobs in den jeweiligen lokalen Arbeitsmärkten zwar hart, aber nicht ungewöhnlich bezahlt seien und dass die Arbeit grundsätzlich notwendig sei.”

Wir sollten ChatGPT unter die Arme greifen und eine klare Bewertung vornehmen: Ja, es handelt sich um Ausbeutung. Nein, man sollte Tech-Milliardäre nicht noch reicher machen, indem man Arbeitskräfte menschenunwürdig behandelt. Darüber sollten wir reden. Daran sollten wir denken, wenn wir die KI das nächste Mal für uns arbeiten lassen.