"Dann hat mich die Realität getroffen, die Wahrheit über diese Arbeit"

Bill Mulinya steht auf der Dachterasse seines Wohngebäudes in Nairobi. Foto: Gioia Shah

Gefährliche Inhalte sichten, damit Facebook oder ChatGPT sauber sind – das erledigen oft Jobber in ärmeren Ländern, zu miesen Bedingungen. In Kenia wehren sie sich nun.

50 Sekunden für ein Video, das Nathan Nkunzimana danach nicht mehr loslässt: Pornografie, Krieg, Kindesmissbrauch. Nächstes Video, wieder 50 Sekunden: Mobbing, Tötungen, Hassrede. Stunde um Stunde, jeden Tag, flimmerten solche Bilder vor seinen Augen; zwei Jahre lang arbeitete der 34-Jährige als Content-Moderator für ein Unternehmen in der kenianischen Hauptstadt Nairobi – beauftragt von Facebook, gefährliche Inhalte aus dem sozialen Netzwerk zu entfernen.

Ein paar Hundert Meter weiter, in einem Gebäude derselben Firma, saß Bill Mulinya. Der 30-Jährige leitete ein Team, das täglich seitenweise gewalt- und hasserfüllte Texte las. Genauso toxisch, aber diesmal für einen anderen Kunden: OpenAI. Monate bevor ChatGPT der Weltöffentlichkeit präsentiert wurde, brachten sie dem KI-Chatbot hier bei, welche Antworten als schädlich gelten.

Heute sind Nkunzimana und Mulinya Klienten der kenianischen Staranwältin Mercy Mutemi, die in vielen Fällen für bessere Arbeitsbedingungen der Tech-Angestellten in Kenia kämpft. Die größte Aufmerksamkeit bekommt derzeit eine Klage von 184 ehemaligen Content-Moderatoren, darunter Nkunzimana, gegen den Facebook-Konzern Meta –  der weltweit erste bekannte solche Prozess gegen Meta außerhalb der USA. Der Fall könnte das Outsourcing digitaler Jobs für die Branche grundlegend verändern. Doch er birgt auch Risiken.

Plattformen wie Facebook, TikTok und Instagram lagern ihre Content-Moderation bereits seit Jahren an Subunternehmen in Drittländern aus. Um problematische Inhalte zu sichten und den eigenen Algorithmen beizubringen, was gegen ihre Richtlinien verstößt, werden unzählige Augen gebraucht. Und weil die Milliarden von Nutzerinnen und Nutzern viele verschiedene Sprachen sprechen, braucht es Arbeitskräfte, die diese Sprachen und lokale Nuancen verstehen. Das Auslagern der Content-Moderation ist für die Unternehmen aber auch günstiger und schafft eine Distanz zu rechtlicher Haftung, zumindest in der Theorie. Meta hat nach eigenen Angaben rund 15.000 solcher Gutachter und Gutachterinnen – Festangestellte, Freiberufler und ausgelagerte Mitarbeitende – und kooperiert mit Firmen an 20 verschiedenen Standorten weltweit.

Das ist für Länder im Globalen Süden wie Kenia eine Chance. Es werden Tausende Arbeitskräfte gebraucht, lokale Sprachen sind gefragt, der Standort ist flexibel, die Eintrittsbarriere niedrig. Und die Jobs sind bitter nötig. In dem ostafrikanischen Land sind rund zwei Drittel der 15- bis 34-Jährigen offiziell arbeitslos. Die meisten schlagen sich mit informeller Arbeit durch. So ging es auch Nathan Nkunzimana, der aus Burundi stammt und seit 15 Jahren in Kenia lebt. Während der Corona-Pandemie verlor er seinen Job und brauchte dringend einen neuen, um seine Frau und drei Kinder zu ernähren. Über Content-Moderation wusste er nichts – aber die 60.000 Schilling (rund 360 Euro) im Monat, die ihm das Unternehmen für diese Arbeit zahlt, konnte er nicht ausschlagen.

Psychologische Hilfe durch "Wellness-Teams"

"Dann hat mich die Realität getroffen, die Wahrheit über diese Arbeit", sagt Nkunzimana heute, er hält die geballte Faust vor den Mund, sein Blick verdunkelt sich. In seinem Heimatland Burundi erlebte er als Kind einen Bürgerkrieg. Was er sich nun täglich ansehen musste, habe ihn an diese Zeit erinnert. Die psychologische Unterstützung, die er durch sogenannte Wellness-Teams erhielt, habe ihm nicht wirklich geholfen. Dazu gab es nur wenig Pausen, der Druck war hoch. Nkunzimana wollte den Job deshalb so schnell wie möglich wieder aufgeben – fand aber keinen anderen. Schließlich wurde er Anfang dieses Jahres wie viele andere Mitarbeitende, die in ganz Afrika rekrutiert worden waren, von Sama entlassen.

Nun verklagen Nkunzimana und 183 weitere ehemalige Content-Moderatoren Meta und die Firma Sama. Sie werfen den Unternehmen unrechtmäßige Kündigung und Menschenrechtsverstöße wegen der schlechten Arbeitsbedingungen vor, fordern finanzielle Entschädigung und psychologische Unterstützung. Meta und Sama wollen sich nicht zu laufenden Rechtsstreitigkeiten äußern, beide Unternehmen verteidigen aber die Arbeitsbedingungen. Einen ersten Erfolg haben die Kläger erreicht: Meta argumentierte, rechtlich nicht haftbar zu sein, weil man weder der direkte Arbeitgeber sei noch in Kenia eine offizielle Präsenz unterhalte. Das Gericht entschied, dass Meta dennoch verantwortlich sei – eine womöglich weitreichende Festlegung.

Der Juristin Mercy Mutemi ist das längst nicht genug. Im Auftrag von vier ehemaligen Sama-Mitarbeitern, die wie Bill Mulinya für OpenAI den KI-Chatbot ChatGPT trainiert haben, hat sie im kenianischen Parlament eine Petition eingereicht. Sie fordern von den Abgeordneten, die Auslagerung gefährlicher Tech-Arbeit nach Kenia stärker zu regulieren. Zudem führt Mutemi zwei weitere Klagen gegen Meta und droht auch dem TikTok-Besitzer ByteDance mit einem Verfahren. Das Time Magazine hat die junge Anwältin in diesem Jahr auf seine Liste aufstrebender Persönlichkeiten mit großem Einfluss auf die Zukunft von Wirtschaft, Politik und Gesellschaft gesetzt (Time100 Next).

Mutemi geht es um ein klares Prinzip: Wenn mächtige Tech-Firmen ihre Content-Moderation auslagern, dürfen sie Länder wie Kenia nicht ausbeuten. "Es ist falsch, aus der hohen Arbeitslosigkeit Profit zu schlagen und anzunehmen, die Menschen werden sich nicht beschweren, weil sie arm sind", sagt sie. "So viel von einem Land zu profitieren und dann zu sagen, das Gesetz trifft nicht auf mich zu." Sie fordere nicht viel, lediglich einen adäquaten Mindeststandard, an den sich Firmen halten müssen. Und Anerkennung für die wichtige und gefährliche Arbeit, die Menschen wie Nathan Nkunzimana oder Bill Mulinya leisten.

Bill Mulinya sieht vor allem die Subunternehmen in der Verantwortung. Der junge Mann hat schon für mehrere solcher Dienstleister gearbeitet, die derzeit zuhauf in Kenia entstehen und im Auftrag internationaler Internetfirmen tätig sind. Immer geht es um Klickarbeit. In seiner rund 40 Quadratmeter großen Wohnung am Rande von Nairobi sitzt Mulinya in diesen Tagen an seinem Computer und prüft Rechnungen für eine Plattform, die Nutzern beim Ausgabenmanagement hilft – eine harmlose Arbeit im Vergleich zu der Content-Moderation, die er bei Sama für OpenAI gemacht hat. In seinem Team von 40 Leuten dort konnte er die Folgen klar sehen: Stress, Fehlgeburten, Burn-out. Ein einziger der sogenannten Wellness-Berater habe für 50 Mitarbeitende zur Verfügung gestanden. Die Verträge liefen nur auf Zeit. Außerdem wirft er Sama vor, den Angestellten nur ein Bruchteil dessen zu bezahlen, was die Firma von OpenAI erhalten habe. "Ja, sie geben Menschen Jobs", sagt Mulinya – aber sie kümmerten sich nicht um sie. Sama weist diese Vorwürfe zurück; OpenAI hat auf Anfragen von ZEIT ONLINE nicht geantwortet.

Das Problem liegt aber nicht nur bei den Unternehmen, sondern auch bei den Ländern selbst. Das bestehende Arbeitsrecht in Kenia etwa gilt auch für Tech-Arbeiter, zum Beispiel wenn es um Kündigungen geht – es wird nur oft nicht durchgesetzt. "Diese Firmen kommen damit davon, weil es keinen politischen Willen gibt, sie zur Verantwortung zu ziehen", sagt Odanga Madung, ein führender kenianischer Datenjournalist und Forscher. Für die Politik sei es viel wichtiger, sagen zu können, dass Arbeitsplätze geschaffen wurden. Zudem sind die Gesetze in Kenia und anderen afrikanischen Ländern vielfach lückenhaft, wenn es um digitale Jobs und vor allem die Gefahren bei der Content-Moderation geht.

Der Prozess gegen Meta dürfte sich über Monate ziehen. Und selbst bei einer Entscheidung im Sinne der Kläger ist nicht abzusehen, ob der Konzern zum Handeln gezwungen werden kann. Doch das Verfahren hat eine Symbolwirkung. "Es hat schon jetzt Konsequenzen, weil es das Narrativ über Facebook verändert", sagt Madung. Es helfe Kenia und anderen Ländern des Globalen Südens zu verstehen, wie die Tech-Konzerne und ihre Subunternehmen agieren. Die Erzählung über die digitalen Jobs, die nach Afrika kommen und die Menschen aus der Armut holen, bekommt jedenfalls Risse. Zudem wollen die Content-Moderatoren in Kenia eine Gewerkschaft gründen, es wäre die erste derartige Arbeitnehmervertretung in Afrika. Sie könne künftig dafür sorgen, dass die Arbeitsrechte schneller an die sich stets weiterentwickelnde digitale Jobwelt angepasst werden, sagt Mutemi.

"Es braucht globale Mindeststandards"

Der Prozess könnte sich für Kenia jedoch auch negativ auswirken. Hätten die Kläger Erfolg, was hielte Meta und andere davon ab, einfach in ein anderes Land zu gehen? In eines, in dem die Arbeit noch günstiger, die Gesetze laxer, die Justiz schwächer ist? Kirsten Schüttler, die bei der Deutschen Gesellschaft für Internationale Zusammenarbeit (GIZ) die Gig-Economy-Initiative leitet, sieht darauf nur eine Antwort: "Es braucht globale Mindeststandards, damit das nicht passiert." Die Initiative im Auftrag des Bundesministeriums für wirtschaftliche Zusammenarbeit und Entwicklung soll genau das erreichen. Dafür müssten Länder miteinander kooperieren, Firmen in die Verantwortung gezogen und Arbeitnehmerinnen und Arbeitnehmer in ihren Rechten gestärkt werden, sagt Schüttler – kein einfaches Ziel.

Trotz allem, was Nathan Nkunzimana durchgemacht hat – er würde wieder als Content-Moderator arbeiten, unter den richtigen Bedingungen: "Es ist ein nobler Job, weil ich die Gesellschaft schütze." Datenjournalist Madung ist derweil skeptisch, was die Zukunft der Branche angeht: "Künstliche Intelligenz hat es auf diese Jobs abgesehen", sagt er. Die Tech-Firmen warteten sehnlichst darauf, dass KI die Content-Moderation vollständig übernehmen könne.

Umso wichtiger ist der Anwältin Mutemi ein höheres Ziel, das sie mit jedem Fall verbindet, den sie annimmt. Es gehe nicht nur um Arbeit zu fairen Bedingungen: Die Menschen in Afrika müssten die digitalen Plattformen mitgestalten können. Facebook, TikTok, Instagram, sie alle haben in den Ländern des Kontinents große Macht – mehr noch als im Globalen Norden, wo politische Strukturen und traditionelle Medienlandschaften stärker sind. Echten Einfluss darauf, wie sich diese Plattformen auf ihr Leben auswirkten, hätten die Afrikaner aber nicht, sagt Mutemi. Und das will sie ändern: "Das ist unsere Realität, aber können wir bei der Schaffung einer fairen und gerechten digitalen Zukunft mitreden?"

Veröffentlicht durch Zeit Online.