Chi addestra l’IA: i lavoratori sottopagati dietro ChatGPT

Quando un chatbot si rifiuta di aiutarti a fare del male a qualcuno, o ti risponde con garbo invece di ripetere l'odio che ha trovato in rete, sembra una qualità del software. Come se fosse nato educato. Non lo è. Per insegnargli cosa non dire, qualcuno deve leggere quei contenuti uno per uno e segnare "questo no". Quel qualcuno è una persona, con un contratto e uno stipendio. E per una parte importante di questo lavoro, quella persona stava a Nairobi.

La storia comincia nel 2019, ben prima di ChatGPT. Daniel Motaung, sudafricano, viene assunto da Sama, un'azienda con sede in California e un grande ufficio a Nairobi, che lavora per Facebook. Motaung racconta a TIME di non sapere cosa comportasse il lavoro quando si era candidato: ai colloqui nessuno gli aveva detto che avrebbe guardato contenuti capaci di far male alla salute mentale. Lo scopre solo dopo essere arrivato in Kenya e aver firmato un accordo di riservatezza. Il suo posto è davanti a uno schermo, dove scorre una coda di contenuti da valutare: video di omicidi, stupri, suicidi, abusi su minori. Per ognuno deve decidere in meno di 50 secondi se toglierlo o lasciarlo. Le regole di Facebook permettono di guardare solo i primi 15 secondi di un video, se titolo, trascrizione, commenti e anteprima sembrano a posto. Secondo una stima di TIME, in una giornata di otto ore sono quasi 580 contenuti. Ogni settimana un controllore rivede le sue scelte e, se non coincidono con le sue, perde punti: deve restare sopra l'84%. Lo schermo è monitorato di continuo. Un moderatore ha raccontato a TIME: "Non posso neanche sbattere le palpebre. Si aspettano che lavori ogni singolo secondo." Ai moderatori spetta almeno un'ora a settimana di pausa di supporto psicologico, ma più d'uno ha detto di doverla pregare per ottenerla. I moderatori kenioti portavano a casa circa 1,46 dollari l'ora.

A luglio 2019 Motaung prova a organizzare una protesta per chiedere paghe migliori. A agosto viene licenziato, mentre stava preparando le carte per fondare un sindacato. Gli annullano il permesso di lavoro e nel giro di tre settimane è fuori dal paese.

La storia resta lì per anni. Poi Motaung la racconta a un giornalista di TIME, Billy Perrigo, e a Foxglove, una piccola organizzazione londinese che si occupa di diritti e tecnologia. Il 14 febbraio 2022 esce l'inchiesta "Inside Facebook's African Sweatshop", basata su centinaia di pagine di documenti e su interviste a più di una dozzina di dipendenti. Poche settimane dopo, Sama cancella il lavoro che stava facendo per un altro cliente. Era OpenAI: tre contratti da circa 200.000 dollari, per rendere ChatGPT meno tossico.

Come si rende un chatbot meno tossico? Gli si insegna a riconoscere il peggio, e per farlo qualcuno il peggio deve leggerlo. A Nairobi succedeva così: arrivava un testo, un passaggio pescato tra violenza, odio e abusi sessuali, e il lavoratore lo leggeva e gli assegnava un'etichetta, cioè la categoria a cui apparteneva. Poi il passaggio successivo. Secondo TIME ne arrivavano tra 150 e 250 per ogni turno di nove ore (Sama dice 70). Uno dei lavoratori ha descritto il testo che più lo ha colpito: la descrizione esplicita di una scena sessuale con un animale in presenza di un bambino. "Era una tortura", ha detto. "Leggi frasi così per tutta la settimana. Il venerdì sei sconvolto dall'immagine che ti sei dovuto costruire in testa." Tutti e quattro gli intervistati hanno descritto l'assistenza psicologica come rara e poco utile, perché c'era troppa pressione a produrre. Sama sostiene invece che i dipendenti avessero sedute individuali e di gruppo con terapeuti abilitati.

Il compenso era uno stipendio base di 21.000 scellini kenioti al mese (circa 170 dollari), più un bonus mensile di circa 70 per la natura del lavoro. In tasca restavano tra 1,32 e 2 dollari l'ora, a seconda dell'anzianità. Secondo i documenti visionati da TIME, OpenAI pagava a Sama 12,50 dollari l'ora per ogni lavoratore. Sama risponde che quella cifra copre tutti i costi, stipendi e benefici compresi.

Il costo non finisce con il turno. Motaung racconta che, tornato nel suo villaggio in Sudafrica, la famiglia gli chiedeva cosa fosse successo in Kenya, e lui non riusciva a parlarne, perché aveva firmato quell'accordo. Dice di avere ancora dei flashback. A dicembre 2024, nella causa contro Meta e Sama, lo psichiatra che dirige i servizi di salute mentale del Kenyatta National Hospital di Nairobi ha visitato 144 ex moderatori. Tutti con diagnosi di disturbo post-traumatico da stress, ansia generalizzata e depressione maggiore, l'81% in forma grave o gravissima. Secondo il Guardian, che ha visto i documenti, i sintomi andavano dagli svenimenti al vomito, dalla fuga dalla scrivania agli incubi e alla paura di addormentarsi. Almeno 40 avevano problemi di dipendenza da alcol, droghe o farmaci. Meta e Sama non hanno commentato, per via della causa in corso.

Poi la vicenda si è allargata. A settembre 2024 la Corte d'appello del Kenya ha stabilito che Meta può essere citata in giudizio nel paese, anche se i moderatori erano dipendenti di Sama. Ad aprile 2025 a Nairobi è nata un'alleanza globale dei moderatori, con sindacati di nove paesi. E non è solo il Kenya: in Colombia i moderatori di TikTok dovevano guardare tra 900 e 1.000 video al giorno per circa 235 sterline al mese. Le aziende contestano parte di queste accuse.

Per questo la domanda più utile non è solo per le aziende. Prima di usare uno strumento, di infilarlo nel proprio lavoro, di consigliarlo a qualcuno: chi l'ha addestrato? Chi ha deciso cosa è accettabile, e chi ha dovuto guardare il resto? Dove sono finiti i testi e le immagini che ha letto? Se la risposta non è nel sito di chi lo produce, non è un caso. "Sicuro", "etico", "responsabile" sono sempre l'ultimo metro di una filiera di cui il cliente vede soltanto la fine. Chi lavora nella sicurezza informatica lo sa: un sistema si giudica da ciò che c'è dietro l'interfaccia, e dietro ogni risposta educata ci sono persone che hanno letto per prime quelle sbagliate.

Quindi, la prossima volta che un assistente ti risponde senza un errore, senza un insulto, senza niente di spiacevole, fermati un secondo. Quanto ti costa quella risposta? E chi ha pagato la parte che a te non è stata chiesta? Se un servizio ti sembra gratuito, o troppo economico per quello che fa, sei sicuro di sapere dove sta il conto?

Fonti:
Inside Facebook's African Sweatshop — TIME
OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic — TIME
Kenya court rules Meta can be sued over layoffs by contractor — News24
Content moderators launch first-ever global alliance — UNI Global Union
Behind TikTok's Boom: A Legion of Traumatised, $10-A-Day Content Moderators — The Bureau of Investigative Journalism / TIME
Plus de 140 modérateurs kényans de Facebook victimes de troubles de stress post-traumatique — Next (da The Guardian, dicembre 2024)