La storia della ricercatrice licenziata da Google

Timnit Gebru, famosa esperta di etica tecnologica e ricercatrice di intelligenza artificiale per Google ha comunicato, attraverso un tweet, di essere stata licenziata dal colosso americano

La ricercatrice americana, leader nel team di etica dell’intelligenza artificiale, è stata licenziata da Google. Le ragioni del suo licenziamento sono da ricondurre a quella che la donna ha definito una vera “censura” nei suoi confronti. Avrebbe rifiutato, difatti, di cancellare la sua firma da un articolo accademico che criticava aspetti etici e sociali sviluppati dai modelli di intelligenza artificiale.
Google ha parlato di “sue dimissioni”, quindi di un volontario allontanamento. Tuttavia la ricercatrice ha svelato i motivi del dissidio, che avrebbero portato l’azienda americana a licenziarla.

L’inizio dei dissidi: la storia della ricercatrice licenziata da Google

Per capire la vicenda, bisogna tracciare una linea temporale che ci conduca agli inizi di Novembre. In quel periodo Timnit stava lavorando su un articolo accademico insieme ad altri suoi colleghi circa la pericolosità ed i risvolti negativi che potevano verificarsi con l’intelligenza artificiale. L’articolo non era pubblico, ma doveva essere presentato ad una conferenza nel 2021. Tuttavia era in corso una revisione interna, richiesta sempre da Google per evitare che i suoi dipendenti possano diffondere erroneamente informazioni sensibili. La revisione si era conclusa con una richiesta particolare: cancellare le firme dall’articolo. L’esperta, che ha raccontato la vicenda ai due giornali americani Wired e Bloomberg ha affermato: “mi sono sentita come se fossimo stati censurati e ho pensato che questo avesse implicazioni per tutta la ricerca sull’etica dell’intelligenza artificiale”
Gebru sostiene poi di aver fatto una richiesta a Google: in cambio di una spiegazione completa della vicenda e di garanzie circa la revisione di futuri articoli, avrebbe accettato di cancellare il suo nome dall’articolo; in caso contrario avrebbe firmato le sue dimissioni.

La denuncia della ricercatrice licenziata da Google: la discriminazione verso donne e minoranze

Nelle stesse ore, Gebru racconta di essersi ulteriormente mossa a sostegno della sua causa. Ha inviato una mail al gruppo interno al team sull’intelligenza artificiale di Google “Google Brain Women and Allies”.
In essa, ha reso noti i dissidi ed il trattamento poco piacevole ricevuto da Google circa l’articolo sulla pericolosità dei progressi dell’intelligenza artificiale applicata al linguaggio. A ciò aveva unito un documento contenente dati circa le assunzioni sempre minori di minoranze da parte di Google. Gebru stessa rappresenta nell’azienda una rarità: solo l’1,6% sono le donne afroamericane dipendenti. Il colosso tecnologico non farebbe nulla per dar spazio e voce a donne e minoranze: “quando cominci a difendere le persone meno rappresentate la tua vita diventa peggiore”, ha affermato l’esperta ricercatrice.

La conclusione della storia della ricercatrice licenziata da Google: dimissioni o licenziamento?

Di lì a poco, Gebru riceve l’amara comunicazione di licenziamento; segue l’immediato cancellamento del suo account aziendale. In una mail personale, la ricercatrice avrebbe appreso da un manager di Google che le sue dimissioni avevano effetto immediato, perché mostravano un atteggiamento poco adatto ad una dipendente dell’azienda.
La rinomata ricercatrice, ha annunciato e commentato la vicenda su Twitter. Grande indignazione si è sollevata nei confronti del colosso americano da parte di esperti, dei suoi stessi colleghi, di studiosi e ricercatori (molti interni allo stesso Google) che non hanno esitato a denunciare il comportamento dell’azienda.
Forte solidarietà è giunta anche dai ricercatori del settore dell’intelligenza artificiale che difatti, hanno lanciato un appello a sostegno di Gebru sulla piattaforma “Google walkout for real change”.

La risposta di Google alle polemiche

Dinanzi alle polemiche rivolte a Google, è intervenuto il capo del settore dell’intelligenza artificiale nell’azienda, nonché famoso scienziato, Jeff Dean. Con un lungo comunicato egli ha evidenziato gli errori della ricercatrice, che avrebbero portato al licenziamento. Innanzitutto l’articolo era stato presentato per la revisione con ritardo; in più  non meritava di essere pubblicato in affiliazione al nome di Google, perché ignorava molte notizie e ricerche.
La vicenda non si è fermata qui, anzi, tale comunicato ha mosso diverse reazioni tra cui quella di dipendenti di Google Walkout. I membri hanno sostenuto la ricercatrice, affermando che la presentazione degli articolo avviene sempre con un giorno o meno di preavviso. In più hanno smentito la tesi delle “dimissioni”, affermando come si sia trattato di un vero e proprio licenziamento.
Quali sono allora, le vere motivazioni che hanno portato all’allontanamento della donna?

La storia della ricercatrice licenziata da Google: sintesi dell’articolo censurato

L’articolo sotto accusa non è mai stato pubblicato, eppure sono trapelati i contenuti principali. La MIT Technology Review ha avuto il permesso di visionarlo e ne ha svolto una sintesi. Il titolo è “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” Molte aziende che si occupano di intelligenza artificiale come Google, usano modelli di elaborazione del linguaggio, vale a dire intelligenze artificiali.
Esse sono preparate a riconoscere e condizionare il linguaggio naturale tramite materiale testuale preso da Internet. Google ha difatti, da poco, iniziato ad usare un modello di elaborazione del linguaggio, BERT, con il quale riesce a comprendere il linguaggio nella barra di ricerca e a fornire risultati più appropriati. La grande quantità di testi per “formare” le intelligenze messi a disposizione da Internet non ne permette il controllo, dunque molti di essi sono razzisti, sessisti, non seguono i profondi cambiamenti che movimenti sociali odierni hanno attuato nel linguaggio.
L’accusa fa riferimento anche a danni ambientali con un’ enorme quantità di CO₂ prodotta; in più ha un costo enorme che sfavorisce le piccole aziende.

L’attivismo nel campo etico

La vicenda ha destato scalpore in virtù della fama e della stima di cui gode la donna negli ambienti scientifici più rinomati. Non pochi sono coloro che hanno denunciato Google di esser sempre più distante dall’originale politica  “Don’t be Evil!”
La donna è sempre stata attiva nel campo etico della scienza: è co-fondatrice del gruppo Black in AI: gruppo che promuove  l’occupazione delle persone di colore nel settore dell’intelligenza artificiale.
Diversi poi, sono gli studi che l’hanno resa famosa. Di notevole interesse, è un articolo che riguarda la discriminazione razziale nella tecnologia di riconoscimento facciale. I dati mostrano come i modelli di intelligenza artificiale, riconoscono in maniera puntuale i volti di uomini bianchi mentre sbagliano costantemente nell’individuare quelli di donne e persone di colore. Nel 35% dei casi, le donne nere non sono riconosciute.
Anche in base a tali ricerche, Google poco tempo dopo assume la ricercatrice nel settore di etica dell’intelligenza artificiale.

Un atto di ritorsione e di censura

La politica condotta da Google, è oggi più che mai sotto accusa, messa alle strette da disvelamenti interni poco piacevoli. La mossa dell’azienda nei confronti di Gebru, assume le sembianze chiare di un “atto di ritorsione”. La figura della ricercatrice era scomoda, poteva mettere in crisi aspetti su cui Google ed altre aziende puntano per l’incremento del loro business (come l’AI) sacrificando, talvolta, l’etica ed il buon senso.