L’IA può essere prevenuta? La risposta ha una portata terrificante

Tutto inizia con una scoperta inquietante, ma che può essere ridotta all’aneddoto: una ricercatrice afroamericana, Joy Buolamwini, si rende conto che un programma di riconoscimento facciale non distingue né identifica il tuo viso come quello di una persona quantificabile dal suo database. Ma lo fa quando indossa una maschera neutra … e bianca.

È il punto di partenza di un documentario che raccoglie molti argomenti, tutti da l’arbitrarietà e la mancanza di etica con cui gli algoritmi raccolgono le informazioni per modellare i loro database e la conoscenza con cui ingrassano diverse IA. Un’arbitrarietà che prende forma dai pregiudizi che tutti abbiamo e che creiamo, ad esempio, e come dice uno dei partecipanti a questo interessante documentario, il razzismo viene meccanizzato e replicato.

In un altro punto dell’azione, il documentario spiega l’esperienza di una giovane donna cinese con il sistema di sorveglianza e identificazione costanti che esiste nel suo paese, E il sistema di credito sociale. Poi un esperto americano afferma che il sistema non è così diverso dalla sorveglianza occidentale dei cittadini attraverso i social media … ma che almeno in Cina il governo lo riconosce.

In questo modo, il documentario viaggia continuamente in tutto il mondo, ponendo domande su privacy, tecnologia e poiché i nuovi modelli di computer ci impongono restrizioni che per molti aspetti credevamo fossero state superate. “Coded Bias” non ha un discorso inequivocabile e indiscutibile, ma pone allo spettatore molte domande che dobbiamo porci (e soprattutto, rispondere) con urgenza.

Il razzismo dell’algoritmo

“Bias codificato” fa parte di una serie di recenti documentari sulla tecnologia che mettono in guardia dai pericoli di questioni molto simili: Perdita di intimità, poiché la tecnologia entra inavvertitamente in aspetti che prima erano in stretta competizione con gli esseri umani e, in generale, il rischio di perdere il controllo di ciò che noi stessi abbiamo creato. Sia “The Great Hacking” che “The Dilemma of Social Media”, che possono essere visti anche su Netflix, si sono concentrati sulla disintegrazione incontrollata di ciò che è privato.

Anche il ‘bias codificato’ entra in questo argomento, ma come parte di un problema più grande: la minaccia astratta di un algoritmo matematico decentralizzato che impara ma impara male. E sì, entra nella questione della manipolazione elettorale (non sempre premeditata, e questa è una delle questioni più inquietanti del tutto: qui non ci sono supercriminali, ma fallimenti della società nel suo insieme), ma anche nell’erosione del diritti individuali, come l’uso che le forze dell’ordine britanniche o americane fanno di database basati su dati distorti.

È in questi momenti che il documentario gioca con un tremendismo che minaccia di frivolare il suo discorso. Strizzare l’occhio a film come l’adattamento di ‘1984’ o la malvagia AI di ‘2001: Odissea nello spazio’, con una voce robotica che parla in prima persona, sono simpatici ma si scontrano con la serietà solenne che richiede ciò che viene spiegato. Fortunatamente, “Coded Bias” e il suo regista Shalini Kantayya (uno degli esperti presenti nel film) non dimenticano che stiamo parlando di tecnologia, ma soprattutto del suo impatto sulle persone.

“L’intelligenza artificiale si basa sui dati e i dati riflettono la nostra storia”, afferma Buolamwini nel documentario, e questa è l’essenza della cosa amara conclusione: l’IA è di parte perché le persone sono piene di pregiudizi. Ma dall’altra parte della medaglia, il documentario è ottimista e si chiude con un piccolo trionfo del ricercatore contro la macchina matematica, con un simpatico tecnopoema e una call to action. Sta a noi frenare molti degli eccessi che “Codified Bias” denuncia, e da questo punto di vista, nonostante gli avvertimenti, sa andare oltre gli altri documentari del suo stile.

Antonella Pirelli

Ciao - Sono Antonella, Renovator e Blogger in missione per trasformare la nostra casa in una casa. Sette anni fa non sapevo cosa fare e non sapevo cosa fare, ma da allora ho imparato a costruire, a piastrellare, a fare l'idraulico e molto altro ancora. Questo è il mio piccolo posto sul web dove condivido tutto quello che ho imparato, così anche voi potete imparare.