Coded Bias

di Federica Gaspari

​
Genere: documentario
Anno: 2020
Regia: Shalini Kantayya
Con la partecipazione di Joy Buolamwini, Cathy O’Neil, Meredith Broussard, Silkie Carlo
Produzione: 7th Empire Media, Independent Lens, ITVS, JustFilms /Ford Foundation,
Chicken And Egg Pictures, Women Make Movies, The Alfred P. Sloan Foundation Production,
undance Institute Documentary Film
Paese: Stati Uniti, Regno Unito, Cina
Durata: 105 min

---

Controllo della criminalità con tecniche di riconoscimento facciale, gestione dei servizi di prima necessità con l’ausilio di sofisticati algoritmi di machine learning addestrati da un ristretto gruppo di tecnici: queste tecnologie sembrano essere frutto della fantasia avveniristica di sceneggiatori di serie come Person of Interest oppure della terza stagione di Westworld, visioni futuristiche capaci di andare anche oltre la fervida quanto terrificante immaginazione distopica di Orwell. Applicazioni informatiche di questo tipo, tuttavia, sono realtà già in azione oppure in fase avanzata di sperimentazione. Dopo un’iniziale reazione meravigliata, è inevitabile tuttavia una urgente riflessione sull’etica di tali ingegnose conquiste che potrebbero o dovrebbero – questa la “naturale” evoluzione – sostituire il fallibile occhio umano in molti campi. Il documentario Coded Bias di Shalini Kantayya, recentemente approdato su Netflix dopo l’ottima accoglienza fuori concorso all’ultima edizione del Trieste Science Fiction Festival, intercetta la necessità di una discussione sul tema sollevando tuttavia interrogativi ancora più concretamente inquietanti: come queste tecnologie potranno influenzare dinamiche sociali e, inevitabilmente, ineguaglianze e discriminazioni?

La voce appassionata e determinata di Joy Buolamwini, giovane ricercatrice del MIT di origine ghanese, accompagna lo spettatore in un racconto che ha origine nel 2018, anno in cui l’intervistata nel corso della fase di validazione di un algoritmo di intelligenza artificiale ha riscontrato dei significativi bias nel riconoscimento automatico dei volti di donne nere. Tale constatazione ha portato l’informatica a una ricerca sempre più approfondita per trovare ulteriori prove della presenza di discriminazioni automatizzate e sistematiche nello sviluppo di software di questo tipo, individuando così numerose applicazioni in fase di prossima adozione oppure già operative come accaduto in Regno Unito.

Con lo sguardo tipico delle generazioni successive e spesso per definizione o deformazione “più evolute”, è ora semplice osservare e interpretare con criticità i cambiamenti delle rivoluzioni industriali dei secoli scorsi. Nel vivo di costanti cambiamenti tecnologici di ordini di grandezza e complessità crescenti non è raro, al contrario, dimenticarsi delle implicazioni delle tecnologie stesse a cui si intende delegare con estrema e cieca fiducia la ricerca di soluzioni per interpretare una realtà non lineare. L’ispirato documentario di Kantayya lascia volutamente alle spalle una tradizione multimediale fantascientifica legata al paradigma della ribellione della creatura artificiale nei confronti del creatore per proporre con gelida efficacia una prospettiva ancora più rilevante, considerate le sue tentacolari e mutevoli conseguenze sulla quotidianità. Cosa accade quando gli algoritmi di intelligenza artificiale, assurti ad arbitri incorruttibili e imparziali, includono nella loro programmazione retaggi culturali discriminatori ereditati dagli stessi coders? Da qui nasce l’interpretazione del titolo intraducibile in italiano per la sua perfetta sintesi di immagine e linguaggio e soprattutto prende forma la scelta vincente della regista di spostare il focus da un ipotetico e fantascientifico condizionale a un concreto e capillare indicativo presente o, nei casi più sperimentali, futuro prossimo. Con lucidità e consapevolezza, il lungometraggio si avventura tra casi applicativi e di studio, mettendo così al centro dell’indagine non un’ingenua condanna al progresso informatico bensì una severa evidenza di una società talmente inconsapevole di processi discriminatori innati al punto da trasmetterli quasi geneticamente per estensione alle proprie creature digitali. Solo attraverso una costruttiva presa di coscienza, algoritmi e procedure pensate e programmate dalla società stessa sapranno essere più inclusive e rappresentative della stessa.

Portando sotto i riflettori sia una ricerca scientifica di grande richiamo nella comunità scientifica e non che esperienze in presa diretta, Coded Bias conduce un viaggio critico e analitico in un’evoluzione possibile che è già plasmata senza cadere però in facili e ricattatori sentimentalismi oppure in banali riflessioni da fobia del web come accaduto in illustri predecessori – The Social Dilemma su tutti - ben più promossi e discussi (purtroppo).

Una visione consigliata quanto necessaria alla portata di un clic…magari non solo con l’aiuto di un algoritmo di visioni suggerite affetto da qualche fortuito bias!

Immagini tratte da:
www.netflix.com