Le “intelligenze” artificiali sono il futuro, tuttavia diventa sempre più chiara la necessità di vagliare al meglio come questi strumenti siano effettivamente implementati. L’ultimo in ordine di tempo ad accorgersi di questa impellenza è stato Mark, un papà di San Francisco che si è trovato indagato dalla polizia per pedopornografia proprio a causa di un algoritmo incapace di gestire i dati che gli vengono somministrati.
Nel febbraio del 2021, l’uomo aveva notato che suo figlio, ancora in fasce, stava sviluppando un gonfiore al pene che era di evidente fastidio al pargolo. Preoccupato, ha provveduto a documentare fotograficamente il progredire dell’infiammazione, aggiornando man mano il medico di base, il quale ha provveduto in poco tempo a prescrivere al bimbo un antibiotico.
Fin qui tutto bene, la digitalizzazione ha semplificato la vita a una famiglia e ha alleggerito le procedure di una consulenza medica, tuttavia nell’equazione è subentrata prepotentemente Google. Gli strumenti capillari sviluppati dalla Big Tech hanno infatti notato gli scatti inviati dalla famiglia al dottore, etichettandoli automaticamente come la documentazione di abusi, cosa che ha a sua volta portato le immagini a essere incluse nell’archivio CSAM (child sexual abuse material). Il Dipartimento di Polizia, avvisato dall’azienda tech, ha aperto un’indagine nei confronti di Mark, la quale si è conclusa nel dicembre 2021 con la completa assoluzione dell’uomo: gli investigatori stessi hanno riconosciuto che non era stato commesso alcun crimine.
Il caso non sussisteva e un privato cittadino si è trovato sotto indagine per la leggerezza adottata da un’azienda, tuttavia la situazione è ben peggiore di quanto non possa sembrare. L’ombra del sospetto di pedofilia ha spinto Google a cancellare in via definitiva gli account del padre di famiglia, con il risultato che i suoi profili e-mail e il suo stesso numero di telefono siano ormai non operativi. Documenti alla mano, Mark ha cercato di sbloccare la situazione, ma l’azienda tech gli ha dato a intendere che la situazione della rimozione fosse definitiva e che sia stata figlia di un ennesimo automatismo privo di alcuna comprensione del contesto preso in analisi.
La lotta alla pedopornografia è per i giganti di internet un’arma a doppio taglio: da una parte il loro trafficare moli incalcolabili di informazioni li assoggetta alle pesanti aspettative del pubblico e dei Governi, dall’altra il pretesto della lotta alle violenze su minori permette loro di tenere a bada gli interventi legislativi che andrebbero altrimenti a ledere le loro possibilità di raccolta dati. In tutto questo, Google e omologhi approfittano della loro onnipresenza per sviluppare sistemi di machine learning che metabolizzano acriticamente molti dei contenuti che toccano la Rete, con il risultato che gli attrezzi digitali non sono caratterizzati da scelte editoriali o consapevoli, piuttosto perpetrano ed enfatizzano le ingiustizie sociali di cui sono testimoni.
Le Big Tech si sono dimostrate incapaci, o perlomeno poco interessate, a gestire in maniera opportuna le informazioni che raccolgono, spesso sono addirittura accusate di violare consapevolmente le norme pur di ottenere maggiori profitti e lo stesso Larry Page, co-fondatore di Google, ha sostenuto che la legge non sia altro che «un’istituzione vecchia» che è d’ostacolo all’”innovazione tecnologica”. Per cercare di evitare che delle corporazioni, perlopiù straniere, dettino il buono e il cattivo tempo anche nel campo delle intelligenze artificiali, l’Unione Europea sta lavorando all’Artificial Intelligence Act, un pacchetto di leggi il cui scopo è tenere a bada gli abusi del settore. Gli analisti e gli attivisti provvedono però a lanciare un ammonimento: la bozza discussa sta formalizzando un codice che è ancora troppo vago e permissivo, inadatto a contrastare le strategie predatorie delle potenti aziende.
Aggiornamento 29/8/22: modificata la data di conclusione dell’indagine da parte della polizia di San Francisco, segnata erroneamente nel pezzo originale come dicembre del 2022.
[di Walter Ferri]
Veramente pazzesco. Non ci si rende nemmeno conto di quanto errori di questo tipo possano rovinare la vita delle persone (e fortunatamente questo caso almeno in parte si è risolto bene).