Amazon finisce nella bufera. A far discutere è il nuovo riconoscimento facciale. Secondo una ricerca del MIT dell’Università di Toronto, il sistema Rekognition identifica con maggiori difficoltà i volti femminili rispetto a quelli maschili e quelli di colore rispetto a quelli bianchi. Una tecnologia che ha suscitato clamore, tanto che il colosso americano è stato accusato di razzismo.
Nell’analisi dei volti di uomini bianchi, infatti, lo strumento ha centrato tutte le corrispondenze. Lo strumento ha commesso l’1,3% di errore in caso di uomini di colore e il 7,1% in caso di visi femminili con la pelle più scura. In un caso su tre, infatti, le afroamericane e le ispaniche sono state riconosciute come uomini.
Gli algoritmi non hanno idee razziste, ma creano la propria visione in base ai dati che elaborano. Lo studio ha quindi ipotizzato che questo possa rappresentare un rischio per la sorveglianza di massa e possa penalizzare le minoranze o particolari gruppi etnici. Inoltre, a differenza di Google, Amazon non ha ancora bloccato la vendita di questo sistema a governi e forze dell’ordine. Il capo della divisione ‘intelligenza artificiale’ del gruppo, Matt Wood, ha così criticato i risultati dello studio dell’Università canadese. Secondo Wood, i ricercatori hanno utilizzato “l’analisi facciale” e non “il riconoscimento facciale”. Il primo, infatti, individua i volti e attribuisce alcune caratteristiche generiche; il secondo, invece, crea una corrispondenza precisa tra volti e persone.
Le autrici della ricerca, Joy Buolamwini e Inioluwa Deborah Raji, hanno voluto rispondere a Wood: «si può abusare della tecnologia indipendentemente dalla sua accuratezza? Se il sistema scambia una persona per un’altra, è possibile che un innocente sia identificato come criminale e sottoposto a controlli non giustificati. È necessario quindi regolamentare per evitare che l’analisi facciale violi le libertà civili». «Sono necessarie linee guida – continuano – per far sì che le minoranze siano protette e non messe a rischio dall’evoluzione tecnologica».
Già lo scorso luglio, l’associazione statunitense per la difesa delle libertà civili, American Civil Liberties Union, ha testato la tecnologia su 535 parlamentari americani. In 28 casi, il riconoscimento facciale aveva trovato una corrispondenza tra i volti del Congresso e quelli di criminali contenuti in un archivio pubblico. Le false corrispondenze riguardavano maggiormente i parlamentari di colore. Tra i 28 parlamentari identificati come criminali c’era anche John Lewis uno dei leader che marciò su Washington insieme a Martin Luther King nel 1963.
