L'algoritmo di Amazon cestina i C.V. delle donne?
Data l'ingente quantità di curricola che Amazon riceve tutti i giorni, il colosso del commercio elettronico aveva implementato un sistema di machine learning che si occupava di selezionare i candidati più interessanti in modo completamente automatico. Tale algoritmo ha operato a partire dal 2014 e nel corso degli anni avrebbe raffinato la propria capacità di analisi sulla base dei dati elaborati.
Non tutto però sarebbe andato per il meglio, almeno stando a quanto riportato nelle scorse ore da Reuters. La testata citerebbe infatti alcune fonti rimaste anonime secondo le quali il sistema sviluppato da Seattle sarebbe stato istruito per manifestare comportamenti discriminatori nei confronti delle donne. In sostanza i modelli utilizzati per il training dell'algoritmo si sarebbero dimostrati eccessivamente "maschilisti".
A causa di tale impostazione il sistema tenderebbe a privilegiare parole chiave appartenenti ad un linguaggio utilizzato più frequentemente dagli uomini, penalizzerebbe le condidate che hanno completato il loro corso di studi presso college femminili e, in generale, tenderebbe ad associare un rating meno elevato ai C.V. che presentano termini come "women's".
Tale comportamento (per quanto controverso) non è stato determinato volutamente da chi ha creato e gestito l'algoritmo, è invece molto più probabile che esso sia la conseguenza di un'analisi automatizzata dello storico delle assunzioni di Amazon, la cui forza lavoro sarebbe costituita per il 60% da dipendenti di sesso maschile.
Il gruppo capitanato da Jeff Bezos si sarebbe comunque accorto del problema e per questo motivo il funzionamento dell'algoritmo sarebbe stato bloccato in attesa di svilupparne uno più accurato. Sembrerebbe infatti che il sistema già in uso fosse ormai troppo orientato alle descriminazioni per poter essere corretto e mantenuto attivo.
