Guido Scorza
Il fenomeno non è non è nuovo ma le dimensioni che ha raggiunto lo rendono insostenibile.
Sto parlando della preselezione del personale affidata a soluzioni basate su modelli di intelligenza artificiale che analizzano i milioni di domande di lavoro che, quotidianamente, in tutto il mondo, decine di milioni di persone inviano a decine di migliaia di potenziali datori di lavoro.
Gli algoritmi leggono – si fa per dire -, valutano e poi suggeriscono -si fa ancora una volta per dire – perché in realtà decidono al posto degli uffici del personale chi ha una chance di veder accolta la propria domanda e chi no, dividendo le domande di assunzione tra quelle che meritano di andare avanti nel processo di selezione e quelle che non lo meritano.
A parer loro si intende.
In America a usare questo genere di soluzioni è il 90% dei datori di lavoro.
Niente di male, in linea di principio, a chiedere un aiutino diversamente intelligente nella preselezione del personale.
Ma il punto è che uno studio di alcuni ricercatori dell’Università di Stanford ha appena dimostrato scientificamente che queste soluzioni non sono imparziali, non sono trasparenti, non sono oneste nel valutare curricula e domande.
In una parola discriminano.
I ricercatori hanno preso 3,4 milioni di candidati reali che hanno presentato 4 milioni di candidature, per 1700 posizioni lavorative a 156 datori di lavoro in 11 settori di mercato e hanno esaminato i suggerimenti che il sistema di un solo fornitore, leader di mercato negli USA – e per la verità non solo negli USA – dopo averle analizzate, ha dato ai datori di lavori.
Risultato: complici le discriminazioni algoritmiche, 40 mila persone, di colore e asiatiche, si sono viste negare una chance di lavoro alla quale avrebbero avuto diritto solo in ragione dell’etnia di appartenenza.
E, naturalmente, quello etnico è solo uno dei tanti bias nei quali le soluzioni in questione inciampano.
I ricercatori, giustamente, sottolineano che un fenomeno già di per sé allarmante, rischia di diventare insostenibile se, come sta accadendo, la concorrenza nel mercato di questo genere di soluzioni non funziona e pochi, anzi pochissimi, fornitori se lo dividono quasi interamente perché, naturalmente, a quel punto, quello che accade è che l’impatto discriminatorio di un solo algoritmo si propaga sulle scelte di decine di migliaia di datori di lavoro e milioni di lavoratori.
Che così non si possa andare avanti, che non si possa far finta niente, che non si possa continuare a ignorare un problema vecchio di quasi dieci anni e conclamato, almeno negli Stati Uniti, da decine di decisioni che hanno visto datori di lavoro e fornitori di questi servizi condannati, appunto, per discriminazione, è o dovrebbe essere evidente.
E, naturalmente, non c’è ragione per ritenere che da questa parte dell’oceano le cose stiano andando diversamente.
Servirebbe, anzi no, serve che le organizzazioni sindacali scendano in campo ed esigano non la messa al bando di queste soluzioni, ma una verifica terza e imparziale su larga scala circa la loro non discriminatorietà, serve che le Autorità competenti vi procedano e, all’esito dei risultati, impartiscano ai datori di lavoro i correttivi necessari a un utilizzo sostenibile di questo genere di servizi e, probabilmente, che l’Autorità Antitrust verifichi che la concorrenza, sul mercato di queste soluzioni sia davvero libera, perché meno c’è concorrenza, più le discriminazioni degli algoritmi di pochi leader di mercato, producono un effetto domino sulle selezioni del personale di tanti.
Non possiamo continuare a consentire che le opportunità di lavoro di una persona e, quindi, la sua vita e quella della sua famiglia, dipendano da un algoritmo mal progettato o mal addestrato.
Dobbiamo trovare modo e maniera di dire basta, più che ai lavori rubati dall’intelligenza artificiale, a quelli negati, ingiustamente, a chi li meriterebbe.