Quando a discriminare è... l’algoritmo

L'organizzazione svizzera per i diritti umani Algorithmwatch ha messo in guardia contro la discriminazione delle persone da parte degli algoritmi automatici. Tra le altre cose, l'associazione di esperti e scienziati digitali con sede a Zurigo ha comunicato la necessità di un divieto generale di discriminazione nei confronti dei privati.

L'impiego di sistemi algoritmici, sempre più sviluppati e utilizzati all'interno di aziende, ad esempio, potrebbe portare a una disparità di accesso alle offerte di lavoro. Secondo un'indagine dell'organizzazione, su alcuni social media gli annunci di lavoro vengono talvolta visualizzati secondo stereotipi di genere, per cui è più probabile che gli annunci per camionisti siano visti dagli uomini, mentre quelli per assistenti all'infanzia dalle donne, per citare un esempio.

Algorithmwatch critica le "evidenti lacune" nel diritto elvetico in relazione all'ambito sopraccitato: oltre a un ampliamento delle norme contro la discriminazione e al divieto generale di discriminazione per i privati, gli esperti digitali propongono anche mezzi di ricorso collettivi.

Secondo l'associazione, dove, da chi e a quale scopo vengano utilizzati i sistemi algoritmici è in gran parte sconosciuto, sia alle persone interessate sia alla società. Ciò rende difficile per le persone colpite riconoscere di essere discriminate da un algoritmo. L'organizzazione chiede di intensificare la ricerca e il dibattito su questo tema.