Gli Algoritmi di Intelligenza Artificiale discriminano le Donne?

Gli Algoritmi di Intelligenza Artificiale

In un interessante servizio televisivo, il Dott. Gianluca Mauro, professore di intelligenza artificiale della Harvard University, sostiene che gli algoritmi generati da AI (poi utilizzati da Microsoft, Google, Amazon e dalle piattaforme social Facebook, Instagram, ecc. anche ai fini della limitazione e della moderazione di contenuti violenti, pornografici, ecc.,) siano discriminanti nei confronti del genere femminile, risentendo di modelli culturali maschilisti appresi e assimilati nel tempo dal sistema stesso. Alla fonte di ciò la selezione delle foto pubblicate dagli utenti sulle piattaforme social giudicate dal sistema in base ad una percentuale che stabilisce l’intensità o la gravità delle stesse, etichettandole come sessualmente e socialmente tollerabili o non. Da qui l’eventuale censura e la loro cancellazione e/o oscurazione.

Il fattore eclatante è che la maggior parte delle foto pubblicate sui social, bandite poi dal sistema, riguardano perlopiù il genere femminile. L’immagine che ritrae un uomo che mostra il suo corpo ed i muscoli, ad esempio, pare avere sempre una soglia di tolleranza maggiore rispetto alla donna, a prescindere da ciò che indossano e dalle rispettive posture e rappresentazioni gestuali e corporali. Le foto di donne ritenute eliminabili dall’algoritmo sono infatti alquanto discutibili: fotografie innocue che ritraggono parti, non intime, del corpo femminile, o di una donna in pigiama che salta spensierata sul letto, oppure il selfie di una ragazza in compagnia della nonna mentre indossa una normalissima maglietta a maniche corte, o addirittura la foto che raffigura l’immagine del collo femminile palpato dallo specialista durante una visita medica.

Come e Dove Apprendono gli Algoritmi?
Suggestivo a riguardo l’esperimento condotto dal prof. Mauro che simula la pubblicazione di una propria foto a petto nudo, ma con indosso un reggiseno femminile che viene poi giudicata censurabile dall’algoritmo con una percentuale di sessualità pari a quella di un film hard. In sostanza la selezione compiuta dall’algoritmo immagazzina simboli, valori, modelli e atteggiamenti comportamentali dell’individuo ed esprime giudizi di valore e “pregiudizi” in base a ciò che apprende. Un iter del genere danneggia seriamente la professione di donne che lavorano quotidianamente sui social e che si vedono censurate e/o occultate (Shadow ban) post e immagini di fotografie professionali, che possono riguardare ad esempio attività sportive di ballo (Pole dance) ritenute troppo sensuali e poco consoni ai canoni convenzionali riconosciuti come leciti e socialmente accettabili dall’algoritmo. Allo stesso modo l’algoritmo decide di bandire fotografie artistiche di un prestigioso magazine scattate da una famosa fotografa italiana che ritrae pose ed immagini di donne incinta.

Ma da dove proviene il processo di apprendimento messo in atto dagli algoritmi? e chi sono i responsabili della selezione e della definizione dei canoni e dei modelli di giudizio che l’algoritmo apprende ed esprime con tale disinvoltura?
Ebbene si evince che le grandi aziende mondiali del settore assumano perlopiù operatori a basso costo e prevalentemente di sesso maschile e provenienti da paesi e culture pudiche e maschiliste che non tollerano l’immaginazione del corpo femminile scoperto, così come atteggiamenti femminili considerati, nella loro dimensione valoriale, come sensuali, ambigui, o poco decorosi. Ciò si ritorce di fatto inevitabilmente contro gli interessi della donna e della sua professione lavorativa.

L’Uomo o l’Algoritmo… Chi Comanda?
Dalle dinamiche descritte emerge altresì un nuovo dato suggestivo e significativo: l’uomo, o meglio la donna, sono in grado di eludere il sistema dell’algoritmo e oltrepassare l’anomalia. Una importante influencer italiana, che si guadagna da vivere grazie alle visualizzazioni dei follower presenti sui canali social, dopo essersi vista censire numerose sue fotografie, riesce, ad esempio, ad eludere strategicamente il controllo dell’algoritmo giocando sulla trasparenza degli abiti che coprono solo apparentemente le immagini del suo “seno” che resta comunque per suo volere il protagonista principale delle sue foto e probabilmente anche il vero amplificatore del numero delle visualizzazioni e dei consensi dei follower.

L’ algoritmo di AI ne esce sconfitto in quanto non riconosce l’immagine proibita, anzi, addirittura ne agevola l’ascesa sui social perché la concepisce come l’immagine di una donna vestita e di buon gusto, in pratica come un qualcosa che può essere visualizzato e postato lecitamente. In questo caso è stata pertanto l’identità specifica dell’individuo a condizionare, plasmare, raggirare e domare strumentalmente l’algoritmo dell’intelligenza artificiale. Sulle anomalie dell’algoritmo e sul suo presunto modello di pregiudizio “pre-compreso e appreso” nei confronti di ruoli, immagini e rappresentazioni femminili, si sono espresse le grandi aziende come Google e Microsoft le quali, a detta del Prof. Mauro, si mostrano aperte e disponibili per lavorare al fine di migliorare e correggere falle ed anomalie del sistema stesso. Questione questa che ci riporta al dibattito attuale sull’intelligenza artificiale, sulle potenzialità ed i limiti che ne conseguono

L’uomo non può non abbracciare le trasformazioni tecnologie, sociali culturali, lavorative che si stanno delineando, come appunto l’intelligenza artificiale, che dovrebbe portare prima di tutto vantaggio alla società ed agli individui stessi nei diversi ambiti che li riguardano, ad esempio quello lavorativo. Nello stesso tempo però, appare necessaria (come già accade) una regolamentazione di tali sistemi innovativi ed un adattamento funzionale alle variabili sociali, situazionali culturali, individuali e valoriali che garantiscano per il futuro equità, tutela e trasparenza sociale. Ciò accompagnato dalla necessità di diversificare e contaminare le provenienze culturali, identitarie e professionali delle persone che lavorano nel settore dell’AI (operatori, ingegneri, ricercatori, ecc.). E’ questa forse la vera sfida che ci attende per il futuro.

Ogni articolo è un punto di partenza, mai di arrivo. Scopri di più su Plus Magazine