Tweet
Gay o etero, un algoritmo "legge" l'orientamento sessuale sul volto. Il controverso studio di Stanford - Repubblica.it
Il controverso studio di Stanford
Intelligenza artificiale, studio Usa traccia legami fra sessualit? e le caratteristiche facciali. Si chiama Vgg-Face e per gli autori ? solo una dimostrazione della potenza di questi sistemi, ma esplode la polemica
di SIMONE COSIMI
PER ALCUNI ? gi? Lombroso 2.0. Per altri, invece, un fronte da considerare e potenzialmente possibile, visto che dietro c'? uno studio firmato dalla prestigiosa universit? di Stanford. L'intelligenza artificiale potrebbe indovinare con una certa accuratezza se le persone immortalate in una foto siano omosessuali o eterosessuali. Un'indagine evidentemente destinata a far molto discutere per una quantit? di ragioni, dall'etica del riconoscimento facciale alle origini (biologiche o sociali e culturali) dell'orientamento sessuale personale passando per i rischi legati alla riservatezza personale o alla discriminazione. Lo studio ruota intorno ai risultati che saranno presto pubblicati sul Journal of Personality Social Psychology e riportati in prima battuta dall'Economist. In sostanza, un algoritmo sarebbe riuscito a distinguere correttamente fra persone omosessuali ed eterosessuali nell'81% dei casi quando si ? trattato di uomini e nel 74% in occasione di immagini di donne.
Un sistema di intelligenza artificiale ? un algoritmo programmato come una rete neurale, che mima cio? le caratteristiche del cervello umano, e addestrato con una grande quantit? di dati a compiere certi compiti. In questo caso i big data di partenza forniti in pasto al sistema sono state 130.741 foto di 36.630 uomini e 170.360 immagini di 38.593 donne rese pubbliche su un sito statunitense di appuntamenti. Scremando, cio? trattenendo solo quelle pi? chiare, ne sono rimaste 35.326 relative a 14.776 persone. Questo materiale ? stato oggetto di processi di "deep learning", l'apprendimento profondo che consente di stabilire gerarchie di fattori e parametri, concetti o elementi ricorrenti su una mole di documenti anni fa impraticabile e oggi resa analizzabile dalla potenza di calcolo dei processori attuali.
Il software che ha partorito questa sorta di "faceprint" si chiama Vgg-Face. Stando ai responsabili della ricerca, Michal Kosinksi e Yilun Wang, uomini e donne omosessuali disporrebbero caratteristiche di genere atipiche, espressioni, strutture morfologiche e atteggiamenti che, come ha spiegato il Guardian, in buona sostanza si sintetizzerebbero nella valutazione che i gay apparirebbero pi? femminili e viceversa. Secondo i dati analizzati esisterebbero anche alcune tendenze ricorrenti - pure queste destinate a far discutere non poco - secondo le quali i gay avrebbero la mascella pi? affusolata e sottile, nasi pi? lunghi e fronti pi? ampie degli eterosessuali mentre le lesbiche presenterebbero mascelle pi? massicce e fronti pi? piccole comparate alle donne eterosessuali.
Giudici umani, in carne e ossa - la prova del nove che si rispolvera puntualmente in questo genere di esperimenti - hanno fatto segnare risultati peggiori dell'algoritmo di Stanford, individuando l'orientamento sessuale solo nel 61% dei casi per gli uomini e nel 54% per le donne. Non basta: secondo l'indagine, quando all'algoritmo sono state fornite cinque immagini di un soggetto anzich? una soltanto, il tasso di successo si ? impennato al 91% nel primo caso e all'83% nel secondo. Secondo gli autori significherebbe che "i volti contengono molte pi? informazioni sull'orientamento sessuale di quante ne possa percepire e interpretare il cervello umano".
In termini scientifici il paper avvalorerebbe la tesi, o almeno le fornirebbe "forte supporto", che l'orientamento sessuale possa in qualche modo essere influenzato dall'esposizione a certi ormoni prima della nascita, nell'utero, in particolare il testosterone. Quegli ormoni, secondo altri studi, interverrebbero gi? nello sviluppo, fra l'altro, delle strutture facciali e stando quindi all'indagine la propria indole sessuale non sarebbe una scelta ma apparirebbe in qualche modo scritta nel dna. Frutto dunque, secondo orientamenti simili a quelli proposti ormai da diversi anni dal neuroscienziato Simon LeVay, omosessuale e attivista gay, di una predisposizione biologica sulla quale solo successivamente intervengono fattori socioambientali, culturali ed educativi. Il minore tasso di successo dell'algoritmo con le donne, ennesimo fronte su cui ci sarebbe molto da discutere, confermerebbe secondo gli autori la pi? spiccata fluidit? dell'orientamento sessuale femminile. Un ambito molto complesso in cui ? semplice precipitare in facili determinismi ma che di recente ha trovato appunto un approccio multifattoriale che parte dalla scienza.
"L?indagine ? piuttosto inquietante e sembra proiettare nel passato piuttosto che nel futuro", dice a Repubblica.it Alberto Rossetti, psicanalista e psicoterapeuta di Torino, esperto di adolescenza e nuove tecnologie, "Innanzitutto perch? riduce la complessa questione della sessualit? umana a una serie di discutibili parametri facciali, tra l?altro presi all?interno di un sito per appuntamenti. Anni e anni di ricerca e studio in varie discipline hanno infatti dimostrato che a formare la la sessualit? nell?uomo contribuiscono diversi fattori: sociali, culturali, biologici. Non mi stupisce dunque che gli algoritmi abbiano trovato delle correlazioni, semplicemente osservo che da un punto di vista teorico uno studio di questo genere blocca la ricerca piuttosto che farla progredire. Inoltre dovremmo tutti preoccuparci del modo in cui le e informazioni che lasciamo pi? o meno consapevolmente in rete possono farci profilare in diversi modi senza un nostro consenso. Ci possono infatti essere delle conseguenze reali nella vita di tutti i giorni a seconda di come queste profilazioni vengono utilizzate (per motivi politici, di marketing, o altro). Non oso neanche immaginare cosa potrebbe succedere se un software ritenuto in grado di indovinare l?orientamento sessuale di una persona dovesse arrivare su uno smartphone. Torneremmo indietro di numerosi anni".
Ovviamente l'indagine ha una quantit? enorme di limiti. Non considera persone di colore n? orientamenti sessuali differenti, non ha cio? coinvolto soggetti transgender o bisessuali. E valuta come risultato azzeccato la corrispondenza fra la previsione del sistema e le dichiarazioni degli utenti su un banale sito di dating. Non bastasse, gli stessi scienziati hanno prodotto un altro test cambiando target d'analisi e selezionando casualmente un migliaio di uomini con almeno cinque fotografie per ciascuno, popolando il campione secondo una proporzione della popolazione che a loro avviso rispecchierebbe meglio la situazione nel mondo reale: sette omosessuali per ogni 100 uomini. In quel caso il sistema, a cui era stato chiesto di individuare i 100 volti pi? probabilmente gay, ha fatto segnare tassi di successo inferiori trovandone solo 47. I risultati sono tornati a crescere quando la richiesta si ? abbassata: istruito sull'individuare 10 volti gay su un campione molto ampio, l'algoritmo ne ha trovati nove. Come in molti altri ambiti, tuttavia, l'intelligenza artificiale dimostrerebbe - qualora queste scoperte fossero confermate - capacit? d'intromissione nella sfera privata incommensurabili. Proprio pochi giorni fa un altro studio ha per esempio utilizzato simili algoritmi per riconoscere i volti delle persone anche quando questi fossero parzialmente nascosti.
Identificare le persone da una loro immagine e poterne magari stabilire l'orientamento sessuale aprirebbe infatti a usi inconcepibili specialmente nell'epoca dei social network, con immensi database di foto che potrebbero perfino essere incrociati con quelli dei governi e delle amministrazioni. Chi ha fatto campagna per Donald Trump o per la Brexit avrebbe per esempio gi? utilizzato una serie di sistemi basati sulla profilazione psicometrica, ambito nel quale ? esperto proprio Kosinski, uno dei due autori, personaggio non nuovo a indagini controverse come quelle, appunto, pretendeva di stabilire tratti psicologici dalle informazioni contenute nei profili di Facebook.
Non ? un caso che proprio nell'indagine si faccia cenno alla possibilit? di esplorare le capacit? dell'AI per indovinare preferenze politiche o problematiche psicologiche, ovviamente disponendo dei data set adeguati. Per Kosinksi, tuttavia, la ricerca va intesa come un campanello d'allarme: ci occorrono tutele e protezioni, le intelligenze artificiali vanno regolamentate e limitate nel
loro campo d'azione perch? le potenzialit?, fondate o meno, potranno forse essere sviluppate. Per il ricercatore si tratta di una "dimostrazione" utile ad avvisare i legislatori della potenza di questi sistemi e dell'inevitabile erosione della privacy.
Il controverso studio di Stanford
Intelligenza artificiale, studio Usa traccia legami fra sessualit? e le caratteristiche facciali. Si chiama Vgg-Face e per gli autori ? solo una dimostrazione della potenza di questi sistemi, ma esplode la polemica
di SIMONE COSIMI
PER ALCUNI ? gi? Lombroso 2.0. Per altri, invece, un fronte da considerare e potenzialmente possibile, visto che dietro c'? uno studio firmato dalla prestigiosa universit? di Stanford. L'intelligenza artificiale potrebbe indovinare con una certa accuratezza se le persone immortalate in una foto siano omosessuali o eterosessuali. Un'indagine evidentemente destinata a far molto discutere per una quantit? di ragioni, dall'etica del riconoscimento facciale alle origini (biologiche o sociali e culturali) dell'orientamento sessuale personale passando per i rischi legati alla riservatezza personale o alla discriminazione. Lo studio ruota intorno ai risultati che saranno presto pubblicati sul Journal of Personality Social Psychology e riportati in prima battuta dall'Economist. In sostanza, un algoritmo sarebbe riuscito a distinguere correttamente fra persone omosessuali ed eterosessuali nell'81% dei casi quando si ? trattato di uomini e nel 74% in occasione di immagini di donne.
Un sistema di intelligenza artificiale ? un algoritmo programmato come una rete neurale, che mima cio? le caratteristiche del cervello umano, e addestrato con una grande quantit? di dati a compiere certi compiti. In questo caso i big data di partenza forniti in pasto al sistema sono state 130.741 foto di 36.630 uomini e 170.360 immagini di 38.593 donne rese pubbliche su un sito statunitense di appuntamenti. Scremando, cio? trattenendo solo quelle pi? chiare, ne sono rimaste 35.326 relative a 14.776 persone. Questo materiale ? stato oggetto di processi di "deep learning", l'apprendimento profondo che consente di stabilire gerarchie di fattori e parametri, concetti o elementi ricorrenti su una mole di documenti anni fa impraticabile e oggi resa analizzabile dalla potenza di calcolo dei processori attuali.
Il software che ha partorito questa sorta di "faceprint" si chiama Vgg-Face. Stando ai responsabili della ricerca, Michal Kosinksi e Yilun Wang, uomini e donne omosessuali disporrebbero caratteristiche di genere atipiche, espressioni, strutture morfologiche e atteggiamenti che, come ha spiegato il Guardian, in buona sostanza si sintetizzerebbero nella valutazione che i gay apparirebbero pi? femminili e viceversa. Secondo i dati analizzati esisterebbero anche alcune tendenze ricorrenti - pure queste destinate a far discutere non poco - secondo le quali i gay avrebbero la mascella pi? affusolata e sottile, nasi pi? lunghi e fronti pi? ampie degli eterosessuali mentre le lesbiche presenterebbero mascelle pi? massicce e fronti pi? piccole comparate alle donne eterosessuali.
Giudici umani, in carne e ossa - la prova del nove che si rispolvera puntualmente in questo genere di esperimenti - hanno fatto segnare risultati peggiori dell'algoritmo di Stanford, individuando l'orientamento sessuale solo nel 61% dei casi per gli uomini e nel 54% per le donne. Non basta: secondo l'indagine, quando all'algoritmo sono state fornite cinque immagini di un soggetto anzich? una soltanto, il tasso di successo si ? impennato al 91% nel primo caso e all'83% nel secondo. Secondo gli autori significherebbe che "i volti contengono molte pi? informazioni sull'orientamento sessuale di quante ne possa percepire e interpretare il cervello umano".
In termini scientifici il paper avvalorerebbe la tesi, o almeno le fornirebbe "forte supporto", che l'orientamento sessuale possa in qualche modo essere influenzato dall'esposizione a certi ormoni prima della nascita, nell'utero, in particolare il testosterone. Quegli ormoni, secondo altri studi, interverrebbero gi? nello sviluppo, fra l'altro, delle strutture facciali e stando quindi all'indagine la propria indole sessuale non sarebbe una scelta ma apparirebbe in qualche modo scritta nel dna. Frutto dunque, secondo orientamenti simili a quelli proposti ormai da diversi anni dal neuroscienziato Simon LeVay, omosessuale e attivista gay, di una predisposizione biologica sulla quale solo successivamente intervengono fattori socioambientali, culturali ed educativi. Il minore tasso di successo dell'algoritmo con le donne, ennesimo fronte su cui ci sarebbe molto da discutere, confermerebbe secondo gli autori la pi? spiccata fluidit? dell'orientamento sessuale femminile. Un ambito molto complesso in cui ? semplice precipitare in facili determinismi ma che di recente ha trovato appunto un approccio multifattoriale che parte dalla scienza.
"L?indagine ? piuttosto inquietante e sembra proiettare nel passato piuttosto che nel futuro", dice a Repubblica.it Alberto Rossetti, psicanalista e psicoterapeuta di Torino, esperto di adolescenza e nuove tecnologie, "Innanzitutto perch? riduce la complessa questione della sessualit? umana a una serie di discutibili parametri facciali, tra l?altro presi all?interno di un sito per appuntamenti. Anni e anni di ricerca e studio in varie discipline hanno infatti dimostrato che a formare la la sessualit? nell?uomo contribuiscono diversi fattori: sociali, culturali, biologici. Non mi stupisce dunque che gli algoritmi abbiano trovato delle correlazioni, semplicemente osservo che da un punto di vista teorico uno studio di questo genere blocca la ricerca piuttosto che farla progredire. Inoltre dovremmo tutti preoccuparci del modo in cui le e informazioni che lasciamo pi? o meno consapevolmente in rete possono farci profilare in diversi modi senza un nostro consenso. Ci possono infatti essere delle conseguenze reali nella vita di tutti i giorni a seconda di come queste profilazioni vengono utilizzate (per motivi politici, di marketing, o altro). Non oso neanche immaginare cosa potrebbe succedere se un software ritenuto in grado di indovinare l?orientamento sessuale di una persona dovesse arrivare su uno smartphone. Torneremmo indietro di numerosi anni".
Ovviamente l'indagine ha una quantit? enorme di limiti. Non considera persone di colore n? orientamenti sessuali differenti, non ha cio? coinvolto soggetti transgender o bisessuali. E valuta come risultato azzeccato la corrispondenza fra la previsione del sistema e le dichiarazioni degli utenti su un banale sito di dating. Non bastasse, gli stessi scienziati hanno prodotto un altro test cambiando target d'analisi e selezionando casualmente un migliaio di uomini con almeno cinque fotografie per ciascuno, popolando il campione secondo una proporzione della popolazione che a loro avviso rispecchierebbe meglio la situazione nel mondo reale: sette omosessuali per ogni 100 uomini. In quel caso il sistema, a cui era stato chiesto di individuare i 100 volti pi? probabilmente gay, ha fatto segnare tassi di successo inferiori trovandone solo 47. I risultati sono tornati a crescere quando la richiesta si ? abbassata: istruito sull'individuare 10 volti gay su un campione molto ampio, l'algoritmo ne ha trovati nove. Come in molti altri ambiti, tuttavia, l'intelligenza artificiale dimostrerebbe - qualora queste scoperte fossero confermate - capacit? d'intromissione nella sfera privata incommensurabili. Proprio pochi giorni fa un altro studio ha per esempio utilizzato simili algoritmi per riconoscere i volti delle persone anche quando questi fossero parzialmente nascosti.
Identificare le persone da una loro immagine e poterne magari stabilire l'orientamento sessuale aprirebbe infatti a usi inconcepibili specialmente nell'epoca dei social network, con immensi database di foto che potrebbero perfino essere incrociati con quelli dei governi e delle amministrazioni. Chi ha fatto campagna per Donald Trump o per la Brexit avrebbe per esempio gi? utilizzato una serie di sistemi basati sulla profilazione psicometrica, ambito nel quale ? esperto proprio Kosinski, uno dei due autori, personaggio non nuovo a indagini controverse come quelle, appunto, pretendeva di stabilire tratti psicologici dalle informazioni contenute nei profili di Facebook.
Non ? un caso che proprio nell'indagine si faccia cenno alla possibilit? di esplorare le capacit? dell'AI per indovinare preferenze politiche o problematiche psicologiche, ovviamente disponendo dei data set adeguati. Per Kosinksi, tuttavia, la ricerca va intesa come un campanello d'allarme: ci occorrono tutele e protezioni, le intelligenze artificiali vanno regolamentate e limitate nel
loro campo d'azione perch? le potenzialit?, fondate o meno, potranno forse essere sviluppate. Per il ricercatore si tratta di una "dimostrazione" utile ad avvisare i legislatori della potenza di questi sistemi e dell'inevitabile erosione della privacy.
:1:
Comment