Google Gemini, in grado di creare immagini da descrizioni testuali, è stato criticato per aver raffigurato figure storiche bianche come persone di colore. Google ha ammesso le “imprecisioni” e sta lavorando a una soluzione.
Google Gemini, precedentemente noto come Bard, si trova al centro di un vivace dibattito sulla rappresentazione razziale nelle immagini generate da intelligenza artificiale. Alcuni utenti hanno sollevato perplessità riguardo alla generazione di immagini che ritraggono figure storiche bianche o gruppi di persone tradizionalmente bianche come individui di diverse etnie. La BBC ha riportato questa notizia e prontamente Google ha riconosciuto che Gemini “presenta delle imprecisioni in alcune rappresentazioni storiche di generazione di immagini” e si impegna a correggere queste discrepanze.
Il dibattito è stato innescato da un ex dipendente di Google che ha messo in evidenza la difficoltà di far riconoscere a Gemini l’esistenza di persone bianche attraverso la generazione di immagini di donne americane, britanniche e australiane. La questione ha suscitato un’ampia gamma di reazioni, con diversi utenti che hanno condiviso immagini generate dall’intelligenza artificiale raffiguranti i padri fondatori dell’America e i papi della Chiesa cattolica come persone di colore.
The Verge ha anche riferito che Gemini ha rappresentato i nazisti come persone di colore, sebbene il chatbot abbia rifiutato di generare tali immagini nei nostri test.
Queste rappresentazioni potrebbero essere il risultato di un tentativo di correzione eccessiva da parte di Google, in risposta ai pregiudizi razzisti e sessisti mostrati dai chatbot e dai sistemi AI negli anni passati. In risposta alle critiche, Jack Krawczyk, Product Lead di Gemini, ha sottolineato l’impegno di Google a creare capacità di generazione di immagini che riflettano la sua base di utenti globale e l’importanza di una rappresentazione equa. Ha confermato che Gemini continuerà a produrre illustrazioni razzialmente diverse per richieste generiche, ma riconosce che i contesti storici richiedono un’attenzione particolare e che saranno effettuate ulteriori regolazioni.
Aggiornamento del 22.02
Riportiamo di seguito una dichiarazione di Jack Krawczyk:
“Stiamo già lavorando per risolvere i recenti problemi con la funzionalità di generazione di immagini di Gemini. Mentre lo facciamo, sospenderemo la generazione di immagini di persone e rilasceremo presto una versione migliorata.”
