Un’indagine rivela come sviluppatori di app sfruttano l’intelligenza artificiale per creare immagini pornografiche false senza consenso, mascherando le loro vere funzionalità sotto titoli innocui per aggirare le politiche dell’App Store di Apple.
Una recente indagine di 404 Media ha gettato luce su una pratica inquietante nel mondo delle app mobile: alcuni sviluppatori hanno utilizzato annunci su Instagram per promuovere app AI capaci di “spogliare gratuitamente qualsiasi ragazza” mediante l’uso di intelligenza artificiale, creando così immagini esplicite senza consenso.
Il rapporto di 404 Media rileva che questi annunci portavano direttamente alle app elencate sull’App Store di Apple, presentate sotto titoli ingannevolmente neutri come “generatore d’arte”. Questo mascheramento nasconde il loro vero scopo, ovvero consentire la creazione non consensuale di immagini pornografiche false.
Inizialmente, Apple non aveva risposto alle richieste di commento da parte di 404 Media. Tuttavia, dopo la ricezione dei link diretti alle app e alle relative campagne pubblicitarie, l’azienda ha agito prontamente rimuovendo tre applicazioni dall’App Store. Nonostante ciò, il rapporto suggerisce che la situazione potrebbe rappresentare un “gioco del gatto e del topo”, indicando che Apple potrebbe non essere in grado di identificare autonomamente le app violatrici senza aiuti esterni.
Il report rivela che, nonostante i precedenti avvertimenti del 2022 riguardo le capacità discutibili di queste applicazioni, sia Apple che Google hanno impiegato tempo per intervenire. Anni fa, i colossi tecnologici erano stati informati ma si erano rifiutati di rimuovere tali app, chiedendo piuttosto agli sviluppatori di cessare la pubblicità su siti per adulti. Le applicazioni erano state lasciate disponibili su App Store fino a interventi più recenti.
Una di queste applicazioni ha continuato a pubblicizzare le sue funzionalità fino al 2024, quando Google ha deciso di rimuoverla dal Google Play Store. Solo dopo mesi Apple ha seguito l’esempio, sollevando preoccupazioni sulla rapidità di risposta delle aziende a tali problemi.
