OpenAI sta lavorando ad uno strumento in grado di rilevare le immagini generate dall’IA che però potrebbe non bastare per far sparire i deepfake.
L’IA e soprattutto l’intelligenza artificiale generativa ha stravolto un pò tutti i settori nell’ultimo anno ma soprattutto ha dato a milioni di utenti l’accesso a strumenti per la creazione di immagini. Programmi di IA generativa come DALL-E e Midjourney hanno inondato il web con milioni di creazioni sintetiche a volte poco realistiche ma altre volte molto realistiche, talmente tanto da creare scompiglio e da portare uno studio scientifico a sostiene che l’intelligenza artificiale e i deepfakes possano addirittura arrivare a distorcere i ricordi.
Il co-creatore di ChatGPT, Mira Murati, ha dichiarato che lo strumento creato da OpenAI per rilevare le immagini create da un’intelligenza artificiale è “affidabile al 99%”. Si tratta di un punteggio più che rispettabile, ma il rilevatore di contenuti creati dall’IA dell’azienda ha un punto debole, ovvero quello di poter individuare solo i “falsi” che sono stati progettati con DALL-E. Pur essendo questo molto popolare, in realtà le immagini create con questa AI multimodale rappresentano meno del 6% dei 15 miliardi di immagini generate con questa tecnologia dalla sua nascita.
I deepfake e le immagini sintetiche sembrano dunque avere ancora un futuro davanti a sé, soprattutto perché gli utenti hanno a disposizione una scelta sempre più ampia di strumenti che promettono cose strabilianti. Sono diversi i servizi che offrono la generazione di immagini con l’intelligenza artificiale, da Midjourney a DALL-E, e persino Microsoft Paint.
In ogni caso sono in molti ad avvertire la necessità di maggiore chiarezza e alcuni grandi nomi della tecnologia si stanno concentrando sull’offerta di etichette e contrassegni per determinare l’origine dei contenuti. Adobe ad esempio ha lanciato un simbolo universale per identificare le immagini prodotte dall’IA.
Fra le notizie correlate, ricordiamo che OpenAI aveva rilasciato anche uno strumento per rilevare i testi scritti con ChatGPT che però non si è rivelato particolarmente affidabile.
