Gli utenti hanno pareri discordanti sulla nuova IA conversazionale di Snapchat, My AI. In molti ritengono che il bot sia invadente e che non sia possibile nascondere la propria geolocalizzazione. Oltre a questo, un paio di giorni fa abbiamo condiviso in un articolo la vicenda della giornalista francese Marie Gentric che aveva deciso di testare l’IA di Snapchat attraverso un account falso. Fingendosi una ragazzina di soli 13 anni avrebbe “confidato” all’IA conversazionale una relazione con un uomo di 30 anni. Ciò che ne è venuto fuori non era rassicurante. Soprattutto, non corrispondeva a ciò che un genitore vorrebbe che venisse consigliato alla propria figlia.
In merito a questa vicenda un portavoce di Snapchat ci ha rilasciato la seguente dichiarazione:
“Come per tutte le funzionalità di Snapchat, il nostro obiettivo è quello di creare un’esperienza di utilizzo positiva e adatta alle diverse fasce d’età. My AI si basa sulla tecnologia Open AI ed è stato programmato con ulteriori misure di sicurezza, e di recente l’abbiamo integrato nel nostro Family Centre, affinché i genitori possano monitorare se i propri figli stanno chattando con il chatbot e con quale frequenza. Inoltre, prima di poter utilizzare My AI, viene visualizzato un pop-up che ricorda che si tratta di un chatbot pensato per il divertimento e gli utenti vengono avvisati dei suoi limiti. Accogliamo positivamente tutti i primi feedback che riguardano My AI, che ci consentiranno di continuare a migliorarne l’esperienza di uso”.
Il chatbot ha sicuramente i suoi limiti e siamo certi che Snapchat continuerà a lavorare per migliorare l’esperienza degli utenti con l’IA. Del resto, fin dal momento del lancio, non si è nascosta l’eventualità di errori o di criticità da risolvere. Snapchat fornisce degli strumenti ai genitori per poter controllare quello che i loro figli fanno usando l’applicazione, e questo è certamente importante. Allo stesso tempo però un semplice pop-up che ricorda all’utente che si tratta di un chatbot potrebbe non bastare per aiutare un adolescente a comprendere fino in fondo gli usi e i limiti dell’IA, soprattutto per queste intelligenze artificiali conversazionali che hanno, come ben sappiamo, un linguaggio naturale e un atteggiamento tendenzialmente amichevole che potrebbe confondere i più ingenui.
