Dopo aver subito critiche per non aver protetto gli utenti dagli account abusivi, negli ultimi anni Instagram ha introdotto costantemente nuovi strumenti di sicurezza. Oggi l’azienda lancia nuovi strumenti per migliorare i filtri per i messaggi di testo, bloccare altri account di persone che sono state bloccate e spingere gli utenti a inviare risposte più attente.
L’anno scorso l’azienda ha introdotto la funzione “Parole nascoste”, che consente di filtrare i messaggi di testo abusivi utilizzando parole chiave ed emoji. Meta sta ampliando questo strumento per coprire le risposte alle Storie. La piattaforma afferma che questi DM abusivi andranno direttamente nella cartella Richieste nascoste – è strano che Instagram non li stia rimuovendo del tutto.
La funzione di filtro cercherà ora di individuare gli errori di ortografia intenzionali, come l’uso di “1” al posto di “i”, nei DM abusivi. In questo modo si vogliono catturare gli autori che vogliono ingannare l’intelligenza artificiale apportando semplici modifiche ai loro messaggi. Tuttavia, l’azienda non ha specificato se questo filtraggio funziona anche quando le persone inviano abusi in forma abbreviata.
Oltre a questo, la funzione supporta ora anche il rilevamento nelle lingue farsi, turco, russo, bengalese, marathi, telugu e tamil. Inoltre, Instagram sta aggiungendo ai suoi elenchi di filtri le parole spesso utilizzate per spammare o truffare le persone.
Instagram sta anche ampliando la portata del suo strumento di blocco preventivo. L’anno scorso ha introdotto questa funzione per bloccare nuovi account di persone già bloccate. Ora, questa funzione bloccherà anche gli account che la persona potrebbe già avere. L’azienda ha dichiarato che i test iniziali indicano che le persone dovranno bloccare quattro milioni di account in meno ogni settimana.
Nel 2020, la piattaforma ha iniziato a mostrare avvisi quando qualcuno cercava di pubblicare un commento potenzialmente abusivo su un post.
L’anno scorso ha introdotto un avvertimento con parole forti per i commenti inappropriati che violano le sue regole. L’azienda sta introducendo nuovi nudge per gli utenti che stanno per pubblicare un commento dannoso, ricordando loro di essere prudenti. Questi nudge supportano attualmente le lingue inglese, portoghese, spagnolo, francese, cinese e arabo. Non è chiaro come l’azienda separerà questi nuovi nudge dagli avvertimenti con parole forti.
In particolare, l’anno scorso Twitter ha introdotto un nuovo messaggio di risposta per ridurre i commenti offensivi.
Inoltre, l’azienda mostrerà promemoria per il rispetto quando gli utenti cercheranno di inviare DM ai creator. Uno studio pubblicato dal Center for Countering Digital Hate all’inizio di quest’anno ha rilevato che Instagram non riesce a proteggere le donne di alto profilo dai DM offensivi.
Queste nuove funzioni si basano su strumenti che Instagram aveva già introdotto nella sua applicazione. Quindi l’azienda potrebbe aver trovato delle prove del fatto che stanno funzionando in modo efficace. Questo si aggiunge agli strumenti di sicurezza per i bambini che impediscono loro di vedere contenuti dannosi. La scorsa settimana, l’azienda ha ampliato il suo strumento di verifica dell’età basato sull’intelligenza artificiale per offrire un’esperienza più sicura agli adolescenti nei suoi mercati più grandi, India e Brasile.
