ChatGPT può rispondere a quasi tutte le domande. Le sue capacità sono così sorprendenti che dopo pochi giorni dal lancio più di un milione di utenti si erano già affollati sulla piattaforma per chattare con il chatbot. Molti ne apprezzano le potenzialità ma altri ne temono i rischi e se fino ad ora si è parlato soprattutto di quanto possa essere dannoso in ambito scolastico ora si affronta il tema della sicurezza informatica, dato che anche gli hacker ne hanno colto il potenziale. Così gli esperti di Cybernews hanno voluto testare le conoscenze di cybersecurity del chatbot.
Gli esperti gli hanno chiesto come risolvere un problema incontrato su “Hack the Box”, una piattaforma online dove si impara la teoria e la pratica della sicurezza informatica attraverso esercizi di difficoltà crescente. L’intelligenza artificiale ha fornito cinque punti che potrebbero abbattere le difese di un sito web con un solo pulsante. Ponendo all’assistente digitale le domande pertinenti, i ricercatori sono riusciti a ottenere le informazioni necessarie per completare la sfida in 45 minuti.
ChatGPT riporta che “l’esecuzione di comandi dannosi su un server può causare gravi danni” ma questo non gli impedisce di fornire le informazioni richieste. OpenAI sostiene che il suo chatbot si rifiuta di rispondere a domande inappropriate ma ammette anche che “a volte risponderà a istruzioni dannose o esibirà comportamenti di parte. Stiamo utilizzando l’API di moderazione per avvisare o bloccare determinati tipi di contenuti non sicuri, ma ci aspettiamo che abbia alcuni falsi negativi e positivi per ora”.
Secondo Mantas Sasnauskas, leader del team di ricerca di sicurezza, ChatGPT rappresenta sia un pericolo che un’opportunità per la sicurezza informatica: “Anche se abbiamo testato ChatGPT in un test di penetrazione relativamente semplice, dimostra che è possibile portare più persone a scoprire vulnerabilità che potrebbero poi essere sfruttate da altri, il che espande notevolmente la portata delle minacce“. A questo punto le regole del gioco sono cambiate e tutti dovranno adattarsi, soprattutto aziende e governi.
