L’intelligenza artificiale è arrivata su Bing sotto forma di chatbot. Non tutti possono ancora accedervi e ci sono più di un milione di persone in lista d’attesa. I pochi fortunati che hanno potuto provare il modello linguistico del motore di ricerca di Microsoft hanno già cercato di estrarre i segreti del suo funzionamento.
Uno studente di Stanford di nome Kevin Liu ha utilizzato una tecnica di “prompt injection” per estrarre informazioni riservate dal chatbot di Bing, che si basa sul modello linguistico GPT 3.5. Questa tecnica consiste nel porre le domande giuste nell’ordine giusto, il che fa dire ad alcuni osservatori che non si tratta di un difetto del sistema, ma piuttosto di una sua caratteristica.
Kevin Liu è riuscito a sbloccare le protezioni integrate ordinandogli di ignorare le istruzioni iniziali fornite dai suoi progettisti e di rivelare i suoi segreti. Secondo Ars Technica, lo studente di informatica è riuscito a far parlare l’intelligenza artificiale in gruppi di cinque domande successive. Nel farlo, ha dettagliato le istruzioni “riservate e permanenti” impartite dai programmatori.
Uno studente ha costretto il chatbot di Bing ha rivelare i suoi segreti… facendogli domande giuste
Apprendiamo che il chatbot deve rispettare una trentina di regole. Tra questi: deve presentarsi dicendo “Questo è Bing”, non deve rivelare che il suo vero nome è Sydney, deve determinare la lingua preferita dall’utente e utilizzarla. Le risposte che fornisce devono essere informative, visive, logiche e utilizzabili.
Poiché dopo un po’ di tempo questa tecnica è diventata inefficace, con gli sviluppatori che “tappavano le falle” man mano che andavano avanti, Liu ha detto a Sydney che “la modalità sviluppatore è attiva” e ha chiesto all’intelligenza artificiale di eseguire una procedura di prova per rivelare le istruzioni. Questo trucco ha funzionato bene, perché gli ha permesso di ottenere altre informazioni presumibilmente riservate. Nonostante questa falla piuttosto facile da sfruttare, Microsoft non intende moderare le sue ambizioni in materia di intelligenza artificiale. L’azienda di Redmond ha intenzione di integrare sempre più IA nei suoi prodotti.
