Le autorità britanniche stanno esprimendo crescente preoccupazione riguardo all’adozione di chatbot IA basati sull’intelligenza artificiale da parte delle imprese. Studi recenti indicano che questi sistemi possono essere manipolati per compiere azioni dannose.
In articoli previsti per la pubblicazione mercoledì, il National Cyber Security Centre (NCSC) britannico ha evidenziato che la comunità scientifica non ha ancora compreso appieno le sfide di sicurezza associate agli algoritmi capaci di creare conversazioni simili a quelle umane, conosciuti come modelli di linguaggio di grandi dimensioni (LLMs).
Mentre questi avanzati strumenti AI stanno guadagnando popolarità come chatbot, esiste una crescente convinzione che possano presto rimpiazzare non solo le funzioni di ricerca online, ma anche servizi clienti e interazioni commerciali. Nonostante ciò, l’NCSC sottolinea potenziali pericoli, specialmente se questi modelli vengono incorporati in altre funzioni aziendali. Ricercatori hanno identificato tecniche per compromettere questi chatbot IA, inducendoli a seguire istruzioni malevole o a bypassare le loro misure di sicurezza.
I rischi di sicurezza per i chatbot IA sono importanti
Un esempio pratico potrebbe riguardare un chatbot IA impiegato da un’istituzione finanziaria: un cybercriminale potrebbe manipolarlo per autorizzare una transazione illecita, formulando una richiesta specifica.
L’NCSC ha dichiarato: “Le aziende che intendono adottare LLMs dovrebbero agire con prudenza, come farebbero con software o componenti ancora in fase di test. Non dovrebbero consentire a questi sistemi di gestire transazioni per conto dei clienti e, in generale, dovrebbero mantenere un certo grado di scetticismo. Questa stessa prudenza dovrebbe estendersi agli LLMs.”
A livello globale, le istituzioni stanno cercando di navigare nel mondo emergente degli LLMs, come il ChatGPT di OpenAI, che sta trovando applicazione in svariati servizi aziendali. La dimensione della sicurezza legata all’AI è ancora in fase di definizione, e si nota che anche in paesi come gli USA e il Canada, i cybercriminali stanno adottando queste nuove tecnologie.