sabato, Ottobre 16, 2021
Home Tech Che cos'è l'IA conversazionale? I rischi per la sicurezza dell'IA conversazionale

Che cos'è l'IA conversazionale? I rischi per la sicurezza dell'IA conversazionale

La tecnologia dell'intelligenza artificiale (AI) continua ad evolversi, nel bene e nel male. L'intelligenza artificiale può avvantaggiare le persone che si affidano all'automazione di attività di routine e ingombranti. Tuttavia, l'intelligenza artificiale può essere potenzialmente utilizzata per alimentare truffe sempre più complesse al telefono e tramite chatbot.

Questo articolo riassumerà cos'è l'IA conversazionale, i rischi per la sicurezza dell'IA conversazionale e cosa fare per mitigarli.

Che cos'è l'IA conversazionale?

L'intelligenza artificiale conversazionale si riferisce all'uso di app di messaggistica, assistenti vocali e chatbot per automatizzare la comunicazione e creare esperienze personalizzate per i clienti.

Centinaia di milioni di persone utilizzano le piattaforme di messaggistica dei social media per comunicare con i propri amici e familiari ogni giorno. Nel frattempo, altri milioni conversano regolarmente con assistenti vocali come Alexa di Amazon e Google Home. L'IA conversazionale offre nuove opportunità per automatizzare le responsabilità quotidiane.

Di conseguenza, i programmi di messaggistica e vocali stanno rapidamente soppiantando le tradizionali app Web e mobili per diventare le nuove piattaforme per le conversazioni interattive.

È improbabile che quasi tre quarti delle persone (73%) si fidi dell'IA conversazionale per rispondere a semplici chiamate o e-mail, ma gli esperti affermano che questa esitazione cambierà man mano che le tecnologie diventeranno più mainstream, nonostante i rischi per la sicurezza.

Leggi anche: L'intelligenza artificiale rende la realtà virtuale e aumentata ancora più reale

L'intelligenza artificiale conversazionale può essere imprecisa o violata

Poiché le persone adottano assistenti digitali e interfacce AI conversazionali che consentono il dialogo in tempo reale con le macchine, ci sono diverse implicazioni sulla sicurezza da considerare.

Ad esempio, un riconoscimento vocale impreciso potrebbe consentire l'invio di messaggi errati alle persone sbagliate nell'elenco dei contatti.

Questo è successo a una coppia di Portland, in Oregon, nel 2018, che ha scoperto che la loro Alexa ha inviato registrazioni delle loro conversazioni al collega del marito, nonostante non chiedessero né di essere registrati né di inviare un messaggio.

Inoltre, gli hacker potrebbero assumere il controllo degli assistenti digitali. Ciò consentirebbe all'hacker di intercettare conversazioni private o sensibili, che potrebbero portare a furti di identità o frodi.

L'IA conversazionale può impersonare le persone

Anche l'impersonificazione è una vera preoccupazione. L'anno scorso, una società di app di messaggistica chiamata Luka ha creato un chatbot che impersonava il cast della Silicon Valley della HBO.

L'IA conversazionale ha anche il potenziale per indurre le persone a pensare di parlare con qualcuno che non sono. Prendi in considerazione Google Duplex, l'assistente vocale di Google in grado di chiamare ristoranti e prenotare prenotazioni per gli utenti.

La tecnologia ha fatto scalpore al momento del suo rilascio nel 2018, principalmente a causa della natura stranamente umana delle sue conversazioni. Le persone non potevano necessariamente dire chi fosse l'IA e chi l'umano.

Nel frattempo, la società di intelligenza artificiale Lyrebird ha sviluppato un programma in grado di sintetizzare la voce di chiunque analizzando una registrazione di un minuto. E Wavenet di Google fornisce una funzionalità vocale simile che richiede un set di dati molto più grande ma suona stranamente reale.

Leggi anche: Ostacoli sanitari: come superare gli ostacoli all'adozione dell'IA

Messi insieme, l'IA conversazionale potrebbe utilizzare repliche delle voci delle persone per tenere conversazioni, inducendo le persone a pensare che stiano parlando con un amico, un familiare o un collega. Le persone possono quindi condividere informazioni private senza rendersi conto che non stanno parlando con un confidente fidato.

In parole povere, la tecnologia di intelligenza artificiale conversazionale sta avanzando a un ritmo accelerato e il potenziale uso improprio di tale tecnologia è una vera preoccupazione.

Quanto dovremmo preoccuparci?

Il pubblico e gli sviluppatori di intelligenza artificiale devono utilizzare il buon senso per tutte le situazioni di intelligenza artificiale conversazionale, che si tratti di una persona dal vivo o di un chatbot.

Non condividendo informazioni sensibili tramite computer, dispositivo mobile o assistente vocale, le persone possono ridurre al minimo il potenziale impatto dell'IA conversazionale sulle attività illecite.

ARTICOLI CORRELATI

I PIÙ POPOLARI