Se chiedi ad Alexa di Amazon o all’Assistente Google quale sarà la temperatura domani, entrambi gli assistenti vocali risponderanno prontamente. Ora, ti immagini se queste funzionalità fossero dotate di AI e, prima ancora che tu faccia la domanda, gli assistenti ti avvertano, ad esempio, di prendere l’ombrello quando esci?
Non esistono ancora dispositivi dotati della tecnologia a questo livello, ma la ricerca per far sì che ciò accada è già in corso – e con essa arrivano le necessarie questioni etiche.
Per saperne di più:
- Incontra un assistente vocale per la casa connessa realizzato con ChatGPT
- Intelligenza artificiale generativa: cos’è, come funziona e dove usarla
- L’intelligenza artificiale sta aiutando i medici a diagnosticare il cancro al seno
Assistenti vocali basati sull’intelligenza artificiale
Una delle possibilità degli assistenti vocali con IA sarebbe quella di aiutare gli anziani che stanno vivendo un declino cognitivo, esercitando la comunicazione, ricordando loro le attività quotidiane o addirittura anticipando i bisogni – come, ad esempio, comprare un utensile per la casa o lavare i panni.
Poiché questa tecnologia è già in fase di sviluppo, i ricercatori del National Science Foundation AI Institute for Collaborative Assistance and Responsive Interaction for Networked Groups (AI-CARING), un’agenzia indipendente a favore della scienza e dell’ingegneria negli Stati Uniti, hanno deciso di approfondire alcune questioni etica in anticipo, nella speranza che i progettisti di intelligenza artificiale lo considerino nei loro progetti.
I progettisti hanno sicuramente buone intenzioni, ma tutti possiamo trarre vantaggio dallo scambio di idee tra discipline e dal parlare con persone con prospettive diverse su questi tipi di tecnologie.
Jason Borenstein, professore di etica e direttore dei Graduate Research Ethics Programs presso la Georgia Tech School of Public Policy Hai mai pensato di fidarti di Alexa anche solo per prendere le tue medicine? Presto potrebbe diventare realtà (Immagine: Diego Thomazini / Shutterstock.com)
Graffi
Per Borenstein, se i rischi non vengono presi in considerazione, una famiglia può confidare che un parente anziano sia al sicuro nelle cure dell’IA, quando in realtà non lo è.
Gli scienziati ribadiscono ancora che, una volta che una persona si fida della tecnologia, diventa più esposta ad essa. Tutto questo rischio è aumentato con gli anziani, un gruppo che è tipicamente più vulnerabile e può diventare ancora più dipendente dall’intelligenza artificiale con il progredire del declino cognitivo.
Se un sistema commette un errore quando gli affidi qualcosa di benigno, come aiutarti a scegliere quale film guardare, non è un grosso problema. Ma se ti fidassi di lui per ricordarti di prendere la tua medicina e lui non ti ricorda o ti dice di prendere la medicina sbagliata, sarebbe un grosso problema.
Alex John London, autore principale dell’articolo e K&L Gates Professor of Ethics and Computational Technologies presso la Carnegie Mellon University Per i ricercatori, gli utenti devono conoscere i limiti dell’IA (Immagine: Login / Shutterstock.com)
Quale sarebbe la soluzione per gli assistenti vocali con AI
- Secondo i ricercatori, se i progetti di assistenti vocali IA apprezzano davvero l’utente, terranno conto degli aspetti di fiducia, sicurezza, privacy e persino dei cambiamenti nelle capacità cognitive di una persona.
- Inoltre, indicano che il sistema dovrebbe essere a vantaggio dell’utente, non di un’azienda che vuole solo commercializzare il prodotto.
- Tuttavia, pur sottolineando la privacy, gli scienziati affermano che, per sviluppare un sistema avanzato a questo livello, devono essere prese in considerazione diverse fonti di informazioni, che possono essere ottenute condividendo i dati. Tuttavia, ciò significherebbe esporre l’utente a rischi per la privacy.
- Per mitigare questo, propongono che l’utente sia a conoscenza e possa controllare le autorizzazioni di condivisione.
Trasparenza
Un altro punto sollevato dai ricercatori, che hanno inserito le loro proposte nell’articolo Questioni etiche negli assistenti sociali intelligenti nel prossimo futuro per gli anzianipubblicato sulla rivista Transazioni IEEE su tecnologia e societàè chiarire ciò che l’IA può e non può fare.
Secondo loro, l’eccessiva dipendenza è un problema e chiedere alla tecnologia di fare più di quanto è in grado di fare può portare a risultati inaspettati.
Con informazioni da Tech Xplore
Hai visto i nuovi video su Youtube del look digitale? Iscriviti al canale!
Gli assistenti vocali post AI sono già in fase di sviluppo, ma possono essere pericolosi apparsi prima in Olhar Digital.