Tutto su Intelligenza artificiale
Tessa, un chatbot di intelligenza artificiale creato per aiutare a prevenire i disturbi alimentari, ha finito per dare consigli dietetici potenzialmente dannosi ad alcuni utenti. Ciò ha causato la sua sospensione dall’operatore, la National Eating Disorders Association (NEDA), negli Stati Uniti.
Tessa non aveva un’intelligenza artificiale generativa come ChatGPT di OpenAI. Ha offerto semplici risposte conversazionali ai problemi di immagine corporea per aiutare le persone a riformulare il loro pensiero e quindi prevenire i disturbi alimentari. Il chatbot è stato sviluppato da ricercatori di diverse università, tra cui l’Università di Washington e la Stanford University.
Leggi anche:
Liz Thompson, CEO dell’organizzazione no profit, afferma che l’organizzazione era preoccupata per il linguaggio di Tessa. Due utenti del chatbot hanno segnalato il problema su Instagram e hanno attirato molta attenzione da parte della stampa statunitense.
Sharon Maxwell e Alexis Conason hanno affermato nei post che Tessa ha dato consigli sul conteggio delle calorie, ha raccomandato la perdita di peso settimanale (discutibile) e ha fornito linee guida per limitare le diete. Gli esperti, inclusa la stessa NEDA, affermano che questo comportamento è sintomatico di un disturbo alimentare.
Chatbot che sostituisce gli esperti umani
La disattivazione del chatbot finisce per avvalorare le critiche che l’associazione ha già ricevuto in relazione ai recenti spostamenti nel modo in cui opera. Thompson aveva detto che Tessa non avrebbe sostituito la linea di assistenza della NEDA, composta da professionisti umani.
Ma a marzo, l’ente di beneficenza ha dichiarato che avrebbe interrotto la linea di assistenza in una transizione alla tecnologia assistita dall’intelligenza artificiale « per fornire a individui e famiglie una risorsa moderata e completamente automatizzata, Tessa ». Il servizio di assistenza telefonica di NEDA è stato disattivato lo scorso giovedì (01).
Hai guardato i nuovi video su YouTube di Olhar Digital? Iscriviti al canale!
Immagine: Alena Ogolikhina/Shutterstock