San Francisco Frontiers - Anche i chatbot soffrono di afasia, parlano bene ma inventano

Anche i chatbot come ChatGpt, progettati per simulare conversazioni umane, possono soffrire di afasia, un disturbo del linguaggio: chi ne è affetto parla fluentemente ma dicendo cose prive di senso. In modo analogo, i sistemi basati sull'Intelligenza Artificiale rispondono in maniera estremamente convincente, ma spesso inventano le informazioni che forniscono rivelandosi dunque inaffidabili. Questo parallelo tra chatbot ed esseri umani è alla base dello studio pubblicato sulla rivista Advanced Science, guidato dagli Istituti di studi avanzati dell'Università di Tokyo: la scoperta apre a nuovi passi avanti sia per migliorare la diagnosi di afasia, sia fornendo spunti agli ingegneri che lavorano con le IA per migliorare i loro sistemi. "Non stiamo dicendo che i chatbot abbiano danni cerebrali", dice Takamitsu Watanabe, che ha guidato i ricercatori: "Ma potrebbero risultare bloccati da uno schema rigido interno che limita la flessibilità con cui possono attingere alle conoscenze immagazzinate, proprio come avviene nell'afasia. Resta da vedere se i modelli futuri riusciranno a superare questa limitazione - prosegue Watanabe - ma comprendere questi parallelismi potrebbe essere il primo passo verso un'IA più 'intelligente' e affidabile". Gli autori dello studio hanno esaminato l'attività cerebrale di persone affette da afasia e l'hanno confrontata con i dati liberamente disponibili di alcuni chatbot: l'analisi ha portato alla scoperta di alcune sorprendenti somiglianze. Infatti, il modo in cui le informazioni e i dati vengono spostati ed elaborati all'interno dei modelli di IA corrisponde al comportamento di alcuni segnali cerebrali nel cervello di individui afasici. I risultati, oltre a suggerimenti per risolvere il problema dei chatbot, offrono dunque un nuovo metodo per classificare il disturbo dell'afasia basandosi sull'attività cerebrale della persona, anziché solo sui sintomi esterni.

K.Gray--SFF