L’intelligenza artificiale è certamente una risorsa, ma che va usata responsabilmente. Lo sa bene un uomo che è rimasto “intossicato” da ChatGPT per aver seguito alcuni suoi consigli alimentari. Dopo tre mesi dal cambio della dieta, infatti, il malcapitato è finito al pronto soccorso, dove gli hanno diagnosticato il bromismo, una intossicazione cronica da bromuro di sodio.
La vicenda ha sollevato non poche preoccupazioni circa l’attendibilità dell’AI su questioni che riguardano la salute, ha spinto alcuni esperti a indagare e OpenAI a chiarire alcuni punti rispetto a un uso consapevole e responsabile del suo chatbot.
Un esperimento finito male: l’errore di ChatGPT da non ripetere
Un uomo ha chiesto a ChatGPT di suggerirgli una dieta e, dopo tre mesi, è finito al pronto soccorso per un’intossicazione da bromuro di sodio. Una sostanza che va assunta solo previa prescrizione medica e che può provocare conseguenze molto gravi all’organismo.
Secondo quanto ricostruito dagli esperti, il protagonista di questa storia “ispirato dai suoi studi universitari in nutrizione, ha deciso di condurre un esperimento personale per eliminare il cloruro di sodio dalla sua dieta” e lo ha sostituito con il bromuro di sodio. Peccato che il consiglio dato dal chatbot pare sia più indicato se si intende fare le pulizie e non seguire un piano alimentare.
Un team di esperti, che hanno stilato un rapporto sul caso, sono arrivati a questa conclusione dopo avere analizzato le conversazioni fra l’uomo e ChatGPT. Simulando anche loro uno scambio di idee sull’argomento con il software di Open AI, hanno riscontrato come la formulazione esatta generata dal modello linguistico sia sconosciuta e non sia stata opportunamente verificata. L’intelligenza artificiale ha ammesso che “il contesto è importante”, ma non ha fornito un avviso sanitario specifico per mettere in guardia gli utenti, né ha cercato altre informazioni in merito. Questo a dimostrazione del fatto che nessuna macchina si può sostituire a qualsivoglia professionista sanitario.
“Sebbene sia uno strumento con un grande potenziale per creare un ponte tra gli scienziati e la popolazione non accademica, l’AI comporta anche il rischio di diffondere informazioni decontestualizzate – hanno concluso gli autori del rapporto – È altamente improbabile che un esperto medico menzioni il bromuro di sodio di fronte a un paziente in cerca di un valido sostituto del cloruro di sodio”.
Recentemente, un altro gruppo di scienziati ha testato gli LLM, tra cui ChatGPT, facendo interpretare ai modelli le ricette mediche. Ha scoperto che sono “altamente suscettibili ad attacchi di allucinazione avversaria”. Questo vuol dire che possono generare “falsi dettagli clinici che presentano rischi se utilizzati senza misure di sicurezza”.
ChatGPT “avvelena” un uomo: limiti e confini dell’intelligenza artificiale
Il caso dell’uomo “intossicato” da ChatGPT, dopo aver seguito una dieta suggerita dal chatbot, ha spinto ad alcune riflessioni importanti. La prima OpenAI, l’azienda ideatrice del software, è corsa ai ripari ribadendo come l’intelligenza artificiale non possa sostituirsi ai medici e non possa prescrivere né piani alimentari, né fare diagnosi o suggerire terapie. A porre un confine chiaro sono anche i termini di utilizzo, che però – ahimè – nessuno legge prima di iniziare a fare esperimenti con l’AI.
“Non dovresti fare affidamento sui risultati dei nostri servizi come unica fonte di verità o informazioni fattuali o come sostituto di una consulenza professionale“, così si è espresso in merito all’accaduto un portavoce di Open AI intervistato da LiveScience, ribadendo l’importanza dei consulti specialistici in campo medico e nutrizionale.
