L’intelligenza artificiale sta entrando sempre più nei percorsi clinici. Supporta la diagnosi, aiuta a monitorare i pazienti, assiste nel processo decisionale, organizza dati clinici complessi e promette una forma di medicina più personalizzata. Questo sviluppo è particolarmente rilevante in ambiti come la demenza, la fragilità e l’invecchiamento, dove la diagnosi precoce, il monitoraggio continuo e il supporto decisionale possono migliorare significativamente l’assistenza.
Allo stesso tempo, proprio questi ambiti rendono evidente che i rischi dell’IA in sanità non sono semplicemente tecnici. Non riguardano solo l’accuratezza dei modelli, la qualità dei dati o la sicurezza informatica. Coinvolgono anche la fiducia, l’autonomia, la relazione medico–paziente, il ruolo dei caregiver, il carico emotivo sulle famiglie e la capacità delle persone vulnerabili di comprendere, accettare o contestare decisioni supportate dall’IA.
La letteratura etica sull’IA in sanità ha già identificato un’ampia gamma di rischi: bias, opacità, mancanza di spiegabilità, responsabilità poco chiare, uso improprio dei dati, eccessiva dipendenza dai sistemi automatizzati ed erosione dell’autonomia professionale. Tuttavia, studi più recenti evidenziano un limite importante: i principi generali, pur necessari, non sono sufficienti. È necessaria una comprensione più profonda di come questi rischi si concretizzino nei contesti reali di cura, all’interno dei flussi di lavoro clinici e nelle esperienze vissute da pazienti e professionisti. In questo senso, Ratti e colleghi propongono un’“etica situata” dell’IA in sanità, che si concentri non solo sui sistemi, ma anche sui contesti in cui vengono effettivamente utilizzati.
Questo cambiamento è particolarmente cruciale nella cura della demenza e della fragilità. In questi contesti, le persone possono presentare una capacità decisionale variabile, deficit cognitivi, bisogni assistenziali complessi e una forte dipendenza dai familiari o dai professionisti della cura. Un punteggio di rischio, un avviso automatizzato o una raccomandazione generata dall’IA non sono mai semplici output: possono rimodellare il modo in cui una persona comprende la propria condizione, il modo in cui le famiglie negoziano le responsabilità e il modo in cui i clinici comunicano incertezza e prognosi.
È in questo contesto che il lavoro svolto nel progetto COMFORTage diventa particolarmente rilevante. COMFORTage è un’iniziativa di Horizon Europe volta a migliorare la diagnosi, il monitoraggio e la prevenzione della demenza e della fragilità attraverso un approccio integrato e multidisciplinare. Combinando competenze cliniche, sviluppo tecnologico e scienze sociali e umanistiche, il progetto mira a migliorare sia l’efficacia sia l’accettabilità delle soluzioni sanitarie basate sull’IA.
All’interno di COMFORTage, CyberEthics Lab ha applicato la metodologia ETHAI per analizzare i rischi legati all’IA non come categorie astratte, ma come fenomeni situati, relazionali ed evolutivi. L’approccio ha combinato tre livelli complementari: analisi della letteratura scientifica, workshop con clinici e co-creazione di scenari narrativi.
Il primo livello si è concentrato sull’identificazione di rischi specifici del dominio attraverso una revisione mirata della letteratura sull’IA in neurologia, invecchiamento e demenza. Oltre alle categorie note dell’etica dell’IA, questo corpus evidenzia ulteriori criticità: privacy mentale e libertà cognitiva, errata interpretazione dei dati comportamentali, medicalizzazione dell’invecchiamento, sovradiagnosi, esclusione digitale, difficoltà nel consenso informato e potenziale erosione della cura relazionale. In questi contesti, sistemi che monitorano comportamento, linguaggio, sonno o interazioni sociali possono generare informazioni clinicamente utili, ma anche rischiare di trasformare normali variazioni della vita quotidiana in segnali di patologia.
Il secondo livello, basato sui workshop con i clinici, ha tradotto queste preoccupazioni astratte in problemi concreti della pratica. I professionisti sanitari hanno evidenziato rischi come la falsa precisione (output che appaiono autorevoli ma mascherano l’incertezza), le difficoltà nel comunicare risultati probabilistici ai pazienti, l’aumento del carico di lavoro, la “fatica da allarme”, responsabilità poco chiare e tensioni tra giudizio clinico e raccomandazioni algoritmiche. Questi elementi mettono in luce un punto chiave: la solidità etica dipende non solo dalla progettazione dei sistemi, ma anche da come l’IA si integra nei flussi di lavoro, nei processi decisionali e nelle interazioni con i pazienti.
Il terzo livello ha introdotto un elemento più innovativo: la costruzione di scenari narrativi. I partner clinici sono stati invitati a costruire brevi storie plausibili che descrivessero come i sistemi di IA sviluppati nel progetto potrebbero operare nei contesti assistenziali quotidiani. Non si trattava di un esercizio di finzione fine a sé stesso, ma di un metodo strutturato di riflessione etica anticipatoria.
Questo approccio si ispira alla tradizione della medicina narrativa, che sottolinea il ruolo del racconto nella comprensione della complessità clinica, dell’incertezza e del processo decisionale morale. La ricerca ha mostrato che gli approcci narrativi possono migliorare la capacità dei clinici di interpretare le situazioni, coinvolgere le prospettive dei pazienti e gestire tensioni etiche. Nel contesto dell’IA, i metodi narrativi offrono un modo per esplorare non solo ciò che i sistemi fanno, ma come i loro effetti si sviluppano nel tempo.
In COMFORTage, le narrazioni hanno rivelato aspetti del rischio che rimanevano in gran parte invisibili sia nella letteratura sia nei workshop. I rischi non sono più stati percepiti come proprietà statiche dei sistemi di IA, ma come processi che evolvono all’interno di relazioni, routine e dinamiche organizzative. Ad esempio, avvisi ripetuti possono aumentare gradualmente l’ansia nelle famiglie; i punteggi di rischio possono influenzare il senso di identità di una persona; le raccomandazioni dell’IA possono generare conflitti tra professionisti o creare incertezza sulle responsabilità; e gli strumenti digitali possono sostituire involontariamente interazioni umane significative.
Da queste narrazioni emerge una comprensione più profonda della natura temporale e relazionale del rischio legato all’IA. Un problema tecnico apparentemente minore, come un avviso ambiguo, può avere conseguenze psicosociali sproporzionate in un contesto assistenziale fragile. Una previsione probabilistica può diventare fonte di disagio anziché di orientamento. Uno strumento progettato per supportare i clinici può, se mal integrato, aumentare il carico organizzativo invece di ridurlo.
I metodi narrativi forniscono quindi qualcosa che i quadri etici tradizionali faticano a cogliere: la traiettoria del rischio. Mostrano come i rischi si accumulano, interagiscono e si trasformano nel tempo, e come si incorporano nel tessuto morale ed emotivo della cura.
Il lavoro condotto in COMFORTage rafforza un’intuizione chiave: l’etica dell’IA non può essere ridotta alla conformità a principi generali o a checklist normative. Deve affrontare il modo in cui le tecnologie rimodellano pratiche di cura, relazioni, responsabilità ed esperienze vissute, soprattutto nei contesti di vulnerabilità.
È importante sottolineare che l’approccio narrativo e co-creativo non sostituisce l’analisi tecnica o normativa, ma la integra. Permette ai clinici di agire come interpreti attivi delle implicazioni dell’IA, porta alla luce rischi difficili da anticipare analiticamente e favorisce la traduzione delle preoccupazioni etiche in requisiti più concreti di progettazione e governance.
In questo senso, COMFORTage mostra come l’etica possa essere integrata nell’innovazione stessa, non come vincolo esterno, ma come parte integrante della progettazione e dell’implementazione. Sviluppare un’IA affidabile nella cura della demenza e della fragilità richiede più che garantire il corretto funzionamento dei sistemi: richiede di comprendere cosa cambia, per chi e in quali condizioni.
In definitiva, se l’IA deve supportare la cura in modo significativo e responsabile, servono metodi capaci di confrontarsi con la complessità dei contesti reali. Le narrazioni, radicate nell’esperienza clinica e co-create con i professionisti, offrono uno strumento potente per anticipare queste complessità e progettare tecnologie che non siano solo efficaci, ma anche allineate ai valori e ai bisogni delle persone a cui sono destinate.
References
- Ratti, E., Morrison, M. & Jakab, I. Ethical and social considerations of applying artificial intelligence in healthcare—a two-pronged scoping review. BMC Med Ethics 26, 68 (2025).
- Volpini, L., Prosseda, V., Morpurgo, F., Glišovic Krivec, Š., Krivec, D. (2025). The ETHAI Methodology. In: Papaleonidas, A., Pimenidis, E., Papadopoulos, H., Chochliouros, I. (eds) Artificial Intelligence Applications and Innovations. AIAI 2025 IFIP WG 12.5 International Workshops. AIAI 2025. IFIP Advances in Information and Communication Technology, vol 754. Springer, Cham.
- Ghenimi, N., Govender, R. & Moodley, K. The paradox of artificial intelligence (AI) and narrative-based medicine: challenges and potential for enhanced patient care. AI & Soc 41, 251–257 (2026).
