“Il medico mi guarda di più”: vantaggi e dubbi dell’arrivo dell’IA nelle consultazioni mediche spagnole | Tecnologia

“La dottoressa non prendeva appunti e concentrava la sua attenzione su di me”, racconta Fernando Egido, direttore generale della Banca Singular, dopo una visita medica a dicembre alla Fondazione Jiménez Díaz, a Madrid. Quel giorno ha visto per la prima volta un sistema di intelligenza artificiale (AI) che il gruppo ospedaliero Quirónsalud, proprietario del centro, sta testando dall’estate. «Mi guardava di più, era una sensazione di vicinanza e di attenzione maggiore che altre volte, quando doveva alternare lo sguardo sullo schermo del computer e quello su di me», aggiunge.

Il sistema ascolta la conversazione tra medico e paziente, redige il referto medico in un linguaggio comprensibile e propone un trattamento, che il medico dovrà confermare. “Salva i medici da compiti di scarso valore, permette loro di concentrarsi sul paziente e l’intelligenza artificiale genera tutta la parte amministrativa che altrimenti dovrebbero introdurre”, aggiunge Egido.

Il gruppo Quirónsalud chiama il sistema Mobility Scribe ed è un progetto proprio, secondo la società. In una conferenza di settembre pubblicata su YouTube hanno fornito alcuni dettagli del loro piano: “È il progetto di punta della casa”, ha detto Daniel Blanco, responsabile delle domande di assistenza. “Il medico residente o i segretari hanno svolto il ruolo di scrivano, addetto agli appunti, parte amministrativa, approfittiamo del potere dell’intelligenza artificiale per assumere questi ruoli”, ha aggiunto Blanco.

Scribe è anche un nome generico per questo tipo di applicazione di consultazione medica. Esistono decine di fornitori in tutto il mondo che offrono questo tipo di servizio. L’assicuratore americano Kaiser testa questi sistemi dall’ottobre 2023. Il sistema pubblico catalano ha annunciato di averlo già testato e che sarà implementato nel 2025, anche se non si hanno quasi informazioni sui dettagli. Il Ministero della Salute sta valutando un sistema simile per il 2027.

La semplificazione di questi tipi di attività è un esempio ideale di come l’intelligenza artificiale generativa avrà un impatto sul mondo del lavoro. “Uno dei principali problemi attuali delle consultazioni mediche è che il medico è diventato un “inseritore di dati” che ti guardava negli occhi solo due o tre volte, se eri fortunato”, afferma Jorge García Herrero, avvocato aziendale specializzato in dati protezione. “Considerati i progressi, era logico che lo scambio di informazioni tra medico e paziente fosse elaborato da un modello linguistico”, aggiunge, in modo che il sistema riassuma la conversazione, sottoponga i dati ai criteri del professionista prima di registrarli nel storia clinica e fornire un migliore accesso al paziente, che può rivedere la diagnosi senza analizzare la temuta grafia del medico.

Ma per ora l’intelligenza artificiale non è perfetta. Le trascrizioni di parole complesse continuano a essere una sfida: “Il medico ha dovuto rivedere ciascuna sezione per assicurarsi di averla trascritta correttamente”, dice Egido della sua visita. “Da quello che mi ha detto, da quando hanno iniziato ad usarlo due mesi fa il sistema ha notevolmente migliorato l’affidabilità della trascrizione”, aggiunge.

Un medico dell’ospedale di Quirónsalud che ha frequentato un corso preparatorio quest’autunno racconta a EL PAÍS che l’azienda aveva già avvertito della cosa. “L’hanno testato e dicono che devi stare attento con il correttore ortografico. Può sembrare una parola che non capisci e si scopre che è una parola che il correttore non ha nel suo dizionario, ma noi usiamo parole che non sono nei soliti dizionari,” spiega, indicando la parola ” eparina” come fonte di confusione, un farmaco anticoagulante.

Nella presentazione di Quirónsalud pubblicata su YouTube c’è una diapositiva in cui si accennano velatamente a problemi linguistici: “Lessico globale comune (ambiente semantico adeguato)”. Gli esempi inglesi di Kaiser funzionano bene, ma con lo spagnolo e le sue varianti dialettali in Spagna e America Latina può essere più complesso. Quirónsalud sta testando il sistema almeno negli ospedali di Madrid, della Galizia e della Catalogna.

Daniel Blanco, di Quirónsalud, ha ammesso in una certa misura che queste IA potrebbero avere difficoltà con specialità più complesse: “Dicono che funzioni meglio per il dolore al ginocchio che per la cardiologia”, ha ammesso. Fonti dell’azienda sottolineano che “in tutte le specialità ci sono consulti più semplici e più complessi e, infatti, la cardiologia è una delle specialità dove in alcuni centri è più utilizzata”. Le stesse fonti aggiungono tre commenti su questi rischi: ”Primo, il medico e il paziente decidono quando usare Scribe, nulla sarà universale al 100%; due, la trascrizione e le azioni di Scribe vengono riviste, convalidate e condivise con il paziente; e tre, il sistema impara ogni giorno e migliora con l’uso”.

Il trattamento di dati così sensibili può essere delicato, ma García Herrero ritiene che la sua capacità limitata potrebbe esonerare questo sistema. L’Agenzia spagnola per la protezione dei dati (AEPD), interpellata da questo giornale, afferma di non aver ancora ricevuto alcun caso. “Il fatto che sia configurato con uno scopo così ristretto aggira le principali limitazioni del regolamento europeo sull’intelligenza artificiale, perché è un puro assistente soggetto al giudizio umano”, afferma.

In un’intelligenza artificiale, ma in quale?

Anche il modello di intelligenza artificiale utilizzato da questo Scriba è un dettaglio attualmente sconosciuto: “Ci siamo affidati a un’intelligenza artificiale. Cerchiamo di renderlo agnostico rispetto al motore AI”, ha detto Blanco, di Quirónsalud, nel suo intervento. Se questo motore fosse uno di quelli famosi con sede negli USA, potrebbe sorgere un problema: “La cosa interessante e complessa sarebbe sapere se lo strumento è solo un livello di personalizzazione per un sistema AI come ChatGPT, perché questo implicherebbe il trasferimento di i dati trattati ad una multinazionale in un altro stato extraeuropeo. È necessario sapere quali aziende sono presenti nella catena di subappalto”, afferma García Herrero.

Ci sono domande più difficili a cui rispondere: la voce è un dato biometrico. Per Egido, che non ha dovuto firmare nulla, il suo medico «ha sottolineato» che «una volta trascritta la registrazione, questa è stata eliminata dal sistema». La società precisa che “la conversazione non viene registrata e viene utilizzata solo per generare il verbale e gli atti di protocolli, richieste di test, prescrizioni, richieste di appuntamento che nascono dall’atto medico”.

Per quanto riguarda i dati dei pazienti, José Varela, responsabile della Digitalizzazione del sindacato UGT, ha altri dubbi: “La meccanizzazione dei dati da parte di un operatore sanitario su una piattaforma aziendale non è la stessa cosa che se tali dati possano essere utilizzati per altri scopi, come ad esempio formazione del modello stesso”, afferma. L’azienda precisa che “è richiesto il consenso espresso del paziente”. Egido conferma che si tratta di un permesso senza firmare nulla di specifico: “A una certa ora [la doctora] “Mi hanno detto che stavano iniziando a utilizzare un’applicazione dotata di intelligenza artificiale e mi hanno chiesto il permesso come passo precedente per iniziare a utilizzarla.”

Il progetto Quirónsalud punta a rinnovare lo spazio ospedaliero: “Da una sala di consultazione piena di gadget a un ambiente più caldo e un’attenzione più personale”, secondo Blanco, che ha mostrato immagini simili agli attuali uffici bancari fisici, con sedili marroni e tavoli bassi.

Se hai maggiori informazioni su questo argomento puoi scrivere a jordipc@elpais.es