Passa ai contenuti principali

Ai: come difendersi dagli "attacchi" all'imaging radiologico. Human in the loop, ovvero l'importanza dell'interazione uomo macchina

Uno studio del Cnr e Università di Pisa ha evidenziato che il “machine learning”, può essere utilizzato anche in modo fraudolento. La ricerca, pubblicata sulla rivista European Journal of Nuclear Medicine and Molecular Imaging, mette in luce l'importanza dello human in the loop e del suo miglioramento attraverso nuovi strumenti di analisi digitale basati sull’intelligenza artificiale.





Uno studio, frutto della collaborazione tra l’Istituto di fisica applicata del Cnr e l’Università di Pisa, ha evidenziato come il “machine learning”, che utilizza gli algoritmi per l’analisi delle immagini cliniche, può essere utilizzato anche per modificarle, creando i cosiddetti “attacchi avversi”, in grado di ingannare gli stessi sistemi di analisi. La ricerca è stata pubblicata sulla rivista European Journal of Nuclear Medicine and Molecular Imaging del gruppo Springer Nature.

L'articolo a firma di Andrea Barucci dell’Istituto di fisica applicata “Nello Carrara” del Consiglio nazionale delle ricerche (Cnr-Ifac) e dal radiologo dell’Università di Pisa Emanuele Neri, analizza, attraverso lo strumento del machine learning, la possibilità di modificare le immagini radiologiche, pilotando l’esito di una diagnosi. Un rischio che solo lo studio dell’Intelligenza artificiale (Ai) può consentire di fronteggiare, sventando errori o azioni compiute in malafede.

“Nel mondo digitale, la sanità 4.0 si muove veloce verso una nuova visione, fondata su dati e integrazione di informazioni. Le analisi basate sull’Ai costituiscono uno strumento sempre più diffuso in tutti gli ambiti clinici, suscitando grandi aspettative. Un esempio è la Radiomica, ossia l’estrazione di parametri quantitativi dalle immagini radiologiche, con cui creare modelli diagnostici e predittivi: uno strumento ormai ampiamente utilizzato e, negli ultimi anni, rafforzato dall’introduzione delle reti neurali, dando origine alla deep-radiomics”, dichiara Andrea Barucci del Cnr-Ifac. “Il machine learning, su cui principalmente si fonda la potenza di queste analisi informatiche delle immagini, può tuttavia essere usato anche in modo negativo, per creare attacchi avversi ai sistemi di analisi delle immagini, cioè modifiche ad hoc delle immagini, impercettibili anche all’occhio umano esperto, studiate per ingannare gli stessi algoritmi e pilotare l’esito di una diagnosi”.

Lo studio dei due ricercatori definisce questo fenomeno in ambito di imaging radiologico come “Adversarial Radiomics”: “Un’analogia con il più ampio campo di ricerca dell’adversarial machine learning, in cui il fenomeno è studiato da anni, per esempio, nella cyber-security e nella guida autonoma”, aggiunge Neri.

“Gli esempi avversi sono un problema relativamente recente nello studio del machine learning, ma la loro applicazione all’imaging clinico è un ambito ancor più nuovo e con risvolti sociali importanti”, prosegue Barucci, “ad esempio nelle frodi assicurative. D’altronde proprio lo studio di questi esempi avversi è estremamente utile per approfondire la comprensione di algoritmi complessi come le reti neurali e migliorare lo sfruttamento degli strumenti informatici a disposizione”.

“L’intuizione del radiologo è ancora essenziale nel controllo e nell’integrazione delle complesse analisi fornite dagli algoritmi di intelligenza artificiale e il futuro impone una sempre maggiore armonizzazione fra l’analisi informatica e quella umana”, conclude Neri. “Lo studio vuole mettere in luce come i nuovi strumenti di analisi digitale basati sull’Ai dovranno essere sempre più volti proprio a migliorare quest’interazione (human in the loop)”.

Commenti

Post popolari in questo blog

Scienza, sviluppato dispositivo per misurare il metanolo nel vino

Ricercatori svizzeri hanno sviluppato un dispositivo economico che rileva basse concentrazioni di metanolo nel vino. La nuova tecnologia può essere utilizzata sia da i consumatori che dai produttori ed è in grado di rilevare valori di metanolo in soli due minuti. Perdita di coscienza fino al coma, disturbi visivi fino alla cecità, acidosi metabolica. Sono i segni caratteristici dell’intossicazione da alcool metilico o metanolo. In piccolissime percentuali, l’alcool metilico, è un componente naturale del vino ma che se aumentato dolosamente, provoca danni permanenti, portando anche alla morte. E' bene ricordare che più di trent'anni fa e purtroppo proprio in Italia, si verificò il più grave scandalo nel settore del vino. Si tratta del triste episodio del "vino al metanolo" che nel marzo 1986 provocò 23 vittime e lesioni gravissime a decine di persone come la perdita della vista. Al quel particolare vino erano state aggiunte dosi elevatissime di metanolo per

Vino e scienza, il sistema agrovoltaico come efficiente risposta allo stress idrico della vite

I risultati di uno studio francese dimostrano l'efficacia del sistema agrovoltaico nella gestione del vigneto. I pannelli solari installati nel vigneto sembrano avere un impatto positivo sulla resistenza della vite allo stress idrico. Nasce un nuovo e promettente modo di coltivare, secondo recenti studi l'agrovoltaico, ovvero agricoltura + fotovoltaico si sta dimostrando un sistema efficace nella gestione del vigneto che combina su una superficie, una coltura e pannelli solari fotovoltaici, sollevati da terra e controllati in base alle esigenze fisiologiche delle piante. In effetti è un doppio sistema in quanto i pannelli oltre a produrre energia pulita e rinnovabile, proteggono le piante modificando il clima sulle colture. L’agrovoltaico di fatto può essere considerato una tecnologia 4.0 applicata alla viticoltura. I pannelli solari installati nel vigneto sembrano avere un impatto sulla resistenza della vite allo stress idrico. Uno studio condotto dalla Camera dell

Archeologia, Toscana: a San Casciano ritrovate statue di bronzo etrusche e romane intatte. Scoperta più importante dei Bronzi di Riace

 A San Casciano dei Bagni in Toscana riemergono da alcuni scavi 24 statue di bronzo etrusche e romane intatte. La scoperta è più importante del ritrovamento dei Bronzi di Riace. 24 statue di bronzo, 5 delle quali alte quasi un metro, e perfettamente integre. L'eccezionale scoperta è avvenuta a San Casciano dei Bagni in Toscana, piccolo borgo nella provincia di Siena noto per le sue affascinanti terme. In queste ore i tecnici del laboratorio sono già al lavoro per il restauro delle opere. Il ritrovamento grazie ad un progetto in cui gli archeologi sono impegnati da tre anni. Gli scavi furono intrapresi infatti nel 2019 con la concessione del ministero della Cultura e il sostegno anche economico del comune toscano. Alla guida del progetto l’archeologo Jacopo Tabolli, docente dell’Università per Stranieri di Siena. I lavori nel sito hanno fatto già fatto parlare di sé. Dalle acque delle terme infatti emergono oggetti straordinari, come la grande vasca, svariate offerte votive, altari