Passa ai contenuti principali

Ai: come difendersi dagli "attacchi" all'imaging radiologico. Human in the loop, ovvero l'importanza dell'interazione uomo macchina

Uno studio del Cnr e Università di Pisa ha evidenziato che il “machine learning”, può essere utilizzato anche in modo fraudolento. La ricerca, pubblicata sulla rivista European Journal of Nuclear Medicine and Molecular Imaging, mette in luce l'importanza dello human in the loop e del suo miglioramento attraverso nuovi strumenti di analisi digitale basati sull’intelligenza artificiale.





Uno studio, frutto della collaborazione tra l’Istituto di fisica applicata del Cnr e l’Università di Pisa, ha evidenziato come il “machine learning”, che utilizza gli algoritmi per l’analisi delle immagini cliniche, può essere utilizzato anche per modificarle, creando i cosiddetti “attacchi avversi”, in grado di ingannare gli stessi sistemi di analisi. La ricerca è stata pubblicata sulla rivista European Journal of Nuclear Medicine and Molecular Imaging del gruppo Springer Nature.

L'articolo a firma di Andrea Barucci dell’Istituto di fisica applicata “Nello Carrara” del Consiglio nazionale delle ricerche (Cnr-Ifac) e dal radiologo dell’Università di Pisa Emanuele Neri, analizza, attraverso lo strumento del machine learning, la possibilità di modificare le immagini radiologiche, pilotando l’esito di una diagnosi. Un rischio che solo lo studio dell’Intelligenza artificiale (Ai) può consentire di fronteggiare, sventando errori o azioni compiute in malafede.

“Nel mondo digitale, la sanità 4.0 si muove veloce verso una nuova visione, fondata su dati e integrazione di informazioni. Le analisi basate sull’Ai costituiscono uno strumento sempre più diffuso in tutti gli ambiti clinici, suscitando grandi aspettative. Un esempio è la Radiomica, ossia l’estrazione di parametri quantitativi dalle immagini radiologiche, con cui creare modelli diagnostici e predittivi: uno strumento ormai ampiamente utilizzato e, negli ultimi anni, rafforzato dall’introduzione delle reti neurali, dando origine alla deep-radiomics”, dichiara Andrea Barucci del Cnr-Ifac. “Il machine learning, su cui principalmente si fonda la potenza di queste analisi informatiche delle immagini, può tuttavia essere usato anche in modo negativo, per creare attacchi avversi ai sistemi di analisi delle immagini, cioè modifiche ad hoc delle immagini, impercettibili anche all’occhio umano esperto, studiate per ingannare gli stessi algoritmi e pilotare l’esito di una diagnosi”.

Lo studio dei due ricercatori definisce questo fenomeno in ambito di imaging radiologico come “Adversarial Radiomics”: “Un’analogia con il più ampio campo di ricerca dell’adversarial machine learning, in cui il fenomeno è studiato da anni, per esempio, nella cyber-security e nella guida autonoma”, aggiunge Neri.

“Gli esempi avversi sono un problema relativamente recente nello studio del machine learning, ma la loro applicazione all’imaging clinico è un ambito ancor più nuovo e con risvolti sociali importanti”, prosegue Barucci, “ad esempio nelle frodi assicurative. D’altronde proprio lo studio di questi esempi avversi è estremamente utile per approfondire la comprensione di algoritmi complessi come le reti neurali e migliorare lo sfruttamento degli strumenti informatici a disposizione”.

“L’intuizione del radiologo è ancora essenziale nel controllo e nell’integrazione delle complesse analisi fornite dagli algoritmi di intelligenza artificiale e il futuro impone una sempre maggiore armonizzazione fra l’analisi informatica e quella umana”, conclude Neri. “Lo studio vuole mettere in luce come i nuovi strumenti di analisi digitale basati sull’Ai dovranno essere sempre più volti proprio a migliorare quest’interazione (human in the loop)”.

Commenti

Post popolari in questo blog

"La prima notte di quiete" di Valerio Zurlini e la Madonna del parto

Uno dei capolavori più ammirati di Piero della Francesca attraverso gli occhi di un maestro della "settima arte" "Vergine madre, figlia del tuo figlio, umile ed alta più che creatura, termine fisso d'eterno consiglio, tu sei colei che l'umana natura nobilitasti, sì che il suo fattore, non disdegnò di farsi sua fattura" Nella piccola chiesa di Santa Maria a Momentana, isolata in mezzo al verde delle pendici collinari di Monterchi, Piero della Francesca dipinse in soli sette giorni uno dei suoi più noti e ammirati capolavori che oggi richiama nella Val Tiberina visitatori da tutto il mondo. La datazione esatta dell`opera è incerta, oscillando, a seconda delle teorie, dal 1450 a oltre il 1475. Non sono chiare le motivazioni della committenza né della scelta del soggetto, tema piuttosto frequente nell’iconografia spagnola, ma del tutto insolito in quella italiana. L’affresco rappresenta infatti la Vergine incinta, raffigurata in piedi al centro ...

È del poeta il fin la meraviglia, Gianbattista Marino: l'Adone manifesto poetico del barocco italiano

Gianbattista Marino è una delle figure più emblematiche della letteratura barocca italiana, e il suo poema L'Adone è considerato un vero e proprio "manifesto poetico del Barocco", non solo in Italia ma in tutta Europa. Ecco un'analisi del suo ruolo e delle caratteristiche che lo rendono un'opera fondamentale per il periodo. Marino fu un poeta innovativo, tra i massimi esponenti della poesia barocca, noto per il suo stile elaborato, ricco di metafore, giochi di parole e virtuosismi linguistici. La sua poetica si distacca dalla tradizione classica e rinascimentale, abbracciando invece i principi del Barocco: l'arte come meraviglia, l'ostentazione della tecnica e la ricerca del sorprendente. Marino visse in un'epoca di grandi cambiamenti culturali e sociali, e la sua opera riflette questa complessità. L'Adone è un poema epico-mitologico in 20 canti, composto da oltre 40.000 versi. Narra la storia d'amore tra Venere e Adone, tratta dalla mitologia ...

Musica Sacra, successo e sviluppo della Messa Parodia Rinascimentale

Nel Rinascimento la Messa Parodia è stata una delle tecniche di composizione più utilizzate. Nota anche come messa imitativa, la messa parodia utilizza come canto fermo, o introduce nella sua musica in maniera più elaborata, un mottetto conosciuto, assumendone anche il nome. Una breve analisi di messa parodia di due dei più famosi compositori rinascimentali: Palestrina e De Victoria in programma nel concerto del Coro Johannes Ockeghem, nell'ambito della Rassegna  Concerti alla Pace. Una delle tecniche di composizione più utilizzate nel XVI secolo è stata la cosiddetta Messa Parodia. Tale scelta compositiva significava, in generale, avvalersi di materiale musicale preesistente per ricostruire un nuovo componimento.  Tutto ciò - oggi - sarebbe definito "plagio", ma all'epoca tale prospettiva estetica e giudizio etico non albergava tra i musicisti, in modo tale che tanta musica diventava materia da rivisitare come, ad esempio, la trascrizione di modelli vocali per strum...