Società Amici del Pensiero Sigmund Freud L'albero si giudica dai frutti
Giovedì, 04 Maggio 2023 10:14 – di Luigi Carrozzi
Il data poisoning consiste in una minaccia alla sicurezza dei sistemi di Intelligenza artificiale (IA) riferito alle componenti di Machine Learning (ML): una modifica “malevola” dei dati di addestramento (training data set) di tali componenti può generare una distorsione dei risultati prodotti dal sistema in favore degli obiettivi perseguiti dall’attaccante.
L’ampia “superfice d’attacco” offerta dai sistemi di Intelligenza Artificiale a causa della loro complessità, espone tali sistemi a varie tipologie di minacce, molte riconducibili a quelle tipiche dei sistemi ICT, ma altre con caratteristiche specifiche, che è necessario conoscere e saper gestire adeguatamente.
Il data poisoning è una delle più concrete minacce per i sistemi di Machine Learning che ne compromette le funzionalità. Tali minacce devono essere efficacemente gestite, in particolate quando ai sistemi è richiesto un elevato livello di affidabilità visti i potenziali impatti sull’uomo (ad es. applicazioni per infrastrutture critiche, sistemi a guida autonoma, settore sanitario, etc.). (segue)
Views: 23