L'avvelenamento dei dati è un attacco in cui un avversario inietta deliberatamente dati dannosi, fuorvianti o distorti nella pipeline di addestramento, ottimizzazione o feedback di un modello per influenzarne il comportamento. L'obiettivo è quello di indurre il modello a produrre output errati, non sicuri, distorti o controllati dall'attaccante , in modo generalizzato o in condizioni specifiche.
A differenza degli attacchi basati su prompt, l'avvelenamento dei dati prende di mira il processo di apprendimento stesso . Una volta incorporati i dati infetti, il modello potrebbe comportarsi in modo dannoso anche per utenti normali e legittimi.
Questo rischio è particolarmente acuto nei sistemi che:
Per le piccole e medie imprese, l'avvelenamento dei dati è spesso involontario ma comunque pericoloso.
Le implicazioni principali includono:
Per le PMI, il pericolo è dare per scontato che “imparare dagli utenti” sia sempre vantaggioso.
Per i fornitori di servizi gestiti, l'avvelenamento dei dati rappresenta un grave rischio per la catena di fornitura e per la fiducia.
Le considerazioni chiave includono:
Gli attacchi di avvelenamento dei dati compromettono ciò che un modello apprende , non solo ciò che gli viene richiesto.
Per PMI e MSP:
Letture aggiuntive:
CyberHoot offre anche altre risorse a tua disposizione. Di seguito trovi i link a tutte le nostre risorse, sentiti libero di consultarle quando vuoi:
Scopri e condividi le ultime tendenze, i suggerimenti e le best practice in materia di sicurezza informatica, oltre alle nuove minacce a cui prestare attenzione.
Immaginate di essere in autostrada, a circa 20 km/h sopra il limite di velocità, insieme al resto del traffico. Più avanti, frenate...
Leggi di più
Cosa è successo? Giovedì 12 novembre 2026, intorno alle 11:00 ora della costa orientale degli Stati Uniti, Microsoft Outlook ha smesso di funzionare...
Leggi di più
Autrice: Katie Boquetti | Editoriale: Craig Taylor Editoriale di Craig Taylor: “Il potere tende a corrompere,...
Leggi di piùOttieni una visione più attenta dei rischi per l'uomo, con un approccio positivo che supera i tradizionali test di phishing.
