Avvelenamento dei dati (attacco di avvelenamento)

10 dicembre 2025 | Cybrary Avvelenamento dei dati (attacco di avvelenamento)

L'avvelenamento dei dati è un attacco in cui un avversario inietta deliberatamente dati dannosi, fuorvianti o distorti nella pipeline di addestramento, ottimizzazione o feedback di un modello per influenzarne il comportamento. L'obiettivo è quello di indurre il modello a produrre output errati, non sicuri, distorti o controllati dall'attaccante , in modo generalizzato o in condizioni specifiche.

A differenza degli attacchi basati su prompt, l'avvelenamento dei dati prende di mira il processo di apprendimento stesso . Una volta incorporati i dati infetti, il modello potrebbe comportarsi in modo dannoso anche per utenti normali e legittimi.

Questo rischio è particolarmente acuto nei sistemi che:

  • Imparare continuamente dall'input dell'utente
  • Ottimizzare i dati forniti dal cliente
  • Riqualificare i modelli utilizzando registri, feedback o ticket di supporto

Cosa significa questo per le PMI

Per le piccole e medie imprese, l'avvelenamento dei dati è spesso involontario ma comunque pericoloso.

Le implicazioni principali includono:

  • Comportamento dell'IA corrotto
    Se gli strumenti di intelligenza artificiale interni apprendono da input non controllati, i dipendenti o gli utenti esterni potrebbero involontariamente insegnare al modello comportamenti scorretti, policy errate o linee guida non sicure.
  • Erosione della fiducia
    Quando un modello inizia a fornire risposte errate o dannose, gli utenti perdono fiducia nel sistema, anche se la causa principale è difficile da diagnosticare.
  • Rischio operativo
    Gli output avvelenati possono portare a decisioni sbagliate, consigli errati o all'applicazione incoerente di politiche e procedure.
  • Persistenza nascosta
    A differenza di un prompt errato, i dati contaminati possono influire sul modello a lungo termine, finché il modello non viene riaddestrato o ripristinato.

Per le PMI, il pericolo è dare per scontato che “imparare dagli utenti” sia sempre vantaggioso.

Cosa significa questo per gli MSP

Per i fornitori di servizi gestiti, l'avvelenamento dei dati rappresenta un grave rischio per la catena di fornitura e per la fiducia.

Le considerazioni chiave includono:

  • Contaminazione tra clienti
    Se i dati di formazione vengono condivisi tra i tenant, i dati contaminati di un client possono influire sugli output degli altri.
  • Uso improprio dei dati del cliente
    L'inserimento di ticket, registri o documentazione dei clienti in pipeline di formazione senza convalida può introdurre contenuti dannosi o sensibili nei modelli.
  • Responsabilità ed esposizione alla conformità
    Un modello avvelenato che fornisce indicazioni non sicure o errate può creare conseguenze contrattuali, normative e legali per gli MSP.
  • Difficoltà di attribuzione
    Gli attacchi di avvelenamento sono subdoli. Spesso è difficile stabilire quando, come o da chi i dati siano stati avvelenati.
  • Danno alla reputazione
    I clienti si aspettano che gli MSP proteggano non solo i dati, ma anche l'integrità dei sistemi basati su tali dati.

Asporto pratico

Gli attacchi di avvelenamento dei dati compromettono ciò che un modello apprende , non solo ciò che gli viene richiesto.

Per PMI e MSP:

  • Non trattare mai i dati forniti dall'utente come input di formazione attendibile per impostazione predefinita
  • Separato dati di inferenza da dati di allenamento
  • Implementare la convalida, la revisione e la sanificazione per tutti i dati utilizzati nella formazione o nella messa a punto
  • Evitare la riqualificazione automatica in base agli input dei clienti in tempo reale
  • Mantenere le capacità di controllo delle versioni e di rollback per i modelli

Letture aggiuntive:

CyberHoot offre anche altre risorse a tua disposizione. Di seguito trovi i link a tutte le nostre risorse, sentiti libero di consultarle quando vuoi:


Gli ultimi blog

Rimani aggiornato con le ultime novità informazioni sulla sicurezza

Scopri e condividi le ultime tendenze, i suggerimenti e le best practice in materia di sicurezza informatica, oltre alle nuove minacce a cui prestare attenzione.

Autovelox contro sconti per guida sicura: perché i premi promuovono migliori abitudini di sicurezza

Autovelox contro sconti per guida sicura: perché i premi promuovono migliori abitudini di sicurezza

Immaginate di essere in autostrada, a circa 20 km/h sopra il limite di velocità, insieme al resto del traffico. Più avanti, frenate...

Leggi di più
Avviso di CyberHoot: Microsoft Outlook non è disponibile. Il tuo buon senso, però, non lo è.

Avviso di CyberHoot: Microsoft Outlook non è disponibile. Il tuo buon senso, però, non lo è.

Cosa è successo? Giovedì 12 novembre 2026, intorno alle 11:00 ora della costa orientale degli Stati Uniti, Microsoft Outlook ha smesso di funzionare...

Leggi di più
Estensioni del browser dannose: come mantenere il browser pulito

Estensioni del browser dannose: come mantenere il browser pulito

Autrice: Katie Boquetti | Editoriale: Craig Taylor Editoriale di Craig Taylor: “Il potere tende a corrompere,...

Leggi di più