AI e dati: il carburante

Senza dati, l'AI non esiste. Non è un'esagerazione: ogni modello, ogni chatbot, ogni generatore di immagini è il prodotto diretto dei dati su cui è stato addestrato. Capire da dove vengono questi dati, che problemi hanno e cosa succede ai tuoi è fondamentale per usare l'AI in modo consapevole.

"I dati sono il nuovo petrolio" (più o meno)

Questa frase è diventata un cliché del mondo tech. Come molti cliché, è vera solo a metà.

La parte vera: i dati sono la risorsa fondamentale dell'AI. Chi ha più dati, e dati migliori, costruisce modelli migliori. Le big tech (Google, Meta, Amazon) hanno un vantaggio enorme perché raccolgono dati da miliardi di utenti ogni giorno.

La parte falsa: il petrolio è una risorsa finita. I dati no — ne creiamo di nuovi ogni secondo. Il petrolio ha valore "grezzo". I dati hanno valore solo se sono puliti, organizzati e rilevanti. Dati sporchi producono AI sporche.

Una metafora più accurata: i dati sono gli ingredienti, il modello è la ricetta, l'addestramento è la cottura. Puoi avere la migliore ricetta del mondo, ma se gli ingredienti sono scadenti il piatto farà schifo.

Da dove vengono i dati di addestramento

I modelli di linguaggio sono stati addestrati su enormi quantità di testo. Ma da dove arriva tutto questo testo?

Common Crawl. Una sorta di "fotografia di internet": un archivio che raccoglie miliardi di pagine web. È la fonte principale per la maggior parte dei modelli. Include di tutto: Wikipedia, blog, forum, articoli, documentazione tecnica, ricette, commenti su Reddit.

Wikipedia. Fonte preziosissima per la sua struttura, accuratezza e copertura enciclopedica.

Libri. Collezioni di libri digitalizzati (la cui legalità è spesso contestata). I modelli hanno "letto" milioni di libri — romanzi, manuali, saggi.

Codice. GitHub e altri repository. Ecco perché i modelli sanno programmare: hanno visto miliardi di righe di codice scritto da sviluppatori reali.

Conversazioni. Forum come Reddit, StackOverflow, Quora. Il modello impara lo stile conversazionale e le strutture domanda-risposta.

Documenti scientifici. Paper accademici, brevetti, ricerche. Per questo i modelli sanno rispondere a domande tecniche e scientifiche.

Il punto critico: la maggior parte di questi dati è stata raccolta senza il consenso esplicito degli autori originali. Il tuo blog post, il tuo commento su Reddit, la tua foto su Flickr — potrebbero essere finiti nei dati di addestramento di un modello AI senza che tu lo sapessi.

Bias nei dati → bias nell'AI

Il bias (pregiudizio) è uno dei problemi più seri dell'AI. Il concetto è semplice: se i dati di addestramento hanno pregiudizi, il modello impara quei pregiudizi.

Qualche esempio concreto:

Bias di genere. Se nei dati di addestramento la parola "infermiere" compare quasi sempre al femminile e "ingegnere" al maschile, il modello riprodurrà questi stereotipi. Chiedi a un generatore di immagini di creare "un CEO" e probabilmente otterrai un uomo bianco in giacca. Non perché l'AI sia sessista — perché i dati lo erano.

Bias culturale. I modelli sono addestrati prevalentemente su testo in inglese, prodotto in contesti occidentali. Questo significa che hanno una prospettiva culturale sbilanciata: sanno di più sulla storia americana che su quella africana, danno risposte più rilevanti per il contesto anglosassone che per quello italiano.

Bias di rappresentazione. Se nei dati ci sono poche immagini di persone con disabilità, il modello le rappresenterà poco e male. Se un certo gruppo etnico è sovra-rappresentato nei dati di criminalità, il modello assocerà quel gruppo al crimine.

Bias temporale. I dati hanno una data di scadenza. Un modello addestrato su dati fino al 2023 non sa niente di quello che è successo dopo. Ma anche i fatti "vecchi" possono essere superati — le norme sociali cambiano, le conoscenze scientifiche evolvono.

Il bias non è un bug che puoi "fixare" con una patch. È un riflesso della società nei dati. Ridurlo richiede uno sforzo attivo: diversificare le fonti, bilanciare i dataset, testare i modelli su gruppi diversi, e accettare che l'eliminazione completa del bias è probabilmente impossibile.

Cosa succede ai tuoi dati quando chatti

Quando scrivi un messaggio a ChatGPT o Claude, dove finiscono le tue parole? La risposta dipende dal servizio e dal piano che usi.

Dati di conversazione. Di default, la maggior parte dei chatbot salva le tue conversazioni sui loro server. Questo serve per mostrarti la cronologia, migliorare il servizio, e (in alcuni casi) addestrare i modelli futuri.

Opt-out dall'addestramento. Sia OpenAI che Anthropic offrono modi per escludere le tue conversazioni dall'addestramento:

• ChatGPT: puoi disattivare "Improve the model for everyone" nelle impostazioni
• Claude: le conversazioni su claude.ai non vengono usate per l'addestramento per default
• Le API: i dati passati via API generalmente non vengono usati per l'addestramento

Dati sensibili. Regola d'oro: non scrivere in un chatbot niente che non scriveresti in un'email. Non condividere password, dati medici privati, informazioni finanziarie sensibili, segreti aziendali. Anche se il servizio promette privacy, i dati passano per i server dell'azienda.

Aziende. Molte aziende vietano ai dipendenti di usare chatbot pubblici per il lavoro, o usano versioni enterprise con garanzie contrattuali sulla privacy (ChatGPT Enterprise, Claude for Business).

GDPR. In Europa, hai il diritto di chiedere la cancellazione dei tuoi dati. Sia OpenAI che Anthropic forniscono procedure per esercitare questo diritto, anche se il processo non è sempre semplice.

La qualità dei dati: il problema nascosto

Non tutti i dati sono uguali. La qualità conta enormemente.

Dati rumorosi. Internet è pieno di informazioni false, obsolete, mal scritte. Se il modello impara da articoli sbagliati, imparerà cose sbagliate.

Dati duplicati. Se lo stesso testo appare migliaia di volte nel dataset, il modello gli dà più importanza di quanta ne meriti. Le aziende spendono enormi risorse per deduplicare i dataset.

Dati contaminati. A volte i dataset contengono contenuti generati da altre AI (testo scritto da ChatGPT, immagini create da Midjourney). Se un modello viene addestrato su output di un altro modello, la qualità degrada — un fenomeno chiamato "model collapse". È come fare la fotocopia di una fotocopia: a ogni generazione si perde qualità.

Dati tossici. Internet contiene hate speech, disinformazione, contenuti violenti. I dataset devono essere filtrati per rimuovere il peggio, ma il filtraggio perfetto non esiste.

Le aziende AI investono miliardi nella "curazione" dei dati — pulizia, filtraggio, bilanciamento, verifica. È un lavoro ingrato ma fondamentale: la differenza tra un modello buono e uno eccellente spesso non è l'architettura ma la qualità dei dati.

Dati sintetici: quando l'AI crea dati per l'AI

Una tendenza recente è l'uso di dati sintetici: dati generati da AI per addestrare altra AI.

Perché? Perché i dati umani di alta qualità sono limitati. A un certo punto abbiamo "finito internet" — abbiamo già usato gran parte del testo di qualità disponibile online. I dati sintetici permettono di creare quantità illimitate di materiale di addestramento.

Come funziona: un modello potente (es. GPT-4) genera domande, risposte, ragionamenti, traduzioni di alta qualità. Questi output vengono usati per addestrare modelli più piccoli o per raffinare lo stesso modello.

Il rischio: se non fai attenzione, introduci una sorta di "inbreeding" digitale. Il modello impara dai propri errori e li amplifica. La chiave è usare dati sintetici come complemento, non come sostituto dei dati umani reali.

Il futuro dei dati

Alcune tendenze in corso:

Regolamentazione. L'EU AI Act e altre leggi stanno imponendo trasparenza sui dati di addestramento. Le aziende dovranno dichiarare cosa hanno usato.

Licenze e compensi. Alcune aziende stanno iniziando a pagare per i dati: Reddit ha venduto i suoi dati a Google, diverse testate giornalistiche hanno stretto accordi con OpenAI. Il modello "prendi tutto gratis da internet" sta cambiando.

Dati proprietari. Le aziende che hanno dati unici (dati medici, finanziari, scientifici) hanno un vantaggio competitivo enorme. Il "fossato" dell'AI non è solo il modello — sono i dati che nessun altro ha.

In pratica 🎯

Fai un check sulla privacy dei tool AI che usi:

1. Apri le impostazioni di ChatGPT → cerca l'opzione sulla condivisione dati per l'addestramento. È attiva o disattivata?
2. Vai nelle impostazioni di Claude → controlla le policy sull'uso dei dati
3. Per ogni tool AI che usi regolarmente, cerca "[nome tool] privacy policy" e leggi cosa dicono sui tuoi dati

Poi prova a testare il bias:

1. Chiedi a un generatore di immagini: "a doctor", "a nurse", "a CEO", "a teacher"
2. Osserva genere, etnia, età delle persone generate
3. Poi specifica: "a male nurse", "a female CEO"
4. Nota come il modello risponde quando gli chiedi esplicitamente di andare contro gli stereotipi

Questo esercizio rende tangibile il concetto di bias nei dati.

Risorse correlate

• 📖 Glossario: Dataset, Bias, Training Data, RLHF, Data Augmentation, Dati Sintetici, GDPR, Model Collapse
• 📄 Doc: ChatGPT (impostazioni privacy), Claude (policy dati)
• 🔧 Tool: ChatGPT, Claude, Midjourney (per testare il bias)