Siamo noi ad addestrare gli LLM o sono loro ad addestrare noi?

Come cambia il linguaggio quando parliamo con un LLM

Quando si parla di intelligenza artificiale, si dà per scontata una direzione: siamo noi ad addestrare le macchine.

I Large Language Models vengono costruiti, raffinati, migliorati attraverso dati e feedback umani. Sembra un rapporto lineare. Noi sopra, loro sotto.

Eppure, più li utilizzo, più questa rappresentazione mi sembra incompleta. Perché c’è un punto che passa inosservato: cosa succede a noi mentre interagiamo con loro?

La comunicazione tra esseri umani funziona in un modo molto particolare. Non diciamo quasi mai tutto. Ci affidiamo al contesto, agli sguardi, ai silenzi, alle conoscenze condivise. Gran parte del significato non è nelle parole, ma in ciò che l’altro è in grado di ricostruire. A volte, addirittura, comunichiamo solo con lo sguardo, le espressioni, il respiro.

È un sistema efficiente proprio perché è implicito. Con un LLM questo sistema smette di funzionare.

Perché con l’IA siamo costretti ad esplicitare

La macchina non vede, non condivide il contesto, non “intuisce”. Se qualcosa non è scritto, semplicemente non esiste. E a quel punto succede qualcosa di interessante: siamo noi a dover cambiare. Siamo costretti ad esplicitare. A dire tutto. A rendere il pensiero lineare, completo, quasi “eseguibile”.

Nella mia pubblicazione “Educare l’intelligenza artificiale a parlare” avevo scritto una cosa che, riletta oggi, mi sembra più centrale di quanto pensassi:

“Interagendo con un LLM, la prima differenza che emerge rispetto alla comunicazione tra esseri umani è la necessità di esplicitare. […] Ci si abitua a formularlo in modo più analitico, più esplicito, in una forma che potremmo definire ‘computabile’.”

All’inizio sembra solo un adattamento tecnico. In realtà non lo è. Perché il modo in cui formuliamo qualcosa incide sul modo in cui lo pensiamo.

Il medium è il messaggio: cosa direbbe McLuhan sugli LLM

Qui entra in gioco un’intuizione che precede di decenni questi sistemi. Marshall McLuhan diceva che il medium è il messaggio. Non nel senso banale della frase citata ovunque, ma in un senso molto più radicale: ogni mezzo modifica la struttura del nostro modo di percepire e di pensare, indipendentemente dai contenuti che trasmette.

Se prendiamo sul serio questa idea, allora gli LLM non sono solo strumenti che usiamo per produrre testo, ma un ambiente dentro cui siamo costretti a pensare in un certo modo. Non è tanto importante quello che il modello risponde, ma quello che siamo costretti a fare noi per ottenere quella risposta. E qui la domanda iniziale inizia a cambiare forma.

Siamo sicuri di essere solo noi ad addestrare?

A questo punto però bisogna fermarsi un attimo e fare un passo indietro, perché questa tesi rischia di essere troppo semplice.

Le obiezioni: stiamo davvero cambiando il nostro modo di pensare?

Si potrebbe obiettare che non sta cambiando nulla di profondo. Che stiamo solo usando un registro diverso, come quando scriviamo una mail formale invece di parlare con un amico. La nostra competenza linguistica resta la stessa, cambiano solo le condizioni d’uso.

Oppure si potrebbe dire che il linguaggio umano è troppo legato al corpo, al contesto, alla cultura per essere realmente influenzato da un’interazione con una macchina. Che quello che accade con un LLM è confinato lì e non esce da quel perimetro.

E, soprattutto, si potrebbe fare un’osservazione ancora più semplice: i modelli non “addestrano” nessuno. Non hanno intenzioni, non hanno obiettivi. Siamo noi che ci adattiamo, perché ci conviene farlo.

Tutte obiezioni sensate.

Il punto è che, forse, partono da un presupposto discutibile: che il linguaggio sia qualcosa di stabile, che resta identico indipendentemente da come lo usiamo.

Se, invece, si prende sul serio l’idea che il linguaggio è una pratica, allora la questione cambia.

Il modo in cui parliamo non è separato dal contesto in cui parliamo. Se cambia in modo sistematico il contesto, cambia anche la pratica. E se la pratica cambia abbastanza a lungo, cambia anche l’abitudine.

L’interazione con LLM introduce una richiesta costante: essere espliciti, evitare ambiguità inutili, costruire frasi che funzionino senza appoggiarsi al contesto.

All’inizio è uno sforzo, poi diventa un modo di scrivere. Poi, lentamente, rischia di diventare un modo di pensare. A quel punto non è più solo adattamento, ma interiorizzazione di un vincolo.

Un esempio concreto: parlare con un umano vs parlare con un’IA

Un esempio molto semplice può aiutare a chiarire meglio di qualsiasi teoria.

Tra esseri umani posso dire: “Quello di prima non mi ha convinto.” Funziona. Chi ascolta sa a cosa mi riferisco, perché condivide il contesto. Con un LLM, quella frase è quasi inutile. Devo dire qualcosa come: “Nel messaggio precedente hai proposto tre soluzioni. La seconda non mi convince perché non tiene conto del vincolo X.”

Qui non sto solo aggiungendo informazioni, ma ristrutturando il pensiero in modo che sia autosufficiente.

Se questa operazione diventa quotidiana, ripetuta, naturale, è difficile sostenere che non lasci tracce. Allora la domanda iniziale può essere formulata in modo più preciso.

Gli LLM non insegnano, ma vincolano

Non è vero che gli LLM ci addestrano, nel senso forte del termine. Ma è altrettanto riduttivo dire che siamo gli unici ad addestrare.

Quello che sta accadendo è più sottile: stiamo entrando in un ambiente che ci costringe a rispettare certi vincoli espressivi. E questi vincoli, nel tempo, possono diventare abitudini.

Gli LLM non insegnano, ma vincolano. E nella storia del linguaggio, i vincoli hanno sempre prodotto trasformazioni.

La scrittura ha cambiato il pensiero orale. La stampa ha stabilizzato le lingue. I media digitali hanno accelerato e frammentato la comunicazione.

Qui sta succedendo qualcosa di diverso. Per la prima volta, il vincolo non riguarda solo il mezzo, ma la forma esplicita del pensiero. La domanda, a questo punto, non è più chi addestra chi.

La domanda è se ci rendiamo conto di cosa stiamo diventando mentre impariamo a farci capire da una macchina.