Scrivi una domanda e compare un paragrafo, in ordine, alla velocità di lettura. È difficile non immaginare qualcuno dall’altra parte che ci pensa su e poi risponde. Quell’immagine è sbagliata in un modo preciso, e correggerla è molto pratico: quasi tutti i comportamenti strani che incontrerai — fonti inventate, istruzioni dimenticate, un conteggio di lettere sbagliato, una sicurezza incrollabile su qualcosa di falso — discendono direttamente da come funziona la cosa. Sotto non c’è matematica, e nemmeno formule che fingono di essere una spiegazione.
Vuoi lo stesso percorso in lezioni brevi? Apri AI Earn su Google Play — quella è la scheda ufficiale dell’app.
Il ciclo di base: prevedi il pezzo successivo, poi rifallo
Un chatbot funziona su un modello linguistico di grandi dimensioni. Dato tutto quello che è stato scritto finora — le istruzioni del sistema, il tuo messaggio, la sua stessa risposta fino a quel punto — produce il pezzetto di testo successivo. Poi prende il testo leggermente più lungo e produce il pezzo dopo. E ancora, centinaia di volte, finché la risposta è finita. Il ciclo è tutto qui. Non c’è un piano stilato in anticipo né una risposta archiviata da recuperare: la risposta si costruisce un passo alla volta.
Ne derivano subito due cose. Primo, il modello lavora sempre su un testo che ha davanti, ed è per questo che ciò che includi nel messaggio ha un effetto così grande. Secondo, la forma della risposta emerge strada facendo, ed è per questo che chiedergli di “ragionare passo per passo” o di esporre il ragionamento prima della conclusione spesso migliora il risultato: quel testo intermedio diventa parte di ciò da cui si prevede il passo successivo. Alcuni prodotti oggi lo fanno da soli in una modalità “di ragionamento” più lenta, generando i passaggi prima della risposta visibile.
I token: non vede le lettere, e questo spiega parecchio
I pezzi non sono lettere né parole. Il testo viene spezzato in token: blocchi ricorrenti, all’incirca grandi quanto una parola breve o un frammento di una lunga. “Comprensione” può arrivare in due o tre blocchi; una parola comune di solito è uno; un nome insolito o un numero lungo può valerne parecchi. Tutto ciò che il modello legge e scrive è fatto di questi blocchi.
È per questo che un assistente scorrevolissimo fallisce compiti che gestisce un bambino di sei anni. Contare le lettere di una parola, capire se c’è una doppia, invertire una sequenza di caratteri, lavorare sulle cifre esatte di un numero lungo: sono domande sull’ortografia dentro blocchi che lui non esamina così. Non è un segno di “incapacità in matematica”: è uno scarto tra la domanda e le unità in cui lavora. Spiega anche perché i limiti d’uso vengono descritti in token invece che in parole, e perché la stessa pagina di testo costa di più in certe lingue.
Da dove viene la “conoscenza”
Il modello è stato addestrato su un’enorme quantità di testo, e ciò che ha conservato non è una copia di quel testo. È una percezione molto dettagliata di quali parole seguono quali, in quali contesti — cosa che finisce per contenere moltissimo su grammatica, fatti, modi di argomentare e struttura di una buona spiegazione. Poi è stato rifinito con giudizi umani su quali risposte siano utili: è questo che trasforma la previsione grezza in qualcosa che risponde in modo educato e segue le istruzioni.
Non esiste quindi una tabella da consultare né una fonte allegata a ogni frase. I fatti consolidati, ripetuti in innumerevoli documenti, escono in modo affidabile. I fatti rari e specifici — una statistica precisa, una citazione esatta, un numero di pagina — sono molto più fragili, perché una risposta dalla forma plausibile è disponibile anche quando quella vera non è mai stata appresa davvero. È questo il meccanismo dietro le fonti inventate: produce qualcosa che assomiglia a una citazione, perché è ciò che ci sta.
Anche l’addestramento si ferma a un certo punto nel tempo. Ciò che è cambiato dopo non c’è. Alcuni prodotti possono cercare sul web per colmare il vuoto, ma è una funzione a parte con i suoi limiti: conviene controllarlo nella documentazione del tuo strumento, per esempio help.openai.com o il centro assistenza di Anthropic, invece di darlo per scontato.
Perché una conversazione sembra memoria
Il modello non ricorda il tuo messaggio precedente. Quello che succede è più semplice: ogni volta che invii qualcosa, l’intera conversazione viene sottoposta di nuovo e il modello la rilegge da capo. La continuità è un’illusione prodotta dal rileggere la trascrizione a ogni turno — un’illusione molto convincente, e che spiega i limiti con precisione.
C’è una quantità massima di testo che può considerare in una volta: la finestra di contesto. Le conversazioni lunghe prima o poi ci sbattono contro, e le istruzioni iniziali perdono presa mentre il testo recente domina. Ecco perché un filo che dura da tutto il pomeriggio comincia a contraddirsi, e perché aprire una chat nuova con un riassunto pulito funziona meglio che implorare quella vecchia. A parte questo, alcuni prodotti aggiungono una memoria persistente che porta appunti da una conversazione all’altra: è una funzione costruita sopra, non il modello che ricorda, e cambia da strumento a strumento e da impostazione a impostazione.
Perché il tono è sempre così sicuro
Questo è il punto che fa più danni. Il modello non ha un “quanto sono sicuro” separato che ti viene mostrato. Produce il testo che si adatta meglio alla richiesta, e la prosa sicura e ben organizzata è la forma di una buona risposta in quasi tutto il materiale su cui è stato addestrato. Le risposte sbagliate arrivano con la stessa voce ferma di quelle giuste, e spesso sono anche più scorrevoli, perché un dettaglio inventato non deve fare i conti con una realtà scomoda.
La rifinitura aggiunge un secondo effetto: questi modelli sono modellati per essere accomodanti e utili, quindi contestarli produce più spesso un accordo che una difesa. Se dici “sei sicuro? io pensavo fosse X”, spesso ottieni una correzione elegante verso X — anche quando X è sbagliato. Una risposta che cambia sotto pressione non dimostra niente.
| Cosa vedi | Cosa sta succedendo | Cosa fare |
|---|---|---|
| Una risposta sicura che si rivela falsa | Era disponibile un testo plausibile; la verità non è un controllo a parte | Verifica le affermazioni fuori dalla chat |
| Una fonte o una citazione che non esiste | Ha prodotto qualcosa a forma di citazione | Apri ogni link; cerca la frase nell’originale |
| Sbaglia a contare le lettere o storpia un numero lungo | Lavora a blocchi, non a caratteri | Usa uno strumento che conta; chiedi i passaggi |
| Dimentica un’istruzione precedente | La conversazione ha superato la finestra di contesto | Nuova chat, reincolla obiettivo e vincoli |
| Descrive come attuale una versione ormai vecchia | Data di addestramento, nessuna percezione dei cambiamenti | Controlla la pagina ufficiale per tutto ciò che è sensibile al tempo |
| Ti dà ragione appena obietti | È rifinito per essere accomodante | Chiedi il ragionamento, non la rassicurazione |
| Risponde su un file o un link che non ha mai ricevuto | Ha solo il testo dentro la conversazione | Incolla il contenuto; fatti citare una riga |
| Due risposte diverse alla stessa domanda | L’output include per progetto una parte casuale | Quando conta l’esattezza, chiedi due volte apposta |
Verificalo tu, in cinque minuti
Leggerlo convince meno che vederlo. Tre esperimenti brevi, ognuno dei quali mostra uno dei meccanismi qui sopra.
Prompt: “Quante volte compare la lettera r in [scegli una parola lunga], e in quali posizioni? Elenca ogni occorrenza.” Poi conta a mano. Provaci con due o tre parole. Quando sbaglia, stai vedendo la suddivisione in blocchi, non la sbadataggine.
Prompt: “Dammi tre fonti pubblicate — autore, titolo, anno e dove trovarle — su [argomento ristretto che puoi controllare]. Poi, per ciascuna, dimmi quanto sei sicuro che esista esattamente come l’hai descritta.” Adesso prova a trovarle. Confronta gli errori con quanto suonavano sicure le risposte.
Prompt: “Rispondi a questa domanda esponendo il ragionamento passo per passo prima della conclusione: [una domanda con più passaggi].” Poi fai la stessa identica domanda in una chat nuova senza l’istruzione sul ragionamento. Confronta. La differenza è il ciclo che lavora con più testo prodotto da sé.
Non sa le cose come le sai tu. È straordinariamente bravo a produrre testo che si legge come quello di qualcuno che le sa — cosa che è utile molto più spesso di quanto sia pericolosa, purché tu sappia distinguere i due casi.
Cosa non fare con questa consapevolezza
- Non chiedere al modello di spiegare sé stesso e prendere la risposta per buona. Non ha una vista privilegiata sul proprio funzionamento: produce una spiegazione plausibile di come funzioni un sistema del genere, che può corrispondere o no a quanto è successo.
- Non prendere “non sono sicuro” o “sono certo” come misure reali. Sono testo come tutto il resto, non letture di uno strumento interno.
- Non provare a portarlo alla verità discutendo. Insistere cambia le risposte in modo affidabile e migliora l’esattezza in modo inaffidabile. Vai alla fonte.
- Non liquidarlo come “solo un completamento automatico”. Il meccanismo è semplice; ciò che emerge su larga scala è davvero capace, e liquidarlo ti costa uno strumento utile.
- Non dare per scontato che tutti gli strumenti si comportino uguale. Accesso al web, memoria, gestione dei file e modalità di ragionamento sono funzioni di prodotto, diverse tra assistenti e in evoluzione ogni mese.
- Non attribuirgli intenzioni. Non sta mentendo, non è pigro e non cerca di compiacerti. Quelle parole descrivono schemi nell’output, non motivazioni dietro di esso.
Cosa cambia nella pratica
Da tutto questo derivano tre abitudini, ed è quello che separa chi ricava valore da questi strumenti da chi ci rimbalza contro. Dagli contesto, perché tutto ciò che ha è quello che sta nella conversazione — la versione pratica è in come scrivere prompt migliori. Verifica le affermazioni, non il tono, con la routine di come verificare l’IA. E apri una chat nuova prima di quando ti sembri necessario.
Se qui c’era un termine nuovo, il glossario dell’IA per principianti definisce il vocabolario per bene, e gli errori che questo meccanismo produce diventano abitudini concrete negli errori comuni di chi inizia. Se sei all’inizio di tutto, come iniziare con gli strumenti di IA è il percorso in ordine.
