C'e' un modo antico e nobile di beccare chi copia: girare tra i banchi, guardare negli occhi, magari confiscare il bigliettino nascosto nell'astuccio. E poi c'e' il metodo 2026, che consiste nel tendere una trappola invisibile a un chatbot e aspettare che siano gli studenti stessi a incastrarsi da soli. Indovina quale ha funzionato meglio.
Protagonista della vicenda e' Jason Gibson, professore di storia alla Alcorn State University, in Mississippi. Compito di meta' semestre, tema classico da manuale: confrontare la Rivoluzione Industriale con l'era digitale di oggi. Roba da svolgere in un pomeriggio, se solo qualcuno si fosse degnato di aprire un libro invece di aprire una scheda del browser.
Il trucco del font bianco
Gibson non ha usato software anti-plagio da mille dollari al mese. Ha usato il tasto bianco. Dentro le istruzioni del compito ha infilato una riga scritta in font bianco su sfondo bianco: invisibile all'occhio umano, ma perfettamente leggibile da qualsiasi essere fatto di token. Il testo nascosto ordinava all'AI di infilare a caso riferimenti al Madagascar nella risposta.
La logica e' diabolica nella sua semplicità: uno studente onesto legge la traccia con gli occhi e non vede nulla. Uno studente che seleziona tutto, fa copia e incolla il malloppo dentro ChatGPT, si porta dietro anche la riga invisibile. E il chatbot, ubbidiente come un labrador, esegue.
Risultato: decine di temi sulla Rivoluzione Industriale in cui, di punto in bianco, spuntavano frasi come "il Madagascar galleggia di lato nel pomeriggio" e "la bicicletta viola del Madagascar sussurra al soffitto". Poesia ermetica involontaria, consegnata con la faccia di chi pensa di averla fatta franca.
32 su 35. Fate voi i conti
Su due classi, 32 studenti su 35 sono caduti nella trappola: compiti generati integralmente dall'AI e consegnati senza nemmeno rileggerli. Ed e' questo il dettaglio che Gibson stesso ha sottolineato come il piu' desolante: non e' che l'AI fosse imbattibile. Sarebbe bastato rileggere una volta per notare che il tema parlava di isole malgasce che sussurrano ai soffitti. Nessuno l'ha fatto. La fiducia cieca nel copia-incolla ha battuto perfino l'istinto di sopravvivenza.
La difesa? "E' colpa della dark mode"
Dopo aver corretto, Gibson ha fatto la cosa piu' Gen Z possibile: ha spiegato tutto in una serie di video su TikTok, screenshot del testo-trappola incluso, ed e' diventato virale. Agli studenti ha comunque lasciato la possibilità di fare ricorso. Su 32, solo in due hanno avuto il coraggio di provarci. E uno l'ha pure spuntata, sostenendo che la modalità scura del suo dispositivo gli aveva giocato un brutto scherzo con quel benedetto testo bianco. Onore al merito: incastrato dall'AI, salvato da un'impostazione di sistema.
La storia, per la cronaca, non e' nuovissima come idea: e' la versione didattica della prompt injection, la tecnica con cui si nascondono istruzioni dentro un testo per dirottare un modello linguistico. La differenza e' che qui la vittima non era il chatbot, ma chi lo usava senza pensare. Il che, diciamocelo, e' molto piu' istruttivo di qualsiasi lezione sulla Rivoluzione Industriale.
Morale, se ne serve una: l'AI non ti frega perche' e' troppo intelligente. Ti frega perche' tu smetti di esserlo nel momento esatto in cui premi Ctrl+V e chiudi il cervello. Il Madagascar ringrazia per la pubblicità.
Fonti:
Commenti (0)
Moderazione umana, firma anonima accettata. Per favore, niente insulti né maiuscole compulsive.
Ancora nessun commento.