La scuola non è un test di Turing (Le magnifiche sorti e innovative 3)

Si dirà che nessuna macchina sarà mai capace di scrivere in bello stile inglese, o essere soggetta al sex appeal, o fumare la pipa. Personalmente non mi sento di offrire consolazioni, perché non credo sia possibile fissare limiti del genere.
Alan Turing

Premessa. Quasi tutti gli articoli che trattano di IA iniziano dicendo che il genere umano, nel rapportarsi alla tecnologia, si divide in apocalittici o integrati. La virtù starebbe dunque nel giusto mezzo. In una mediocrità dove la tecnologia non è un complotto per distruggere il mondo o stabilire una dittatura planetaria, ma anzi è un mezzo, e se sia buono e cattivo dipende dall’uso che se ne fa (MacLuhan non ci ha insegnato niente). E rassegnatevi, umana gente, perché «le tecnologie sono qui per restare»[1]. E siccome non c’è alternativa (Thatcher) tanto vale coltivare l’atteggiamento positivo (passivo) di adeguarsi alla mediocrità. E poco ci importa se l’IA rafforza il capitalismo, nuoce all’ambiente e distrugge l’arte[2]. Però su una cosa i teorici dell’approccio mediocre (o resiliente) alla tecnologia hanno ragione: conoscere il nemico è essenziale. Primo: per misurarlo.

Per esempio. Matteo Pasquinelli ha scritto: «L’IA non è una manifestazione di superintelligenza come certe vulgate, sia tecno-entusiaste che tecno-apocalittiche, sostengono. Al contrario essa rappresenta una meccanizzazione dell’intelligenza media di una data società». L’IA rispecchia quello che siamo, epura «estremismi e comportamenti anomali»[3], ma rafforza i pregiudizi[4]. La digitalizzazione della didattica, specialmente quella che pudicamente chiamiamo valutazione standardizzata, il fiore delle magnifiche sorti e innovative, misura la conformità alla media di tutto ciò che è quantificabile, lasciando ai margini ciò che non lo è, ipso facto scarto, bad skill. Le, gli studenti interiorizzano gli inevitabili pregiudizi dell’IA. Ne sono manipolati.

Il conformismo esiste già nella forma analogica, così come l’ossequio all’autorità, ma la forma analogica non esclude la ribellione, o la deviazione, che la macchina non permette, intanto perché la macchina è neutra, naturalmente insensibile, non suscettibile di dare risposte che non siano state scritte nel suo codice[5]. La macchina intelligente non consente nemmeno il luddismo perché è replicabile all’infinito, in qualsiasi dispositivo. Siamo in gabbia.

La gabbia performativa: il pappagallo (stocastico) allo specchio. L’IA simula le performance cognitive degli umani, che, ribaltate le parti, cercando di somigliare sempre di più al modello proposto dall’intelligenza media della società, finiranno per simulare le performance cognitive delle macchine, diventeranno degli alieni[6]. Il cerchio evolutivo si incontra con il cerchio involutivo. Se non avete afferrato il concetto sentite cosa dice Yoshua Bengio, autore di Deep Learning e altri acclamati best seller sull’IA[7]: «Non credi che il tuo cervello sia una macchina»?

La discriminazione, infine. Vince chi sa adattarsi, chi ha assimilato meglio, in modo più rapido, più efficace, il compito da svolgere: «Paragonare studenti di 15 anni a ChatGPT significa […] che l’IA è già stata interiorizzata come misura non solo dei risultati scolastici, ma anche di quali abilità possano essere automatizzate e quali no. Questo atto di discriminazione intellettuale può creare ulteriori divisioni di classe dentro la scuola: tra studenti (e futuri lavoratori) le cui abilità possono essere sostituite dall’IA e coloro le cui abilità non possono esserlo»[8].

---

Note

[1] Stefano Moriggi, Mario Pireddu, Fare pace con l’intelligenza (e non solo), «MicroMega», 6, 2024.

[2] «Oggi, l’addestramento di un sistema di IA di ultima generazione richiede milioni di dollari e ciò rende lo sviluppo di questa tecnologia fuori della portata della maggior parte dei gruppi di ricerca […]. L’enorme quantità di calcolo necessaria per creare questi sistemi ha fatto sì che l’addestramento di un singolo sistema di IA produca emissioni di gas serra paragonabili alle emissioni combinate di 5 automobili nel corso di tutta la loro vita utile, produzione inclusa», Sofía Trejo, Intelligenza artificiale, ma a quale costo?, «Anfibia».

[3] Matteo Pasquinelli, La vita non è un test di Turing, «MicroMega», 6, 2024.

[4] Le IA «hanno i pregiudizi di chi le ha progettate, delle culture con cui sono addestrate. Sono connotate storicamente e culturalmente», Alberto Puliafito, introduzione a Intelligenza artificiale. 10 ambiti della nostra vita che stanno cambiando per sempre.

[5] «I potenti sistemi di IA mancano degli aspetti persino più elementari della mente umana: non condividono quella che chiamiamo coscienza o senzienza e la capacità correlata di provare sentimenti come il dolore, la gioia, la paura e l’amore. Né hanno il senso del proprio posto e ruolo in questo mondo, né tanto meno la capacità di esperirlo», Shannon Vallor, Che cosa ci rende umani? Le nuove domande poste dall’IA “sovrumana”, «Noema».

[6] «Il rischio esistenziale non è quello di avere creature artificiali che superano la nostra intelligenza, ma di non essere più in grado di definire noi stessi come esseri intelligenti e capaci di scelte intellettuali e morali autonome», Judith Simon, Intelligenza artificiale e nuove sfide per l’etica, «MicroMega», 6, 2024.

[7] Ibid.

[8] Pasquinelli, La vita non è un test di Turing cit.