⁂

Fandonie

Un magazine su intelligenza artificiale, errori e miti da sfatare.

Il magazine

Il primo numero di Fandonie: un viaggio tra automi meccanici, gattini sperimentali, alienazione tecnologica e la cornice come atto di salvezza. In italiano e in inglese.

#01 Il macchinico da mettere in cornice: per un'ermeneutica salvifica del limite

Sfatare il mito

Come premessa fondamentale a ogni discorso sull'Intelligenza Artificiale (IA) Generativa, è necessario sfatare il mito della sua presunta coscienza senziente. Lungi dall'essere un'entità pensante, l'IA attuale è un sofisticato sistema probabilistico. La sua notevole efficacia nel costruire sequenze di parole e discorsi non deriva da una comprensione semantica, ma dalla capacità di calcolare la probabilità che una parola o una frase segua la precedente, basando questa elaborazione su una vasta mole di dati — prevalentemente testuali — di grandissime dimensioni. In questo, la sua natura non è dissimile da quella del "Turco Meccanico", l'automa scacchista che stupì le corti europee nel XVIII secolo. Il Turco nascondeva un operatore umano, l'IA odierna nasconde un meccanismo statistico capace di orientarsi in uno spazio semantico di inaudita grandezza.

Tuttavia, liquidare l'IA come un mero automa, o peggio un'entità priva di implicazioni critiche o rischi, sarebbe un errore di miopia storica e scientifica. L'esperimento di Held e Hein (1963) sui gattini ha dimostrato in modo incontrovertibile come l'apprendimento, la percezione e il conseguente ragionamento siano processi intrinsecamente pratici ed esperienziali, legati all'interazione attiva con un ambiente. Poiché i processi di apprendimento dell'IA, per quanto simulati, tendono nel tempo a una sempre maggiore sofisticazione, non è affatto impossibile che un'intelligenza che oggi assomiglia al Turco possa, in futuro, sviluppare capacità di ragionamento autonomo ben più complesse di quanto lo siano oggi. La storia recente ne offre riprova: sono passati decenni da quando, nel 1997, il computer IBM Deep Blue battè il campione del mondo di scacchi Garry Kasparov, segnando una tappa fondamentale nella capacità computazionale di risolvere problemi complessi.

Dalla metafora culturale all'alienazione tecnologica

Questa traiettoria di crescente capacità si innesta — almeno nell'occidente collettivo — su un terreno culturale già fertile. Da oltre un secolo, innumerevoli autori letterari e cinematografici, da Isaac Asimov a Philip K. Dick, hanno indagato il tema di soggetti senzienti e intelligenti non umani. Le nostre metafore collettive, il nostro immaginario, sono allenati da decenni a concepire l'esistenza di "altre" intelligenze e, anche, a temerle (Notte, 2005).

Ciononostante, le metafore che utilizziamo oggi per descrivere la tecnologia tendono spesso alla mera descrizione della sua infrastruttura tecnologica e sono per giunta viziate da tratti fuorvianti (Chomsky, 2023), celebrativi, se non, talvolta, propagandistici. Il caso del "cloud" è emblematico: un termine etereo e leggero che maschera la realtà di un'infrastruttura tra le più pesanti del pianeta, fatta di data center energivori che richiedono immense risorse idriche ed elettriche, con un impatto ambientale drammatico (Bridle, 2019). Per molte voci significative nel panorama intellettuale questa opacità semantica non è innocente; essa serve a nascondere il costo materiale della nostra smaterializzazione digitale (Zuboff 2019).

Il rischio più profondo, tuttavia, trascende l'impatto economico ed ecologico per toccare il nucleo dell'esperienza umana: l'alienazione. Benché questo pericolo sia stato intuito con varia lucidità da molti pensatori, da Kant a Heidegger, è nel suo legame con i concetti di reificazione e di sacro che esso rivela le sue implicazioni più radicali, come teorizzato da Umberto Galimberti ben prima del recente avvento dell'IA generativa. Questa analisi trova eco in miti antichi, come quello di Prometeo incatenato per aver donato il fuoco (la techne) agli uomini, miti che ci aiutano a ragionare sulla relazione essenziale tra l'umano e il macchinico. Il pericolo è quello di uscire dal perimetro di ciò che è umano, creando un'antropologia in cui il rapporto tra la sfera dell'umano e quella del biologico si fa sempre più scisso e problematico, con effetti nefasti per il benessere dell'individuo. Nell'alienazione delineata da Umberto Galimberti in Psiche e téchne (1999), l'apparato tecnico non è più uno strumento nelle mani dell'uomo, ma un ambiente che lo avvolge e lo determina, trasformandolo in un mero ingranaggio svalutato nella sua importanza e sacralità. Se per Galimberti era la tecnologia informatica a innescare questo processo, oggi l'IA lo porta a un livello superiore: la macchina, grazie alla sua immensa capacità computazionale, non si limita a impiegare la tecnica, ma domina altre scienze — matematica, biologia, statistica — per estendere finalità che approfondiscono il senso di espropriazione del dominio umano a favore di quello macchinico.

In parallelo, questi meccanismi immanenti contribuiscono a ridefinire l'idea stessa di sacro, svuotando l'umano della sua dimensione trascendente e, al contempo, divinizzando ciò che è macchinico — come la metropoli — e, talvolta, la macchina stessa. L'algoritmo diventa il nuovo oracolo e il codice software la nuova scrittura sacra, in un processo di traslazione della fede dall'umano all'artificiale.

La cornice come atto di salvezza

Di fronte a questo scenario, emerge come cruciale la questione della "cornice", così come intesa dal sociologo Georg Simmel in un breve saggio del 1902. Per Simmel, la cornice di un quadro non è un semplice ornamento, ma un dispositivo epistemologico fondamentale: essa separa l'opera d'arte dalla realtà circostante, creando uno spazio autonomo di senso e permettendo al soggetto di percepirla come opera. È una analogia che evoca il bisogno, quasi disperato, di una cornice concettuale, etica e critica che consenta di discernere tra il reale e l'artificiale, tra l'umano e il prodotto delle macchine.

Questa cornice non è un concetto astratto, ma uno strumento pratico di giudizio. La cornice di una mostra, di una rivista, di un sito web, un podcast, una newsletter, possono essere cornici di senso e contestualizzazione. Sono punti di vista panoramici e privilegiati come torri d'osservazione. Sono dispositivi capaci nell'interazione di effondere pensieri etici e politici in una o più comunità. Consentono di inquadrare e giudicare zone d'ombra, errori e gli inganni dell'oggetto, e quindi il loro sguardo andrebbe focalizzato sulle tecnologie computazionali e della così detta intelligenza artificiale. Bridle (2019) menziona due esempi storici. Pensiamo alla vetrina di IBM a Manhattan negli anni '50, che esibiva un supercomputer al lavoro dichiarando che il suo obiettivo fosse il calcolo di orbite spaziali, mentre stava segretamente lavorando ai calcoli per la costruzione della bomba H. La realtà di allora diviene oggi emblematica del rischio etico della tecnologia. Oppure, più di recente, quanto avvenuto al "Flash Crash" del 6 maggio 2010, quando un indice finanziario newyorchese registrò una perdita enorme e repentina di ricchezza a causa delle interazioni imprevedibili tra algoritmi di trading ad alta frequenza, un evento puramente macchinico con conseguenze reali devastanti. In entrambi i casi è stata l'assenza di una cornice di supervisione e comprensione umana a permettere il disastro, in entrambi i casi la cornice è oggi utile per la comprensione del macchinico.

Delegare l'enigmatico, mantenere il misterioso

Mettere in cornice, quindi, come si mette in cornice un'opera d'arte per guardarla, osservarla e capirla senza pregiudizi, è l'attività intellettuale e spirituale che può salvare l'essere umano nella sua essenza. Questo atto di incorniciare preserva la possibilità di nuovi conseguimenti nelle tante dimensioni del sapere e dell'esperienza che non sono — e presumibilmente non saranno mai — incapsulabili in un processo macchinico.

Ciò che è macchinico è, o sarà presto, capace di risolvere qualsiasi enigma che sia risolvibile dalla mente umana. Un enigma è un problema con una soluzione, una domanda con una risposta. Ma la macchina è, e rimarrà, infinitamente distante dal poter anche solo concepire ciò che è misterioso: il sacro, il santo, il divino, l'amore, il lutto, il sacrificio. È il territorio di ciò che informa l'etica, di ciò che nei secoli si sedimenta come morale, di ciò che l'uomo tenta di decifrare nel mistero del cosmo. Questi sono i territori dove l'uomo ha sempre sbagliato e sempre sbaglierà, dove la soluzione affidabile non esiste. Ma è proprio la cornice che diamo a questo pensare fallibile — la cornice del rito, della fede, dell'arte, della filosofia — che lo salva, ne permette la sopravvivenza e ne definisce il valore inestimabile. La via di salvezza, dunque, non consiste nel rifiutare l'automa o il macchinico, poiché essi sono ormai parte della nostra sopravvivenza. La salvezza dell'umano risiede nel nostro costante e deliberato atto di metterli in cornice.

Fonti

• Bridle, James. Nuova era oscura, 2019, Nero, Roma.
• Chomsky, Noam. "The False Promise of ChatGPT", The New York Times, 8 marzo 2023.
• Galimberti, Umberto. Psiche e techne, 1999, Feltrinelli, Milano.
• Notte, Riccardo. You robot, 2005, Vallecchi, Firenze.
• Zuboff, Shoshana. Il capitalismo della sorveglianza, 2023, Luiss, Roma (tradotto dall'originale del 2019).

L'autore

Francesco Zaccaria

Progettista della comunicazione visiva, front-end developer e docente di UI Design presso NABA Milano. Nella professione dal 2011 intreccia comunicazione strategica, grafica, codice e, più recentemente, intelligenza artificiale. Sogna di perseguire i suoi maestri e anima con visione ostinata lo studio Masterismi.com. Fondatore di ABCity.org un progetto itinerante sui temi di creatività e social impact. Ideatore del magazine Fandonie, su errori e allucinazioni di intelligenze artificiali.

Ospita la prossima issue

Fandonie cerca una redazione, un'istituzione o uno spazio culturale per ospitare e curare la prossima issue. Scrivici per proporti.