⁂

Fandonie

Un magazine sur l'intelligence artificielle, les erreurs et les mythes à déconstruire.

Le magazine

Le premier numéro de Fandonie : un voyage entre automates mécaniques, chatons expérimentaux, aliénation technologique et la mise en cadre comme acte de salut. En italien et en anglais.

#01 Mettre en cadre le machinique : pour une herméneutique salvatrice de la limite

Déconstruire le mythe

En guise de prémisse fondamentale à tout discours sur l'Intelligence Artificielle (IA) générative, il est nécessaire de déconstruire le mythe de sa prétendue conscience sentiente. Loin d'être une entité pensante, l'IA actuelle est un système probabiliste sophistiqué. Son efficacité remarquable dans la construction de séquences de mots et de discours ne provient pas d'une compréhension sémantique, mais de la capacité à calculer la probabilité qu'un mot ou une phrase suive la précédente, en fondant cette élaboration sur une vaste masse de données — essentiellement textuelles — de très grande ampleur. En cela, sa nature n'est pas dissemblable de celle du « Turc mécanique », l'automate joueur d'échecs qui stupéfia les cours européennes au XVIIIe siècle. Le Turc dissimulait un opérateur humain ; l'IA d'aujourd'hui dissimule un mécanisme statistique capable de se repérer dans un espace sémantique d'une ampleur inouïe.

Néanmoins, réduire l'IA à un simple automate, ou pire, à une entité dépourvue d'implications critiques ou de risques, serait une erreur de myopie historique et scientifique. L'expérience de Held et Hein (1963) sur des chatons a démontré de façon incontestable que l'apprentissage, la perception et le raisonnement qui en découle sont des processus intrinsèquement pratiques et expérientiels, liés à une interaction active avec un environnement. Puisque les processus d'apprentissage de l'IA, aussi simulés soient-ils, tendent avec le temps vers une sophistication toujours plus grande, il n'est nullement impossible qu'une intelligence qui ressemble aujourd'hui au Turc puisse, à l'avenir, développer des capacités de raisonnement autonome bien plus complexes qu'aujourd'hui. L'histoire récente en apporte la preuve : des décennies se sont écoulées depuis 1997, lorsque l'ordinateur IBM Deep Blue a battu le champion du monde d'échecs Garry Kasparov, marquant une étape fondamentale dans la capacité computationnelle à résoudre des problèmes complexes.

De la métaphore culturelle à l'aliénation technologique

Cette trajectoire de capacité croissante se greffe — du moins dans l'Occident collectif — sur un terrain culturel déjà fertile. Depuis plus d'un siècle, d'innombrables auteurs littéraires et cinématographiques, d'Isaac Asimov à Philip K. Dick, ont exploré le thème de sujets non humains sentients et intelligents. Nos métaphores collectives, notre imaginaire, sont entraînés depuis des décennies à concevoir l'existence d'« autres » intelligences et, parfois, à les craindre (Notte, 2005).

Néanmoins, les métaphores que nous utilisons aujourd'hui pour décrire la technologie tendent souvent à une simple description de son infrastructure technique, et sont en outre entachées de traits trompeurs (Chomsky, 2023), célébrateurs, voire parfois propagandistes. Le cas du « cloud » est emblématique : un terme éthéré et léger qui masque la réalité de l'une des industries les plus lourdes de la planète, faite de centres de données énergivores qui exigent d'immenses ressources hydriques et électriques, avec un impact environnemental dramatique (Bridle, 2019). Pour de nombreuses voix importantes du paysage intellectuel, cette opacité sémantique n'est pas innocente ; elle sert à masquer le coût matériel de notre dématérialisation numérique (Zuboff, 2019).

Le risque le plus profond, cependant, transcende l'impact économique et écologique pour toucher le cœur même de l'expérience humaine : l'aliénation. Bien que ce danger ait été perçu avec une lucidité variable par de nombreux penseurs, de Kant à Heidegger, c'est dans son lien avec les concepts de réification et de sacré qu'il révèle ses implications les plus radicales, comme l'a théorisé Umberto Galimberti bien avant l'avènement récent de l'IA générative. Cette analyse trouve un écho dans des mythes anciens, comme celui de Prométhée enchaîné pour avoir donné le feu (la techne) aux hommes — des mythes qui nous aident à réfléchir sur la relation essentielle entre l'humain et le machinique. Le danger est celui de sortir du périmètre de ce qui est humain, en créant une anthropologie dans laquelle le rapport entre la sphère de l'humain et celle du biologique devient toujours plus scindé et problématique, avec des effets néfastes sur le bien-être de l'individu. Dans l'aliénation décrite par Umberto Galimberti dans Psiche e téchne (1999), l'appareil technique n'est plus un outil entre les mains de l'homme, mais un environnement qui l'enveloppe et le détermine, le transformant en un simple rouage dévalué dans son importance et sa sacralité. Si pour Galimberti c'était la technologie informatique qui déclenchait ce processus, aujourd'hui l'IA le porte à un niveau supérieur : la machine, grâce à son immense capacité computationnelle, ne se contente pas d'employer la technique, mais domine d'autres sciences — mathématiques, biologie, statistique — pour étendre des finalités qui approfondissent le sentiment d'expropriation du domaine humain au profit du domaine machinique.

En parallèle, ces mécanismes immanents contribuent à redéfinir l'idée même de sacré, vidant l'humain de sa dimension transcendante tout en divinisant ce qui est machinique — comme la métropole — et, parfois, la machine elle-même. L'algorithme devient le nouvel oracle et le code logiciel la nouvelle écriture sacrée, dans un processus de transfert de la foi de l'humain vers l'artificiel.

Le cadre comme acte de salut

Face à ce scénario, la question du « cadre », telle que l'entendait le sociologue Georg Simmel dans un bref essai de 1902, apparaît comme cruciale. Pour Simmel, le cadre d'un tableau n'est pas un simple ornement, mais un dispositif épistémologique fondamental : il sépare l'œuvre d'art de la réalité environnante, créant un espace autonome de sens et permettant au sujet de la percevoir comme œuvre. C'est une analogie qui évoque le besoin, presque désespéré, d'un cadre conceptuel, éthique et critique permettant de discerner entre le réel et l'artificiel, entre l'humain et le produit des machines.

Ce cadre n'est pas un concept abstrait, mais un outil pratique de jugement. Le cadre d'une exposition, d'une revue, d'un site web, d'un podcast, d'une newsletter, peuvent être des cadres de sens et de contextualisation. Ce sont des points de vue panoramiques et privilégiés, comme des tours d'observation. Ce sont des dispositifs capables, par l'interaction, de diffuser une pensée éthique et politique au sein d'une ou plusieurs communautés. Ils permettent de cadrer et de juger les zones d'ombre, les erreurs et les tromperies de l'objet en question, et leur regard devrait donc se concentrer sur les technologies computationnelles et sur ce qu'on appelle l'intelligence artificielle. Bridle (2019) cite deux exemples historiques. Pensons à la vitrine d'IBM à Manhattan dans les années 1950, qui exposait un superordinateur au travail en affirmant que son objectif était le calcul d'orbites spatiales, alors qu'il travaillait secrètement sur les calculs pour la construction de la bombe H. La réalité de l'époque est devenue aujourd'hui emblématique du risque éthique de la technologie. Ou encore, plus récemment, ce qui s'est passé lors du « Flash Crash » du 6 mai 2010, quand un indice boursier new-yorkais a enregistré une perte de richesse énorme et soudaine à cause d'interactions imprévisibles entre des algorithmes de trading à haute fréquence — un événement purement machinique aux conséquences réelles dévastatrices. Dans les deux cas, c'est l'absence d'un cadre de supervision et de compréhension humaine qui a permis le désastre ; dans les deux cas, le cadre est aujourd'hui utile pour la compréhension du machinique.

Déléguer l'énigmatique, préserver le mystérieux

Mettre en cadre, donc — tout comme on encadre une œuvre d'art pour la regarder, l'observer et la comprendre sans préjugés — est l'activité intellectuelle et spirituelle qui peut sauver l'être humain dans son essence. Cet acte d'encadrement préserve la possibilité de nouvelles conquêtes dans les nombreuses dimensions du savoir et de l'expérience qui ne sont — et ne seront vraisemblablement jamais — réductibles à un processus machinique.

Ce qui est machinique est, ou sera bientôt, capable de résoudre toute énigme soluble par l'esprit humain. Une énigme est un problème avec une solution, une question avec une réponse. Mais la machine est, et restera, infiniment éloignée de pouvoir seulement concevoir ce qui est mystérieux : le sacré, le saint, le divin, l'amour, le deuil, le sacrifice. C'est le territoire de ce qui fonde l'éthique, de ce qui se sédimente au fil des siècles en morale, de ce que l'homme tente de déchiffrer dans le mystère du cosmos. Ce sont les territoires où l'homme s'est toujours trompé et se trompera toujours, où il n'existe pas de solution fiable. Mais c'est précisément le cadre que nous donnons à cette pensée faillible — le cadre du rite, de la foi, de l'art, de la philosophie — qui la sauve, en permet la survie et en définit la valeur inestimable. La voie du salut ne consiste donc pas à rejeter l'automate ou le machinique, puisqu'ils font désormais partie de notre survie. Le salut de l'humain réside dans notre acte constant et délibéré de les mettre en cadre.

Sources

• Bridle, James. Nuova era oscura, 2019, Nero, Rome.
• Chomsky, Noam. « The False Promise of ChatGPT », The New York Times, 8 mars 2023.
• Galimberti, Umberto. Psiche e techne, 1999, Feltrinelli, Milan.
• Notte, Riccardo. You robot, 2005, Vallecchi, Florence.
• Zuboff, Shoshana. Il capitalismo della sorveglianza, 2023, Luiss, Rome (traduit de l'original de 2019).

L'auteur

Francesco Zaccaria

Concepteur en communication visuelle, développeur front-end et professeur de UI Design à la NABA de Milan. Depuis 2011, son parcours professionnel entrelace communication stratégique, graphisme, code et, plus récemment, intelligence artificielle. Il dirige avec ténacité le studio de branding et communication Masterismi.com, animé par l'ambition de suivre les traces de ses maîtres. Il est le fondateur d'ABCity.org, un projet itinérant consacré à la créativité et à l'impact social, et le créateur de Fandonie, un magazine consacré aux erreurs et hallucinations de l'intelligence artificielle.

Héberger le prochain numéro

Fandonie recherche une rédaction, une institution ou un espace culturel pour héberger et diriger le prochain numéro. Contactez-nous pour vous proposer.