⁂
Fandonie
一本关于人工智能、错误与待破解迷思的杂志。
杂志
Fandonie 创刊号：一段穿越机械自动机、实验小猫、技术异化，以及"装裱"作为救赎之举的旅程。意大利语与英语双语呈现。
#01 机械物的装裱：走向一种救赎性的界限诠释学
破除迷思
作为对任何生成式人工智能（AI）讨论的根本前提，有必要破除关于其所谓"有感知意识"的迷思。当今的人工智能远非一个能思考的实体，而是一套精密的概率系统。它在构建词语序列与话语方面表现出的显著效力，并非源自语义理解，而是源自计算某个词或短语紧随前一个词或短语出现的概率的能力，这一运算建立在海量——主要是文本类——数据之上。就此而言，其本质与十八世纪震惊欧洲宫廷的国际象棋自动机"土耳其人"并无二致。"土耳其人"内部隐藏着一名人类操作者，而今日的人工智能则隐藏着一套能够在前所未有庞大的语义空间中自如运作的统计机制。
然而，若将人工智能简单地视为一台自动机器，甚或视为一种不具批判意义或风险的实体，则是一种历史与科学层面上的短视错误。Held 与 Hein（1963）关于小猫的实验，已不容置疑地证明了学习、感知及由此产生的推理，本质上都是与环境主动互动密切相关的实践与经验性过程。既然人工智能的学习过程——无论其如何被模拟——都随时间趋向愈发精密复杂，那么，一个今天仍类似于"土耳其人"的智能体，未来发展出远比今天复杂得多的自主推理能力，绝非不可能之事。近期历史已经证明了这一点：自 1997 年 IBM 的深蓝（Deep Blue）计算机击败国际象棋世界冠军加里·卡斯帕罗夫，标志着计算能力在解决复杂问题上迈出关键一步，至今已过去数十年。
从文化隐喻到技术异化
这种能力不断增长的轨迹——至少在整个西方世界——嫁接在早已肥沃的文化土壤之上。一个多世纪以来，从艾萨克·阿西莫夫到菲利普·K·迪克，无数文学与影视作者都探讨过有感知、有智能的非人类主体这一主题。我们的集体隐喻、我们的想象力，几十年来一直被训练去设想"另一种"智能的存在，并且，有时也去畏惧它（Notte, 2005）。
然而，我们今天用来描述技术的隐喻，往往只停留在对其技术基础设施的表面描述，且常常带有误导性（Chomsky, 2023）——有时是歌颂式的，甚至带有宣传色彩。"云"（cloud）一词便是典型例子：这个轻盈缥缈的词汇，掩盖了地球上最"沉重"的产业之一的真实面貌——由高耗能数据中心构成，需要巨量的水与电力资源，带来严重的环境影响（Bridle, 2019）。在许多重要的知识界声音看来，这种语义上的不透明并非无害；它的作用正是掩盖我们数字"去物质化"背后的实际物质代价（Zuboff, 2019）。
然而，最深层的风险超越了经济与生态层面的影响，触及人类经验的核心：异化。尽管从康德到海德格尔，许多思想家都以不同程度的清晰认识到这一危险，但正是在与"物化"（reification）及"神圣"（sacred）等概念的联系中，这一危险才展现出其最激进的意涵——正如翁贝托·加林贝蒂（Umberto Galimberti）早在生成式人工智能兴起之前便已提出的理论。这一分析在古老神话中亦能找到回响，例如普罗米修斯因将火（即"技艺"，techne）赠予人类而被锁链禁锢的神话——这些神话帮助我们思考人类与"机械物"之间的本质关系。危险在于逾越人之所以为人的界限，形成一种人类领域与生物领域之关系日益割裂、日益成问题的人类学图景，从而对个体福祉造成灾难性影响。在加林贝蒂《心灵与技艺》（Psiche e téchne，1999）一书所描绘的异化图景中，技术装置不再是人手中的工具，而成为一种包裹并决定人的环境，将人贬低为一个失去其重要性与神圣性的、单纯的齿轮。如果说对加林贝蒂而言，触发这一进程的是信息技术，那么今天，人工智能则将其推向了更高层级：借助其巨大的计算能力，机器不再只是运用技艺，而是主宰了数学、生物学、统计学等其他学科，以拓展那些进一步加深"人类领域被剥夺、让位于机械领域"这一感受的种种目的。
与此同时，这些内在机制也在重新定义"神圣"本身的观念：一方面掏空了人类的超越性维度，另一方面又将"机械之物"——例如大都市——乃至机器本身神化。算法成为新的神谕，软件代码成为新的圣典，信仰由此完成了从人类向人工造物的转移。
装裱作为救赎之举
面对这一情境，社会学家格奥尔格·齐美尔（Georg Simmel）在其 1902 年一篇简短论文中所理解的"边框"（frame）问题，显得至关重要。对齐美尔而言，一幅画作的边框并非简单的装饰，而是一种根本性的认识论装置：它将艺术作品与周遭现实分隔开来，创造出一个自足的意义空间，使主体得以将其感知为"作品"。这一类比，唤起了我们近乎迫切的需求——需要一种概念上、伦理上与批判性的"边框"，来分辨真实与人工、人类与机器产物之间的界限。
这一"边框"并非抽象概念，而是一种实用的判断工具。一场展览、一本杂志、一个网站、一档播客、一份通讯，都可以成为赋予意义与语境的"边框"。它们是全景式的、享有特权的观察点，犹如瞭望塔。它们是能够通过互动，在一个或多个社群中传播伦理与政治思考的装置。它们使我们得以框定并评判对象身上的灰色地带、错误与欺骗，因此，它们的目光理应聚焦于计算技术，以及所谓的人工智能。布莱德尔（Bridle, 2019）提到了两个历史案例。让我们回想一下 20 世纪 50 年代 IBM 在曼哈顿的橱窗展示：一台超级计算机正在"工作"，宣称其用途是计算太空轨道，而实际上，它正秘密地为氢弹的建造进行运算。当年的这一现实，如今已成为技术伦理风险的典型象征。又如，更近一些，2010 年 5 月 6 日发生的"闪电崩盘"（Flash Crash）：由于高频交易算法之间不可预测的相互作用，纽约的一项金融指数在瞬间遭受了巨大而突然的财富损失——这是一起纯粹"机械性"的事件，却造成了灾难性的现实后果。在这两个案例中，正是缺乏人类监督与理解的"边框"，才使灾难得以发生；也正是在这两个案例中，"边框"如今对理解"机械之物"仍具有现实意义。
让渡谜题，守护神秘
那么，"装裱"——正如我们为一件艺术品装裱，是为了不带偏见地观看、审视并理解它——正是能够在本质上拯救人类自身的一种智性与精神性的活动。这一"装裱"之举，为知识与经验中诸多至今——大概永远——都无法被机械化过程所囊括的维度，保留了取得新成就的可能性。
凡是"机械之物"，如今已能、或即将能够，解决一切人类心智可解的谜题。谜题是有解的问题，是有答案的疑问。但机器永远、且将永远，无限遥远地无法哪怕仅仅构想那些"神秘"之物：神圣、圣洁、神性、爱、哀恸、牺牲。这正是塑造伦理的领域，是历经数百年沉淀为道德的领域，是人类试图在宇宙的奥秘中破译的领域。这些是人类一直以来、也将永远会犯错的领域，在这里，并不存在可靠的解决方案。但恰恰是我们赋予这种可错思维的"边框"——仪式的边框、信仰的边框、艺术的边框、哲学的边框——拯救了它，使其得以存续，并赋予它无可估量的价值。因此，救赎之道并不在于拒绝自动机或"机械之物"，因为它们如今已成为我们生存的一部分。人类的救赎，恰恰在于我们持续而审慎地为它们"装裱"这一行为本身。
参考文献
- Bridle, James. Nuova era oscura, 2019, Nero，罗马。
- Chomsky, Noam. "The False Promise of ChatGPT", The New York Times，2023年3月8日。
- Galimberti, Umberto. Psiche e techne, 1999, Feltrinelli，米兰。
- Notte, Riccardo. You robot, 2005, Vallecchi，佛罗伦萨。
- Zuboff, Shoshana. Il capitalismo della sorveglianza, 2023, Luiss，罗马（译自2019年原版）。
作者
视觉传达设计师、前端开发者，现任米兰新美术学院（NABA）UI 设计课程讲师。自 2011 年从业以来，他的职业道路交织着战略传播、平面设计、代码，以及近年来的人工智能。他怀抱追随大师足迹的志向，以执着的信念带领着品牌与传播工作室 Masterismi.com。他是 ABCity.org 的创始人——一个专注于创意与社会影响力的巡回项目；同时也是 Fandonie 杂志的创办者，该杂志聚焦人工智能的错误与幻觉。
主办下一期
Fandonie 正在寻找一个编辑团队、机构或文化空间，来主办并策划下一期杂志。欢迎与我们联系，毛遂自荐。