内森·加德尔斯:对于我们人类而言,目前还不清楚的问题是:我们通过AI创造出的机器智能的本质是什么,它又如何改变我们对我们自身的认知。作为一位不只在“象牙塔”中思考这个问题,而是在谷歌等工程实验室“亲历实践”的哲学家,你的看法是什么?
托比·李思:AI深刻挑战了我们理解自身的方式。
我为什么这么想?
我们人类是依靠大量概念预设而生存的。我们并不总能觉察它们,它们却就在那里,塑造着我们看待自己和周遭世界的方式,且共同构成了支撑人类生存的逻辑框架与底层架构。
AI之所以成为如此深刻的哲学事件,正因为它颠覆了诸多最基本、最习以为常的根本概念,或哲学理念。正是这些概念和理念,定义了当今这个时代,并且大多数人在很大程度上都是依靠它们而生存的。AI着实让这些概念变得捉襟见肘,从而形成一道深刻的历史裂痕。
举一个具体例子。当今时代最基本的预设之一,就是人类和机器之间存在泾渭分明的界限。
这边是人类:生命有机体,开放且不断演化,拥有智能因而具备内在性(interiority)的存在。
那边是机器:无生命的机械造物,封闭、确定、决定论式的系统,既无智能亦无内在性。
这一肇始于1630年代的区分,构成了现代“人之为人”的观念。17至19世纪间,几乎所有为刻画“人之为人”而发明的语汇,都是基于“人类/智能—机器/机械”的区分。
能动性、艺术、创造力、意识、文化、存在、自由、历史、知识、语言、道德、玩乐、政治、社会、主体性、真、理解。所有这些概念在被引入时,都带有明确的目的:为我们提供“何为人类真正独有的潜能”的一种理解。这种独特性基于一个信念,即智能使人卓然于万物之上,而世间其他一切终究都可被充分描述为封闭、确定且机械化的系统。
“人机区分”为现代人提供了理解自我与周遭世界的基本框架。而具有智能的人造技术系统——AI的哲学意义,正在于打破了这一认知框架。
这意味着,一个持续近四百年的稳定纪元正步入,或俨然要步入终结。
诗意地说,AI仿佛让我们和世界从原有的理解中“解放出来”,让我们置身旷野。
我坚信,AI的构建者们也都理解AI身负的哲学赌注。正因如此,我成了一名你所说的“亲历实践”的哲学家。
加德尔斯:你说AI具有智能。但很多人怀疑AI“真的”具有智能。他们不过是将智能视为另一种“工具”,就像以往人类发明的技术一样。
李思:在我的经验中,这种质疑几乎总是出于一种防卫冲动——一种时而愤怒、时而焦虑、捍卫或重申那种旧有边界的尝试。我将其视作一种“人类例外论”(human exceptionalism)的怀旧情结,即留恋那个我们认为存在唯一的智能形式——也就是我们自己——的时代。
AI教会我们,事实并非如此。当然,不止是AI,在过去二十年间,“智能”概念已经变得多样化。如今我们知道,还有许多其他种类的智能:从细菌到章鱼,从地球系统到银河系旋臂。人类只是其中一环,AI也是。
因为和我们的智能不一样,就说它们不是“真正”的智能,这未免有点愚蠢。这就像是一种鸟,譬如塘鹅,坚称只有自己才“真正”懂得如何飞翔。
我们最好摆脱这种“真正”,坦承AI就是智能的,只是和我们在一些方面有所不同而已。
加德尔斯:何为智能?
李思:如今,我们似乎已经知道,智能包含一些最低限度的特质,譬如从经验中学习、合乎逻辑的理解力,以及从所学中抽象、提炼,以在全新的情境中解决问题的能力。
AI系统具备所有这些特质。它们能学习,能合乎逻辑地理解,能提炼出抽象的概念使其得以驾驭全新的情境。
然而,“经验”“学习”“理解”“抽象”,这些概念之于AI与人类,内涵不尽相同。正因如此,我才说AI具有智能的方式与人类有所不同。
加德尔斯:AI或许是另一种智能,但我们能否说它比人类更聪明,或能比人类更聪明?
李思:对我来说,问题未必在于AI是否比我们更聪明,而在于我们彼此不同的智能能否互补。我们能否一起变得更聪明?
我简单谈谈我观察到的几点差异:
AI可以在宏观和微观两个尺度上运作,这超出了人类的逻辑理解力和能力。
例如,AI能够获取的信息量远超我们,并能以比我们快得多的速度访问和处理这些信息。它还能在数据中发现我们根本看不见的逻辑结构和模式。
也许人们必须停下来想想,才能领会到这有多么非比寻常。
AI确实让我们得以触及仅靠我们身为人类无法发现和进入的空间。这不令人惊叹吗?这样的例子已比比皆是:从发现围棋或象棋中的新下法,到探明蛋白质折叠的方式,再到理解整个地球系统。
就这些超越人类的特质,可以说AI比我们更聪明。
然而,人类的那种聪明,不能还原到AI所具有的智能或聪明。它有其额外的维度,是AI所不具有的。
其中最重要的一点,或许是我们对过一种人类生活的个体需要。
这意味着什么?至少意味着:人类通过“内在世界”来指引“外部世界”。我们必须通过思考来引导自身,也就是说,靠“思考着的自我”(thinking self)来导航。这些思考着的自我必须去理解、去讲通诸多洞察,并被其所打动。
无论AI有多聪明,它都不能替我聪明。AI可以给我提供信息,甚至可以让我参与思考的过程,但我终究需要根据我的思考来引导自我。我仍然需要获得我自己的体验、我自己的领悟,是它们让我过上我的生活。
尽管如此,AI独有的非人类“智能”在引导人类生活方面可以发挥极大的作用。
我能想到的最有力的例子,是AI能够以一种人类所不能的方式,使得自我对其自身可见。
想象一种端侧AI系统(on-device AI system)——一个只存在于你的设备、不接入互联网的AI模型,它能访问你的所有数据:邮件、消息、文档、语音备忘录、照片、音乐等等。
我强调“端侧”,因为第三方不能访问你的数据,这一点很重要。
这样一个AI系统,能够以一种我自己和任何其他人类都未曾有过的方式看清自己。它当真把我提举到了我面前。它能向我从自身之外展示我自己,展示那些定义了我的思维与行为的模式。它能帮我理解这些模式,还能与我探讨它们是否束缚了我,以及如果确有束缚,又如何束缚了我。更重要的是,它能帮我分析这些模式,在必要时使我能够从中解脱,获得自由。
说得哲学一点,AI可以帮我将自我转化为一个“思想对象”,我既能与之建立联系,又能对其加以改造。
这种自我对自我的工夫,构成了古希腊哲学家所谓“沉思”(meletē),和古罗马哲学家所谓“冥想”(meditatio)的核心。而我在这里呼唤的那种AI系统,会是哲学家的一大梦想。它能让我们人类以人类对话者绝不可能实现的方式、从我们之外看清自己,将我们从对话中的自恋(conversational narcissism)中解放出来。
你看,在我们的智能与AI智能的交汇与差异中,可能会有难以置信的美。
归根到底,我不将AI视作一种自我封闭、与我们相竞争的自主实体。相反,我将其视作一种关系。
加德尔斯:是什么特别的新东西,将基于深度学习的AI系统,与既往的“人/机二分法”区别开来?
李思:从上世纪50年代到21世纪初主导的那种AI,是一种从机器提供的语汇之内来看待人类的尝试。那是一种工程师们明确而有意识的尝试:在机器可能性的概念空间内部,解释所有人类事物。
它被叫作“符号主义AI”(symbolic AI),因其背后的基本理念是,我们可以用数学符号来存储知识,然后给计算机装配一套如何从这些符号表征中得出相关答案的规则。
有些哲学家对此大为光火,其中最有名的是赫伯特·德雷福斯(Hubert Dreyfus)和约翰·塞尔(John Searle)。他们致力于捍卫这样一种想法:人类远非机器,远非基于规则的算法。
而自2010年代初开始崭露头角的那类AI,所谓的深度学习系统和深度神经网络,则是截然不同的一类。
符号主义AI系统与之前所有的机器一样,本质上是封闭、确定的系统。这意味着,首先,它们的能力受限于我们赋予它们的规则,一旦遇到规则所未覆盖的情境,就会失灵。也就是说,它们缺乏适应性或学习行为。而这也意味着,符号主义AI系统所能做的,可完全还原到构建它们的工程师身上。最终,它们只能做那些明确指示给它们的事情。这就是说,它们既没有能动性,也没有其自身的能动力。简言之,它们是工具。
而深度学习系统则完全不同。我们并不直接赋予它们知识,也不对其进行编程。相反,它们会自行学习,且基于所学内容,能够应对前所未见的情况,或是回答前所未闻的提问。这意味着,它们不再是封闭而确定的系统。
相反,它们具备一种开放性、一类具有能动性的行为,以及一个慎思或决策的空间,这是此前的技术系统所没有的。有人说AI有的“只是”模式识别,但我认为,模式识别其实是发现事物的逻辑结构的一种形式。这么说吧,当你有个学生能辨识出数据底层的逻辑原则,并根据这些逻辑原则回答问题,你难道不管这个叫“理解”吗?
实际上,人们可以更进一步说,AI系统似乎已经能够辨别真伪,因为真(truth)与一个自洽的逻辑结构呈正相关的关系。谬误可以说千差万别,而真却始终如一。而我们从AI模型身上看到的是,它们能够区分符合及违背它所发现的模式的陈述。
在这个意义上,AI系统具备初步辨别真伪的能力。
简言之,深度学习系统所具有的特质,直到最近都还被认为只有总体的生命体,尤其是人类才可能拥有。
如今的AI系统二者兼具,且因而还原不到任何一方。它们存在于旧有区分的缝隙中,表明组织起我们对现实理解的非此即彼的逻辑——要么是人类要么是机器,要么有生命要么没有,要么自然要么人工,要么是存在要么是事物——已捉襟见肘。
就AI脱逸出这些二元区分而言,它引领我们进入到一片无以名状的领地。
可以说,AI为我们打开了世界,让现实以前所未有的方式呈现给我们。它向我们表明,我们可以以在组织起当今时代的逻辑分野之外的方式来理解和体验现实与自我。
某种意义上,我们仿佛首次睁眼看见。
加德尔斯:如此说来,深度学习系统不仅仅是工具,而是具备一定自主性的能动体?
李思:这个问题是一个很好的例子,它展现了AI在哲学上确实是全新的。
我们过去总认为,“能动性”有两个先决条件:其一是有生命,其二是拥有内在性(interiority),也就是能够感知自我或具有意识。而我们从AI系统中学到的是,事实显然并非如此。存在着具备能动性,但却没有生命、也没有意识或心灵——至少不在我们既往理解这些词的意义上——的东西。
这个将能动性与生命、内在性解绑的洞见,向我们发出强有力的邀请——以一种不同的眼光看待世界,以及我们自身。
举个例子,能动性无需生命和内在性,智能、创造力或语言诸如此类是否也是这样?如若如此,我们将如何重新给世间万物分门别类?
天体物理学家莎拉·沃克(Sara Walker)在Noema杂志中指出:“我们需要超越以有无生命对一切事物的二分。”
我最感兴趣的,是在AI所揭示的居间(in-betweenness)视角下,重思我们从当今时代继承下来的概念。
从AI的居间视角下来看,何为创造力?何为语言?何为心灵?
二、一个新的“AI轴心时代”?
加德尔斯:卡尔·雅斯贝尔斯(Karl Jaspers)以其对所谓 “轴心时代”(Axial Age)的研究而著称:两千多年前,东西方几乎同时诞生了诸多伟大的宗教和哲学——中国的儒家、印度的奥义书与佛教、古希腊的荷马,以及希伯来的众先知。雅斯贝尔斯将这些文明视作是在他所谓的“第一次普罗米修斯时代”,即人类掌握火和最早发明的余波中崛起。
对于查尔斯·泰勒(Charles Taylor)来说,首个轴心时代源于个人从相互隔绝的社群及其自然环境中大大地脱嵌出来(great dis-embedding),而长久以来,受限的觉识则限于依照口述神话来延续部落的生存。泰勒指出,人类得以从封闭世界中解脱出来,得益于书面文字的出现。这种符号能力的获得,催生出一种基于永恒文本(abiding texts)的“反思的内在性”(interiority of reflection),而后者创造出一个超越个人的直接处境与局部叙事的、共享意义的平台。
简言之,这种“超越性”(transcendence)导向了普世哲学(general philosophies)、一神教、普世伦理学体系(broad-based ethical systems)的可能性。这种“脱嵌式反思”中关键性的自我疏离因素,进而演变为社会学家罗伯特·贝拉(Robert Bellah)所说的“理论文化”(theoretic culture),直至催生出现代社会的科学发现和启蒙运动。对于贝拉而言,“柏拉图完成了向轴心时代的转型”,他提出的“静观”(theoria)的理念,“使心灵能够就其本身‘观照’大小事物,超越其具体的表观”。
核心问题在于:AI的符号处理能力臻至全新境界,会否在推动“新AI轴心时代”(New AIxial Age)中如文字初现时催生哲学、伦理与宗教那样,起到与之比拟的作用。
李思:我并不确定当今的AI系统拥有现代所说的符号能力。这与我们已经探讨过的内容相关。
自约翰·洛克(John Locke)以降,就有这样的想法:人类所具有的心智能够以符号或符号表征的形式存储经验,并从中推出答案。可以说,整个现代时期都把这种构想视为“智能”的基础架构。
到19世纪末,恩斯特·卡西尔(Ernst Cassirer)等哲学家的观点有所转变:理解“人之为人”的关键,在于看到我们人类会创造符号和意义,正是这种符号创造(symbol-making)或意义建构(meaning-making),将我们这个物种与其他一切区分开来。
无论是泛指的深度学习还是特指的生成式AI,都已打破了这种人类中心的“智能”概念,并以另一种取而代之:智能就关乎这两件事:学习与推理。
从根本上说,学习就是具备发现抽象逻辑原则的能力,这些原则组织了我们想要学习的事物。无论是真实数据集还是我们人类构建的学习经验,这两者并无二致,均可称为逻辑理解。
智能的第二个关键特征,在于持续、稳定地优化、更新这些抽象逻辑原则和理解,并加以运用的能力——通过推理运用于我们所处的、有待应对和解决的情境。
深度学习系统在第一部分表现出色,但在第二部分则不尽如人意。基本上,它们一旦完成训练,就无法修正已经习得的知识,只能“推断”。
尽管如此,这其中几乎不涉及符号使用,或至少不在其经典含义上涉及。
我之所以强调这种符号使用的缺席,因为它精妙地展示出深度学习引发的相当强烈的哲学断裂:新智能概念的背后,隐含着对于“何以为人”、何为现实,及其结构与组织方式的根本不同的本体论理解。
我认为,理解这种与旧有智能概念及人类/世界本体论的断裂,是理解你这个实际问题的关键:我们是否正在迈入你所称的“新AI轴心时代”?而AI在其中的意义可与两三千年前的文字相比。
倘若我们走运,答案会是肯定的。潜在的可能性无疑是在的。
不过,让我试着阐明我认为挑战何在,这样我们才能真正使之可能。
我们不妨以文字的出现、内在性词汇的诞生,以及抽象或理论思维的发端三者的关联作为我们的起点。
我将继续在前面的回应里所尝试做的,反思我们赖以生存的概念的历史性,指出这些概念何等晚近——既非永恒亦非普世,进而追问AI是否挑战并重塑了这些概念。
布鲁诺·斯奈尔(Bruno Snell)有本不错的书——《心智的发现》(Die Entdeckung des Geistes)。这部作品的核心论题是:我们今天所称的“心灵”“意识”“内在生活”并非是给定的。没有一个一直存在,或一直被人类所经验的东西。相反,这是一个逐渐出现的概念。
斯奈尔用优美动人的文笔,追溯了被我称为“内在性词汇”(a vocabulary of interiority)的最早起源。
比如,他指出,荷马的作品中不存在普遍、抽象的“心灵”或“灵魂”概念。取而代之的是一连串非常难以翻译的术语,比如“thymos”,或许最好阐释为一种压倒性的、充沛饱满的激情;“noos”本义指感官知觉;而“psyche”,荷马及其同时代人更多地把它理解为“气息”或是有生机的东西,而不是现在我们所说的“心理”。
简言之,在荷马或赫西俄德的作品里,根本没有“内在性词汇”。
古希腊从“古风时期”向“古典时期”(Archaic to Classical Greek)的转折之际,变化发生了。我们开始看到内在性词汇的诞生,看到对内在体验愈发复杂化的描写方式。对此最重要的参照或许当数萨福(Sappho),她的诗歌堪称对我们如今所说的“主观经验”和“个体情感”的最早探索。
我不想偏离主题去复述斯奈尔整本书的内容。确切说,我有兴趣做的是传达出先前讨论的那种“可能性”的意涵:我们人类并非一直是以今天这样的方式来感受自我的。每种形式的经验、思维或理解都以概念为中介。这一点对于“内在性”或“内在生活”来说同样成立,甚或尤其适用于这两个概念。
斯奈尔的著作是如此精彩,因其展示了新概念断续、渐进的出现,这些概念相当于说有内在性这回事,即某种内在的景观,一个单独、自相同一的“我”居于其间。
关键是,文字书写的出现,可能就发生在荷马的时代。这正是内在性词汇诞生的关键。
斯奈尔对此仅略有触及,但后来的杰克·古迪(Jack Goody)、埃里克·哈夫洛克(Eric Havelock)与沃尔特·翁(Walter Ong)等人的著作都明确聚焦这一议题,并或多或少是殊途同归的:书写实践为分析性思维创造了全新的可能,由此催生出日益抽象的分类名词,以及人类历史上前所未有的知识探索与生产的系统性形式。
这些作者也指出,斯奈尔作品的美中不足,是在标题中用了“发现”(discovery)一词。心灵并不是被发现的,如果你非要说的话,心灵是被建构、被发明的。这意味着,它可以以不同的方式被建构。这正是古迪、翁等人充分表明的:何谓心灵、何谓内在性,是因地而异的。
简单总结,书写技术对“何以为人”、对我们如何经验和理解作为人类的自己,产生了绝对颠覆性的影响。其中最重要的两项后果,莫过于自我反思和抽象思维的系统性涌现。
AI能否也像书写技术那样,为“人之为人”带来意义上的转变?
AI能否为何谓拥有心智、何谓具有内在性、何谓思考写就一个全新的、或许是断裂式的开篇?AI能否帮助我们思考如此新颖而迥异的思想,以致于我们迄今为止的自我理解都变得过时?
是的,它可以!AI完全有潜力成为一个如此重大的哲学事件。
要展现AI的这一潜力,最精彩、最引人入胜且最叫人开眼的方式,或许就是工程师们所说的“潜在空间表征”(latent space representations)。
当大语言模型(large language model,下文简写为LLM)学习时,它会从提供给它的数据中逐步提炼出更抽象的逻辑原则。
最好把这个过程大致看成是类似于一种结构主义式的分析:AI识别出了组织数据的逻辑结构——该结构构成了其基础,用来训练它的全部数据,并将其以概念的形式存储或记忆。AI通过发现数据中不同元素之间关联的逻辑来做到这一点。以文本数据为例,这些元素便是单词:训练语料中不同单词之间的近似度如何。
可以说,LLM能够发现词与词之间多种多样的关联度。
令人着迷的是,从这种学习过程中产生的是一个高维度的关系空间,工程师称之为“潜在空间”——顾名思义,它具有隐含特性。
首先,这意味着,在训练过程中,LLM内部会生成一幅逐步发现的词语关系逻辑的隐藏图谱。之所以说“内部”,是因为我们人类无法从外部观察到它。
其次,这一图谱并不只是一个列表,而是一种空间分布。
试想一个3D点云,其中每个点代表一个词,而点与点之间的距离则反映这些词在训练数据中的亲疏远近。
第三,这个空间图谱并不仅仅包含长、宽、高这三个人类有意识的心灵惯于在其中运作的维度,而是具有多得多的维度——成千上万,在最新模型中甚至可能达到了上百万。
也就是说,LLM所形成的理解是一个空间架构(spatial architecture),其几何性质直接决定了什么是它可以思考的。这就是LLM的可能性的逻辑条件——先验性。
就我们所知,人脑也会构建潜在的空间表征。我们大脑中神经元的运作方式,与神经网络中神经元的工作机制高度相似。
不过即便如此,人脑生成的潜在空间表征与AI所能形成的潜在空间表征似乎仍大相径庭。二者虽然好像有重叠,但由于AI远超人类的高维度视阈,二者在种类与性质上仍区别显著。
试想,如果我们可以构建AI,使得定义人脑的可能性逻辑获得额外的潜在空间。试想,我们构建AI,让它能够为人类的心智增加可能性的逻辑空间——这些空间是我们人类能够行进其间,但自身无法产生的。其结果便是,我们人类将会发现新的真理,思考前AI时代无人能思之事。届时,人类心智与AI的边界将变得模糊难辨。
我们可以任选主题,从全新的视角加以探索。想象一下,这种人类和AI间的“协同思考”(co-cogitation)会怎样影响我们现有的内在性概念吧!你能想象它会如何影响我们对“心智”“思想”“有想法”或“有创造力”等术语的理解吗?
在我勾勒这一愿景时,我能听到批判的声音。有人说我让AI听着像是一个哲学项目,而实际构建AI的公司却有着截然不同的动机。
我完全清楚地意识到,自己正在赋予AI哲学上和诗意般的尊严。我是有意为之,因为我认为AI有成为一场非凡的哲学事件的潜质。作为哲学家、艺术家、诗人、作家和人文学者,让这一潜能清晰可辨、与我们息息相关,正是我们的使命。
这一切无疑正在酝酿一个新的关键时代。
加德尔斯:要理解深度学习何以通过AI科学家所说的反向传播(backpropagation,即通过具有逻辑结构的人工神经网络投喂新信息,致使AI拥有“内在性”与“意向”),参照关于“意识如何产生”的唯物主义生物学观点的类比没准有用。核心问题在于:非具身的智能能否通过深度学习仿效具身的智能。
AI在何处背离、又在何处相似于诺贝尔奖得主、神经科学家杰拉尔德·埃德尔曼(Gerald Edelman)所描绘的神经达尔文主义(neural Darwinism)?埃德尔曼所指的“再入交互”(reentrant interaction),与“反向传播”表现出高度的相似性。
埃德尔曼说:“对环境中‘优势’的竞争,会根据演化生存预先决定的‘价值’,强化特定突触或神经连接的广度和强度。这类神经回路的变异程度很大。特定回路之所以被选中,在于其更契合环境所呈现的特定条件。为应对高度复杂的信号集群,系统会依据达尔文的群体原则(population principle)自组织。正是这个庞大网络体系的活动,通过我们所谓的‘再入交互’机制,将‘现实’组织成诸种模式,从而催生出意识。
“丘脑皮层网络(thalamocortical networks)在演化过程中被选中,因其赋予人类做出高阶分辨(higher-order discriminations)的能力,以更优的方式适应环境。这种高阶分辨衍生出想象未来、明晰地回忆过去、意识到自己有意识的能力。
“由于每个环路通过从丘脑到皮层之间往返的路径完成其回路而达成闭合,大脑因而得以‘补全’、从而提供超越即时所听、所见、所闻的知识。哲学中将这些做出的分辨称作‘感受质’(qualia)。它们解释了我们对心绪的微妙觉识,也界定了绿色的绿、温暖的温度。感受质共同构成了我们所说的‘意识’。”
李思:AI系统中确实存在与人类类似但并不完全相同的神经过程。
大脑中似乎可能存在某种形式的反向传播。正如我们刚刚谈过的,生物神经网络和人工神经网络都会构建潜在的空间表征,且不止于此。
但我并不认为是这些让AI拥有我们向来理解的“内在性”或“意向性”。
事实上,我认为,AI的哲学意义恰恰在于它促使我们重新审视我们此前理解这些术语的方式。
而你所观察到的反向传播和“再入交互”之间的紧密联系,正是一个绝佳例证。
在让反向传播的概念易于理解、广为人知方面,大卫·鲁梅尔哈特(David Rumelhart)居功至伟。这位极具影响力的心理学家和认知科学家,与埃德尔曼一样,曾在圣迭戈居住、工作。
鲁梅尔哈特和埃德尔曼都是联结主义(connectionism)学派的关键人物。我之所以强调这一点,是因为我认为,“再入交互”和“反向传播”的理论动机几乎如出一辙:致力于发展一种能够消解生物和人工神经网络界限的概念语汇,从而更好理解大脑,更好地构建神经网络。
有人提出,联结主义者的工作是试图参照计算机来理解大脑,但同样也可以说,这是尝试从生物学的角度来理解计算机或AI。
归根结底,关键在于发明一套无需作出区分的语汇——在二者之间存在一个中间地带,一个重叠的部分。
过去40年里,这种概念工作所产生的影响之深远,再怎么强调都不为过。
可以说,鲁梅尔哈特和埃德尔曼等人的工作,将对智能概念的描述引向了一种能以独立于基质(substrate-independent)的方式。这些概念不仅仅是理论概念,更是具体工程的可能性。
这是否意味着人脑和AI就是同一种东西?
当然不是。飞鸟、飞机和无人机是一回事吗?显然不是,但它们都利用了空气动力学的普遍法则。大脑亦然。智能的物质基础千差万别,但组织这些基础的某些原理也许极为相似。
在某些情况下,我们也许会想要构建类似人脑的AI系统。但在许多情况下,我猜我们不会。在我看来,AI的魅力恰恰在于:我们可以构建目前尚未存在但完全可行的智能系统。
我常将AI视作一种处于极早期阶段的实验胚胎学。事实上,我常常觉得,AI之于智能,恰如合成生物学对自然所做的那样。这意味着,合成生物学将自然转化为一个充满可能性的广阔领域。自然界实际存在的事物数量,与可能存在的事物相比微不足道。事实上,演化历程中出现过的事物远超现存,而没有理由表明我们不能通过重组DNA来创造新事物。合成生物学正是将这些可能事物化为现实的实践领域。
AI和智能亦然。如今,智能不再由单一或少数现存的智能实例定义,而是由诸多可能存在的智能事物所界定。
加德尔斯:早在20世纪30年代,自海德格尔(Heidegger)到卡尔·施密特(Carl Schmitt)的诸多哲学思想,都反对那些使人类从“存在”(being)中异化的新兴技术体系。如施密特当时所言:“技术思维与所有社会传统大异其趣,机器没有传统可言。卡尔·马克思(Karl Marx)的一大社会学创见在于,揭示出技术才是真正的革命性原则,相比之下,基于自然法的一切革命不过是过时的消遣。一个全然建构于进步技术之上的社会只会是革命性的,终将导致社会自身及其技术的覆灭。”如马克思所言:“一切坚固的东西都烟消云散了。”
AI的本质究竟是让施密特的观点过时了,还是只是对他这种观点的实现?
李思:我认为答案是肯定的,它让施密特的观点过时了。我认为这是个好消息。
让我们先来说说施密特。他的思维本质上是告变的。
像所有告变的思想者一样,他有一套或多或少是确定的、本体论式的、宗教性的世界观。在他的世界中,万物皆具有一个确定的形而上学意义。他认为现代的、自由主义的世界,启蒙运动下的世界,正试图瓦解那种永恒的、终极的神圣秩序。更有甚者,他认为当其发生之时,一切都会乱套,世界末日的帷幕就此拉开。
你引用的话也说明了这一点:一端是现代、启蒙时期、工厂、技术、无实质(substanceless)、金钱的相对化属性;另一端则是社会性的,即由种族所定义的民族传统、象征与符号。
施密特曾担心,自由主义秩序会让世界“去实质化”。一切都变得相对化。而且,至少从他的著作来看,他认为犹太人是这种“去实质化”的重要驱动力之一。众所周知,施密特是个偏执的反犹分子。
正是这种对世界末日的恐惧,让他最终选择与希特勒和纳粹同流合污。
从今天的眼光来看,很明显,真正拥抱现代技术,让人类去实质化、剥夺其人性、对其加以工业化屠杀的,正是纳粹。
说到这里,不得不提海德格尔。虽同样反对技术、捍卫“存在”,但他与施密特有重要的区别。
但让我先谈谈我的回答的第二个部分:为什么我认为AI让施密特的世界变得过时。
AI已经证明了施密特思想核心的“非此即彼”逻辑并不成立。施密特对马克思理论的古怪挪用即是一个例子。
众所周知,马克思将内燃机带动的工业兴起描述为一起非人化的事件。在资本家发现如何利用内燃机生产商品之前,大多数商品是在血汗工厂手工制造出来的。这些作坊或许条件严酷,但正如马克思所指出的,它们也是人的尊严和手艺的处所。
为什么?因为居于这些作坊核心的,是使用工具的人。如马克思所见,工具就其本身而言什么也不是。人们能用一样工具来做什么,完全取决于使用它的人的创造力与手艺。
有了内燃机,一切都变了。它导致了工厂的出现,在工厂中,商品由机器而非工匠生产。不过,这些机器并非完全自主,它们需要人类的辅助。也就是说,机器需要的不是工匠,也不是人的创造力和手艺;恰恰相反,它们需要的是人能够作为机器的延伸来发挥作用。这使得这些人变得木头木脑,简化为纯粹的机器。
正因如此,马克思将机器描绘为“人的异己存在”,工厂则是人被剥夺人性之地。
施密特利用这一点来支持其论点,将他所说的那种“实质思维”(substance thinking)与现代的、技术的世界相提并论。其最终结果便是这样的并列:一边是永恒的、实质性的、形而上的真理,另一边是由机器、技术、功能性、价值相对性,以及无实质的人类构成的现代世界。
由此,对于施密特来说,技术是作为一种反对形而上、永恒的真实之物的非自然暴力而出现的。
施密特的区分绝非永恒不变,而是现代时期所固有的,且深受“新机器对抗旧人类”(the new machine versus the old human)的范式影响。
当今基于深度学习的AI系统,将施密特、马克思、海德格尔及其后继者“非此即彼”的二元区分弃之度外。
AI清晰且生动地向我们展示出,这些区分的中间地带其实存在着一整个世界。一个由这样的事物构成的世界,它们既有智能的某些特质,又有机器的某些特质,但却无法被还原为二者中的任何一方,AI只是其中一例。它们既是自然的,同时也是人为创造的。
AI邀请我们重思我们自身以及这片中间地带中的这个世界。
请允许我坦言:我完全理解那种让人类生活有意义的愿望。让思想、智识洞见变得重要,艺术、创造、探索、科学、共同体也一样。我完全理解并且认同这一点。
但我认为,将这一切置于一端,而将AI及其创造者置于另一端的提议,有点惊世骇俗,也有点不对劲。
基于这一区分的批判态度,再现了它说它反对的那个世界。
反对AI的另一个选项是投身其中,试着表明它可以是什么。我们需要更多中间地带的人。如果我说“AI是一场时代性断裂”这个提议仅有一定程度的准确性,那么我实在想不出还有什么其他选项。
视频《溢出》(overflow),由Limn AI系统生成,基于一个诱导AI去给一幅模糊图画分类的指令。该视频是AI尝试处理其习得的表征类别的典型范例——它始终无法得出一个稳定的表征,结果是探索对表征的现有分类之外的隐秘空间。(Limn/Noema杂志)
三、居间性与共生起源(symbiogenesis)
加德尔斯:我在想,你的“居间性”论点与布莱斯·阿圭拉·阿卡斯(Blaise Agüeray Arcas)“共生起源”的想法是否存在某种相像?后者认为,演化不仅通过自然选择推进,也通过“共生起源”(彼此独立的实体通过新信息的转输,例如,细菌携带的DNA片段被“复制粘贴”进宿主细胞)结合为一个相互依存的有机整体的相互转化。结果并非非此即彼,而是通过共生(symbiosis)创造出某种新的事物。
李思:我想布莱斯和我一样都受到了美国计算机科学家约瑟夫·利克莱德(Joseph Licklider)1960年发表的《人机共生》(Man-Computer Symbiosis)一文影响。
该文开篇如此写道:
无花果树仅靠榕小蜂授粉。这种昆虫的幼虫栖息在无花果树的子房中,并从中取食。无花果树和榕小蜂因而存在高度的相互依赖关系:没了蜂,树便无法繁衍;离了树,蜂便无食可觅;二者共同构成的不仅是一种为存活的关系,更是一种建设性的、兴盛的合伙关系。这种两个不同的有机体之间以密切的关联,甚至以亲密的结合共同生活,被称为“共生”。
利克莱德接着写道:“眼下(1960年)还不存在人机之间的共生。本文旨在提出这一概念,以期通过以下途径推动其发展:分析人机交互中的某些问题,表明人机工程的适用原理、指出亟待攻克的几个问题。希望在不久的将来,人脑与计算机能实现非常紧密的耦合,从而实现这样一种‘伙伴关系’:思人脑之未能所思,以当今(当时)已知的任何信息处理机器所未能企及的方式处理数据。”
共生意味着什么?它意味着一个有机体,如果不和从属于另一个物种的有机体一起,就无法生存。更具体地说,意味着一个有机体依赖另一个有机体所执行的功能。用更哲学的话说,共生意味着在两者之间存在着一种不可区分性(indistinguishability)。说不清一个有机体止于何处,而另一个(或多个)有机体又始于何处。
可否设想,未来,这种相互依存的关系会出现在人类与AI之间?
传统的回答是绝无可能。旧有的信念认为:人类从属于自然,更准确地说,生物——能自我繁殖的活的东西;而另一方面,计算机则从属于完全不同的本体论范畴——人造物的范畴,是纯粹技术性的。它们并不生长,它们被制造与组装。它们既无生命,亦无“存在”。
依照这种传统思路,“共生”仅在自然领域、有生命的事物之间才可能。依照这种思路,不可能有人机共生。
我认为利克莱德想说的还有将人类纳入机器概念的意思,或许类似“赛博格”(cyborg)。而既然人类据说不止于或不同于机器,这就会意味着使我们之为人类的、将我们区别于机器的东西将不复存在。
但正如我们讨论过的,AI使得这个旧有的、传统现代的对“生命体/人类”与“无生命机器/物”之间的区分不足为证。
AI带我们进入了一片超出这些古旧区分的新疆域。一旦你踏入这片领域,你就能看到像AI这样的“物”,也可以拥有能动性、创造力、知识、语言和理解力,却既非生物也非人类。
也就是说,AI为我们提供了一个重新体验世界、重新思考我们迄今如何组织世间万物的方式,以及我们赋予它们范畴的契机。
但问题在于:在刚刚刻画的那种不可区分性意义上的人机共生,在这个崭新且与日俱新的领域(中间地带)是否可能?
我认为是可能的。而且我对此充满期待。有点像利克莱德,我憧憬着一种“伙伴关系”,使我们得以“思人脑之未能所思,以当今已知的任何信息处理机器所未能企及的方式处理数据”。
当和AI一起,我们可以思我们之不可思,而AI则可以以其单独所不能的方式处理数据,便不再有人能在人类与AI之间划清界限。我们也便有了不可区分性,有了共生。
需要补充的是,我还有利克莱德所描述的并非人类对AI的逐渐依赖——将所有思考与决策外包给AI,直到我们几乎不再能独自思考和决策。
恰恰相反。我在描绘一种人类智识最大限度的好奇的情境。在这种状态下,“成为人”就是超越人之所是。人与AI之间的认知界限得以有意义地消弥。
从本体论意义上来看,这与真菌和树木之间的关系有区别吗?
它们的关系本质上是一种通信(communication),在其中二者共同认知,任何一方都无法生产与处理交换的信息。真正的信息处理(认知)发生在二者的交互界面,这就叫“共生”。
人机共生与菌树共生在本体论上的差别是什么呢,如果有的话?我看不到任何不同。
加德尔斯:这种无机与有机智能的共生,或许真的会生发出本杰明·布拉顿(Benjamin Bratton)所说的“行星智慧”(planetary sapience):AI帮助我们更好地理解自然系统,并与之协调。
李思:倘若我们把AI接入菌树的共生会怎样?AI可以读取、破译真菌—树木—土壤网络中的化学和电信号。这些信号包含了有关生态系统健康、养分流动、应激反应的信息。也就是说,AI能够使得菌树之间的通信对于人类是实时、可理解的。
人类由此将理解一些事——或许还能提问,从而与之交流——脱离AI,我们根本无法以其他方式做到。而与此同时,我们可以帮AI提出对的问题,并以它自身无法实现的方式处理信息。
现在,让我们放宽视野:万一AI能将我们与那些没有AI就无从认知的宏观行星系统连接起来呢?更进一步说,万一AI成为某种自我监测的行星系统,而我们直接接入其中,又会怎样?如布拉顿所言:“只有当智能成为人工的,突破生物有机体的局限,达到宏观、分布式系统的尺度时,我们才能对我们所栖居的行星系统有所认知。”
或许是以这样一种方式:正如DNA是我们所知的最好的信息存储,AI所依赖的部分信息存储和计算功能实际上也可以由菌根来完成?
如果真是这样,我迫不及待地想要这样一个全地球的共生状态,并成为这种形式的互相通信中的一分子。
加德尔斯:引导我们走向人与智能机器共生、由此打开AI以前所未有的方式拓展人类经验的可能,紧接下来的第一步是什么?
李思:我们的时代是一个哲学研究当真紧要的时代。我的意思是,真的、真的很要紧。
就如我们在这场对话中阐发的那样——我们生活在一个哲学上断裂的时代。世界已经变得让我们一直以来赖以生存的概念不再合用。
对一些人而言,这令人振奋;但对很多人来说却并非如此。这种不安和困惑是广泛而切实的。
历史若可堪为鉴,我们可以推定,政治动荡必将发生,随之而来的深远后果可能包括独裁强人力图固守旧秩序。
避免此类可悲后果的途径之一,是去从事能够产出新概念的哲学工作,这些新概念能让我们另辟蹊径,突围而出。
不过,所需的这类哲学工作无法在孤绝的象牙塔中完成。我们需要在AI实验室和公司中“亲历实践”的哲学家,需要能与工程师并肩合作、共同发现AI为我们提供的全新思维与体验方式的哲学家。
我梦想的是:能在哲学的概念研究、AI工程和产品制作的交叉地带开展实验的哲学研发实验室。
加德尔斯:你能举个具体的实例吗?
李思:我认为我们生活在一个空前的时代,因此举例并不容易。不过还是有一个重要的先例,那就是包豪斯学派(Bauhaus School)。
1919年,瓦尔特·格罗皮乌斯(Walter Gropius)创立包豪斯时,当时有许多德国知识分子对工业时代持强烈的怀疑态度。格罗皮乌斯却没有,他感受到玻璃、钢铁、混凝土等新材料为19世纪带来一场概念断裂的可能性。
因此他力排众议,主张探索这些新材料,创造能将人们从19世纪带入20世纪的形式和产品,是建筑师和艺术家的使命。
今天,我们需要像包豪斯一样的东西——但聚焦在AI上。
我们需要能让我们以真正的实验哲学来探索和实践AI的哲学研发实验室。
尽管数以亿计的资金正涌入AI的诸多不同的方面,但鲜有投入用于帮助我们发掘、发明当今世界的新概念——人类的新语汇的哲学工作。由布拉顿领衔的、博古睿研究院的Antikythera项目是少有的例外。
哲学研发实验室不会凭空出现。如果我们不做出战略性的投资,就不会有新的引导性的哲学或哲学理念。
当新概念缺位时,无论公众还是工程师,都只能沿用旧概念去理解新事物。由于这种方法行不通,未来数十年将充满动荡。
田天增译,马健、张畅校。Noema授权发布。