专访戴锦华：我质疑技术乐观主义，马斯克叫停AI非常滑稽

知名学者戴锦华，1959年生于北京，北京大学中文系教授、博士生导师。（受访者供图/图）

2023年4、5月间，B站上以AI孙燕姿为名仿真翻唱的许多流行歌曲迅速走红，包括周杰伦的《发如雪》《爱在西元前》、王杰的《一场游戏一场梦》、万能青年旅店的《杀死那个石家庄人》。网友戏称：“一首歌没唱的孙燕姿，竟然占据了华语歌坛半壁江山”。

5月22日，孙燕姿对AI做出回应：“无论是ChatGPT还是Al或者你想叫它什么名字，这个‘东西’现在能够通过处理海量的信息，同时以最连贯的方式拼接组合手头的任务，来模仿或创造出独特而复杂的内容。等一下，人类不就是这样做的吗？……讽刺的是，人类无法超越它已指日可待。没有人可以接触到如此大量的信息并做出恰当的抉择或犯下恰当的错误（OK，也许我领先一步了）。这种新技术将能够大量炮制每个人所需的一切。无论你多么小众、多么反常或者精神多么错乱，都可能有专门为你创建的独特内容。你并不特别，你已经是可预测的，而且不幸你也是可定制的。”

【资料图】

而在3月底，包括特斯拉创始人马斯克在内的多位科技界知名人士签署了一封公开信，称希望世界领先的人工智能实验室暂停开发6个月，因为最近的人工智能进展“对人类社会造成了潜在威胁”。

信中写道：“先进的人工智能可能是地球史上浓墨重彩的一笔，我们应该规划和管理它。不幸的是，这种高级别的规划和管理并没有发生，导致近几个月世界顶级的人工智能实验室陷入了一场失控的‘比拼’。研究者只顾着开发和部署更强大的数字思维，但他们自己可能都无法预判人工智能的未来走向，更不能可靠地控制人工智能。”

作为一个AI研发工程的深度参与者，马斯克的公开信引起了轩然大波。这封信的发布时间，正好是在马斯克创立的人工智能研究公司OpenAI发布ChatGPT最新版本GPT-4两周后。

早在六年前AlphaGo横空出世之时，北京大学教授、知名学者戴锦华就用“临渊回眸”来形容人类的处境。她指出，这一轮以人工智能、数码转型为代表的新技术革命，我们“完全未经抵抗，几乎未经讨论”。

面对2023年更加来势汹汹的AI浪潮，戴锦华会做出怎样的“诊断”？近日，南方周末记者在北京大学对她进行了专访。

采访结束后，戴锦华来到了北大课堂，这天下午，她讲完了本学期最后一次中国电影史课程。戴锦华向学生致歉，因为太忙，她还是没能准备PPT。尽管她以十分古典的方式，仅靠滔滔不绝的语言成为教室的焦点，但环绕着她的，仍是各种先进的电子设备。南方周末记者向戴锦华展示了录音笔上的标语“听见AI的声音”，她不解地皱了皱眉头。

近来，以AI孙燕姿为名仿真翻唱的许多流行歌曲迅速走红，“AI孙燕姿”成为顶流，歌手孙燕姿对此做出了长文回应。（视觉中国/图）

流行文化会最早受到AI的冲击

南方周末：你怎么看待AI孙燕姿成为流行文化的热门？

戴锦华：我觉得这实际上只是冰山一角，可能AI最直接冲击的就是大众流行文化的观念。因为流行文化工业的特征就是类型化，类型化可以复制再生产，而AI应该是可以胜任的。类型就在于重复和变奏，AI一定会比任何一个制作者都掌握更完备的资料库。比如说，西部片、惊悚片，很难有人看尽，对吧？但AI就可以看尽，这也就意味着它熟悉所有的套路。理想的状态之下，它能做出最巧妙的变动。那么在这个意义上说，流行文化的生产者会最早、最直接地受到冲击。

我们原来所说的，尽人皆知又很难定义的原创性，仍然是人类的特征。但AI作为一种硅基生命，通过自主学习、自主成长，能不能成长出所谓的原创性？我觉得是完全可能的。可是，我仍然认为人性的特征就在于：它不可测量，不可描述，不可限定。

所以我不认为AI能够自主生产出人性，它大概会在理性和智慧的意义上走得很远，但是我不认为它能够复制人类所有的荒诞、所有的不可捉摸和差异。

而且我也认识到，至少这一次ChatGPT体现出的批判性思维很少。那种证实和提供合法性、复制再生产的东西可能会最直接地受到冲击。而批判性的思考，不管多么发达、高超的人工智能，都暂时无法替代。

不久前我在社科院做演讲，孙歌（中国社会科学院文学研究所研究员）做我的回应人，她认为威胁在于，AI开始生产出一种感情，而人类反过来会被它们生产出的感情所简化，危险在这里。

南方周末：在AI孙燕姿登场之前，AI换脸技术已经被用于诈骗、色情制品，是否可以说，AI已经取消了人的特征的真实性？

戴锦华：面对这一轮人工智能的变革，我感到未知和无知。而你说的这种情况，正是未知、无知和危险性的一个小侧面。我们既有的法律、法规、意识、观念都不能覆盖这些新现象，目前任何一种制衡性的力量都没有登场，这是很恐怖的。另外，这种现实看上去很新，其实一点也不新，你可以顶着一张别人的脸，这样的事情，至少1994年的电影《阿甘正传》已经清晰地在我们面前展现出来了。所有关于主体的辨识，关于自我的确认，早已被动摇了。

南方周末：不久前，美国语言学家乔姆斯基发表了文章《ChatGPT的虚假承诺》，称ChatGPT的使用会降低人类的科学水平和道德水平，他说：“如此多的钱和注意力竟然被集中在这么小的东西上，这既是喜剧又是悲剧；与人类的大脑相比，这个东西是如此微不足道，用威廉·冯·洪堡的话说，人类的大脑通过语言，可以‘无限地利用有限的手段’创造出具有普遍影响力的思想和理论。”你怎么看待他的观点？

戴锦华：我大致上可以认同乔姆斯基的回答。但总体上来说，他仍然在延续资本主义批判的基本路径，好像问题变成了太阳底下没有新鲜事。如果思路放在太高的层面上，具体的问题就消失了，所以我觉得在太阳底下没有新鲜事的前提下，还是要讨论新的冲击和挑战是什么，否则就无法真正去处理急剧发生的改变。

南方周末：ChatGPT同样冲击了学术的原创性，如果学生交的论文是ChatGPT写的，你会怎么处理？

戴锦华：这个问题一直都存在，现在可能面对一个ChatGPT生成的作业，以前也有通过互联网检索获得的文本，或者付费请人代写的文本。其实齐泽克已经替我回答了：如果学生用ChatGPT做作业，我就用ChatGPT打分。当然，这是个狡猾的回答，我还是要学会去分辨，尽管分辨哪个文章是ChatGPT写的很困难。但确实我已经看到AI生产的论文不低于我们的一般水平，所以我觉得它可能会因为做得太好、没有破绽而被我认出来。

2023年3月，埃隆·马斯克（左）和一群人工智能专家、行业高管签署了一封联名公开信，呼吁暂停开发比GPT-4更强大的系统，暂停6个月，并指出对社会和人类存在潜在风险。（视觉中国/图）

马斯克按下暂停键的时间就有点可笑

南方周末：在大约六七年前，AlphaGo战胜了人类顶尖围棋选手的时候，你说这一轮新技术革命“完全未经抵抗，几乎未经讨论”，现在这一状况有什么改变吗？

戴锦华：现在看，更加触目惊心。AlphaGo出现的时候，其实很少有人讨论到，它已经不再是我们原来所说的计算机，某种程度上它构成了硅基智慧生命。而当时我以为我们有一个共识，就是说人工智能已经发展到这个程度，显然相对于人类来说，它更高更快更强，而且不是一点半点的更高更快更强。我以为大家公认的底线就是，我们要极端慎重地对待它的通用化，只能把它用于专项，让它去下围棋，看病历，让它去做比如说某一项高度专业化的咨询业务。

但实际上，完全没有讨论，连任何的风声都没有，人工智能已经通用化了。通用化就意味着最朴素的意义上说，它全面进入了人类的生产和生活，而且可能构成对人类劳动力结构的一个巨大的冲击和改变。

而事实上，它可能参与人类社会事务的方方面面，将造成什么冲击和影响？反正是完全在我的想象力之外，在我的认知力之外。这一点好像马斯克也没有提起，没有任何人提及，我们已经直接面对了AI对于人类社会的全面冲击，而没有什么条件。

好像大家只是热衷于ChatGPT做的Midjourney（一款流行的AI绘画工具）成为了一个新玩具，热衷于这个玩具、游戏，在调教它，而完全没有考虑到可想而知的冲击。比如说它对于我们此前整个的教育体制、教育理念、教育方式、教师结构造成的影响，它对于所有之前具有成熟模板的这种重复性劳动的职业和行当的冲击。

我大概最近的公共演讲都是从马斯克的公开信切入，他提出AI可能对人类造成的冲击和威胁，让我们怀疑，应该由你来说这句话吗？由他来提出警告，非常滑稽。而最滑稽的是由他来呼吁各国政府制定法律法规。这封信所针对的就是ChatGPT-4，而GPT-4其实只是一个应用软件，是这一轮技术应用的冰山一角。

南方周末：为什么马斯克的公开信和警告是滑稽的？

戴锦华：看上去他是第一次喊停，那么首先他按下暂停键的时间就有点可笑，6个月够干什么？他要求停止6个月。其次我们不需要做太多功课就可以知道，这是一轮极端激烈的商战的展开，是一个资本的和生产的重新布局，毫无疑问的一轮大厮杀。

马斯克显然是因为某种意义的劣势状态而站出来喊停，他要争夺市场和利润空间，当然可能也包含争夺未来的主导权。我觉得特别好玩的是，甚至已经明显遭到了这一轮技术应用冲击的行业当中，还是有很多人在说，我们不要惧怕技术进步，技术进步会带来更多的便利，我觉得他们很勇敢，富于牺牲精神，他们完全不在意自己可能毕生的工作方式和生活方式都将被改变。

所以我真的没有什么新的结论，从我们讨论AlphaGo的时候到现在，我只是觉得当时所观察到的局面，今天更酷烈，或者更严重了。当时我们希望引发讨论，但是现在好像已经太晚了。

南方周末：以色列的学者赫拉利在《人类简史》《未来简史》里有一个比较悲观的预测，就是将来这些人工智能和生物学革命的成果可能被极少数精英掌握。你也提到过大多数人可能会成为“结构性弃民”。

戴锦华：我只是那次在网上偶然地读到，谷歌的高级顾问接受访问，记者问他，你认为现在世界上最重要的问题是什么？他说，当然像任何一次技术革命一样，就是发生了技术革命以后，人类社会要消化剩余劳动力。然后记者就问，你认为这一次创造的剩余劳动力的比例有多高？他回答98%。98%，然后如何消化它？我们怎么办？他的回答是：争当2%。太可怕了，当时真的是不知道要骂人还是要发抖，看到这种回答。

我觉得精英是个很抽象的字眼，它可能是政治精英，可能是经济精英，可能是文化精英。而这一次所谓的精英，完全是由他拥有的可运营的资本数额决定的，就像马斯克所代表的这样，看上去好像他是个科学狂人，其实他所有科学狂人的计划都使他在疫情期间晋升到了全球首富的位置。

“结构性的弃民”也许会变得不可见，但是不会消失，对吧？他们具有真实的存在感，然后他们的生存困境，他们为了能够挣扎求生的这种努力，最终将闯入你自足的生活。那么，由科技、资本、精英，由极少数的2%来统治的这个社会，对多数人造成剥夺，它仍然要面临整个现代化、现代性的规划，它承诺我们的这样一个最后将带给多数人的现代性，将彻底破产，是的，不光是一个神话的破产，而且是整个社会现实和结构的破产。当这一切发生的时候，可能和替代是什么？我真的不知道，所以近来我不断地说，我最强烈的感觉不仅是无力，而且是无知，在这么大的一个围困之下的无力，同时对我来说更大的一个问题是无知，我们怎么去应对它，我们将面临的东西是什么？

因为我们一边在这说马斯克这样的精英，另外一边我的观察是，资本的主导是如此地强大和清晰，以致我用了一个说法，资本已经开始吞噬资本家了，对，资本已经开始抹除资本家了。因为现在资本无需人格化。在这样的情况下，我面对的是什么？我的敌人是什么？我在什么意义上是可能和它去相遇或者拼死一搏，我完全不知道，这种无知感对我来说才是一个特别大的问题。但是我觉得，承认无知是我的开始，承认无知就是意味着我不试图用以前的方法、知识、路径去应对，不要以为以前我们攒了一堆好东西，而是重新开始思考，从思考到寻找，看看有怎样的认知，会打开一些完全被无知所遮蔽的东西，同时去思考我们能做什么。

如果人人都是艺术家，谁是观众？

南方周末：2%和98%的区隔，背景是大卫·哈维所描述的新自由主义和金融资本主义的内生性矛盾。技术革命创造的大量闲暇，有可能让更多人去创造、享受文学、艺术和娱乐吗？

戴锦华：大幅度的分配制度的调整，很难在一个社会秩序内部顺利地完成，因为你要对财富分配的方式做出如此大的调整，一定意味着很多的获益者和获益集团会受到损害，所以它不会顺滑、轻松地发生。我们再退一步，假定说可以通过全球的一个协商和调整，达成这样一个社会保障制度，以便让人类当中高比例的人可以不参与社会生产，同时还能够有基本的社会保障。那我们还要面对一个非常形而下的问题，并不是所有的人都是艺术家。对于许多人来说，文学艺术可能并不构成诱惑和快乐。

人是千差万别的，可能有人就渴望服务于社会，有人就渴望进入到物质劳动的生产当中，那么在这种情况下，你需要应对的就不仅仅是最低收入保障了，假定你能保障他们的情况下，又怎么去进行精神的安置？

提供这样多元的生产方式、生活方式，真的是一个对于社会结构的大的安排。我觉得所有这些考虑都真实，所有这些考虑都奢侈，是因为这一轮技术革命丝毫没有改变现代主义的文化逻辑、生产逻辑、社会逻辑。换句话说它仍然是高耗能的。

人们热情洋溢地讨论元宇宙的时候，我说大概在电影中，元宇宙最真切的形式就是《头号玩家》了。实际上所有的包含资本、经营者，他们的想象也没有超出《头号玩家》。但是大家好像都忽略了，《头号玩家》电影一开篇，它的前提就是一场大灾难已然发生了，那么这场大灾难的结果，一个是人口的大幅的消减，一个就是巨型贫民窟的形成。元宇宙就是为了配合巨型贫民窟的生存而出现的一种装置。那么我们今天的这种技术应用，真的将惠及所有的人，然后它实际的在生产生活中的应用是可持续吗？

南方周末：近几年流媒体平台、短视频平台，它已经展现了一个图景，很多有闲暇的人去做直播，做才艺展示，甚至就拍一些日常的生活片段，它的用户可能比较多来自小城镇或者农村，其实也是一种内容生产，或者展示了一个更丰富的世界。但是另一方面，这个世界又是通过屏幕的形式提供给我们的，大家的闲暇时间也是以媒介化的方式来填充的。你怎么看待这一现象？

戴锦华：这就是我们整体的技术乐观主义的一个证据，因为毫无疑问，网络在它硬件结构当中，真的提供了社会民主化的可能性。但在实践层面，却是背道而驰的。因为这种硬件结构，你就看到了农村的、小城镇的，比如有创意、有才艺、有想法的这些年轻人，他们可能也就获得了一种有趣的生计。

我质疑技术乐观主义的一个问题，就是这种硬件条件，确实可能让比如说一个卖鱼的大哥或者是一个村里的孩子，经由直播变成网红被大家所看到。大概50年前的预言就是每个人都有机会当5分钟明星，那时候我们觉得这怎么可能，现在我们知道确实可能。但其实它只是给了不同阶层、不同空间当中这些古灵精怪、富于创意，甚至是有被压抑的艺术才能的人，原本因为社会资源分配不平等，没机会展示的，获得了展示的机会。

另外一个层面是，所谓新媒介，一个非常突出的特征就是它出现之际，最年轻、最有学习能力的人，才是最善于使用它的，可能比如你正好大了5岁，就赶不上这一茬了。那么这个时候你会看到，它其实是一个非常短暂的相遇的时候，一些人可以有机会利用它自我显影。我们看直播或者短视频，好像新的大众性或者新的民主性的体现，其实我们忽略掉了，这种大众性其实是被限定的一个小众。刚好和新媒介相遇，刚好特别善于使用这个新媒体，刚好特别有才艺的人群，在我们的人口基数上面可能比例是极低的。

就算经由普及，最后越来越多人会用新媒体，越来越多人会玩了，越来越多的人可以展示才艺了，那么这时候面临的问题就是，如果人人都是艺术家，谁是观众？假定我们每个人都有一个特别有趣的直播，我们用什么时间来看别人的。

南方周末：可以互为观众吗？

戴锦华：互为观众，好，这种可能性是存在的。但是在这个时候，就变成了我可能跟你互为观众，但是你只有我这一个观众，因为另外的观众跟另外的人去互为观众。那么它就不构成我们原来所说的创造、流通和某一种生存方式。它真的成为人人都会使用、人人都在使用的媒介的时候，媒介的意义到底在哪里？

当我们说自媒体的时候，我们还是说有一些是自媒体人，有一些人其实是受众，而不是说我们所有人都成为自媒体人。当我们所有人都成为自媒体人的时候，我们面临的它还是传播媒介吗？这个地方我不是在做结论，而是说我无知，到那时候我们就全部得重新来过了，我们要定义这到底是什么东西，这个社会将怎么组织。

墨西哥导演托罗说，我们人类陷入了前所未有的认识的危机，就是因为你每分钟看到的都是一致的，每分钟都有人出来说你做得对，然后有一个人说你说得不对的时候，你一脚就把他踢飞了，就让他从你的网络视野当中消失了。

我觉得以承认我们无知为开始，另外一个非常重要的原因就在于，现在网络结构让我们太“已知”了，在一定范围内，它创造了一个抱团取暖、党同伐异、同气相求的结构，把异类完全从视野当中排除。

抵抗的意义在于赢得讨论的时间

南方周末：谈到技术乐观主义，2014年的美国纪录片《互联网之子》讲述了一个叫亚伦·斯沃茨的IT天才的悲剧故事，他曾经想创造一个开源的、知识共享的网络空间，却被知识垄断付费的公司通过法律手段一直骚扰、施压，最后亚伦在重压之下自杀了。是否可以说，互联网曾经许诺的乌托邦已经破灭了？

戴锦华：其实这些年来，在我的文科视野当中，我都可以比较清晰地看待互联网曾经携带的理想和曾经召唤出来理想快速的增长，一个接一个的，本来人们就是说互联网是知识民主的，我们可以自主学习，而我们的自主学习和知识民主的前提，是建立在资料库的完备、开放或者叫免费支撑的，对吧？然后就是我们眼见的收费制度的确立，另外一个形态的垄断的形成。

曾经比特币出现的时候，它使得全球另类货币的实践者都感到兴奋，说我们终于有一种可以脱离资本、脱离既有金融系统的一个新的经济实践的可能性。然后局域网出现的时候，人们以为它可以作为一个去中心化的工具，打开社会实践空间。现在比特币已经完全纳入了全球资本的网络。

而同时我特别清楚地看到，当以元宇宙为名的新的资本介入跟整合开始形成的时候，所有这些东西都被吞噬在里面。你会看到关于互联网的曾经的这些梦想，是怎么在资本的主导当中快速地破灭。

南方周末：当二战后电视普及、广告业兴起的时候，居伊·德波在批判景观社会；最近这一轮新技术革命，也有韩炳哲这样的学者在观察和反思。知识分子在当下的讨论和批判意义何在？

戴锦华：（面对新技术革命）老有人问我，以前都抵抗了，有用吗？没用的事为什么要做？今天我们所看到的这种抵抗的无效，加速度推进的进程，本身是一个世界性的问题。20世纪包括技术应用、技术进步，其实曾经产生过许多其他的可能性，它和另类社会试验是同时相伴生的。从抵抗的历史来看，抵抗的意义不在于阻止这次进行，而在于赢得一个讨论的时间，让我们至少有所获知，在取得便利的同时，我们付出了怎样的代价，伴随着怎样的丧失。然后丧失是不是你意识到的，是不是你愿意的，是不是你丧失得起的。

从一开始我就觉得，讨论和抵抗的意义就在这儿，而不在于制止和逆转它。技术发明是一回事，技术应用是另一回事。一个技术一旦投入技术应用的时候，意味着在权力结构内部的博弈已经完成了，它已经被背书了。

但是在这个时候犹未为晚，我们去抵抗，去寻找不是完全被它掌控、被它裹挟的可能性，就像我们说不是每个人都是艺术家一样，也不是每个人都适合这样的一个被高科技所包围和服务的宅生活。

南方周末：最近几年，对于在B站这样的平台上亮相，你也持一种很开放的态度。你怎么看待在网络上的知识输出？

戴锦华：一方面是有一连串的偶然，中国式的人际、人情，就卷进去了；另一方面，对我个人来说，我的一生挺饱满丰富的，我心目中最理想的告别这个世界的方法，就是别搞那么矫情、繁琐，一转身就走了，我觉得老冉冉其将至兮，真的不知道哪天也许生命就结束了，我就想能说点就说点，能做点就做点。

结果也许我也掉坑里了，掉自己的坑里了。对于好多外地的孩子，在街上碰上就会对我语无伦次地说一句话，说感谢互联网，会说这辈子也没想到能够听北大老师讲课，这回也听上了北大老师讲课。那种他们的体会是不在我预期之中的，这算是给我一些安慰。同时我采取了一个“不体面”的做法，就是上网之后，我自己也不经营它，也不看弹幕，不答复提问之类的，用这样一个办法，还是把它当做一个传播媒介，而不是一个互动界面。

最早做文化研究的时候，我会分享工人业余教育这样一个理念，最多给打工子弟学校或者农村妇女小组讲课，其实并没能够真正实现业余教育。我对雷蒙·威廉斯的想法很感兴趣，就是说给工人去讲莎士比亚，既不拔高，也不俯就，在大学里的经典课程就拿到工人夜校当中去上，不区别对待。我大概也是这样在B站做节目的。我其实倒也还没有梦想工人、农民去看，就觉得说小城镇的孩子，他们如果看，至少我是在传递一些有趣的知识。

南方周末记者 黎衡

标签：