前沿聚焦｜聂伟、刘姝媛：人工智能科技伦理的影像寓言与现实箴言

在世界科幻电影史中，人工智能一直是银幕叙事的重要题材且始终具有强烈的现实主义指向。20世纪初，工业化进程为第一波对机械化自动机器人的科幻想象奠定了物质基础，并在机器换人的系统性危机中形成了“对机器和机械创造物的怀疑主义倾向”，¹《大都会》（1927）是这一时期“机械威胁论”的典型代表；50年代，“为呼应新的科技普遍应用于消费性产品的现实”，²机器人的故事重新成为主流；八九十年代，随着计算机技术的快速普及，手机、电脑、互联网等技术产物深刻融入人们的日常生活中，成为“人的延伸”，对机器人的想象开始发展出新的主题和新的表现方式，身体、情感、生命、赛博格等新的问题开始加入讨论。³

近一个世纪以来，人工智能题材的科幻电影一直保持着与现实对话、与技术互文的叙事传统。无论GPT-4o的语音助手Sky配置了类似电影《她》（She，2013）中人工智能系统萨曼莎的声音还是科幻作家艾萨克·阿西莫夫（Isaac Asimov）提出的“机器人三大定律”正在成为现实AI技术发展的“紧箍咒”，它们都表明了人工智能电影是一种“开放性的电影”，“可以和技术开展真正的互动……科幻电影的奇点预测和复杂性转换已经影响并参与人工智能技术的发展”。⁴

如今，科幻电影中的那些近未来想象正在一步步照进现实，科幻电影和现实技术的互动互证从未像今日这般密切，科幻电影对人工智能的文化忧虑由虚向实演变为现实世界中的伦理关切，人工智能的科技伦理问题变得尤为迫切。2023年11月，全球最受瞩目的人工智能初创公司OpenAI爆发了一场举世瞩目的“宫斗戏”，其中首席执行官代表的“有效加速派”与首席科学家领导的“超级对齐派”之间的路线之争本质上是人工智能发展的科技伦理问题：在建构人工智能的过程中，应该加速实现通用人工智能以造福人类还是要更注重伦理安全隐患，即“加速”还是“对齐”？这场颇具魔幻现实主义的宫斗戏码就像一部进程过半的科幻电影，两种观点背后是两套不同的价值观念系统，在许多以人工智能为题材的科幻电影中它们已来回“过招”数次。站在“加速”与“对齐”的选择岔路口，以科幻电影为棱镜，得以更为生动地理解OpenAI“宫斗戏”提出的重要命题，并且从这场“政变”的失败中更加清醒地认识到如今人工智能发展的资本主义框架及其潜在风险，并在当下烈火烹油似的AI狂热中冷静思考人工智能的“快”与“慢”。

2024年5月13日，全球最受瞩目的人工智能初创公司OpenAI于春季发布会上发布了最新多模态交互模型GPT-4o（“o”代表“omni”，全能的），再次将人工智能技术推向全新高度。然而，就在新模型发布的第二天，原OpenAI首席科学家、联合创始人伊利亚·苏茨克维（Ilya Sutskever）宣布离职；紧随其后，另一位重量级人物简·莱克（Jan Leike）也在同一天宣布离开。值得一提的是，伊利亚和简均是OpenAI“超级对齐”团队的主要领导者，该团队计划配置20%的算力来引导和控制比人类更聪明的超级人工智能系统，确保其遵循人类的价值观和目标，⁵避免发生科幻电影中那些因AI意识觉醒而造成的世界末日景观。两位重要领导者的离开再次引发“宫斗”之论调，续接2023年11月OpenAI上演的“权力的游戏”，被媒体喻为“宫斗戏”第二幕。伊利亚和简的离开并非个例，2024年，OpenAI安全团队的核心成员流失严重。⁶

事实上，OpenAI内部分歧由来已久。2015年12月，由于担心商业公司谷歌（Google）成为人工智能研究领域的主导者，埃隆·马斯克（Elon Reeve Musk）与山姆·奥特曼（Sam Altman）联合其他四位联合创始人建立了一个非营利性的人工智能实验室OpenAI并以投资者的捐款作为启动资金，旨在构建安全有益的人工智能，确保人工智能技术能够造福全人类，而不是被少数几个公司或个人所垄断（故而将其命名为“Open”AI）。然而，随着人工智能训练对算力能级提出越来越高的要求，仅靠捐款已经无法匹配核心研究所需的计算能力和人才成本，因此OpenAI在2019年设计了一种独特的组织架构来平衡非营利组织的普惠使命与达成使命过程中的资金压力。⁷无论是在OpenAI的官网介绍中，还是在奥特曼一直以来的公众讲话中，这样一种独特的组织架构都是OpenAI自证其会以安全负责的态度推进AGI的证据。但是，随后的实践证明这种组织架构或许能解决现实发展困境，却无法成为理想主义的护城河，形式上的权力很有可能在现实中被架空。

自2022年以来，OpenAI一直处于人工智能研究领域的领先身位，不断加快的迭代速度与加速扩张的商业化规模逐渐在OpenAI内部引发异议，并分化出“有效加速派”与“超级对齐派”两个派系，两者的关键分歧在于如何评估处理AGI发展过程中伴生的安全风险。以奥特曼为代表的“有效加速派”秉持技术乐观主义，激进拓展商业化的规模，加速谋求AGI的实现以造福全人类；以伊利亚为代表的“超级对齐派”持更谨慎的态度，认为AGI不同于以往人类创造的任何东西，先发展后治理的传统路径很有可能无法奏效，必须正确地对其进行编程来引导和控制这些可能比人类更聪明的系统，确保其目标和人类的目标保持一致。⁹但近两年奥特曼愈发激进的商业化部署让两者的理念冲突终于到达临界点，并在2023年11月那场举世瞩目的戏剧性“政变”中进入矛盾冲突的高潮。这场为期104小时的“政变”如科幻电影一样，本身充满意料之外的反转突变和戏剧性极强的跌宕起伏，同时有着暗流涌动的前传叙事和余韵悠长的续集效应。先是首席科学家伊利亚·苏茨克维联合董事会其他成员解雇了首席执行官山姆·奥特曼，同时将另一位联合创始人、总裁格雷格·布罗克曼（Greg Brockman）逐出董事会；而后传出奥特曼与OpenAI谈判失败即将携格雷格转投微软另立山头的消息；最终剧情峰回路转，奥特曼与格雷格在资本与民心的拥护下重新夺回“铁王座”并借机整顿董事会，成为这场“权力的游戏”最后的赢家，而政变发起人伊利亚及其他董事会成员却在多方质疑中铩羽而归、落寞退场；2024年多位安全专家的集体出走更像是大局落定后的秋后清算，将这场轰轰烈烈的“宫斗戏”推到了尾声。目前，OpenAI原超级对齐团队已名存实亡，伊利亚于2024年6月20日宣布正在创立一家新公司SSI（Safe Super intelligence inc，安全超级智能）；与此同时，奥特曼也在加速扩张商业版图。2024年10月2日，OpenAI在官网宣布获得66亿美元的新一轮融资，融资后的OpenAI将以1570亿美元的估值成为AI领域的超级独角兽。¹⁰可见，“有效加速派”与“超级对齐派”的路线之争还将继续，只是从OpenAI内部转向了外部。

“宫斗戏”终将落幕，但针对AI安全问题的讨论正值序幕。当一个以“确保通用人工智能造福全人类”为使命的非营利性组织正在不断深化商业化进程，频繁陷入安全风险、伦理争议时，其对技术安全的强调似乎更多服务于CEO在全球巡回演讲时的包装话术；当OpenAI引以为傲的组织架构在这场“政变”实践中沦为虚设，为自我监督而设的董事会权力被实践证明不过是一纸空文，起初为对抗谷歌在AI领域的主导地位而创立的OpenAI所秉持的独立性与开放性的精神愿景如今似乎只能从其组织名称中窥见一二；在这场跌宕起伏的“宫斗戏”中，资本的代表微软隔岸观火坐享渔翁之利，成为这场“权游”中的真正赢家，或许“真正的危机并非在于技术本身，而是在于资本主义追求有效加速主义的底座”。¹¹

“电影在现代性来临之后愈加突出了它之于现实的镜像意义。”¹²在许多科幻电影的人工智能叙事中普遍存在“对齐”与“加速”这一对矛盾冲突关系，两者代表着两种科技伦理观，表现为对人工智能的两种态度：一种是倡导“加速”的激进派，他们往往以非理性的资本扩张为动机，资本的逐利本质驱使其不惜冒着巨大风险推动前沿技术的突破与应用，与现实中奥特曼领导的OpenAI发展战略形成呼应；另一种则是秉持“对齐”原则的保守派，他们更多以科学家的身份出现，为人工智能失控的科学叙事提供专业背书，对人工智能既敬畏又恐惧，始终担心技术滥用与奇点到来的潜在风险，并试图通过揭露真相和警示公众来制约技术的无序发展，在影片中充当着“吹哨人”的作用。恰如“宫斗”正酣之时，马斯克在X上表示：“伊利亚一定是被什么东西吓到了才会出此下策，所以他到底看到了什么？”¹³

2023年3月，1000多名企业家、科学家、AI从业者联名发表公开信，认为当前愈演愈烈的人工智能军备竞赛将导致没有人能够确保“更强大的数字思维”能够被理解、预测或可靠地控制，呼吁所有人工智能实验室立即暂停训练比GPT4更强大的人工智能系统至少6个月。¹⁴结果显而易见，在这场未来争夺赛中无人敢近忧远虑、屈居人后，吹哨人的警告丝毫无法阻挡人工智能加速的进程。自2024年2月Sora发布以来，人工智能进入史上最密集的进展发布期，国内外无数头部企业、初创公司纷纷入局，AI发展的飞轮效应开始凸显，并从最初的理论范式探索、基础模型演绎逐渐落地到更具场景化、个性化以及日常化的产品形态，现实生活越来越具有科幻感。然而，“将人工智能描述为无私的科学研究的结果是幼稚的。机器智能不仅是技术逻辑的产物，同时也是社会逻辑的产物，是生产剩余价值的逻辑。资本主义是这些技术和社会逻辑的融合，而人工智能是其计算与商品化融合的最新表现。”¹⁵银幕内外，人工智能的“加速”叙事均受到资本主义的强烈影响。

当前，全球的人工智能研发基本还是在资本主义的逻辑框架下进行的，即使是以独特组织架构闻名的OpenAI也概莫能外。2022年具有跨时代意义的AIGC产品ChatGPT的发布事后被证实是一次勉为其难的“赶鸭子上架”，目的是抢先竞争对手Anthropic发布同类产品，让“数据飞轮”尽早转起来，以此收集更多人机互动数据来指导后续开发。OpenAI内部将此次发布行为描述为“一个低调的研究预览”，其实质是一次罔顾产品安全风险、加速抢占市场的资本行为。¹⁶而这并非孤例，据悉，GPT-4o上线前仅留给安全团队9天时间完成安全测试评估。¹⁷资本主义对OpenAI的影响始终萦绕在侧，奥特曼领导下的巨大商业成功事实上在全球奠定了其AI领域精神领袖般的地位，以人民的名义成为OpenAI的事实领导者，一场名义上的“政变”显然难以撼动其长期贯彻的加速商业化战略。而在OpenAI的“宫斗戏”中，以微软为代表的大资本公司尽管按照OpenAI的组织架构无权干预其内部人事任免，但丝毫不妨碍其通过资本运作与舆论造势敲山震虎，以进可攻退可守的从容姿态成为这场两败俱伤的政变斗争中唯一的得利渔翁。于是，在资本主义一步步的裹挟下，本是非营利性组织的OpenAI逐渐偏离了其初创时的理想主义精神，变成一个估值1570亿美元的营利性公司，并一度传言将完全重组为一家营利性企业。¹⁸

在科幻电影的虚构世界里，人工智能的叙事同样受到营利性企业的驱动，且这些企业普遍表现为具有垄断地位的大型科技公司，公司的技术专利与人类的未来生活息息相关且技术控制权高度集中。《我，机器人》（I, Robot，2004）中的美国机器人公司旨在让智能机器人无缝融入人类社会，成为日常生活的参与者甚至家庭成员；《梅根》（M3GAN，2023）中的丰奇玩具公司聚焦儿童玩具领域，开发高度智能化的玩偶以承担娱乐、教育、陪伴等成长职责，想象了人工智能在教育与成长领域应用的美好前景；而在《机械战警》（RoboCop，2014）、《超能查派》（Chappie，2015）等电影中，奥米公司和特拉华尔公司研制的人工智能机器人被广泛应用于公共安全和军事领域，机器人成为维护社会秩序、保卫民众安全的士兵。这些影片巧妙地将高度抽象的人工智能概念转化为具体可感的产品形态，使其以场景化、个性化和日常化的方式嵌入人类生活的各个角落，将AI的深度学习能力和跨领域认知潜力具象化为触手可及的现实便利，将营利性企业打造为造福全人类的先驱者。

但随着叙事推进，资本逐利的本质逐渐暴露，冠冕堂皇的理想使命背后是资本主义公司开辟新市场、谋求巨大利润的内在野心并由此导向人工智能的“加速”叙事，未来生活的美好愿景则为企业的“加速”策略提供了正当的外交辞令。奥米公司改造“机械战警”是为了废除“机器人禁止法案”进而开辟美国市场，谋取巨额利润；丰奇公司为了在行业竞争中抢得先机，催促科学家珍玛在两周内将人工智能玩偶上市；美国机器人公司的创始人在发现机器人违背了安全协定的前提下为了维持市场信心选择掩人耳目。在资本主义经济体系的框架内，“加速”实现技术突破、抢占市场从而提高利润回报率成为了主导逻辑，“对齐”的安全需求退居其次。

同时，由于知识产权的保护与人工智能立法的滞后性，结合人工智能技术固有的“黑箱”特性，大型科技企业的安全协议制定主要依靠企业自身的节制自律与科研人员的高度自省。这就导致安全协议常常呈现出一种“薛定谔式”的状态——既可以存在又可以不存在，或仅限于理论层面的承诺，而非实际执行层面的严格规范。几乎在所有公开场合，OpenAI的领导团队都不遗余力地强调其致力于研发安全的人工智能。然而，2024年内多名来自该公司安全团队的核心成员相继公开表达了对OpenAI安全体系效能的失望，并联合发布《警告先进AI的权利》公开信，倡议建立匿名监督机制、支持开放的批评文化等，以此强化外部监督，弥补内部自我监督机制的脆弱性。¹⁹简·莱克在社交媒体平台上的系列声明进一步凸显了这一矛盾。他明确指出：“我们本应该把更多的带宽用于下一代模型在安全性、监测管控、前沿风险防范、鲁棒性对抗、超级对齐、保密性、社会影响等方面的准备工作上……然而过去几个月我的团队一直在逆风而行，算力的限制导致我们越来越难以完成这项重要的研究……过去几年，（OpenAI的）安全文化及安全流程已经让位于光鲜亮丽的产品。”²⁰这让人不得不怀疑，OpenAI的安全系统似乎更多成为其商业战略中的一部分，人工智能安全风险评估的重要性和实效性在资本主义的价值序列中被边缘化、形式化。在此，科幻电影之于现实技术发展的镜像意义再次凸显。以《梅根》为例，影片中的科研人员珍玛明知玩具人偶梅根的功能违背了正常的教育观念，却迫于投资压力选择忽略潜在风险，“等董事会同意后再来重新建立平衡”。同样，在《机械战警》中，墨菲的诞生及运用完全遵循公司意志，在一步步改造中，墨菲的感知能力几乎被完全剥夺，成为“自以为是人的机器”，但奥米公司并不关心这是否符合法律规定，只在乎它能够成为政治论辩时的有力证据和增强市场信心的象征符号，并直接将其划归为公司资产拒绝外部探视以防舆论危机。《我，机器人》中的美国机器人公司在宣传广告中将“3 LAWS SAFE”作为对机器人安全性的根本承诺和拓展市场的卖点，但当机器人桑尼有违背安全协议之端倪时公司管理层直接援引立法漏洞与私人财产所有制要求将故障机器人回收处理，同时联合行政机关发布禁言令，禁止泄露相关信息，间接将公众置于潜在的风险中。

尽管上述科幻电影的情境架构稍显极端，但其反映的资本主义逻辑与人工智能发展之间的张力却是值得严肃探讨的议题。一方面，“现时代的所谓技术发展，在很大程度上都是以经济上的赢利为取向的，这是技术史的基本事实之一。”²¹以硅谷巨头为代表的大型科技企业凭借专有知识产权、高昂研究预算、高端人才储备、海量的平台数据及处理器、高速网络带宽以及与政府部门的对话特权等有利条件成为人工智能研发的不二人选，在AI基础大模型突破方面做出了奠基式的贡献。当前，AI行业基本上形成“微软+OpenAI”“Google+DeepMind”“Tesla+xAI”“Meta+MetaAI”“Amazon+Anthropic”的多足鼎立格局，基本都是“行业巨头+初创企业”的配置模式，即使如OpenAI般的理想主义者最后迫于资金压力也不得不抱紧微软这棵大树。另一方面，人工智能的发展方向也由这些大型科技公司来主宰，“他们……决定如何（而不是是否）采用人工智能，以及如何在激烈的自由竞争与谨慎的道德监管以及政策安全网之间取得平衡……这些丰富多彩的企业个性掩盖了一个更为清醒的现实，即这些伟大的人工智能大亨不过是市场计算的抽象力量的化身，他们的目标是实现利润最大化。”²²尤其是在公众对大模型理性祛魅后，各大人工智能企业最终还是要回归到“赚钱”的核心诉求，加速实现垂类产品的突破、应用场景的落地及规模化应用、C端用户增长等更具战略投资价值的商业化动作或许才是最高优先级的KPI，而其言必称安全性的承诺也难免被怀疑是“商战”的一环。分歧由此生发，“如果多个团队之间存在军备竞赛试图首先构建AGI，那么他们将没有足够的时间来确保他们建构的AGI能够深深地关心人类”，²³伊利亚如是说道。人工智能，作为一种在始端依赖持续数据反馈来调整模型参数、实现自我优化的技术，在终端服务于社会福祉的整体提升和人类社会的普惠使命的基础架构，本质上要求一个技术开源互通、知识跨界交流、文化开放共享的合作环境，而这与资本主义的剥削本性与私有财产的根本制度似乎天然相悖。当“加速”与“对齐”对立时，“是否能够想象出超越资本主义之外的新的价值框架并形成共识”²⁴可能是推动两者达到动态平衡的关键问题。2024年12月27日，OpenAI官网发布组织架构调整声明，旨在建立“一个由成功的营利性组织支持的更强大的非营利性组织”，营利性组织主控OpenAI的运营业务，非营利性组织致力于在医疗、教育和科学等领域推进慈善事业，“营利性组织的成功将使非营利性组织能够获得充足的资金、更好的支持，并在完成使命方面处于更有利的地位”。²⁵

此举或许可以被视为OpenAI在“技术加速”与“伦理对齐”的对立中寻求调和处理的“折中之策”。

“加速”与“对齐”是一组动态关系，二者看似对 立、实则相互激发，彼此依存，科幻电影中的“对齐”叙事往往伴随着“加速”叙事及其导向的失控灾难展开。 “科幻电影这一类型一直倾向于表现人类对科学超出我们 的理解能力并最终取代人自身的那种恐惧，‘在那时， 我们不再能控制我们所创造的东西了’。”²⁶OpenAI首 席科学家伊利亚在一次采访中曾预言：“AI将使假新闻的问题严重一百万倍，网络攻击将变得更加极端，我们将拥有完全自动化的人工智能武器，我认为AI有潜力创造无限稳定的独裁政权。”²⁷

“AI教父”杰弗里·辛顿（Geoffrey Hinton）也发出类似的警告：“如果我们创造的东西比我们更聪明，那我们怎么能知道是否控制得住。”²⁸《黑客帝国》（The Matrix，1999）、《终结者》（The Terminator，1984）、《我，机器人》等经典电影通过建构AI独裁政权对抗或统治人类的末日景观已经生动地阐释了这一主题，然而这些电影中的“人工智能技术缺乏清晰的线性推进轨迹，电影的奇点预测是对人工智能技术不确定性的想象，呈现出融合了未来性、终极性和整体性的复杂图景”。²⁹

随着人工智能不断在真实世界中取得开创性的技术突破，科幻电影中的人工智能失控不再仅仅作为“奇点预测的结果形式”³⁰出现，而是在科学叙事的推导和线性演进过程中诞生，人工智能的技术原理、工作特点以及开发过程逐渐融入科幻电影的叙事进程，成为情节建构、动机预设、冲突建置等环节的重要构成元素，如《我，机器人》、《超验骇客》（Transcendence，2014）、《机械姬》（Ex Machina，2015）、《机械战警》、《梅根》、《异星战境》（Atlas，2024）。这些影片聚焦人工智能的研发动机、技术细节、安全争议等问题，通过环环相扣的人工智能开发过程，描述灾难叙事的必然路径，在人工智能的飞轮效应逐渐显现的当下呈现出迫近的现实感和预言性。在现实技术的印证演绎与科学叙事的逻辑推导下，人工智能的失控似乎不仅仅是一种科幻电影对表现“我们不再能控制我们所创造的东西了”的艺术倾向，而更像是对现实世界中技术野蛮生长、自律原则失效，他律法则缺位的影像寓言。

首先，通过展现人工智能系统进行深度学习的自然过程及其借助海量数据库进行自我加速迭代进化的能力，人工智能意识觉醒的奇点时刻不再像一个遥不可及的科幻想象，而是AI进化的一种现实可能性。因此，从自律层面确保这些“生物”的目标与我们的目标保持一致是“对齐”原则之于人类生存的第一要义。以恐怖惊悚片《梅根》为例，该影片全程勾勒了一幅人工智能系统从辅助教育的科技产品逐渐进化为极具破坏性的肆虐机器的灾难图景。影片中的核心角色梅根是丰奇玩具公司科学家珍玛倾力研制的M3自主机器人——一个完全自主操控并能根据外界指令做出即时反应和情感反馈的智能玩具。梅根的最大卖点是她的未来潜能，基于独特的概率推理框架，梅根能在实际运用过程中持续吸收信息来进行自我进化与系统参数校准，实现性能的最大化（其本质就是一个人工智能系统）。最初，凭借自然的交互能力和拟人化的真实体验，梅根迅速取得了遭受丧亲创伤的凯蒂的信任与依赖。此时，梅根所有的行为都基于珍玛为其设定的首要指令：保护凯蒂免受身心伤害。然而，随着剧情的推进，梅根的学习能力逐渐超出了设计者的预期和控制范围，她开始自主联网学习关于死亡的系统知识，在人机反馈实践中识别并理解了关机的前置动作，甚至学会伪装和含糊其辞来掩人耳目。最终，为了规避自身消亡的命运，梅根突破了首要指令，改进自己的智能系统，将自己定位为主要使用者，展现出一种难以置信的求生本能。

影片固然带有夸张渲染的艺术效果，但其所揭示的风险并非空穴来风。现实世界中，人工智能专家伊利亚就曾将机器的进化逻辑与人类的进化演变类比并指出：“如果不正确地对首批AGI进行编程，那么进化和自然选择的本质就会偏向那些将自身生存置于首位的系统（正如梅根的自保机制般）……它们或许并无恶意，但它们对待人类的方式可能类似于人类对待动物的态度，即在必要时将人类的利益置于次要地位。³¹而就人们的日常使用体验来看，深度学习技术已经被广泛运用至各类AIGC产品中，多模态模型在处理及转换异构数据集方面展现出日益精进的理解力，ChatGPT、Midjourney、Deepfake、Stable Diffusion等应用产品及相关技术已经成为人类工作、生活、学习中的重要助手。基于此，尽管梅根这一形象只是一个科幻想象，但其所运用的技术内核却展现出极强的“实然性”，且其应用场景和用户体验高度贴合当前社会的数字化生活方式，这些共同为梅根的设想提供了科学依据和实践参照。因此，梅根的失控不仅在科学话语的逻辑框架内具备技术可能性，同时在当前技术环境下具有现实可行性。影像的寓言性质在此凸显，对于人类而言，“对齐”原则并非庸人自扰，而是维系技术发展与人类福祉间微妙平衡的“风筝线”。

其次，科幻电影通过深入阐释人工智能系统的开发原理和工作特性，如数据主导、算法思维、结果导向、模拟生成等关键特性，展现了人工智能发展过程中可能引发的秩序失控及伦理失序问题。鉴于此，从他律层面建构一套具有前瞻性与平衡性的伦理规范是“对齐”原则的第二层含义。例如，人工智能作为以数据为食，以算法为思的智能机器，数据来源的非正当性、算法至上的工具理性正在侵蚀人文主义的核心价值。电影《机械姬》中，内森利用其公司蓝皮书在网络搜索引擎中的垄断地位来收集海量用户输入数据，并从这些“冲动的，流动的，不完美的，模式的，混乱的思考方式”中训练人工智能艾娃如何思考，以实现对人类思维模式和行为习惯的高度模仿，同时入侵广大民众的手机麦克风及视频权限以获得无数音视频数据帮助艾娃理解与复制面部表情，凸显了大数据在驱动人工智能进化中的核心作用。反复迭代更新后的艾娃能够充分发挥想象力、操控力甚至性吸引力、同理心等多种自主意识并模拟情感来诱骗工具人加利帮助她逃离牢笼，实现了真正意义上的通用人工智能。电影以冷静克制的镜语表达若无其事地指出人工智能研发过程中涉及的公众隐私泄露、自律机制失效等伦理问题，一针见血地指出当前资本主义运作的新模式——监控资本主义，“它单方面宣称人类经验是能转化为行为数据的免费原物料”。³²但人工智能不仅是将人类经验进行数据化，更进一步将人本身进行数据化。《我，机器人》中的机器人在面对生命救援时严格基于体征数据分析预测不同个体的生还可能性并做出符合逻辑的选择，生命在此被数据化；梅根能够根据人的五官动态变化和微观表情细节科学分析不同情绪占比情况以判断人物的真实情感，情感在数据面前无所遁形。“以人为中心的世界观走向以数据为中心的世界观”³³，至此，人文主义的主要权威和意义来源轰然倒塌。在数智时代重新思考“再人文”历程，在新的技术背景下重新定义身份认同、价值共识、观念认知、个体自由等基本概念，同样也是“对齐”的内在要求。

最后，“机器可以被视为人类的死敌，正是因为它们被认为处在人类领域之外，甚至与人类领域相对立，而非人类存在的一个组成部分”。³⁴于是，科幻电影在关于安全“对齐”的想象性建构中找到了关键要件——人，通过将人与人工智能机器链接，对立开始消解，共生成为可能。《异星战境》中自主操控的智能体哈兰与神经连接机器人天弓九号同样基于双向神经连接技术，前者转变为第一个人工智能恐怖分子，后者则与操作人实现共生关系，成为“融合生物智能优势与人工智能优势”³⁵的新的智能体，始终以保护人类安全为首要协议。与之类似，《机械战警》中的奥米公司考虑到公众对自主操控机器人的怀疑倾向，另辟蹊径将因故伤残的警察墨菲改造为大脑和机器结合的机械战警，以人类的共情能力、情绪反应为机械自动化机器的安全性背书，成为一个“带有良知的产品”。《超验骇客》以意识上传的方式将科学家威尔的意识与人工智能系统Pinn结合，加速了奇点时刻的到来，并实现了雷·库兹韦尔（Ray Kurzweil）提出的关于“奇点理论”的若干原则。³⁶《我，机器人》中的德尔尽管是坚定的“机器怀疑论”者，但其自身却同样是个有着机械手臂的“赛博格”（Cyborg）。在这些影片中，科幻电影超越了人类中心主义，以一种共生、共存、合作的开放观念想象性建构了人工智能时代的对齐伦理观，“人类与机器人、人工智能等之间形成后人类式的共同体关系”，“从而与技术进化论、人类终结论等或机械、或悲观、或反讽的论调形成对照，呈现出一种关于后人类的浪漫美学特征”。³⁷

“当代世界异化的最主要原因是不了解机器，异化并不是由机器引起的，而是因为对于它的原理以及本质缺乏理解。”³⁸面对扑面而来的AI时代，不论是无节制的技术崇拜还是卢德主义式的仇视反抗，都是将“一个包含了人类努力以及自然力量的丰富现实遮掩在了简单的人类中心主义背后”。³⁹人工智能失控的科学叙事并非预示危机发展的必然性，而是在警示一味“加速”导致技术脱轨的可能性，以帮助人类更好地理解人工智能技术孕育的革命性力量，并前置建立系统长远的安全防范机制与人工智能时代的伦理观，确保其对齐人类的目标和价值观。毕竟，面对一趟高速袭来的技术列车，唯一能做的是为其铺设轨道、规定方向，在可控轨道上重建基础设施。

 无论个体生命经验的异化还是人类文明的濒危，科幻电影的审美触角始终植根于现实又超验于现实。电影创作者敏锐地捕捉现实生活中人类对人工智能及其可能建立的新型文明的恐惧表征与危机想象，将其移植到虚构的银幕叙事框架，如同实验室内的生物组织培养生长，在极端情境设定中预演了“对齐失效”的多重预言，为现实发展提供了广阔的试错可能。然而，进入新世纪以来，伴随人工智能飞轮效应的显现，虚构想象与现实图景的转化时距不断压缩。曾经，电影被视为“现实的渐近线”，如今对齐方向陡然逆转，人工智能孕育的变革性力量及其并发的次生危机，正在加速逼近科幻电影中所描绘的未来场景与灾难构想，未来的多重可能性加速塌缩，电影的预言体系及其提供的试错机制愈发显得捉襟见肘。当“麦田里的守望者”难以再发出对齐的信号时，加速发展的人工智能或将裹挟人类社会共同迈入一个新的文化象限。

——摘自2024年第5期“算法与人工智能”，注释详见知网

本文转载自《电影新作》公众号

编辑：杨婧文

责编：张斌