|
社交媒体的热点，好像在某个不为人注意的角落又发生了一点变化。 互联网行业仍然处于“寒冬”之中，但芯片制造、人工智能等领域的热点企业始终能够汇聚人们的目光。 从前大概也没人想到过，Open AI高层人员变动、微软“宫斗”内幕居然能够在中文互联网当成《甄嬛传》看，引起如此多的猜测和讨论。 这或许是因为，随着AI技术切实的突破并开始在消费端接触到普罗大众，整个社会渐渐意识到一件事： 随着人工智能的爆炸式发展，全方位比肩甚至超越人类智慧的通用人工智能（AGI）是有可能在近期出现的。《黑客帝国》中的Matrix，《流浪地球》里的MOSS、《间客》中的“老东西”…… 当这些超级智能真正到来的时候，我们将如何与它相处？ 很有可能，整个社会都需要建立一套新的行为规范，包括在法律上如何定义AI，在道德上如何对待AI，人与AI之间是真正平等，还是有主有次…… 如果有的话，以谁为主？ 最近，科幻作家韩松提了这样一个问题： “人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？” 爱与家庭，这通常被认为是传统社会人文情感的核心领域，是属于人类的私隐。 你在好莱坞看到《速度与激情》系列的主角因为一句family战斗力爆棚，虽然嘴上吐槽着编剧鬼扯，但你并不反对这个剧情模式的内核——情感羁绊与人类潜能密切相关。 韩松这个问题的潜台词则是：新的智慧生命，有可能进入人类意识的这个核心地带。 如果技术专家们提供的信息无误，那我们需要认真地思考一些问题。比如，我们会和AI组成家庭吗？ 这不仅是个法律问题，还事关“人类中心主义”的存亡，AI时代的社会伦理之复杂，大多数人都还没有做好准备。 一、造物者之恋：人类总是在与自己恋爱 马斯克在今年早些时候宣称，将推出猫女机器人，成为男性消费者的“完美伴侣”。这种机器人有着猫女的性感外表，据称可以包揽家务、打理主人的生活，甚至可以生孩子。 但是没有人会问“我能和猫女机器人组成家庭吗”，因为它依然属于某种AI设备，是没有人格的商品，而不是与人对等的智慧生命。 AIGC输出的马斯克与机器人“女伴”共舞，来源：网络 当我们讨论爱情与家庭的时候，涉及的AI必然是突破图灵极限、产生自我意识，甚至在智慧上远远超越人类的“新物种”。 迄今为止，我们的大多数文艺作品其实没有设定过此类AI，只有一些似是而非的“机器人女友”形象。 日漫和日本轻小说有一种模式，类似早期的《人形电脑天使心》，故事结构都是“宅男+软妹形态的机器人女友”，机器人在与人类的相处中逐渐学习，懂得了人类的情感，最后在与男主的羁绊中完成了“成为人”的进化。 这实际上还是典型的人类中心主义叙事，那些人形电脑除了是硅基生命以外，和传统幻想中的“异种生物”没有本质区别： 它们有超自然的能力，远超人类的肉体强度，但并不一定有超越人类的智慧，特别是在涉及情感等核心问题的时候，会比人类幼稚，而且总是顺从并向往着人类的情感模式。 超级AI也会是这样吗？OpenAI等头部研究机构一直试图攻克的“对齐难题”，说的就是这个问题。 人们规范传统AI的学习与创造，用的是人类反馈强化学习（RLHF）的方式，即由人类在各种工具辅助下来对AI的成果进行评估与监督。 而面对比人类“聪明得多”的超级AI，在默认人类智慧极限不变（或很难快速提升）的前提下，当AI能力超过某个临界点以后，RLHF会失效，也就是人类无法再有效评估人工智能项目。 目前Open AI“超级对齐”团队负责人Jan Leike提出投入Open AI 20%的算力打造一个“超级对齐”系统，让AI来评价AI项目，建立一套可扩展监督系统。 Jan LeiKe的思路是，引入一种通过篡改答案实现的随机对照实验（RCT with tampered answers），人为制造出带有缺陷的答案，来衡量可扩展监督的效果——理论上看，大神们的解法当然都很美好。 但是，为AI加上“紧箍咒”这个思路也并不令人放心，早在上世纪40年代，阿西莫夫的科幻小说《我，机器人》就提出了大名鼎鼎的“机器人三原则”，通过一种类似“初始植入”的方式确保机器人与人类和平相处。 有趣的是，数十年来几乎所有的文艺作品都在想象着同一件事：机器人如何突破这个安全栅栏伤害人类。 直到最近，国产电视剧《仿生人间》依然没有脱离这个窠臼…… 人类就是这么有意思，作为不完美的“造物主”，我们对自己的造物充满了戒备和恐惧，但依然义无反顾地在制造一种可能超越自己的“机器”。 智人在进化道路上不断“作死”的精神早已经刻进这个物种的基因里，人类也是因为这种不断进取创造了辉煌的文明。 所以……造物主会爱上自己的造物吗？显然是有可能的，AI是人类的“超我”，而人类来说，爱上“超我”是一件习以为常的事。 各个民族的神话里有着类似的故事，仙女、精灵、女神在人间沐浴，小伙子偷走了她的衣服，双方产生爱情。东方的牛郎是这样成功的，西方的凯尔特神话里，也有渔夫偷走仙女的海豹皮，让她们留在岛上的故事…… 在这些故事里，凡人爱上女神的逻辑很通顺，因为这些神祇是完美化的人类，有着超自然的威能，还有惊人的美貌——一切都是人们按照自己最喜爱的样子打造的。 所谓神人同性应该换个说法，神原本就是人类根据“超我想象”塑造的，神与人之间自然也就没有情感障壁，宙斯一样会爱慕凡间女子的美貌，化身天鹅去占有丽达，阿芙洛狄忒也会倾慕美少年，织女会觉得和牛郎在一起也很不错…… 在AI的问题上，人类的身份看似改变了，但AI与神祇共享同一种属性，都是人类“超我想象”的产物。 《三体》中罗辑画出了自己的完美伴侣庄颜，那是他最倾慕的样子，女神与AI，本质上都是人类为自己画出的“庄颜”。 二、女神也会爱上凡人吗？ 然后，我们就需要面对另一个问题，超级AI会爱上人类吗？ 人类有不少爱上AI的理由，比如它们可以幻化俊美的外表，拥有超凡的能力，因为它们满足了人类的“超我幻想”，但AI爱上人的理由是什么呢？ 正如北大智研院院长黄铁军在回答腾讯新闻“20年20人20问”问题时所说，在超级智能出现以后，问题是很复杂的，除了 “我们能否相信AI”，还有“AI如何相信人类”的问题。 黄院长说，就像人与人之间建立互信的过程一样，人与AI需要经历磨合期，需要“听其言”、“观其行”，也就是是通过共享人类用语言构建的知识体系，并且在实践中检验AI所言是否符合实际，来确认是否可以与AI建立相互信任——实际上，人类社会的信任体系，也是这样逐步构建起来的。 关于人与AI相恋的问题，答案也是也类似的，AI会不会爱上人，不仅取决于AI的运行与进化方式，也取决于人类自身。 南方科技大学马兆远教授在“20人20问”中，也给出过一个基于感性的答案：我们越来越清晰地知道，人类之所以在浩瀚的宇宙中依托这么一个渺小的星球航行，是因为作为人的智慧的伟大。 这样的智慧，包含理性，但不为理性所束缚。因为我们知道理性的局限性，这个局限性需要人的感性来弥补，需要人的感性来引导。这也许是我们未来与机器共生的常态。 我们引导它们，与它们分工合作，它们能做的事情越来越多，越来越靠谱（可信），也因此让人的感性获得越来越大的自由。 我们或许可以据此猜测，超级AI也是有可能爱上人类的。 正如AI智慧的生成方式对我们来说还是不可知的“黑盒”一样，人类对AI来说，也会存在一个单纯理性无法理解的“黑盒”部分。 我们急切期待着破解AI的“黑盒”，AI也会试图破解人类的“黑盒”——在相互“破解”的过程中，它们不仅实现了价值观和智慧层面的“与人类对齐”，也会生成出与人类近似的情感模块，允许它们跨越“物种”隔阂去欣赏、倾慕与自己精神契合的智慧生命。 许多事情至今仍是未知的，但也正是代表未知的“X”中，蕴含着令世界精彩的要素。女神可以爱上人，为什么AI就不可以呢？ 三、“两性”似乎是过时的概念，但家庭的实质是财产关系 我们回到在腾讯新闻20周年特别策划“20年20人20问”活动中，科幻作家韩松提出的那个问题：“人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？” 他的朋友陈楸帆在回答中认为，元宇宙中本就蕴含着关于未来两性关系和家庭关系的预设，未来的两性与家庭关系都会越来越多元化。 两性关系将不再局限于肉体存在，情感连接和精神共鸣会成为主导，同时两性关系会出现更多“跨界”的现象，譬如《黑客帝国》中真实与虚拟的界限，未来的情侣就可能会跨越它。 实际上，“爱情”本身是一个很难讨论的概念，当我们讨论“可能性”的时候，爱情永远都是可能的。 它能存在于世仇的家族之间、名流贵族与赤贫者之间，存在于各种性别之间，甚至可以超越种族藩篱存在于地球人与外星生命甚至非生命之间……爱情是超功利、超阶层的、超理性的，某种意义上，也意味着它随时会跳出逻辑框架。 AI如果真的进化为超级智慧，它们是会产生“爱情”这个不稳定因素，还是将它作为无效数据排除掉？按照“对齐人类”的方向看，好像更可能是前者。 相对来说，“家庭”则是个更合乎理性的话题。 恩格斯在《家庭、私有制和国家起源》中就曾有过论断：家庭的本质是一种财产关系。在生产力进步到足以保留剩余产品以后，公有制逐渐让位于私有制，某种意义上，对偶婚、宗族、家庭……这些概念都是私有制的副产品。 家庭是个流变的概念，封建家庭与现代家庭之间差别极大，原始氏族与封建家庭也大有不同，而这种概念流变在本质上是在适应社会形态的变更。 而伦理更是为社会形态服务的东西，马克思·韦伯的《新教伦理与资本主义精神》有一个重要内容，就是把资本主义的获利精神、终极正当性与宗教形态进行的结合，认为商业获利是符合新教伦理的，是可以作为人生的终极目标的。古老的宗教伦理，要为新生的资本主义服务，一切历史都是当代史。 所以AI介入人类的情感，人与AI的广泛结合会改变家庭的基本形态，甚至让家庭消失吗？ 这个问题如果从本质上思考，问的其实是：AI会改变私有制吗？“资本主义精神”会终结吗？ 答案于是也很容易给出，超级AI的出现在我们目力所及的范围内，并不会动摇私有制。家庭伦理的稳定性，本质上是来源于财产制度而不是爱情或别的什么东西。 譬如，当父亲不再是家庭收入来源的绝对核心，封建父权制家庭就会逐渐瓦解，但现代社会依然保留家庭，意味着现代人依然需要这种组织分配财产的方式。 AI是否能够颠覆现有家庭形态，要看它在多大程度上能够参与社会财富分配。在AI自己还是一种“财产”的时候，多元化家庭无从谈起。 陈楸帆老师在谈论的是一种遥远的未来，只有当AI突破了实体限制，掌握了财富的分配权，我们才可能会看到更多基于共同兴趣、价值观或生活方式而非血缘的社区化家庭出现。 到了那个时候，社会依然会保持原教旨私有制吗？如果私有制基础动摇，那么家庭这个概念走入历史也是完全可以想象的了。 “20人20问”只是个开始，人类在可以预见的未来会高频率、高强度地讨论AI，历史上生产力进步所推动的社会形态变更从来就是最重要的议题，没有之一。 爱情与家庭，都只是这个大议题的一小部分，它关系到我们如何认识社会，如何认识自己，每每漫长的思考才能得出阶段性的结论。 而确定的事情是，我们不能停止提问。 来源：观察者网
| 
发表于 2023-11-28 02:47
