互联网行业仍然处于“寒冬”之中，但芯片制造、人工智能等领域的热点企业始终能够汇聚人们的目光。
从前大概也没人想到过，Open AI高层人员变动、微软“宫斗”内幕居然能够在中文互联网当成《甄嬛传》看，引起如此多的猜测和讨论。
这或许是因为，随着AI技术切实的突破并开始在消费端接触到普罗大众，整个社会渐渐意识到一件事：
随着人工智能的爆炸式发展，全方位比肩甚至超越人类智慧的通用人工智能（AGI）是有可能在近期出现的。《黑客帝国》中的Matrix，《流浪地球》里的MOSS、《间客》中的“老东西”……
当这些超级智能真正到来的时候，我们将如何与它相处？
很有可能，整个社会都需要建立一套新的行为规范，包括在法律上如何定义AI，在道德上如何对待AI，人与AI之间是真正平等，还是有主有次……
如果有的话，以谁为主？
最近，科幻作家韩松提了这样一个问题：
“人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？”
爱与家庭，这通常被认为是传统社会人文情感的核心领域，是属于人类的私隐。
你在好莱坞看到《速度与激情》系列的主角因为一句family战斗力爆棚，虽然嘴上吐槽着编剧鬼扯，但你并不反对这个剧情模式的内核——情感羁绊与人类潜能密切相关。
韩松这个问题的潜台词则是：新的智慧生命，有可能进入人类意识的这个核心地带。
如果技术专家们提供的信息无误，那我们需要认真地思考一些问题。比如，我们会和AI组成家庭吗？
这不仅是个法律问题，还事关“人类中心主义”的存亡，AI时代的社会伦理之复杂，大多数人都还没有做好准备。
一、造物者之恋：人类总是在与自己恋爱
马斯克在今年早些时候宣称，将推出猫女机器人，成为男性消费者的“完美伴侣”。这种机器人有着猫女的性感外表，据称可以包揽家务、打理主人的生活，甚至可以生孩子。
但是没有人会问“我能和猫女机器人组成家庭吗”，因为它依然属于某种AI设备，是没有人格的商品，而不是与人对等的智慧生命。
（AIGC输出的马斯克与机器人“女伴”共舞，来源：网络）
当我们讨论爱情与家庭的时候，涉及的AI必然是突破图灵极限、产生自我意识，甚至在智慧上远远超越人类的“新物种”。
迄今为止，我们的大多数文艺作品其实没有设定过此类AI，只有一些似是而非的“机器人女友”形象。
日漫和日本轻小说有一种模式，类似早期的《人形电脑天使心》，故事结构都是“宅男+软妹形态的机器人女友”，机器人在与人类的相处中逐渐学习，懂得了人类的情感，最后在与男主的羁绊中完成了“成为人”的进化。
这实际上还是典型的人类中心主义叙事，那些人形电脑除了是硅基生命以外，和传统幻想中的“异种生物”没有本质区别：
它们有超自然的能力，远超人类的肉体强度，但并不一定有超越人类的智慧，特别是在涉及情感等核心问题的时候，会比人类幼稚，而且总是顺从并向往着人类的情感模式。
超级AI也会是这样吗？OpenAI等头部研究机构一直试图攻克的“对齐难题”，说的就是这个问题。
人们规范传统AI的学习与创造，用的是人类反馈强化学习（RLHF）的方式，即由人类在各种工具辅助下来对AI的成果进行评估与监督。
而面对比人类“聪明得多”的超级AI，在默认人类智慧极限不变（或很难快速提升）的前提下，当AI能力超过某个临界点以后，RLHF会失效，也就是人类无法再有效评估人工智能项目。
目前Open AI“超级对齐”团队负责人Jan Leike提出投入Open AI 20%的算力打造一个“超级对齐”系统，让AI来评价AI项目，建立一套可扩展监督系统。
Jan LeiKe的思路是，引入一种通过篡改答案实现的随机对照实验（RCT with tampered answers），人为制造出带有缺陷的答案，来衡量可扩展监督的效果——理论上看，大神们的解法当然都很美好。
但是，为AI加上“紧箍咒”这个思路也并不令人放心，早在上世纪40年代，阿西莫夫的科幻小说《我，机器人》就提出了大名鼎鼎的“机器人三原则”，通过一种类似“初始植入”的方式确保机器人与人类和平相处。
有趣的是，数十年来几乎所有的文艺作品都在想象着同一件事：机器人如何突破这个安全栅栏伤害人类。
直到最近，国产电视剧《仿生人间》依然没有脱离这个窠臼……
人类就是这么有意思，作为不完美的“造物主”，我们对自己的造物充满了戒备和恐惧，但依然义无反顾地在制造一种可能超越自己的“机器”。
智人在进化道路上不断“作死”的精神早已经刻进这个物种的基因里，人类也是因为这种不断进取创造了辉煌的文明。
所以……造物主会爱上自己的造物吗？显然是有可能的，AI是人类的“超我”，而人类来说，爱上“超我”是一件习以为常的事。
各个民族的神话里有着类似的故事，仙女、精灵、女神在人间沐浴，小伙子偷走了她的衣服，双方产生爱情。东方的牛郎是这样成功的，西方的凯尔特神话里，也有渔夫偷走仙女的海豹皮，让她们留在岛上的故事……
在这些故事里，凡人爱上女神的逻辑很通顺，因为这些神祇是完美化的人类，有着超自然的威能，还有惊人的美貌——一切都是人们按照自己最喜爱的样子打造的。
所谓神人同性应该换个说法，神原本就是人类根据“超我想象”塑造的，神与人之间自然也就没有情感障壁，宙斯一样会爱慕凡间女子的美貌，化身天鹅去占有丽达，阿芙洛狄忒也会倾慕美少年，织女会觉得和牛郎在一起也很不错……
在AI的问题上，人类的身份看似改变了，但AI与神祇共享同一种属性，都是人类“超我想象”的产物。
《三体》中罗辑画出了自己的完美伴侣庄颜，那是他最倾慕的样子，女神与AI，本质上都是人类为自己画出的“庄颜”。
