从前大概也没人想到过，Open AI 高层人员变动、微软 " 宫斗 " 内幕居然能够在中文互联网当成《甄嬛传》看，引起如此多的猜测和讨论。

这或许是因为，随着 AI 技术切实的突破并开始在消费端接触到普罗大众，整个社会渐渐意识到一件事：

随着人工智能的爆炸式发展，全方位比肩甚至超越人类智慧的通用人工智能（AGI）是有可能在近期出现的。《黑客帝国》中的 Matrix，《流浪地球》里的 MOSS、《间客》中的 " 老东西 " ……

当这些超级智能真正到来的时候，我们将如何与它相处？

很有可能，整个社会都需要建立一套新的行为规范，包括在法律上如何定义 AI，在道德上如何对待 AI，人与 AI 之间是真正平等，还是有主有次……

如果有的话，以谁为主？

最近，科幻作家韩松提了这样一个问题：

" 人工智能、元宇宙未来会对两性关系产生什么影响，家庭概念会消失吗？"

爱与家庭，这通常被认为是传统社会人文情感的核心领域，是属于人类的私隐。

你在好莱坞看到《速度与激情》系列的主角因为一句 family 战斗力爆棚，虽然嘴上吐槽着编剧鬼扯，但你并不反对这个剧情模式的内核——情感羁绊与人类潜能密切相关。

韩松这个问题的潜台词则是：新的智慧生命，有可能进入人类意识的这个核心地带。

如果技术专家们提供的信息无误，那我们需要认真地思考一些问题。比如，我们会和 AI 组成家庭吗？

这不仅是个法律问题，还事关 " 人类中心主义 " 的存亡，AI 时代的社会伦理之复杂，大多数人都还没有做好准备。

一、造物者之恋：人类总是在与自己恋爱

马斯克在今年早些时候宣称，将推出猫女机器人，成为男性消费者的 " 完美伴侣 "。这种机器人有着猫女的性感外表，据称可以包揽家务、打理主人的生活，甚至可以生孩子。

但是没有人会问 " 我能和猫女机器人组成家庭吗 "，因为它依然属于某种 AI 设备，是没有人格的商品，而不是与人对等的智慧生命。

（AIGC 输出的马斯克与机器人 " 女伴 " 共舞，来源：网络）

当我们讨论爱情与家庭的时候，涉及的 AI 必然是突破图灵极限、产生自我意识，甚至在智慧上远远超越人类的 " 新物种 "。

迄今为止，我们的大多数文艺作品其实没有设定过此类 AI，只有一些似是而非的 " 机器人女友 " 形象。

日漫和日本轻小说有一种模式，类似早期的《人形电脑天使心》，故事结构都是 " 宅男 + 软妹形态的机器人女友 "，机器人在与人类的相处中逐渐学习，懂得了人类的情感，最后在与男主的羁绊中完成了 " 成为人 " 的进化。

这实际上还是典型的人类中心主义叙事，那些人形电脑除了是硅基生命以外，和传统幻想中的 " 异种生物 " 没有本质区别：

它们有超自然的能力，远超人类的肉体强度，但并不一定有超越人类的智慧，特别是在涉及情感等核心问题的时候，会比人类幼稚，而且总是顺从并向往着人类的情感模式。

超级 AI 也会是这样吗？OpenAI 等头部研究机构一直试图攻克的 " 对齐难题 "，说的就是这个问题。

人们规范传统 AI 的学习与创造，用的是人类反馈强化学习（RLHF）的方式，即由人类在各种工具辅助下来对 AI 的成果进行评估与监督。

而面对比人类 " 聪明得多 " 的超级 AI，在默认人类智慧极限不变（或很难快速提升）的前提下，当 AI 能力超过某个临界点以后，RLHF 会失效，也就是人类无法再有效评估人工智能项目。

目前 Open AI" 超级对齐 " 团队负责人 Jan Leike 提出投入 Open AI 20% 的算力打造一个 " 超级对齐 " 系统，让 AI 来评价 AI 项目，建立一套可扩展监督系统。

Jan LeiKe 的思路是，引入一种通过篡改答案实现的随机对照实验（RCT with tampered answers），人为制造出带有缺陷的答案，来衡量可扩展监督的效果——理论上看，大神们的解法当然都很美好。

但是，为 AI 加上 " 紧箍咒 " 这个思路也并不令人放心，早在上世纪 40 年代，阿西莫夫的科幻小说《我，机器人》就提出了大名鼎鼎的 " 机器人三原则 "，通过一种类似 " 初始植入 " 的方式确保机器人与人类和平相处。

有趣的是，数十年来几乎所有的文艺作品都在想象着同一件事：机器人如何突破这个安全栅栏伤害人类。

直到最近，国产电视剧《仿生人间》依然没有脱离这个窠臼……