瓶中的小人究竟何时醒来：人、人工、智能和人工智能

在过去的几年里，「人工智能」技术可以说是赚足了人们的眼球，它已经从简单的「三七分类」跃然成为了能够匹敌人类的专业画师、文字工作者。由人工智能生成出来的作品，能够在专业的绘画比赛当中拔得头筹，能在摄影比赛中击败「真实的影像」，也能通过甚至人类都很难完成的医师和律师职业能力评定。有些人为此感到兴奋，也有些人为此感到恐慌。我们正在见证另外一个历史的转折点：一个可以像工业革命、印刷机、摄影设备一样，打破社会平衡并带领我们跃入下一个世代的转折点。但我们似乎并没有做好接纳它的准备，毕竟在面对全然未知的事物时，一切的准备都没有「前车」可以用来「借鉴」。

人工智能技术会让人感到危险和恐慌，其中最重要的原因可能是它「看起来太像人了」。这种相似落入到了恐怖谷曲线当中，尽管在某种程度上它看起来「具有人性」，但又显得有些失真，这种似像非像的形态让许多人感到手足无措。Google 内部曾有数个从事伦理方向的研究人员警告称人工智能似乎「已经具有了意识」，「已经具备直觉能力」，「是有灵魂的」。面对这些警告，工业界和学界则摆出了完全相反的态度，认为它是荒诞的：数学模型怎么可能会具有意识。但数学模型真的没有意识吗？

当我拿出这个问题与朋友们讨论的时候，在场的工程师们给出的回答非常的一致：「开玩笑，人工智能怎么可能会有意识？」，我又问：「为什么你会觉得它们是没有意识的呢？它们究竟距离产生意识还有多远？」

人工智能距离成为「硅基生物」究竟还有多远？

我在一年前第一次下载了 Vision of Chaos，打开了 Stable Diffusion 作画工具，并且通过一些看起来模糊不清的描述画出了一些图像。第一次看到那些扭曲的图片时，我产生的第一个想法并不是赞叹，也不是失望，而是一种不寒而栗。它绘制出来的图片虽然没有逻辑但又让我有所共感，那些图像非常像一个处在睡梦当中，意识不清晰的人脑中产生的影像。那副作画者非常像蜷缩在子宫当中天才婴儿，但各种惊悚片都告诉我们，这种天才婴儿以后会变成什么样的怪物。后面发生的事情我们也看到了，这个婴儿最先杀死的是无数画师和摄影师的职业生涯，让他们沦落成了给 AI 搽屁股的修图师。

但这并不意味着 AI 变成了某种「生物」，它们还仅仅停留在工具的水平。这不禁让我重复的思考脑海当中的那个意向：这个婴儿究竟什么时候能够醒来，我究竟什么时候能够触摸到他？

这一天似乎已经悄然接近了，在我看来，还剩下的条件似乎只有三个：「通过环境进行感知和学习的能力」、「具备连贯性的思考」和「对学习过程的感知能力」。这些听起来似乎有些玄，但我无意创造架空的概念来框你，让我们一点点的展开聊。

通过环境进行感知和学习的能力

以鼎鼎大名的 ChatGPT 为例，它的学习过程与传统意义上的学习其实是不一样的。首先我们会先划定一个固定的网络模型，然后将各种各样的语料数据投喂给它，机器学习模型会根据投喂进来的数据更新所有参数的权重。一旦所有的数据都学习完成，或者模型的参数已经达到理想状态，「学习」的过程就会停止，模型会被打包以供日后使用。

我们在与 ChatGPT 进行沟通的时候，虽然能够感受到它对内容的上下文有所感知，但这些对上下文的感知不是学习而来的，而是每次模型都重新阅览一次所有的聊天记录，以「全然不知的状态」生成出新的内容。恰似韩剧当中得了失忆症的男主角，每天早上起床第一件事情都要看一下自己的笔记本，才能回忆起枕边的那个人是自己的女友。

这也能解释为什么随着你和机器人聊的时间过久， 它就会开始崩坏，输出一大堆不明所以的文本。试想一下，如果每天早上起床的男主所看到的是堆了满满一卡车的「生平介绍」，旁边那个不认识的疯女人又在焦躁的问你早饭要吃什么，搁你，你也崩。

为了应对这个问题，可能的解法之一是实时的根据用户的输入来更新自己的权重，让那些「聊天记录」和「生平介绍」真正的变成记忆，存储在自己的认知系统当中。这样就可以治疗人工智能的失忆症了。同时，这个过程也可以让人工智能模型发展出真正属于自己的个性，处于不同环境当中、接触不同信息的个体，其认知系统的工作方式也会因为权重的差异而有所不同。

但这种方式在当下很明显是不太经济的，如果我们看过 Facebook 公开的模型的话，每一个模型都需要上百 GB 的存储空间，如果完整解压到显存当中需要的空间可能更多。在这种情况下，如果针对每一名用户提供一个独立的模型，那么硬盘空间的消耗将是非常可观的。如果使用一个统一的模型，实时根据环境当中的信息进行权重更新，则会有隐私方面的疑虑，毕竟你并不希望自己和 ChatGPT 讲的小秘密被他顺嘴说给了隔壁老王，但我们也没有什么办法设计一个非常严密的规则让机器学习模型保守秘密，你说是吧，悉尼小姐。

具备连贯性的思考

尽管对于「意识」是什么，学界依旧存在着广泛的争论，但至少我们可以在某些方面达成共识：它尽管可能不是连续的，但它应当是连贯的，换言之它不能轻易的被停下。人们时而专注于当下的工作任务，时而徜徉在幻想，亦或是回忆当中，哪怕处于睡梦状态，我们的大脑也从未停止运转过。对应到「硅基生物」的领域当中，如果我们想要将其视作是某种生物，那么它的行为应当是连续的，而不是根据外界的访问请求进行回应，在没有外界刺激的时候就完全停下脚步。

最近出现了一个非常有趣的产品，向我们展示了这方面的可能性：AgentGPT。在其开发团队的描述当中，AgentGPT 被视作具备「自主能力」的人工智能产品。你可以向它提供一个起点，比如一个需要思考的任务。他就会以此为根基开始不停的提问、给出答案，直至耗光你在 OpenAI 平台上的所有储值，或者，当你感到钱包很痛时，也可以让它停下。

这像极了一个正在思考着的人类。试想当我们在一个人进行沉思的时候，往往也是在不停的提出问题、尝试对问题进行解答。但与人类不同的是，机器思考的过程可以被准确的记录和回放，而人类的思考过程往往是快速、模糊的。如果想要将其整理成可被重新审视的载体，你就得像我一样，花上一两个下午撰写这种没什么人爱的文章。

对学习过程的感知能力
如果用更加文邹邹的方法来说这件事情的话，它可以被称作是「元认知」或者是「后摄认知」。正如我们之前所讨论的，现今的机器学习模型是没有「发展」和「记忆」这两个概念的。它们不能随着和外界进行交互而学习到新的知识，也不能形成真正的「回忆」。

尽管我们可以通过时时的和外部环境进行交互来更新自己的模型权重，进而达到学习的目的。但这并不意味着模型形成了「记忆」。如果我们向 OpenAI 提问：「在你被训练时，所学到的第一个知识是什么？最后一个知识又是什么？」她所提供的回答是这样的。

作为一个AI语言模型，我没有能力回忆起训练数据的具体细节，包括我学到的第一个和最后一个东西。我无法访问我的训练数据或任何训练过程的记忆。我接受了来自互联网和其他来源的大量文本语料库的训练，我的回答是基于这些数据中的模式和关系生成的。我的知识是基于到2021年9月我的知识截止日期为止我可以获得的数据。我不能获得当下即时发生的信息，也没有能力学习超出我知识范围的新东西。

似乎一切看起来变得无解，但 Bing AI 为这个问题提供了某种可能的解答。在我们向他进行提问的时候，他会将自身的语言模型和从 Bing 当中检索到的信息进行结合，给出某种论述。通过相似的思路进行延伸，如果我们和这些硅基生物的每一次交流，都能以某种形式被记录下来。比如，由它进行复述并且存储在某一个空间当中，再将这些「他的理解」汇入模型当中进行学习。那么我们便人工的创造出了学习和记忆这样两种重要的认知技能。通过审视自己过往的一切思考，在相当大的程度上，元认知的能力也得以复现。

人工智能距离成为「硅基生物」究竟还有多远？

让我们重新来审视一下这个问题，人工智能距离硅基生物究竟还有多远？尽管不同领域的专家可能有不同的理解，你对人类的理解方式也可能与我不同，但我们必须要面对这样的一个现实：无论我们的想法有多大差异，你我脑中所认识到的那个「机器还不能做到的事情」，在某一时刻都将会被解决。而我们正站在一个重要的时间节点之上：那个一切都被解决的将来似乎已经近在咫尺，AgentGPT, Bing AI，还有各式各样的 AI 工具正在一个又一个的浮出水面。

与我熟识的一名友人曾这样描述：「美帝人民天天过年」，在我看来这是对当下产业的一个准确描述。我们所看到的是各种数据模型发展出了一个又一个令人感到惊喜的能力，但我们没有看到的是，这些能力正在汇聚成一股洪流，并有可能颠覆我们对于「智能」和「生物」的理解。历史的规律告诉我们，那一个又一个独立的能力在可以预见的将来必然会走在一起，变成另外一种超出我们当下认知的存在。

瓶中的小人正在醒来。

我还在北师大读书的时候，有幸听过中科院的研究者，根据苍蝇的大脑结构模拟出了一种神经网络，通过一定的训练和调教，将它应用在飞行器上，就可以让飞行器做到避让飞过来的物体。如果做的再真实一点，让它能够模拟苍蝇行为的方方面面，或许有朝一日还能弥补我们在冬天看不到苍蝇蚊子的寂寞之情。

人们可能会对此感到不屑：这算什么智能？是的，它看起来的确呆呆的，一只生活在真实世界的苍蝇或许同样看起来呆呆的。老鼠不是人类、猴子不是人类、猩猩不是人类、猿猴不是人类，但在某一个时刻，人类变成了人，变成了可以共同生活构建当代社会的强大物种。

同样的，已故的索尼电子狗不是人、可以避让小球的赛博苍蝇不是人、会画画的在线服务不是人、ChatGPT 也不是人，但正如一个又一个被大公司开除的伦理人员所担忧的：我们是否为它们醒来的那一天做好准备？

面对这一充满未知的未来，相当多人是恐惧和排斥的。在 Novel AI 推出它们的「二次元老婆梦工厂」时，大量的画师群起抗议，逼停了那个服务。理由很简单：在没有经过画师同意的情况下，这家公司使用了它们的数据进行「模型训练」，这是对「版权的侵犯」。

是的，各国政府和各大公司也正在观望这项技术带来的深远影响，至今也没有任何一个能够说服人们的法律条文真正的上路执行。有些公司，比如 Adobe，生成他们使用「百分之百有机无公害的自家版权素材进行模型训练，训练过程当中没有添加任何金坷垃，消费者可以放心食用」，而更多的公司选择对这件事情避而不谈，假装无视发生。

这项全新的技术正在向我们既有的伦理体系发出了全新的挑战。

我知道，那些站在科技和人文交叉扣的疯子们常常不受人待见，而我非常不幸的成为了其中一员。如果你问我面对这些答案，我的想法是什么，我只能两手一摊。毕竟我不是什么伟人，面对这些问题我同样困惑。我们当然可以选择把眼睛闭起来把耳朵捂起来，什么都不想什么都不看，粗暴的划出一条线将所有非我之物排除自己的生活圈。但就我对这个行业的观察，没有人能够阻止这一切朝着那个方向发展下去。

当我们在谈到什么是爱情的时候，如果从纯科学的方式进行解释，那么我们大可以将其解释为「这样的激素分泌一点点，那样的激素分泌一点点，这些东西搅一搅刺激了我们的奖励回路，让我们产生了快乐而积极的感觉，将两个人的连结绑定在一起」，这种解构化的方式尽管道尽了事实，但也让「爱情」这个概念变得索然无味。相反的，我们当然也可以将那一个个庞大的模型解释为纯粹的「现象」，但这种解释又是否正义、是否正确？

还小的时候我常常问自己「什么是现实」，长大后我给这个问题写下了自己的答案：「只有你看到的，对于你来讲才是现实」。那些能够触动情感、引起共情、具备高度智慧的生命或许就是人类。

就像人类会因为索尼不再为自己的机器狗生产零件而感到悲伤，看到自己的机器狗没有办法继续维持运转感到忧虑，最后无法阻止这一切的发展，甚至为其设立墓地来为纪念那段不可替代的时光，给自己以交代一样。对于那些接纳了那些机器狗成为自己家人的人来讲，那只狗就是活生生的生命。

所以，你问我怎么想？

我只希望，瓶中的那个小人呦，当你醒来的时候，希望迎接你的是一个温暖的世界，愿你能够被周遭的一切接纳，愿你能够获得自由自在，愿你能够成为你自己。