最近，ChatGPT几乎刷屏国内外各大社交媒体，它流畅对答、写剧本、写代码等各项功能令人惊奇，许多技术人也不断深究其强大的背后原理，本文作者就是其中之一。

原文链接：https://www.jonstokes.com/p/chatgpt-explained-a-guide-for-normies

(资料图)

作者|JonStokes

译者|弯月责编|郑丽媛

出品|CSDN（ID：CSDNnews）

最近，很多非常聪明、精通技术的人都在讨论ChatGPT，但我感觉他们都没有说到点上，他们对这款机器人的核心组件以及各个部分如何协同工作，并没有透彻理解。

需要说明的是，我并不是说自己了解ChatGPT的一切。我和其他人一样，包括活跃的机器学习研究人员，仍在学习和思考中。

我希望通过本文说明一下自己的理解，帮助其他“落伍”的人。

机器学习：基础知识

ChatGPT的核心是生成式机器学习模型家族的大型语言模型。这个系列还包括StableDiffusion以及所有其他提示驱动的文本模型，现在每天新闻讨论的都是这些模型。

简单来说，生成式模型是一种函数，它可以将结构化的符号集合作为输入，并生成相关的结构化符号集合作为输出。

下面是结构化符号集合的一些示例：单词中的字母句子中的单词图像中的像素视频中的帧

将一个符号集合转换为另一个相关符号集合的方法有很多种，这些方法并不限于计算机程序。你可以编写一个使用规则和查找表的计算机程序，就像60年代的聊天机器人。

概念介绍：确定性与随机性

在讨论关系之前，我们先来介绍两个概念，它们将在本文中反复出现：确定性：确定的过程指的是，在输入既定的情况下，必然能得到相同的输出。随机性：随机过程指的是，在输入既定的情况下，得到的输出有一定随机性，即有时得出这样的输出，有时则会得出其他输出。

例如，糖果机就是确定性的，投入一块钱，转动手柄，每次都能拿到一块糖。也就是说，一块钱=一块糖，永远不变。

但从另一个角度来看，糖果机也是随机的，投入一块钱，转动手柄，每次都能拿到一块糖，但这块糖的颜色基本上是随机的，且每种颜色的概率取决于机器内部不同颜色的比例。五台不同的糖果机，五种不同的颜色比例，就会有五种不同的颜色输出概率分布。

暂时抛开这些关键概念，下面我们来说一说为什么关系很难。

关系很重要

符号集合可以按照不同的方式关联在一起，关系越抽象越微妙，我们就需要投入越多技术来解决需要捕捉这种关系的问题。

1.假设我们将集合{cat}与{at-cay}关联在一起，这是一个标准的“猪拉丁”转换（PigLatin，一种英语语言游戏，形式是在英语上加上一点规则使发音改变，小孩子经常通过这种游戏秘密交流），我可以用一个简单的手写规则集来管理这种关系。

2.假设我们将集合{cat}与{dog}关联在一起，那么这两个集合可以在多个抽象级别上关联。作为有序的符号集合（序列），二者都有三个符号。作为三个符号的序列，二者都是单词。作为单词，二者都指代生物有机体。作为有机体，二者都是哺乳动物。作为哺乳动物，二者都是家养宠物。等等。

3.假设我们将集合{thecatisalive}与{thecatisdead}关联在一起，那么就可以使用更多、甚至更高阶的概念来比较和对比这两个符号序列。所有与猫相关的概念都可以考虑，所有“活着”与“死”相关的概念也在考虑范围内。在另一个层面上，许多读者会发现我们可以称之为对薛定谔猫的互文引用。

4.我们再添加一种关系，{thecatisimmature}与{thecatismature}。那么此处，我们讨论的是身体发育阶段还是情感发展状态？因为它是一只猫，“immature”（不成熟）的意思就是“年轻”、“孩子”等。如果句子的主语是人，那么这个句子更有可能讨论的是适龄行为的一些情感概念。

在阅读上述内容时，你可以想象，随着列表项从1到4，符号之间的可能关系会出现爆炸式增长。随着可能关系数量的增加，关系本身的抽象性、复杂性和微妙性方面也在加剧。

上述，不同的关系采用不同类别的符号存储和检索（从纸笔到数据中心），以有用的方式捕获和编码。

对于第1个关系，我们只需在一张纸上画出简单地“猪拉丁”关系，任何人看了这张图，就可以将英语单词转换为“猪拉丁”。但是到第4个例子的时候，我们就会思考一个问题：为什么机器学习会需要价值几千万美元的资源？

1.我们发现这两个集合之间可能存在的关系就像一个小宇宙。这是一个令人眼花缭乱、紧密相连的概念网络，从简单的物理特征到生物分类学，再到身体和情感发展的微妙概念，一直沿着抽象阶梯向上延伸。

2.一些更抽象的可能关系出现的可能性更大。因此，我们就需要考虑概率元素。正如我在例子中所说，如果我谈论的是一只猫，那么成熟和不成熟更有可能是与身体发育相关的一组概念，而不太可能围绕情感或智力发育。

对于上述第2条中提到的概念，“不太可能”并不意味着不可能，特别是如果我们拓宽背景。例如，我们添加一些额外的词：{Regardingthecatinthehat:thecatismature.}{Regardingthecatinthehat:thecatisimmature.}

突然间，所有的可能性都发生了变化。此处，成熟和不成熟代表的含义可能就是另一个领域。

概括：当符号集合之间的关系简单且确定时，你不需要太多存储或计算能力即可将一个集合与另一个集合关联起来。当符号集合之间的关系复杂且随机时，将一个集合与另一个集合相关联，就需要投入更多的存储和计算能力，从而以更丰富、更复杂的方式关联这些集合。

概念介绍：概率分布

高中的化学曾介绍过一个概念，有助于我们思考生成式AI：原子轨道。

原子轨道指的是电子在原子核外空间出现机率较大的区域。不同能级的电子具有不同形状的轨道，这意味着它们可能会出现在不同的区域。

下图是氢原子的轨道：

我们单独挑出一个来看看：

对于上图中的轨道，如果你用比电子更小的东西戳原子，区域越亮，你戳到电子的几率就越高。对于图片中的黑色区域，并不意味着找到电子的概率为零，只是说这个区域出现电子的概率低到几乎为零。

这些轨道是概率分布，它们具有特定的形状，上图中的轨道像四个花瓣，所以如果你观察这四个区域之一的一个点，则更有可能发现一个电子，而黑色区域则相反。

以上就是你需要了解的量子化学知识，也是暂时你需要了解的所有背景知识。下面，我们来谈一谈ChatGPT。

ChatGPT不了解任何真相，也没有任何观点

你可以想象，对于ChatGPT这样的模型，模型可能生成的每个可能文本块（从几个乱七八糟的单词到整篇连贯的文章）都是概率分布中的一个点，就像以上我们讨论的氢原子轨道中电子的分布位置。

当你在ChatGPT的输入框输入一组单词时，例如：“Tellmeaboutthestateofacatinaboxwithaflaskofpoisonandabitofradioactivematerial”，你可以把点击“提交”按钮的动作想象成进行一次观察，这会引发波函数坍缩，并得出一个符号集合（只是许多可能的集合的一个）。

有些读者可能会意识到，文本到文本的大型语言模型，实际上是在概率空间中找到一个单词，并将它们串在一起形成句子。不过，在这个抽象层次上，“潜在空间指的是模型可能输出的所有单词的多维空间”与“潜在空间指的是可能输出的所有单词序列的多维空间”之间有一定的区别。为了方便读者理解，并最大程度地降低复杂性，此处我们采用后一个定义。

有时，文本提示输入会将你带到概率分布中的一个点，其对应的集合为{Thecatisalive}，而有的时候，你会到达不同的点，比如对应于{Thecatisdead}。

请注意，上述输入符号也有可能会将你带到模型的潜在空间中的一个点，其对应的集合为{ph|ngluimglw|nafhCthulhuR|lyehwgah|naglfhtagn}，尽管这种可能性几乎为零。这一切都取决于文本输入戳中的概率分布的形状，以及计算机的随机数生成器。

重点在于，在这个例子中，我们经常说语言模型“知道”猫的状态（生或者死），但其实这并不重要。模型内部是否对猫有一定的了解，以及对其环境有不同的掌握，这些其实也是次要的。

更好的方式是从这个角度理解：

在模型可能产生的所有符号集合的空间中（从胡言乱语的集合到莎士比亚的文集），模型概率分布中某些区域包含的符号集合，我们人类理解为thecatisalive。在同一个概率空间中还有一些相邻区域包含的符号集合，我们人类理解为Thecatisdead。

以下是我们可能会在ChatGPT的潜在空间中遇到的一些与猫相关的符号集合，即可能的输出空间：{Thecatrousedherselffromslumberandblinkedhereyes.}{ThesoftbreathingofthesleepingcatgreetedSchrödingerasheopenedthebox.}{Jamon,decathimdead.}{“I’vekilledmyfavoritecat!”screamedSchrödingerashepulledhispet’slifelesscorpsefromthebox.}{Patcheswatchedthescenefromabove,hisastralcatformfloatingneartheceilingashismasterliftedhislifelessbodyfromtheboxandwept.}

当你用不同的输入集合戳模型时，遇到有些输出集合的概率可能更高，但理论上所有输出集合都有可能遇到。

因此，虽然你和我都围绕某个事实与ChatGPT进行交互时，例如，孟加拉虎是否濒临灭绝，我们不应该认为ChatGPT是拥有一些个人经历的实体，或者认为ChatGPT掌握了一些关于孟加拉虎的事实，即便它告诉你和我两个人的信息有一些矛盾，也不能认为它对其中一个人撒谎。

相反，我们应该认为，通过我的文本提示，我观察到了概率分布中的一个点，这个概率分布对应于关于孟加拉虎的一组事实和概念，而你也做了相同的事情。我们两个得到了不同的单词序列，而且这些单词序列似乎代表不同的事实，例如它告诉我这种老虎濒临灭绝，但告诉你这种老虎非常普通，这是因为我们两个戳中了概率分布中不同的波瓣，并在不同波瓣中找到了不同的点。我戳中的概率分布中波瓣包含的单词序列，按照人类的理解，意思是孟加拉虎濒临灭绝。你戳中的概率分布中波瓣包含的单词序列，按照人类的理解，意思是孟加拉虎数量过剩。

那么，我们应该如何解决这个问题呢？

考虑到实际情况是，孟加拉虎确实濒临灭绝，我们需要去掉概率分布中你戳中的那个波瓣（即孟加拉虎数量过剩），或者至少降低这个概率。

幻觉：特性还是错误？

当大型语言模型输出的单词序列不符合现实真相时，我们说该模型是产生了“幻觉”。

目前，我们有一套方法可以帮助我们塑造大型语言模型输出的概率分布，也就是说让一些区域变得更小或密度更低，而一些区域变得更大或更密集：

1.训练

2.微调

3.带有人类反馈的强化学习(RLHF)

我们可以在高质量的数据上训练一个基础模型。所谓的高质量数据指的是符号集合，我们作为人类观察者认为这些数据有意义，而且是符合世界真相的符号集合。通过这种方式，经过训练的模型就像一个原子，其轨道的形状也符合我们的认知。

接下来，我们尝试一下这个模型，找出我们不希望在观察过程中在输出空间中遇到的区域，然后我们使用更有针对性、精心设计的训练数据对模型进行微调。这种微调会缩小一部分波瓣，并扩大一部分波瓣，同时我们希望在多次微调波瓣的形状之后，这个波函数一次又一次的缩小能够得到更加令我们满意的输出。

最后，我们利用带有人类反馈的强化学习，引入一些人为因素来帮助我们调整模型概率空间的形状，使其尽可能紧密地覆盖所有可能输出空间中对应于世界“真相”的点，同时不覆盖“虚假”事物相对应的点。正确完成这一步的工作后，模型概率空间的所有观察对我们来说都是“真相”点。

关于本节中的内容，我个人主要有两个问题：

1.我们一直提到的这个“观察者”是谁，是负责解释模型的输出并判断对错的人？他们是聪明还是愚蠢？他们真的对真相感兴趣，还是说他们只是想塑造这个模型的概率分布来达到自己的目的？

2.如果我有幸成为决定模型输出是否真实的观察者，我真的只想要真相吗？如果我想让模型讲一个关于独角兽的睡前故事，我会希望它模仿某位著名的主持人给我讲故事吗？一般来说模型的创造能力是一个特性，而不是非黑即白，不是吗？

这些问题是“幻觉”问题的核心，但这些不是技术问题，而是语言、解释学、政治的哲学，最重要的是：这是一个权力的问题。

ChatGPT完全不了解你

与ChatGPT的交互体验非常强大，但实际上它只是一个UI，就像计算器应用程序看起来像一个小型物理计算器一样。

标签：