依据现有 AI 的发展速度，类似 ChatGPT 这样的产品，距 ...

945坏男人

2015 年 12 ，包括埃隆·马斯克 (Elon Musk)、山姆·阿尔特曼（Sam Altman，现任美国著名创业孵化器Y Combinator总裁）在内的个和组织创建了OpenAI公司。目的是推进和促进智能领域的研究，以安全的方式实现通用人工智能（AGI），从而使全人类平等获益。
2017年，第一代GPT-1发布。作为一个能够生成类文本的语言处理模型，那时候的ChatGPT，只能算一个不错的语言理解工具，而非现在的对话式人工智能。这一年也被称为NLP（自然语言处理）的预训练模型元年。
2020年，OpenAI发布了DALL-E，这是一个能够根据文本描述生成原始图像的创意人工智能系统（我将专门写一篇文章介绍人工智能在绘画领域的发展）。
到了2021年12月，OpenAI发布了GPT-3，可以完成编写代码，修改代码bug（错误），翻译文献，写创意文案，做大学作业等一系列文字输出型任务，被称为目前为止最最强的语处理模型。甚至有人预言“GPT-3 是第一个严重动摇现状的模型。”
2022年12月4日，埃隆·马斯克 (Elon Musk)发了一条推文，他是这么描述的：ChatGPT有一种让人毛骨悚然的厉害，我们离危险的强大人工智能已经不远了。”
下一代语言模型可能会有更高的语言理解能力和更多的知识，更好的处理多轮对话以及解决更复杂的问题。此外，还可能会有更好的性能和更低的计算成本。这些新功能可能会帮助更好地完成各种任务，如自然语言处理，机器翻译，语音识别和自动问答等。

乐态思

和以前一样远。目前所有的AI都是基于现有内容训练出来的，只会归纳内推，不能演绎外推，连新的知识都产生不了，更不要说自我意识了。

紫色214

这是一个很好的问题，我来说说。
最近OpenAI炙手可热，OpenAI有三个门面：GPT-3、DALL-E、ChatGPT。其中GPT-3和ChatGPT的功能有些类似(实质上ChatGPT也是在GPT-3的基础上通过fine-tune而来)，都是语言处理大模型，只是ChatGPT更加倾向于聊天，从名字就可以看出。而DALL-E属于多模态大模型，应用的形式是给定一个文本句子输入，生成相应描述的图像，这个应用十分的有趣。
回到正题，现阶段AI发展迅速，那么类似ChatGPT这样的产品，距离产生自我意识还有多远？
要回答这个问题，首先需要了解什么是自我意识。我在百度百科上进行了问题检索，百度百科给的答案是：

自我意识（self-consciousness）也称自我，指的是个体对自己的各种身心状态的认识、体验和愿望。它具有目的性和能动性等特点，它对人格的形成、发展起着调节、监控和矫正的作用。

自我意识是目前这个星球上动物所独有的能力，如果AI也具备了自我意识，那么可想而知，将会是多么大的一个冲击。那么类似ChatGPT这样的产品，距离产生自我意识有多远呢。
首先来了解一下ChatGPT是怎么训练出来的。OpenAI先是有了GPT-3，而ChatGPT是在GPT-3的基础上，用了相对很少的数据进行fine-tune得到的。对比GPT模型的1750亿个参数，ChatGPT仅仅只有13亿个参数。ChatGPT的训练过程雇佣了40个人工标注工程师来完成数据的反馈和训练。当然，随着数以百万计的用户在每天使用ChatGPT系统，更多的数据会被收集来不断迭代系统和算法。可想而知，ChatGPT正在不断迭代进化，正如google、baidu这些老牌搜索引擎一样，经过了多年大量用户的检索记录和反馈，检索结果已经越来越准确，足以满足人们的生活、工作的问题检索要求。
ChatGPT这种不断迭代进化的模式类似强化学习，是非常可怕的。按这种趋势，ChatGPT的智能程度、回答的准确度、用户体验都将会不断的提升。最终会达到你问它你不知道的，它会告诉你正确的答案；你问他你知道的，他会告诉你满意的答案(当然也是正确的答案)，对于这样的发展我是持乐观态度的。
但是要让ChatGPT产生自我意识，我目前持悲观态度。ChatGPT收敛的目标是让回答更加的准确，而不是让它有自己的思想，这是有实质的差别的。举个例子，比如你问ChatGPT：冬天的漠河有多冷？按目前ChatGPT收敛趋势，它永远只会告诉你，冬天的漠河有零下多少多少度这种客观的话术；而不会像人类有主观的表达：太冷了，冷的受不了，有暖气吗，上学、生活怎么办呢之类的主观思想。


综上，我对于ChatGPT产生自我意识不乐观，更不用说强人工智能了(我所理解的强人工智能应该是通用人工智能)，随着发展它会成为越来越强的专用领域问答检索工具。抛开ChatGPT，如果有一个产品的收敛目标是主观回答而不偏离客观事实 (这其实和现实需求相悖，假如你问AI一个问题，AI再说它的主观想法，而不是客观事实，估计提问者也受不了)，然后随着强化学习的反馈成长，这样应该能产生所谓的"自我意识"，但是这种"自我意识"还是跟人类/动物的自我意识还是有所区别，更像是一种高仿的形式。

13335291348

复杂的概念和意义并不是意识的本质，就算能通过图灵测试也只不过是高级的程序与数据而已。生物体的生物本能和运作机制才是根本，所谓意识只是假象……

123457899

这个问题其实可以用两个著名的思想实验，从技术和哲学两个角度来回答。
第一个思想实验是“中文房间”。它是由美国哲学家约翰·赛尔在上世纪八十年代设计的。
这个实验是说你想象一个只会说英语的人身处一个房间里，这个房间除了门上有个小窗户，其他地方全都是封闭的。这个人有一本用英语写成的书，里面指示了该如何处理接受到的中文信息，并且用中文进行回复。房间外面的人不停地向房间里塞进用中文写成的问题，房间里那个说英语的人查阅手边的那本指导书将合适的中文回答递出房间。
虽然房间里的人可以和房间外的人对答如流，房间外的人以为房间里坐着个懂中文的人，但实际上那个人只会说英语，只是那本包罗万象的指导书太牛逼了。
套在这个问题里，ChatGPT就像那本指导书，如今的技术让人类真的可以造出这样的东西了。ChatGPT巨大的训练语料就意味着这个模型可能阅读过这个世界上相当大比例的文本，不管是书籍、论文还是博客文章，甚至是代码片段，然后给你一种无所不知的感觉，这也是为什么ChatGPT可以有如此令人惊艳效果的原因。作为在屋外的人们，很有可能认为屋里的人有理解能力，甚至有意识。
如果对技术有一定了解就会知道，当给定输入的时候，ChatGPT这样的模型做的最多的就是非常确定性的加减乘除等等数学运算，在某些环节，这些模型会输出一个概率分布，通过在这个输出的分布上进行随机采样，来达到一种丰富、随机应变的效果。
关于生成式模型的输出采样，可以参考我之前的文章：多头注意力：十分钟读懂Beam Search 1：基础 和 多头注意力：十分钟读懂Beam Search 2：一些改进 。
不夸张的说，如果把这种随机采样换成贪心采样，也就是每次都取概率最大的输出，那这个ChatGPT一下就会从牛逼闪闪变成木讷呆板。所以，从技术角度说，ChatGPT距离自我意识还相当遥远。
另一个思想实验是“图灵测试”。
图灵测试的内容我直接摘抄维基百科

1950年，图灵发表了一篇划时代的论文，文中预言了创造出具有真正智能的机器的可能性。由于注意到“智能”这一概念难以确切定义，他提出了著名的图灵测试：如果一台机器能够与人类展开对话（透过电传设备）而不被辨别出其机器身份，那么称这台机器具有智能。这一简化使得图灵能够令人信服地说明“思考的机器”是可能的。论文中还回答了对这一假说的各种常见质疑。图灵测试是人工智能哲学方面首个严肃的提案。

或者是这样

如果一个人（代号C）使用测试对象皆理解的语言去询问两个他不能看见的对象任意一串问题。对象为：一个是正常思维的人（代号B）、一个是机器（代号A）。如果经过若干询问以后，C不能得出实质的区别来分辨A与B的不同，则此机器A通过图灵测试。

我相信当下的ChatGPT已经非常接近或者已经可以通过图灵测试了。那么从这个角度来说，机器已经相当与能思考，或者说有自我意识了。
如果你对ChatGPT的相关内容感兴趣，欢迎阅读我之前的文章和回答：

• ChatGPT渗入到内容行业后，是否会造成剽窃、作弊成灾？会扼杀人类的内容创造力吗？
  
• 多头注意力：也聊ChatGPT
  
• 以 ChatGPT 为代表的「大模型」会是多大的技术革命？如果要发生技术革命需要具备哪些条件？
  
• 目前ChatGPT 已应用到论文写作、剧本创作、媒体内容生产，是解放生产力的机会还是被AI支配的开始？
  
• ChatGPT 印证了模型大一统的可行性，这在未来五年会对 NLP 从业者带来怎样的冲击？