香兰农场知青谈ChatGPT

治文:
这个ChatGPT，算是最近技术界的大热点。主要也是人工智能的应用。聊天机器人早好多年就有了，包括微软自己也开放和长期维护一个“小冰”。中文的那个早期应该在北京（那里有微软研究院，有没撤或打不打算撤就不知道了，但逐渐式微恐怕是实情），后来搬去了香港。以前工作或教学需要，我也会去尝试。有点意思，但还是远不够“聪明”的。现在在一些评论区，如网易，还会看到她的身影。有时候冷不丁的跑来插一句嘴，经常无厘头。

治文:
但人工智能的驱动模式可以有很大区别。早期就是类似一种叫“专家”模式的。实际上可以靠人工把各种各样人类已知的问题和答案输入电脑（数据库），服务中，根据用户问题，就可以“给出”相应答案。这一过程也构成“聊天”。在相对狭窄的领域，这比较容易奏效。例如医疗，在局限到某些专科问题，其实也狭隘的。所以专家本不值钱，因为狭隘。专家喜欢扯到他的狭隘领域之外，就成“砖家”了

治文:
新发展的人工智能，更加模仿人的成长和学习过程。这个看似简单，实质很难。既要有适当的算法支持，也要以前不敢想象的硬件计算资源支撑。以前基本停留在纸面和想象中，但近些年终于有了实打实的进步。Google的阿尔法是个里程碑，通过不断的“学习”，国际象棋、围棋这些智力活动终于得以击败了世界一流大师。

效杰:
看来电脑碾压人脑是不可抗拒的事实了，顶多也就是时间问题了。

治文:
@效杰 有这个趋势

治文:
字面解释：ChatGPT——到底什么意思？前面Chat就是聊天的意思。GPT是Generative Pre-training Transformer缩写，常翻译成预训练生成模型。我再解释一下，ChatGPT——到底什么意思？GPT就是Generative是生成型的，或通俗点会自我繁殖或生长的意思，这个完全不同于前面说得“专家系统”，那个被动的，灌输型的。ChatGPT——到底什么意思？Pre-training是预训练的意思，字面上感觉是有点折中了那个“灌输”的做法，或许是给了个基本的灌输和提示，使其自我“成长”更有方向，减少弯路。不同的预训练，相信会调教出不同的应用“人才”，这次的惊动性在于会“变成”诗人、小说家之类。Transforme是变换器（以前用于指变压器之类）或转换器。但这词几年前已经用于这类所谓基于“神经网络”的人工智能模型了，成了术语。

治文:
人工智能CHATGpt写的福尔摩斯侦探小说，文
风，逻辑如出一辙
微软已经打算投资100亿美元在CHATGPT上,
感觉细分领域也有巨大机会，同时也是给越来
越无事可做的人类提出一个问题
要你何用?
先看看这个小说吧
“那是伦敦的一个凄凉的大雾之夜，是那种
让最勇敢的人也感到不安的夜晚。
我，夏洛克·福尔摩斯，被我亲爱的朋友兼同
事，约翰·华生医生叫去协助他处理一个最重
要的案件。
当我们在城市中曲折的街道穿梭时，华生向我
介绍了案件的细节:一条价值连城的钻石项
链，从一位富有的社会名流家中离奇失踪了
所有的证据都指向这位主人的女仆是罪魁祸
首。
到达这位女士的宅邸后，管家迎接了我们，并
带我们进入客厅，把我们介绍给女主人，即伊
丽莎白·黑斯廷斯夫人。她是个高大威猛的女
人，有一双眼神犀利的蓝眼睛，举止高傲
福尔摩斯先生，华生医生，你们能来，我就
放心了。”她说，并示意我们坐下，
“相信你
可人想象，
项链被益这件
让我感到非常
痛苦。我要求盗窃者必须马上把它还给我。
2
我点了点头，敏锐地打量着周围富丽堂皇的环
境:“告诉我，黑斯廷斯夫人，你最后一次看
到这条项链是什么时候?
那是昨天晚上，就在我睡觉前。我把它放在
梳妆台上的老地方，今天早上醒来时并没有发
现什么不对劲。但当我打算戴上它去参加晨会
时，它却不知所踪了。
我与华生交换了一个眼神，知道这意味着小偷
一定是在黑斯廷斯夫人睡觉时进入房间的。这
是一个大胆的举动，但对于一个链而走险的罪
犯来说，这并不罕见。
女仆玛丽是当时屋里唯一的其他人?”我问
道。
黑斯廷斯夫人点了点头:”
是的，玛丽已经和
我在一起很多年了，我对她非常信任。但对她
不利的证据恐怕是相当不利的。这条项链被发
现藏在她的房间里，还有一封来自一个已知的
销赃者的信，为她提供了一大笔珠宝。
我挑了挑眉毛:“我们可以和玛丽谈谈吗?
3
当然可以。我将立即把她带到这里来。
3
过了一会儿，玛丽被带进了客厅，她是一个看
起来温顺而胆怯的年轻女子，脸上有麻子，眼
眸低垂。我一眼就看出她很害怕，而且我很清
楚，她不是罪魁祸首。
玛丽，你是不是偷了黑斯廷斯夫人的项
链?”我问道，声音坚定而温柔。
她使劲地摇了摇头:“没有，福尔摩斯先生
我发誓。我绝不会做这种事。我整晚都在自己
的房间里愉快地睡着了，我发誓。
我相信她，我看得出华生也是如此。但我们不
能仅仅用我们的直觉来洗刷她的罪名。我站起
身来，开始在房间里踱步，我脑子里飞快地拼
凑着各种线索。
然后我忽然灵光一闪: 栅栏上的信是用一种特
殊紫色墨水写的，这种墨水我以前只见过一
次。就在一周前，有人用这种墨水给一个富商
写了封威胁信。
我转向黑斯廷斯夫人，我的眼睛里闪烁着兴奋
的光芒
我知道谁是真正的罪魁祸首，黑斯廷斯夫
人。
我说道。
“是你的儿子，罗杰
我的眼睛因兴奋而炽热:
黑斯廷斯。一段时间以来，他长期处于经济
困难中，这条价值连城的项链对他太有诱惑力
了，他无法抵挡。而栅栏里的那封信只是一个
诡计，目的是把疑点抛给玛丽。
黑斯廷斯夫人听了我的话脸色苍白，我可以看
到她的脸上分明写着愧疚。“你怎么知道?
9
她低声道。
是紫色墨水，黑斯廷斯夫人。只有少数人能
够接触到它，而你的儿子就是其中之一。上周
也是他威胁了那个商人，希望从他那里敲诈钱
财。这是一个绝望中的行为，最终导致事情败
露。
我和华生没有浪费时间，随即将我们的发现告
知当局。
一天之内，罗杰·黑斯廷斯被抓获，项链归还
给了它的合法主人。黑斯廷斯夫人既感激又懊
悔，她发誓要让她的儿子得到他所需要的帮
助，以扭转他的生活
就这样，由于夏洛克·福尔摩斯的推理能力
又一个案件被解决了。当华生和我回到贝克街
的时候，我不禁为工作的顺利完成而感到满
意。
但我知道，总会有更多的案子在等着我，每一
个案子都有自己的挑战和待解的谜团。我已经
准备好了，因为只要有谜团需要解开，夏洛克
福尔摩斯就会在那里解决它们。

治文:
转发ChatGPT“写的”福尔摩斯小说，供体会

王振声:
@治文 挺魔幻的，世界变化太快，看来我们是跟不上了，但大趋势不可逆转。我们老了无所谓了，但是，我们的国家，我们的家庭，我们的体制，我们的后代如何适应，还有我们目前的思维方式！

静申:
所以人口出生率不会决定未来，科技创新率和思想解放度才会！

治文:
@王振声 我小时候喜欢看侦探小说的，看过基本福尔摩斯，风格的确有点像的。不过记得好像后来读到的，如“巴斯克韦尔的猎犬”，好像人称上是华生医生的口气。再早读的记不得了。这篇好像是福尔摩斯的口气。另外，我因为注重观察机器人“作者”的智能，会看得比较仔细。至少发现有两处逻辑上的差错。不过已经非常了不起了

治文:
@王振声 记得我们群里的拉比特吗？他可能不在这个群了，他的文学素养很高的。我很久很久以前就曾从另一位香友口中听说过，拉比特（那时候没有网名）对电脑特别感兴趣（那时候是稀罕物，没几个人见过），而且居然说，对电脑写作的前景尤其有兴趣。我当时的感觉，就是理论上是有前景，实际还是天方夜谭。这当中隔了利用电脑打字编辑的时代，他说的时候连这个也没普及。不得不感叹时代的变迁之速
不过我也不觉得电脑能让我们这一代的诗人小说家评论家散文作者无字可码，就像“自动驾驶”，炒得够热，但驾驶员们不用担心失去驾驶乐趣。


缘起:
@治文 普及人工智能

治文:
@李洪栩 谢谢！香友有兴趣，就参与一点讨论

治文:
人工智能如今成功的一面还是很突出的，直接影响着日常生活。如指纹、人脸识别，相当成熟了。实际的国内应用，还是得感谢各种开源的系统或源代码

治文:
实际我们打字时，各种跳出的常见后继字，连打词组等，类似联想的功能，也能算。搜索引擎上也用得很多

治文:
手写输入就更加了，每个人每次在屏幕上“写（其实是画）”的都不一样，机器通过所谓“模糊识别”来加以“辨认”。这方面跟指纹人脸识别类似，都称为“模糊逻辑”，相应的应用称“模糊识别”。汽车违章被拍，停车场闸门放行收费也类似，对车牌进行了“模糊识别”

治文:
实际上，觉得类似“ChatGPT”这样的系统取得的成功，也大大的影响着人脑科学，或许以后也影响到医学。因为这些系统的研发基于对人脑认识机制，如神经网络运作的认识，这些认识是很难直接验证的，有些之前只能是假设。现在基于假设的机制上开发出了成功的应用，无疑是很强有力的验证，虽然是间接的。人脑科学是人类对自身的深层次探究，觉得是最困难的。开个玩笑，地球人类对地球深层次探究也特别难，不要说地心，连马里亚纳海沟深处的知识也不多。对月球的探索，至少月表这个层次，了解度会轻易超越

发展历程
ChatGPT是美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具，使用了Transformer神经网络架构，也是GPT-3.5架构，这是一种用于处理序列数据的模型，拥有语言理解和文本生成能力，尤其是它会通过连接大量的语料库来训练模型，这些语料库包含了真实世界中的对话，使得ChatGPT具备上知天文下知地理，还能根据聊天的上下文进行互动的能力，做到与真正人类几乎无异的聊天场景进行交流。ChatGPT不单是聊天机器人，还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。 [2] 
在OpenAI的官网上，ChatGPT被描述为优化对话的语言模型，是GPT-3.5架构的主力模型。
ChatGPT具有同类产品具备的一些特性，例如对话能力，能够在同一个会话期间内回答上下文相关的后续问题。然而，其在短时间内引爆全球的原因在于，在网友们晒出的截图中，ChatGPT不仅能流畅地与用户对话，甚至能写诗、撰文、编码。
ChatGPT还采用了注重道德水平的训练方式，按照预先设计的道德准则，对不怀好意的提问和请求“说不”。一旦发现用户给出的文字提示里面含有恶意，包括但不限于暴力、歧视、犯罪等意图，都会拒绝提供有效答案。 [1] 
2022年11月底，人工智能对话聊天机器人ChatGPT推出，迅速在社交媒体上走红，短短5天，注册用户数就超过100万。 [9] 
2023年一月末，ChatGPT的月活用户已突破1亿，成为史上增长最快的消费者应用。 [14] 
2023年2月2日，美国人工智能（AI）公司OpenAI发布ChatGPT试点订阅计划——ChatGPT Plus。ChatGPT Plus将以每月20美元的价格提供，订阅者可获得比免费版本更稳定、更快的服务，及尝试新功能和优化的优先权。 [7] 
2023年2月2日，微软官方公告表示，旗下所有产品将全线整合ChatGPT，除此前宣布的搜索引擎必应、Office外，微软还将在云计算平台Azure中整合ChatGPT，Azure的OpenAI服务将允许开发者访问AI模型。 [9] 
2023年2月3日消息，IT 行业的领导者们担心，大名鼎鼎的人工智能聊天机器人 ChatGPT，已经被黑客们用于策划网络攻击时使用。 [8] 
黑莓 (Black Berry) 的一份报告调查了英国 500 名 IT 行业决策者对 ChatGPT 这项革命性技术的看法，发现超过四分之三 (76%) 的人认为，外国已经在针对其他国家的网络战争中使用 ChatGPT。近一半 (48%) 的人认为，2023 年，将会出现有人恶意使用 ChatGPT 而造成“成功”的网络攻击。 [8] 
当地时间2023年2月2日，ChatGPT的开发公司——美国人工智能公司OpenAI顺势推出了这一应用程序的付费订阅版本。 [11] 
2023年2月7日，微软宣布推出由ChatGPT支持的最新版本人工智能搜索引擎Bing（必应）和Edge浏览器。微软CEO表示，“搜索引擎迎来了新时代”。 [18] 
2023年2月8日凌晨，在华盛顿雷德蒙德举行的新闻发布会上，微软宣布将OpenAI传闻已久的GPT-4模型集成到Bing及Edge浏览器中。 [17]

技术逻辑
结合ChatGPT的底层技术逻辑，有媒体曾列出了中短期内ChatGPT的潜在产业化方向：归纳性的文字类工作、代码开发相关工作、图像生成领域、智能客服类工作。 [5] 
核心竞争力
ChatGPT受到关注的重要原因是引入新技术RLHF (Reinforcement Learning with Human Feedback，即基于人类反馈的强化学习)。RLHF 解决了生成模型的一个核心问题，即如何让人工智能模型的产出和人类的常识、认知、需求、价值观保持一致。ChatGPT是AIGC（AI- Generated Content，人工智能生成内容）技术进展的成果。该模型能够促进利用人工智能进行内容创作、提升内容生产效率与丰富度。 [6] 
技术局限性
ChatGPT 的使用上还有局限性，模型仍有优化空间。ChatGPT模型的能力上限是由奖励模型决定，该模型需要巨量的语料来拟合真实世界，对标注员的工作量以及综合素质要求较高。ChatGPT可能会出现创造不存在的知识，或者主观猜测提问者的意图等问题，模型的优化将是一个持续的过程。若AI技术迭代不及预期，NLP模型优化受限，则相关产业发展进度会受到影响。此外，ChatGPT盈利模式尚处于探索阶段，后续商业化落地进展有待观察。 [6] 
社会应用
一项调查显示，截止2023年1月，美国89%的大学生都是用ChatGPT做作业。 [4] 
2023年1月，巴黎政治大学（Sciences Po）宣布，该校已向所有学生和教师发送电子邮件，要求禁止使用ChatGPT等一切基于AI的工具，旨在防止学术欺诈和剽窃。 [3] 
ChatGPT的应用场景还包括：用来开发聊天机器人，也可以编写和调试计算机程序，还可以进行文学、媒体相关领域的创作，包括创作音乐、电视剧、童话故事、诗歌和歌词等。在某些测试情境下，ChatGPT在教育、考试、回答测试问题方面的表现甚至优于普通人类测试者。 [6] 
2023年2月4日消息，以色列总统艾萨克·赫尔佐格(Isaac Herzog)周三发表了部分由人工智能(AI)撰写的演讲，成为首位公开使用ChatGPT的世界领导人。 [10] 
2023年2月7日消息，Take-Two Interactive的首席执行官斯特劳斯·泽尔尼克（Strauss Zelnick）表示：ChatGPT是“一个非常激动人心的新工具时代”的一部分，可以“让我们的团队和竞争对手的团队更有效地做真正有趣的事情”，但这项技术不会彻底改变电子游戏行业。 [13] 
2023年2月8日，微软宣布推出由ChatGPT支持的最新版本搜索引擎必应。 [15] 
规范使用编辑 播报
2023年2月，媒体报道，欧盟负责内部市场的委员蒂埃里·布雷东日前就“聊天生成预训练转换器”发表评论说，这类人工智能技术可能为商业和民生带来巨大的机遇，但同时也伴随着风险，因此欧盟正在考虑设立规章制度，以规范其使用，确保向用户提供高质量、有价值的信息和数据。 [12] 
相关争议
禁令与限制
多家学术期刊发表声明，完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。 [20] 
官方回应
使用ChatGPT完成作业和写论文是不道德和不健康的学习方式。学生们需要学会自主思考，理解知识并自己动手完成作业。使用ChatGPT完成作业只能短暂地帮助学生获得分数，但不能提高他们的学习能力和知识水平。 [19]