聊一聊ChatGPT

Posted 2023-03-03 gjb_software_study

最近突然ChatGPT火了，这一款人工智能聊天机器人程序的月活用户已突破1亿，成为史上增长最快的消费者应用。各大IT企业也纷纷宣布拥抱ChatGPT，包括微软、谷歌等。中国国内的百度、科大讯飞也在准备推出国内版的类似ChatGPT的人工智能语音应用。下面来聊聊ChatGPT带来的机遇和挑战。

ChatGPT，美国OpenAI 研发的聊天机器人程序 ，于2022年11月30日发布 。ChatGPT是人工智能技术驱动的自然语言处理工具，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文 等任务。

这是与传统语音搜索最大的区别，可以互动式聊天，并且完成需要深度思考和处理大量逻辑性的工作。

ChatGPT使用了Transformer神经网络架构，这是一种用于处理序列数据的模型，拥有语言理解和文本生成能力，尤其是它会通过连接大量的语料库来训练模型，这些语料库包含了真实世界中的对话，使得ChatGPT具备上知天文下知地理，还能根据聊天的上下文进行互动的能力，做到与真正人类几乎无异的聊天场景进行交流。

ChatGPT受到关注的重要原因是引入新技术RLHF (Reinforcement Learning with Human Feedback，即基于人类反馈的强化学习)。RLHF 解决了生成模型的一个核心问题，即如何让人工智能模型的产出和人类的常识、认知、需求、价值观保持一致。ChatGPT是AIGC（AI- Generated Content，人工智能生成内容）技术进展的成果。该模型能够促进利用人工智能进行内容创作、提升内容生产效率与丰富度。

由此可见，ChatGPT一是通过人类语料库进行模型的训练，使得模型具有类人的沟通能力；其次是训练出的模型具有类人的思考能力，回答问题结果和解决问题的思路与人类接近。

结合ChatGPT的底层技术逻辑，有媒体曾列出了中短期内ChatGPT的潜在产业化方向：归纳性的文字类工作、代码开发相关工作、图像生成领域、智能客服类工作等。可以辅助人类完成一些大量的不需要深度思考的计算机可以完成的工作。

但是除了新奇和好玩之外，该技术有什么其他的隐含危机？

一项调查显示，截止2023年1月，美国89%的大学生都是用ChatGPT做作业。多家学术期刊发表声明，完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。

ChatGPT可能已经被黑客们用于策划网络攻击时使用。

ChatGPT如果被人用恶意模型进行训练，则与人类的沟通也不会给出正常价值观的答案，这样的有可能滋生新型犯罪。

某些国家可能已经在针对其他国家的网络战争中使用 ChatGPT。2023 年，将可能会出现有人恶意使用 ChatGPT 而造成“成功”的网络攻击。

由以上信息可见，ChatGPT技术可能为人类带来巨大的机遇，但同时也伴随着风险，如何规范ChatGPT的使用，确保向用户提供高质量、有价值的信息和数据，是今后各国需要面临的问题和挑战。