微软宣布开源 (GODEL) 语言模型聊天机器人

Posted 2022-06-27 ejinxian

        微软宣布开源 Grounded Open Dialogue Language Model (GODEL) 语言模型。GODEL 在单一语言模型中结合了两个重要功能。第一个是以任务为导向的，第二个是仍然使对话变得自然和社交。

        GODEL 是一类预训练模型，基本上允许对话代理（例如聊天机器人）根据当前对话提供答案，同时还生成外部和相关信息，使您的交互更加真实和扎实。

        GODEL 实际上是微软研究院于 2019 年发布的 DialoGPT 的进化版。微软基于自动化和人工的测试表明其最新的对话式 AI 远远优于 DialoGPT，这就是为什么该公司认为它已准备好更广泛地用于多样的环境

         GODEL 完全开源提供三个的版本：base、large 和 extra-large。并提供了重新训练所有预训练模型和为特定任务微调模型所需的代码：用于对话式问答的 CoQA 数据集；Wizard of Wikipedia 和 Wizard of the Internet 数据集，用于寻求信息的聊天；MultiWOZ 用于任务完成对话。

参考:

GODEL: Combining goal-oriented dialog with real-world conversations - Microsoft Research

GODEL: Large-Scale Pre-Training for Goal-Directed Dialog - Microsoft Research