2021年全球人工智能技术创新大赛 小布助手对话短文本语义匹配优秀队伍分享

Posted 2021-06-26 herosunly

文章目录

• 1. 赛题背景
• 2. 赛题数据介绍和评测标准
• 3. 整体方案设计
• 4. 子模块与创新点
• • 4.1 未登陆词优化
  • 4.2 MLM预训练优化
  • • 4.2.1 Mask策略
    • 4.2.2 对抗训练
    • 4.2.3 参数设置
  • 4.3 K-fold 分类模型finetune
  • 4.4 构建soft-label
  • 4.5 构建大模型+全量数据训练模型
  • 4.6 模型集成
  • 4.7 性能优化
• 5. 算法落地
• • 5.1 快速迭代
  • 5.2 算法性能
  • 5.3 算法鲁棒性
• 6. 方案总结
• • 6.1 创新性