语言模型language models 动手学深度学习v2

Posted 2022-08-05 AI架构师易筋

1. 语言模型 language models

猴子随机打出来莎士比亚的作品，时间大概要多久呢？ – 宇宙爆炸都打不出来。

2. 代码实现

3. Q&A

• 1. sequence sample (token 是word)，一般32位效果会比较好。要考虑模型的复杂度，和产品综合考虑。

参考

https://www.bilibili.com/video/BV1ZX4y1F7K3?p=1