数学小课堂：古德-图灵折扣估计法和插值法（防范黑天鹅事件的方法）

Posted 2023-03-09 iOS逆向

文章目录

• 引言
• I 黑天鹅事件产生的原因
• • 1.1 置信度
  • 1.2 数据的稀疏性
  • 1.3 零概率问题
• II 防范黑天鹅事件的方法
• • 2.1 古德-图灵折扣估计法
  • 2.2 插值法

引言

防范黑天鹅事件的方法

• 古德-图灵折扣估计法：它主要是解决零概率的事件

古德的方法虽然解决了零概率的问题，但是依然没有解决数据稀疏时，对于小概率事件，概率估计不准确的问题。

• 插值法：贾里尼克，发明了一种被称为“删除插值”的方法。
• 备用法（Back-off）：进一步改进了插值法

在数学上和信息论上可以证明，无论是插值法还是备用法，都比单纯依靠统计结果直接产生概率模型更准确。

I 黑天鹅事件产生的原因

1. 被统计的数据量哪怕再大，相比要产生的条件概率的数量来讲，也显得太小
2. 把那些小概率事件，默认为是零概率事件。