大数据会说话,简明机器学习问题

Posted 2020-10-29

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了大数据会说话,简明机器学习问题相关的知识，希望对你有一定的参考价值。

点击关注 异步图书，置顶公众号

每天与你分享 IT好书技术干货职场知识

技术分享图片

参与文末话题讨论，每日赠送异步图书

——异步小编

我们只能向前看到很短的路，但却可以看到还有很多事情需要做。

——艾伦·图灵

从数据中学习究竟是什么？科学家从数据中学习，企业、政府和慈善机构也一样。事实上，无论是私人、公共的，还是慈善部门的领域，几乎没有哪个领域不在部署数据驱动的模型，以发掘和利用数据中的关系。

我们置身于数据之中，亚马逊网站每天发生2.5万次销售/交付，10万个基因几乎同时测序，超过100亿张图片存储在网页上。而大约在几个月之内，英国的国家卫生局对6000万份健康记录进行了数字化处理。我们所有人每天都在使用数据，而且许多人在工作的付薪过程中都使用了数据。营销公司的分析师必须决定，他的受众/听众选择模型需要包含哪些因素。本地卫生部门的研究人员测量季节性流感的发病率。气象学家运行气候模型，计算降水的可能性、温度的变化以及云层覆盖的百分比。

公共部门和某些公司需要将海量信息转换为可操作的战略性公共/商业决策。从数据中学习提供了一系列实践性的技术和工具，来帮助开发稳健的归纳模型，用以从数据中提取可用的见解。归纳的简单含义是指观点源于经验数据，而非根据理论第一的原则来推导。

本文的首要目标是帮助你把大量数据转化为可用的知识。为此，我们将借助理论来重塑数据科学挑战的思考方式。但是，本文不是一本专门讨论引理、证明以及抽象理论细节的教科书。它为这样的读者而准备：他们希望获得一个重要的、成功的框架，用来建立有用的预测分析模型，从而为他们工作的组织以及他们服务的客户改善运营方式和提高盈利。同时务必了解，数据科学这项职业不适合那些缺乏好奇心或者技术能力的人，任何处理实证数据的职业也同样不适合。

在本文中，你会学到归纳推理与演绎推理的关键区别，确定学习问题的三大要素，以及发现使用归纳模型的一个明确框架。

1.1　归纳推理和演绎推理的基础

图1.1围绕着假设检验，展示了归纳法和演绎法之间的一个关键区别。两种方法都始于观察有趣的现象，但归纳方法更关心选择最佳的预测模型。而演绎方法更关心探索理论，主要是结合数据来检验某个理论的假设。根据经验数据的“有分量的证据”，来判断这个假设是接受还是拒绝。

技术分享图片

图1.1 归纳和演绎

1.1.1　你曾遇到过这些事情吗？

我想起在我听过的理论经济学课上，教授曾严厉警告：“不能信任数据。”也许，这种经历并不仅仅出现在我的课堂上。一位著名的计量经济学教授曾解释道1：“经济学中有一种普遍观点，如果当前的经验证据不可信，或经济现象无法预测，那么主要是因为经济太复杂，而且产生的数据太混乱，不适合建立统计模型。”或许，你也有过类似经历。

但是，当我离开课堂，步入了经验分析的真实世界，居然很快发现，只要给我足够的数据和适合的工具，使用数据驱动的归纳法会带给我意义重大的结论。

注意:在每个可以想到的领域——商业的、工业的以及政府的，成功的数据驱动的归纳模型都已经存在，或正在建立。数据决策的模型越来越多地用来制定决策，如可以识别你的语音的智能手机，又如实施外科手术的机器人2，再如核爆炸的检测。

1.1.2　释放归纳的力量

无论你是否在这些领域中工作，医疗诊断、手写体识别、市场、金融预测、生物信息学、经济学的领域，还是在其他任何要求经验分析的专业领域，你常常会面对这样的情况，潜在的首要原则尚未发现，或正在研究的系统过于复杂，无法通过充分详细的数学描述来提供有用的结果。我发现，数据驱动的归纳方法在以上所有情况中都有用，你也会认同这一点。

注意:在科学之外，演绎分析可能在经济学学科中占据了顶峰地位，其中大部分的焦点（甚至今天也一样）都围绕着检验和评估演绎理论的经济学有效性。事实上，经济学家对理论进行客观验证的渴望催生了新的统计学子学科—计量经济学。

1.1.3　推断的阴阳之道

尽管归纳和演绎的区别相当大，但它们实际上也可以互补使用。对于一个研究者来说，计划一个同时包含归纳元素和演绎元素的项目是非同寻常的。

如果你曾经或长或短地从事过经验建模领域的工作，那你很可能发现这种情况：你计划执行一个归纳或演绎的项目，但没想到随着时间的推移，你又发现了其他更适合的方法来阐明你的研究问题。需要牢记的是，归纳方法或演绎方法的使用，部分地依赖于你的数据分析目标。

注意：演绎推理优越性的相对下降，可以部分地由数据驱动模型的高度成功来解释。意大利学者马特奥·帕尔多（Matteo Pardo）和乔治·斯贝沃格里尼（Giorgio Sberveglieri）在十多年前正确地观察到6：“在当前，从遵循首要原则的经典建模到开发数据建模，发生了一种范式转换。”有趣的是，需要注意，现在数据建模者的短缺是世界性的问题7。

1.2　学习问题的三大要素

我们的讨论始于学习问题的基础。例如，有监督的分类问题，其中我们得到的数据是实值的属性—响应对（x，y）。三个元素组成了基本的学习问题。

（1）响应变量或目标变量有K种类别，技术分享图片。对于二元分类（K=2），我们通常假设，或者。

（2）假定属性（或特征）x和目标y之间存在着一种概率关系，这个关系可以通过一个未知的概率分布刻画：技术分享图片。

为什么要以概率术语指定x和y之间关系呢？因为实践中有观察不到的非确定性因素影响着这种关系。例如，在面包圈的烘焙中，温度、湿度、面粉的重量、面粉的质地、部件磨损等方面，轻微的变化都会影响制作的面包圈的质地、口感和质量。输出的变化反映了对未观测到的因素缺乏认识，并导致了x和y之间的概率关联。图1.2显示了这种情况，其中，给定x时y发生的条件概率捕捉了未观测到的因素的影响，写为技术分享图片。

技术分享图片

图1.2 学习问题的概率设定

（3）因为数据科学是一种内在的经验活动，所以我们还观察到了概率分布技术分享图片的一组样本，N个独立同分布（i.i.d）的数据对。独立性假设意味着每个新观测产生了新的相关信息。相同的分布意味着观测提供了关于潜在概率分布的固定但未知的信息。因此，给定一个i.i.d假设，可以在理论上构建一个一致的预测变量，其含义是，随着获得的数据越来越多，预测变量的预测值也越来越接近真实值。