Azure 数据资源管理器与 Azure Synapse Analytics(又名 SQL DW)
Posted
技术标签:
【中文标题】Azure 数据资源管理器与 Azure Synapse Analytics(又名 SQL DW)【英文标题】:Azure Data Explorer vs Azure Synapse Analytics (a.k.a SQL DW) 【发布时间】:2021-03-18 20:47:42 【问题描述】:我为一家大型物联网公司设计数据管理策略。我们的用例相当典型,我们采集大量数据,对其进行分析,然后生成数据集,客户可以查询这些数据集以了解他们需要的洞察力。
我正在查看 Azure 数据资源管理器和 Azure Synapse Analytics(又名 Azure SQL 数据仓库)的数据仓库端,并发现了许多共同点。是的,它们在后端使用不同的语言和不同的查询引擎,但两者都充当客户用来大规模查询只读数据的“服务层”。 我找不到微软关于如何在两者之间进行选择的任何明确指导,或者将它们一起使用是否有意义?在这种情况下,每种服务的最佳用例或数据类型是什么?
如果你能启发我,请在这里分享你的想法。如果您知道有关此事的一些指导,请回复链接。
【问题讨论】:
【参考方案1】:经典的和现代的数据仓库模式首先涉及设计一个精心策划的数据模型,其中包含记录的实体及其属性,创建一个预定的 ETL 管道,将大小的原始数据转换和聚合到数据模型中。然后你加载并服务它。当在整个企业中使用这些实体时,精选数据模型提供了稳定性、一致性和可靠性。
Azure 数据资源管理器被设计为用于遥测的分析数据平台。在此工作负载中,您不会首先聚合数据,而是实际上将其保持在接近原始格式的位置,因为您不想丢失数据。它允许您处理安全攻击、故障、竞争行为以及一般未知数的意外性质,因为它允许从不同角度查看新的原始数据并提供很大的灵活性。 这就是为什么 Azure 数据资源管理器是 Microsoft 遥测的存储,也是一组不断增长的分析解决方案,例如:Azure Monitor、Azure 安全中心、Azure Sentinel、Azure 时序洞察、IoT Central、PlayFab 游戏分析、Windows Intune 分析、客户洞察、Teams 教育分析等。 提供对原始数据的高性能分析,以及对文本、半结构化和结构化数据的读取模式功能。 出于同样的原因,我们的很多合作伙伴和客户正在采用 ADX。 查看详细描述这些概念的概述webinar。
Azure Synapse Analytics 打包了 SQL DW、ADF 和 Spark,使所有数据仓库模式组件高度集成,并且更易于使用和管理。正如我们在Azure Data Explorer Virtual Event 上的announced 一样,Azure 数据资源管理器正在与 SQL 和 Spark 池一起集成到 Azure Synapse Analytics 中,以满足遥测工作负载 - 对高速、大容量、多品种数据的实时分析。
查看一些物联网案例Buhler、戴姆勒video、story、Bosch、AGL,还有更多领先的物联网平台正在为此目的采用 Azure 数据资源管理器。如果您需要更多帮助,请联系我们。
【讨论】:
以上是关于Azure 数据资源管理器与 Azure Synapse Analytics(又名 SQL DW)的主要内容,如果未能解决你的问题,请参考以下文章
Azure云端部署Exchange 2016双数据中心—Part2(Azure环境准备)