传统大数据存储的架构都有哪些?各有啥特点?

Posted 2023-03-24

参考技术A 数据时代，移动互联、社交网络、数据分析、云服务等应用的迅速普及，对数据中心提出革命性的需求，存储基础架构已经成为IT核心之一。政府、军队军工、科研院所、航空航天、大型商业连锁、医疗、金融、新媒体、广电等各个领域新兴应用层出不穷。数据的价值日益凸显，数据已经成为不可或缺的资产。作为数据载体和驱动力量，存储系统成为大数据基础架构中最为关键的核心。

　　传统的数据中心无论是在性能、效率，还是在投资收益、安全，已经远远不能满足新兴应用的需求，数据中心业务急需新型大数据处理中心来支撑。除了传统的高可靠、高冗余、绿色节能之外，新型的大数据中心还需具备虚拟化、模块化、弹性扩展、自动化等一系列特征，才能满足具备大数据特征的应用需求。这些史无前例的需求，让存储系统的架构和功能都发生了前所未有的变化。

基于大数据应用需求，“应用定义存储”概念被提出。存储系统作为数据中心最核心的数据基础，不再仅是传统分散的、单一的底层设备。除了要具备高性能、高安全、高可靠等特征之外，还要有虚拟化、并行分布、自动分层、弹性扩展、异构资源整合、全局缓存加速等多方面的特点，才能满足具备大数据特征的业务应用需求。

　　尤其在云安防概念被热炒的时代，随着高清技术的普及，720P、1080P随处可见，智能和高清的双向需求、动辄500W、800W甚至上千万更高分辨率的摄像机面市，大数据对存储设备的容量、读写性能、可靠性、扩展性等都提出了更高的要求，需要充分考虑功能集成度、数据安全性、数据稳定性，系统可扩展性、性能及成本各方面因素。

　　目前市场上的存储架构如下：

(1)基于嵌入式架构的存储系统

　　节点NVR架构主要面向小型高清监控系统，高清前端数量一般在几十路以内。系统建设中没有大型的存储监控中心机房，存储容量相对较小，用户体验度、系统功能集成度要求较高。在市场应用层面，超市、店铺、小型企业、政法行业中基本管理单元等应用较为广泛。

(2)基于X86架构的存储系统

　　平台SAN架构主要面向中大型高清监控系统，前端路数成百上千甚至上万。一般多采用IPSAN或FCSAN搭建高清视频存储系统。作为监控平台的重要组成部分，前端监控数据通过录像存储管理模块存储到SAN中。

　　此种架构接入高清前端路数相对节点NVR有了较高提升，具备快捷便利的可扩展性，技术成熟。对于IPSAN而言，虽然在ISCSI环节数据并发读写传输速率有所消耗，但其凭借扩展性良好、硬件平台通用、海量数据可充分共享等优点，仍然得到很多客户的青睐。FCSAN在行业用户、封闭存储系统中应用较多，比如县级或地级市高清监控项目，大数据量的并发读写对千兆网络交换提出了较大的挑战，但应用FCSAN构建相对独立的存储子系统，可以有效解决上述问题。

　　面对视频监控系统大文件、随机读写的特点，平台SAN架构系统不同存储单元之间的数据共享冗余方面还有待提高;从高性能服务器转发视频数据到存储空间的策略，从系统架构而言也增加了隐患故障点、ISCSI带宽瓶颈导致无法充分利用硬件数据并发性能、接入前端数据较少。上述问题催生了平台NVR架构解决方案。

　　该方案在系统架构上省去了存储服务器，消除了上文提到的性能瓶颈和单点故障隐患。大幅度提高存储系统的写入和检索速度;同时也彻底消除了传统文件系统由于供电和网络的不稳定带来的文件系统损坏等问题。

　　平台NVR中存储的数据可同时供多个客户端随时查询，点播，当用户需要查看多个已保存的视频监控数据时，可通过授权的视频监控客户端直接查询并点播相应位置的视频监控数据进行历史图像的查看。由于数据管理服务器具有监控系统所有监控点的录像文件的索引，因此通过平台CMS授权，视频监控客户端可以查询并点播整个监控系统上所有监控点的数据，这个过程对用户而言也是透明的。

(3)基于云技术的存储方案

　　当前，安防行业可谓“云”山“物”罩。随着视频监控的高清化和网络化，存储和管理的视频数据量已有海量之势，云存储技术是突破IP高清监控存储瓶颈的重要手段。云存储作为一种服务，在未来安防监控行业有着可观的应用前景。

　　与传统存储设备不同，云存储不仅是一个硬件，而是一个由网络设备、存储设备、服务器、软件、接入网络、用户访问接口以及客户端程序等多个部分构成的复杂系统。该系统以存储设备为核心，通过应用层软件对外提供数据存储和业务服务。

　　一般分为存储层、基础管理层、应用接口层以及访问层。存储层是云存储系统的基础，由存储设备(满足FC协议、iSCSI协议、NAS协议等)构成。基础管理层是云存储系统的核心，其担负着存储设备间协同工作，数据加密，分发以及容灾备份等工作。应用接口层是系统中根据用户需求来开发的部分，根据不同的业务类型，可以开发出不同的应用服务接口。访问层指授权用户通过应用接口来登录、享受云服务。其主要优势在于：硬件冗余、节能环保、系统升级不会影响存储服务、海量并行扩容、强大的负载均衡功能、统一管理、统一向外提供服务，管理效率高，云存储系统从系统架构、文件结构、高速缓存等方面入手，针对监控应用进行了优化设计。数据传输可采用流方式，底层采用突破传统文件系统限制的流媒体数据结构，大幅提高了系统性能。

　　高清监控存储是一种大码流多并发写为主的存储应用，对性能、并发性和稳定性等方面有很高的要求。该存储解决方案采用独特的大缓存顺序化算法，把多路随机并发访问变为顺序访问，解决了硬盘磁头因频繁寻道而导致的性能迅速下降和硬盘寿命缩短的问题。

针对系统中会产生PB级海量监控数据，存储设备的数量达数十台上百台，因此管理方式的科学高效显得十分重要。云存储可提供基于集群管理技术的多设备集中管理工具，具有设备集中监控、集群管理、系统软硬件运行状态的监控、主动报警，图像化系统检测等功能。在海量视频存储检索应用中，检索性能尤为重要。传统文件系统中，文件检索采用的是“目录-》子目录-》文件-》定位”的检索步骤，在海量数据的高清视频监控，目录和文件数量十分可观，这种检索模式的效率就会大打折扣。采用序号文件定位可以有效解决该问题。

　　云存储可以提供非常高的的系统冗余和安全性。当在线存储系统出现故障后，热备机可以立即接替服务，当故障恢复时，服务和数据回迁;若故障机数据需要调用，可以将故障机的磁盘插入到冷备机中，实现所有数据的立即可用。

　　对于高清监控系统，随着监控前端的增加和存储时间的延长，扩展能力十分重要。市场中已有友商可提供单纯针对容量的扩展柜扩展模式和性能容量同步线性扩展的堆叠扩展模式。

　　云存储系统除上述优点之外，在平台对接整合、业务流程梳理、视频数据智能分析深度挖掘及成本方面都将面临挑战。承建大型系统、构建云存储的商业模式也亟待创新。受限于宽带网络、web2.0技术、应用存储技术、文件系统、P2P、数据压缩、CDN技术、虚拟化技术等的发展，未来云存储还有很长的路要走。

微型的操作系统都有哪些各有啥特点？

微型操作系统（Micro Operating System，Micro OS）是指占用资源极少、适用于嵌入式设备等小型系统的操作系统。常见的微型操作系统有以下几种：

1.Contiki：Contiki是一个开源的、基于C语言的微型操作系统，适用于无线传感器网络和物联网等小型系统。它的特点是占用内存和处理器资源很少，支持IPv6和6LoWPAN等网络协议。

2.TinyOS：TinyOS是另一个适用于嵌入式设备的开源微型操作系统，主要用于无线传感器网络和物联网应用。它的特点是占用资源少，支持事件驱动和组件化编程模型。

3.FreeRTOS：FreeRTOS是一个开源的、用于嵌入式系统的实时操作系统。它的特点是占用资源较少，支持多种处理器架构和编程语言，适用于需要实时性和可靠性的应用。

4.RIOT：RIOT是一个开源的、基于C语言的微型操作系统，适用于物联网和嵌入式设备等小型系统。它的特点是占用资源少，支持多种网络协议和硬件平台。

5.NuttX：NuttX是一个开源的、用于嵌入式系统的实时操作系统，支持多种处理器架构和编程语言。它的特点是占用资源较少，支持可定制的内核配置和可插拔的驱动程序。

这些微型操作系统各自有其特点，可以根据实际应用场景选择最适合的操作系统。 参考技术A 微型操作系统是指占用资源较少、体积小巧的操作系统，通常用于嵌入式设备和物联网等场景。以下是几种常见的微型操作系统及其特点：

1. FreeRTOS

FreeRTOS 是一款开源实时操作系统，适用于多种处理器架构，并且具有高度可移植性。它采用了轻量级任务调度算法，支持多任务并发执行，并提供了完整的内存管理机制。

2. uC/OS-II

uC/OS-II 是一款商业实时操作系统，也可以免费使用非商业目的。它具有高效稳定、易于移植等特点，在工控、汽车电子等领域得到广泛应用。

3. TinyOS

TinyOS 是一个专门为无线传感器网络设计的开源操作系统，主要针对低功耗设备进行优化。它采用基于事件驱动的编程模型，在保证能耗低廉和数据安全性方面表现出色。

4. Contiki OS

Contiki OS 也是一个专门为 IoT 设备设计的开源操作系统，支持 IPv6 网络协议栈和 RPL 路由协议，并且拥有自己独特的 Cooja 模拟器来帮助用户测试代码。

5. RIOT OS

RIOT OS 是另一个适合 IoT 设备使用的开源实时操作系统，支持多个处理器架构和各种网络接口，并且提供了灵活而强大的 API 接口以便用户进行二次开发。

这些微型操作系统都具有不同程度上节省资源、快速启动、可靠稳定等优点，在嵌入式设备和 IoT 领域中得到广泛应用。 参考技术B 微型操作系统是指占用资源较少、体积小巧的操作系统，通常应用于嵌入式设备和物联网等领域。以下是几种常见的微型操作系统及其特点：

1. FreeRTOS：FreeRTOS 是一个开源实时操作系统，具有高度可移植性、低延迟和低功耗等特点，适合于嵌入式设备。

2. Contiki：Contiki 是一个轻量级的开源网络协议栈和操作系统平台，支持 IPv6 和 RPL 等新一代互联网标准，并提供了丰富的网络应用程序接口。

3. TinyOS：TinyOS 是一个专门为无线传感器网络设计的开源操作系统，具有极低的能耗、高效率和灵活性等优势，在智能家居、环境监测等领域得到广泛应用。

4. μC/OS-II：μC/OS-II 是一款商业化实时内核软件产品，可以在多种处理器上运行，并提供了完整而稳定的 API 接口库。

这些微型操作系统都有着不同程度上的优缺点，在选择使用时需要结合具体需求进行评估。 参考技术C 微型操作系统通常是一种轻量级的操作系统，用于嵌入式系统、物联网设备、智能家居等小型设备中。常见的微型操作系统包括Contiki、TinyOS、FreeRTOS、Riot等。这些操作系统都具有以下特点：
1. 低功耗：微型操作系统通常需要在低功耗的环境下运行，它们的设计目标是在能够满足设备需求的同时将功耗最小化；
2. 实时性：对于某些物联网设备或嵌入式系统来说，实时性非常重要，微型操作系统具备管理硬件资源，实现快速响应、快速交互的功能；
3. 轻量级：微型操作系统通常非常小巧，占用空间小，资源占用率低，可以运行在较为简单的处理器和存储器上；
4. 开源：许多微型操作系统是开源的，开放了源代码，方便用户进行修改和优化。 参考技术D 微型操作系统是一种体积小、功能简单、性能高效的操作系统，常用于嵌入式系统、物联网设备、智能家居等领域。常见的微型操作系统有多种，例如：

1. FreeRTOS：高效、可靠、灵活，支持多种处理器架构和嵌入式系统。

2. µC/OS：可裁剪、可移植性强、支持多任务，使用广泛。

3. RT-Thread：实时性好、易移植、支持多种处理器和外设，使用广泛。

4. TinyOS：功能精简、可靠性高、内存占用小，主要用于传感器网络和低功耗设备等。

这些微型操作系统各有各的特点，可以根据具体的应用场景和需求选择合适的操作系统。