分布式商业|民生银行牛新庄:分布式架构为银行科技金融打下坚实基础
Posted 金融科技研究
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了分布式商业|民生银行牛新庄:分布式架构为银行科技金融打下坚实基础相关的知识,希望对你有一定的参考价值。
中国民生银行信息科技部总经理 牛新庄
▲传统银行架构的问题和分布式架构的特点
随着社会信息化的快速发展,金融服务呈现出海量用户增加,个性产品定制、实时风控决策、快速敏捷响应等新特征,这对银行信息系统架构提出了更高的要求。而传统的IOE技术架构,已无法满足未来科技金融银行发展的要求。一是以业务部门或业务系统为维度,导致系统数量多、分散、独立,数据共享度低,应用模式无法满足整体IT战略发展需要。二是缺乏灵活的水平伸缩能力,性能瓶颈明显,且容易碰到硬件信息的天花板,进而制约业务发展。三是不能快速应对瞬时爆发的海量请求,特别是秒杀、促销等爆发的瞬时海量交易。四是典型的重资产模式,采购成本高,维护成本高。五是缺乏自主掌控,高度依赖供应商支持,加重了科技研发压力,加大了生产运行风险,无法快速响应市场变化,限制了业务模式创新。
与传统IOE架构形成鲜明对比的分布式架构体系,自2004年以来由互联网应用需求推动,逐步发展成熟,并在互联网大型应用服务中获得了充分验证。该架构以分布式计算框架和分布式数据存储为基础,支持大规模、突发性、高并发场景,能够以低成本,快速应对亿级用户数和PB级数据量的应用场景。近些年银行业对分布式技术的研究和技术积累,使得构建基于分布式架构的核心业务系统成为科技金融银行发展的必然选择。
▲民生银行分布式架构特点
2018年1月28日,民生银行历时近4年自主研发的分布式核心金融云平台成功上线,完成了直销银行系统全部1200万电子账户迁移,建立了分布式金融云双活灾备体系,成为国内首家成功上线分布式核心账户系统的银行。民生分布式金融云上线3个多月来运行平稳,日均交易量1100万笔,响应时间稳定在50毫秒以内,业务处理效率较原核心系统提升3倍以上,达到了分布式核心项目的预期目标,为下一阶段业务系统大规模接入做好充分准备。
基于分布式金融云的有力支撑,民生银行科技支撑能力进一步提升,近3个月来,先后上线了基于分布式架构的新一代零售信贷体系,基于大数据和人工智能的智能投顾1.0系统,丰富移动生活场景的手机银行APP4.0,以及提升全行办公效率的智能移动办公云平台等重要系统。同时小微3.0、新供应链金融、远程银行等重点项目和数据治理等工作也在积极推进,全力建设民生科技金融银行。
特点一:兼顾降本增效、海量接纳。与传统银行系统架构相比,民生银行分布式架构兼顾了“降本增效”和“海量接纳”的特性,大幅提高业务效益,提升了银行科技金融的核心竞争力,为客户提供高可靠性、高稳定性、高安全性的服务。主要表现在以下几方面:第一,支持十亿级客户的规模,突破核心系统瓶颈;第二,核心业务单功能点降低为按周交付,能够更快响应业务需求,提高交付速度;第三,系统性能及稳定性数量级提升,客户体验及服务质量极大提升;第四,单账户成本大幅降低,预计每年可节省运营成本近亿元。
分布式核心系统参考互联网技术架构优点,基于微服务架构和云原生应用的设计理念,采用分层架构设计,运行在x86服务器上,同时支持虚拟化部署,扩展性良好;采用读写分离和分库分表等方式的数据分布式处理,结合使用分布式缓存和支撑异步处理的消息中心,有效提升系统响应速度和吞吐量;通过采用分布式批处理框架,大幅提升批处理效率,支持海量账户的日终批量处理;应用服务器和数据库服务器采用同城双活模式确保系统的可靠性。
特点二:平台与应用有机整合。民生银行分布式技术平台以开源为基础实现了一整套的分布式框架及中间件,以支持符合金融业务要求,满足海量数据、高并发、高可用、高可靠和横向弹性扩展的银行应用功能。根据分布式的CAP理论,一致性、可用性、分区容错性不可兼得。为满足银行业务对交易处理的苛刻要求,民生银行的分布式技术平台首先保证了可用性和分区容错性,然后通过分布式事务、消息中心保证了基于可靠消息的最终一致性,通过消息中心、统一冲正与全局序列保证交易的幂等一致性。
围绕银行核心系统特点,民生银行分布式技术平台具有九大功能:一是通过分库分别和读写分离实现分布式数据访问功能;二是基于可靠消息的最终一致性和基于冲正模型的反向处理实现分布式事务功能;三是通过RPC服务框架、服务访问控制与限流、服务跟踪实现分布式服务框架与服务治理功能;四是通过分布式的作业调度和多种容错策略保证分布式批量作业调度功能;五是通过集中配置管理支持一份代码多份部署功能;六是通过消息中心实现可靠消息发送与接收和消息幂等性功能;七是通过分布式缓存提高性能、降低DB负载;八是通过统一冲正与全局序列实现交易幂等一致性功能;九是实现开发运维一体化,基于Docker容器,支持弹性扩容。
分布式中间件平台是民生分布式架构里的核心功能,如图1所示,平台分为服务接入层,应用层和数据层。在服务接入层,外围系统通过APIGateway实现服务的安全与访问控制,包括交易幂等性、服务授权、服务限流等。在应用层,一是高性能的服务框架支持微服务架构,实现应用服务弹性伸缩;二是通过配置中心统一存储配置,实现配置信息多版本、多环境管理,支持配置信息推送与动态变更;三是通过消息中心解耦应用,实现高可靠消息发送,提高系统吞吐量,应对瞬间峰值;四是分布式批量框架提供分布式计算能力,支持批量作业的高效执行。在数据层,首先通过分布式数据服务支持核心数据的读写分离、分库分表,实现核心数据弹性伸缩;其次通过分布式缓存提升系统性能,降低数据库访问压力。整个分布式架构适用不同业务场景的多种分布式事务处理模型,同时构建了基于大数据的分布式日志手机分析与统一的监控预警平台。基于Docker技术的DevOps平台,实现多发布环境隔离、应用的滚动升级与发布。
图1 民生银行分布式技术架构
银行核心系统是银行交易和账户处理的中心,是银行信息系统架构的最关键的环节,民生银行基于分布式架构的存款核心系统通过组件化分层保证了账务数据强一致性。第一层为协议处理层,提供Dubbo服务,WebService服务、服务治理、服务跟踪、服务参数验证、服务幂等性。第二层为服务组装层,实现单一服务透传、服务编排、公共服务/API、异常机制和分布式事务控制。第三层为原子服务层,包括公共原子服务、业务原子服务、工具类/API、序列号和消息中心。第四层为持久化层,提供分布式数据访问和分布式缓存机制(如图2所示)。
图2 民生银行分布式核心应用分层架构
特点三:自动化和智能化的运维管理。分布式架构使运维面临服务层次更复杂、调用关系更复杂、系统状态更复杂的挑战。针对分布式架构设备多、应用多、服务多、配置多的特点,民生银行研发了运维支撑体系,建设了十大运维自动化工具,来保障运维有条不紊的进行。一是运维管理集中化,包括分布式管控平台进行服务治理、运维视点平台进行应用查询、集中监控平台集中管理硬件/OS/DB/网络;二是运维操作自动化,包括分布式DevOps平台确保持续交付,灾备自动化指挥平台保障机房切换;三是应用排错可视化,包括交易监控平台实现实时交易分析、OnPlat全景运维平台实现实时链路分析、云图系统实现运维架构可视化;四是服务跟踪智能化,包括一眼清平台进行日志分析、ZIPKIN平台实现服务跟踪。
▲发挥分布式架构效能,加速科技金融银行建设
1.契合科技金融战略转型,提升民生银行品牌影响力。分布式核心金融云对实现向“科技金融”转型的战略目标有重大现实意义,有助于在激烈竞争环境下保持领先优势,提升研发创新效能,改善客户服务质量,增强经营管理能力,扩大民生银行“勇于创新、锐意进取”的品牌形象和影响力。
2.降低科技成本支出,提升民生银行利润空间。在同等处理能力的情况下,分布式核心金融云大幅降低了软硬件投入成本。硬件方面,从IOE架构向X86服务器转型,使投入的硬件成本仅为之前的15%;软件方面,采用开源技术的分布式核心系统每年可节约90%的维护费用。
3.积累业内领先的技术成果,打造一流的科技人才团队。分布式核心金融云突破银行账务强一致性和系统高并发性、大数据量等方面的技术难题,完成了技术架构的历史性转型。目前已通过复杂场景近7000TPS的性能测试,远远突破原核心系统的性能极限,并且仍可线性扩展,处理能力处在行业内领先地位。相关研究成果获得了银行业信息科技风险管理课题研究成果一类证书(2016年)、人民银行颁发的银行科技发展二等奖(2017年)等重要奖项,同时累计申请了11项技术创新专利,为民生科技金融银行建设奠定了关键的能力基础。
4.自主掌控核心技术,为科技金融战略奠定及技术基础。分布式核心金融云是民生科技运用分布式技术的成功典范,为将来更大范围推广分布式技术积累了丰富的实践经验和技术标准。项目中关于分布式缓存、消息中间件等关键技术已经形成了民生银行软件开发标准,分布式平台为行内其他系统进行分布式改造提供基础环境,成为民生金融科技的重要基础技术平台。
▲持续推进分布式架构转型建设
未来3年,围绕全行科技金融银行战略规划,分布式金融云平台将为全行智能化金融产品和服务创新提供有力的科技保障。民生银行将按照统一规划、分步实施、持续改进的原则,业务上先简后繁,技术上先难后易,持续推进分布式架构转型。一方面是全行重要系统的分布式改造。2018年计划完成手机银行、公司与零售场景、支付、大数据等核心平台的分布式化改造;2019年计划完成网银等其他渠道体系、场景应用体系、支付核心和核心数据应用的分布式化改造;2020年将推进分布式架构全面化实施。另一方面,全行业务场景的分布式支持。重点在金融支付、小微金融、供应链金融等业务领域,运用分布式平台的强大整合能力,快速满足“客群分类分层经营”的个性化生活场景,提升业务产品创新能力,增强市场竞争力
(来源:《金融电子化》)
“金融科技50人论坛”(CFT50)于2017年4月22日在北京发布成立。CFT50汇聚了国内金融科技一线的监管层人士、专家学者和企业领袖,共同探究前沿课题、促进产业实践,为中国金融科技的发展贡献力量。论坛紧密围绕国家金融发展战略与市场趋势,努力建设成为服务于“政产学研用”的优秀金融科技学术平台,并积极推动金融科技领域的国际交流与协作。
以上是关于分布式商业|民生银行牛新庄:分布式架构为银行科技金融打下坚实基础的主要内容,如果未能解决你的问题,请参考以下文章
分布式架构 | 民生银行牛新庄:轻量级分布式核心产品分享(内附下载)
新核心建设那些事丨攻坚克难,向分布式架构要效益——民生银行分布式核心系统建设历程