十年磨一剑,匠心打造中国人自己的网络编程架构t-io

Posted wx61387103d6983

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了十年磨一剑,匠心打造中国人自己的网络编程架构t-io相关的知识,希望对你有一定的参考价值。

中国人拥有了完全自主的高性能网络编程框架t-io。

通过十多年对底层技术的潜心研究,终于打磨出中国人自己的完全自主的开源网络编程软件t-io。

1、什么是t-io

t-io是基于java开发的一个开源的网络编程架构,大家都知道现在手机上或者电脑上都装了很多APP,这些APP都不是一个个在手机上或电脑上孤立的使用,而是能访问其他的地方数据或者与其他节点进行实时通信,故每个APP中都要有一个对外进行通信的模块,这块内容从编程的角度来看就能通过网络编程框架来实现,t-io就是完成这块的内容的最好的编程软件。

软件开发人员要开发一个新的应用,对于软件中的通信模块如果使用tio就不要专门开发新的通信模块,这样节省了开发时间,可以专注于打磨软件中的其他内容,而且即使自己开发类似的对外通信的网络架构,也不一定能达到使用t-io的通信效果,我们知道一个好的流行的APP可能同时访问的人非常多,几十万、几百万、甚至几千万上亿同时访问,这样对于网络架构的设计就非常关键,如果设计不好就可能满足不了这样大的用户同时访问APP,如果出现这么大的访问量,可能导致死机,通信中断,通信太慢等等情况。

t-io经过创始人谭先生的精心打磨,性能超强,已经达到运营的的级别,用t-io写的程序每秒能处理1000+万条消息,1.9G内存能够支撑30万TCP长连接。

每秒处理1051万条消息:

1.9G内存支撑30万TCP长连接:

测试现场一:https://www.tiocloud.com/41

测试现场二:https://www.tiocloud.com/61​​​

基于tio开发的即时通讯软件谭聊,目前是业界性能最强的全开源销售即时通讯软件。

https://www.tiocloud.com/2/product/tm.html​​

2、APP中的数据在网络中的传输

了解网络中的数据传输,能更好的理解t-io在软件中的作用,APP中的应用数据要在网络中传输,也必须要严格遵守OSI或者TCP/IP协议按照封装的要求进行分片打包,才能在IP网络中传输,所以先了解一下OSI和TCP/IP的相关数据包的封装和解封装过程。

OSI和TCP/IP的分层协议栈对应关系

OSI和TCP/IP协议栈每层对应的协议和应用

Socket位于TCP/IP协议栈中的位置

Socket是应用层与TCP/IP协议族通信的中间软件抽象层,它是一组接口。在设计模式中,Socket其实就是一个门面模式,它把复杂的TCP/IP协议族隐藏在Socket接口后面,对用户来说,一组简单的接口就是全部,让Socket去组织数据,以符合指定的协议。

从以上图示可以知道tio完成的功能属于传输层和应用层之间的封装,以及和链接的建立。

下面说明tio在软件中的具体使用过程:

APP要完成设计的各项功能,必须在客户端和服务端之间先建立有连接或者无连接交互通信链路,然后再在这条链路上传输数据,t-io就能完成这个链路的建立。​

APP应用交互节点部署

APP通信具体实现逻辑图

物理层,指的是电信号的传递方式,透明的传输比特流。 

链路层,在两个相邻结点间的线路上无差错地传送以帧为单位的数据。

网络层,负责为分组交换网上的不同主机提供通信,数据传送的单位是分组或包。

传输层,负责主机中两个进程之间的通信,数据传输的单位是报文段。

网络层负责点到点(point-to-point)的传输(这里的“点”指主机或路由器),而传输层负责端到端(end-to-end)的传输(这里的“端”指源主机和目的主机)。

数据传输到对方,必须先按照TCP/IP协议进行封装,封装成一个标准的链路层包后,然后通过物理层传输到对方后,对方再进行解封装,取出应用层数据。​

从以上讲解的APP的通信过程中知道,如果各种应用在开发过程中调用t-io则,不用开发相关的网络通信方面的模块,更多的时间和精力专注于具体应用功能的开发,这样省时、省力,加速应用的上市。

3、t-io的核心模块

t-io包含框架实现的核心模块tio-core,还有tio-websocket-server、tio-http-server、tio-udp-server、tio-webpack-core、tio-flash-policy-server等,后面所列都是基于tio-core开发的应用层组件。

tio-core:基于java aio开发的网络编程框架。使用示例:tio-study。

tio-websocket-server:基于tio-core开发的websocket服务器。使用示例:tio-websocket-showcase。

tio-http-server:基于tio-core开发的http服务器。使用示例:tio-http-server-showcase。

tio-udp-server:基于tio-core开发的udp服务器。使用示例:tio-udp-showcase。

tio-websocket-client:基于tio-core开发的websocket客户端。

tio-webpack-core:基于tio-core开发的js/css/ht ml编译压缩工具。

4、t-io功能介绍

TCP Server&Client:

1)编解码处理:源文件为AioHandler.java

2)启动:源文件为Tioserver.java/TioClient.java

3)各种事件处理:源文件为AioListener.java

4)TCP连接上下文:源文件为ChannelContext.java

5)实用方法:源文件为Tio.java

6)全局配置:源文件为TioConfig.java

HTTP Server:

完整的实现了HTTP 1.1,t-io内部也大量使用了tio-http,POM引入

Websocket Server:

完整的实现了Websocket协议,t-io内部也在大量使用tio-websocket,POM引入

UDP Server&Client:

流量监控和统计:

目前唯一一个内置完整流量监控和统计的网络框架

同步消息:

指A给B发送一条消息后,A在原线程中等待B给出一条对应的响应消息,用其它网络框架实现这样的功能,需要开发人员精通多线程协作,极易产生死锁,而t-io已经内置了发送同步消息的能力,使用也非常简单。

心跳检查:

t-io内置了检测心跳超时的任务,当发现某连接在指定时间内没有发生任何数据收发,则断开该连接。

心跳发送:

t-io内置了发送心跳消息的任务,用于判断连接状态。

集群功能:

企业版t-io(集群版)内置了集群能力,用户只需要在启动的时候加几行配置代码,便能轻松拥有集群能力,这时可同时支撑1亿+长连接。

集群服务器路由

集群架构中,各台服务器之间有完整的路由信息完成服务器之间的业务交互。

集群架构中的消息路由

集群业务中有各种路由来指导业务消息发送相关的业务节点。

协议适配

t-io内置了协议适配能力,让一套业务代码可同时支持多个协议,这样能避免重复开发,重复测试,重复BUG。

并发数据结构:

t-io自创了大量数据结构,将并发编程难度降到最低,主要包含:

ObjWithLock,ListWithLock,CollectionWithLock,SetWithLock,MapCollectionWithLock,MapListWithLock,MapSetWithLock,MapWithLock

半包粘包:

框架层已经做好半包和粘包的工作,业务层不需要考虑在传输过程中的数据包的结构,只需要按着业务协议解码即可。

自动重连:

用t-io作为TCP客户端时,内置了自动重连功能,用户只需要在启动时,配置ReconnConf 对象即可,如果业务自己实现自动重连,至少要浪费高级工程师5-10个工作日来完成该功能。

SSL功能:

SSL(Secure Sockets Layer 安全套接字协议)协议位于TCP/IP协议与各种应用层协议之间,为数据通讯提供安全支持,而t-io内置支持SSL,只需要一行代码:

serverTioConfig.useSsl("/cert/xxx.jks", "/cert/xxx.jks", "password");

IP拉黑

拉黑某个IP的时候,t-io会自动把该IP下的连接全部断开,并且不再接受来自该IP的连接,直到业务把该IP从黑名单中解除。结合t-io的监控数据,可以很方便地实现自动拉黑能力。

锁工具:

为了更便捷地利用读写锁,t-io提供了一个被用户称为“出神入化”的锁工具类,将锁使用的出错率降至最低,锁用不好,对项目就是灾难,如果业务项目中大量使用这些t-io提供的锁工具,既高效又不易出错。

缓存工具:

t-io在第三方专业缓存的基础上,封装了两级缓存,同时提供了一个缓存工具类,用一套编程接口便可在多种缓存间自由切换,t-io内部大量使用了这些缓存工具,将性能发挥到极致。

群组管理:

将多个TCP连接关联到一个或者多个群组(多对多),这样就能很容易实现上层业务的群组管理功能,可以实现一对一或者一对多的群业务。

用户管理

将一个TCP连接关联到一个用户(一对多)

Token管理:

将一个TCP连接关联到一个Token(一对多)

业务ID管理:

将一个TCP连接关联到一个业务ID(一对一)

IP管理:

一个TCP连接对应一个客户端IP(一对多)

ID管理:

一个TCP连接自动产生一个唯一ID(一对一)

5、t-io使用案例

保守估算,正在使用t-io的企业有10000+,并且还在不断增加中,以下仅展示部分使用过t-io或购买过t-io授权的公司。

更多案例,请参考:https://www.tiocloud.com/2/case/index.html

以上是关于十年磨一剑,匠心打造中国人自己的网络编程架构t-io的主要内容,如果未能解决你的问题,请参考以下文章

匠心打造Vue侧滑菜单组件

匠心打造Vue侧滑菜单组件

九州云Animbus匠心之路,打造一主两翼三航道产品矩阵

精彩演讲推荐|智能化变更防控方法架构与组织实践

学习 lodash 源码整体架构,打造属于自己的函数式编程类库

杉岩数据:海量智能存储,打造新基建数字底座