从零开始开发IM（即时通讯）服务端

Posted 2022-10-01 yuanrw

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了从零开始开发IM（即时通讯）服务端相关的知识，希望对你有一定的参考价值。

好消息：IM1.0.0版本已经上线啦，支持特性：

私聊发送文本/文件
已发送/已送达/已读回执
支持使用ldap登录
支持接入外部的登录认证系统
提供客户端jar包，方便客户端开发
github链接： https://github.com/yuanrw/IM

前言

首先讲讲IM（即时通讯）技术可以用来做什么：
聊天：qq、微信
直播：斗鱼直播、抖音
实时位置共享、游戏多人互动等等
可以说几乎所有高实时性的应用场景都需要用到IM技术。

本篇将带大家从零开始搭建一个轻量级的IM服务端，麻雀虽小，五脏俱全，我们搭建的IM服务端实现以下功能：

一对一的文本消息、文件消息通信
每个消息有“已发送”/“已送达”/“已读”回执
存储离线消息
支持用户登录，好友关系等基本功能。
能够方便地水平扩展

通过这个项目能学到什么？

这个项目涵盖了很多后端必备知识：

rpc通信
数据库
缓存
消息队列
分布式、高并发的架构设计
docker部署

消息通信

文本消息

我们先从最简单的特性开始实现：一个普通消息的发送
消息格式如下：

message ChatMsg
    id = 1;
    //消息id
    fromId = Alice
    //发送者userId
    destId = Bob
    //接收者userId
    msgBody = hello
    //消息体

技术图片
如上图，我们现在有两个用户：Alice和Bob连接到了服务器，当Alice发送消息message(hello)给Bob，服务端接收到消息，根据消息的destId进行转发，转发给Bob。

发送回执

那我们要怎么来实现回执的发送呢？
我们定义一种回执数据格式ACK，MsgType有三种，分别是sent（已发送）,delivered（已送达）, read（已读）：

message AckMsg 
    id;
    //消息id
    fromId;
    //发送者id
    destId;
    //接收者id
    msgType;
    //消息类型
    ackMsgId;
    //确认的消息id


enum MsgType 
    DELIVERED;
    READ;

当服务端接受到Alice发来的消息时：

向Alice发送一个sent(hello)表示消息已经被发送到服务器。

message AckMsg 
    id = 2;
    fromId = Alice;
    destId = Bob;
    msgType = SENT;
    ackMsgId = 1;

技术图片

服务器把hello转发给Bob后，立刻向Alice发送delivered(hello)表示消息已经发送给Bob。

message AckMsg 
    id = 3;
    fromId = Bob;
    destId = Alice;
    msgType = DELIVERED;
    ackMsgId = 1;

技术图片

Bob阅读消息后，客户端向服务器发送read(hello)表示消息已读

message AckMsg 
    id = 4;
    fromId = Bob;
    destId = Alice;
    msgType = READ;
    ackMsgId = 1;

这个消息会像一个普通聊天消息一样被服务器处理，最终发送给Alice。
技术图片

在服务器这里不区分ChatMsg和AckMsg，处理过程都是一样的：解析消息的destId并进行转发。

水平扩展

当用户量越来越大，必然需要增加服务器的数量，用户的连接被分散在不同的机器上。此时，就需要存储用户连接在哪台机器上。
我们引入一个新的模块来管理用户的连接信息。

管理用户状态

技术图片

模块叫做user status，共有三个接口：

public interface UserStatusService 

    /**
     * 用户上线，存储userId与机器id的关系
     *
     * @param userId
     * @param connectorId
     * @return 如果当前用户在线，则返回他连接的机器id，否则返回null
     */
    String online(String userId, String connectorId);

    /**
     * 用户下线
     *
     * @param userId
     */
    void offline(String userId);

    /**
     * 通过用户id查找他当前连接的机器id
     *
     * @param userId
     * @return
     */
    String getConnectorId(String userId);

这样我们就能够对用户连接状态进行管理了，具体的实现应考虑服务的用户量、期望性能等进行实现。
此处我们使用redis来实现，将userId和connectorId的关系以key-value的形式存储。

消息转发

除此之外，还需要一个模块在不同的机器上转发消息，如下结构：
技术图片

此时我们的服务被拆分成了connector和transfer两个模块，connector模块用于维持用户的长链接，而transfer的作用是将消息在多个connector之间转发。
现在Alice和Bob连接到了两台connector上，那么消息要如何传递呢？

Alice上线，连接到机器[1]上时
- 将Alice和它的连接存入内存中。
- 调用user status的online方法记录Alice上线。
Alice发送了一条消息给Bob
- 机器[1]收到消息后，解析destId，在内存中查找是否有Bob。
- 如果没有，代表Bob未连接到这台机器，则转发给transfer。
transfer调用user status的getConnectorId(Bob)方法找到Bob所连接的connector，返回机器[2]，则转发给机器[2]。