Java读取Level-1行情dbf文件极致优化

Posted 2020-07-28 Binhua 的技术博客

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Java读取Level-1行情dbf文件极致优化相关的知识，希望对你有一定的参考价值。

最近架构一个项目，实现行情的接入和分发，需要达到极致的低时延特性，这对于证券系统是非常重要的。接入的行情源是可以配置，既可以是Level-1，也可以是Level-2或其他第三方的源。虽然Level-1行情没有Level-2快，但是作为系统支持的行情源，我们还是需要优化它，使得从文件读取，到用户通过socket收到行情，端到端的时延尽可能的低。本文主要介绍对level-1行情dbf文件读取的极致优化方案。相信对其他的dbf文件读取应该也有借鉴意义。

Level-1行情是由行情小站，定时每隔几秒把dbf文件（上海是show2003.dbf，深圳是sjshq.dbf）更新一遍，用新的行情替换掉旧的。我们的目标就是，在新文件完成更新后，在最短时间内将文件读取到内存，把每一行转化为对象，把每个列转化为对应的数据类型。

我们一共采用了6种优化方式。

优化一：采用内存硬盘（RamDisk）

内存硬盘可以极大地提高文件的读写速度，level-1行情的读写是应用内存硬盘的绝好情况：

1，我们可以把行情小站的行情文件地址配置在内存硬盘上。这样可以加速行情小站写文件的速度。

2，本系统再从内存硬盘读取，又可以加快读取速度。

3，内存硬盘掉电后会丢失文件，这里我们基本不在乎这个缺点，因为行情文件本来就是临时的，如果有持久化的需要，大部分内存硬盘也支持持久化的功能。

Windows上有很多虚拟内存硬盘的软件（本系统部署在windows服务器上，因为行情小站是在windows上的）。性能还是有差别的，我主要基于以下这篇文章《12 RAM Disk Software Benchmarked for Fastest Read and Write Speed》，自己再做了一点点测试，选择了Bond Disc这个软件。其地址是http://www.bonddisc.com/，使用挺简单的，这里就不详细介绍了。

测试下来，采用RamDisk读取并没有比从普通的硬盘读取快很多，可能是因为行情dbf文件本身就很小，只有1～2M，并且我们采用NIO形式的文件读取本身就比较快。但是使用RamDisk还是很有意义的 --

1，由于行情小站直接把dbf文件写入内存硬盘，可以加速不少。

2，如果在硬盘繁忙时，由于硬盘是串行的，采用内存硬盘在这种情况下可以避免瓶颈，保持稳定的读取低时延。

优化二：采用JNotify，用通知替代轮询

由于行情小站会不断的更新行情dbf文件，我们的系统需要探测到一旦行情文件被更新，就立即读取。传统的策略是不断轮询行情文件的状态，如果发现行情文件的最后修改日期（或者再加上文件大小）改变时，就认为文件被更新。但是这种方式既低效，时延又高且不稳定。假设即使把轮询时间设置为10ms一次（这意味着1秒钟就要轮询100次）, 平均时延也要5ms。

我们可以用通知来替代轮询。这里我们采用JNotify库，这个库的下载地址是：

http://jnotify.sourceforge.net/

JNotify库支持Windows，Linux和MacOS，允许我们监视一个文件夹，当这个文件夹下的文件被增删改时，发起回调通知。代码示例如下：

public void addWatcher(String hangqingFolder, String hangqingFile) throws Exception {

        // watch mask, specify events you care about,
        // or JNotify.FILE_ANY for all events.
        int mask = // JNotify.FILE_CREATED |
                    // JNotify.FILE_DELETED |
                JNotify.FILE_MODIFIED; // 我们只需要注册修改事件
        // JNotify.FILE_RENAMED;

        // watch subtree?
        boolean watchSubtree = false;

        // add actual watch

        watchId = JNotify.addWatch(hangqingFolder, mask, watchSubtree, new JNotifyListener() {

            public void fileRenamed(int wd, String rootPath, String oldName, String newName) {
                // do nothing.
            }

            public void fileModified(int wd, String rootPath, String name) {

                if (!hangqingFile.equalsIgnoreCase(name)) //如果是修改的其他文件，则忽略
                    return;
                
                readHangqingFile(hangqingFolder + File.separator + hangqingFile);

            }

            public void fileDeleted(int wd, String rootPath, String name) {
                // do nothing
            }

            public void fileCreated(int wd, String rootPath, String name) {
                // do nothing
            }
        });
    }