CYQ.Data V5 分布式自动化缓存设计介绍

Posted 路过秋天

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CYQ.Data V5 分布式自动化缓存设计介绍相关的知识,希望对你有一定的参考价值。

前言:

最近一段时间,开始了《IT连》创业,所以精力和写的文章多数是在分享创业的过程。

而关于本人三大框架CYQ.Data、Aries、Taurus.MVC的相关文章,基本都很少写了。

但框架的维护升级,还是时不时的在进行中的,这点从开源的Github上的代码提交时间上就可以看出来了。

毕竟《IT连》的后台WebAPI,用的是Taurus.MVC,后台系统管理用的是Aries。

不过今天,就不写创业相关的文章了,先分享篇技术类的文章。

CYQ.Data 分布式自动缓存

之前写过一篇:CYQ.Data V5 分布式自动化缓存设计介绍

在上一篇里,基本情况和思路,已经介绍的很清楚,这里就简单补充2点:

1:自动缓存默认是开启状态的,相关控制和配置如下:

需要全局关闭时:

可以在应用程序启动时的入口用代码:

AppConfig.Cache.IsAutoCache=false;

或者app.config、web.config配置:

<appSettings>
    <add key="IsAutoCache" value="false"/>
</appSettings>

需要代码局部关闭时:

using (MAction action = new MAction("表名"))
{
     action.SetAopState(CYQ.Data.Aop.AopOp.OnlyOuter);//关闭自动缓存并保留Aop
}

用代码控制清除表缓存时:

string key= CacheManage.GetKey(CacheKeyType.AutoCache, "表名");
CacheManage.Instance.Remove(key);

其它控制的配置项:

            /// <summary>
            /// AutoCache开启时,可以设置不缓存的Table,多个用逗号分隔
            /// </summary>
            public static string NoCacheTables
            {
                get
                {
                    return GetApp("NoCacheTables", "");
                }
                set
                {
                    SetApp("NoCacheTables", value);
                    CYQ.Data.Cache.AutoCache.NoCacheTables = null;
                }
            }

            /// <summary>
            /// AutoCache开启时,可以设置不受更新影响的列名,用Json格式。
            /// {talbeName1:\'column1,column2\',talbeName2:\'column1,column2\'}
            /// </summary>
            public static string IngoreCacheColumns
            {
                get
                {
                    return GetApp("IngoreCacheColumns", "");
                }
                set
                {
                    SetApp("IngoreCacheColumns", value);
                    CYQ.Data.Cache.AutoCache.IngoreCacheColumns = null;
                }
            }

2:分布式应用时的缓存控制

对于单一应用程序,框架已经处理的很好。

而对于多个应用程序,框架提供的方案是通过配置启用分布式缓存MemCache或Redis。

相关的配置如下(AppConfig下的都可以对应web.config下的AppSettings项):

            /// <summary>
            /// MemCache分布式缓存的服务器配置,多个用逗号(,)分隔
            /// </summary>
            public static string MemCacheServers
            {
                get
                {
                    return GetApp("MemCacheServers", string.Empty);
                }
                set
                {
                    SetApp("MemCacheServers", value);
                }
            }

            /// <summary>
            /// MemCache 备份服务器(当主服务器挂了后,请求会转向备用机)
            /// </summary>
            public static string MemCacheServersBak
            {
                get
                {
                    return GetApp("MemCacheServersBak", string.Empty);
                }
                set
                {
                    SetApp("MemCacheServersBak", value);
                }
            }

            /// <summary>
            /// Redis分布式缓存的服务器配置,多个用逗号(,)分隔
            /// </summary>
            public static string RedisServers
            {
                get
                {
                    return GetApp("RedisServers", string.Empty);
                }
                set
                {
                    SetApp("RedisServers", value);
                }
            }
            /// <summary>
            /// Redis 使用的DB数(默认1,使用db0)
            /// </summary>
            public static int RedisUseDBCount
            {
                get
                {
                    return GetAppInt("RedisUseDBCount", 1);
                }
                set
                {
                    SetApp("RedisUseDBCount", value.ToString());
                }
            }
            /// <summary>
            /// Redis 使用的DB 索引(默认0,若配置,则会忽略RedisUseDBCount)
            /// </summary>
            public static int RedisUseDBIndex
            {
                get
                {
                    return GetAppInt("RedisUseDBIndex", 0);
                }
                set
                {
                    SetApp("RedisUseDBIndex", value.ToString());
                }
            }
            /// <summary>
            /// Redis  备份服务器(当主服务器挂了后,请求会转向备用机)
            /// </summary>
            public static string RedisServersBak
            {
                get
                {
                    return GetApp("RedisServersBak", string.Empty);
                }
                set
                {
                    SetApp("RedisServersBak", value);
                }
            }

分布式下缓存的失效策略升级

在多个应用程序时,分布式缓存可以集中控制,固然是一种方案。

但对于单一的服务器来说,开始思考有没有更简单的方案,可以不装MemCache或Redis。

比如《IT连》创业项目的webapi和aries后台是两套程序,同一个服务器下共同操作一个数据库,各自有自动缓存的情况下。

经过思考,最后选择了通过定时扫描表来处理。

方案原理:

每个应用程序,只要配置好数据库链接(配置的数据库可以是任意的):

            /// <summary>
            /// CYQ.Data.Cache 自动缓存 - 数据库链接配置
            /// 在多个不同的应用项目里操作同一个数据库时(又不想使用分布式缓存MemCache或Redis),可以开启此项,达到缓存智能清除的效果。
            /// </summary>
            public static string AutoCacheConn
            {
                get
                {
                    if (_AutoCacheConn == null)
                    {
                        _AutoCacheConn = AppConfig.GetConn("AutoCacheConn");
                    }
                    return _AutoCacheConn;
                }
                set
                {
                    _AutoCacheConn = value;
                }
            }        

接着框架会自动创建一个SysAutoCache表,包含CacheKey和CacheTime两列:

接着框架会有定时扫描,来处理:

 public static void AutoCacheKeyTask(object threadID)
        {
           
            while (true)//定时扫描数据库
            {
                int time = AppConfig.Cache.AutoCacheTaskTime;
                if (time <= 0)
                {
                    time = 1000;
                }
                Thread.Sleep(time);
                if (removeListForKeyTask.Count > 0)
                {
                    string baseKey = removeListForKeyTask.Dequeue();
                    if (!string.IsNullOrEmpty(baseKey))
                    {
                        KeyTable.SetKey(baseKey);
                    }
                }
                if (KeyTable.HasAutoCacheTable) //读取看有没有需要移除的键。
                {
                    KeyTable.ReadAndRemoveKey();
                }
            }
        }

默认是1秒扫一次,你也可以自己配置扫描的间隔时间:

            /// <summary>
            /// 当AutoCacheConn开启后,定时扫描数据库的任务时间(毫秒),默认1000
            /// </summary>
            public static int AutoCacheTaskTime
            {
                get
                {
                    return GetAppInt("AutoCacheTaskTime", 1000);
                }
                set
                {
                    SetApp("AutoCacheTaskTime", value.ToString());
                }

            }

总结:

对于本次升级来了两个好处:

1:多应用下更简单了,多了一种可选方案。

2:对于喜欢手动修改数据库数据的,或对于框架无法监控的存储过程代码,也可以手工或存储过程中更新SysAutoCache表的时间,以便于通知框架更新缓存。

整体而言:

1:自动缓存能将你的应用程序提升一个质量的飞跃。

2:自动在一些大型的项目里,应该用的更精致一些,配置好哪些表不需要缓存,哪些列的更新不影响缓存。

3:请保存系统有足够的缓存。

以上是关于CYQ.Data V5 分布式自动化缓存设计介绍的主要内容,如果未能解决你的问题,请参考以下文章

CYQ.Data V5 数据库读写分离功能介绍

CYQ.Data(V5) 数据库读写分离功能使用心得

终于等到你:CYQ.Data V5系列 (ORM数据层)最新版本开源了

CYQ.Data(V5)读写分离使用方法 (如何配置与对应的效果)

CYQ.Data 从入门到放弃ORM系列:开篇:自动化框架编程思维

CYQ.Data 从入门到放弃ORM系列:开篇:自动化框架编程思维