每个用户请求的 Django Rest Framework 指标

Posted

技术标签:

【中文标题】每个用户请求的 Django Rest Framework 指标【英文标题】:Django Rest Framework metrics per user requests 【发布时间】:2014-07-18 22:16:55 【问题描述】:

我目前正在使用 Django Rest Framework、uwsgi nginx 和 memcached 构建 Api。

我想知道获取用户统计信息(例如每个用户的请求数)的最佳方法是什么?考虑到基础架构可能会扩展到多台服务器。

有没有办法确定响应是从缓存中检索还是从应用程序检索?

我在想的是处理 Nginx 日志以按用户分离请求并应用所有计算。

【问题讨论】:

【参考方案1】:

首先:您可能会find drf-tracking to be a useful project,但它将对每个请求的响应存储在数据库中,我们发现这有点疯狂。

我们为此开发的解决方案是一个从drf-tracking 大量借用的mixin,但它只记录统计信息。该解决方案使用我们的缓存服务器 (Redis),因此速度非常快。

如果您已经在使用 Redis,则非常简单:

class LoggingMixin(object):
    """Log requests to Redis

    This draws inspiration from the code that can be found at: https://github.com/aschn/drf-tracking/blob/master/rest_framework_tracking/mixins.py

    The big distinctions, however, are that this code uses Redis for greater
    speed, and that it logs significantly less information.

    We want to know:
     - How many queries in last X days, total?
     - How many queries ever, total?
     - How many queries total made by user X?
     - How many queries per day made by user X?
    """

    def initial(self, request, *args, **kwargs):
        super(LoggingMixin, self).initial(request, *args, **kwargs)

        d = date.today().isoformat()
        user = request.user
        endpoint = request.resolver_match.url_name

        r = redis.StrictRedis(
            host=settings.REDIS_HOST,
            port=settings.REDIS_PORT,
            db=settings.REDIS_DATABASES['STATS'],
        )
        pipe = r.pipeline()

        # Global and daily tallies for all URLs.
        pipe.incr('api:v3.count')
        pipe.incr('api:v3.d:%s.count' % d)

        # Use a sorted set to store the user stats, with the score representing
        # the number of queries the user made total or on a given day.
        pipe.zincrby('api:v3.user.counts', user.pk)
        pipe.zincrby('api:v3.user.d:%s.counts' % d, user.pk)

        # Use a sorted set to store all the endpoints with score representing
        # the number of queries the endpoint received total or on a given day.
        pipe.zincrby('api:v3.endpoint.counts', endpoint)
        pipe.zincrby('api:v3.endpoint.d:%s.counts' % d, endpoint)

        pipe.execute()

把它放在你的项目中,然后将 mixin 添加到你的各种视图中,如下所示:

class ThingViewSet(LoggingMixin, viewsets.ModelViewSet):
    # More stuff here.

关于课程的一些注意事项:

它使用 Redis 管道使所有 Redis 查询以一个请求而不是六个请求到达服务器。 它使用Sorted Sets 来跟踪您的 API 中哪些端点使用最多,以及哪些用户使用 API 最多。 它每天会在您的缓存中创建一些新的键——可能有更好的方法来做到这一点,但我找不到任何方法。

这应该是记录 API 的一个相当灵活的起点。

【讨论】:

【参考方案2】:

我通常做的是我有一个集中式缓存服务器 (Redis),我将所有请求记录到那里,并包含我需要的所有自定义计算或字段。然后,您可以构建自己的仪表板。

使用 Elasticsearch 公司的 Logstash。做得很好可以节省您的时间并且可以很好地扩展。我会说试一试http://michael.bouvy.net/blog/en/2013/11/19/collect-visualize-your-logs-logstash-elasticsearch-redis-kibana/

【讨论】:

以上是关于每个用户请求的 Django Rest Framework 指标的主要内容,如果未能解决你的问题,请参考以下文章

Django rest framework JWT ,删除 jwt 令牌

记录对 django-rest-framework 的请求

Django Rest Frame API:ModelSerializer 中的附加字段

Django REST framework框架之GET, POST, PUT, PATCH, DELETE等API请求接口设计

POST 请求创建多个对象 AJAX/Django Rest Framework

我需要显示与相同模型有多对多关系的相关字段。 Django Rest Frame工作