获取python应用程序内存使用情况

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了获取python应用程序内存使用情况相关的知识,希望对你有一定的参考价值。

我的主要目标是知道我的python应用程序在执行期间需要多少内存。

我在Windows-32和Windows-64上使用python 2.7.5。

我找到了一种方法来获取有关我的流程的信息:http://code.activestate.com/recipes/578513-get-memory-usage-of-windows-processes-using-getpro/

为方便起见,将代码放在这里:

"""Functions for getting memory usage of Windows processes."""

__all__ = ['get_current_process', 'get_memory_info', 'get_memory_usage']

import ctypes
from ctypes import wintypes

GetCurrentProcess = ctypes.windll.kernel32.GetCurrentProcess
GetCurrentProcess.argtypes = []
GetCurrentProcess.restype = wintypes.HANDLE

SIZE_T = ctypes.c_size_t

class PROCESS_MEMORY_COUNTERS_EX(ctypes.Structure):
    _fields_ = [
        ('cb', wintypes.DWORD),
        ('PageFaultCount', wintypes.DWORD),
        ('PeakWorkingSetSize', SIZE_T),
        ('WorkingSetSize', SIZE_T),
        ('QuotaPeakPagedPoolUsage', SIZE_T),
        ('QuotaPagedPoolUsage', SIZE_T),
        ('QuotaPeakNonPagedPoolUsage', SIZE_T),
        ('QuotaNonPagedPoolUsage', SIZE_T),
        ('PagefileUsage', SIZE_T),
        ('PeakPagefileUsage', SIZE_T),
        ('PrivateUsage', SIZE_T),
    ]

GetProcessMemoryInfo = ctypes.windll.psapi.GetProcessMemoryInfo
GetProcessMemoryInfo.argtypes = [
    wintypes.HANDLE,
    ctypes.POINTER(PROCESS_MEMORY_COUNTERS_EX),
    wintypes.DWORD,
]
GetProcessMemoryInfo.restype = wintypes.BOOL

def get_current_process():
    """Return handle to current process."""
    return GetCurrentProcess()

def get_memory_info(process=None):
    """Return Win32 process memory counters structure as a dict."""
    if process is None:
        process = get_current_process()
    counters = PROCESS_MEMORY_COUNTERS_EX()
    ret = GetProcessMemoryInfo(process, ctypes.byref(counters),
                               ctypes.sizeof(counters))
    if not ret:
        raise ctypes.WinError()
    info = dict((name, getattr(counters, name))
                for name, _ in counters._fields_)
    return info

def get_memory_usage(process=None):
    """Return this process's memory usage in bytes."""
    info = get_memory_info(process=process)
    return info['PrivateUsage']

if __name__ == '__main__':
    import pprint
    pprint.pprint(get_memory_info())

这就是结果:

{'PageFaultCount': 1942L,
 'PagefileUsage': 4624384L,
 'PeakPagefileUsage': 4624384L,
 'PeakWorkingSetSize': 7544832L,
 'PrivateUsage': 4624384L,
 'QuotaNonPagedPoolUsage': 8520L,
 'QuotaPagedPoolUsage': 117848L,
 'QuotaPeakNonPagedPoolUsage': 8776L,
 'QuotaPeakPagedPoolUsage': 117984L,
 'WorkingSetSize': 7544832L,
 'cb': 44L}

但这并不能让我满意。这些结果给了我整个python进程信息,而我需要的只是我在Python框架之上运行的特定应用程序。

我在互联网上看到了几个内存分析器,也在Stack Overflow中看到了它们,但它们对我来说太大了。我需要的唯一信息是我的应用程序本身消耗了多少内存 - 而不考虑所有Python框架。

我怎样才能做到这一点?

答案

这是我用来查找执行另一个脚本期间使用的最大资源量的脚本。我正在使用psutilto实现这一点。您可以调整脚本以使其适合您的目的。

import psutil, sys
import numpy as np
from time import sleep
pid = int(sys.argv[1])
delay = int(sys.argv[2])
p = psutil.Process(pid)
max_resources_used = -1
while p.is_running():
    ## p.memory_info()[0] returns 'rss' in Unix
    r = int(p.memory_info()[0] / 1048576.0)  ## resources used in Mega Bytes
    max_resources_used = r if r > max_resources_used else max_resources_used
    sleep(delay)
print("Maximum resources used: %s MB." %np.max(max_resources_used))

用法:

python script.py pid delay_in_seconds

例如:

python script.py  55356  2 

说明:

您需要找出进程ID并将其作为参数传递给脚本加上以秒为单位检查资源使用情况的时间间隔(即脚本检查已使用资源量的每几秒钟)。该脚本会跟踪内存使用情况,直到进程运行。最后,它返回MB中使用的最大内存量。

另一答案

这是一个简单易用的pythonic方法,基于(os,psutil)模块。感谢(Dataman)和(RichieHindle)的答案。

import os
import psutil


## - Get Process Id of This Running Script -
proc_id = os.getpid()

print '
Process ID: ', proc_id


#--------------------------------------------------
## - Get More Info Using the Process Id

ObjInf = psutil.Process(proc_id)

print '
Process %s Info:' % proc_id, ObjInf

#--------------------------------------------------
## - Proccess Name of this program 

name = ObjInf.name()

print '
This Program Process name:', name

#--------------------------------------------------
## - Print CPU Percentage

CpuPerc = ObjInf.cpu_percent()

print '
Cpu Percentage:', CpuPerc


#---------------------------------------------------
## - Print Memory Usage

memory_inf = ObjInf.memory_full_info()

print '
Memory Info:', memory_inf, '
'



## Print available commands you can do with the psutil obj

for c in dir(ObjInf):
    print c 

如果您的脚本是在python中创建的,那么您的脚本本身就是python,所以没有它就不会运行,因此您还必须考虑python内存使用情况,如果您想查看python本身消耗多少内存只是运行一个空的python脚本,你将从那里扣除,你的脚本将是主要的资源消费者,恰好在python中进行python。

现在,如果你想检查一个线程的内存使用情况,那么这个问题可能会有所帮助 - > Why does python thread consume so much memory?

以上是关于获取python应用程序内存使用情况的主要内容,如果未能解决你的问题,请参考以下文章

常用python日期日志获取内容循环的代码片段

Swift新async/await并发中利用Task防止指定代码片段执行的数据竞争(Data Race)问题

Swift新async/await并发中利用Task防止指定代码片段执行的数据竞争(Data Race)问题

Python 系统资源信息获取CPU 和内存使用情况

获取应用程序池的内存使用情况

如何获取通过 symfony 进程运行的脚本的内存使用情况?