获取python应用程序内存使用情况
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了获取python应用程序内存使用情况相关的知识,希望对你有一定的参考价值。
我的主要目标是知道我的python应用程序在执行期间需要多少内存。
我在Windows-32和Windows-64上使用python 2.7.5。
我找到了一种方法来获取有关我的流程的信息:http://code.activestate.com/recipes/578513-get-memory-usage-of-windows-processes-using-getpro/
为方便起见,将代码放在这里:
"""Functions for getting memory usage of Windows processes."""
__all__ = ['get_current_process', 'get_memory_info', 'get_memory_usage']
import ctypes
from ctypes import wintypes
GetCurrentProcess = ctypes.windll.kernel32.GetCurrentProcess
GetCurrentProcess.argtypes = []
GetCurrentProcess.restype = wintypes.HANDLE
SIZE_T = ctypes.c_size_t
class PROCESS_MEMORY_COUNTERS_EX(ctypes.Structure):
_fields_ = [
('cb', wintypes.DWORD),
('PageFaultCount', wintypes.DWORD),
('PeakWorkingSetSize', SIZE_T),
('WorkingSetSize', SIZE_T),
('QuotaPeakPagedPoolUsage', SIZE_T),
('QuotaPagedPoolUsage', SIZE_T),
('QuotaPeakNonPagedPoolUsage', SIZE_T),
('QuotaNonPagedPoolUsage', SIZE_T),
('PagefileUsage', SIZE_T),
('PeakPagefileUsage', SIZE_T),
('PrivateUsage', SIZE_T),
]
GetProcessMemoryInfo = ctypes.windll.psapi.GetProcessMemoryInfo
GetProcessMemoryInfo.argtypes = [
wintypes.HANDLE,
ctypes.POINTER(PROCESS_MEMORY_COUNTERS_EX),
wintypes.DWORD,
]
GetProcessMemoryInfo.restype = wintypes.BOOL
def get_current_process():
"""Return handle to current process."""
return GetCurrentProcess()
def get_memory_info(process=None):
"""Return Win32 process memory counters structure as a dict."""
if process is None:
process = get_current_process()
counters = PROCESS_MEMORY_COUNTERS_EX()
ret = GetProcessMemoryInfo(process, ctypes.byref(counters),
ctypes.sizeof(counters))
if not ret:
raise ctypes.WinError()
info = dict((name, getattr(counters, name))
for name, _ in counters._fields_)
return info
def get_memory_usage(process=None):
"""Return this process's memory usage in bytes."""
info = get_memory_info(process=process)
return info['PrivateUsage']
if __name__ == '__main__':
import pprint
pprint.pprint(get_memory_info())
这就是结果:
{'PageFaultCount': 1942L,
'PagefileUsage': 4624384L,
'PeakPagefileUsage': 4624384L,
'PeakWorkingSetSize': 7544832L,
'PrivateUsage': 4624384L,
'QuotaNonPagedPoolUsage': 8520L,
'QuotaPagedPoolUsage': 117848L,
'QuotaPeakNonPagedPoolUsage': 8776L,
'QuotaPeakPagedPoolUsage': 117984L,
'WorkingSetSize': 7544832L,
'cb': 44L}
但这并不能让我满意。这些结果给了我整个python进程信息,而我需要的只是我在Python框架之上运行的特定应用程序。
我在互联网上看到了几个内存分析器,也在Stack Overflow中看到了它们,但它们对我来说太大了。我需要的唯一信息是我的应用程序本身消耗了多少内存 - 而不考虑所有Python框架。
我怎样才能做到这一点?
这是我用来查找执行另一个脚本期间使用的最大资源量的脚本。我正在使用psutil
to实现这一点。您可以调整脚本以使其适合您的目的。
import psutil, sys
import numpy as np
from time import sleep
pid = int(sys.argv[1])
delay = int(sys.argv[2])
p = psutil.Process(pid)
max_resources_used = -1
while p.is_running():
## p.memory_info()[0] returns 'rss' in Unix
r = int(p.memory_info()[0] / 1048576.0) ## resources used in Mega Bytes
max_resources_used = r if r > max_resources_used else max_resources_used
sleep(delay)
print("Maximum resources used: %s MB." %np.max(max_resources_used))
用法:
python script.py pid delay_in_seconds
例如:
python script.py 55356 2
说明:
您需要找出进程ID并将其作为参数传递给脚本加上以秒为单位检查资源使用情况的时间间隔(即脚本检查已使用资源量的每几秒钟)。该脚本会跟踪内存使用情况,直到进程运行。最后,它返回MB中使用的最大内存量。
这是一个简单易用的pythonic方法,基于(os,psutil)模块。感谢(Dataman)和(RichieHindle)的答案。
import os
import psutil
## - Get Process Id of This Running Script -
proc_id = os.getpid()
print '
Process ID: ', proc_id
#--------------------------------------------------
## - Get More Info Using the Process Id
ObjInf = psutil.Process(proc_id)
print '
Process %s Info:' % proc_id, ObjInf
#--------------------------------------------------
## - Proccess Name of this program
name = ObjInf.name()
print '
This Program Process name:', name
#--------------------------------------------------
## - Print CPU Percentage
CpuPerc = ObjInf.cpu_percent()
print '
Cpu Percentage:', CpuPerc
#---------------------------------------------------
## - Print Memory Usage
memory_inf = ObjInf.memory_full_info()
print '
Memory Info:', memory_inf, '
'
## Print available commands you can do with the psutil obj
for c in dir(ObjInf):
print c
如果您的脚本是在python中创建的,那么您的脚本本身就是python,所以没有它就不会运行,因此您还必须考虑python内存使用情况,如果您想查看python本身消耗多少内存只是运行一个空的python脚本,你将从那里扣除,你的脚本将是主要的资源消费者,恰好在python中进行python。
现在,如果你想检查一个线程的内存使用情况,那么这个问题可能会有所帮助 - > Why does python thread consume so much memory?
以上是关于获取python应用程序内存使用情况的主要内容,如果未能解决你的问题,请参考以下文章
Swift新async/await并发中利用Task防止指定代码片段执行的数据竞争(Data Race)问题