用Python从屏幕捕获视频数据

Posted 2021-04-01

有没有办法使用Python（可能使用OpenCV或PIL）连续抓取全部或部分屏幕的帧，至少15 fps或更高？我已经看到它用其他语言完成，所以理论上它应该是可能的。

我不需要将图像数据保存到文件中。我实际上只是希望它输出一个包含原始RGB数据的数组（比如在一个numpy数组或其他东西），因为我只是把它拿到并发送到一个大的LED显示器（可能在重新调整它之后）。

答案

mss还有另一种解决方案可以提供更好的帧速率。 （使用MacOS Sierra在Macbook Pro上测试过）

import numpy as np
import cv2
from mss import mss
from PIL import Image

mon = {'top': 160, 'left': 160, 'width': 200, 'height': 200}

sct = mss()

while 1:
    sct.get_pixels(mon)
    img = Image.frombytes('RGB', (sct.width, sct.height), sct.image)
    cv2.imshow('test', np.array(img))
    if cv2.waitKey(25) & 0xFF == ord('q'):
        cv2.destroyAllWindows()
        break

另一答案

您将需要使用Pillow（PIL）库中的ImageGrab并将捕获转换为numpy数组。当你有阵列时，你可以使用opencv随心所欲。我将捕获转换为灰色，并使用imshow（）作为演示。

这是一个快速入门的代码：

from PIL import ImageGrab
import numpy as np
import cv2

img = ImageGrab.grab(bbox=(100,10,400,780)) #bbox specifies specific region (bbox= x,y,width,height *starts top-left)
img_np = np.array(img) #this is the array obtained from conversion
frame = cv2.cvtColor(img_np, cv2.COLOR_BGR2GRAY)
cv2.imshow("test", frame)
cv2.waitKey(0)
cv2.destroyAllWindows()

你可以用你喜欢的频率在那里插入一个阵列来保持捕捉帧。之后，您只需解码帧。不要忘记在循环之前添加：

fourcc = cv2.VideoWriter_fourcc(*'XVID')
vid = cv2.VideoWriter('output.avi', fourcc, 6, (640,480))

在循环内你可以添加：

vid.write(frame) #the edited frame or the original img_np as you please

UPDATE 最终结果看起来像这样（如果你想实现一个帧流。存储为视频只是在捕获的屏幕上使用opencv的演示）：

from PIL import ImageGrab
import numpy as np
import cv2
while(True):
    img = ImageGrab.grab(bbox=(100,10,400,780)) #bbox specifies specific region (bbox= x,y,width,height)
    img_np = np.array(img)
    frame = cv2.cvtColor(img_np, cv2.COLOR_BGR2GRAY)
    cv2.imshow("test", frame)
    cv2.waitKey(0)
cv2.destroyAllWindows()

希望有所帮助

另一答案

我尝试了以上所有但它没有给我实时屏幕更新。你可以试试这个。此代码经过测试并成功运行，并为您提供了良好的fps输出。您也可以通过每个循环时间来判断它。

import numpy as np
import cv2
from PIL import ImageGrab as ig
import time

last_time = time.time()
while(True):
    screen = ig.grab(bbox=(50,50,800,640))
    print('Loop took {} seconds',format(time.time()-last_time))
    cv2.imshow("test", np.array(screen))
    last_time = time.time()
    if cv2.waitKey(25) & 0xFF == ord('q'):
        cv2.destroyAllWindows()
        break

另一答案

你可以试试这个=>

import mss
import numpy

with mss.mss() as sct:
    monitor = {'top': 40, 'left': 0, 'width': 800, 'height': 640}
    img = numpy.array(sct.grab(monitor))
    print(img)

另一答案

基于这篇文章和其他帖子，我做了类似的事情。它截取屏幕截图并写入视频文件而不保存img。

import cv2
import numpy as np
import os
import pyautogui

output = "video.avi"
img = pyautogui.screenshot()
img = cv2.cvtColor(np.array(img), cv2.COLOR_RGB2BGR)
#get info from img
height, width, channels = img.shape
# Define the codec and create VideoWriter object
fourcc = cv2.VideoWriter_fourcc(*'mp4v')
out = cv2.VideoWriter(output, fourcc, 20.0, (width, height))

while(True):
 try:
  img = pyautogui.screenshot()
  image = cv2.cvtColor(np.array(image), cv2.COLOR_RGB2BGR)
  out.write(img)
  StopIteration(0.5)
 except KeyboardInterrupt:
  break

out.release()
cv2.destroyAllWindows()

另一答案

我已经尝试过来自ImageGrab的PIL，它给了我20fps，这是好的，但是使用win32库给了我+ 40fps这太棒了！

我使用了Frannecklp的this代码，但它没有正常工作，所以我需要修改它：

- 首先使用pip install pywin32使用库

- 改为这样的库：

import cv2
import numpy as np
from win32 import win32gui
from pythonwin import win32ui
from win32.lib import win32con
from win32 import win32api

获取简单的图像屏幕：

from grab_screen import grab_screen
import cv2
img = grab_screen()
cv2.imshow('frame',img)

并获取帧：

while(True):
#frame = grab_screen((0,0,100,100))
frame = grab_screen()
cv2.imshow('frame',frame)
if cv2.waitKey(1) & 0xFF == ord('q') or x>150:
    break

另一答案

使用上述所有解决方案，在以下列方式修改代码之前，我无法获得可用的帧速率：

import numpy as np
import cv2
from mss import mss
from PIL import Image

bbox = {'top': 100, 'left': 0, 'width': 400, 'height': 300}

sct = mss()

while 1:

    sct_img = sct.grab(bbox)
    cv2.imshow('screen', np.array(sct_img))

    if cv2.waitKey(1) & 0xFF == ord('q'):
        cv2.destroyAllWindows()
        break

有了这个解决方案，我可以轻松获得20帧/秒。

如需参考，请查看以下链接：https://python-mss.readthedocs.io/examples.html