卢卡斯-卡纳德方法的光流？

Question

在OpenCV教程中给出的方法-python在处理上有一些延迟，就像以0.5的速度播放视频一样，您能建议在光流特征(位移矢量场)中可以用可忽略不计的延迟获得其他方法吗？

import cv2
import numpy as np
cap = cv2.VideoCapture("vtest.avi")

ret, frame1 = cap.read()
prvs = cv2.cvtColor(frame1,cv2.COLOR_BGR2GRAY)
hsv = np.zeros_like(frame1)
hsv[...,1] = 255

while(1):
    ret, frame2 = cap.read()
    next = cv2.cvtColor(frame2,cv2.COLOR_BGR2GRAY)

    flow = cv2.calcOpticalFlowFarneback(prvs,next, None, 0.5, 3, 15, 3, 5, 1.2, 0)

    mag, ang = cv2.cartToPolar(flow[...,0], flow[...,1])
    hsv[...,0] = ang*180/np.pi/2
    hsv[...,2] = cv2.normalize(mag,None,0,255,cv2.NORM_MINMAX)
    rgb = cv2.cvtColor(hsv,cv2.COLOR_HSV2BGR)

    cv2.imshow('frame2',rgb)
    k = cv2.waitKey(30) & 0xff
    if k == 27:
        break
    elif k == ord('s'):
        cv2.imwrite('opticalfb.png',frame2)
        cv2.imwrite('opticalhsv.png',rgb)
    prvs = next

cap.release()
cv2.destroyAllWindows()

Answer 1

首先，您在代码中使用的方法是而不是 Lucas-Kanade。您使用的是calcOpticalFlowFarneback函数，这是用于运动估计的远背方法。

一般来说，光流是一个相当重的算法，它真的取决于你的需要。您主要有两种方法--稀疏方法和密集方法：

• calcOpticalFlowFarneback是一种密集算法，这意味着它生成一个流量矩阵作为您的帧的大小，它实际上计算每个像素的流量。
• calcOpticalFlowPyrLK (Lucas)方法是一种稀疏方法，它只获取指定数量的像素并计算它们上的流。

如果您想要更好的性能，您可能需要尝试Lucas-Kanade方法。

看看这个OpenCV光流教程，您有Farneback和Lucas的两个例子。

在Lucas的例子中，他们使用了goodFeaturesToTrack方法，该方法生成在这样的运动估计算法中很好跟踪的像素数。取决于您的需要，您可能需要使用此方法或自己定义一些像素。

请注意，您当然可以更改已处理像素的数量，并由此改变算法的处理时间。

您可能也想签出这个答案，即使它适用于DualTVL1方法，它也可能适用于其他方法。