从实时摄影机馈送而不是图像中按形状跟踪对象

Question

我有下面的C++代码，它旨在从预先指定的图像中检测形状，并围绕形状的周长绘制。然而，我希望将其带入下一步，并从相机馈送而不仅仅是图像中跟踪形状。然而，我不熟悉如何进行这种转变。

#include <opencv2opencv.hpp>
#include <opencv2highguihighgui.hpp>
int main()
{
IplImage* img = cvLoadImage("C:/Users/Ayush/Desktop/FindingContours.png");
//show the original image
cvNamedWindow("Raw");
cvShowImage("Raw", img);
//converting the original image into grayscale
IplImage* imgGrayScale = cvCreateImage(cvGetSize(img), 8, 1);
cvCvtColor(img, imgGrayScale, CV_BGR2GRAY);
//thresholding the grayscale image to get better results
cvThreshold(imgGrayScale, imgGrayScale, 128, 255, CV_THRESH_BINARY);
CvSeq* contours;  //hold the pointer to a contour in the memory block
CvSeq* result;   //hold sequence of points of a contour
CvMemStorage *storage = cvCreateMemStorage(0); //storage area for all contours
//finding all contours in the image
cvFindContours(imgGrayScale, storage, &contours, sizeof(CvContour), CV_RETR_LIST, CV_CHAIN_APPROX_SIMPLE, cvPoint(0, 0));
//iterating through each contour
while (contours) {
//obtain a sequence of points of contour, pointed by the variable 'contour'
result = cvApproxPoly(contours, sizeof(CvContour), storage, CV_POLY_APPROX_DP, cvContourPerimeter(contours)*0.02, 0);
//if there are 3  vertices  in the contour(It should be a triangle)
if (result->total == 3) {
//iterating through each point
CvPoint *pt[3];
for (int i = 0; i < 3; i++) {
pt[i] = (CvPoint*)cvGetSeqElem(result, i);
}
//drawing lines around the triangle
cvLine(img, *pt[0], *pt[1], cvScalar(255, 0, 0), 4);
cvLine(img, *pt[1], *pt[2], cvScalar(255, 0, 0), 4);
cvLine(img, *pt[2], *pt[0], cvScalar(255, 0, 0), 4);
}
//if there are 4 vertices in the contour(It should be a quadrilateral)
else if (result->total == 4) {
//iterating through each point
CvPoint *pt[4];
for (int i = 0; i < 4; i++) {
pt[i] = (CvPoint*)cvGetSeqElem(result, i);
}
//drawing lines around the quadrilateral
cvLine(img, *pt[0], *pt[1], cvScalar(0, 255, 0), 4);
cvLine(img, *pt[1], *pt[2], cvScalar(0, 255, 0), 4);
cvLine(img, *pt[2], *pt[3], cvScalar(0, 255, 0), 4);
cvLine(img, *pt[3], *pt[0], cvScalar(0, 255, 0), 4);
}
//if there are 7  vertices  in the contour(It should be a heptagon)
else if (result->total == 7) {
//iterating through each point
CvPoint *pt[7];
for (int i = 0; i < 7; i++) {
pt[i] = (CvPoint*)cvGetSeqElem(result, i);
}
//drawing lines around the heptagon
cvLine(img, *pt[0], *pt[1], cvScalar(0, 0, 255), 4);
cvLine(img, *pt[1], *pt[2], cvScalar(0, 0, 255), 4);
cvLine(img, *pt[2], *pt[3], cvScalar(0, 0, 255), 4);
cvLine(img, *pt[3], *pt[4], cvScalar(0, 0, 255), 4);
cvLine(img, *pt[4], *pt[5], cvScalar(0, 0, 255), 4);
cvLine(img, *pt[5], *pt[6], cvScalar(0, 0, 255), 4);
cvLine(img, *pt[6], *pt[0], cvScalar(0, 0, 255), 4);
}
//obtain the next contour
contours = contours->h_next;
}
//show the image in which identified shapes are marked   
cvNamedWindow("Tracked");
cvShowImage("Tracked", img);
cvWaitKey(0); //wait for a key press
//cleaning up
cvDestroyAllWindows();
cvReleaseMemStorage(&storage);
cvReleaseImage(&img);
cvReleaseImage(&imgGrayScale);
return 0;
}

我们非常感谢在这件事上的任何帮助。非常感谢。

Answer 1

如果您使用C++，我会首先重写它以使用C++OpenCV API，而不是这个旧的C-IMHO，它更容易使用。在此过程中，将代码重构为较小的函数，并将处理与I/O解耦。最后，考虑一下视频只是一个图像序列。如果你能处理一个图像，那么你就可以一次处理一帧视频。

---

那么，如何实现这一点。让我们从头开始，编写一个main()函数。

要读取视频流，我们将使用cv::VideoCapture。我们将从初始化(并确保它有效)开始，并准备一些命名窗口来显示输入和输出帧。

然后，我们将开始在无限循环中处理各个帧，只有当帧获取失败或用户按下转义键时才退出。在每次迭代中，我们将：

• 从视频流中读取帧(并确保成功)
• 处理框架(我们稍后将为此编写一个函数)
• 在我们的命名窗口中显示原始和处理过的帧
• 等待一段时间，检查用户是否按下了escape键，并进行了适当的处理

代码：

int main()
{
cv::VideoCapture cap(0); // open the video camera no. 0
if (!cap.isOpened())  // if not success, exit program
{
std::cout << "Cannot open the video camn";
return -1;
}
cv::namedWindow("Original", CV_WINDOW_AUTOSIZE);
cv::namedWindow("Tracked", CV_WINDOW_AUTOSIZE);
// Process frames from the video stream...
for(;;) {
cv::Mat frame, result_frame;
// read a new frame from video
if (!cap.read(frame)) {
std::cout << "Cannot read a frame from video streamn";
break;
}
process_frame(frame, result_frame);
cv::imshow("Original", frame);
cv::imshow("Tracked", result_frame);
if (cv::waitKey(20) == 27) { // Quit on ESC
break;
}
}
return 0;
}

NB：在适当的时间使用cv::waitKey对于GUI的工作至关重要。仔细阅读文档。

---

完成后，是时候实现我们的process_frame函数了，但首先，让我们制作一些有用的全局typedef。

在C++API中，轮廓是cv::Point对象的std::vector，并且由于可以检测到多个轮廓，因此我们还需要轮廓的std::vector。类似地，层次结构表示为cv::Vec4i对象的std::vector。("is"对孩子们来说是一个谎言，因为它也可能是其他数据类型，但现在这并不重要)。

typedef std::vector<cv::Point> contour_t;
typedef std::vector<contour_t> contour_vector_t;
typedef std::vector<cv::Vec4i> hierarchy_t;

让我们研究一下这个函数——它需要两个参数：

• 我们不想修改的输入帧(cv::Mat)，我们只是对其进行分析
• 输出帧，我们在其中绘制处理结果

我们需要：

• 将原始帧复制到结果中，以便我们稍后可以绘制它
• 使用cv::cvtColor制作灰度版本，这样我们就可以
• cv::thresholdit，对图像进行二值化
• 二值图像上的cv::findContours
• 最后，处理每个检测到的轮廓(可能绘制到结果框中)

代码：

void process_frame(cv::Mat const& frame, cv::Mat& result_frame)
{
frame.copyTo(result_frame);
cv::Mat feedGrayScale;
cv::cvtColor(frame, feedGrayScale, cv::COLOR_BGR2GRAY);
//thresholding the grayscale image to get better results
cv::threshold(feedGrayScale, feedGrayScale, 128, 255, cv::THRESH_BINARY);
contour_vector_t contours;
hierarchy_t hierarchy;
cv::findContours(feedGrayScale, contours, hierarchy, cv::RETR_LIST, cv::CHAIN_APPROX_SIMPLE);
for (size_t k(0); k < contours.size(); ++k) {
process_contour(result_frame, contours[k]);
}
}

---

最后一步，用于处理单个轮廓。它需要：

• 要绘制的图像(cv::Mat)
• 要使用的轮廓

首先，我们想要使用周长的分数(我们可以使用cv::arcLength来计算)作为参数来近似多边形。我们将继续处理这个近似轮廓。

接下来，我们要处理3种具体情况：三角形、四边形和七边形。我们想用不同的颜色画出每一个的轮廓，否则我们什么都不做。为了绘制构成轮廓的线的序列，我们可以使用cv::polylines。

代码：

void process_contour(cv::Mat& frame, contour_t const& contour)
{
contour_t approx_contour;
cv::approxPolyDP(contour, approx_contour, cv::arcLength(contour, true) * 0.02, true);
cv::Scalar TRIANGLE_COLOR(255, 0, 0);
cv::Scalar QUADRILATERAL_COLOR(0, 255, 0);
cv::Scalar HEPTAGON_COLOR(0, 0, 255);
cv::Scalar colour;
if (approx_contour.size() == 3) {
colour = TRIANGLE_COLOR;
} else if (approx_contour.size() == 4) {
colour = QUADRILATERAL_COLOR;
} else if (approx_contour.size() == 7) {
colour = HEPTAGON_COLOR;
} else {
return;
}
cv::Point const* points(&approx_contour[0]);
int n_points(static_cast<int>(approx_contour.size()));
polylines(frame, &points, &n_points, 1, true, colour, 4);
}

NB：保证std::vector是连续的。这就是为什么我们可以通过获取第一个元素(&approx_contour[0])的地址来安全地获取指针。

---

NB：避免使用

using namespace std;
using namespace cv;

有关更多信息，请参阅为什么"使用命名空间std"被认为是不好的做法？