我有多个物体的图像由同一个校准的相机拍摄。假设校准意味着内在和外在参数(我可以在对象旁边放一个棋盘,这样就可以检索所有参数)。在这些图像上,我可以使用SIFT或SURF找到匹配的关键点,以及一些匹配算法,这是基本的OpenCV。但是,如何从多个图像中对这些点进行3D重建呢?这不是经典的立体声排列,因此有 2 张以上的图像具有相同的对象点,我想尽可能多地使用以提高准确性。
是否有任何内置的OpenCV函数可以做到这一点?
(请注意,这是离线完成的,解决方案不需要快速,但坚固)
我猜你正在寻找运动方法中所谓的结构。他们使用来自不同视点的多个图像并返回3D重建(例如点云)。看起来OpenCV在contrib包中有一个SfM模块,但我没有经验。
但是,我曾经使用捆绑器。它非常简单,并将整个信息(相机校准和点位置)作为文本文件返回,您可以使用Meshlab查看点云。请注意,它使用 SIFT 关键点和描述符进行通信建立。
我想我已经找到了解决方案。运动算法的结构处理相机未校准的情况,但在这种情况下,所有内在和外在参数都是已知的。
该问题降级为线性最小二乘问题:
我们必须计算单个对象点的坐标:
X = [x, y, z, 1]'
C = [x, y, z]'
X = [[C], [1]]
我们得到 n 个图像,这些图像具有以下转换矩阵:
Pi = Ki * [Ri|ti]
这些矩阵是已知的。对象点投影在图像上
U = [ui, vi]
我们可以用齐次坐标写(运算符 * 表示矩阵乘法、点积和标量乘法):
[ui * wi, vi * wi, wi]' = Pi * X
Pi = [[p11i, p12i, p13i, p14i],
[p21i, p22i, p23i, p24i],
[p31i, p32i, p33i, p34i]]
让我们定义以下内容:
p1i = [p11i, p12i, p13i] (the first row of Pi missing the last element)
p2i = [p21i, p22i, p23i] (the second row of Pi missing the last element)
p3i = [p31i, p32i, p33i] (the third row of Pi missing the last element)
a1i = p14i
a2i = p24i
a3i = p34i
然后我们可以写:
Q = [x, y, z]
wi = p3i * Q + a3i
ui = (p1i * Q + a1i) / wi =
= (p1i * Q + a1i) / (p3i * Q + a3i)
ui * p3i * Q + ui * a3i - p1i * Q - a1i = 0
(ui * p3i - p1i) * Q = a1i - a3i
同样,对于 vi:
(vi * p3i - p2i) * Q = a2i - a3i
这适用于 i = 1..n。我们可以用矩阵形式写这个:
G * Q = b
G = [[u1 * p31 - p11],
[v1 * p31 - p21],
[u2 * p32 - p12],
[v2 * p32 - p22],
...
[un * p3n - p1n],
[vn * p3n - p2n]]
b = [[a11 - a31 * u1],
[a21 - a31 * v1],
[a12 - a32 * u2],
[a22 - a32 * v2],
...
[a1n - a3n * un],
[a2n - a3n * vn]]
由于 G 和 b 是从 Pi 矩阵中已知的,并且图像点 [ui, vi],我们可以计算 G 的伪逆(称之为 G_),并计算:
Q = G_ * b