[go: up one dir, main page]

CN111553975B - 一种手持式三维扫描系统的实时回环检测方法 - Google Patents

一种手持式三维扫描系统的实时回环检测方法 Download PDF

Info

Publication number
CN111553975B
CN111553975B CN202010342113.5A CN202010342113A CN111553975B CN 111553975 B CN111553975 B CN 111553975B CN 202010342113 A CN202010342113 A CN 202010342113A CN 111553975 B CN111553975 B CN 111553975B
Authority
CN
China
Prior art keywords
frame
point cloud
loop
detection
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010342113.5A
Other languages
English (en)
Other versions
CN111553975A (zh
Inventor
刘洋汉
李荣军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan Yiweisheng Medical Technology Co ltd
Original Assignee
Wuhan Yiweisheng Medical Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan Yiweisheng Medical Technology Co ltd filed Critical Wuhan Yiweisheng Medical Technology Co ltd
Priority to CN202010342113.5A priority Critical patent/CN111553975B/zh
Publication of CN111553975A publication Critical patent/CN111553975A/zh
Application granted granted Critical
Publication of CN111553975B publication Critical patent/CN111553975B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/005Tree description, e.g. octree, quadtree
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种手持式三维扫描系统的实时回环检测方法,首先为关键帧数据添加时序标签,再通过高斯卷积方法进行融合,最后结合多边形求交的原理,实现在更大场景范围内进行实时回环检测,并且与词袋模型方法联合使用,大大提高了回环检测的灵敏度。

Description

一种手持式三维扫描系统的实时回环检测方法
技术领域
本发明涉及三维扫描系统,尤其涉及一种手持式三维扫描系统的实时回环检测方法。
背景技术
采用结构光进行三维扫描时,通常数据拼接过程是依靠点云拼接算法逐帧进行的,当拼接误差小于一定误差时,视为拼接成功。随着扫描的进行,每一帧的拼接误差不断累积和传递,并且与扫描帧数正相关,如果不消除这些误差,将对整个扫描的结果产生严重影响,比如扫描模型出现扭曲,断裂,进而导致扫描数据无法满足使用需求。目前消除误差比较有效的办法是判断相机是否回到了以前经过的位置,即回环检测。如果发现相机运动回到了以前经过的某个位置,则说明相机运动出现闭环,将闭环信息用于闭环优化算法,通过回环优化算法的优化就可以让扫描结果更加准确。
词袋模型方法是目前一种比较有效的回环检测方法,但使用该算法进行回环检测时,受限于扫描窗口的尺寸(词袋模型算法需要对每一帧数据进行特征检测,特征点的数量取决于单帧数据量,而单帧数据量是由扫描窗口尺寸决定的),所以只能在小范围内进行回环检测(实质是单帧数据间相似度的快速判断),不能在更大的场景范围内进行回环检测,因此使用该算法进行回环检测时往往不够灵敏,尤其是扫描窗口尺寸远小于被扫描物体尺寸时。
发明内容
本发明的目的在于针对上述现有技术的不足,提供了一种手持式三维扫描系统的实时回环检测方法,实现在更大场景范围内进行实时回环检测,大大提高了回环检测的灵敏度。
为实现上述目的,本发明采用了如下技术方案:
一种手持式三维扫描系统的实时回环检测方法,包括以下步骤:
S1、对扫描拼接成功后的每一帧点云P和对应的相机位姿R,其中P={p1,p2,...,pN};计算R和上一帧点云P'对应的相机位姿R'之间的变换矩阵O,其中
Figure BDA0002468884190000021
S2、提取O中的三维线性变换部分计算旋转量r,r=arccos(0.5×(a11+a22+a33-1));提取O中的三维平移变换部分计算平移量t,
Figure BDA0002468884190000022
S3、当关键帧数据库中的帧数大于帧阈值dmin时,开始进行回环检测;
S4、对距当前关键帧为dmin的点云P',通过高斯卷积方法进行融合:取半径为1的权重矩阵
Figure BDA0002468884190000023
以M为卷积核对点云深度值进行卷积;
S5、通过相机成像方程重新计算点云P'中每一个点的坐标;
S6、对点云P'通过Delaunay三角算法剖分获得该帧点云的三角化拓扑关系;
S7、将点云P'的三角化拓扑关系和每个点的坐标加入AABB(Axis AlignedBounding Box)二叉树T;
S8、通过最小二乘法将点云P'拟合为平面:设平面方程为z=a0x+a1y+a2,求解方程组
Figure BDA0002468884190000031
得到该帧的方向向量V,V=(a0,a1,a2);
S9、在D中取距当前帧最近的dmin帧作为检测组,剩余帧作为被检测组。求检测组中关键帧方向向量的平均值V';
以检测组时序的中值对应的关键帧点云K作为检测帧,通过Ray-AABB碰撞检测算法检测以点云K的几何中心Q为起点,V'为方向的射线与T是否存在交点。
进一步,还包括以下步骤:
S10、若不存在交点,则说明不存在回环;
若存在交点,计算检测帧K和相交帧K'的法向点乘s,s=a·b;
若s小于0,说明检测帧K和相交帧K'不同向,则不存在回环;
否则分别取检测帧K和相交帧K'邻近的dmin/3帧,通过Super4PCS(Super 4-pointsCongruent Sets)算法进行粗匹配,匹配结束后计算点云重叠率λ。
进一步,还包括以下步骤:
S11、若重叠率λ大于0.5,计算对应点云UV坐标中的xmin,ymin,xmax,ymax,提取UV坐标处于此范围的点云再次进行ICP(Iterative Closest Point)拼接。
进一步,还包括以下步骤:
S12、所述步骤S11循环进行,记录每次拼接的重叠率λ和拼接误差δ;
若重叠率λ和拼接误差δ趋于稳定,并且拼接误差δ满足要求则说明存在回环,随即中断执行步骤S11并将回环信息发送给回环优化算法用于执行优化。
进一步,所述步骤S1~所述步骤S12随扫描的进行循环执行。
进一步,步骤S2进一步包括:
若所述旋转量r大于旋转阈值rmin或t大于平移阈值tmin,则将该帧点云作为关键帧点云存入关键帧数据库D;D中的关键帧按加入时间从1开始排序。
本发明的有益效果为:通过为单帧数据添加时序标签,结合多边形求交的原理,实现在更大场景范围内进行实时回环检测,并且与词袋模型方法联合使用,大大提高了回环检测的灵敏度。
附图说明
图1为一种手持式三维扫描系统的实时回环检测方法的原理示意图;
图2为实施例一的示意图之一;
图3为实施例一的示意图之二。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,下面结合附图,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
请参阅图1,S1、对扫描拼接成功后的每一帧点云P和对应的相机位姿R,其中P={p1,p2,...,pN},p=(x,y,z)。计算R和上一帧点云P'对应的相机位姿R'之间的变换矩阵O,其中
Figure BDA0002468884190000051
S2、提取O中的三维线性变换部分计算旋转量r,r=arccos(0.5×(a11+a22+a33-1))。提取O中的三维平移变换部分计算平移量t,
Figure BDA0002468884190000052
若r大于旋转阈值rmin或t大于平移阈值tmin,则将该帧点云作为关键帧点云存入关键帧数据库D。D中的关键帧按加入时间从1开始排序。
S3、当关键帧数据库中的帧数大于帧阈值dmin时,开始进行回环检测。
S4、对距当前关键帧为dmin的点云P',通过高斯卷积方法进行融合:取半径为1的权重矩阵
Figure BDA0002468884190000053
以M为卷积核对点云深度值进行卷积。
S5、通过相机成像方程重新计算点云P'中每一个点的坐标。
S6、对点云P'通过Delaunay三角算法剖分获得该帧点云的三角化拓扑关系。
S7、将点云P'的三角化拓扑关系和每个点的坐标加入AABB(Axis AlignedBounding Box)二叉树T。
S8、通过最小二乘法将点云P'拟合为平面:设平面方程为z=a0x+a1y+a2,求解方程组
Figure BDA0002468884190000061
得到该帧的方向向量V,V=(a0,a1,a2)。
S9、在D中取距当前帧最近的dmin帧作为检测组,剩余帧作为被检测组。求检测组中关键帧方向向量的平均值V'。以检测组时序的中值对应的关键帧点云K作为检测帧,通过Ray-AABB碰撞检测算法检测以点云K的几何中心Q为起点,V'为方向的射线与T是否存在交点。
S10、若不存在交点,则说明不存在回环。若存在交点,计算检测帧K和相交帧K'的法向点乘s,s=a·b。若s小于0,说明检测帧K和相交帧K'不同向,则不存在回环。否则分别取检测帧K和相交帧K'邻近的dmin/3帧,通过Super4PCS(Super 4-points Congruent Sets)算法进行粗匹配,匹配结束后计算点云重叠率λ。
S11、若重叠率λ大于0.5,计算对应点云UV坐标中的xmin,ymin,xmax,ymax,提取UV坐标处于此范围的点云再次进行ICP(Iterative Closest Point)拼接。
S12、步骤S11循环进行,记录每次拼接的重叠率.λ和拼接误差δ。若重叠率λ和拼接误差δ趋于稳定,并且拼接误差δ满足要求则说明存在回环,随即中断执行步骤11并将回环信息发送给回环优化算法用于执行优化。
S13、步骤S1~S12随扫描的进行循环执行。
实施例一:
在Intel Core i5通用计算平台上安装搭载该算法的手持式三维扫描系统进行连续扫描,由于拼接误差不断累积,导致模型在相同位置出现错位,如图2所示(A处)。此时算法在50ms左右检测到扫描过程存在回环,并将回环信息传递给闭环优化算法,及时纠正了当前相机姿态,消除了错位导致的异常,如图3(B处),使扫描顺利进行。
以上所述实施例仅表达了本发明的实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (6)

1.一种手持式三维扫描系统的实时回环检测方法,其特征在于,包括以下步骤:
S1、对扫描拼接成功后的每一帧点云P和对应的相机位姿R,其中P={p1,p2,...,pN};计算R和上一帧点云P'对应的相机位姿R'之间的变换矩阵O,其中
Figure FDA0002468884180000011
S2、提取O中的三维线性变换部分计算旋转量r,r=arccos(0.5×(a11+a22+a33-1));提取O中的三维平移变换部分计算平移量t,
Figure FDA0002468884180000012
S3、当关键帧数据库中的帧数大于帧阈值dmin时,开始进行回环检测;
S4、对距当前关键帧为dmin的点云P',通过高斯卷积方法进行融合:取半径为1的权重矩阵
Figure FDA0002468884180000013
以M为卷积核对点云深度值进行卷积;
S5、通过相机成像方程重新计算点云P'中每一个点的坐标;
S6、对点云P'通过Delaunay三角算法剖分获得该帧点云的三角化拓扑关系;
S7、将点云P'的三角化拓扑关系和每个点的坐标加入AABB(Axis Aligned BoundingBox)二叉树T;
S8、通过最小二乘法将点云P'拟合为平面:设平面方程为z=a0x+a1y+a2,求解方程组
Figure FDA0002468884180000021
得到该帧的方向向量V,V=(a0,a1,a2);
S9、在D中取距当前帧最近的dmin帧作为检测组,剩余帧作为被检测组, 求检测组中关键帧方向向量的平均值V';
以检测组时序的中值对应的关键帧点云K作为检测帧,通过Ray-AABB碰撞检测算法检测以点云K的几何中心Q为起点,V'为方向的射线与T是否存在交点。
2.根据权利要求1所述的一种手持式三维扫描系统的实时回环检测方法,其特征在于,还包括以下步骤:
S10、若不存在交点,则说明不存在回环;
若存在交点,计算检测帧K和相交帧K'的法向点乘s,s=a·b;
若s小于0,说明检测帧K和相交帧K'不同向,则不存在回环;
否则分别取检测帧K和相交帧K'邻近的dmin/3帧,通过Super4PCS(Super 4-pointsCongruent Sets)算法进行粗匹配,匹配结束后计算点云重叠率λ。
3.根据权利要求2所述的一种手持式三维扫描系统的实时回环检测方法,其特征在于,还包括以下步骤:
S11、若重叠率λ大于0.5,计算对应点云UV坐标中的xmin,ymin,xmax,ymax,提取UV坐标处于此范围的点云再次进行ICP(Iterative Closest Point) 拼接。
4.根据权利要求3所述的一种手持式三维扫描系统的实时回环检测方法,其特征在于,还包括以下步骤:
S12、所述步骤S11循环进行,记录每次拼接的重叠率λ和拼接误差δ;
若重叠率λ和拼接误差δ趋于稳定,并且拼接误差δ满足要求则说明存在回环,随即中断执行步骤S11并将回环信息发送给回环优化算法用于执行优化。
5.根据权利要求4所述的一种手持式三维扫描系统的实时回环检测方法,其特征在于:所述步骤S1~所述步骤S12随扫描的进行循环执行。
6.根据权利要求1所述的一种手持式三维扫描系统的实时回环检测方法,其特征在于,步骤S2进一步包括:
若所述旋转量r大于旋转阈值rmin或t大于平移阈值tmin,则将该帧点云作为关键帧点云存入关键帧数据库D;D中的关键帧按加入时间从1开始排序。
CN202010342113.5A 2020-04-27 2020-04-27 一种手持式三维扫描系统的实时回环检测方法 Active CN111553975B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010342113.5A CN111553975B (zh) 2020-04-27 2020-04-27 一种手持式三维扫描系统的实时回环检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010342113.5A CN111553975B (zh) 2020-04-27 2020-04-27 一种手持式三维扫描系统的实时回环检测方法

Publications (2)

Publication Number Publication Date
CN111553975A CN111553975A (zh) 2020-08-18
CN111553975B true CN111553975B (zh) 2022-04-22

Family

ID=72004442

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010342113.5A Active CN111553975B (zh) 2020-04-27 2020-04-27 一种手持式三维扫描系统的实时回环检测方法

Country Status (1)

Country Link
CN (1) CN111553975B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018129715A1 (zh) * 2017-01-13 2018-07-19 浙江大学 一种同时定位与稠密三维重建方法
CN109409418A (zh) * 2018-09-29 2019-03-01 中山大学 一种基于词袋模型的回环检测方法
CN109615698A (zh) * 2018-12-03 2019-04-12 哈尔滨工业大学(深圳) 基于互回环检测的多无人机slam地图融合算法
CN109974721A (zh) * 2019-01-08 2019-07-05 武汉中海庭数据技术有限公司 一种基于高精度地图的视觉回环检测方法和装置
CN110796728A (zh) * 2019-09-20 2020-02-14 南京航空航天大学 一种基于扫描式激光雷达的非合作航天器三维重建方法
CN110956664A (zh) * 2019-12-17 2020-04-03 武汉易维晟医疗科技有限公司 一种手持式三维扫描系统的相机位置实时重定位方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108765487B (zh) * 2018-06-04 2022-07-22 百度在线网络技术(北京)有限公司 重建三维场景的方法、装置、设备和计算机可读存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018129715A1 (zh) * 2017-01-13 2018-07-19 浙江大学 一种同时定位与稠密三维重建方法
CN109409418A (zh) * 2018-09-29 2019-03-01 中山大学 一种基于词袋模型的回环检测方法
CN109615698A (zh) * 2018-12-03 2019-04-12 哈尔滨工业大学(深圳) 基于互回环检测的多无人机slam地图融合算法
CN109974721A (zh) * 2019-01-08 2019-07-05 武汉中海庭数据技术有限公司 一种基于高精度地图的视觉回环检测方法和装置
CN110796728A (zh) * 2019-09-20 2020-02-14 南京航空航天大学 一种基于扫描式激光雷达的非合作航天器三维重建方法
CN110956664A (zh) * 2019-12-17 2020-04-03 武汉易维晟医疗科技有限公司 一种手持式三维扫描系统的相机位置实时重定位方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
三维扫描技术在回转窑动态测量中的应用研究;尤邵尉等;《水泥工程》;20200415(第02期);22-24 *
基于RGB-D相机的SLAM技术研究综述;陈世浪 等;《计算机工程与应用》;20190401;30-37 *
基于三维激光点云的室内机器人即时定位与建图算法研究;任健铭;《中国优秀硕士学位论文全文数据库(信息科技辑)》;20200115;I140-839 *

Also Published As

Publication number Publication date
CN111553975A (zh) 2020-08-18

Similar Documents

Publication Publication Date Title
JP5328979B2 (ja) 物体認識方法、物体認識装置、自律移動ロボット
CN114360041B (zh) 基于关键点检测和头部姿态的疲劳状态检测方法及系统
US7894636B2 (en) Apparatus and method for performing facial recognition from arbitrary viewing angles by texturing a 3D model
US8374392B2 (en) Person tracking method, person tracking apparatus, and person tracking program storage medium
US20220306311A1 (en) Segmentation-based fuel receptacle localization for air-to-air refueling (a3r)
US20090232363A1 (en) Information processing apparatus, method, and program
WO2012023593A1 (en) Position and orientation measurement apparatus, position and orientation measurement method, and storage medium
CN110147815A (zh) 基于k均值聚类的多帧点云融合方法及装置
GB2504822A (en) Position and orientation derivation using patterned light
CN108381549A (zh) 一种双目视觉引导机器人快速抓取方法、装置及存储介质
EP4131162A1 (en) Planar contour recognition method and apparatus, computer device, and storage medium
CN116309817A (zh) 一种基于rgb-d相机的托盘检测与定位方法
CN106780631A (zh) 一种基于深度学习的机器人闭环检测方法
CN110598647B (zh) 一种基于图像识别的头部姿态识别方法
CN113223189A (zh) 机械臂抓取物体三维点云模型孔洞修复及规则体拟合方法
CN115855018A (zh) 一种基于点线综合特征的改进同步定位与建图方法
JP2002063567A (ja) 物体位置姿勢推定装置及びその方法並びそれを用いた特徴点位置抽出方法及び画像照合方法
CN118799503A (zh) 一种基于视觉的化工巡检机器人三维场景建图方法
JP2004178229A (ja) 人の存在位置検出装置とその検出方法及び同検出装置を用いた自律移動装置
Zhao et al. DeepKP: A robust and accurate framework for weld seam keypoint extraction in welding robots
CN115272417B (zh) 图像数据的处理方法、图像处理设备以及可读存储介质
CN111553975B (zh) 一种手持式三维扫描系统的实时回环检测方法
CN119540942A (zh) 一种基于YOLOv11和ORB-SLAM3的动态环境密集点云的SLAM方法及系统
JP7746176B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN118470103A (zh) 充电桩定位方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant