CN116801828A - 导航支气管镜检查的动态变形跟踪 - Google Patents
导航支气管镜检查的动态变形跟踪 Download PDFInfo
- Publication number
- CN116801828A CN116801828A CN202180091839.9A CN202180091839A CN116801828A CN 116801828 A CN116801828 A CN 116801828A CN 202180091839 A CN202180091839 A CN 202180091839A CN 116801828 A CN116801828 A CN 116801828A
- Authority
- CN
- China
- Prior art keywords
- lung
- airway
- model
- shape
- deformation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/06—Devices, other than using radiation, for detecting or locating foreign bodies ; Determining position of diagnostic devices within or on the body of the patient
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/003—Navigation within 3D models or images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/267—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the respiratory tract, e.g. laryngoscopes, bronchoscopes
- A61B1/2676—Bronchoscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods
- A61B2017/00681—Aspects not otherwise provided for
- A61B2017/00694—Aspects not otherwise provided for with means correcting for movement of or for synchronisation with the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods
- A61B2017/00681—Aspects not otherwise provided for
- A61B2017/00694—Aspects not otherwise provided for with means correcting for movement of or for synchronisation with the body
- A61B2017/00699—Aspects not otherwise provided for with means correcting for movement of or for synchronisation with the body correcting for movement caused by respiration, e.g. by triggering
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods
- A61B2017/00743—Type of operation; Specification of treatment sites
- A61B2017/00809—Lung operations
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
- A61B2034/101—Computer-aided simulation of surgical operations
- A61B2034/105—Modelling of the patient, e.g. for ligaments or bones
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2051—Electromagnetic tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/41—Medical
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2021—Shape modification
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Veterinary Medicine (AREA)
- Heart & Thoracic Surgery (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Robotics (AREA)
- Pathology (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Architecture (AREA)
- Radiology & Medical Imaging (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Human Computer Interaction (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
用于跟踪导管在肺的气道内移动的系统和方法。肺的可变形模型将肺的气道表示为在分叉处连接的气道段。利用修改气道段相对于彼此的角度和/或位置进行肺模型的变形。例如,可以基于CT图像的分割生成初始模型。例如,可以根据沿多个不同路径测量的导管位置来建立在手术开始时患者肺形状的基线可变形配准。可选地,基线配准随呼吸相位是动态的。相对于基线配准,肺形状的实时变化可以通过使用在导管导航到目标时使用导管获得的进一步测量来建模,优选地使用沿着导管主体分布的位置传感器。
Description
相关申请
本申请要求根据35 USC§119(e)于2020年12月10日提交的申请号为63/123,590、发明名称为“用于导航支气管镜检查的可变形配准和动态变形跟踪和视图”的美国临时专利申请的优先权,以及2021年8月29日提交的申请号为63/238,165、发明名称为“变形跟踪”的美国临时专利申请,其各自的内容通过引用整体并入本文。
本公开的技术领域与背景技术
本公开在其一些实施方式中涉及支气管镜检查领域,更具体地,但不排他地,涉及电磁导航支气管镜检查。
已经提出和/或销售了用于导航和/或监测在肺内移动的探针的系统,包括由具有荧光透镜的单传感器电磁感应引导的非机器人导航;由光纤形状感应引导的机器人导航;以及由单传感器电磁感应引导的机器人导航。本领域已知的其它系统包括基于透视的系统、CBT(锥束CT(cone-beam CT))引导系统和基于视频配准的支气管镜检查。
发明内容
根据本公开的一些实施方式的一方面,提供了一种跟踪介入性器械相对于肺气道定位的方法。所述方法包括:访问所述肺气道的骨架化模型,所述模型包括在分叉处连接的多个气道段(airway segments);访问解剖学定义的约束,所述约束限制所述骨架化模型的形状变化;访问指示在所述肺内沿着所述介入性器械的多个位置的测量值;以及在所述模型内修改一个或多个所述分叉处的气道段的相对角度和位置。所述修改通过以下方式计算:减少由所述多个位置指示的所述肺的形状与对应于所述多个位置的所述气道段的布置之间的建模误差,以及使用基于解剖学的约束来限制所述气道的形状如何改变,以减小所述建模误差。
根据本公开的一些实施方式,所述修改包括修改在公共分叉处连接的气道段的相对角度,其中在所述多个位置之间延伸的所述介入性器械不穿过该公共分叉。
根据本公开的一些实施方式,所述基于解剖学的约束包括在公共分叉处对气道的阻力增加了相对角度的变化。
根据本公开的一些实施方式,所述基于解剖学的约束包括从至少一些所述气道段的远端施加的锚定力。
根据本公开的一些实施方式,所述基于解剖学的约束包括对沿着至少一些所述气道段长度的弯曲的限制。
根据本公开的一些实施方式,所述基于解剖学的约束包括对气道段的单独移动的限制,所述气道段通过肺的薄壁(parenchyma)相互连接。
根据本公开的一些实施方式,所述基于解剖学的约束包括对形成全局形状(global shapes)的气道段的限制,所述全局形状与由包括多个全局形状的数据集表示的全局形状的范围不一致。
根据本公开的一些实施方式,测试气道段形状与全局形状范围的一致性包括应用机器学习产品,所述机器学习产品被配置为根据气道段形状属于全局形状范围内的可能性对气道段形状进行评分。
根据本公开的一些实施方式,全局形状的范围是从多个所测量的肺的测量中得出的。
根据本公开的一些实施方式,全局形状的范围是从骨架化模型的修改版本得出的,其作为解剖学定义的约束的一部分被预先计算和访问。
根据本公开的一些实施方式,所述基于解剖学的约束包括对表示沿着形成分支形状的多个位置的肺部分的气道段的限制,所述分支形状与由包括多个分支形状的数据集表示的分支形状的范围不一致。
根据本公开的一些实施方式,测试气道段分支形状与分支形状的范围的一致性包括应用机器学习产品,所述机器学习产品被配置为根据气道段形状属于分支形状范围内的可能性对气道段分支形状进行评分。
根据本公开的一些实施方式,分支形状的范围是从多个所测量的肺的测量中得出的。
根据本公开的一些实施方式,全局形状的范围是从骨架化模型的修改版本得出的,其作为解剖学定义的约束的一部分被预先计算和访问。
根据本公开的一些实施方式,所述方法包括基于所述肺的CT图像分段来构造所述骨架化模型。
根据本公开的一些实施方式,所述构造包括:对所述CT图像的所述分段进行骨架化、识别所述骨架化中的分叉,以及将表示所述分叉的相对角度的参数值分配给所述分叉。
根据本公开的一些实施方式,所述访问的测量是在不同时间在所述介入性器械的不同位置使用所述介入性器械沿多个不同气道轨迹进行的测量;将所述气道段的相对角度分配给所述分叉,以符合所述肺的成像几何形状;并且所述修改根据所述肺的几何形状被成像的时间和沿着所述多个不同气道轨迹测量的时间之间的肺位置的变化来修改所述气道段的所述相对角度。
根据本公开的一些实施方式,所述访问的测量通过其测量时间与呼吸相位(phaseof respiration)相关联;并且所述修改基于所述访问的测量的所述呼吸相位关联来修改所述相对角度,以创建所述肺气道的相位变化骨架化模型,该模型表示多个不同呼吸相位期间的所述肺的形状。
根据本公开的一些实施方式,所述修改是针对与呼吸相位相关联的新测量而执行的;并根据新测量的位置及其相关联的呼吸相位,修改气道的相位变化骨架化模型。
根据本公开的一些实施方式,测量被用于根据取决于与每个测量相关联的呼吸相位和不同的建模呼吸相位之间的差异的加权来修改不同建模呼吸相位处的气道段的相对角度。
根据本公开的一些实施方式,在所述多个不同的呼吸相位期间所述肺的形状表示为:所述肺处于第一呼吸相位的状态,通过与相位相关联的测量的所述修改来计算;所述肺处于第二呼吸相位的状态,通过与相位相关联的测量的所述修改来计算;和所述肺处于至少第三呼吸相位,通过对所述第一相位和所述第二相位之间的所述肺形状的插值来计算。
根据本公开的一些实施方式,在所述多个不同相位期间的所述肺的形状进一步由处于第四呼吸相位的所述肺表示。
根据本公开的一些实施方式,所述第三呼吸相位和所述第四呼吸相位在所述第一呼吸相位和所述第二呼吸相位之间均等地间隔开,并且彼此不同。
根据本公开的一些实施方式,基于附着到包括肺及其气道的身体的外表面的标记物的移动来确定呼吸的相位。
根据本公开的一些实施方式,所述方法包括显示表示模型的气道段的布置的图像。
根据本公开的一些实施方式,所述方法包括在所述图像中显示与所述肺模型相关联的对象,其中对象的位置根据所述气道段的布置的变化而更新。
根据本公开的一些实施方式,所述方法包括将所述对象的所述位置与至少一个所述气道段的位置相关联,并根据相关联的所述至少一个所述气道段的移动来移动所述对象。
根据本公开的一些实施方式,所述图像还表示与所述肺的所述气道的所述骨架化模型已知对应性的所述肺的3-D图像的切片,所述切片被选择为沿着显示的肺的一部分延伸,所述显示的肺的一部分对应于所述介入性器械沿其延伸的气道。
根据本公开的一些实施方式,所述肺的所述气道的所述骨架化模型和所述肺的所述3-D图像之间的已知对应性是通过从所述肺的所述3-D图像的段中得出所述气道的所述骨架化模型来建立的。
根据本公开的一些实施方式,所述显示的图像包括所述肺的3-D表示,并且所述3-D图像的所述切片从平面配置中弯曲出来,以遵循所述介入性器械的3-D配置。
根据本公开的一些实施方式,所述显示的图像表示将所述介入性器械展平为平面表示,所述3-D图像的所述切片也随之展平。
根据本公开的一些实施方式,将气道段的所述相对角度分配给所述分叉,以符合在第一时段期间成像的所述肺的几何形状,通过基于在第二时段期间所测量的进一步测量值而确定的所述肺的所述几何形状的改变来修改所述相对角度;并且所述访问的测量是在第三时段期间沿着所述介入式器械并且在所述介入式器械保持在相同位置时进行的测量;所述修改根据所述第二时段和所述第三时段之间的肺位置的变化来修改所述气道段的所述相对角度。
根据本公开的一些实施方式,所述方法包括重复地:访问连续的测量集;以及基于每个连续的测量集修改所述气道段的所述相对角度。
根据本公开的一些实施方式,所述修改包括:识别所述相对角度的新值,所述新值减少了由所述多个位置指示的所述肺的所述形状和对应于所述多个位置的所述气道段的布置之间的误差;基于所述相对角度的先前值对所述新值进行过滤,以减小与所述先前值相比的变化幅度;以及利用所述新值来生成计算后的修改。
根据本公开的一些实施方式,与过滤前识别的所述新值相比,所述过滤增加了由所述多个位置指示的所述肺的所述形状和对应于所述多个位置的所述气道段的布置之间的误差。
根据本公开的一些实施方式,通过在每个连续的测量集之间进行修改,不能完全减小误差。
根据本公开的一些实施方式,所述修改包括在所述骨架化模型的多个不同副本中不同地修改所述相对角度;并且包括:重复所述访问测量,并使用新测量对每个所述不同的副本进行修改;基于所述肺形状的更合理的表示来选择所述不同副本中的一个;以及继续重复所述访问测量,并仅使用所选副本进行修改。
根据本公开的一些实施方式,所述修改包括扰动所述修改中气道段的相对角度以计算扰动后的修改;识别出所述扰动后的修改比所述扰动前修改减少了更多的误差;并利用所述扰动后的修改进行所述修改。
根据本公开的一些实施方式的一个方面,提供了一种存储肺的可变形模型的计算机存储器存储介质。所述模型包括:数据元素(data elements),其对应于:所述肺的气道的分支结构的骨架化表示,以及对于所述分支结构的多个分叉中的每个分叉,所述分支结构的所述分支的方向的表示;以及计算机指令,被配置为指示处理器通过修改所述分支结构的所述分支的相对方向的所述表示来修改所述模型,以满足所提供的几何约束。
根据本公开的一些实施方式,多个分叉包括向上到达分支结构的第三级分支的分叉。
根据本公开的一些实施方式,所述计算机指令指示所述处理器修改所述分支结构的所述分支的所述方向的所述表示,而不修改沿着所述分支结构的段的距离。
根据本公开的一些实施方式,述计算机指令指示所述处理器将修改父分叉中的分支的相对方向的变化传播到修改所述父分叉的子分叉的分支的空间偏移(spatialoffsets)和方向的变化。
根据本公开的一些实施方式的一个方面,提供了一种用于跟踪介入性器械在肺的气道内的移动的系统。所述系统包括处理器和存储器,所述存储器保存指示所述处理器的指令,以:访问所述介入性器械的当前形状和定位的3-D表示;访问表示气道段的所述气道的模型,所述气道段包括气道段的分叉;将所述气道段与所述介入性器械的所述当前形状和定位相匹配。所述处理器被指示,以:基于所述气道段与所述介入性器械当前形状和定位的对应关系的改进,确定所述分叉的分支的合理修改(rotational modifications),并将所述修改应用于所述模型。
根据本公开的一些实施方式,所述旋转修改被应用于对应于所述介入性器械沿着其延伸的所述气道的部分的模型化气道段。
根据本公开的一些实施方式,所述处理器被指示访问身体运动的测量;其中,所述处理器被指示修改所述气道段的方向,以修改所述气道的模型,以匹配与身体运动的所述测量相对应的肺形状的变化。
根据本公开的一些实施方式,使用与所述分叉相关联的位置数据作为控制点,将所述修改应用于所述模型。
根据本公开的一些实施方式,对不同类型的合理修改的可用性进行分别加权,以改善所述气道模型与所述身体运动的测量相对应的肺形状的变化的匹配。
根据本公开的一些实施方式,对不同类型的旋转修改的可用性进行单独加权,以改善所述气道段与所述介入性器械的所述当前形状和定位的对应性。
根据本公开的一些实施方式,纵向弯曲旋转修改被加权为比纵向扭曲旋转修改更可用于改善对应性。
根据本公开的一些实施方式的一个方面,提供了一种将介入性器械位置数据记录(registering)到成像的肺形状的方法。所述方法包括:接收基于肺部所述成像的肺形状构建的基线肺气道模型;在稍后的时间,测量并使用一个或多个肺内探针沿着所述肺的气道的多个分支的位置,包括所述气道的相同分叉的至少两个不同分支的位置;修改所述基线肺气道模型以记录所述测量的位置,并产生变形的基线肺气道模型,其中所述变形的基线肺气道模型表示多个呼吸相位的肺气道;基于指示所述肺的当前形状的测量值,确定适用于所述变形的基线肺气道模型的变换,以调整它来指示所述肺的当前形状;以及显示示出了根据所述变换进行变换的所述变形的基线肺气道模型的图像。
根据本公开的一些实施方式,沿着所述肺的气道的所述多个分支的位置的所述测量中的每一个都与呼吸相位相关联,并且使用所述测量与不同呼吸相位的所述关联来生成所述多个呼吸相位中的不同相位中的所述肺气道的所述表示。
根据本公开的一些实施方式,所述确定变形包括:使用与所指示的所述肺的当前形状相对应的呼吸相位来确定所述变形的基线肺气道模型的呼吸相位依赖性形状;以及计算所述变换以将所确定的呼吸相位依赖性形状变换为所指示的所述肺的当前形状。
根据本公开的一些实施方式,在所述变形的基线肺气道模型中,在所述多个呼吸相位期间所述肺的所述形状表示为:所述肺在第一呼吸相位的状态,其通过所述基线肺气道模型的所述修改产生;所述肺在第二呼吸相位的状态,其通过所述基线肺气道模型的所述修改产生。
根据本公开的一些实施方式,所述测量包括从所述变形的基线气道模型生成处于第三呼吸相位的所述肺的基线形状,通过对所述第一相位和所述第二相位之间的所述肺形状进行插值来计算。
根据本公开的一些实施方式,在所述多个呼吸相位期间的所述肺的所述形状还包括通过修改所述基线肺气道模型而产生的处于第四呼吸相位的所述肺的状态。
根据本公开的一些实施方式,所述第三和第四呼吸相位的每一个是:第一和第二呼吸相位之间的相位间隔相似,并且彼此不同。
根据本公开的一些实施方式的一个方面,提供了一种通过解剖结构沿着回旋路径显示特征的方法。所述方法包括:访问所述解剖结构的3-D图像;限定通过所述解剖结构的路径;计算:沿着所述路径的位置与所述3-D图像内的位置的空间对应性,以及延伸穿过所述3-D图像的表面,所述表面包括所述3-D图像内的所述位置;并显示3-D显示图像,该图像显示通过3-D空间延伸的路径,以及来自由所述表面限定的所述解剖结构的所述3-D图像的位置的数据。其中:使用对所述解剖结构的形状的至少一个动态变化参数的测量来重复地限定所述路径,并且对于路径的每个重复定义,重复计算和显示。
根据本公开的一些实施方式,所述表面被计算为在所述路径的任一侧上沿着所述路径延伸的条带。
根据本公开的一些实施方式,所述条带在所述路径的任一侧延伸大约相等的距离。
根据本公开的一些实施方式,所述方法包括访问与所述路径具有已知空间对应性的所述解剖结构的一部分的3-D模型,并且包括在所述3-D显示图像中显示所述解剖结构的所述3-D模型。
根据本公开的一些实施方式,所述解剖结构的所述部分的所述3-D模型也会动态变化。
根据本公开的一些实施方式,所述解剖结构包括肺的气道。
根据本公开的一些实施方式,所述路径延伸穿过肺的气道。
根据本公开的一些实施方式,所述至少一个动态变化参数的测量包括沿着所述路径定位的介入性器械的位置测量。
根据本公开的一些实施方式,沿着路径定位的介入性器械的位置测量包括来自沿着路径的多个位置的位置测量。
根据本公开的一些实施方式,所述至少一个动态变化参数的测量值通过其测量时间与呼吸相位相关联。
除非另有限定,否则本文中使用的所有技术和/或科学术语具有与本公开所属领域的普通技术人员通常理解的含义相同的含义。尽管可以在本公开的实施方式的实践或测试中使用与本文描述的那些类似或等同的方法和材料,但是下面描述了示例性方法和/或材料。如有冲突,以专利说明书(包括限定)为准。此外,这些材料、方法和实施例仅是说明性的,并不意味着必须是限制性的
如本领域技术人员将理解的,本公开的各方面可以被具体化为系统、方法或计算机程序产品。因此,本公开的各方面可采取完全硬件实施方式、完全软件实施方式(包括件、常驻软件、微代码等)或结合软件和硬件方面的实施方式的形式,其在本文中可统称为“电路”、“模块”或“系统”(例如,可使用“计算机电路”来实施的方法)。此外,本公开的一些实施方式可以采取包含在一个或多个计算机可读介质中的计算机程序产品的形式,该计算机可读介质上包含有计算机可读程序代码。本公开的一些实施方式的方法和/或系统的实现可以涉及手动地、自动地或其组合执行和/或完成所选择的任务。此外,根据本公开的方法和/或系统的一些实施方式的实际仪器和设备,可以通过硬件、软件或固件和/或其组合(例如,使用操作系统)来实现几个选择的任务。
例如,根据本公开的一些实施方式的,用于执行所选任务的硬件可以被实现为芯片或电路。作为软件,根据本公开的一些实施方式,所选任务可以被实现为由使用任何合适的操作系统的计算机执行的多个软件指令。在本公开的一些实施方式中,在方法和/或系统中执行的一个或多个任务由数据处理器(本文中也称为“数字处理器”,参考使用数字位组进行操作的数据处理器)执行,例如用于执行多个指令的计算平台。可选地,数据处理器包括用于存储指令和/或数据的易失性存储器和/或用于存储指令和/或数据的非易失性存储器,例如,磁硬盘和/或可移动介质。可选地,还提供网络连接。还可选地提供显示器和/或用户输入设备(例如键盘或鼠标)。这些实现中的任何一个在本文中更一般地被称为计算机电路的实例。
一个或多个计算机可读介质的任何组合可以用于本公开的一些实施方式。计算机可读介质可以是计算机可读信号介质或计算机可读存储介质。计算机可读存储介质可以是,例如,但不限于,电子、磁、光学、电磁、红外,或半导体系统、装置、或设备,或前述的任何合适的组合。计算机可读存储介质的更具体的示例(非穷举列表)将包括以下:具有一条或多条导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或闪存)、光纤、便携式光盘只读存储器(CD-ROM)、光学存储设备、磁性存储设备或前述的任何合适的组合。在本文的上下文中,计算机可读存储介质可以是能够包含或存储由指令执行系统、装置或设备使用或与其结合使用的程序的任何有形介质。计算机可读存储介质还可以包含或存储由这样的程序使用的信息,例如,以计算机可读存储介质记录的方式构造的数据,使得计算机程序可以将其作为例如一个或多个表、列表、阵列、数据树和/或另一数据结构来访问。本文中,以可作为数字位组(groups ofdigital bits)检索的形式记录数据的计算机可读存储介质也被称为数字存储器。应当理解,在一些实施方式中,在计算机可读存储介质本质上不是只读的和/或处于只读状态的情况下,计算机可读存储介质可选地也用作计算机可写存储介质。
本文中,数据处理器被称为“被构造”为执行数据处理动作,只要它耦合到计算机可读介质以从其中接收指令和/或数据、处理它们,和/或将处理结果存储在相同或另一计算机可读介质中。所执行的处理(可选地对数据)由指令指定,其效果是处理器根据指令操作。处理行为可以附加地或替代地通过一个或多个其它术语来提及;例如:比较、估计、确定、计算、识别、关联、存储、分析、选择和/或变换。例如,在一些实施方式中,数字处理器从数字存储器接收指令和数据,根据指令处理数据,和/或将处理结果存储在数字存储器中。在一些实施方式中,“提供”处理结果包括传输、存储和/或呈现处理结果中的一个或多个。可选地呈现包括在显示器上显示、通过声音指示、在打印输出上打印,或以其它以人类感官能力可访问的形式给出结果。
计算机可读信号介质可以包括其中包含有计算机可读程序代码的传播数据信号,例如,在基带中或作为载波的一部分。这种传播的信号可以采用多种形式中的任一种,包括但不限于电磁,光学或其任何合适的组合。计算机可读信号介质可以是任何计算机可读介质,该计算机可读介质不是计算机可读存储介质,并且可以传送、传播或传输由指令执行系统、装置或设备使用或与其结合使用的程序。
包含在计算机可读介质上的程序代码和/或由此使用的数据可以使用任何适当的介质来传输,包括但不限于无线、有线、光纤电缆、RF等,或前述的任何适当的组合。
用于执行本公开的一些实施方式的操作的计算机程序代码可以用一种或多种编程语言的任意组合来编写,所述编程语言包括面向对象的编程语言,例如Java、Smalltalk,C++等,以及传统的过程性编程语言,例如“C”编程语言或类似的编程语言。程序代码可以完全在用户的计算机上执行、部分在用户的计算机上执行、作为独立的软件包执行、部分在用户的计算机上执行、部分在远程计算机上执行,或者完全在远程计算机或服务器上执行。在后一种情况下,远程计算机可以通过任何类型的网络(包括局域网(LAN)或广域网(WAN))连接到用户的计算机,或者连接到外部计算机(例如,通过使用因特网服务提供商的因特网)。
下面可以参考根据本公开的实施方式的方法,装置(系统)和计算机程序产品的流程图和/或框图来描述本公开的一些实施方式。应当理解,流程图和/或框图的每个框以及流程图和/或框图中的框的组合可以由计算机程序指令来实现。这些计算机程序指令可以被提供给通用计算机、专用计算机或其它可编程数据处理设备的处理器以产生机器,使得经由计算机或其它可编程数据处理设备的处理器执行的指令创建用于实现流程图和/或框图块中指定的功能/动作的装置。
这些计算机程序指令也可以存储在计算机可读介质中,该计算机可读介质可以指示计算机、其它可编程数据处理设备或其它设备以特定方式运行,使得存储在计算机可读介质中的指令产生包括实现在流程图和/或框图一个或多个块中指定的功能/动作的指令的制品。
计算机程序指令还可以被加载到计算机、其它可编程数据处理装置或其它设备上,以使得在计算机、其它可编程装置或其它设备上执行一系列操作步骤,从而产生计算机实现的过程,使得在计算机或其它可编程设备上执行的指令提供用于实现在流程图和/或框图的一个或多个框中指定的功能/动作的过程。
附图的几个视图的简要说明
本文通过示例的方式参考附图描述了本公开的一些实施方式。现在详细地具体参考附图,需要强调的是,所示的细节是示例性的,并且是为了说明性地讨论本公开的实施方式。在这点上,结合附图所作的描述使得本领域技术人员清楚如何实施本公开的实施方式。
在附图中:
图1是表示根据本公开的一些实施方式的生成肺变形模型的方法的示意性流程图;
图2示意性地表示根据本公开的一些实施方式的肺气道骨架;
图3示意性地表示根据本公开的一些实施方式的分叉坐标系(coordinatesystem)(本文中也称为坐标系Ti)和分叉平面;
图4示意性地示出了根据本公开的一些实施方式,在分叉之间变形之前(左侧)和之后(右侧)的肺气道骨架;
图5是表示根据本公开的一些实施方式,在位于肺气道中的导管的位置和气道的分支模型之间执行可变形配准的方法的示意性流程图;
图6示意性地表示根据本公开的一些实施方式的与测量数据不同地配准的肺模型状态;
图7A示意性地表示根据本公开的一些实方式的确定变形模型的变形变换以匹配可用数据以及在进一步的动态建模中使用变形变换的元件;
图7B是根据本公开的一些实施方式示意性地示出图7A的块的实施方式的流程图;
图8A是概述根据本公开的一些实施方式的生成可变形肺模型视图的方法的示意性流程图;
图8B-8C示意性地表示根据本公开的一些实施方式,在单个模型分叉及其子代的变形之前和之后的3-D网格的渲染;
图9A-9B示意性地示出了根据本公开的一些实施方式,在单个分叉及其所有子代在变形之前(图9A)和之后(图9B)的x切片插值网格;
图9C示意性地示出了根据本公开的一些实施方式,沿着定义为弯曲的几何截面表面延伸的CT截面,使得它包括原始3-D图像的区域,其对应于沿着穿过解剖结构的回旋路径的位置;
图10A-10B示意性地示出了根据本公开的一些实施方式,包括变形之前(图10A)和之后(图10B)的变形模型的渲染网格视图的复合-D场景中沿着路径的CT条带;
图11示出了根据本公开的一些实施方式,沿着导管之后的3-D路径提取的CT图像数据的扁平条带;和
图12示意性地示出了根据本公开的一些实施方式,用于跟踪导管在肺的气道内的移动的系统。
具体实施方式
本发明在其一些实施方式中涉及支气管镜检查领域,更具体地,但不排他地,涉及电磁导航支气管镜检查。
概述
本公开的一些实施方式的广义方面涉及探针在活体肺的分支且动态移动气道内的机器人导航。
肺部介入性器械追踪
肺的复杂结构给支气管镜检查手术的导航引导领域带来了问题。更复杂的是,肺是灵活的,并处于动态运动中,因此不考虑肺移动的定位系统会产生固有误差。
使用透视、CBCT或EBUS(支气管内超声)来跟踪探针和/或目标定位潜在地增加了导航精度,同时权衡了例如额外的设备、增加的手术复杂性和/或对患者和/或医生的潜在辐射剂量。
另一种方法使用ENB(电磁导航支气管镜检查)系统来确定探针定位。这种系统使用专用天线(或发射器)产生电磁场,并使用EM(电磁)传感器感应它们。EM传感器可以提供尖端相对于定位(发射器)坐标的6-DOF(自由度)位置和方向信息。这种EM定位技术对于医疗用途具有潜在的优点:例如,身体对所产生的电磁场基本上是透明的,并且不使用电离辐射。
传统的ENB系统使用尖端定位的EM传感器。受限于这种传感器,难以执行位置跟踪,该位置跟踪例如在受控运动(相对于肺气道)和由肺本身的移动引起的运动之间进行充分区分。为克服此限制而提出的一种方法是使用光纤来实现导管(或其它介入性器械)形状感应。形状感应可以允许介入性器械感应其自身部分之间的相对定位。例如,尖端定位的EM传感器可用于提供相对于被导航的肺的锚定位置。
在本文中,术语“介入性器械”用作总括术语,其更一般地代表包括薄且纵向延伸的主体的柔性器械,通过将它们向远侧推进穿过体腔以到达远侧目标来使用它们。通常,推进是使用来自器械近侧的向远侧的压力来执行的,因此,即使器械是柔性的,也存在一定的刚度。介入性器械的例子包括导管、支气管镜和内窥镜。本文中,当器械被描述为与导管、支气管镜或内窥镜“相似”时,这些特征被引用。
在本公开的一些实施方式中,EM感应能力被扩展以允许跟踪从其尖端沿着导管主体向近侧延伸。为了简洁起见,这在本文中也称为“完全介入性器械”跟踪。应当理解,“完全介入性器械”不一定是指器械的整个长度,而是指足够长的长度(例如,至少5cm、至少10cm、至少20cm),以帮助克服仅尖端感应可能容易产生的定位误差和/或模糊性。例如,这可以是插入到被导航的气道中的整个长度,或者直到参考点(例如沿着气管建立的参考点)的整个长度。
仪器到解剖结构坐标配准(Instrument-to-Anatomy Coordinate Registration)的方法:
肺包括复杂的树状气道分级系统。这种复杂性给视频导航带来了潜在的困难;特别是在肺周边,在那里气道变得更小并且可能看起来相同,并且分叉的数量呈指数增加。此外,图像质量可能由于例如肺中存在的粘液而降低,使得难以仅基于视频进行导航。如在本领域中已知的,可以使用多个信息源在多个阶段中执行在探针位置和其穿过的解剖结构之间实现外科手术上有用的配准方法。
粗略配准(Rough registration):在一些NB(导航支气管镜检查)系统中,执行3-D定位坐标(LOC)系统和患者的术前CT或MRI之间的配准,这种配准可以帮助管理这些困难。本文中,“定位系统”指的是坐标系统,在该坐标系统中探头的位置被初始描述(或“定位”)。该位置在本文中被称为由探针的“定位坐标(localization coordinates)”描述。
CT或MRI图像包含关于肺的3-D信息,特别是患者气道的精确位置和形状。气道在一定直径以上被解析,该直径本身取决于CT或MRI扫描的分辨率。实际上,CT或MRI成像仪实际上绘制了气道图,气道是介入性器械可能沿其行进的“道路”。该图被提供给NB系统,该NB系统使用该图来向医生提供导航指令:例如,该拐哪个弯、行驶多远等。导航指令可以被呈现为覆盖在患者的静态术前CT扫描(“图”)之上,并且可以与显示到目标的路线的路径一起呈现。
为了显示定位的介入性器械在肺内的真实解剖位置,应用相应的精确配准(3D变形)来将测量的3-D介入性器械定位坐标映射到患者解剖结构的CT导出模型。一种约束和/或校准该变形参数的方法包括在固定解剖位置处将参考传感器连接到患者,并且使用这些传感器来实现解剖结构和定位系统之间的粗略配准。参考传感器与患者一起移动,因此系统知道身体在定位坐标中的位置。在一些系统中,可能不知道参考传感器是如何相对于解剖体实际定位的,并且参考传感器用于计算相对于一些单独确定的基线配准的LOC到解剖体的配准。
细化粗略配准(refining rough registration):为了产生有助于区分相邻气道的配准,可以通过附加信息来增强粗略配准。例如,可以使用气道内的介入性器械的尖端,使用几个解剖基准的标记来细化配准。
对此的一种方法是:在初始的视频辅助测量中,医生在视觉上识别主要的预定气道分叉,并用局部的介入性器械的尖端标记它们。然后将标记的位置收集在LOC坐标中,并与它们的解剖(例如,CT或MRI图像)坐标对应物相匹配。由此,计算LOC到解剖结构的配准。这在参与的基准附近可以是高度精确的。
在另一种方法中:医生可以在肺的主要气道内用介入性器械进行无监督测量。通过这种测量,医生收集介入性器械在LOC坐标中的位置。无监督配准算法,例如使用能量最小化优化方法,将这些与从气道图中已知的“道路”相匹配。
当收集到足够的样本时,就会找到一个独特的解决方案,并实现初始的LOC到解剖体的配准。这可以提供高精度,特别是在进行测量的肺区域(通常是中心区域)。LOC坐标可以相对于病床(例如,在安装天线的位置)固定,或者可以通过使用标准参考传感器补偿方法与患者一起移动。
动态配准(dynamic registration):可以理解,虽然这些方法提供LOC坐标和气道图之间的初始配准,但是它们不能解决由于肺的灵活性和动态特性而导致的实时配准不准确性。
肺由于例如以下原因而改变它们的形状:呼吸、身体姿势的改变,和/或通过在肺内移动的介入性器械(例如,支气管镜或其它内窥镜、导管、与其一起使用的工具和/或类似的手术器械)施加到肺的力。这些(可能还有其他原因)导致气道解剖结构相对于定位系统的初始配准和实时状态之间存在偏差。
在一些系统中,基于历史更新配准。例如,不是仅使用来自当前时间帧(time-frame)的介入性器械尖端的单个6-DOF测量,而是在短时间窗口(例如,几秒钟)内构建介入性器械的路径。然后在图内搜索路径,以匹配一些可能的“道路”。结果,不是仅仅将介入性器械的尖端定位在气道内,而是将介入性器械随时间经过的更长的路径与图相匹配。例如,如果介入性器械在某个分叉处“右转”(例如,如从其样本历史构建的介入性器械的路径中所见),则已知最终的介入性器械的位置不能位于左气道上,它必须位于右侧。
本公开的一些实施方式的一个方面涉及一种通过修改影响肺模型的相关联气道段的参数来调整的参数肺变形模型,同时约束那些参数的修改,使得气道段在基于解剖学的约束内移动。
发明人已经发现,通过分配参数(例如,最多约50、100或150;并且远远少于CT表示中的体素(voxel)的数量,并且可选地甚至远远少于气道骨架中分叉的总数),该模型通常足以描述肺可能由于例如呼吸、患者姿势的改变,和/或由支气管镜或其它内窥镜、导管、与其一起使用的工具和/或类似的介入性器械所施加的力而经历的变形。介入性器械沿着其主体的位置和方向(即,在插入到肺时沿着介入性器械身体的多个点处的位置和方向)可用作数据源,用于在肺移动时更新那些参数,并随着介入性器械主体移动,反之亦然。在一些实施方式中,介入性器械主体从其尖端被追踪到至少气管。
在一些实施方式中,模型本身包括肺气道的骨架化表示。例如,可以通过对肺的CT或MRI图像上执行的气道分割执行骨架化操作来产生骨架化表示。通过对骨架化表示的分支进行参数化,将可变形性引入到肺模型中;例如,参数化在每个分叉处连接的段的相对平移和方向。可选地,允许对较大(更近)气道中的分叉参数的调整传播到更远的分叉,模拟肺叶相对于彼此的相对移动。
在一些实施方式中,增加了对调节分叉参数的自由度的约束,以模拟限制可在单个分叉处发生的重排范围的机械特性。在本公开的一些实施方式中,所提供的约束包括例如以下的一个或多个:
·限制分叉处有多少段可以改变它们相对于彼此的方向(角度)。这可以包括对于小角度变化允许相对自由的移动,随着相对角度越来越大的变化,对变化的阻力越来越大。在一些实施方式中,对角度变化的阻力也被指定为气道直径、气道壁厚度和/或分支指令(branch order)的函数,以反映不同分叉处的不同相对刚度。这种约束对模型的影响可以包括,例如,迫使部分段重排沿着段长度弯曲,而不是在分叉处本身弯曲。在涉及多个分叉的情况下,模型可能“偏好”(由于约束)在一些分叉处弯曲更多,而在其它分叉处弯曲更少。
·从气道段的远侧-即远离将它们锚定到气管的气道的分支结构的一侧,施加的锚定。肺的一些区域可能通过不属于气道分支层次结构的连接、交叉和/或限制而部分固定在适当的位置;例如,胸膜和隔膜。这种约束对模型的影响可能是,例如,导致气道段相对于它们的近侧锚定分叉偏斜它们的方向,使得它们继续或多或少地指向它们的初始远侧位置。
·气道段被建模为通过肺实质的侧向机械互连(即,不通过分支结构本身)。这种连接可以例如通过在分支结构中由一个以上的分叉在近端彼此分开的一些气道来传递。这种约束对模型的影响可能是,例如,减小在两个或更多个分开的分叉处的气道角度的趋势,以改变它们的角度方向,这将使段拉开太多,或者将它们推在一起太多。
·气道段沿其长度建模具有灵活性。这种约束的效果是减轻由于段角度分叉的变化而引起的应变。这也可能有助于减少误差,因为沿着气道段的介入性器械中的弯曲可以由模型中气道段的相应参数来适应。
应当注意,解剖约束的表示允许模型将变形传播到直接测量的位置之外。在肺形状更全面变化的背景下,测量的形状的变化可能是最合理的(就模型的配置而言),延伸到远离介入性器械的当前位置的段和/或分叉,其传播到与约束相互作用的效果。
将基于解剖学的约束应用于模型的另一种方法是使用机器学习算法的结果,该算法从所提供的表示肺气道的解剖学现实配置的输入中学习。所提供的输入可以基于实际肺图像,其被适当地骨架化。模型的气道骨架的排列是根据他们是否与训练机器学习算法的排列相匹配来判断的。
在一些实施方式中,机器学习与气道骨架的解剖学合理性的基于参数(例如,基于误差减小)的判断相结合。对于训练集,肺的多个骨架化模型受到扰动(例如,由介入性器械的模型施加和/或感应的形状)。将高保真度误差减小模型(定义了许多约束,例如,刚刚列出的大多数或所有类型)被应用于扰动模型。该结果可能是计算密集型的,但是误差减少可以离线进行,因此计算时间不太重要。然后,机器学习被应用于刚刚生成的训练集,例如,通过本领域已知的训练方法。然后,机器学习的结果可选地被用作执行肺气道形状的实时判断的方法,可能以计算不太密集的形式封装计算更密集的方法的结果。机器学习可以在整个肺骨骼的水平上进行(例如,建模为多达3、4、5或更多个分支指令(branching order)),和/或在肺骨架的选定部分上进行,例如,由介入性器械占据的单个分支,优选地连同建模的介入性器械将遇到和穿过的下一分叉一起执进行。
这种类型的表示为动态变化的肺几何形状的逼真建模(realistic modeling)和/或减少更新模型肺几何形状,以匹配所建模的肺本身的测量所涉及的计算量提供了潜在的优势。在一些实施方式中,更新实时发生,允许例如在导航支气管镜检查手术期间在肺形状的动态跟踪中使用模型。
在识别具有分叉位置和角度的肺模型的动态参数时,该模型还产生了与肺几何测量方法的潜在协同作用,这些方法本身容易提供分叉角度信息。特别地,当介入性器械前进到肺时,介入性器械横穿分叉。在对应于模型的分叉位置的距离处介入性器械的方向变化提供了关于分叉位置和角度的信息。
如果仅使用介入性器械的尖端进行测量,则随着介入性器械继续其远侧推进,所测量的尖端位置和/或方向信息作为肺形状的指示可能会过时。如果后来的肺变形导致在接近当前介入性器械末端位置的分叉处的角度重新排列,则可能不清楚应该调整哪个或哪些分叉,以使肺模型回到与新移动的介入性器械尖端位置一致的对准中。
在本公开的一些实施方式中,通过同时从介入性器械的纵向延伸区域收集位置数据来解决这种模糊性。可选地,纵向延伸区域从介入性器械尖端向近侧至少向后延伸到介入性器械横穿的第一肺部分叉处。在这种情况下,动态识别哪些分叉变形以及变形程度的问题受到从占据这些分叉的位置的介入性器械的部分实时收集的数据所限制。
本公开的一些实施方式的一个方面涉及根据本公开的一些实施方式将静态肺形状的可变形模型配准到动态变化的肺形状的两阶段过程。
在一些实施方式中:在初始可变形配准步骤中,执行无监督测量(优选地使用完全跟踪的介入性器械),以收集LOC(空间跟踪的介入性器械的定位坐标)中的样本。然后使用能量最小化优化方法将可变形气道图拟合到样本。这是提供LOC和解剖结构之间的初始可变形配准的方法的示例。
可选地,在存在参考传感器的情况下,在配准期间将瞬时呼吸相位分配给每个收集的样本。这允许可变形配准算法将两个或更多个模型(例如,一个用于“吸气”,一个用于“呼气”)拟合到所收集的样本。所得到的4-D位置样本(3-D位置+呼吸相位(breathingphase))被收集在呼吸插值气道图中。可选地,使用另一个维度,例如7-D:三个位置自由度、三个方向自由度和呼吸。
在初始配准之后,动态变形跟踪算法实时调整变形模型以适应可变形肺,以提供逼真的变形跟踪。术前CT或MRI的气道图会相应变形,并置于定位坐标中,以表示手术过程中气道的真实状态。
该模型通过能量最小化优化方法拟合到肺。能量函数结合了形状约束(其将所求解的变形限制在合理的配置上,其中合理的配置是由基于理论和/或基于观察的肺如何移动的限制的约束的集来确定)和目标(这需要一个或多个局部化的介入性器械位于变形的气道内)。
变形算法使用来自用作其目标的定位系统源的任何组合的输入来执行拟合:例如,一个或多个完全跟踪的或单个传感器介入性器械,具有或不具有历史数据。然而,向变形跟踪算法提供一个或多个介入性器械的实时、完全跟踪的位置和方向具有特定的潜在优势。如果解剖结构中的那个位置本身移动,则介入性器械尖端在该解剖结构的某个位置中的历史位置可能会过时。然而,介入性器械的完整形状随着解剖结构“更新”,提供作为肺动力学约束特别有用的信息。
利用初始配准以及动态变形跟踪的变形模型,然后可以在NB手术中以其真实状态显示气道。建模的肺与患者实时同步“呼吸”,否则会随着施加额外的力而动态变形。这允许介入性器械在气道内以其真实的可变形解剖位置显示,从而有可能提高整体系统的精度性。
可以注意到,除了(特别是相对远离)测量介入性器械当前穿过的那些变形之外,对发生在肺分叉处的变形进行建模可能受到更少的完全约束(由于缺少直接的、实时的测量数据)。然而,只要肺模型被用于引导导航至介入性器械当前轨迹末端的目标,这种模糊性的影响可能会降低到无关紧要的程度。例如:
·肺区域远离导航轨迹的一些移动可能是不相关的,因为对目标位置没有影响。
·其它这样的移动可以通过施加在介入性器械的当前轨迹上(或接近当前轨迹)的分叉上的变形力而对目标位置产生影响。在这种情况下,新的测量将检测该变化,并允许至少肺的包含目标的部分根据需要通过模型的适当变形来重新定位。
·第三种可能性是这种偏离轨迹的肺变形会影响到达目标途中肺气道尚未穿过的部分的几何形状。但是,随着介入性器械继续前进,这些变化通常将被揭示,从而允许连续检测更远端气道分叉处的几何变化,从而能够成功导航到目标。可以理解,这更一般地适用于远端变形。
原则上,属于第三种可能性的部分情况仍然可能通过使远端分叉变形太多而在导航中引入模糊性,以至于当介入性器械到达它时,一个分支已经“取代”了另一个分支-也就是说,一个分支占据的位置与另一个分支的模型当前表示一致。然而,可以预见,对局部组织变形的机械约束将趋向于将这种严重的变形散布在气道轨迹的相对较大的纵向范围上,从而可以假定两个相邻分叉之间经历的增量变形足够小,以避免两个分叉分支之间的混淆。
可以注意到,在任何情况下,即使一个分叉分支变形到足以与其他分叉分支的定位相混淆(并取代)的程度,也不太可能出现相反的情况。这种情况大致相当于沿着连接两个分叉的单个段扭转180度,这在生物力学上是难以置信的。因此,在存在可察觉的模糊风险的情况下,可以交替遍历两个分支,从而避免风险。
本公开的一些实施方式的一个方面涉及基于指示所表示的解剖特征的形状的实时更新测量,将3-D图像数据表面转换为对应于它们所表示的解剖特征的当前位置的动态显示。
在一些实施方式中,在介入性手术之前的某个时间获得3-D图像,其包括沿着要穿过以到达介入目标的路径的解剖区域的图像,以及可选地包括目标本身。特别地,如果它是根据诸如肺的分支解剖结构的内腔限定的路径,则该路径可以在形状上通过3-D空间进行回旋弯曲,以便不受空间中任何单个平面的限制。
该路径的形状也可以是动态的;只要它在成像时间和介入性手术本身的时间之间变化,和/或甚至在手术期间变化。例如,就肺而言,由于上述任何原因,肺可能会随着时间的推移而改变位置。特别地,在手术期间,呼吸循环导致器官形状的不断变化,并且介入性器械可以施加引起器官移动和/或变形的变化的力。
较早获得的3-D图像数据可以包括与正在进行的手术相关的上下文的特征,例如:目标大小、形状和/或位置;以及血管等潜在脆弱结构的相对位置。对于医生来说,相对于介入性器械正在行进和/或计划行进的路径,以其当前和动态更新的形状向其显示任何这些或其它结构中是潜在的优点。
在本公开的一些实施方式中,一种沿着回旋路径显示特征的方法包括计算沿着给定路径的表面,该给定路径定义3-D图像的数据元素的位置。来自该表面的数据会进行位置转换,以便将其记录到路径的当前(和动态变化)形状。路径的当前形状通过指示其形状的测量来确定,例如,占据路径或其一部分的介入性器械的形状、指示当前肺膨胀状态的测量,或另一测量。
该表面可以被显示(以其变换的三维形状)到可用图像数据的范围的极限,或者它可以被限制在路径两侧的数据位置的条带内。除了表面之外,还可以指示路径本身。可能存在与表面一起显示的另一种指示,例如指示通道沿其延伸的内腔形状(例如,气道形状,或另一种内腔解剖结构,例如血管、消化道、泌尿道,或另一种解剖结构的形状)的3-D网格。
在一些实施方式中,路径被转换为平面和/或线性路径,并且在所限定的表面上的路径的任一侧的图像数据与路径一起在平坦的图像显示中示出。图像数据可选地取自沿着在几个位置处垂直于路径限定的一系列线的位置。然而,没有特别的限制,表面必须沿着垂直于路径的方向是平坦的;它也可以在该方向上弯曲。在一些实施方式中,表面被限定为被估计为最优地且共同地满足路径形状的约束的结果,所述约束条件例如包括重要结构的部分(例如介入性手术的目标),和/或沿着路径的潜在危险(例如血管)。
在详细解释本公开的至少一个实施方式之前,应当理解,本公开的应用不一定限于在以下描述中阐述的和/或在附图中示出的结构和部件是设置和/或方法的细节。本公开中描述的特征(包括本公开的特征)能够具有其它实施方式,或者能够以各种方式被实践或实现。
变形模型
现在参考图1,其是表示根据本公开的一些实施方式的生成肺变形模型的方法的示意性流程图。
总的来说,肺成像数据被转换为基本模型(优选地,是肺气道的骨架化表示)。对于该模型,应用了描述基本模型如何变形以匹配实际肺的特定状况的参数。
在一些实施方式中,变形模型(例如,如下所述)被定义为使用相对少的参数来定义上述可能的不同变形机制的结果。使用少数参数定义变形模型的潜在优点包括避免模型对观测数据的过度拟合,以及加速优化过程。
肺变形可视为一种分布特性,只要一个气道的变形不能与其相邻气道变形明显不同。可以定义全局参数来描述变形特征,例如:呼吸过程中肺如何整体扩张或收缩,由于支气管镜施加的力,一个肺与另一个肺相比如何变形,和/或两个肺如何进行某种全局拉伸或剪切(例如,由于患者的不同姿势)。这些变形特征对于导航系统的整体精度也很重要。这些特征在本质上是全局的,只需几个参数和约束即可描述。
在本公开的一些实施方式中,以下模型被用作实现变形建模的基础。发明人已经从具有刚性和半刚性肺模型、动物模型和记录的人类数据的实验结果中得出了它。应当理解,变形跟踪算法可以使用不同的模型,而不限于下面的特定参数化。变形跟踪算法通常与所使用的模型的具体参数化无关;但是,良好的模型选择可以降低过度拟合的风险,并显著提高跟踪算法的性能。
在一些实施方式中,该模型基于气道骨架化,其提供了肺气道的中心线。例如,在准备了如下数据后,生成了气道骨架:
在框102处,在一些实施方式中,在NB手术之前的初始化阶段,将患者的术前或早期手术CT、MRI或其它3-D图像加载到系统中。
在框104处,在一些实施方式中,处理CT或MRI图像。使用自适应区域生长、深度学习2-D/3-D CNN(卷积神经网络),两者的组合或任何其它合适方法的分段方法,对属于气道的3-D体素进行分段和标记(例如,在计算机存储器中标记)。可选地,其它解剖特征(例如,血管)也被分段,虽然在NB手术中没有被导航,但是可以提供关于肺的形状和/或其以不同方式改变形状的自由的信息。例如,血管可以限制肺叶在一定方向上或超过一定程度的弯曲或扭曲。应当理解,这里参考的是CT或MRI图像,这是关于特定肺的解剖信息的任何详细来源的更一般的例子。虽然CT或MRI图像可以被认为是用于提供此类信息的当前金标准,但是不排除肺成像领域的当前和/或未来发展可以允许使用另一个解剖信息源,例如,基于X射线成像、磁共振成像或其他数据收集方法的未来进展成像的信息。
在一些实施方式中,由框104的操作产生的气道分段表示二进制3-D体积,其中每个体素如果属于气道则为1,否则为0。如上所述,这提供了NB引导系统使用的气道图信息的初始表示。
在框108处,在一些实施方式中,执行骨架化,作为从框104中产生的分段的3-D二进制体积确定气道的树结构的步骤。
骨架化将原始气道分段体积转换为树状结构,该树状结构对气道图进行编码。作为骨架化的结果,管的3-D分段体积被转换成具有半径的中心线的图形。
在框110处,在一些实施方式中,在框108处产生的骨架化被进一步转换成包括通过边缘连接的节点的图形数据结构。每个节点代表分段的单个管(中心线段,无论是直的还是弯曲的,沿其具有恒定的或可变的半径)。连接节点对的每个边缘(定向的或无定向的)代表这些管在一个管的近端和另一个管的远端之间的连通性。因此,框110的图形将肺表示为管的树形(非循环)图。
树形图的根被定义为气管。第一个分叉是隆突(carina),而气道层次的其余的部分则作为树的子代。可以通过将骨架视为气道分段的压缩数据表示来评估骨架的完整性,从中可以恢复分段的体积,并执行反向骨架化到分段的变换。与原始分段的良好匹配(如发现的情况)意味着骨架对分段的体积的大部分信息进行编码。由于骨架尺寸小得多,并且更易于穿过和分析,因此它用作气道图的表示提供了潜在的优点。
现在简要参考图2,其示意性地表示根据本公开的一些实施方式的肺气道骨架200。骨架200以厚度(黑色区域201)和中心线(沿着黑色段的中心的光线202)来呈现。
回到图1:在框112处,在一些实施方式中,为树形图定义变形参数。通过这些参数,为模型提供了灵活性。树形图变形参数是为骨架化的每个分叉节点定义的,但不必为树形图中的所有这样的节点定义。在一些实施方式中,为高达大约3或4层的分支顺序定义节点。可以适当地为更高的级别定义节点,例如,沿着介入性器械穿过的路径。
在一些实施方式中,骨架的每个分叉被分配一个坐标系,该坐标系由从局部分叉坐标到CT坐标(或在任何其它合适的坐标中)的4×4的3-D刚性变换矩阵来描述。或者,坐标系可以用4-D四元数和3-D位置来描述,或者用另一种合适的方法来描述。
参考图3,示意性地表示根据本公开的一些实施方式的分叉坐标系304(本文中也称为坐标系Ti)和分叉平面305。母气道301从气管引出,并分成子分支气道302。
坐标系统304例如位于分叉ri的顶点,其Y轴yi垂直于分叉305的平面。在一些实施方式中,分叉305的平面被定义为既包含分叉点ri又与连接到分叉的所有气道分支最佳对准的平面。其Z轴zi可以被定义为指向以ri为终点的气道方向,并且也被迫位于分叉平面上,使得Zi⊥yi。然后可以将剩余的X轴定义为xi=yi×zi,以形成右手坐标系。
此外,树中的第一(根)顶点也被分配有一个坐标系T0,其中Z轴指向气管起点的方向。Y轴可以任意选择,但是为了简单起见,可以选择为垂直于Z并与气管末端的Y对齐的最近矢量。
如上所述,具有特定方向选择的坐标系{Ti}的特定结构便于表示每个分叉,但是变形模型对于特定结构是不变的,并且可以使用以分叉为中心的任何坐标系,或者更一般地,其反映分支和分叉的变形状态。
每个3-D变换可以由位置矢量ri和3个欧拉角(α,β,γ),位置矢量和3×3旋转矩阵Ri,以及位置矢量和4-D四元数qi来表示。所有坐标系的集合形成了变换的层次。为了表示气道图的变形,建议的模型使用分叉作为控制点(或关节)。它描述了应用于气道分叉处的变形,并使用插值方法计算气道内的变形。设其中p(i)是i(或树的根)的父分叉,并定义U0=T0。Ui表示其父分叉坐标中的第i个分叉坐标系。然后可以写出{Ti}:Ti=U0...Up(p(i))Up(i)Ui的链式乘法规则,即一个分叉与其母分叉之间从第i个分叉到根节点的所有相对变换的乘积。通过在Ui上施加变形,所有的子代分叉也以树状方式受到影响。
现在参考图4,其示意性地示出了根据本公开的一些实施方式,在分叉402和401之间变形之前(左侧410)和之后(右侧411)的肺气道骨架。该变形通过对相应的Ui施加旋转而改变了在分叉401及其所有子代处的定位。具体示出的其它分叉包括分叉403,其不受变形影响的。
使用Ui应用变形也影响修改的分叉401的所有子代。这在施加到肺的变形的大多数情况下是合理的。例如,在一个肺相对于另一个肺轻微旋转的情况下,这可以通过旋转单个Ui来反映,例如,如图4所示。
在一些情况下,可能需要将变形仅应用于单个分支,而不影响其子代。这可以通过直接修改相应的Ti来容易地实现。然而,在下面的描述中,使用Ui来应用变形,因为发明人已经通过实验发现树状行为更好地捕捉了肺的变形特性。此外,可以用更少的参数对这种改变进行编码。然后通过上述的链式乘法规则计算对剩余交叉点{Ti}的变化。
Ui,0表示的是相对于其父节点的原始分叉变换(其可以是来自CT或来自初始变形计算的初始状态)。Ui,t表示时间t处的变形分叉变换。
为了对肺变形进行建模,可以通过以下方式将变形变换Ui,t应用到图4的左手侧410的状态中表示的分叉坐标系来修改:Ui,t=ΔUi,tUi,0。然后用ΔUi,t描述母坐标中的变形。如果ΔUi,t=I4(单位矩阵),则不对第i分叉(相对于初始状态)施加变形。然而,例如,如果ΔUi,t=Rω(绕旋转轴旋转|ω|度的旋转矩阵),则Ui,t通过相对于p(i)旋转ω来使第i个分叉(及其所有子代)变形,如图4所示。
使用母分叉坐标中ΔUi,t的施加变形,并将变形强制为零或较小的偏移量,产生变形模型,其中分叉之间的距离和分支之间的角度几乎完全保留。如图4所示,沿着气道的长度对模型施加变形,而不影响分叉处的总距离和角度。如果不允许偏移,则可以使用3个欧拉角来描述ΔUi,t,如果允许偏移,则使用总共6个参数来描述。
在一些实施方式中,分支内部点的插值以下列方式完成:表示描述第i个分支的初始形状的曲线,该曲线开始于分叉p(i)处,并在分叉i处结束(对于每个分叉,通过考虑在分叉处结束的分支,在分叉和分支之间存在一对一的对应关系)。vi(σ)以CT坐标给出。vi(0)=rp(i)表示分叉p(i)的初始位置,vi(1)=ri表示分叉i的初始位置。
在给定变形分叉变换{Ti,t}的情况下,需要计算vi,t(σ),其表示在时间t时变形的CT坐标中的第i个分支的变形曲线。表示的是在时间t时从CT到变形的CT坐标的第i个分叉的变形。
根据这些定义,在一些实施方式中应用以下插值公式:
vi,t(σ)=interp(ΔTp(i),t,ΔTi,t,σ)(vi(σ))
其中“interp”可以是两个3-D刚性变换之间的任何插值函数。例如,“interp”可以将变换拆分为旋转和平移,并分别处理每个部分。旋转的插值可以使用四元数的SLERP(球面线性插值)或任何其它合适的方法来实现,而平移的插值可以通过简单的加权平均来完成。
可以验证vi,t(0)=rp(i),t,第p(i)个分叉的变形位置;vi,t(1)=ri,t,第i个分叉的变形位置。这表明插值公式将分支曲线的起点和终点视为预期值。
总之,图1-4中描述的变形模型将坐标系分配给骨架化肺气道模型的分叉,每个分叉被表示为{Ti}。然后,它使用{Ti,t}描述时间t时的变形分叉。分叉可以排列在树状层次结构中,并使用链式乘法规则使用变形{Ui}及其变形的对应物{Ui,t}来计算。ΔUi,t为分叉在其母分支坐标中的变形提供了方便的表示。
使分支变形后,使用分叉的起点和终点对分支曲线进行插值。仅使用几个参数,该模型描述了在NB手术中发生在肺的大部分自然变形。该模型可用于实时动态变形跟踪以及呼吸补偿的使用,如下所示。
可变形配准
现在参考图5,其是表示根据本公开的一些实施方式,在位于肺气道中的介入性器械的位置和气道的分支模型之间执行可变形配准的方法的示意性流程图。
在框502处,在一些实施方式中,如上所述,医生使用一个或多个单传感器或完全跟踪的介入性器械执行无监督测量。在LOC坐标中捕获样本,它们在解剖结构内的位置未知,并且将通过配准过程来确定。由测量产生的位置数据505可用于框504的操作,特别是框504A的操作。
基线气道图503由一些先前测量的肺几何形状的至少部分表示构成,例如,如关于图1所描述的那样生成。尽管在框502中测量并由基线气道图503表示的肺是相同的肺,但是在获取基线气道图503的数据的时间和框502的测量之间可能存在几何形状的变化。
在框504处,在一些实施方式中,确定无监督测量数据和气道图(如从先前成像,例如使用CT生成的)之间的刚性配准。框504被分为框504A和504B,这两个框可以同时或顺序地执行,可选地迭代地执行。在框504A中,对气道图进行修改以提高其与当前解剖状态的相似性。框504B表示刚性配准(例如,平移和旋转)。
用于框504B的配准的算法在本领域中是已知的。它们使用能量最小化优化方法执行刚性配准的确定,通常从用单个传感器执行的无监督测量开始。然而,在没有额外修改的情况下(如在框504A中所提供的),从术前CT生成的气道图可能不能准确地反映在手术时的解剖结构:在实际手术期间,在术前CT的气道图和肺状态之间很可能存在变形。其潜在原因包括,例如:术前CT(或其它术前成像过程)通常在手术之前几天或甚至几周进行;以相对于CT扫描(或其它基线成像过程)改变的姿势检查患者;和/或由支气管镜或其它内窥镜、导管,与其一起使用的工具和/或类似的手术器械施加在肺上的力改变其形状。
因此,在本公开的一些实施方式中,由框504A表示的其他操作调整变形模型,以使其更适于找到LOC和解剖结构之间的刚性配准。解剖结构最初由应用了相对于CT的“零”变形模型的可变形模型来表示(并且在CT期间将肺的状态表示为基线气道图503)。在配准期间,通过选择变形来修改变形模型,以补偿在CT或其他3-D成像的时间和NB手术的时间之间的肺状态的变化。
框506表示变形模型(气道图)的初始配准状态,该状态可以在手术期间随着肺经历进一步的动态变化而继续变化。
在本公开的一些实施方式中,对在框504A中使用的气道图参数(变形)的改变的选择是基于从定位在肺中和/或在肺内移动的一个或多个完全跟踪的介入性器械获取的位置和方向感测数据。来自跟踪的位置数据从框505被提供给框504A。例如,与仅在尖端跟踪的介入性器械相比,完全跟踪的介入性器械提供了更多的数据,尤其是更直接地指示介入性器械在当前时刻(例如,时间戳)的位置的纵向范围的数据。
由于肺在手术过程中是移动的,因此对旧位置数据的解释可能是模糊的或误导的,使得它不如明确指示所有或大部分介入性器械的当前位置的数据有用。作为旧数据可能出现的问题类型的指示:一旦肺移动,则在旧数据中指示的介入性器械位置仍然在原始气道内的假设是无效的(并且至少是可疑的)。为了纠正这一点,需要一些关于肺如何移动的信息。但是,在只进行尖端跟踪的情况下,没有传感器可以提供该信息。另一方面,对于完全跟踪的介入性器械,可以依靠介入性器械接近尖端的部分的移动位置来忠实地表示气道本身的移动位置。此外,旧数据和新数据之间的联系很明显,因为介入性器械本身构成了一种恒定的“尺子”。因此,比较旧数据和新数据可以直接指示可能已经发生了何种类型的肺运动。
现在简要参考图6,其示意性地表示根据本公开的一些实施方式的与测量数据603、603A、603B不同地配准的肺模型状态602、602A。在该示例中,使用完全跟踪的介入性器械收集测量数据603的样本。在从状态602到状态602A的转换中,区域608和609(例如)已经改变了它们相对于肺模型的其余部分的位置。
面板610(左)示出了粗略覆盖在肺模型602上的原始测量位置603,导致了与测量数据603的很大程度的未对准。面板620(中间)示出了测量数据603A与肺模型602的刚性配准的结果。这类似于在没有通过框504A对模型进行先前处理的情况下执行框504B的结果。这会导致误差,特别是在肺的更远端部分。面板630(右)示出了肺模型602A,其已经通过由测量数据603B引导的变形进行了变换,从而校正了在面板620中看到的刚性配准误差。
回到图5的讨论:在本公开的一些实施方式中,基线气道图503被构建为关于图1描述的变形模型的实例。为了捕捉LOC与解剖结构之间的变形和刚性配准,为了配准的目的,将{Ti}视为LOC坐标中的分叉坐标系是方便的。从这个意义上说,U0=T0对从解剖结构到(根节点的)LOC的刚性变换进行编码,而{Ui}i>0表示分叉之间的局部变换和变形,如前所述。该单一模型对刚性解剖结构到LOC配准(U0)以及局部CT变形进行编码。
在一些实施方式中,框504的优化过程被配置为拟合模型,该模型将执行以下操作:(a)将所有收集的介入性器械LOC-样本放置在变形和变换的气道内(本质上,执行框504B的操作),以及(b)描述允许这种操作的肺的合理变形(框504A的操作)。这两个条件-目标约束和形状约束-可选地被编码在单个能量函数中。或者,使用迭代交替的多个能量函数来执行拟合。
为了防止过度拟合并使收敛更加稳健,可选地从模型中省略大于特定阈值(例如,大于第三代)的代分叉。可选地,只有在与较低代分叉的初始拟合已经收敛到解之后,才将一个或多个较大分叉代包括在拟合计算中。可选地,对介入性器械位置测量值(由测量采集的样本)进行预处理或分配权重,以使它们对拟合的贡献保持平衡。
为了对CT坐标中的局部变形气道图到LOC坐标之间的变换的刚性部分进行编码,可以在6个参数(6-DOF)中分配U0。这被用作框504B的操作的一部分。可选地,参数值被限制到受限的(合理的)搜索区域。在一些实施方式中,在初始全局搜索步骤中搜索U0,如在其他这类算法中所做的那样。位置数据505和基线气道图503的相对缩放可以从数据采集的条件很好地表征;可选地,在变换拟合中包括缩放因子。
现在参考图7A,其示意性地表示根据本公开的一些实方式的确定变形模型的变形变换以匹配可用数据以及在进一步的动态建模中使用变形变换的元件。关于图7A的描述概述了用于图5的一些操作的更具体的实施方式,并且添加了示出该实施方式的结果如何可以进一步用于对手术期间肺的动态进行建模的框。
在一些实施方式中,通过{ΔUi}i>0,在基线气道图上执行局部变形(例如,由框504A的操作执行)在基线气道图上执行(框503,也如图5所示)。可选地,仅使用3-DOF(如果不允许偏移)或6-DOF(如果允许偏移)来定义。模型的参数可以被收集到单个状态矢量x=(U0,ΔU1,ΔU2,...,ΔUN)中,其中矩阵将以其紧凑的3-DOF或6-DOF形式来表示,i=0,1,...,N是参与优化过程的分支。
框706表示分叉分配的形状,其形式至少是是由分叉的分支在模型中假设的旋转状态。框708表示形状约束。可选地,每个分叉定义这些约束条件,以限制和/或指导如何修改框706的形状。对于第i个分叉(i>0),可以简单地通过使用以下能量函数来对形状约束进行编码:这将优化限制为仅发现分叉之间的小变形和局部变形。可选地,以另一种方式来指定形状约束,例如,通过将一组机器学习的评分权重应用于特定模型配置以对其能量函数进行评分。
此外,可以根据分叉的产生或其特征半径为分配权重,这使得它或多或少地使易收到拟合过程畸变(distortion)的影响。例如,相对于较小半径的较深分叉,可以使主隆突更坚硬。
上面的定义包括通过在旋转矩阵和任意单位的平移之间进行混合来简化。或者,在一些实施方式中,将ΔUi分成3×3旋转矩阵R和平移矢量t=(x,y,z)。每一个都可以分别与I3和0进行比较,并且每一个差值被赋予其自己的权重。
可替代地考虑R-I3:在一些实施方式中,旋转以其四元数形式q=qw+iqx+jqy+kqz表示和分析。然后,形状能量函数将相应地被读取为 迫使(qx,qy,qz)趋于0,即零旋转。可选地,在ΔUi中区分不同类型的旋转。例如,这也可以通过分析q,并为不同类型的旋转分配不同权重来实现(例如,使模型段在分叉处更容易弯曲,但更难扭曲)。为了体现这种区别,结合图1描述的坐标系{Ti}的具体构造可能非常适合。可选地,选择拟合权重以优选在某个方向上的偏移和/或阻止在其它方向上的偏移。从这些示例可以理解,的实现可以采取几种不同形式中的任何一种,对应用于特定分叉的变形施加形状约束,以反映真实的肺变形配置。
优化过程与特定能量函数的选择无关。然后,总的形状能量函数是:
为了共同实现框504的两个目标,即,找到刚性变换(框504B)和局部变形(框504A),使得位置数据505(例如,在介入性器械的测量移动期间从收集的介入性器械样本)在变形和变换的气道内,在一些实施方式中,考虑了在一侧收集的介入性器械样本和在另一侧变形和变换的气道导管(在LOC坐标中)之间的距离。
当来自位置数据505的样本正好位于由气道图(基线气道图503,或修改后的另一气道图)限定的气道导管内部时,则它不应对优化产生任何误差。然而,如果样本位于由分支气道模型限定的边界之外,则应该校正模型和/或刚性配准以最小化该误差。
由所表示的是位置数据505的所收集的介入性器械位置样本,其通过4×43-D变换从局部介入性器械或传感器坐标转换定位坐标LOC。或者,介入性器械位置样本被描述为4-D四元数和3-D位置矢量或者以任何其它适当的表示。
根据可用的介入性器械位置数据的类型,可选地实现所收集的介入性器械位置样本的使用的变化。例如,利用5-DOF跟踪系统实现时,每个Si中的旋转矩阵的第一轴和第二轴可能不存在。与单传感器介入性器械一起使用来实现时,每个Si都表示在配准测量期间的某个时间的介入性器械的尖端。利用完全介入性器械定位系统,完全介入性器械定位系统长度是连续可见的。在这种情况下,可以通过将完全跟踪的介入性器械沿其长度分成一系列离散变换(例如,使用样条或其它插值方法)来产生Sk,以在每个时刻(时间戳)产生许多Sk。这样的优化过程与介入性器械位置测量(单传感器与完全跟踪)的结构以及跟踪的介入性器械的数量无关。它只需要一组{Sk}作为输入。sk表示的是每个Sk的平移(位置)矢量。对于给定的样本Sk,样本能量定义如下:
其中Wk是分配给特定的第k个样本的权重;Skel(x)表示由变形模型状态矢量x变形的气道图骨架,如在第(3)节中详细描述的;Γ(v,Skel)是输出位置矢量v和骨架模型Skel之间的最短距离或偏移的函数。当x表示真实的变形和变换时,对于每个k,预计为0。可以以各种方式选择Wk。例如,利用完全跟踪的介入性器械,在每个时间戳,完全介入性器械被分成多个离散的{Sk}。它们相应的Wk可以为介入性器械的尖端相对于其尾部分配例如更大的权重,以便在搜索可变形配准时使优化集中在更深的气道上。对于Γ的选择,可以使用v和变形的骨架Skel(x)之间的简单距离函数,但随后优化将尝试将所有收集的样本拟合到骨架的中心线中,但情况不一定如此。为了避免这种情况,需要考虑变形骨架的半径。可以使用归一化距离函数,该函数通过将距离除以距骨架上最近点的相应半径来找到最接近的归一化(无量纲)距离;然后以1-半径、2-半径而不是[mm]、[cm]等来测量归一化距离。然后可以考虑小于1的归一化距离视为气道内部的点。因此,半径归一化的距离可以经历诸如SmoothReLU的传递函数,其偏移量将所有小于1的所有半径归一化的距离视为接近0,并对于大于1的半径归一化的距离视为线性增长。对于偏离中心的样本,优化仍将会出现一些小的误差,但是它们可以忽略不计。更一般地,可以定义其中Γ现在看到第k个样本的完全3-D变换,并且找到完全3-D变换和变形的骨架之间的最短距离。该公式允许Γ包括介入性器械样本和变形树之间的定向距离,例如要求介入性器械的方向将与最接近的骨架点的方向对准。此外,与仅输出介入性器械样本和变形的树之间的最短归一化距离不同,Γ可以输出3-D中的全差分矢量(full difference vector),或3-D中的2个差分矢量-一个用于位置而另一个用于定向。应该理解的是,优化与Γ和的具体选择无关,它们应该仅被选择为使得气道将被吸引到样本,优选地,具有取决于气道半径的归一化,并且在气道导管内具有几乎均匀的成本。总的样品能量函数为:
总的能量函数为:
E(x)=(WsmpEsmp(x),WshapeEshape(x))
其中Wsmp和W形状提供了样品气道变形和满足形状约束之间的平衡,并通过实验选择。E(x)表示为多维误差矢量,其每个分量描述某种特定类型的误差。优化过程的目标是找到使总误差||E(x)||最小化的状态矢量x。可以使用各种非线性方法进行优化,例如梯度下降法(Gradient-Descent)、单纯形法(Nelder-Mead)、信赖域(Trust Region)、列文伯格-马夸尔特法(Levenberg-Marquardt(LM))等。一些优化方法(例如LM)利用误差函数的表示作为误差的多维矢量来加速和提高其收敛过程的鲁棒性。例如,LM优化使用误差矢量E(x)的雅可比矩阵(Jacobian)来实现收敛。E(x)的雅可比矩阵可以数值计算或解析计算,并用于LM或其他类型的非线性优化算法。
可变形配准过程的输出是状态矢量x(框710),其描述了可以用作NB手术的初始状态的变换和变形模型{ΔUi}i≥0的参数。利用完全跟踪的介入性器械,可以收集可能足够的样本,以在收集的介入性器械样本上拟合柔性可变形模型,获得拟合改进,例如,如关于图6所述。
动态变形跟踪
图7A的可变形配准输出一组(变换状态矢量710),其编码从解剖结构到的刚性变换以及CT在其初始状态下的局部变形。在NB手术期间,基线气道图被变换/变形以反映LOC坐标中气道图720的更新(例如,当前和实时)状态。
在一些实施方式中,更新的配准气道图720由描述:也就是说,框710的总变换和变形连同编码动态变化的额外动态变换状态矢量712被应用于基线气道图503。更详细地说:静态部分来自可变形配准,并且描述在手术中处于初始变形状态的气道图变换。动态部分在手术期间动态更新,以考虑使肺变形的动态力。
在一些实施方式中,呼吸变形被从中排除,并且替代地被集成到中(例如,如在关于呼吸变形的节中所讨论的)。
在NB手术开始时,在产生初始配准的气道图506之后,并且即,基线气道图503仅通过变换状态矢量710变换。通过与现有的组合,将额外的变形添加到模型中。还可以写成 以表示从开始,并在手术中随着时间的推移局部变形。
由框720的操作实现的动态变形跟踪算法类似于由框504的操作实现的可变形配准。
在多个时间t中的每一次,作为位置和定向数据505A提供的一组新的介入性器械样本是可用的
在单传感器介入性器械的情况下,K=1。对于完全跟踪的介入性器械,可以给出许多Sk;例如,通过沿着介入性器械对每个传感器进行采样,和/或通过使用样条或其它插插方法进一步将介入性器械的表示分解为沿着其长度的一系列离散变换。
类似于产生初始配准的气道图506的初始可变形配准,框720的变形跟踪算法与所使用的介入性器械的数量以及每个介入性器械的配置无关。框720的动态变形跟踪算法被配置为通过计算来更新变形模型,使得对于每个时间t,来自位置数据505A的大多数样本将在气道内部,并且使得所施加的变形将如上所述地描述合理的肺变形。在一些实施方式中,这包括共同最小化由样本与气道的总距离以及由某一配置的不可信性所定义的两种类型的“能量”,例如由框720所使用的形状约束所约束,其类似于框504使用的形状约束708。
然而,相对于由框504实现的可变形配准算法,框720的变形跟踪器在其处置中不具有同样多的介入性器械样本。
在一些实施方式中,变形跟踪仅使用当前的全介入性器械在当前时间t的位置。在一些实施方式中,变形跟踪还使用来自位置数据505的过去的样本;例如,通过将它们添加到{Sk}中,权重随着数据老化而减小。
本公开的一些实施方式的目的是以快速(实时)速率和低延迟(low latency)提供连续更新的变形跟踪。该目的部分地通过递增地更新变形模型来匹配从位置数据505A获得的新数据。这种递增的更新与低延迟的目标相一致,在某种程度上,与位置数据505A的采样速率相比,肺的实际变形速率相对较慢。
在一些实施方式中,框720的变形跟踪器重新使用来自框504的可变形配准的能量函数的定义来定义模型的动态变形部分的能量:
其中:
·xt是模型在时间t时的状态矢量,现在只包括动态部分:
·xreg是可变形配准的状态矢量,
·是形状能量函数,可选地现在仅集中在动态部分上,即,它不针对配准的形状进行惩罚,而仅针对附加的动态形状进行惩罚(尽管可选地,可以考虑初始形状),
·是样本的能量函数,它是介入性器械样本与最终的转化和变形的骨架(包括配准和动态变形)之间的距离的量度。
在一些实施方式中,动态变形跟踪器假设来自可变形配准的形状是真实的,也就是说,它不将其包括在其形状能量函数中。它只搜索局部变形校正其将近似于介入性器械的样本,并且在形状上不会相对于在框504处执行的可变形配准所限定的原始形状有太多的偏差。
在动态变形跟踪算法的每次迭代可用的信息受到限制的情况下,存在过度拟合的风险。在任何情况下,为了维护实时更新,收敛和运行时间都应快速进行。
在一些实施方式中,通过将在框720处实现的跟踪器算法的注意力限制为接近介入性器械的分叉来帮助满足这些标准。
例如,假设被跟踪的介入性器械位于右肺内部,试图最小化||Edyn(xt)||的左肺分叉的变形将是徒劳的,因为它对总能量没有显著影响。
在一些实施方式中,当重新计算动态变换状态矢量712时使用的优化器仅修改xt中可能影响能量函数的分叉,即,足够接近被跟踪的介入性器械的分叉。这些可包括介入性器械当前穿过的分叉,可选地连同根据一些距离度量(例如,分支距离和/或空间中的距离)选择的分叉。
同样类似于在框504处实现的可变形配准算法的一些实施方式,xt可以被限制到直到某一代的分叉。可选地,基于例如代或特征半径,为中的优化赋予分叉权重。
Γ距离函数用于将介入性器械采样位置与变换和变形的骨架Skel(xt,xreg)相匹配,以便能够计算这在计算上可能是昂贵的。为了避免考虑整个树,可以从搜索中省略树的不相关(例如,远离介入性器械样本位置)部分,以获得某种加速。例如,这可以通过以下方式来实现:将考虑限制在距介入性器械样本的一定半径内的骨架点,并与它们和它们的所有祖先形成用于Γ距离计算的子骨架。
现在参考图7B,其是根据本公开的一些实施方式示意性地示出图7A的块的实施方式的流程图。当连续获取介入性器械位置数据时,图7B的操作被迭代地执行,以在手术期间维持更新的肺模型。
在框730处,在一些实施方式中,变形跟踪器访问一组新的介入性器械样本{Sk}和权重Wk。例如,可以调节权重,以使介入性器械的远侧尖端比其更近端部分具有更强的权重。
在框732处,在一些实施方式中,跟踪器然后基于与{Sk}的接近度来选择一组分叉和相关的子骨架。
在框734处,在一些实施方式中,模型状态矢量利用来自其前一次的迭代t0:的状态来初始化。
在框736处,在一些实施方式中,例如使用非线性迭代优化方法(例如列文伯格-马夸尔特法(LM)算法)来执行一个或多个收敛步骤,更新xt以最小化误差函数||Edyn(xt)||。可以选择收敛步骤的数量以避免可用计算资源的过度使用。它可能相当低-甚至只有一个步骤。由于算法的实时操作有助于确保在采样时间之间不应该有显著的变化,因此在任何情况下,模型通常都应该接近其收敛状态。
在框738处,在一些实施方式中,可选地对所得结果xt进行过滤,以迫使跟踪者获得更平滑的响应;例如通过使用:
其中α控制要在先前时间戳t0和新时间戳t的变形状态之间执行的过滤量(0-无过滤,立即更新;1-完全过滤,无更新)。
附加地或替代地,通过使用在每个更新步骤之后应用的可选阻尼阶段来限制动态变形:其中β控制要执行的阻尼量(0-无阻尼,完全更新;1-完全阻尼,无更新)。通过增加阻尼(β>0),动态变形总是松弛,并返回到零。只有在介入性器械样本{Sk}指示与可变形配准相比的局部变形的情况下,变形跟踪器才会保持非零的局部变形变换
应当注意,形状能量函数也可以隐式地将动态变形推向单位矩阵I4,除非给出阻力,但是显式阻尼阶段可以帮助加速和更好地控制阻尼过程。
本节中的其余讨论涉及框736的误差最小化计算的细节。
仅执行局部收敛步骤,存在算法陷入Edyn(xt)局部最小值的风险,其中局部收敛算法(例如LM)将无法轻松恢复。
例如,当介入性器械位于深和高度变形的分叉和/或其变形在可变形配准步骤期间未被建模的分叉附近时,可能发生这种情况。
从这样的分叉处,最初可能并不能绝对清楚介入性器械在分叉处是右转还是左转。在接下来描述的示例中,假设介入性器械在模糊建模的分叉处右转。与本描述的变形模型相结合的完全跟踪的介入性器械的潜在优点在于,在进入特定气道并行进短距离之后,介入性器械本身的形状教导系统介入性器械是右转还是左转,即使在显著变形的情况下也是如此。例如,右转后,||Edyn(x右)||<||Edyn(x左)||,其中,x右、x左表示分别考虑右转或左转的动态变形的状态矢量。然而,由于变形跟踪算法本质上是局部的,因此在导航期间可能错误地朝向x左收敛,从而通过施加适当的(过度的)动态变形而错误地迫使左气道与介入性器械对准。
当介入性器械在气道内行进一小段距离之后,选择x左肯定不如选择x右,但此时对于局部收敛算法来说,要一路返回,从局部最小x左逃离,并收敛到全局最小x右可能已经太晚了。
在本公开的一些实施方式中,全局搜索被并入到动态变形跟踪算法中,这可以允许逃离局部最小值。
全局搜索实现的一个示例以小扰动的形式在当前状态矢量xt附近应用搜索(例如,随机或网格搜索),其中vi在某些方向上修改xt,试图找到具有较小总误差的状态矢量。每个扰动vi的误差函数可以在搜索算法中并行地估计,该搜索算法可以容易地利用多个计算处理单元,例如图形处理单元(GPU)。
另一种选择使用多重假设方法。在特定的分叉处,骨架可以被分成两个子骨架:一个含有左转和它的所有子代(但不包含右转),另一个包含右转和它的所有子代(但不包含左转)。跟踪器运行两个单独的优化,一个使用中的“左”骨架,另一个使用“右”骨架。使用“右”骨架的优化器将被迫收敛到右转,因为子骨架缺少左转。在开始时,“左”优化器可能显示较小的误差;然而,在介入性器械行进一小段距离之后,“右”优化器将会胜出,而“左”假设将会被丢弃。
对该方法进行形式化:对于每个迭代时间t,搜索骨架路径{Pj},该骨架路径在距介入性器械样本{Sk}的一定距离内。可以假设介入性器械必须适合这些路径之一。然后进行局部收敛,以便发现使||Edyn(x,Pj)||(这里在其Γ距离函数中使用Pj)最小化的xj。每个xj都描述了模型的状态矢量,其基于介入性器械位于路径Pj内的假设来最小化能量函数。
Ej=||Edyn(xj,Pj)||表示为在最小状态矢量xj处的误差。然后可以被选择j0使得如果则意味着优化器找到了改善局部收敛xt的状态矢量,并且优化器可以选择设置xt←xj,从而从局部最小值点逃离。该全局多假设搜索可以在每个动态变形跟踪步骤上运行。或者,可在单独的步骤上测试每一假设,以减少所需的计算能力。这个思想背后的直觉如下:这意味着,尽管由Edyn(xt)定义的收敛面可以包含许多局部最小值(每个Edyn(xt,Pj)的所有局部最小值的累加),但是这些Pj-特定收敛面中的每一个本身都简单得多,因此更容易搜索。
与可变形配准类似,动态变形跟踪算法可以根据误差最小化优化问题来形式化。总的动态变形误差函数||Edyn(xt)||形成复杂的收敛面。求解器可以采用全局最小化、多种子方法(几个起始点)、多假设方法,或任何其他合适的局部/全局方法来实时最小化误差函数,同时避免局部最小化。xt可以随随时间被过滤以产生连续更新的动态变形体验,并且可以被阻尼以加速收敛(“松弛”)回到初始的可变形配准状态。
与可变形配准一起,由描述的总变形变换解释了术前CT和手术开始时解剖结构之间的变形和变换(在LOC坐标中),以及在NB手术期间肺的额外动态变形。可变形配准算法与动态变形跟踪器的一个主要区别在于,可变形配准看到许多介入性器械样本,并产生单个变形和变换状态xreg,这可能需要几秒钟的时间来计算;而动态变形跟踪器是实时的,并且仅基于每个时间戳上的几个观察到的几个Sk来提供快速演变的xt。
呼吸变形
在本公开的一些实施方式中,在图5和图7A的框504处确定的刚性配准是循环变化的配准。更具体地,在一些实施方式中,配准根据呼吸循环的移动而变化。
NB手术中的一个问题是克服由呼吸引起的变形和不精确性。这种运动对于肺的外周目标可能特别重要,这些目标距离气管和大支气管的相对固定和/或僵硬的结构更远。
解决这个问题的方法是使用连接到患者胸部的参考传感器来创建随身体和胸部移动的广义LOC坐标。呼吸引起的肺和介入性器械的移动在一定程度上通过参考传感器位置的变化得到补偿,因为这两种运动往往是相关的。
然而,由呼吸引起的肺变形是复杂的。例如,一个气道可以在一个方向上变形,而另一个气道在相反方向上变形。这会降低基于简单参考传感器的呼吸补偿算法的精确度。
在对这种并发症的部分补偿中,可以根据呼吸相位来解释参考传感器读数。例如,可以根据参考传感器的周期性运动来计算呼吸相位φ∈[0,1]。相位可以表示为例如0和1之间的数字,其中φ=0表示完全呼气状态,φ=1表示完全吸气状态。在这种表示中,呼吸相位在这两个极限值之间振荡。或者,可将φ理解为圆周上的真实相位,其中φ=0≈1可表示完全呼气状态,φ=0.5表示完全吸气状态。将φ视为圆周上的相位可以区分呼气到吸气过渡运动,以及吸气到呼气过渡运动,这两种运动不一定遵循与参考传感器输出的函数相同的运动模式。
在计算了呼吸相位之后,可以应用在呼吸运动和呼吸相位之间相关的函数。概括地说,该函数接受呼吸相位作为预测输出的参数,该输出估计在某个介入性器械的位置处的呼吸运动。该函数可以例如使用适合患者运动的呼吸模型;通过离线(在介入性器械导航手术之前)和/或在NB手术期间进行成像和/或测量来学习。
通过实时应用该函数,可以补偿介入性器械的呼吸运动,例如,通过使其相对于静态气道图静止,尽管介入性器械和映射的气道实际上都随着呼吸而变形。然而,如果肺变形使得它不再匹配呼吸模型的周期性预测,则运动补偿将降级。
在本公开的一些实施方式中,当介入性器械导航通过肺时,动态显示解剖结构和介入性器械;以及其测量和/或估计的真实形状/位置状态,包括由于呼吸或其它原因引起的变形。因此,保留了介入性器械的呼吸运动,而不是通过使用校正来消除。
在一些实施方式中,为了对呼吸进行建模,例如,基于连接到患者胸部的一个或多个参考传感器来计算呼吸相位φ。可以使用标准信号处理方法来计算呼吸相位,例如,基于与患者的周期性呼吸运动相关的被跟踪的参考传感器的上下运动来计算。在最高的传感器位置,估计患者处于完全吸气状态;在最低的传感器位置,估计患者处于完全呼气状态。
高通滤波器可用于滤除患者的其它身体移动。附加地或替代地,可以使用多个参考传感器,其中每个传感器的位置可以在传感器的PCA坐标中计算。在一些实施方式中,代替使用参考传感器的绝对或相对高度,可以检查例如在3个参考传感器之间的三角形的区域。例如,可以假设当该三角形的面积最大时,患者处于完全吸气状态,而当该三角形的面积最小时,患者处于完全呼气状态。可以用类似于上述技术之一的方法或通过任何其它合适的方法来计算呼吸相位φ。
在本公开的一些实施方式中,φ被用在初始可变形配准阶段(例如,图5的框504的操作)。将反映手术开始时肺变形状态的单个可变形配准状态xreg替换为根据呼吸相位φ考虑肺变形的时变配准。因此,修改可变形配准算法以找到肺的φ依赖的初始可变形配准。根据该结果,系统随后可以实时预测呼吸引起的肺变形。系统的总校正将是-即,引入初始配准对呼吸相位φ的依赖性。
例如,图7A的框720的动态变形跟踪器使用来自框506的代替作为其输入。动态变形跟踪器可以像计算一样计算与相位补偿配准的差异,但误差可能较小。例如,如关于框738所描述的过滤不需要被调整以允许通过呼吸循环运动,从而潜在地改进算法的伪影抑制特性。
即使气道内没有任何介入性器械,也可以使用连接到患者身上的一个或多个参考传感器来可选地计算呼吸相位,从而允许气道图继续“呼吸”,与患者的真实呼吸同步。
在使用呼吸相位φ∈[0,1]的一些实施方式中:是由极值状态和(分别是用于呼气的可变形配准状态和用于吸气的可变形配准状态)的测量值计算得出。在这些测量的状态之间,插值其它状态:这使用呼吸相位φ在“呼气”和“吸气”状态之间进行插值。可选地,根据单个配准测量结果计算极值状态,将在任一极值处进行的测量分离成不同的数据集。
在一些实施方式中,将可变形配准状态矢量和能量函数的定义修改为如下定义:
状态矢量现在包括两种模型:呼气和吸气。可选地,修改形状能量函数,使得两个模型施加类似的形状约束。
为了进一步定制,可以为每个模型分配不同的形状约束,或者至少不同地加权。例如,加权(weighting)可以基于术前CT处于完全吸气状态的知识,从而与“吸气”模型相比,预期在“呼气”模型中存在更明显的变形。例如,通过引入相位变化项Esmp来处理加权校正。
不是将每个介入性器械样本与单个可变形模型xreg相匹配,而是将每个样本与具有呼吸相位φk的呼吸骨架相匹配,其中φk是属于介入性器械样本Sk的呼吸相位。更正式地:
这将两种模型吸引向介入性器械样本,其中φ≈0所采集的样本主要影响“呼气”模型,φ≈1所采集的样本主要影响“吸气”模型,而φ在[0,1]内的样本影响这两种模型。
为了将这两种模型拟合到所收集的介入性器械样本{Sk}上,可用样本的数量K应该从{φk}的范围内不同地采样。在一些实施方式中,控制系统被配置成确保从两个肺和所有呼吸相位收集足够多样性的足够样本,以防止过度拟合。由于为每个时间戳收集了大量的介入性器械样本,因此使用完全跟踪的介入性器械可能变得容易得多。
应当注意,两个关键相位呼吸模型可选地扩展到任何数量的呼吸关键相位。例如,可以定义:在这种情况下,使用3个配准状态来描述3个相应的呼吸关键相位:呼气、呼气-吸气和吸气。然后在3个关键相位之间进行插值:能量函数定义如前所述。对于圆周上的完整呼吸相位,优选地使用至少3个呼吸关键相位来模拟完整的呼吸周期。对于简单的相位(φ∈[0,1]),两个关键相位(φ0=0,φ1=1)可能就足够了。增加更多的呼吸关键相位可以增加呼吸模型的精确度,但是如果没有足够的介入性器械样本存在,也可能引起呼吸模型中的过度拟合。
尽管对大多数呼吸运动进行了建模,但是由于所提出的呼气-吸气插值模型的不精确性,可能有剩余的未建模的呼吸变形误差。动态变形跟踪器可以使用它的来消除至少一些这种残留误差。可变形呼吸配准模型的精确性对于为动态变形跟踪器提供用于局部变形搜索的良好起起点和/或用于肺呼吸建模(通过仅依赖呼吸相位而不管是否有介入性仪器插入肺)是重要的。然后,动态变形跟踪器可以通过在中施加更强的形状约束,专注于在附近寻找相对较小的和/或较慢发展的变形。这可以改善其整体性能。
变形和呼吸视图
在本公开的一些实施方式中,系统被配置为显示可变形肺模型的视图,可选地连同位于由可变形肺模型建模的肺内的一个或多个介入性器械的位置的视图一起示出。现在参考图8A,其是概述根据本公开的一些实施方式的生成可变形肺模型视图的方法的示意性流程图。
描述气道分割的平滑边界表面的3-D网格可用于表示在导航支气管镜检查期间使用的气道图。3-D网格由一组顶点和三角形面组成,它们连接起来形成面。可选地,在蒙皮过程中直接从气道骨架(中心线和半径)生成气道3-D网格,以形成表示气道图的“合成”3-D网格。附加地或替代地,直接从CT体积或从分段的气道体积获取的梯度信息被用于捕捉气道的精细纹理。这可能会生成更“真实”的网格。
直接从CT体积或从分段气道体积获取的梯度信息被用于捕获气道的精细纹理。这潜在地产生更“真实的”网格。
在本公开的一些实施方式中,可变形肺模型的当前变形状态优选地被应用于由系统显示的任何肺相关联2-D/3-D特征(视图对象)的视图(即,不仅仅是模型的骨架)。这具有以实时状态真实地显示解剖结构的潜在优点。
这种视图对象的示例包括,例如:气道3-D网格、诸如球体或真实目标网格的目标表示、肺内的路径点和/或对肺成像的CT切片。
现在转到图8A的框810:在本公开的一些实施方式中,视图对象的变形状态定位的确定开始于将视图对象与可变形肺模型的骨架的气道相关联。
在一些实施方式中,这种关联包括将所显示对象的一个或多个顶点(在预畸变空间中定义,例如,用于定义模型骨架的原始CT图像的空间)分配给相应的气道和沿着气道的归一化距离σ∈[0,1]。例如,在3-D气道网格的情况下,网格的每个顶点起源于沿该分支在一定距离σ处的某个骨架分支。3-D网格可以被分成与气道骨架的层次结构相同的分支层次结构,其中每个子网格对应于骨架的某个分支,分支上的每个顶点都分配有一个σ值。
在框812处,在一些实施方式中,通过使用变形模型{Ti}在每个顶点v上应用相应插值变换来使3-D网格(或视图对象的其它表示)变形。例如:
v变形=interp(ΔTp(i),t,ΔTi,t,σ)(v)
其中,v在CT(或其它3-D图像)坐标中属于沿着该分支距离为σ的第i个分支,p(i)是i父分支,ΔTi,t和ΔTi,t分别是分支的开始和结束处的分叉的变形。
可选地,在框814处,通过对顶点法线施加类似的变形来改进用于渲染变形的3-D网格的照明模型(例如,减少刻面(faceting)的外观):
n变形=interp(ΔRp(i),t,ΔRi,t,σ)(n)
其中n是顶点v对应的法线矢量,ΔRi,t,ΔRp(i),t是变形ΔTi,t,ΔTp(i),t对应的旋转矩阵,忽略偏移量。
可选地,框812、814的变形由中央处理单元(CPU)施加,使用其适当的变形变换来变换所有顶点(和法线)。可选地,通过图形处理单元(GPU)例如使用3-D着色器来施加变形。着色器是在GPU上运行的程序,用于图形管线的每一特定区段。顶点着色器程序负责处理图形管线中的每一顶点,且可用于在显示对象之前改变所述对象的几何形状。
将3-D网格分解成分支(子网格)的层次结构有助于使用顶点着色器来施加变形模型。在绘制每个分支(子网格)之前,顶点着色器会被赋予矩阵ΔTi,t,ΔTp(i),t。然后发出包含分支几何信息(顶点、法线、纹理坐标等)的绘制命令。沿着分支的σ距离作为附加的每顶点数据给出,例如,使用未使用的纹理坐标通道,使得它们可被顶点着色器程序访问。在着色器程序内部,输入一个顶点及其距离σ。使用预先配置的ΔTi,t,ΔTp(i),t为特定顶点计算插值变形变换,并将其应用于顶点位置和法线上。还可以使用诸如CUDA的通用GPU计算工具箱或以任何其它合适的方法来应用变形模型。
为了将变形模型应用于小目标,如3-D目标球体、引导箭头、文本等,观察到变形模型是平滑的,并且在小邻域中变化不大。因此,可以假设小目标经历均匀变形变换。为了应用变形模型,从气道图(例如,最近的分支)中为小物体分配特定的分支和恒定距离σ,该距离指示其沿着分支的距离(或其质心距离)。然后,如上所述,其顶点(和法线)将变形。
现在参考图8B-8C,其示意性地表示根据本公开的一些实施方式,在单个模型分叉802及其子代的变形之前和之后的3-D网格的渲染。还示出了目标801的指示。
应用于将图8B下的模型转换为图8C下的模型的变形与如图4所示的分叉802的单分叉变形相同。然而,如上所述,变形现在应用于3-D网格(和法线)的顶点上,以显示平滑变形的3-D网格。参数调整是对分叉本身的调整。图8C中增加的弯曲的出现是由于在分叉802处改变的构造与更接近它的分叉之间的气道的插值造成的。所使用的插值可以是均匀曲线,但不一定如此;例如,在一些实施方式中,在气道较大和/或气道壁较厚的更近侧分叉附近刚度被限制为较高。附加地或替代地,当可用时,来自介入性器械的穿过连接两个分叉的气道区域的位置测量可以用作约束。曲率可选地受到肺的基线状态中存在的曲率的限制。
目标801示出了通过分配给具有相应距离σ的某个分支而变形的小目标(例如,直径大约1cm)。有时,似乎可以将多个气道分配给单个小物体;例如,当小的3-D目标位于分叉处或者甚至在骨架上方的情况下。在这种情况下,选择哪个分支来将小目标与骨架绑定可能是无关紧要的;由于变形模型是平滑的并且使用了σ,所以变形插值公式对于气道的不同(接近)分配将产生类似的结果。然而,当目标远离气道图时,例如,如果目标与分段的气道相比是非常外围的,或者要使完整的CT切片变形,则需要执行更精细的变形外推技术,如下所述。在另一种情况下,目标对象可以主要与非肺结构(例如,胸腔)相关联,其中肺被用作通路。特别是在这种情况下,对肺位置具有良好的绝对表示精度非常重要,因为不能依赖于目标将随着其附近的气道一起移动。
在其它情况下,可以基于可变形跟踪气道来预测目标的变形位置。这可选地通过使用经过训练的模型(例如,最终元素模型)来实现,该模型预测变形如何通过组织传播(如CT或MRI扫描所示)。在这种情况下,目标将不与气道相关联,也不与任何其它特定的解剖结构相关。相反,其位置将通过将气道的跟踪变形向目标周围组织传播而变形。
变形模型描述了如何使用一组变形变换{Ti}来使分叉变形。这些变换可以沿着分支进行插值,以描述气道的弯曲中心线上的每个点如何根据模型变形。可以假设不完全位于中心线上但足够接近(例如,在气道的两个半径内)的点以与其最近的中心线点相同的方式变形。然而,根据气道的变形来判断远离任何气道的点如何变形相对不容易。例如,在本公开的一些实施方式中实现的特征包括,在专用或组合视图(与气道图一起)中显示包含当前介入性器械在肺内位置的CT切片。在变形跟踪算法的一些实施方式中,NB系统以解剖特征在空间中的真实位置显示解剖特征,并且这可选地包括显示适当变形的CT切片。在不使CT切片变形的情况下,切片中的体素数据将反应手术之前的解剖状态,而不会应用任何变形(并且与其它显示对象不对准)。
将变形模型从气道扩展到其外部区域的问题是外推问题。变形模型在三维空间中的某些位置是已知的,需要向外扩展到其它点。例如,可以通过使用薄板样条(Thin-Plate-Spline,TPS)或更一般的另一径向基函数(radial basis function,RBF)或者通用基方法来实现外推。附加地或替代地,可以应用机器学习方法,其基于对示例训练集的训练来预测肺组织内最可能的变形传播;和/或使用有限元仿真模型来预测变形通过组织的传播,如CT或MRI扫描所表示的。
在一些实施方式中,例如,在变形模型的已知控制点上训练一组基函数(例如TPS),使得它将分叉或者甚至全长中心线点发送到它们的已知目的地(根据变形模型)。外推模型使用基函数,可以在任何地方采样。由于它们对已知控制点的近似精度很高,因此假设它们也会将外部点(不属于气道)发送到合理的目的地位置。这些模型可以与适合肺的平滑度测量相结合。
外推方法的另一个例子使用K最近邻(K-nearest neighbors,KNN)方法:不位于气道内的点p将被变形。然后,从未变形的骨架中搜索p的最近邻点,这些点用vk表示,并使用它们的距离来表示权重。例如:wk=dist(p,vk)-P,其中P>0,为接近p的最近邻点赋予更强的权重。通过增加P,最接近的点相对于其它点变得更占优势。使用K最近邻及其权重,可以如下计算p变形偏移量,如下所示:
或者,可以通过使用“interp”函数的变体来计算p处的完整变形变换,该函数能够计算多个变换{Ti}的加权平均值。
可以实现更复杂的变形外推,而不是使用仅基于平滑延伸控制点的简单外推方法。例如,只要肋骨在NB手术期间没有明显变形,就可以假设它们是静态的。该信息可以根据附加控制点而被添加到外推函数中:可以在分段胸腔的表面上生成点,并迫使那些点在变形中保持静态。这为外推函数提供了边界条件,迫使其在靠近胸腔时衰减。或者,不仅使用其气道对肺进行建模,还使用血管、裂缝、胸膜和其它解剖特征来对肺进行建模。然后,可以将这些特征输入骨骼模型(类似于上述变形模型)中,并使用与上述类似的方法基于一些已知的控制点来预测总的肺变形。在一些实施方式中,模拟肺的物理特性;例如,通过应用有限元仿真,从而为控制点之间的肺的变形提供更好的预测。在一些实施方式中,训练的机器学习模型用于预测变形从已知控制点到其它肺组织的传播(或外推);例如,用从观察到的肺组织行为得到的理解代替传统的有限元仿真。
现在参考图9A-9B,其示意性地示出了根据本公开的一些实施方式,在单个分叉及其所有子代在变形之前(图9A)和之后(图9B)的16×16切片插值网格。骨架901的分叉900在图9B中变形,也导致肺区域902的移动。
使一个完整的CT切片变形,CT切片中的每个体素可选地使用上述外推方法之一。然而,这在计算上可能是昂贵的,因为CT切片通常包含大量体素(例如,512×512),并且外推公式的计算量相当大。CT切片的变形可以通过构造低分辨率均匀网格来简化,该低分辨率均匀网格由例如覆盖整个CT切片的16×16块组成。在每个角点处计算变形,然后通过使用相邻角点的简单插值来计算网格点之间的变形,例如使用2-D双线性插值、双三次插值、样条插值或任何其它合适的方法。就计算资源而言,使用插值方法而不是直接的每像素变形计算是更可取的,并且由于变形模型的合理平滑性,几乎与直接变形方法一样精确。当需要更精细的结果时,则可以使用更致密的网格(例如,32×32块)。
现在参考图9C,其示意性地示出了根据本公开的一些实施方式,沿着定义为弯曲的几何截面表面延伸的CT截面910,使得它包括原始3-D图像的区域,所述解剖结构的原始3-D图像的区域,其对应于沿着穿过解剖结构的回旋路径914的位置。在一些实施方式中,路径914是穿过气道的路径。在一些实施方式中,路径914由介入性器械的形状和位置限定。在一些实施方式中,路径914被定义为使用治疗靶点、血管或其他感兴趣的结构等解剖特征作为路径点。路径914可以基于手术期间的条件(例如,介入性器械的当前位置)来定义,和/或包括预定义的部分,例如,到达介入性器械的目标的计划路径。
CT部分910对应于源CT图像的数据,该源CT图像位于与延伸穿过3-D图像的体积的表面相交的位置处,该表面本身包括沿着路径914的位置。
在一些实施方式中,路径914被呈现为对应于3-D形状,该3-D形状对应于其所对应的介入性器械的测量形状,并且CT部分910从其原始坐标变形以保持区域对应。在一些实施方式中,介入性器械路径914和CT部分910一起显示在复合3-D场景中,该场景还包括变形模型912的渲染网格视图。
使用单传感器介入性器械,可以显示变形的CT切片910,例如使用上述的低分辨率变形网格,反映肺的总变形并以介入性器械的尖端为中心。CT切片910可以是全局的(到达CT边界)或局部的(围绕穿过肺的气道的特定路径,例如,如关于图10A-10B所描述的)。使用完全跟踪的介入性器械,所显示的CT切片可能会呈几何弯曲,从而与介入性器械的所有或大部分曲线(而不仅仅是尖端)交叉,使得它不是平面的。这种弯曲的CT切片将显示沿着整个介入性器械长度的变形的解剖特征,这为NB手术(例如,血管、裂缝、隔膜和/或胸膜的位置)提供了有价值的信息。弯曲的CT切片也可以穿过特定的重要解剖特征。例如,弯曲的CT切片可以穿过气道图中的下一个导航分叉,使得分叉的横截面显示在介入性器械前面的切片中。使用弯曲的CT切片的潜在优点是将(变形的)3-D CT体积压缩成2-D视图,其对大部分有价值的解剖特征进行编码,以便在介入性器械的区域进行导航。
由于并非所有重要的解剖特征总是位于平滑的2-D曲面上,因此可以在优化过程中求解弯曲的CT切片的具体形状,搜索在位置和方向上近似一组重要特征(例如,介入性器械路径914和/或目标916)的2-D曲面,这些特征的权重描述了每个特征的重要性。优化过程可以包括权重以惩罚过度畸变;例如,优化可以惩罚深的和/或尖锐的弯曲角度,和/或基于它们所贡献的增加的表面积的量惩罚极端曲率。最终结果是弯曲的CT切片,其将变形的3-D体积压缩成紧凑的2-D CT视图。
尽管在图9C中描述了CT图像作为示例,但是应当理解,显示方法可选地使用另一种3-D图像类型来执行,例如MRI图像、超声图像和/或正电子发射断层摄影(PET)扫描图像。可选地,组合来自两个或更多个3-D图像(可选地具有不同的成像模态类型)的切片。
现在参考图10A-10B,其示意性地示出了根据本公开的一些实施方式,包括变形之前(图10A)和之后(图10B)的变形模型的渲染网格视图的复合-D场景中沿着路径的CT条带1002、1003。
图9A-9B所描述的低分辨率2-D变形网格允许借助于插值快速计算网格点之间的任何像素的变形,从而能够变形CT切片的实时显示。可以推广相同的技术来创建覆盖整个CT(或其他3-D图像)体积的3-D变形网格。为网格的每个控制点计算变形,然后可以将变形插值到网格点之间的体素上。3-D变形网格能够快速计算成像体积内任何地方的变形。这可以实现变形的肺3-D视图的实时显示,例如变形的虚拟支气管镜检查或变形的虚拟荧光检查,两者都使用射线投射渲染技术。在标准的虚拟支气管镜检查视图中,虚拟相机位于气道内部。屏幕上的每个像素表示单个虚拟光线,其穿过成像的体素以累积该像素的最终阴影。最终的结果是逼真的图像,看起来类似于气道内真实支气管镜的图像。尽管标准虚拟支气管镜检查算法在其射线跟踪步骤中对静态CT体积进行采样,但是3-D变形网格可用于动态虚拟支气管镜检查算法中,以创建变形的CT体积的射线跟踪图像。不是对静态3-D图像的体素进行采样,而在每个射线跟踪步骤中,使用3-D变形网格将每个射线的位置变换为其在初始的、未变形的3-D图像内的变形位置,从而有效地对实时变形的CT进行采样。
在NB手术期间,医生引导工具(例如,介入性器械)沿着从气管1000到目标1005的路径。该路径可以被显示为气道图内的3-D中心线。如上所述,使用以介入性器械或介入性器械的尖端为中心的局部CT切片,可以向医生呈现介入性器械周围的原始CT数据,或者系统可以沿着路径以3-D呈现完整的CT条带(可选地,在路径的任一侧上延伸到大约相等距离的条带),例如,如图10A-10B所示。当肺变形(例如,如通过测量介入性器械的位置和/或另一参数所指示的)时,CT数据连同其它解剖变形特征一起显示到其变形位置。为了使CT切片变形,可以将其在空间中的位置变形到变形的位置(同时保留其原始CT数据),或者可以在使其CT数据变形的同时保持其在空间中的位置固定。由于3-D CT条带自然地与气道结合,所以它与气道一起在空间中变形,如图10A-10B所示。因此,3-D CT条带保留其原始CT数据,但其空间位置与气道一起平滑地变形,这与使3-D气道图变形类似。
现在参考图11,其示出了根据本公开的一些实施方式,沿着介入性器械1101之后的3-D路径提取的CT图像数据的扁平条带1100。
图10A-10B中所示的相同3-D CT条带可选地用于产生2-D路径视图,其中CT条带1100被显示为静态2-D背景图像,其中介入性器械1101和/或目标1102被投影在路径坐标中的静态图像的顶部。与3-D CT条带类似,该视图潜在地编码用于沿着路径导航到特定目标的最重要的解剖信息,但是它被投影在2-D视图中,该视图将整个路径从开始到结束显示为平坦表面,独立于3-D相机位置,并且不受3-D CT条带视图中可能发生的3-D遮挡的影响,如图10A-10B所示。2-D路径视图的潜在优点是其局部性,使其不受变形影响。当施加变形时,CT条带跟随变形的气道(如上所述),因此不会发生变化,介入性器械通常保持其在路径内的位置(例如,在路径坐标中)。
将变形模型应用于所有显示的2-D/3-D对象,包括3-D气道网格以及CT切片,允许实时地生成复合变形场景。例如,在患者呼吸过程中,可以显示呼吸3-D气道图,由呼吸CT切片覆盖,与患者的呼吸完全同步。作为另一个示例:在操纵过程中,介入性器械可以在其内部导航的气道上施加力。然后,系统可以显示3-D气道如何实时变形以响应介入性仪器的操纵(基于变形模型),并在导航气道附近显示局部CT切片的相应变形版本。然后向医生显示实时变形的解剖数据,该数据包含导航气道以及来自CT体积的解剖变形的原始特征,这对于引导、活组织检查和治疗是有价值的。
现在参考图12,其示意性地示出了根据本公开的一些实施方式,用于跟踪介入性器械在肺气道内的移动的系统。
图12的系统的硬件组件包括存储器1201、处理器1202和可选的显示器1203。可选地,配备有一个或多个位置传感器1205的介入性器械1204配备有系统,可选地连同位置感测控制器1206一起配备。位置传感器1205可以例如位于介入性器械1204的尖端处,和/或位于沿着介入性器械1204的主体的位置处。
可选地,单独提供包括介入性器械1204和位置感测控制器1206的子系统的全部或部分。
在图12的系统的操作中使用和/或生成的所选数据结构被示出为存储器1201内的框。
这些包括:
·指令1212,其指令处理器1202执行本文描述的方法(例如关于图1、5、7A-7B和8A所描述的)中的任何一种或多种操作。处理器1202可以根据指令1212产生和/或访问任何其它数据结构。
·预变形模型1210,例如对应于图1中框110处产生的模型和/或图5的基线气道图503。
·初始配准1214,其对应于例如由图5的框504和/或图7A的变换状态矢量710所应用的配准。
·介入性器械位置测量1218,其对应于例如图5的位置数据505。
·动态配准1216,其对应于例如图7A的动态变换状态矢量712。
指令1212可指令处理器1202产生表示预变形模型1210的修改的(例如,初始和/或动态配准的)版本的一个或多个视图1220,并将其提供给显示器1203。框1220示出了作为数据流传送到显示器1203的视图。表示这些视图的数据结构和/或在生成这些视图中使用的中间数据结构也可以由处理器1202产生并存储在存储器1201(未明确示出)中。可以产生视图1220,例如,如关于图8A-11所描述的。
一般性
如本文所用,关于量或值,术语“约(about)”是指在±10%内。
术语“包括(comprises、comprising、includes、including)”、“具有(having)”及其同源词(conjugates)意为“包括但不限于”。
术语“由……组成(consisting of)”是为“包括并限于”。
术语“基本上由……组成(consisting essentially of)”意为组合物、方法或结构可包括另外的成分、步骤和/或部分,但前提是另外的成分、步骤和/或部分不会实质性地改变所要求保护的组合物、方法或结构的基本和新颖特性。
如本文所使用的,单数形式“一个(a、an)”和“所述(the)”包括复数,除非上下文另有明确的指示。例如,术语“化合物(a compound)”或“至少一种化合物(at least onecompound)”可以包括多种化合物,包括其混合物。
词语“示例(example)”和“示例性的(exemplary)”在本文中用于表示“用作示例、实例或说明”。被描述为“示例”和“示例性的”的任何实施方式不一定被解释为比其他实施方式更优选或更有利,和/或排除其他实施方式的特征的结合。
词语“可选地(optionally)”在本文中用于表示“在一些实施方式中提供,而在其他实施方式中不提供”。本公开的任何特定实施方式可以包括多个“可选的”特征,除非这些特征相冲突。
如本文所用,术语“方法(method)”是指用于完成给定任务的方式、手段、技术和程序,包括但不限于化学、药理学、生物学、生物化学和医学领域的从业人员已知的或者容易从已知的方式、手段、技术和程序开发的那些方式、手段、技术和程序。
如本文所用,术语“治疗(treating)”包括放弃、基本上抑制、减缓或逆转病症的发展、基本上改善病症的临床或美学症状,或基本上防止病症的临床或美学症状的出现。
在整个申请中,本公开的各个实施方式可以以范围的形式呈现。应当理解,范围形式的描述仅仅是为了方便和简洁,不应当被解释为对本公开的范围的不可改变的限制。因此,范围的描述应当被认为已经具体公开了所有可能的子范围以及该范围内的单个数值。例如,对诸如“1至6的”范围的描述应当被认为已经具体公开了子范围,诸如“1至3”、“1至4”、“1至5”、“2至4”、“2至6”、“3至6”等,以及该范围内的单个数字,例如1、2、3、4、5和6。不管范围的宽度如何,都适用。
每当本文指出数值范围(例如,“10至15(10-15或10to 15)”或由这些另一个这样的范围指示所连接的任何一对数字)时,意为包括在所指出的范围内的任何引用的数字(分数或整数),包括范围界限,除非上下文中另有明确规定。表述“第一指示数和第二指示数之间的范围”和“从第一指示数到第二指示数的范围(或另一个这样的范围指示术语))”在本文中可互换使用,意为包括第一指示数字和第二指示数字以及它们之间的所有数和整数。
虽然已经结合其具体实施方式描述了本公开,但是显然,对于本领域的技术人员来说,许多替换、修改和变化是显而易见的。因此,本公开旨在涵盖落入所附权利要求的精神和范围内的所有这些替换、修改和变化。
应当理解,为了清楚起见,在单独实施方式的上下文中描述的本公开的某些特征也可以在单个实施方式中组合地提供。相反,为了简洁起见,在单个实施方式的上下文中描述的本公开的各个特征也可以单独提供,或者以任何合适的子组合提供,或者以本公开的任何其它描述的实施方式中的合适的方式提供。在各个实施方式的上下文中描述的某些特征不应被认为是这些实施方式的必要特征,除非该实施方式在没有这些元件的情况下不起作用。
申请人的意图在于,本说明书中提及的所有出版物、专利和专利申请通过引用全部并入本说明书中,结合程度如同每个单独的出版物、专利或专利申请都通过引用具体和单独地结合到本说明书中一样。此外,本申请中任何参考的引用或标识不应解释为承认此类参考可作为本公开的现有技术。就所使用的章节标题而言,它们不应被理解为必要的限制。此外,本公开的任何一个或多个优先权文件的全部内容过引用的方式整体并入本文。
Claims (50)
1.一种跟踪介入性器械相对于肺气道定位的方法,所述方法包括:
访问所述肺气道的骨架化模型,所述模型包括在分叉处连接的多个气道段;
访问解剖学定义的约束,所述约束限制所述骨架化模型的形状变化;
访问指示在所述肺内沿着所述介入性器械的多个位置的测量值;和
在所述模型内修改一个或多个所述分叉处的气道段的相对角度和位置,所述修改通过以下方式计算:
减少由所述多个位置指示的所述肺的形状与对应于所述多个位置的所述气道段的布置之间的建模误差,并且
使用基于解剖学的约束来限制所述气道的形状如何改变,以减小所述建模误差。
2.根据权利要求1所述的方法,其中,所述修改包括修改在公共分叉处连接的气道段的相对角度,其中在所述多个位置之间延伸的所述介入性器械不穿过该公共分叉。
3.根据权利要求1至2中任一项所述的方法,其中,所述基于解剖学的约束包括在公共分叉处对气道的阻力增加了相对角度的变化。
4.根据权利要求1至3中任一项所述的方法,其中,所述基于解剖学的约束包括从至少一些所述气道段的远端施加的锚定力。
5.根据权利要求1至4中任一项所述的方法,其中,所述基于解剖学的约束包括对沿着至少一些所述气道段长度的弯曲的限制。
6.根据权利要求1至4中任一项所述的方法,其中,所述基于解剖学的约束包括对气道段的单独移动的限制,所述气道段通过肺的薄壁相互连接。
7.根据权利要求1至5中任一项所述的方法,其中,所述基于解剖学的约束包括对形成全局形状的气道段的限制,所述全局形状与由包括多个全局形状的数据集表示的全局形状的范围不一致。
8.根据权利要求1至7中任一项所述的方法,其中,所述基于解剖学的约束包括对表示沿着形成分支形状的多个位置的肺部分的气道段的限制,所述分支形状与由包括多个分支形状的数据集表示的分支形状的范围不一致。
9.根据权利要求1所述的方法,包括基于所述肺的CT图像分段来构造所述骨架化模型。
10.根据权利要求9所述的方法,其中,所述构造包括:对所述CT图像的所述分段进行骨架化、识别所述骨架化中的分叉,以及将表示所述分叉的相对角度的参数值分配给所述分叉。
11.根据权利要求1至10中任一项所述的方法,其中:
所述访问的测量是在不同时间在所述介入性器械的不同位置使用所述介入性器械沿多个不同气道轨迹进行的测量;
将所述气道段的相对角度分配给所述分叉,以符合所述肺的成像几何形状;并且
所述修改根据所述肺的几何形状被成像的时间和沿着所述多个不同气道轨迹测量的时间之间的肺位置的变化来修改所述气道段的所述相对角度。
12.根据权利要求11所述的方法,其中,所述访问的测量通过其测量时间与呼吸相位相关联;并且所述修改基于所述访问的测量的所述呼吸相位关联来修改所述相对角度,以创建所述肺气道的相位变化骨架化模型,该模型表示多个不同呼吸相位期间的所述肺的形状。
13.根据权利要求12所述的方法,包括重复所述访问测量和所述修改,以用于与呼吸相位相关联的新测量,其中所述修改根据所述新测量的位置及其相关联的呼吸相位两者来修改所述气道的所述相位变化骨架化模型。
14.根据权利要求12至13中任一项所述的方法,其中,在所述多个不同的呼吸相位期间所述肺的形状表示为:
所述肺处于第一呼吸相位的状态,通过与相位相关联的测量的所述修改来计算;
所述肺处于第二呼吸相位的状态,通过与相位相关联的测量的所述修改来计算;和
所述肺处于至少第三呼吸相位,通过对所述第一相位和所述第二相位之间的所述肺形状的插值来计算。
15.根据权利要求14所述的方法,其中,在所述多个不同相位期间的所述肺的形状进一步由处于第四呼吸相位的所述肺表示。
16.根据权利要求15所述的方法,其中,所述第三呼吸相位和所述第四呼吸相位在所述第一呼吸相位和所述第二呼吸相位之间均等地间隔开,并且彼此不同。
17.根据权利要求1至16中任一项所述的方法,包括显示表示所述模型的所述气道段的布置的图像。
18.根据权利要求17所述的方法,其中,包括在所述图像中显示与所述肺模型相关联的对象,其中对象的位置根据所述气道段的布置的变化而更新。
19.根据权利要求18所述的方法,其中,包括将所述对象的所述位置与至少一个所述气道段的位置相关联,并根据相关联的所述至少一个所述气道段的移动来移动所述对象。
20.根据权利要求17至19中任一项所述的方法,其中,所述图像还表示与所述肺的所述气道的所述骨架化模型已知对应性的所述肺的3-D图像的切片,所述切片被选择为沿着显示的肺的一部分延伸,所述显示的肺的一部分对应于所述介入性器械沿其延伸的气道。
21.根据权利要求20所述的方法,其中,所述肺的所述气道的所述骨架化模型和所述肺的所述3-D图像之间的已知对应性是通过从所述肺的所述3-D图像的段中得出所述气道的所述骨架化模型来建立的。
22.根据权利要求20至21中任一项所述的方法,其中,所述显示的图像包括所述肺的3-D表示,并且所述3-D图像的所述切片从平面配置中弯曲出来,以遵循所述介入性器械的3-D配置。
23.根据权利要求20至21中任一项所述的方法,其中,所述显示的图像表示将所述介入性器械展平为平面表示,所述3-D图像的所述切片也随之展平。
24.根据权利要求1至10中任一项所述的方法,其中:
将气道段的所述相对角度分配给所述分叉,以符合在第一时段期间成像的所述肺的几何形状,通过基于在第二时段期间所测量的进一步测量值而确定的所述肺的所述几何形状的改变来修改所述相对角度;和
所述访问的测量是在第三时段期间沿着所述介入式器械并且在所述介入式器械保持在相同位置时进行的测量;
所述修改根据所述第二时段和所述第三时段之间的肺位置的变化来修改所述气道段的所述相对角度。
25.根据权利要求1所述的方法,包括重复地:
访问连续的测量集;和
基于每个连续的测量集修改所述气道段的所述相对角度。
26.根据权利要求25所述的方法,其中,所述修改包括:
识别所述相对角度的新值,所述新值减少了由所述多个位置指示的所述肺的所述形状和对应于所述多个位置的所述气道段的布置之间的误差;
基于所述相对角度的先前值对所述新值进行过滤,以减小与所述先前值相比的变化幅度;以及
利用所述新值来生成计算后的修改。
27.根据权利要求26所述的方法,其中,与过滤前识别的所述新值相比,所述过滤增加了由所述多个位置指示的所述肺的所述形状和对应于所述多个位置的所述气道段的布置之间的误差。
28.根据权利要求1所述的方法,其中,所述修改包括在所述骨架化模型的多个不同副本中不同地修改所述相对角度;并且包括:
重复所述访问测量,并使用新测量对每个所述不同的副本进行修改;
基于所述肺形状的更合理的表示来选择所述不同副本中的一个;和
继续重复所述访问测量,并仅使用所选副本进行修改。
29.根据权利要求1所述的方法,其中,所述修改包括扰动所述修改中气道段的相对角度以计算扰动后的修改;识别出所述扰动后的修改比所述扰动前修改减少了更多的误差;并利用所述扰动后的修改进行所述修改。
30.一种存储肺的可变形模型的计算机存储器存储介质,所述模型包括:
数据元素,对应于:
所述肺的气道的分支结构的骨架化表示,和
对于所述分支结构的多个分叉中的每个分叉,所述分支结构的所述分支的方向的表示;和
计算机指令,配置为指示处理器通过修改所述分支结构的所述分支的相对方向的所述表示来修改所述模型,以满足所提供的几何约束。
31.根据权利要求30所述的计算机存储器存储介质,其中,所述计算机指令指示所述处理器修改所述分支结构的所述分支的所述方向的所述表示,而不修改沿着所述分支结构的段的距离。
32.根据权利要求31所述的计算机内存存储介质,其中,所述计算机指令指示所述处理器将修改父分叉中的分支的相对方向的变化传播到修改所述父分叉的子分叉的分支的空间偏移和方向的变化。
33.一种用于跟踪介入性器械在肺的气道内的移动的系统,所述系统包括处理器和存储器,所述存储器保存指示所述处理器的指令,以:
访问所述介入性器械的当前形状和定位的3-D表示;
访问表示气道段的所述气道的模型,所述气道段包括气道段的分叉;和
将所述气道段与所述介入性器械的所述当前形状和定位相匹配;
其中所述处理器被指示,以:
基于所述气道段与所述介入性器械当前形状和定位的对应关系的改进,确定所述分叉的分支的合理修改,并
将所述修改应用于所述模型。
34.根据权利要求33所述的系统,其中,所述旋转修改被应用于对应于所述介入性器械沿着其延伸的所述气道的部分的模型化气道段。
35.根据权利要求33至34中任一项所述的系统,其中,所述处理器被指示访问身体运动的测量;其中,所述处理器被指示修改所述气道段的方向,以修改所述气道的模型,以匹配与身体运动的所述测量相对应的肺形状的变化。
36.根据权利要求33至35中任一项所述的系统,其中,使用与所述分叉相关联的位置数据作为控制点,将所述修改应用于所述模型。
37.根据权利要求35至36中任一项所述的系统,其中,对不同类型的合理修改的可用性进行分别加权,以改善所述气道模型与所述身体运动的测量相对应的肺形状的变化的匹配,和/或改善所述气道段与所述介入性器械的所述当前形状和定位的对应性。
38.一种将介入性器械位置数据记录到成像的肺形状的方法,所述方法包括:
接收基于肺部所述成像的肺形状构建的基线肺气道模型;
在稍后的时间,测量并使用一个或多个肺内探针沿着所述肺的气道的多个分支的位置,包括所述气道的相同分叉的至少两个不同分支的位置;
修改所述基线肺气道模型以记录所述测量的位置,并产生变形的基线肺气道模型,其中所述变形的基线肺气道模型表示多个呼吸相位的肺气道;
基于指示所述肺的当前形状的测量值,确定适用于所述变形的基线肺气道模型的变换,以调整它来指示所述肺的当前形状;和
显示图像,所述图像示出了根据所述变换进行变换的所述变形的基线肺气道模型。
39.根据权利要求38所述的方法,其中,沿着所述肺的气道的所述多个分支的位置的所述测量中的每一个都与呼吸相位相关联,并且使用所述测量值与不同呼吸相位的所述关联来生成所述多个呼吸相位中的不同相位中的所述肺气道的所述表示。
40.根据权利要求38至39中任一项所述的方法,其中,所述确定变形包括:
使用与所指示的所述肺的当前形状相对应的呼吸相位来确定所述变形的基线肺气道模型的呼吸相位依赖性形状;和
计算所述变换以将所确定的呼吸相位依赖性形状变换为所指示的所述肺的当前形状。
41.根据权利要求38至40中任一项所述的方法,其中,在所述变形的基线肺气道模型中,在所述多个呼吸相位期间所述肺的所述形状表示为:
所述肺在第一呼吸相位的状态,通过所述基线肺气道模型的所述修改产生;
所述肺在第二呼吸相位的状态,通过所述基线肺气道模型的所述修改产生。
42.根据权利要求41所述的方法,其中,所述测量包括从所述变形的基线气道模型生成处于第三呼吸相位的所述肺的基线形状,通过对所述第一相位和所述第二相位之间的所述肺形状进行插值来计算。
43.根据权利要求41所述的方法,其中,在所述多个呼吸相位期间的所述肺的所述形状还包括通过修改所述基线肺气道模型而产生的处于第四呼吸相位的所述肺的状态。
44.一种通过解剖结构沿着回旋路径显示特征的方法,包括:
访问所述解剖结构的3-D图像;
限定通过所述解剖结构的路径;
计算:
沿着所述路径的位置与所述3-D图像内的位置的空间对应性;
延伸穿过所述3-D图像的表面,所述表面包括所述3-D图像内的所述位置;和
显示3-D显示图像,该图像显示通过3-D空间延伸的路径,以及来自由所述表面限定的所述解剖结构的所述3-D图像的位置的数据;
其中:
使用对所述解剖结构的形状的至少一个动态变化参数的测量来重复地限定所述路径,并且
对于路径的每个重复定义,重复计算和显示。
45.根据权利要求44所述的方法,其中,所述表面被计算为在所述路径的任一侧上沿着所述路径延伸的条带。
46.根据权利要求45所述的方法,其中,所述条带在所述路径的任一侧延伸大约相等的距离。
47.根据权利要求44至46中任一项所述的方法,包括访问与所述路径具有已知空间对应性的所述解剖结构的一部分的3-D模型,并且包括在所述3-D显示图像中显示所述解剖结构的所述3-D模型,其中所述解剖结构的所述部分的所述3-D模型也会动态变化。
48.根据权利要求44至47中任一项所述的方法,其中,所述解剖结构包括肺的气道。
49.根据权利要求44至48中任一项所述的方法,其中,所述至少一个动态变化参数的测量包括沿着所述路径定位的介入性器械的位置测量。
50.根据权利要求44至49中任一项所述的方法,其中,所述至少一个动态变化参数的测量值通过其测量时间与呼吸相位相关联。
Applications Claiming Priority (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063123590P | 2020-12-10 | 2020-12-10 | |
| US63/123,590 | 2020-12-10 | ||
| US202163238165P | 2021-08-29 | 2021-08-29 | |
| US63/238,165 | 2021-08-29 | ||
| PCT/IL2021/051475 WO2022123577A1 (en) | 2020-12-10 | 2021-12-09 | Dynamic deformation tracking for navigational bronchoscopy |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116801828A true CN116801828A (zh) | 2023-09-22 |
Family
ID=81974226
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202180091839.9A Pending CN116801828A (zh) | 2020-12-10 | 2021-12-09 | 导航支气管镜检查的动态变形跟踪 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US12408991B2 (zh) |
| EP (1) | EP4259026A4 (zh) |
| JP (1) | JP2023552577A (zh) |
| CN (1) | CN116801828A (zh) |
| WO (1) | WO2022123577A1 (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118750163A (zh) * | 2024-06-21 | 2024-10-11 | 上海卓昕医疗科技有限公司 | 基于支气管树的导航路径校准装置、系统、设备和介质 |
Families Citing this family (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116801828A (zh) | 2020-12-10 | 2023-09-22 | 马格尼司帝有限公司 | 导航支气管镜检查的动态变形跟踪 |
| CN120936315A (zh) * | 2022-12-30 | 2025-11-11 | 诺亚医疗集团公司 | 用于内窥镜定位的系统和方法 |
| WO2024252227A1 (en) * | 2023-06-08 | 2024-12-12 | Covidien Lp | System and method for updating registration and localization during surgical navigation |
| CN119214797B (zh) * | 2023-06-30 | 2025-11-07 | 深圳市精锋医疗科技股份有限公司 | 导管机器人及其配准方法 |
| US20250069218A1 (en) * | 2023-08-22 | 2025-02-27 | GE Precision Healthcare LLC | System and methods for automatic image alignment of three-dimensional image volumes |
| CN116999166B (zh) * | 2023-10-07 | 2024-01-12 | 杭州先奥科技有限公司 | 术中地图拓展方法、存储介质及电磁导航支气管镜系统 |
| WO2025088466A1 (en) * | 2023-10-23 | 2025-05-01 | Covidien Lp | Target movement modelling using electromagnetic navigation sensors |
| US20250128025A1 (en) * | 2023-10-23 | 2025-04-24 | Covidien Lp | Target movement modelling using electromagnetic navigation sensors |
| CN117257459B (zh) * | 2023-11-22 | 2024-03-12 | 杭州先奥科技有限公司 | 一种抗呼吸干扰的电磁导航支气管镜术中地图拓展方法及系统 |
| CN119324069B (zh) * | 2024-10-15 | 2025-09-16 | 华中科技大学 | 具有生理特性的人体上气道模型的构建方法、系统及介质 |
| CN119184849B (zh) * | 2024-11-25 | 2025-06-27 | 温州医科大学附属第一医院 | 人工智能结合气道工具进行智能多模式定位以及预警系统 |
Family Cites Families (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2005058137A2 (en) * | 2003-12-12 | 2005-06-30 | University Of Washington | Catheterscope 3d guidance and interface system |
| WO2008125910A2 (en) | 2006-11-10 | 2008-10-23 | Superdimension, Ltd. | Adaptive navigation technique for navigating a catheter through a body channel or cavity |
| EP3470003B1 (en) * | 2012-05-14 | 2024-09-11 | Intuitive Surgical Operations, Inc. | Systems for deformation compensation using shape sensing |
| CN105979899B (zh) * | 2013-12-09 | 2019-10-01 | 直观外科手术操作公司 | 用于设备感知柔性工具配准的系统和方法 |
| KR20160118295A (ko) | 2014-02-04 | 2016-10-11 | 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 | 중재 도구의 가상 항행을 위한 조직의 비강체 변형을 위한 시스템 및 방법 |
| KR102542190B1 (ko) | 2015-04-06 | 2023-06-12 | 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 | 영상 안내 수술에서의 정합 보상의 시스템 및 방법 |
| US9622831B2 (en) | 2015-05-20 | 2017-04-18 | Siemens Healthcare Gmbh | Method and apparatus to provide updated patient images during robotic surgery |
| CN108024699B (zh) | 2015-08-14 | 2020-11-03 | 直观外科手术操作公司 | 用于图像引导外科手术的配准系统和方法 |
| US11547490B2 (en) | 2016-12-08 | 2023-01-10 | Intuitive Surgical Operations, Inc. | Systems and methods for navigation in image-guided medical procedures |
| WO2018129532A1 (en) | 2017-01-09 | 2018-07-12 | Intuitive Surgical Operations, Inc. | Systems and methods for registering elongate devices to three dimensional images in image-guided procedures |
| WO2018144698A1 (en) * | 2017-02-01 | 2018-08-09 | Intuitive Surgical Operations, Inc. | Systems and methods of registration for image-guided procedures |
| WO2018188466A1 (en) | 2017-04-12 | 2018-10-18 | Bio-Medical Engineering (HK) Limited | Automated steering systems and methods for a robotic endoscope |
| US10575907B2 (en) | 2017-06-21 | 2020-03-03 | Biosense Webster (Israel) Ltd. | Registration with trajectory information with shape sensing |
| WO2019231891A1 (en) | 2018-05-31 | 2019-12-05 | Auris Health, Inc. | Path-based navigation of tubular networks |
| US11877806B2 (en) | 2018-12-06 | 2024-01-23 | Covidien Lp | Deformable registration of computer-generated airway models to airway trees |
| EP3939052A1 (en) * | 2019-03-14 | 2022-01-19 | Koninklijke Philips N.V. | Dynamic interventional three-dimensional model deformation |
| JP7720293B2 (ja) | 2019-09-09 | 2025-08-07 | マグニシティ リミテッド | デジタル磁力計を用いた可撓性カテーテルの磁気追跡システムおよび方法 |
| EP4635444A2 (en) | 2020-03-24 | 2025-10-22 | Intuitive Surgical Operations, Inc. | Systems and methods for registering an instrument to an image using point cloud data and endoscopic image data |
| CN116801828A (zh) | 2020-12-10 | 2023-09-22 | 马格尼司帝有限公司 | 导航支气管镜检查的动态变形跟踪 |
| CN116887778A (zh) | 2020-12-30 | 2023-10-13 | 直观外科手术操作公司 | 用于将术中图像数据与微创医疗技术集成的系统 |
| EP4271300A1 (en) | 2020-12-31 | 2023-11-08 | Intuitive Surgical Operations, Inc. | Systems for updating a target location using intraoperative image data |
| EP4534035A3 (en) | 2021-03-10 | 2025-06-11 | Intuitive Surgical Operations, Inc. | Systems and methods for registering intraoperative image data |
| EP4398833A4 (en) | 2021-09-09 | 2025-07-09 | Magnisity Ltd | SELF-DIRECTING ENDOLUMINAL DEVICE USING A DYNAMIC DEFORMABLE LUMINAL MAP |
-
2021
- 2021-12-09 CN CN202180091839.9A patent/CN116801828A/zh active Pending
- 2021-12-09 US US18/266,317 patent/US12408991B2/en active Active
- 2021-12-09 WO PCT/IL2021/051475 patent/WO2022123577A1/en not_active Ceased
- 2021-12-09 JP JP2023534975A patent/JP2023552577A/ja active Pending
- 2021-12-09 EP EP21902880.0A patent/EP4259026A4/en active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118750163A (zh) * | 2024-06-21 | 2024-10-11 | 上海卓昕医疗科技有限公司 | 基于支气管树的导航路径校准装置、系统、设备和介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| US12408991B2 (en) | 2025-09-09 |
| JP2023552577A (ja) | 2023-12-18 |
| WO2022123577A1 (en) | 2022-06-16 |
| US20240041535A1 (en) | 2024-02-08 |
| EP4259026A4 (en) | 2024-10-16 |
| EP4259026A1 (en) | 2023-10-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12408991B2 (en) | Dynamic deformation tracking for navigational bronchoscopy | |
| US11164324B2 (en) | GPU-based system for performing 2D-3D deformable registration of a body organ using multiple 2D fluoroscopic views | |
| US10898057B2 (en) | Apparatus and method for airway registration and navigation | |
| US11089974B2 (en) | Monitoring the location of a probe during patient breathing | |
| US8116847B2 (en) | System and method for determining an optimal surgical trajectory | |
| KR101428005B1 (ko) | 소수의 저선량 ct 영상을 이용하여 pet 영상을 움직임 보상 및 감쇠 보정하는 방법 | |
| US9265468B2 (en) | Fluoroscopy-based surgical device tracking method | |
| US8696547B2 (en) | System and method for determining airway diameter using endoscope | |
| US20120203067A1 (en) | Method and device for determining the location of an endoscope | |
| CN110301883B (zh) | 用于导航管状网络的基于图像的向导 | |
| US20200118264A1 (en) | Shell-constrained localization of vasculature | |
| JP2010510815A (ja) | 身体の通路または腔を通してカテーテルをナビゲートする適応的ナビゲーション技術 | |
| CN111093505B (zh) | 放射线拍摄装置以及图像处理方法 | |
| Chen et al. | BEM-based simulation of lung respiratory deformation for CT-guided biopsy | |
| Luo et al. | Externally navigated bronchoscopy using 2-D motion sensors: Dynamic phantom validation | |
| Cornish et al. | Real-time method for bronchoscope motion measurement and tracking | |
| EP4648666A1 (en) | Dynamic anatomy deformation tracking for in-vivo navigation | |
| Deligianni | Visual augmentation for virtual environments in surgical training. | |
| Kukuk | An “optimal” k-needle placement strategy and its application to guiding transbronchial needle aspirations | |
| Lecomte | Enhancing Fluoroscopy-Guided Procedures with Neural Network-Based Deformable Organ Registration | |
| Wan | The concept of evolutionary computing for robust surgical endoscope tracking and navigation | |
| Soper | A navigation system for an ultrathin scanning fiber bronchoscope in the peripheral airways |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |