[go: up one dir, main page]

CN120641059A - 实时内窥镜外科手术中的临时路径规划 - Google Patents

实时内窥镜外科手术中的临时路径规划

Info

Publication number
CN120641059A
CN120641059A CN202480010098.0A CN202480010098A CN120641059A CN 120641059 A CN120641059 A CN 120641059A CN 202480010098 A CN202480010098 A CN 202480010098A CN 120641059 A CN120641059 A CN 120641059A
Authority
CN
China
Prior art keywords
airway
path
new
site
observation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202480010098.0A
Other languages
English (en)
Inventor
威廉·希金斯
何宇轩
常奇
瓦希德·达内什帕朱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Penn State Research Foundation
Original Assignee
Penn State Research Foundation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Penn State Research Foundation filed Critical Penn State Research Foundation
Publication of CN120641059A publication Critical patent/CN120641059A/zh
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods
    • A61B2017/00743Type of operation; Specification of treatment sites
    • A61B2017/00809Lung operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/107Visualisation of planned trajectories or target regions

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Robotics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Human Computer Interaction (AREA)
  • Endoscopes (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

一种用于在实时外科内窥镜手术中基于预先加载的初始手术方案推导引导路径的方法,其中,所述引导路径通往任何选定部位,包括在辅助内窥镜检查系统的放射影像视图或内窥镜视频视图上观察到的未规划ROI部位。通过在图像引导内窥镜系统的其中一个图形可视化工具上将未规划ROI处的新部位s标识为新的检查目标,并自动计算出通往所述新检查目标的新导航气道路径,实现对所述初始手术方案的更新。

Description

实时内窥镜外科手术中的临时路径规划
相关申请的交叉引用
本申请要求于2023年2月1日递交的序列号为63/482,636的美国临时专利申请的优先权,其全部内容通过引用结合在本申请中。
政府赞助
本发明获得了美国国立卫生研究院下属国家癌症研究所授予的第#CA151433号资助项目的政府支持。政府对本发明享有特定权利。
技术领域
本发明总体上涉及外科手术规划与引导,特别涉及适用于内窥镜检查的通往新选定手术部位的引导路径实时规划。
背景技术
许多内窥镜外科手术常常需要对实时手术中出现的先前未规划解剖部位进行“动态”检查或管理。存在此类情况的示例性外科领域(及相关设备)包括:
1.胸部与支气管镜检查;
2.腹部与腹腔镜检查;
3.结肠与结肠镜检查;
4.膀胱与膀胱镜检查。
就我们的研究而言,我们重点关注肺部/胸部以及肺癌管理(诊断、分期、监测、随访、治疗)问题。
图像引导支气管镜检查系统和新型机器人辅助支气管镜检查系统正在革新支气管镜检查实践,特别是在检查远端外周部位和执行更复杂的胸部手术方面【10,30】。为使用此类系统,医生首先在实施实时支气管镜检查之前线下制定手术方案【12,28】。为制定方案,医生在患者的三维(3D)胸部计算机断层(CT)扫描或配准正电子发射断层(PET)扫描(若可用)上选择诊断感兴趣区(ROI),例如可疑肺结节或已明确需要治疗的解剖部位。接下来,针对每个ROI,通过计算机分析自动推导出或通过CT扫描视觉检查手动推导出从气管到ROI的气道路径。随后,在实时手术中,医生接着使用由手术方案驱动的辅助支气管镜检查系统,沿其预先规划的气道路径,将支气管镜导航至每个ROI。
然而,在实时手术中会出现许多情况,使医生希望检查某些新的未规划辅助部位。鉴于解剖复杂性、患者病情评估所涉及的并发症——特别是在病情可能变化的实时手术中——以及在线下全面评估患者影像扫描时始终存在的困难,此类“动态”的临时发现自然而然会出现。事实上,此类意外发现可能要求对预先规划的手术进行非预见性调整,这些调整对于提供适当的患者护理是必要且至关重要的。以下是临床实践中出现的此类术中情况的示例:
1.预先规划的ROI气道路径在实时手术中发现阻塞或塌陷。由此迫使医生必须推导出接近所述ROI的新路径。
2.医生发现特别适合或便于实施冷冻疗法【27】等局部治疗的部位。为实施治疗,医生需要调用不同设备,这相应地需要获得引导至所述部位的路径。
3.由于特定外周ROI的气道路径计划不完整,因此医生常常被迫调用辐射强度大的荧光镜检查来将支气管镜导航至最终预期位置【15】。尽管荧光镜检查在验证3D位置方面并未十分准确,但仍需采取这一做法。更准确的方法是在CT上选定预期部位并自动计算新路径,同时避免伴随辐射暴露。
4.医生采用耗时且易出错的手动分析——例如,基于CT的交互式虚拟支气管镜检查(VB)和CT斜切面视图——来推导通往深处外周部位的气道路径【21】。自动化方法将更加准确且耗时更少。
除上述强调的四种情况外,在临床实践中亦可能出现许多其他情况,需要在实时支气管镜检查期间进行实时术中非计划性调整。这些情况包括:
1.医生判定有必要检查继发性小肿瘤,所述继发性小肿瘤可能位于早前进行线下规划时确定的原发性肿瘤附近。
2.医生希望检查术前CT扫描显示的呈弥漫性磨玻璃影区域内的部位。
3.医生发现显示可疑变窄(狭窄)或阻塞气道的位置,并希望标记该位置。
4.在线下手术规划(即,淋巴结分期准备)期间未预先明确的淋巴结被认为需要进行检查。
5.医生希望生成并保存通往支气管镜当前配准位置附近的气道路径,因为该部位显示出早前线下未观察到的可疑CT或PET发现。鉴于所述路径,医生可以在该位置处启动治疗方案。
6.医生希望保存一个邻近气道的位置,以供日后参考;所述位置将为先前未识别的腔外结构提供强大的RP-EBUS(径向探头支气管内超声)图像,即医生希望明确“RP-EBUS征”。
7.医生希望在术中检查影像扫描上发现的腔外部位并且使用光学相干断层扫描(OCT)或RP-EBUS等第二辅助支气管镜设备进一步检查。
8.医生使用手动确定的“支气管征”或“血管征”(即在2D CT断层面上观察到的靠近预期诊断部位的可见气道或血管)来帮助将支气管镜导航至CT上观察到的感兴趣部位附近【1,19】。自动发现的一条通往预期部位的适当气道路径将更加准确且更不易出错。
9.在进行支气管镜气道检查时,无论是标准白光支气管镜、自体荧光支气管镜、窄带成像支气管镜还是光学相干断层扫描支气管镜检查【4,11,20】,医生均在支气管镜视频中观察到沿气道壁存在早期肺癌征象。医生希望标记该部位,以便重返该部位进行进一步检查和/或治疗。
10.医生意识到需要使用超细支气管镜行进至深处细小气道——这需要获得新的引导路径【18】。
为应对这些情况,辅助支气管镜检查系统需要能够在术中实时计算出通往新的辅助部位的气道路径。遗憾的是,尽管辅助支气管镜检查系统早已支持基于术前线下规划的自动路径规划【12,28】,但目前尚不存在能够管理医生在支气管镜手术中实时选定的新诊断部位的路径规划方法。此外,线下规划通常要求在影像扫描上明确定义清晰的2D或3DROI,而某些感兴趣部位本身并不对应ROI,而是对应仅能在实时手术中确定的位置;例如,为检查弥漫性磨玻璃影区域而在CT上选定的部位,或在支气管镜视频视图中观察到的当前内部气道部位。
总而言之,许多需要穿越复杂空腔解剖区域(例如,肺部气道或腹部)的外科内窥镜手术常常需要对实时手术中出现的先前未规划解剖部位进行“动态”临时检查。遗憾的是,无论是对于图像引导还是基于机器人的辅助内窥镜检查系统,均缺乏能够对新选定的解剖部位进行有效和高效实时路径规划的方法或系统。
发明内容
本发明的实施例提供了一种用于在实时外科内窥镜手术中推导出引导路径的方法,所述引导路径可以通往任何选定部位,包括在辅助内窥镜检查系统的引导显示器上观察到的放射影像视图或内窥镜视频视图中的未规划ROI部位。
本发明的实施例包括一种用于推导预期引导路径的计算方法和一个名为“气道定位器”的交互式图形工具,所述工具在辅助支气管镜检查系统的框架内适用,并有助于选定和管理感兴趣部位/区域(ROI)。
在实时内窥镜手术实施之前,使用患者的胸部CT扫描和PET扫描在线下计算出气道树、气道腔内表面和气道中心线等信息。
基于这些先前计算的信息,在线下计算出初始手术方案,其中明确界定与未规划ROI不同的初始ROI,并推导通往所述初始ROI的适当气道路径。
当准备开始实施实时内窥镜手术时,医生可能偶然注意到CT上的某个部位,并希望也对其进行检查。医生将调用气道定位器来计算通往所述未规划部位的新引导路径。本方法通过在图像引导内窥镜系统的其中一个图形可视化工具上将未规划ROI处的新部位s标识为新的检查目标,然后自动计算出通往所述新检查目标的新导航气道路径,实现对所述初始手术方案的更新。
在另一个场景中,同样地,首先基于可用放射影像数据,在术前线下制定手术方案。在手术期间,当在一个CT视图上观察到肿块等可疑病变时,医生沿预先规划的路径行进。医生决定对所述先前未规划部位进行检查。为此,医生针对该肿块选定新的ROI部位s,然后调用气道定位器来计算通往所述未规划部位的新引导路径。
在另一个场景中,当医生在常规气道检查或预先规划的手术中沿预先规划的路径行进时,从内窥镜视频中观察到可疑病变。此时,可以调用气道定位器,使用本发明披露的方法推导气道引导路径。可疑病变可能沿气道壁分布,并且无法在CT视图上观察到。所述视频可能来源于白光支气管镜、窄带成像(NBI)支气管镜或自体荧光支气管镜检查。
当推导出新导航气道路径后,医生可以在沿新导航气道路径引导内窥镜之前,使用图像引导内窥镜系统的图形可视化工具预览新导航气道路径。可以沿新导航气道路径引导内窥镜穿过空腔器官系统,以到达新的检查目标。从一个观察部位行进至新部位的必要距离亦可计算出来。
任何新创建的ROI及关联气道路径均可作为整体病例研究的一部分予以保存,以供日后参考。
根据所披露的方法,所述气道树中心线包括定向路径集合,每条路径包括沿所述路径被访问且仅被访问一次的观察部位集合,所述路径起始于气管并终止于远端气道分支,每个观察部位包括向量和沿所述路径可视化时的相机成像方位。所述6参数向量指定了3D(x,y,z)位置和3个朝向角(α,β,γ)。
所述自动计算新导航气道路径的步骤包括:1.寻找最接近新部位s的观察部位vc;2.在定向路径集合中选择包含观察部位vc的路径pi;3.推导出∈个观察部位的补偿量后,计算新的观察部位vs=vc-∈,作为通往新部位s的初步气道路径ps的初始最终观察部位,所述新的观察部位vs在选定路径pi中位于vc之前∈个观察部位处,且初步气道路径ps满足约束条件要求;4.计算新部位s始于vs并指向部位s的向量z=s-vs,由此获得初步气道路径ps的最终观察部位vf;并用初步气道路径ps中的最终观察部位vf替代vs,从而提供通往新部位s的新导航气道路径。
所述约束条件包括气道尺寸和内窥镜尖端尺寸。所述约束条件要求包括内窥镜尖端必须能够通过气道。
所述新部位s可能在2D CT切面、2D CT/PET切面、滑动薄层视图、VB渲染器中观察到的狭窄位置、2D磁共振成像切面或视频流视图中沿气道壁的位置上被识别。
可使用能够穿过气道行进至新部位的第二辅助设备在新导航气道路径中进行导航,以进一步诊断或治疗新的ROI部位。所述第二辅助设备从光学相干断层扫描探头、冷冻疗法探头、NaG激光诊断或治疗探头中选择。
本方法与实时临床工作流程顺畅整合,并且在实时辅助支气管镜手术出现意外情况时尤其有用。
本方法为内窥镜在空腔器官系统中导航至新的先前未规划的感兴趣解剖部位提供了独特的引导路径规划方法。
所述空腔器官系统可能为肺部气道或结肠、胃部、膀胱或盆腔/腹腔内的空腔区域。
所述内窥镜可能为支气管镜、结肠镜、腹腔镜或膀胱镜。
所述ROI可能为可疑肿瘤、癌性结节、可疑气道壁部位、治疗实施位置、沿器官壁的损伤部位或常规视觉检查位置。
所述放射影像数据为胸部CT扫描、PET扫描或磁共振成像扫描。
ROI检查可能涉及执行ROI视觉评估、实施ROI治疗或由内窥镜操作人员从ROI采集解剖组织。
在本发明的一个实施例中,一种自动化方法能够实时推导通往术中实时明确的感兴趣部位的引导路径。在第二个实施例中,一种与现有图像引导支气管镜检查系统交互的软件系统可用于在明确新的感兴趣部位和创建关联路径时进行用户交互。所述软件在基于Windows的PC上运行。所述软件及方法亦可适配于许多其他涉及内窥镜穿过空腔器官系统以实现ROI检查、活检、诊断、监测或治疗目的的外科应用。
在手术过程中,医生实时与气道定位器和辅助支气管镜检查系统的显示器进行交互。当在任一显示器视图上选定一个部位时,气道定位器将实时计算出通往所述部位的预期气道路径。通过使气道定位器在实时手术中“动态”(临时地)自动推导通往所述部位的气道路径,医生可以立即:
1.将支气管镜引导至所述部位进行更近距离的检查。
2.根据先前未规划的手术调整,实时制定关于患者诊断、检查或治疗方法的外科决策。
3.保存可观察到的发现,以供日后参考,并推导可以在后续支气管镜检查中重新抵达所述部位的路径。
附图说明
图1示出了医生在PET/CT冠状面切片器(左视图)和PET/CT横断面切片器(右视图)上选定的膈肌附近右肺内的ROI部位。
图2示出了气道定位器工具的路径推导选项卡。
图3示出了使用气道定位器推导通往图1中所选ROI部位的预期引导路径。
图4示出了在虚拟导航器的3D表面工具和腔内渲染器中查看选定的ROI及其新计算的引导路径。
图5A至5D示出了临时气道路径计算及后续引导的示例。左-上-左:融合的2D PET/CT冠状切面图(颜色条显示PET SUV标度)。左-上-右:3D气道树渲染图。左-下:腔内渲染器(VB查看器)。右:气道定位器界面。图5A为预先规划的支气管镜检查开始时的系统视图。图5B为推导未规划ROI部位的路径后的系统视图。图5C为沿新气道路径向未规划ROI部位进行引导导航的系统视图。图5D为导航结束时到达未规划ROI部位的系统视图。
图6A示出了在冠状面PET/CT切片器视图上选定的以及在所有三个PET/CT查看器(横断面、矢状面、冠状面)上观察到的ROI部位(可疑肿瘤)。
图6B示出了医生向气道定位器指示其为新的感兴趣部位并创建路径,如图5B所示;
图7A至7D示出了图像引导支气管镜检查系统在ROI选定后进行“动态”引导的另一个示例。图7A示出了2D CT矢状面。图7B示出了2D CT冠状层块视图。图7C示出了3D气道树渲染图。图7D示出了气道定位器界面。
图8A-8D示出了通往图7A-7D中明确的新ROI的实时支气管镜引导。左视图为2D CT冠状层块;中视图为3D气道树渲染图;右视图为实时支气管镜视频视图(左)与配准3D腔内VB视图(右)的组合。图8A为气管近端处的系统视图。图8B为气管远端处的系统视图;图8C为右主支气管处的系统视图。图8C为右次级支气管处的系统视图。
图9A示出了使用虚拟导航器在支气管镜检查视频帧上选择可疑黏膜病变部位。
图9B示出了图9A中所选病变部位至相应的基于CT的VB视图表面的映射。
图10A-10D示出了推导通往所选黏膜病变的引导路径后虚拟导航器引导系统的显示器。图10A为2D CT冠状切面。图10B为2D CT矢状切面。图10C为3D气道树渲染图。图10D为气道定位器界面。
图11A-11C示出了沿已计算气道路径的引导导航。左-上-左视图为2D CT冠状切面。左-上-右视图为3D气道树渲染图。左下视图为腔内渲染器(VB视图)。右视图为气道定位器界面。图11A为气管近端处的系统视图。图11B为气管远端处的系统视图。图11C为气道路径最后观察部位处的系统视图。
图12A示出了窄带成像支气管镜视频中的自动“动态”黏膜病变检测。
图12B示出了3D气道树表面渲染图,其中示出了已自动计算的通往病变部位的气道路径。
图12C示出了通过图像引导支气管镜检查重返病变部位时的配准实时视频视图和基于CT的参考VB视图。
具体实施方式
根据本发明的实施例,提供一种规划方法和相关交互式工具——气道定位器,用于在实时外科内窥镜手术中实时“动态”(临时地)推导通往任何新选定感兴趣部位的引导路径。随后,可以沿所述已推导的引导路径引导内窥镜穿过空腔器官系统,到达所述感兴趣部位。
本发明提供了一种独特的用于实时生成引导路径的方法,所述引导路径通往未规划的新选定感兴趣部位。
1.顶层概述
所述气道定位器方法可以整合至本实验室研发的现有多模态图像引导支气管镜检查系统中,用于规划和引导多模态支气管镜手术【2,12,16,17,33】。
首先,医生遵循图像引导支气管镜检查系统要求的标准两阶段流程:1)线下手术规划;以及随后的2)实时引导支气管镜检查。这两个阶段详述如下。
第1阶段-线下手术规划—该阶段需执行以下标准操作。
(a)使用患者胸部CT扫描和PET扫描(若可用),自动计算气道树、气道腔内表面和气道中心线。
(b)制定专门针对辅助支气管镜检查系统的常规手术方案。这涉及明确临床相关的ROI和推导通往各ROI的适当气道路径。
(c)将所有计算数据(例如手术方案、气道树)和其他数据保存至病例研究数据结构【17】。
第2阶段-实时引导—该阶段的标准程序如下所述。
(a)在手术室里,加载手术方案并初始化辅助支气管镜检查系统的引导显示器。所述显示器通常包括多种可视化工具,所述多种可视化工具显示2D CT/PET切面、基于CT的虚拟支气管镜检查(VB)渲染图、全局3D气道树渲染图、来源于视频支气管镜检查的实时视频流,或在使用支气管内超声检查的情况下随附基于文本的引导指令。
(b)医生执行预先规划的支气管镜手术。
关于上述流程,我们使用先前已验证的CT/PET肺部图像处理方法创建手术方案【6,9,12-14,23,24,32】。此外,我们将先前已创建的2D和3D图形工具用于放射影像查看和视频分析【2,8,17,29】。
当医生执行上述预先规划的支气管镜手术时,常常会遇到意外事件或观察结果。特别地,医生在显示视图上遇到使其感兴趣或希望改变手术过程的发现。无论何种情况,医生此时都希望将支气管镜引导至新发现的未规划部位附近进行更近距离的检查,或认为此举至关重要。
上述情况需要使用本公开的方法,即需要对先前线下制定的现有手术方案进行“动态”临时更新。本方法的顶层步骤如下所述。
实时“动态”手术方案更新
1.为了启动对现有预先规划的手术方案的修改/补充,医生在辅助支气管镜检查系统显示器上显示的其中一个图形可视化工具上选定部位。所述部位可能出现在2D CT切面、融合2D CT/PET切面、滑动薄层视图、VB渲染器中观察到的狭窄位置或视频流视图中的位置。
2.医生向气道定位器发出信号表示希望考虑对新选定的ROI部位进行支气管镜检查,从而激活气道定位器。
3.气道定位器通过下文第2节详述的方法,自动计算通往所述部位的气道路径。
需指出的是,所述选定部位可以位于任意选定方位,如用于指定部位的查看器所指明的方位。
新路径推导完成后,医生可以使用辅助支气管镜检查系统引导支气管镜沿刚刚计算的气道路径导航至所述新部位。此外,在导航之前,医生可以使用辅助支气管镜检查系统的显示器预览气道定位器推导的路径。最后,医生可以将任何新创建的ROI及关联气道路径作为整体支气管镜检查病例研究的一部分予以保存,以供日后参考。
2.路径计算
根据上述步骤3,集成于气道定位器中的自动化方法执行一系列计算确定新路径。首先,所述方法使用在线下规划阶段先前计算并作为案例研究的一部分予以保存的气道树、表面和中心线。
需指出的是,所述预先计算的气道中心线包括N个定向路径pi的集合P;即
P={pi,i=1,2…,N}. (1)。
每条路径pi∈P始于气管,并行进至逐渐深入(更高代次)的相邻气道分支,直至终止于构成分段气道树的N个特定远端气道分支之一。所述路径pi又包括一个独特的连续观察部位vj的集合,所述观察部位始于气管,沿所述路径被访问且仅被访问一次,并终止于第i个远端气道分支内的观察部位vDi;即
其中,每个观察部位vj∈V,V代表构成覆盖气道树的所有中心线所需的观察部位的完整集合,并且位于气管中的v1始终作为路径起始的首个观察部位。
观察部位包括:1)6参数向量,其规定了3D(x,y,z)位置和3个朝向角(α,β,γ);以及2)向上向量,其规定了沿所述路径可视化时的相机成像方位。因此,整体而言,代表在早前线下规划阶段预先计算的气道中心线的数据结构{P,V}作为额外通用输入。需指出的是,以上所有定义遵循针对气道中心线、分支和观察部位采用的标准,如【12,22】所述。
此时的目标是计算气道路径,所述气道路径通往用户在实时手术中通过其中一个引导系统显示工具选定的部位s。具体步骤如下:
1.寻找最靠近部位s的观察部位vc∈V。
2.明确包含vc的路径pi,i=1,2…,N。可能存在多条可行路径。任何一条均可以作为选定pi
3.如【12】所述,支气管镜尖端必须能够适配vc处或附近的气道。为满足这一要求,所述方法调用尖端与气道尺寸,并使用约束条件来寻找可行路径,如【12】所述。此外,我们还推导∈个观察部位的补偿量,从而得出vs=vc-∈作为通往部位s的新气道路径ps的初始最终观察部位。
更明确地,观察部位vs在选定路径pi中位于vc之前∈个观察部位处;即
由此获得包含pi中直至vs的所有观察部位的初步气道路径ps
ps={v1,…,vs-1,vs}。 (4)
4.计算始于vs并指向部位s的向量z=s-vs
5.通过求解从z与vs之间的当前朝向角(αvsvsvs)所得的旋转矩阵,计算欧拉角(ψ,θ,φ)。
6.创建新的观察部位vf=(xs,ys,zs,ψ,θ,φ),其中(xs,ys,zs)是vs的3D位置坐标。
7.将初步路径ps中的新观察部位vf替代vs,由此得出通往新位置s的最终预期气道路径
ps={v1,…,vs-1,vf}。 (5)
在随后沿新路径ps导航时,医生可能希望了解到达新的ROI部位s的剩余距离。因此,在实时引导导航期间,气道定位器提供关于部位ROIs的位置(xs,ys,zs)、当前观察部位v的位置(xv,yv,zv)以及v至r之间距离d的反馈。
3.气道定位器实施
所述气道定位器工具是一种交互式机制,用于在实时支气管镜手术中创建通往新观察到的未规划解剖部位的新引导路径。该工具集成于现有的名为虚拟导航器的图像引导支气管镜检查系统中【2,12,17,33】。
所述气道定位器始终与其他虚拟导航器可视化工具协同使用。此外,如前所述,其需要在实时引导支气管镜手术实施前完成初始手术方案的线下计算。
为了在实时引导支气管镜检查中协同使用气道定位器与虚拟导航器,需遵循以下步骤:
1.将线下手术方案加载至虚拟导航器。
2.调用引导系统显示器上的任何预期虚拟导航器工具。此类工具的示例包括【2,8,9,12,16,17,29,33】:多模态PET/CT 2D切面查看器、滑动薄层查看器、管查看器、3D气道树表面渲染器CT-视频匹配工具、腔内VB渲染器、2D CT投影工具和视频分析工具。对于PET/CT、层块和投影工具,可考虑横断面、冠状面和矢状面方位。此时同步调用气道定位器。
由此完成用于实时手术的引导计算机的显示器设置。
3.医生此时按线下规划执行所述引导支气管镜检查。
4.在手术期间,如果医生发现新的ROI或感兴趣部位,则执行以下操作:
(a)医生在任何已调用的可视化工具中选择预期新ROI内的部位;由此将虚拟导航器系统的视图状态设置在新选定ROI的位置。该ROI部位将作为新引导路径的目标靶点。
图1示出了选定膈肌附近的右肺内部位的示例。医生在PET/CT冠状面切片器上选定膈肌附近的右肺内ROI部位。查看器以红色十字线和CT扫描内的x-y-z坐标指示所述部位。所述选定部位同步显示在PET/CT横断面切片器上。
(b)医生此时通过气道定位器选项卡进行交互,推导预期路径——参见图2。在采取任何行动之前,所述选项卡内的所有字段均为空值(标记为“NaN”)。可通过两种方式操作:
i.分步操作:连续按下“选择ROI”、“显示路径”和“显示视角”按钮,以选定所述ROI部位并推导新气道路径所需的全部必要信息。
ii.快速构建:一次性连续执行所有计算步骤,以推导气道路径。
最终结果为新引导路径以及可用于在虚拟导航器系统显示器上代表ROI部位的3D立方体图形标记。
图3示出了路径计算后的样本输出。对于图1中选定的部位,用户执行所有必要步骤,以推导通往ROI的预期新气道路径。此时对话框内已填入规定新路径的所有参数。所述参数指示ROI部位的x-y-z坐标、用于构建新路径的原始路径pi∈P、最佳观察部位的偏移量以及最佳观察部位的视角。
5.如有必要,医生此时可以通过首先调用气道定位器的路径推导选项卡上的“显示视图”以及使用虚拟导航器上的标准影片控件在系统显示器上播放路径,从而预览新路径的动态演示。该操作也会使虚拟导航器进入就绪状态,为引导支气管镜导航至新ROI部位做好准备。
图4示出了在ROI部位21.5毫米内的位置处的示例预览,此时可在虚拟导航器的3D表面工具和腔内渲染器查看选定的ROI及其新计算的引导路径。蓝线指示所述新路径。3D表面工具中的橙色立方体和腔内渲染器的绿色立方体均指示所述ROI部位。橙色圆柱体图标和绿色指针示出了两个可视化工具的当前系统查看位置——所述系统定位于距所述ROI部位21.5毫米的路径上的最终目标附近,如腔内渲染器所示。需指出的是,3D表面工具中显示的其他蓝色ROI对应于实时手术前线下明确的预先规划的ROI。
最后,医生可以保存新的ROI部位和路线,作为案例研究的一部分,以供日后参考。
6.医生此时可以使用所述新引导路径执行引导支气管镜手术。在引导导航过程中,医生可以使用气道定位器的“距离计算器”选项卡查看需行进至新ROI部位的距离。下节中的应用示例将具体说明此功能。
4.系统实施
本公开包括路径规划方法及关联气道定位器软件模块,其可集成至现有的名为虚拟导航器的多模态支气管镜检查规划和引导系统中【2,3,5,7-9,12,16,17,22,25,33,34】。所述虚拟导航器环境包括一个工具套件,所述工具套件可促进用于完成实时图像引导支气管镜手术的标准两阶段工作流程。所述虚拟导航器可以接收以下数据源:1)胸部CT扫描;2)PET/CT研究,包括全身PET扫描和胸部CT扫描;3)标准白光支气管镜视频;4)凸探头支气管内超声视频;5)径向探头支气管内超声视频;6)自体荧光支气管镜视频;以及7)窄带成像支气管镜视频。存在用于CT/PET分析、线下手术规划、CT与PET扫描的可变形配准、线下CT/PET可视化、图像引导支气管镜检查(含和不含支气管内超声)以及多模态视频分析的工具。所述引导系统软件具有大量用于图像可视化和用户交互的工具,如参考文献所述。
所述软件在Windows PC上运行,并在实时手术中与支气管镜检查硬件交互。所述软件使用Microsoft Visual Studio以C++语言编写。在我们的最新研究中,我们使用戴尔Precision 7920塔式工作站(64位Windows 10,64GB内存,Intel Xeon Gold 6138 20核2.0GHz)进行软件开发与系统测试,包括NVIDIA RTX 2080Ti显卡和Matrox ClarityUHD帧捕获器。所述虚拟导航器软件使用包括VTK、Qt和OpenCV在内的多个库。许多计算密集型功能使用的是CUDA和GPU。
本发明的所有软件均在所述环境中开发与测试。
5.应用示例
本文提供了展示本发明多种实践方式的应用示例。
示例1:肿瘤临时观察
图5A-5D提供了关于肺癌患者(病例21405-108)的完整示例。对于图5A-5D,左-上-左为融合2D PET/CT冠状切面(颜色条显示PET SUV标度);左-上-右为3D气道树渲染图;左-下为腔内渲染器(VB查看器)以及右为气道定位器界面。所有视图在引导支气管镜检查期间同步至同一位置,并通过以下方式指示:1)PET/CT视图上的十字线;2)蓝色气道引导路径上的橙色支气管镜尖端图标;3)VB视图上的蓝线;4)气道定位器工具中的量化数据。
患者接受了联合3D CT/PET研究,并经知情同意入组我校附属医院研究项目。术前首先使用可用放射影像数据在线下推导出手术方案。图5A、图5B、图5C和图5D分别示出了使用我们的图像引导支气管镜检查系统进行模拟支气管镜检查时的不同时间点。
图5A示出了预先规划的支气管镜检查开始时引导系统显示器的状态。医生此时正沿预先规划的路径p进行导航,并已到达所述路径上位于气管顶端基部的观察部位v15。该位置在PET/CT切面上以红色十字线标识,而绿色注释指示3D位置(x15,y15,z15)、CT HU(亨氏单位)值和PET SUV(标准摄取值)。在3D气道树渲染图中,该位置由代表路径p的蓝线上的橙色圆柱体图标指示。最后,VB视图示出了v15处的当前内部气道视图。最后,气道定位器目前处于初始化状态。值得注意的是,在该位置上,PET/CT视图清晰示出了左上肺叶存在癌性肿块——医生决定对该先前未规划部位进行检查。为此,医生根据红色十字线的指示为所述肿瘤选定新ROI部位s,然后调用气道定位器,以计算通往该未规划部位的新引导路径,如图6A和图6B所示。如图6A所示,在冠状PET/CT切面视图上选定ROI部位(可疑肿瘤),并在所有三个PET/CT查看器(横断面、矢状面、冠状面)上观察所述ROI部位。医生向气道定位器发出信号表示该选定ROI部位为新的感兴趣部位并创建路径,如图6B所示。医生点击气道定位器上的“快速创建”按钮后,该工具立即计算通往所选定部位s的新气道路径ps
医生继续点击气道定位器上的“显示视图”后,新路径ps此时在3D气道树和VB视图上显示,并于路径起点初始化,如图5B所示。气道定位器还提供关于路径ps的最终观察部位vf的详细信息。为确保在后续引导导航期间支气管镜能够捕获路径ps终点处的s的完整视图,我们使用偏移补偿量∈=20体素。由此确保终端观察部位vf位于气道壁后方并与之保持大约10毫米的距离(本病例中CT分辨率在x、y和z轴均为大约0.5毫米)。
接下来,图5C示出了沿新气道路径向新部位s的引导导航,并示出了到达主隆凸(观察部位v291)时引导系统在ps上的状态。气道定位器提供关于支气管镜当前3D位置及距ROI部位s剩余距离(如气道定位器的“距离计算”选项卡所示)的信息。最后,图5D示出了到达部位s(观察部位vf=v834)时的系统显示器。PET/CT查看器指示支气管镜能够导航接近s的程度,3D气道树示出了支气管镜尖端指向s的位置和方位,VB视图示出了代表部位s的绿色立方体ROI图标。最后,气道定位器指出支气管镜已导航至距可疑肿瘤部位s17.9毫米范围内。
示例2:“动态”引导肿瘤支气管镜检查
图7A-7D和图8A-8D示出了对先前未规划ROI的引导支气管镜检查。就本示例而言,我们使用3D打印气道模型结合肺癌患者(病例21405-116)的3D CT影像,该患者经知情同意入组我校附属医院研究项目。术前首先使用可用放射影像数据在线下推导出手术方案。手术(以气道模型替代患者)期间,在2D矢状CT切面上选定新ROIs,然后推导出对应的新气道引导路径ps
图7A-7D示出了选定新ROI后的图像引导支气管镜检查系统和通往所述ROI的已推导的气道路径ps,所述ROI是右肺上叶处的可疑结节。所述ROI的位置在2D CT矢状面与冠状面视图中以红色十字线指示,而在3D渲染气道树中以红色立方体指示。此外,气道定位器工具上显示所述ROI的相关量化数据,气道定位器界面上显示所述ROI的气道路径,而3D气道树渲染图中的蓝线代表所述路径。图7A示出了2D CT矢状切面。图7B示出了2D CT冠状层块视图。图7C示出了3D气道树渲染图。图7D示出了气道定位器界面。
图8A-8D示出了沿ps在四个连续位置向图7A-7D中明确的新ROI进行导航的实时支气管镜引导。医生遵循文献【12,22,25】中讨论的基本程序,在气道树模型内沿气道路径ps导航支气管镜,并且引导系统将所有显示器视图同步至每个位置。
图8A、图8B、图8C和图8D分别示出了图像引导支气管镜检查系统的显示器在沿气道引导路径上不同观察部位处的状态。在图8A、图8B、图8C和图8D中,左视图示出了2D CT冠状层块;中视图示出了3D气道树渲染图;右视图示出了左侧实时支气管镜视频和右侧配准3D腔内VB视图的组合。在引导支气管镜检查期间,所有视图均自动同步至同一位置,并通过以下方式指示:1)CT层块上的十字线;2)蓝色气道引导路径上的橙色支气管镜尖端图标;3)VB视图上的蓝线。
图8A示出了气管内起始观察部位v1的引导系统视图。图8B示出了医生到达气管远端时的视图;其对应气道路径ps上的观察部位v232。医生此时遵循所示VB视图上的蓝线路径,继续将支气管镜导航至右肺。图8C示出了医生到达右主支气管末端时的系统状态;其对应ps上的观察部位v339。最后,图8D示出了支气管镜导航至最大限度接近右次级支气管时的视图。在此气道树分叉部位上,医生根据VB视图导航至右上分支,如蓝线所示。由于气道路径终止于相对深处的分支,且所述分支过于狭窄而无法在实时手术期间通行,因此手术到此停止——本研究使用的奥林巴斯EVIS Exera II BF TYPE P180 4.9毫米支气管镜尺寸过大,无法通过气道树模型中ps的剩余气道。
示例3:“动态”引导可疑黏膜病变支气管镜检查
图9A-9B、图10A-10D和图11A-11C示出了针对气道壁上观察到的可疑黏膜病变的实时临时ROI选定及后续支气管镜引导。就本示例而言,我们使用一名肺癌患者(病例20349-3-90)的3D CT影像和支气管镜视频,该患者经知情同意入组我校附属医院研究项目。
首先,在常规气道检查时从支气管镜检查视频中观察到黏膜病变。通过使用虚拟导航器集成的视频分析工具,在选定视频帧中明确可疑病变部位处的ROI【2】。然后,将所述ROI在视频帧上的位置通过腔内VB渲染器与患者的3D CT扫描关联,从而提供新部位s的已知3D位置坐标。图9A示出了使用虚拟导航器在支气管镜检查视频帧上选定可疑黏膜病变部位(绿色框)。图9B示出了所选定病变部位至对应的同步基于CT的VB视图表面的映射。
鉴于实时支气管镜视频中识别的病变部位s的位置,调用气道定位器以推导气道引导路径ps。图10A-10D示出了推导出通往所选定黏膜病变的引导路径后虚拟导航器引导系统的显示器。与前述ROI未沿气道壁分布且使用CT数据进行识别的示例不同,本ROI通过视频识别,且沿气道黏膜分布。因此,在图10A和图10B的基于CT的视图中,红色十字线精确定位了位于气道(暗区)与组织(灰区)之间边缘处的ROI部位。图10A示出了2D CT冠状切面。图10B示出了2D CT矢状切面。图10C示出了3D气道树渲染图。图10D示出了气道定位器界面。各视图中的ROI位置通过以下方式指示:1)矢状视图与冠状视图上的红色十字线;2)3D气道树渲染图中气道壁上的红色区域;3)气道定位器工具的量化数据。
图11A-11C随后示出了模拟引导程序,即医生沿已推导的气道路径ps导航支气管镜,直至到达病变部位在气道壁上的位置。
图11A、图11B和图11C分别示出了在特定位置时图像引导支气管镜检查系统的显示器。对于图11A-11C,左-上-左视图示出了2D CT冠状切面,左-上-右视图示出了3D气道树渲染图,左-下视图示出了腔内渲染器(VB视图),右视图示出了气道定位器界面。除实时虚拟支气管镜检查外,所有视图在引导支气管镜检查时均自动同步至同一位置,并通过以下方式指示:1)CT视图上的十字线;2)蓝色气道引导路径上的橙色支气管镜尖端图标;3)腔内渲染视图上的蓝线;4)气道定位器工具的量化数据。
图11A示出了位于气管内路径起点处的支气管镜。所述支气管镜位于原始预先规划路径p36的观察部位v1处。图11B示出了支气管镜到达气管远端(观察部位v236)时的导航状态。如3D气道树和VB视图所示,支气管镜此时明显接近病变部位;气道定位器的距离计算器显示当前观察部位距ROI的剩余距离为38.8毫米。最后,图11C示出了支气管镜到达路径最终观察部位v320时的视图。由于气道定位器已自动调整最终观察部位的视角,因此ROI在VB视图上居中显示。如气道定位器所示,支气管镜已导航至病变部位17.5毫米范围内。
示例4:窄带成像支气管镜检查中可疑黏膜病变的“动态”定位
图12A-12C提供了窄带成像(NBI)支气管镜检查中自动“动态”黏膜病变检测及后续气道路径计算的示例。NBI支气管镜检查使用能够突出气道黏膜血管结构的气道照明光源【26】。众所周知,由此获得的视频影像可以显示增强后的血管结构。呈现此类结构的气道壁位置往往与可疑早期肺癌部位对应【31】。
就我们的示例而言,我们使用患者病例21405-197,该患者同样经知情同意入组我校附属医院研究项目。医生首先使用奥林巴斯NBI支气管镜对双肺的主要气道进行气道检查。所获得的视频流由我们在虚拟导航器系统内置的NBI病变检测软件自动处理【11】。据此在气道检查视频的第158帧发现病变部位,而第121帧示出了所述病变位于视频居中位置,如图12A的左右视图所示。将所获得的病变边界框作为ROI部位,我们随后再次自动计算出临时地从气管通往该部位的气道路径。图12B为3D气道树表面渲染图,该图示出了通往所述病变部位的已自动计算的气道路径(蓝线)。在后续根据新引导路径重返所述部位时,支气管镜被导航至第121帧处的已检测病变部位。图12C示出了通过图像引导支气管镜检查重返病变部位时的配准实时视频视图和基于CT的参考VB视图;绿色区域指示所述病变部位。就本测试而言,我们通过将已记录的气道检查NBI视频作为虚拟导航器系统的输入,模拟了图12C所示的支气管镜重返过程。
6.讨论
无论是图像引导支气管镜检查系统还是机器人辅助支气管镜检查系统,新型辅助支气管镜检查系统目前均能够帮助医生执行以往无法完成的复杂支气管镜手术。遗憾的是,此类系统普遍缺乏对手术方案进行必要术中调整的手段。因为许多此类重要情况会出现,因此提供能够做出此类调整的手段至关重要。
本发明首次提供了一种用于在实时支气管镜检查中推导气道路径的方法,所述气道路径可以通往引导系统显示器上可观察到的任何选定部位。鉴于该气道路径,医生可以使用辅助支气管镜检查系统将支气管镜导航至新部位。通过这一方式,医生能够应对在实时手术中观察到的意外发现,并实时改变手术方案。
经验证,本发明公开的气道定位器方法提供了此类用于实时创建通往新观察到的临床感兴趣部位的路径的手段。鉴于该路径,所述辅助支气管镜检查系统可以引导医生到达所述新部位。
另一方面,在其他领域的内窥镜外科手术(腹腔镜、结肠镜、膀胱镜检查)中,当医生需要导航设备通过空腔器官系统时,此类手术也同样会遇到意外情况,需要医生能够“动态”调整其手术方案。我们的方法同样适用于这些其他领域。
如本领域技术人员所知,在不脱离本发明的范围或教导的前提下,可以通过多种方式对本文所说明和讨论的本发明的实施例进行修改。此外,一个实施例中的要素和方面可以与另一实施例的要素和方面相结合。本发明的范围由以下权利要求书(包括所有等同权利要求)所界定。
参考文献
[1]Fumihiro Asano,Naofumi Shinagawa,Takashi Ishida等.虚拟支气管镜导航技术提高径向支气管内超声对CT显示支气管受累的周围性肺部病变的诊断率.内科学杂志,54(9):1021–1025,2015.
[2]Patrick D Byrnes与William Evan Higgins.高效的支气管镜视频摘要技术.IEEE生物医学工程汇刊,66(3):848–863,2019年3月.
[3]P.Byrnes与W.E.Higgins.支气管内视频分析系统.见R.J.Webster与B.Fei编,SPIE医学影像2017:图像引导手术、机器人介入与建模,卷10135,页101351Q–1—101351Q–9,2017.
[4]Q.Chang,D.Ahmad,J.Toth,R.Bascom,及W.E.Higgins.ESFPNet:用于自体荧光支气管镜视频实时病灶分割的高效深度学习架构.见B.S.Gimi与A.Krol编,SPIE医学影像2023:分子、结构与功能成像的生物医学应用,卷12468,2023.
[5]Q.Chang,P.Byrnes,D.Ahmad,J.Toth,R.Bascom,及W.E.Higgins.支气管镜视频同步技术在支气管病变多模态交互检查中的应用.见C.A.Linte与J.H.Siewerdsen编,SPIE医学影像2021:图像引导手术、机器人介入与建模,卷11598,页115981V–1—115981V–11,2021.
[6]R.Cheirsilp,R.Bascom,T.W.Allen,R.P.M.Mahraj,及W.E.Higgins.多模态肺癌分期中的可变形图像配准技术.见M.Styner与E.Angelini编,SPIE医学影像2016:图像处理,卷9784,页97843Z–1—97843Z–10,2016.
[7]R.Cheirsilp,R.Bascom,T.W.Allen,R.P.M.Mahraj,及W.E.Higgins.多模态肺癌分期中的可变形图像配准技术.见M.Styner与E.Angelini编,SPIE医学影像2016:图像处理,卷9784,页9784Z–1—9784Z–10,2016.
[8]R.Cheirsilp,Bascom,T.W.Allen,及W.E.Higgins.三维PET/CT分析与可视化中的胸腔定义方法.计算机生物学与医学,62:222–238,2015年7月.
[9]R.Cheirsilp与W.E.Higgins.用于支气管镜手术规划的多模态三维PET/CT系统.见C.L.Novak与S.Aylward编,SPIE医学影像2013:计算机辅助诊断,卷8670,页86702X–1–86702X–14,2013年2月.
[10]Gerard J Criner,Ralf Eberhardt,Sebastian Fernandez-Bussy,,Momen MWahidi等.介入支气管镜技术现状综述.美国呼吸与重症医学杂志,(1):29–50,2020年7月.
[11]V.Daneshpajooh,D.Ahmad,J.Toth,R.Bascom,及W.E.Higgins.窄带成像支气管镜病灶检测的视频分析框架.见B.S.Gimi与A.Krol编,SPIE医学影像2022:分子、结构与功能成像的生物医学应用,卷12036,页120360M–1—120360M–9,2022.
[12]J.D.Gibbs,M.W.Graham,R.Bascom,D.C.Cornish,R.Khare,及W.E.Higgins.外周支气管镜检查最优手术规划与导航系统.IEEE生物医学工程汇刊,61(3):638–657,2014年3月.
[13]J.D.Gibbs,M.W.Graham,及W.E.Higgins.基于三维MDCT的外周支气管镜手术规划系统.计算机生物学与医学,39(3):266–279,2009年3月.
[14]M.W.Graham,J.D.Gibbs,D.C.Cornish,及W.E.Higgins.图像引导外周支气管镜检查的鲁棒三维气道树分割方法.IEEE医学影像汇刊,29(4):982–997,2010年4月.
[15]W.R.Grier,M.Saleh,E.Pickering,A Sachdeva,V.K.Holden,及F.Nasim.三维透视辅助机器人支气管镜对周围型肺结节活检的评估.美国呼吸与重症医学杂志,205:A3671,2022年5月.
[16]W.E.Higgins,R.Cheirsilp,X.Zang,及P.Byrnes.支气管镜规划与导航的多模态系统.见Z.Yaniv与R.Webster编,SPIE医学影像2015:图像引导手术、机器人介入与建模,卷9415,页941508–1–941508–9,2015.
[17]W.E.Higgins,J.P.Helferty,K.Lu,S.A.Merritt,L.Rai,及K.C.Yu.图像引导支气管镜的三维CT-视频融合技术.计算机医学影像与图形学,32(3):159–173,2008年4月.
[18]D.Himeji,M.Oki,H.Saka,T.Imabayashi,Y.Nishii,及M.Ando.评估周围型肺病变时在标准细支气管镜基础上增加超细支气管镜的多中心前瞻性研究.美国呼吸与重症医学杂志,205:A3673,2022年5月.
[19]E.Ho,R.J.Cho,J.Keenan,及S.Murgu.导航支气管镜肺外周病变取样中采用"血管征"进行术前规划的可行性:双中心回顾性研究.美国呼吸与重症医学杂志,205:A3670,2022年5月.
[20]T.Inage,T.Nakajima,I Yoshino,及K.Yasufuku.早期肺癌检测.临床胸科医学,39:45–55,2018.
[21]T.Inoue,T.Kawamura,K.Kunimasa,M.Tamiya,H.Kuhara,K.Nishino,S.Odani,F.Imamura,T.Kumagai,及K.Miyake.自动虚拟支气管镜导航后采用斜位法进行手动路径修正.医学,101(17):1–7,2022.
[22]R.Khare,R.Bascom,及W.E.Higgins.支气管镜规划与导航的免提操作系统.IEEE生物医学工程汇刊,62(12):2794–2811,2015.
[23]T.Kuhlengel,R.Bascom,及W.Higgins.全面淋巴结分期支气管镜的高效手术规划.医学影像杂志,9(5):055001–1—055001–22,2022年9月.
[24]K.Lu与W.E.Higgins.基于动态轮廓线的三维CT胸部图像交互式分割方法.国际计算机辅助放射外科杂志,2(3-4):151–167,2007年12月.
[25]S.A.Merritt,R.Khare,R.Bascom,及W.E.Higgins.图像引导支气管镜的交互式CT-视频配准技术.IEEE医学影像汇刊,32(8):1376–1396,2013年8月.
[26]T.Nakajima与K.Yasufuku.早期肺癌检测.见Jose Pablo Diaz-Jimenez与AliciaRodriguez编,肺医学介入技术,页245–256.Springer,2018.
[27]M.Oki,H.Saka,Y.Kogure,H.Niwa,A.Yamada,A.Torii,及C.Kitagawa.超细支气管镜冷冻活检在周围型肺病变中的应用.美国呼吸与重症医学杂志,205:A3674,2022年5月.
[28]P.J.Reynisson,H.O.Leira,T.N.Hernes,E.F.Hofstad等.导航支气管镜技术综述.支气管学与介入肺病学杂志,21(3):242–264,2014年7月.
[29]J.Z.Turlington与W.E.Higgins.滑动薄层容积可视化高效新技术.IEEE医学影像汇刊,20(8):823–835,2001年8月.
[30]M.M.Wahidi,F.J.F.Herth,A.Chen,G.Cheng,及L.Yarmus.介入肺脏病学技术现状.胸科杂志,157(3):724–736,2020年3月.
[31]Juan P Wisnivesky,Rex Chin-Wei Yung,Praveen N Mathur,及Javier JZulueta.中央气道支气管上皮内瘤变与早期肺癌的诊断治疗:肺癌诊断与管理——美国胸科医师学会循证临床实践指南.胸科杂志,143(5_suppl):e263S–e277S,2013年5月.
[32]K.C.Yu,E.L.Ritman,及W.E.Higgins.基于三维模型与微分几何的血管系统分析方法.IEEE生物医学影像国际研讨会,页177–180,2004年4月15-18日.
[33]X.Zang,R.Cheirsilp,P.D.Byrnes,W.Higgins等.肺癌分期的图像引导EBUS支气管镜系统.医学信息学(开放获取),25(100665):1–13,2021.
[34]X.Zang,J.D.Gibbs,R.Cheirsilp,P.D.Byrnes,J.Toth,R.Bascom,及W.E.Higgins.图像引导EBUS支气管镜最优路径规划方法.计算机生物学与医学,112(7):103361,2019年9月.

Claims (18)

1.一种用于自动推导出临时穿过患者空腔器官系统的新导航气道路径的方法,其中,所述新导航气道路径通往医生执行实时内窥镜手术时观察到的先前未规划的感兴趣区域(ROI),所述方法包括以下步骤:
加载基于所述患者的放射影像数据而先前计算的关于所述空腔器官系统的信息,包括气道树、气道腔内表面、气道中心线;
基于所述先前计算的信息,提供实时内窥镜手术实施前离线计算的初始手术方案,所述初始手术方案明确界定与所述未规划ROI不同的初始ROI,并推导出通往所述初始ROI的适当气道路径;
通过以下方式更新所述初始手术方案:
在图像引导内窥镜系统的其中一个图形可视化工具上将所述未规划ROI处的新部位s标识为新的检查目标;
自动计算出通往所述新检查目标的新导航气道路径;以及
沿所述新导航气道路径引导内窥镜穿过所述空腔器官系统,到达所述新检查目标。
2.根据权利要求1所述的方法,其中,所述气道中心线包括定向路径集合,每条路径包括沿所述路径被访问且仅被访问一次的观察部位集合,所述路径起始于气管并终止于远端气道分支,每个观察部位包括向量和沿所述路径可视化时的相机成像方位,所述向量规定了坐标和朝向角度;
自动计算所述新导航气道路径的步骤包括:
寻找最接近所述新部位s的观察部位vc
在所述定向路径集合中选择包含所述观察部位vc的路径pi
推导出∈个观察部位的补偿量后,计算新的观察部位vs=vc-∈,作为通往所述新部位s的初步气道路径ps的初始最终观察部位,所述新的观察部位vs在选定路径pi中位于vc之前∈个观察部位处,且所述初步气道路径ps满足约束条件要求;
计算新部位s始于vs并指向部位s的向量z=s-vs,由此获得所述初步气道路径ps的最终观察部位vf;以及
将所述初步气道路径ps中的最终观察部位vf替代vs,从而提供通往所述新部位s的所述新导航气道路径。
3.根据权利要求1或2所述的方法,其中,所述放射影像数据为胸部CT扫描、PET扫描或磁共振成像扫描。
4.根据权利要求1至3中任一项所述的方法,其中,所述新部位s在2D CT切面、融合2DCT/PET切面、滑动薄层视图、VB渲染器中标注的狭窄位置、2D磁共振成像切面或视频流视图中沿气道壁的位置上被识别。
5.根据权利要求1至4中任一项所述的方法,其中,所述新部位s在所述实时内窥镜手术开始之前或实施期间被识别。
6.根据权利要求1至5中任一项所述的方法,还包括引导使用第二辅助设备沿所述新导航气道路径行进。
7.根据权利要求6所述的方法,其中,所述第二辅助设备从光学相干断层扫描探头、冷冻疗法探头或NaG激光诊断或治疗探头中选择。
8.根据权利要求1至7中任一项所述的方法,还包括在沿所述新导航气道路径引导所述内窥镜之前使用所述图像引导内窥镜系统的所述图形可视化工具预览所述新导航气道路径。
9.根据权利要求1至8中任一项所述的方法,还包括将任何新创建的ROI及关联气道路径作为整体病例研究的一部分予以保存,以供日后参考。
10.根据权利要求1至9中任一项所述的方法,还包括计算从一个观察部位行进至所述新部位的必要距离。
11.根据权利要求2所述的方法,其中,所述约束条件要求包括气道尺寸和内窥镜尖端尺寸。
12.根据权利要求1至10中任一项所述的方法,其中,所述内窥镜为支气管镜。
13.一种用于生成实时引导路径的系统,所述实时引导路径在实时内窥镜手术中穿过患者空腔器官系统通往先前未规划的诊断部位,包括:
图像引导内窥镜系统,包括:
内窥镜,操作用于在所述空腔器官系统内进行导航;
显示设备,操作用于显示多种图形可视化工具,所述多种图形可视化工具显示2D CT/PET断层、基于CT的虚拟支气管镜检查(VB)渲染图、全局3D气道树渲染图或来源于内窥镜的实时视频流;
存储器,用于存储手术规划及其更新;
处理器,用于与所述存储器和显示设备通信,所述处理器操作用于执行以下步骤:
加载在实时内窥镜手术实施前预先计算的信息和离线确定的气道路径,所述预先计算的信息包括基于患者放射影像数据的气道树、气道腔内表面、气道中心线;以及
在实时内窥镜手术期间自动计算通往新观察到的诊断部位的导航气道路径。
14.根据权利要求13所述的系统,其中,所述气道中心线包括定向路径集合,每条路径包括沿所述路径被访问且仅被访问一次的观察部位集合,所述路径起始于气管并终止于远端气道分支,每个观察部位包括向量和沿所述路径可视化时的相机成像方位,所述向量规定了坐标和朝向角度;
所述处理器操作用于进一步执行以下步骤:
寻找最接近新部位s的观察部位vc
在定向路径集合中选择包含观察部位vc的路径pi
推导出∈个观察部位的补偿量后,计算新的观察部位vs=vc-∈,作为通往新部位s的初步气道路径ps的初始最终观察部位,所述新的观察部位vs在选定路径pi中位于vc之前∈个观察部位处,且初步气道路径ps满足约束条件要求;
计算新部位s始于vs并指向部位s的向量z=s-vs,由此获得初步气道路径ps的最终观察部位vf;以及
将初步气道路径ps中的最终观察部位vf替代vs,从而提供通往新部位s的新导航气道路径。
15.根据权利要求13或14所述的系统,其中,所述新部位s在2D CT切面、融合2D CT/PET切面、滑动薄层视图、VB渲染器中观察到的狭窄位置、2D磁共振成像切面或视频流视图中沿气道壁的位置上被识别。
16.根据权利要求13至15中任一项所述的系统,其中,所述新部位s在实时内窥镜手术开始之前或实施期间被识别。
17.根据权利要求13至16中任一项所述的系统,其中,所述处理器还可操作用于执行计算从一个观察部位行进至新部位的必要距离的步骤。
18.根据权利要求14所述的系统,其中,所述约束条件要求包括气道尺寸和内窥镜尖端尺寸。
CN202480010098.0A 2023-02-01 2024-01-25 实时内窥镜外科手术中的临时路径规划 Pending CN120641059A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202363482636P 2023-02-01 2023-02-01
US63/482,636 2023-02-01
PCT/US2024/012969 WO2024163259A1 (en) 2023-02-01 2024-01-25 Extemporaneous route planning during live endoscopic surgical procedures

Publications (1)

Publication Number Publication Date
CN120641059A true CN120641059A (zh) 2025-09-12

Family

ID=92147479

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202480010098.0A Pending CN120641059A (zh) 2023-02-01 2024-01-25 实时内窥镜外科手术中的临时路径规划

Country Status (3)

Country Link
US (1) US20250107855A1 (zh)
CN (1) CN120641059A (zh)
WO (1) WO2024163259A1 (zh)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005058137A2 (en) * 2003-12-12 2005-06-30 University Of Washington Catheterscope 3d guidance and interface system
US9037215B2 (en) * 2007-01-31 2015-05-19 The Penn State Research Foundation Methods and apparatus for 3D route planning through hollow organs
US8672836B2 (en) * 2007-01-31 2014-03-18 The Penn State Research Foundation Method and apparatus for continuous guidance of endoscopy
EP3297529B1 (en) * 2015-05-22 2025-03-12 Intuitive Surgical Operations, Inc. Systems for registration for image guided surgery
US11373330B2 (en) * 2018-03-27 2022-06-28 Siemens Healthcare Gmbh Image-based guidance for device path planning based on penalty function values and distances between ROI centerline and backprojected instrument centerline

Also Published As

Publication number Publication date
WO2024163259A1 (en) 2024-08-08
US20250107855A1 (en) 2025-04-03
WO2024163259A8 (en) 2025-10-30

Similar Documents

Publication Publication Date Title
US11980505B2 (en) Visualization of depth and position of blood vessels and robot guided visualization of blood vessel cross section
JP7527302B2 (ja) 動的な介入的3次元モデル変形
Jolesz et al. Interactive virtual endoscopy.
US8672836B2 (en) Method and apparatus for continuous guidance of endoscopy
US20220313190A1 (en) System and method for pose estimation of an imaging device and for determining the location of a medical device with respect to a target
EP3164050B1 (en) Dynamic 3d lung map view for tool navigation inside the lung
US20250359730A1 (en) Steerable endoscope system with augmented view
CN111568544B (zh) 用于使医疗装置相对于目标的导航视觉化的系统和方法
US8116847B2 (en) System and method for determining an optimal surgical trajectory
CN106572794A (zh) 用于在肺内部导航的系统和方法
WO2012062482A1 (en) Visualization of anatomical data by augmented reality
US20230360212A1 (en) Systems and methods for updating a graphical user interface based upon intraoperative imaging
EP3527159A2 (en) 3d reconstruction and guidance based on combined endobronchial ultrasound and magnetic tracking
US12349859B2 (en) Two-phase instrument guidance for accurate endoscopic surgical procedures
US20250072969A1 (en) Systems and methods for integrating intra-operative image data with minimally invasive medical techniques
CN120641059A (zh) 实时内窥镜外科手术中的临时路径规划
Merritt et al. Method for continuous guidance of endoscopy
He et al. Extemporaneous airway route computation during live bronchoscopic procedures
Zhao et al. Two-phase radial endobronchial ultrasound bronchoscopy registration
US20250107854A1 (en) Bronchoscope graphical user interface with improved navigation
US20250261998A1 (en) Systems for evaluating registerability of anatomic models and associated methods
Dubrovin et al. Preoperative planning and intraoperative navigation, based on 3D modeling for retroperitoneal procedures
CN120018824A (zh) 对患者和/或成像系统移动进行检测和校正以用于目标覆盖的系统和方法
Khare et al. Improved navigation for image-guided bronchoscopy
CN120548149A (zh) 利用断层合成和增强荧光透视的机器人内窥镜系统的系统和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication