CN116916812A - 用于评估组织重塑的系统和方法 - Google Patents
用于评估组织重塑的系统和方法 Download PDFInfo
- Publication number
- CN116916812A CN116916812A CN202180094945.2A CN202180094945A CN116916812A CN 116916812 A CN116916812 A CN 116916812A CN 202180094945 A CN202180094945 A CN 202180094945A CN 116916812 A CN116916812 A CN 116916812A
- Authority
- CN
- China
- Prior art keywords
- image
- visible light
- images
- fluorescence
- pair
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/44—Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
- A61B5/441—Skin evaluation, e.g. for skin disorder diagnosis
- A61B5/444—Evaluating skin marks, e.g. mole, nevi, tumour, scar
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0071—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7271—Specific aspects of physiological measurement analysis
- A61B5/7275—Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient; User input means
- A61B5/742—Details of notification to user or communication with user or patient; User input means using visual displays
- A61B5/7425—Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
- A61B2034/107—Visualisation of planned trajectories or target regions
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
- A61B2090/373—Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0033—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room
- A61B5/0035—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room adapted for acquisition of images from more than one imaging mode, e.g. combining MRI and optical tomography
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Pathology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Physics & Mathematics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Dermatology (AREA)
- Radiology & Medical Imaging (AREA)
- Robotics (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Signal Processing (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Abstract
提供了一种用于评估组织重塑风险的方法。该方法包括:(a)获得对象皮肤的目标区域的多个图像,其中所述多个图像包括(1)一组可见光图像和(2)一组荧光图像;(b)处理所述多个图像以确定该目标区域的最佳图像对,其中该最佳图像对包括:(i)选自(1)的第一可见光图像,和(ii)选自(2)的第一荧光图像;(c)至少基于该最佳图像对来生成该目标区域的评估;和(d)在图形用户界面上显示该评估、该最佳图像对和示出所述目标区域在所述对象身体上的位置的示意图,其中该评估指示该目标区域处的组织重塑的概率。
Description
交叉引用
本申请要求于2020年12月31日提交的美国临时专利申请号63/132,979的权益,其全部内容通过引用并入本文。
背景技术
癌症是全世界死亡的主要原因。皮肤癌是最常见的癌症之一,黑色素瘤是最具侵袭性的皮肤癌。目前诊断黑色素瘤的技术包括观察现有痣的视觉外观(大小、形状、颜色)变化或新痣的外观变化、确定病史危险因素(年龄、家族史等)、活检和组织学分析。是否对痣进行活检的决定很大程度上取决于该痣的表面外观。然而,痣的可见外观的变化并不总是确定痣中黑色素瘤的存在,因为使用标准技术经常会遗漏表面下的特性。例如,一个这样的特性是新血管形成和组织重塑(tissue remodeling)的存在。当肿瘤生长时,它发出信号,为扩张的肿瘤生长(例如,组织重塑)和增加的营养供应(例如,新血管生成)准备局部环境。这样的信号可以由生长因子、细胞因子和在扩张期间从肿瘤细胞和/或从肿瘤微环境释放的其他蛋白质介导。这些过程可以通过测试肿瘤周围的组织(例如,宏观环境)来研究,并且可以与标准诊断技术结合使用,以告知诊断和/或治疗程序。然而,用于这种研究的大多数方法需要活检和组织学分析,这是侵入性的,花费大量时间,并且不太理想。
发明内容
因此,需要提供系统和方法,以快速和易于使用的形式改进组织重塑风险的视觉、活检前评估,以允许用户对临床可疑病变中的组织重塑概率进行视觉比较和评价。不必通过任何特定实施方式来实现所有这些方面或优点。因此,可以以实现或优化本文教导的一个优点或一组优点的方式来执行各种实施方式,而不必实现本文教导或建议的其他方面或优点。
本公开一般涉及医疗设备和方法,更具体地涉及评估皮肤组织重塑的方法和设备。
在第一方面,提供了一种用于评估组织重塑风险的方法。该方法包括(a)获得对象皮肤的目标区域的多个图像,其中所述多个图像包括(1)一组可见光图像和(2)一组荧光图像;(b)处理所述多个图像以确定目标区域的最佳图像对,其中所述最佳图像对包括:(i)选自(1)的第一可见光图像,和(ii)选自(2)的第一荧光图像;(c)至少基于所述最佳图像对来生成目标区域的评估;和(d)在图形用户界面上显示评估、最佳图像对和示出目标区域在对象身体上的位置的示意图,其中该评估指示目标区域处的组织重塑的概率。
在一些实施方式中,目标区域可以包括对象皮肤上的痣。在一些实施方式中,第一可见光图像和第一荧光图像可以被选择为彼此互补或匹配。备选地,或结合起来,第一可见光图像可以包括第一组视觉特性,并且第一荧光图像可以包括第二组视觉特性。第二组视觉特性的至少一部分在第一组视觉特性中可以是不可见的,并且第一组视觉特性的至少一部分在第二组视觉特性中可以是不可见的。在一些实施方式中,第一组视觉特性是可以通过使用可见光或白光对目标区域成像而生成的。在一些实施方式中,第二组视觉特性是可以通过使用红外光对目标区域成像而生成的。在一些实施方式中,第一组视觉特性可以与痣和对象的暴露皮肤相关联。在一些实施方式中,第二组视觉特性可以与皮肤下面和宏观环境中的痣周围的下层组织(即,包围但不包括痣的组织)相关联。
在一些实施方式中,可以至少基于以下中的一个或多个:聚焦质量、对比度、清晰度、亮度、颜色或分辨率,从多个图像中确定最佳图像对。
在一些实施方式中,可以至少基于:(1)可见光图像中的每一个和荧光图像中的每一个内的目标区域的位置、(2)可见光图像中的每一个与荧光图像中的每一个之间的相似度或相关度、和/或(3)可见光图像中的每一个和荧光图像中的每一个的聚焦质量,从多个图像中确定最佳图像对。
在一些实施方式中,处理多个图像可以包括以下中的至少一个:尺寸过滤、规格化、标准化、减少噪声、消除成像伪影、背景减除、裁剪、放大、调整尺寸、重新定位、亮度调整、对比度调整或物体分割。
在一些实施方式中,最佳图像对可以是第一最佳图像对。在一些实施方式中,该方法可以包括在(b)之后且在(c)之前:在图形用户界面上向用户显示选项,其中该选项可以允许用户接受或拒绝第一最佳图像对;和响应于在图形用户界面上显示的该选项,从用户接收输入。在一些实施方式中,该方法还可以包括当输入指示用户拒绝第一最佳图像对时,处理多个图像以确定用于目标区域的第二最佳图像对,其中第二最佳图像对不同于第一最佳图像对。在一些实施方式中,第二最佳图像对和第一最佳图像对可以不共享任何公共图像。备选地,第二最佳图像对和第一最佳图像对可以共享公共图像。在一些实施方式中,公共图像可以包括第一可见光图像或第一荧光图像。在一些实施方式中,该方法还可以包括在所述图形用户界面上向用户重新显示选项,其中该选项可以允许用户接受或拒绝第二最佳图像对;和响应于在图形用户界面上显示的该选项,从用户接收另一输入。在一些实施方式中,(c)可以包括当另一输入指示用户接受第二最佳图像对时,至少基于第二最佳图像对而不是第一最佳图像对来生成针对目标区域的评估。备选地,或结合起来,该方法可以包括当输入指示用户接受第一最佳图像对时,继续(c)和(d)。在一些实施方式中,该方法可以包括当输入指示用户拒绝第一最佳图像对时,处理多个图像以确定用于目标区域的多个其他最佳图像对;和在图形用户界面上显示多个其他最佳图像对。多个其他最佳图像对被顺序地显示在图形用户界面上给用户。
在一些实施方式中,(b)还可以包括处理多个图像以确定多个图像对,其中所述多个图像对包括最佳图像对。在一些实施方式中,最佳图像对可以被注释为在视觉上区别于其他图像对。在一些实施方式中,可以通过在最佳图像对周围放置预定义边界来注释所述最佳图像对。
在一些实施方式中,(b)还可以包括自动检测目标区域内的痣,并生成该痣周围的图形边界或轮廓。在一些实施方式中,图形边界或轮廓可以被自动生成以跟随痣的形状或外形。备选地,或结合起来,图形边界或轮廓可以是可调整的或者是由用户经由图形用户界面创建的。
在一些实施方式中,评估可以包括最佳图像对的总分数。该总分数可以是两个或多个离散分数的合成。在一些实施方式中,两个或多个离散分数可以包括(1)第一可见光图像的分数和(2)第一荧光图像的分数。在一些实施方式中,两个或多个离散分数的合成可以被相等地加权,使得第一可见光图像的分数和第一荧光图像的分数都被给予相同的权重。在一些实施方式中,两个或多个离散分数的合成可以被不同地加权,使得第一可见光图像的分数和第一荧光图像的分数被给予不同的权重。例如,第一荧光图像的分数可以被给予比第一可见光图像的分数更高的权重。备选地,第一荧光图像的分数可以被给予比第一可见光图像的分数更低的权重。在一些实施方式中,总分数可以位于值范围内。在一些实施方式中,两个或多个离散分数可以位于值范围内。在一些实施方式中,第一可见光图像的分数和第一荧光图像的分数基于标准化值范围。
在一些实施方式中,组织重塑的概率可以与痣中黑色素瘤发展的概率相关联。在一些实施方式中,评估可用于基于痣中黑色素瘤发展的概率来确定临床诊断或行动过程。在一些实施方式中,方法可以包括当目标区域处组织重塑的概率或黑色素瘤发展的概率大于一个或多个阈值时,在图形用户界面上生成一个或多个通知。
在一些实施方式中,可以至少基于:(1)与第一可见光图像中的第一组视觉特性相关联的第一组度量和(2)与第一荧光图像中的第二组视觉特性相关联的第二组度量来生成评估。在一些实施方式中,第一组度量可以包括以下中的一个或多个:痣及其周围区域的大小、形状、体积、颜色或表面纹理。在一些实施方式中,第二组度量可以包括以下中的一个或多个:大小、形状、组织重塑的区域或程度、像素强度、荧光强度、对象皮肤下面和痣周围的目标区域中的图案或纹理。在一些实施方式中,该方法还可以包括分割第一可见光图像或第一荧光图像以分别生成第一组度量或第二组度量。分割第一荧光图像包括将第一荧光图像分割成围绕目标区域的多个区带。在一些实施方式中,该方法还可以包括将多个区带划分为多个子区域。
在一些实施方式中,第一可见光图像和第一荧光图像被调整并对准到最佳图像对中的一组坐标。在一些实施方式中,可以通过旋转、平移、裁剪、放大和/或缩小第一可见光图像和第一荧光图像中的至少一个来调整和对准该第一可见光图像和该第一荧光图像。在一些实施方式中,可以使用存在于第一可见光图像和第一荧光图像两者中的一个或多个基准标记来调整和对准该第一可见光图像和该第一荧光图像。一个或多个基准标记可以被注释在第一可见光图像和第一荧光图像上。备选地,或结合起来,一个或多个基准标记可以在第一可见光图像和第一荧光图像两者中都是可见的。备选地,或结合起来,一个或多个基准标记可以包括一个或多个字母数字字符。备选地,或结合起来,一个或多个基准标记可以包括线、边、点或二维形状。在一些实施方式中,在目标区域内的一个或多个预定位置处可以提供一个或多个基准标记。备选地,或结合起来,一个或多个基准标记可以以相对于痣的位置的预定距离和/或取向提供。
在一些实施方式中,该方法可以包括将最佳图像对与一个或多个参考图像进行比较。在一些实施方式中,一个或多个参考图像可以包括参考图像对。在一些实施方式中,参考图像对可以包括(1)不是来自该组可见光图像的可见光参考图像和(2)不是来自该组荧光图像的荧光参考图像。在一些实施方式中,最佳图像对可以包括基准,并且其中所述参考图像对不包括基准。在一些实施方式中,最佳图像对可以包括位于相对于痣的预定位置和/或取向的第一组基准,并且其中所述参考图像对包括位于所述参考图像对中的每个参考图像的边界附近的一组基准。
在一些实施方式中,图形用户界面可以被配置为允许用户在最佳图像对中的第一可见光图像或第一荧光图像之间进行拨动或切换。
在一些实施方式中,第一可见光图像可以聚焦在对象的皮肤上的痣上,并且第一荧光图像聚焦在对象的皮肤下面痣周围的区域上。任选地,该区域比痣的大小大至少1.5倍。
在一些实施方式中,获得目标区域的多个图像可以包括使用结构化光自动聚焦集成成像系统以及在自动聚焦之后用集成成像系统捕获多个图像。
援引并入
本说明书中提及的所有出版物、专利和专利申请均通过引用并入本文,其程度如同每个单独的出版物、专利或专利申请都具体且单独地指明通过引用并入。
附图说明
在所附权利要求中具体阐述了本公开的新颖特征。通过参考以下阐述了其中利用了本公开原理的说明性实施方式的详细描述和附图,将获得对本公开的特征和优点的更好理解,其中;
图1示出了根据实施方式的用于获得至少一对图像的示例性系统的示意图;
图2示出了根据实施方式的获得至少一对图像的方法的流程图;
图3示出了根据实施方式的操作用户界面以针对一对图像评估组织重塑的风险的方法的流程图;
图4示出了根据实施方式的描绘登录屏幕的示例性用户界面;
图5示出了根据实施方式的描绘初始菜单的示例性用户界面;
图6示出了根据实施方式的描绘新患者输入屏幕的示例性用户界面;
图7示出了根据实施方式的描绘在图像导入之前的新患者卡的示例性用户界面;
图8示出了根据实施方式的描绘图像导入屏幕的示例性用户界面;
图9示出了根据实施方式的描绘具有并排的最佳图像对和组织评分的患者卡的示例性用户界面;
图10示出了根据实施方式的描绘具有所显示的可见光图像的患者卡的示例性用户界面;
图11示出了根据实施方式的描绘具有所显示的解剖图像的患者卡的示例性用户界面;
图12示出了根据实施方式的描绘患者历史屏幕的示例性用户界面;
图13示出了根据实施方式的描绘生成报告屏幕的示例性用户界面;
图14示出了根据实施方式的描绘病理报告输入屏幕的示例性用户界面;
图15示出了根据实施方式的描绘备份屏幕的示例性用户界面;
图16示出了根据实施方式的描绘从备份屏幕恢复的示例性用户界面;
图17示出了根据实施方式的描绘备份进行中屏幕的示例性用户界面;
图18示出了根据实施方式的用于确定最佳图像对的方法的流程图;
图19示出了根据实施方式的用于对最佳图像对进行分割和评分的方法的流程图;
图20示出了根据实施方式的划分成多个片段的痣和周围皮肤的图像;
图21示出了根据实施方式的划分成多个片段和子区域的痣和周围皮肤的图像;以及
图22示出了根据实施方式的被编程或以其他方式配置为实现本文提供的方法的计算机控制系统。
具体实施方式
在下面的详细描述中,参考了附图,附图构成了详细描述的一部分。在附图中,相似的符号通常标识相似的部件,除非上下文另有规定。在详细描述、附图和权利要求中描述的说明性实施方式并不意味着是限制性的。在不脱离本文所呈现的主题的范围的情况下,可以利用其他实施方式,并且可以进行其他改变。容易理解的是,如本文一般描述并在附图中示出的本公开的各方面可以以各种不同的配置来布置、替换、组合、分离和设计,所有这些配置在本文都是明确预期的。
尽管下文公开了某些实施方式和示例,但本发明的主题超出了具体公开的实施方式,延伸至其他备选实施方式和/或用途,以及其修改和等同物。因此,所附权利要求的范围不受下面描述的任何特定实施方式的限制。例如,在本文公开的任何方法或过程中,该方法或过程的动作或操作可以以任何合适的顺序执行,并且不必限于任何特定的公开顺序。以可以有助于理解某些实施方式的方式,将各种操作依次描述为多个离散操作,然而,不应将描述的顺序解释为暗示这些操作是顺序相关的。另外,本文所述的结构、系统和/或设备可被实现为集成部件或分离部件。
为了比较各种实施方式,描述了这些实施方式的某些方面和优点。不必通过任何特定实施方式来实现所有这些方面或优点。因此,例如,可以以实现或优化如本文所教导的一个优点或一组优点的方式来执行各种实施方式,而不必实现如本文所教导或建议的其他方面或优点。
本公开是关于用于评估患者皮肤中组织重塑的系统、设备或方法的部署而描述的。然而,本领域技术人员将理解,这并不是限制性的,并且本文所公开的设备、系统和方法可以用于其他解剖区域和/或评估组织的其他方面。例如口腔、结肠、消化系统、子宫颈、膀胱、肺、淋巴结等组织腔或表面。如本领域普通技术人员所期望的,本文所公开的设备、系统和方法可用于对表面和/或非表面组织进行成像。
图1和图2示出了用于从目标区域获得一对图像的示例性系统、设备和方法。然而,对于本领域普通技术人员来说容易理解的是,这并不是限制性的,并且本文所公开的图像分析系统和方法可以结合从目标区域获得的任何合适的图像对来使用,而不管什么设备、系统或方法用于它们的采集。图像采集设备的选择可以基于组织位置的可达性、在护理点可用的设施和/或技术、操作成本等来确定。
图1示出了用于从目标区域1获得至少一对图像的示例性系统100的示意图。系统100可以包括通过处理器彼此可操作地耦合的激发单元和发射收集单元。系统100可以包括被配置为操作发射收集单元和激发单元的部件的处理器。激发收集单元可以包括荧光光源和可见光源。可见光源可以是白色光源,例如,白色LED。例如,荧光光源可以包括红外LED。一个或多个激发滤光器可以耦合到光源,以便细化被导向目标区域1的激发光。光可以响应于来自用户的输入(例如,选择光模式并按下捕获按钮)而由光源发射并被导向目标区域1。光可以被反射、折射和/或从目标区域1向发射收集单元发射。发射收集单元可以包括相机或其他成像装置(例如,PMT、CCD等)。一个或多个发射滤光器可以设置在目标区域1和相机之间的光路中,以便过滤进入的发射光。例如,载玻片可以容纳荧光发射滤光器和可见光发射滤光器。当目标区域1被荧光光源激发时,荧光发射滤光器可以特定于目标区域1发射的波长或波长范围。在一些实施方式中,可见光发射滤光器可以是偏振滤光器,并且相对于可见光发射滤光器旋转90度的第二偏振滤光器(例如,可见光激发滤光器)可以设置在可见光源和目标区域1之间的光路中。使用两个偏振滤光器可以从目标区域1去除斑点(即,来自皮肤上的油的反射)。系统100可以用于收集目标区域1的至少第一对图像,该目标区域1包括第一可见光图像和第一荧光图像。
请注意,图1所示的元件不按比例并且所示元件的布置纯粹是示例性的。光源的数量可以变化。可以使用诸如反射镜、棱镜、光管、光纤和/或分光器之类的光引导元件来引导光。并非在所有实施方式中都需要所有元件。
系统100可以包括US2017/0049380或US2019/0307391中所述系统的一个或多个元件,出于所有目的,其全部公开内容均并入本文。
系统100可以是一个集成成像系统,该系统包括自含式相机或非自含式相机,其具有以下部件:外壳、电源、镜头、图像传感器、图像存储器、用户控制装置、用户显示器、内部控制电子设备(包括嵌入式处理器的存储指令)和内部图像处理逻辑(包括嵌入式处理器的存储指令)。消费者或专业数字单镜头反射(DSLR)相机是集成成像系统的一个非限制性示例。集成成像系统可以具有可更换的镜头,尽管这不是必需的。集成成像系统可具有自动聚焦能力,例如无反射镜对比度检测自动聚焦方法或使用反射镜和单独传感器的相位检测方法。镜头可以具有宏观聚焦能力。集成成像系统可具有可移除图像存储模块(例如,SD卡)和/或具有用于传送所存储的图像的电缆,和/或用于传送所存储的图像的无线通信端口。集成成像系统不需要连接到外部计算机进行操作,尽管这种连接可以是可选的。集成成像系统不同于工业、医疗或复合成像系统,在工业、医疗或复合成像系统中,所需的部件和/或功能在两个或多个物理包围之间分开,并且包围之一是计算机或包含计算机。
系统100中可提供一个或多个滤光器。例如,系统100可在载玻片中具有两个发射滤光器,以配置将滤光器分别移动到相机的光路中。可以提供任意数量的滤光器(例如,1、2、3、4、5或多个)。滤光器可以使不同波长的电磁辐射相对于彼此通过。滤光器可以相对于相机的光路和/或彼此可移动。滤光器可以垂直于相机的光路移动。所需的滤光器可以滑动、转动或旋转到位。
在一些实施方式中,可以使用单个滤光器,而不是两个。在该单个滤光器配置中,该滤光器可以在诸如660nm的激发频率处具有带阻陷波,同时让可见光和发射带光都通过。这样,对于可见光和荧光发射曝光,可以在不改变滤光器的情况下使用这种单个滤光器。
可以提供一个或多个(例如,两个)可见激发光源,以实现对痣或其他目标区域的均匀照明。可以提供一个或多个(例如,两个)荧光激发光源,以实现对痣或其他目标区域的均匀照明。基于生物标签和/或用于此目的的基准,均匀照明在实现校准的或可测量的响应方面可能是有利的。荧光光源可以是LED、激光器、荧光发射器或其他光源。在一些实施方式中,荧光光源可以具有足够窄的频带,使得荧光激发滤光器不是必需的。
可以提供结构化光照明部件,例如衍射元件或掩模,其可以与可见光源集成,以实现对象的均匀白光照明。结构化光照明部件可以是光学元件,其可以对光进行构图、漫射或扩散。例如,结构化光照明部件可以包括与激光光源或掩模集成的衍射元件,该掩模被配置为当被LED光照明时在目标区域上产生线图案。例如,结构化照明可用于识别毛发。结构化照明还可用于确定皮肤表面上的痣的高度和形状以及痣的纹理。
系统100可具有自动聚焦,其被配置为在可见光照明和荧光照明下将相机聚焦在目标区域上,以确保在同一焦点处拍摄可见光图像和荧光图像。在一些实施方式中,自动聚焦可被配置为使用结构化光将相机聚焦在目标区域上。在至少一些情况下,与非结构化光相比,将结构化光用于自动聚焦可以增强相机在荧光照明下的自动聚焦,非结构化光在组织中可能具有更高的荧光散射,并且在至少一些情况下不足以用于自动聚焦。
系统100可包括存储卡(未示出)的空腔,其可包括无线接口(未示出)、用户显示器(未示出)和用户控制器(未示出)。用户显示器可包括屏幕或其他显示器,其可显示可由集成成像装置捕获的图像。镜头可以提供或附接到系统100。镜头可以集成到集成成像设备,或者该设备适于接受可更换的镜头(例如微距镜头)。操作按钮也可以集成在系统100内。其他用户接口机制,例如触摸屏、控制杆、滑块、旋钮或特征,可以用于用户与集成成像设备接口或交互。
图2示出了获得至少一对图像的方法200的流程图。
在步骤201,可以将生物标签定位在患者的目标区域上。生物标签可以是可检测的(例如荧光)标记的。生物标签可以选择性地与存在于感兴趣的目标区域中的目标结合配偶体结合。备选地,生物标签可以以另一种方式被吸收、代谢、内化或保留在目标区域的反应性组织中。施用可以是局部的(例如,用凝胶、液体等),例如使用皮肤渗透剂或促进剂施用到皮肤表面,或者可以通过皮下或皮内注射(例如,用微针阵列或通过导电性)施用。生物标签制剂可包含溶剂和任选的阻滞剂、皮肤渗透剂和/或增强剂、离子对试剂、共溶剂、和/或湿润剂和/或增稠剂,单独使用或以各种组合使用。
生物标签是与感兴趣的目标分子特异性结合的配偶体。生物标签的示例可包括但不限于肽、肽模拟物、类肽、环状肽等;核酸如RNA、DNA、适体等;或其他有机化合物。2个、3个、4个或多个不同部分的生物标签的一个或混合物可用于本文所述的用于多重成像的方法中。生物标签的分子量可以小到足以有效地穿过表皮表面,例如通常小于10,000道尔顿、小于5,000道尔顿、小于2,500道尔顿、小于1,000道尔顿,渗透剂可以促进这种渗透。生物标签通常包括可检测的标记。
适合作为生物标签的结合配偶体的分子可包括,例如,存在于癌症或癌前细胞上,或存在于癌细胞或癌前细胞的宏观环境中,例如病变部位的脉管系统中的癌症相关标记。用于此目的的感兴趣的特异性标记包括但不限于与肿瘤脉管系统相关联的分子,例如整联蛋白,包括整联蛋白av、整联蛋白a5、整联蛋白03、整联蛋白31等。适用于检测这种整联蛋白的生物标签可包括包含RGD基序或其模拟物的肽,如本领域已知和使用的。例如,参见Gaertner等人(2012)Eur J NuclMed Mol Imaging.39Suppl 1:S1 26-38;Danhier等人(2012)Mo.Pharm.9(1 1):2961-73,通过引用具体并入本文。其他感兴趣的生物标签可包括但不限于激素、抗体的抗原结合片段、EGF、IGF等。尽管本文详细描述了肿瘤相关生物标签,但本领域普通技术人员应当理解,本文所述的系统和方法也可用于评估非肿瘤标记,特别是当待评估的组织不是癌性时。
肿瘤相关联抗原可包括,但不限于,来自MART-1、gp100(pmel-17)、酪氨酸酶、酪氨酸酶相关蛋白1、酪氨酸酶相关蛋白2、促黑素细胞激素受体、MAGE1、MAGE2、MAGE3、MAGE12、BAGE、GAGE、NY-ESO-1、β-连环蛋白、MUM-1、CDK4、胱天蛋白酶8、KIA 0205、HLA-A2R1701、甲胎蛋白、端粒酶催化蛋白、G-250、MUC-1、癌胚蛋白、p53、Her2/neu、TERT、PRAME、LINC00518、磷酸丙糖异构酶、CDC-27、LDLR-FUT、端粒酶逆转录酶、MUC18、ICAM-1、TNFα/β、纤溶酶原激活物(uPA)、组织蛋白酶(B,D,H,L)、PSMA、HMB-45、S-100、黑素-A(A103)、(T31 1)、Mitf(D5)、磷脂酰肌醇蛋白聚糖-3、GPC3、GPNMB、MIA(黑色素瘤抑制活性)、MCR-1、EGF、IGF、ARPC2、FN1、RGS1、SPP1、WNT2、PECAM-1、骨桥蛋白、葡萄糖、MMP-s(基质金属蛋白酶家族成员如MMP-1、MMP-2、MMP-9、MMP-13、MT I-MMP和其他)FDG(或其他代谢物)、VEGF等的免疫原性序列,如本领域已知的。
用作可检测标记的光学可见部分可包括荧光染料或可见光谱染料、可见颗粒和其他可见标签部分。当可以向待视觉检查的位点提供足够的激发能量时,可以使用荧光染料,例如荧光素、香豆素、罗丹明、氟硼荧Texas红和花青染料。内窥镜可视化过程可能与这种标签的使用更兼容。可接受的染料可包括FDA批准的食品染料和色素,它们是无毒的,尽管已被批准用于内部给药的药学上可接受的染料是优选的。备选地,可见颗粒,如胶体金颗粒或乳胶颗粒,可以通过合适的化学连接物与生物标签偶联。
作为可检测标签的感兴趣的荧光染料可包括但不限于荧光素(例如,异硫氰酸荧光素,FITC)、罗丹明、吲哚菁绿(ICG)、Texas红、藻红蛋白、别藻蓝蛋白、6-羧基荧光素(6-FAM)、2',7'-二甲氧基-4',5'-二氯-6-羧基荧光素(JOE)、6-羧基-X-罗丹明(ROX)、6-羧基-2′,4′,7′,4,7-六氯荧光素(HEX)、5-羧基荧光素(5-FAM)或N,N,N',N'-四甲基-6-羧基罗丹明(TAMRA),花青染料,例如Cy 3、Cy 5、Cy 5.5、Alexa 542、Alexa 647、Alexa 680、Alexa700、氟硼荧630/650、荧光颗粒、荧光半导体纳米晶,其衍生物等。
在一些实施方式中,从标签发射的波长可以在近紫外到近红外的范围内。标签选择所考虑的特性可以包括其光吸收,以及来自待测量的身体表面的自发荧光的最小化。探针可以响应于特定波长的荧光照明,然后发射不同波长的光。
在一些实施方式中,从标签发射的波长可以在近红外范围内。这种标签可包括但不限于Alexa染料如Alexa 647、Alexa 680、Alexa 700和花青染料如Cy 5、Cy 5.5和Cy 7。
其他染料可包括但不限于FDA批准用于食品的任何染料,如FD&C蓝色No.1E133、FD&C蓝色No.E132、FD&C绿色No.3、橙色B(3)、FD&C红色No.3E127、FD&C红色No.40(3)E129、FD&C黄色No.5E102、FD&C黄色No.6、D&C黑色No.2&3、D&C红色No.6、7、17、21、22、27、28、30、31、33、34、36、40、D&C紫色No.2等。
在备选实施方式中,生物标签可通过一种或多种方式成像,所述方式可包括但不限于光学相干断层扫描、拉曼光谱、光声成像、超声成像、内窥镜检查等。
在步骤202,可以在目标区域上孵育生物标签。生物标签可以与组织相互作用并与适当的结合配偶体结合,这一过程通常需要几分钟。
在步骤203中,可以去除过量的未结合的生物标签。在一些实施方式中,可通过用水或盐水溶液(有或没有清洁剂)洗涤或擦拭来进行去除。根据应用和实施方式,过量的(未结合或未保留的)生物标签可以在1、2、3、4、5、6、7、8、9、10、11、12、13、14、15、16、17、18、18、20分钟之后或在20-25、25-30、30-35、35-40、40-45、50-55、55-60分钟内、或在1-2、2-3、3-4、4-5、5-6、6-7、7-8、8-9、9-10、10-11、11-12、12-13、13-14、14-15、15-16、16-17、17-18、18-19、19-20、20-21、21-22、22-23、23-24小时内或在1-2天内去除。生物标签应用的优选时间在2至15分钟之间且小于2小时。在一些实施方式中,可以不去除过量的生物标签(例如,当注射生物标签时)。当在病变宏观环境中发现合适的结合配偶体时,可发生生物标签在腔/组织隔室中的保留。
在步骤204中,可以将一个或多个基准标记放置在目标区域附近。在对目标区域成像之前,可以将基准标记形式的校准标记应用于目标区域中的病变附近。基准标记可以可移除地提供在患者身上、绘制在患者身上、固定(可移除地或永久地)到成像设备、或与成像设备分开提供。可以使用相机或本说明书中描述的任何设备、系统和方法来获取图像。基准标记可以允许处理器和/或用户准确地比较使用可见光源捕获的图像(在本文中也称为可见光图像)与使用荧光光源捕获的图像(在本文中也称为荧光图像)。一个或多个基准标记可以在可见光谱和生物标签的荧光发射带中都是可见的,例如,以促进图像对准。标记不需要在两个图像中看起来相同,但是它们应该清楚地对准。因为相机可以是手持的,或者因为患者可以在曝光之间移动,所以用可见光和荧光发射光谱光拍摄的图像可能不会自然地对准,因此对准基准特征可能是特别有益的。
在一些实施方式中,一个或多个基准标记可能包含独特的条形码或其他标识符,用于识别成像的目标区域。(条形码通常是指对于特定标签唯一的信息,例如:线性条形码、2D度量条形码)。一个或多个基准标记可以包括视觉标识符。基准标记可以包括荧光标记或标签,其包括与生物标签上存在的荧光标记相同的荧光化合物,或者在与生物标签相容的光谱中发光的化合物(例如FD&C绿色No.3),以便它可以被相机光学系统检测到并用作自动聚焦的目标。在一些实施方式中,基准可以不用于自动聚焦,而是可以(或另外)用于在图像已被上传到图像处理系统之后验证聚焦。相容光谱可包括,例如,在生物标签的激发光谱中包含激发光的光谱,并且基准标记的光发射包含生物标签发射光谱内的光谱发射。在一些情况下,普通的食用色素可以用作基准标记中的荧光化合物。基准标记可以直接施加到组织/腔表面上,或者施加到介质上,然后施加到表面上,例如粘贴物,或者从介质转移到皮肤上,例如临时或永久纹身。在一些实施方式中,可以将多个基准标记施加在示例性粘贴物或纹身上。
在步骤205,可以捕获解剖参考图像,以标记目标区域的位置。
在步骤206,系统可以设置为可见模式,并且可以捕获目标区域的可见光图像。可见光图像可以包括第一组视觉特性。可以通过使用可见光或白光对目标区域成像来生成第一组视觉特性。在一些实施方式中,结构化或图案化的光可用于对目标区域成像,例如用于3-D和/或粗糙度分析。
根据应用,可以在应用生物标签之前以及应用之后采集图像。
在步骤207,系统可转换为荧光模式,并可捕获目标区域的荧光图像。可以使用相机和激活生物标签可检测标记(例如,荧光标记)的正确(激发)波长的光来拍摄组织表面的图像(例如,照片)。荧光图像可以捕获由生物标签发射的光。荧光图像可以包括第二组视觉特性。来自可见光图像的第一组视觉特性的至少一部分在来自荧光图像的第二组视觉特性中可能是不可见的(例如,痣的颜色等)。可以使用荧光(例如,红外光)对目标区域成像来生成第二组视觉特性。在一些实施方式中,当被荧光激发时,生物标签可以发射荧光信号,其可以指示生物标签与目标标记的结合。在一些情况下,目标标记(和生物标签荧光)的存在可能与组织重塑和/或特定疾病状态相关联。在一些实施方式中,目标标记(和生物标签荧光)的缺乏可能与组织重塑和/或特定疾病状态相关联。在一些实施方式中,即使患病细胞不是特异性地在被成像的区域中,生物标签也可以结合到存在于与感兴趣病变(例如痣、肿瘤等)相邻的大环境(本文中也称为宏观区域)中的目标标记。
可见光图像可聚焦于目标区域(例如,患者皮肤上的痣),而荧光图像可聚焦于目标区域表面下面(例如,对象的皮肤下面)目标区域周围的区域(例如,痣周围的宏观区域)。视觉特性的第一秒可以与痣和对象的暴露皮肤相关联。第二组视觉特性可以与皮肤下面和痣周围的底层组织相关联。在一些实施方式中,宏观区域可以比痣的尺寸大至少1.5倍。
可以使用相同的相机来捕获可见光图像和荧光图像。虽然不太优选,但也可以使用不同的相机,一个用于捕获可见光图像,一个用于捕获荧光图像。
在步骤208,可以重复步骤206和207以获得多个可见光图像和多个荧光图像。该系统可被配置为在可见模式和荧光模式之间交替,以便捕获交替的可见光和荧光图像。在一些实施方式中,可以捕获至少两个图像对。在一些实施方式中,可以捕获三个、四个、五个、六个、七个、八个、九个、十个或多个图像对。一旦已经捕获了期望数量的图像对,就可以将图像从相机传送到处理器,用于进一步处理和分析(例如,如图19所示)。
虽然上述步骤显示了根据实施方式获得一个图像对的方法200,但本领域的普通技术人员将认识到基于本文所述的教导的许多变化。这些步骤可以以不同的顺序完成。可以添加或删除步骤。一些步骤可以包括子步骤。可以根据需要经常重复许多步骤,以获得一个图像对。
例如,在一些实施方式中,步骤204可以在步骤201之前发生,使得在应用生物标签之前将基准放置在目标区域附近。可备选地或组合地,步骤206和/或207可以在多个步骤中发生,其中一些步骤可以是自动化的。在一些实施方式中,当不使用自动聚焦时,可以添加可选的聚焦步骤。
图3示出了操作用户界面以针对一个图像对评估组织重塑的风险的方法300的流程图。
在步骤301,用户界面可以显示HIPPA兼容的安全登录屏幕(例如,如图4所示)。
在步骤302,可使用用户界面将新患者数据输入系统(例如,如图6所示)。
在步骤303,可创建唯一的患者标识符。
在步骤304,当已经创建患者时(例如,在使用步骤302-303的先前会话中),用户可以绕过步骤302-303,并使用用户界面将现有用户的数据(例如,使用其唯一的患者标识符)输入到系统中,以便加载先前采集的数据。
在步骤305,当患者信息已经在系统上时,用户可以可选地选择返回到之前保存的会话,并绕过步骤302-304。
在步骤306,可以将多个图像导入系统并显示在用户界面上(例如,如图8所示)。多个图像可以包括多个解剖图像、目标区域的多个可见图像和目标区域的多个荧光图像。多个图像可以在进一步处理之前显示给用户,以便使用户能够选择要如本文所述进行分析的图像。
在步骤307,可以为每个痣识别最佳的一对可见光图像和荧光图像,并且可以为每个痣分配唯一的基准号。可见光和荧光图像的最佳的一对可以自动识别或由用户选择,如本文所述。在一些实施方式中,在显示和基准号分配之前,可以可编程地识别可见光图像和荧光图像的最佳的一对。
在步骤308,可使用解剖图像(例如,如图9-11所示)将痣映射到患者的身体位置。在一些实施方式中,用户可以通过在所显示的身体轮廓上拖动基准标记来将痣映射到身体位置。在其他实施方式中,可以自动映射痣。在一些实施方式中,痣映射可以由用户绕过并在稍后的时间执行。
在步骤309,可对图像进行处理,以识别痣边界。在一些实施方式中,可以自动确定边界。在一些实施方式中,用户可以使用用户界面来调整边界。
在步骤310,可以处理图像以计算痣分析分数,如本文进一步所述。在一些实施方式中,为可见光图像计算可见光分数。在一些实施方式中,为荧光图像计算荧光分数。在一些实施方式中,从可见光分数和荧光分数计算总分数。在一些实施方式中,总分数可以是可见光分数和荧光分数中的最大值。
在步骤311,痣分析分数可以可选地根据机器学习算法进行精化。机器学习算法可以是例如无监督学习算法、监督学习算法或其组合。
无监督学习算法可以包括例如聚类、分层聚类、K-均值、混合模型、DBSCAN、OPTICS算法、异常检测、局部异常因子、神经网络、自动编码器、深度信念网络、赫布(hebbian)学习、生成对抗性网络、自组织映射、期望最大化算法(EM)、矩量法、盲信号分离技术、主成分分析、独立成分分析、非负矩阵分解、奇异值分解或其组合。
监督学习算法可以包括,例如,支持向量机、线性回归、逻辑回归、线性鉴别分析、决策树、K-近邻算法、神经网络、相似性学习或其组合。在一些实施方式中,机器学习算法可以包括深度神经网络(DNN)。
深度神经网络可以包括卷积神经网络(CNN)。CNN可以是例如U-Net、ImageNet、LeNet-5、AlexNet、ZFNet、GoogleNet、VGGNet、ResNet18或ResNet等。其他神经网络可以包括例如深度前馈神经网络、递归神经网络、LSTM(长短期记忆)、GRU(门控递归单元)、自动编码器、变分自动编码器、对抗性自动编码器、去噪自动编码器、稀疏自动编码器、玻尔兹曼机、RBM(受限BM)、深度信念网络、生成对抗性网络(GAN)、深度残差网络、胶囊网络或注意力/转换器网络等。
在一些实施方式中,机器学习算法可以是例如随机森林、增强决策树、分类树、回归树、装袋树、神经网络或循环森林。机器学习算法可以应用于从图像中提取的多个特征。
在一些实施方式中,神经网络可以包括神经网络层。神经网络可具有至少约2至1000或多个神经网络层。
在一些实施方式中,可以使用联合学习技术来训练神经网络。
机器学习可用于测量患者图像数据与黑色素瘤数据和良性数据的训练示例的相似性。可以以许多不同的形式报告与这两组训练示例的相似程度。例如,概率、特征集距离、加权特征集距离、显著性的统计测量和/或诸如此类,仅举几个例子。不管机器学习算法所报告的相似性度量如何,本文所述的系统都可被配置为将其转换为通用的评分格式。
在步骤312,可以生成痣分析分数报告,并将其显示给用户(例如,如图9至图11所示)。痣分析分数报告可以包括至少基于最佳图像对的目标区域的评估。评估可以包括痣分析分数。该评估可以指示目标区域处的组织重塑的概率。组织重塑的概率可以与肿瘤(例如,如果目标区域包括对象的皮肤上的痣,则为黑色素瘤)发展的概率相关联。该评估可用于基于目标区域中肿瘤(例如,痣中的黑色素瘤)的发展概率来确定临床诊断或行动过程。
在步骤313,用户可以导入病理报告并更新痣分析报告,以纳入组织学信息。
在步骤314,数据可以可选地自动更新到基于云的存储单元(例如,如图17所示)。
在步骤315,一些或全部数据可以可选地从基于云的存储单元自动恢复(例如,如图16所示)。
在步骤316,可使用唯一患者标识符将数据与基于云的存储单元(CLMS)同步。
尽管上述步骤显示了根据实施方式的操作用户界面以评估一个图像对的组织重塑风险的方法300,但本领域普通技术人员将认识到基于本文所述的教导的许多变化。这些步骤可以以不同的顺序完成。可以添加或删除步骤。一些步骤可以包括子步骤。可以根据需要经常重复许多步骤以操作用户界面。
例如,在一些实施方式中,步骤307可以在多个步骤中发生,使得多个图像对被识别,并且用户具有选择或拒绝图像对以识别最佳图像对的选项。多个图像对可以在图形用户界面上显示给用户(例如,顺序地显示给用户),以便按照最佳到最差的顺序进行选择或拒绝。可备选地,或组合地,步骤307可选地自动发生(例如,没有用户输入)。
图4示出了描述登录屏幕的示例性用户界面。登录屏幕的安全性可由系统管理员确定。例如,当用户是临床医生时,登录屏幕可以是HIPPA兼容的,并且可能需要强密码以确保患者数据的安全性。可备选地,当用户是开发者或其他非临床用户(使用用于非临床数据的门户)时,密码要求可以是较不安全的,以便于使用。
图5示出了描述初始菜单的示例性用户界面。初始菜单可以包括用于导航的多个标签。标签可以包括患者标签、云标签、设置标签和关于标签。初始菜单可被配置为在启动时默认显示患者标签。患者标签最初可以向用户呈现具有多个按钮的屏幕,这些按钮具有如何开始他们的会话的选择。用户可以选择开始新患者会话、在新会话中加载现有患者或返回到正在进行的会话。选择新患者会话按钮可以加载新会话屏幕(例如,如图6所示)。选择现有患者/新会话按钮可以加载患者历史屏幕(例如,如图12所示)。选择返回会话按钮可能会在上次保存/注销时打开当前会话的屏幕。
图6示出了描绘新患者输入屏幕的示例性用户界面。用户可以在图5所示的初始菜单屏幕上选择开始新患者会话的选项。然后可以在患者标签内显示新患者输入屏幕。用户可以输入关于患者及其病史的信息(例如,名、姓、患者ID、出生日期、性别、医生、个人或家族病史等)。患者ID可以用于与外部软件(例如,临床管理软件)同步信息,并且可以自动生成或由用户输入以匹配外部软件患者ID。
图7示出了描绘图像导入之前的新患者卡的示例性用户界面。在图6的新患者输入屏幕上选择“创建”来创建新患者卡。新患者卡包括患者信息以及要显示的各种图像和由用户输入的注释的区域。在用户从存储介质(例如,SD卡)导入图像之前,这些区域可能不会被填充。
图8示出了描绘图像导入屏幕的示例性用户界面。在图7的新患者卡屏幕上选择“导入图像”来允许用户将患者图像导入系统。可以为每个痣自动识别最佳的一对可见光和荧光图像,并且可以为每个痣分配唯一的基准号。可以在图像导入屏幕上向用户显示最佳图像对。其他导入的图像和/或解剖图像也可以在图像导入屏幕上显示给用户。可以给予用户选择或拒绝第一最佳图像对的选项。如果用户选择第一最佳图像对,则系统可以接收指示用户接受第一最佳图像对的输入,并且第一最佳图像对可以用于生成目标区域的评估。如果用户不考虑第一最佳图像对,则系统可以接收指示用户拒绝第一最佳图像对的输入,并且可以处理导入的图像以确定不同于第一最佳图像对的第二最佳图像对。在一些实施方式中,第一和第二最佳图像对可以不共享任何公共图像。可备选地,第一和第二最佳图像对可以共享公共图像(例如,公共可见光图像和/或公共荧光图像)。可以显示第二最佳图像对,并且可以允许用户选择或拒绝该图像对,如先前关于第一最佳图像对所描述的。如果用户选择了第二最佳图像对,则系统可以接收指示用户接受第二最佳图像对的输入,并且可以使用第二最佳图像对而不是第一最佳图像对来生成目标区域的评估。如果用户拒绝第二最佳图像对,则可以重复该过程,直到选择了最佳图像对。可以顺序地显示最佳图像对,直到用户选择期望的图像对为止。
在一些实施方式中,图像导入屏幕还可以显示分配的解剖图像,例如,通过从图8所示的临床图像标签中选择要交换的解剖图像标签。屏幕可以基本上类似于图8的屏幕,除了在用户已经选择了最佳图像对之后,所分配的解剖图像可以替换未选择的导入图像。对于每组临床(荧光和可见光)图像对,可以导入多个解剖图像,这可以帮助用户将痣映射到身体上的一个或多个位置。可以自动地将解剖图像分配给最佳图像对。如本文所述,用户可以忽略自动选择。可以将一个或多个解剖图像(优选至少两个)分配给每个最佳图像对。一旦为第一颗痣分配了解剖图像,用户就可以选择“下一颗痣”按钮以导入下一颗痣的图像,等等。当所有的痣都被分配了最佳图像对和解剖图像时,用户可以选择“导入和计算”按钮来处理图像和/或组织评估并将其显示给用户,如本文所述。
图9示出了描绘患者卡的示例性用户界面,该患者卡具有并排显示的最佳图像对和组织分数。一旦用户选择或确认了每个痣的最佳图像对和解剖图像,就可以处理图像并将其显示给用户。在一些实施方式中,可以在目标区域内自动检测痣,并且可以在痣周围生成并显示图形边界或轮廓。图形边界或轮廓可以自动生成以跟随痣的形状或外形。在一些实施方式中,图形边界或轮廓由用户通过图形用户界面可调整或创建的。对象的身体上的痣的位置可以在身体示意图上标出。用户可以根据需要在不同的痣之间切换,每个痣具有唯一的基准标识符和相应的图像组。患者卡可以并排显示最佳图像对的可见光图像和荧光图像,用于比较观察。在为每个痣选择图像对之后,可以自动计算可见光分数、荧光分数和总分数,并且可以在患者卡上向用户显示。用于计算可见光图像的分数的度量可以在患者卡上显示给用户,并且可以包括例如传统的“ABCD”痣标准,包括不对称(“A”)、边界不规则性(“B”)、颜色不均匀(“C”)和直径>6mm(“D”)。用于计算荧光图像的分数的度量可以在患者卡上显示给用户,并且可以包括例如I/T测量,其包括荧光强度(“I”)和纹理(“T”)。从我们最初的训练数据来看,至少在一些情况下,黑色素瘤的示例可能表现出不同于良性示例的ABCD度量的聚类。例如,黑色素瘤的示例可能表现出不同于良性示例的I/T度量的聚类。可见光分数可以被计算为与分离ABCD度量的黑色素瘤和良性聚类的表面的欧几里德(Euclidean)距离。荧光分数可以被计算为与分离黑色素瘤和I/T度量的良性聚类的表面的欧几里德距离。总分数可以被计算为可见光分数和荧光分数的最大值。
可见光图像和荧光图像可以被调整并对准最佳图像对中的一组坐标。例如,可以通过旋转、平移、裁剪、放大和/或缩小可见光图像和荧光图像中的至少一个来调整和对准可见光图像和荧光图像。可备选地,或组合地,可以使用存在于可见光图像和荧光图像两者中的一个或多个基准标记来对准和调整图像。在一些实施方式中,可以在可见光图像和荧光图像上注释一个或多个基准标记。可备选地,或组合地,一个或多个基准标记可以在可见光图像和荧光图像中都是可见的。基准标记可以包括一个或多个字母数字字符、线、边、点、二维形状等或其任意组合。在一些实施方式中,可以在目标区域内的一个或多个预定义位置提供一个或多个基准标记。在一些实施方式中,一个或多个基准标记可以相对于痣的位置以预定义的距离和/或取向提供。调整和对准的可见光图像和荧光图像可以在患者卡屏幕上显示给用户,以便于查看。
组织重塑的概率可能与肿瘤(例如,如果目标区域包括对象的皮肤上的痣,则为黑色素瘤)发展的概率相关联。例如,7或更高的总分数(此处)可指示黑色素瘤发展的概率。在一些实施方式中,当目标区域处的组织重塑的概率或肿瘤发展(例如,黑色素瘤发展)的概率大于一个或多个预定阈值时,可以在屏幕上生成一个或多个通知(例如,弹出窗口、突出显示等)。基于本文的教导,本领域的普通技术人员将理解,分数的范围(例如,1-10)是非限制性的,并且可以根据需要(例如,任意地或根据医学分级命名法等)来定义,以便最好地捕获和报告感兴趣的目标组织的感兴趣概率。
图10示出了描绘显示有可见光图像的患者卡的示例性用户界面。该屏幕可以基本上类似于图9中的屏幕,除了用户界面可被配置为允许用户在最佳图像对中的可见光图像或荧光图像之间拨动或切换以提供两层效果之外。例如,用户可以点击单词“荧光的”以切换到荧光图像,或者点击单词“可见的”以切换到可见光图像。可备选地或组合地,用户可以使用滑块在图像之间切换。在一些实施方式中,滑块可用于在“荧光的”和“可见的”之间的中间滑块位置以不同程度(例如,50%可见光和50%荧光)重叠图像。重叠图像可以使用户能够看到生物标签相对于视觉上明显的特征(例如,痣、病变等)在组织表面上的滞留位置。
图11示出了描绘具有所显示的解剖图像的患者卡的示例性用户界面。该屏幕可以基本上类似于图9中的屏幕,除了可以显示解剖图像而不是最佳图像对。用户可以将解剖图像分配给身体示意图上的位置。例如,用户可以将基准标记放置在身体示意图上,以将包括该基准标记的目标区域的解剖图像分配到期望的位置。解剖图像可以充当用户的参考图像,并且使用户能够在会话期间区分痣以及在另一会话中跟踪相同的痣。
图12示出了描绘患者历史屏幕的示例性用户界面。患者历史屏幕可用于搜索患者列表以查找特定患者,例如当从现有患者加载数据而不是创建新患者卡时。患者历史屏幕可以显示关于患者的信息(例如,名、姓、患者ID等)以及关于他们的历史的其他相关信息(例如,文件创建日期、最后扫描日期、医师姓名、记录定位器等)。患者历史屏幕还可以使用户能够可选地在指定的日期范围内搜索患者、医师、会话等。
图13示出了描绘生成报告屏幕的示例性用户界面。生成报告屏幕可被配置为允许用户生成报告(例如,PDF格式)以用于打印和/或与其他用户共享,例如用于咨询。生成报告屏幕可被配置为允许用户选择要包括在报告上的信息。这样的信息可以可选地包括感兴趣的痣、可见光图像、荧光图像、解剖图像、身体示意图、患者历史等。
图14示出了描绘病理报告输入屏幕的示例性用户界面。用户可以将病理报告作为PDF文件导入到用户界面中。然后,用户可以填写来自报告的相关信息。痣的相关信息可以例如包括诊断分类、Clark水平、Breslow厚度、溃疡的存在、有丝分裂的存在和/或退化的存在等,或其任何组合。在一些实施方式中,可以将相关信息从病理报告中自动提取到程序中。在一些情况下,来自病理学家的诊断报告可能不清楚,并且痣可能被送到多个病理学家进行检查。然后,用户可以根据他们对各种报告的整理,使用下拉菜单和/或单选组来填写空白。病理报告结果可以是可搜索的。病理诊断与组织重塑分数的关联可以使得能够进一步细化评分方法(例如,经由基于机器的学习)。
图15示出了描绘备份屏幕的示例性用户界面。可通过云标签访问备份屏幕。用户可以从云安全地备份和/或恢复数据。可以可选地在没有任何患者识别信息的情况下提取患者数据并将其备份在云上。作为示例,这样的数据然后可以用于基于机器的学习。
图16示出了描绘从备份屏幕恢复的示例性用户界面。用户可以选择从图15所示的备份屏幕上的备份恢复患者信息的选项。然后可以向用户显示可搜索的患者列表,并且用户可以选择要恢复的患者和/或会话。从备份屏幕恢复可以显示关于患者的信息(例如,名、姓、患者ID等)以及关于他们的历史的其他相关信息(例如,文件创建日期、最后扫描日期、医师姓名、记录定位器等)。从备份屏幕恢复还可以使用户能够可选地在指定的日期范围内搜索患者、医师、会话等。在一些情况下,当本地处理器上发生硬件或数据库问题时,用户可以选择恢复数据。用户可以选择性地恢复患者数据(例如,仅恢复感兴趣的患者、仅恢复仍在诊所的患者、仅恢复当天到达诊所的患者等)或恢复整个数据库。
图17示出了描绘进行中的备份屏幕的示例性用户界面。用户可以在图15所示的备份屏幕上选择将他们的数据备份到云的选项。可备选地或组合地,云备份可被安排为自动发生。本地存储的所有患者数据可以被备份到云。
本领域普通技术人员可以理解,为了向用户提供输入数据和读取输出的方法,本文所述的用户界面可以有许多变化。例如,一个或多个标签可以用下拉菜单、切换等来替换,以便在需要在屏幕之间移动的地方进行导航。可备选地或组合地,一个或多个下拉菜单可以用按钮、滚动条、步进器、单选组、开关、滑块、文本框或其他输入机制来替换。用户界面可以根据需要包括任何数量的组织和/或输入机制或其任何组合,以向用户提供简单、无缝的体验,并向系统提供输入变量。该输出可以包括一个或多个图形、一个或多个评估、一个或多个分数等。
图18示出了用于确定最佳图像对的方法1800的流程图。
在步骤1801,对于一组图像中的每个图像,可以识别一个或多个基准标记。图像可以是可见图像或荧光图像。如果存在基准标记,则可以将图像分类为临床图像。如果不存在基准标记,则可以将图像分类为参考图像。在一些实施方式中,目标区域可以包括对象的皮肤上的痣,并且多个图像(可见光和荧光)可以是痣的图像。在一些实施方式中,在荧光图像上识别的一个或多个基准标记可以与在可见光图像上识别的一个或多个基准标记相同或不同。
在步骤1802,对于一组临床图像中的每个临床图像,可以确定基准标记的位置、取向和比例。
在步骤1803,对于每个临床图像,可以读取打印在基准标记上的数值。
在步骤1804,对于每个临床图像,可以将聚焦分数分配给基准标记。
在步骤1805,对于每个临床图像,可以评估图像以确定其是荧光图像还是可见图像。
在步骤1806,可以使用在步骤1803中从基准标记获得的唯一数值来生成列表。
在步骤1807,可以在一组临床图像中找到具有相同数值的所有成对的可见光图像和荧光图像。
在步骤1808,对于具有相同数值的每组图像,可以计算基准标记位置之间的相似性。相似性可以包括每个图像的四个角之间的基准标记位置的总距离。
在步骤1809,对于具有相同数值的图像组中的每个图像,每个基准标记的焦点可以在可见光图像和荧光图像之间聚合。
在步骤1810,对于具有相同数值的每组图像,可以选择最佳可见光图像对和荧光图像对。最佳图像对可以包括从一组可见光图像中选择的第一可见光图像。最佳图像对还可以包括从一组荧光图像中选择的第一荧光图像。如步骤1808中所确定的,最佳图像对可以在基准位置上具有最大相似性。如果两个图像对具有相同的相似性,则如步骤1809中所确定的具有最佳聚焦的图像对可以被选择为最佳图像对。
尽管上述步骤示出了根据实施方式的识别最佳图像对的方法1800,但是本领域的普通技术人员将认识到基于本文所述的教导的许多变化。这些步骤可以以不同的顺序完成。可以添加或删除步骤。一些步骤可以包括子步骤。可以根据需要经常重复许多步骤,以确定最佳图像对。
例如,在一些实施方式中,步骤1810可以在多个步骤中发生,使得多个图像对被识别,并且用户具有选择或拒绝图像对以识别最佳图像对的选项。可备选地,或组合地,步骤1810可选地自动发生(例如,没有用户输入)。
在一些实施方式中,可以在确定最佳图像对之前、期间或之后处理多个图像。处理多个图像可以包括以下中的至少一项:尺寸过滤、规格化、标准化、减少噪声、消除成像伪影、背景减除、裁剪、放大、调整大小、重新定位、亮度调整、对比度调整或物体分割。
图19示出了用于对最佳图像对进行分割和评分的方法1900的流程图。
在步骤1901,可以处理多个图像以确定目标区域的最佳图像对,如本文所述。最佳图像对可以包括从一组可见光图像中选择的第一可见光图像。最佳图像对还可以包括从一组荧光图像中选择的第一荧光图像。可见光图像和荧光图像可以如本文描述的那样获得(例如,如图2所示)。最佳图像对可以被选择为彼此互补或匹配。最佳图像对可以基于以下中的至少一个或多个来确定:聚焦质量、对比度、清晰度、亮度、颜色或分辨率。可备选地,或组合地,可以至少基于每个可见光图像和每个荧光图像内的目标区域的位置和/或基于如本文所述的每个可见光图像与每个荧光图像之间的相似度或相关度,从多个图像(可见光和荧光)中确定最佳图像对。
在一些实施方式中,处理多个图像可以包括以下中的至少一个:尺寸过滤、规格化、标准化、减少噪声、消除成像伪影、背景减除、裁剪、放大、调整大小、重新定位、亮度调整、对比度调整或物体分割。
在一些实施方式中,可以确定多个图像对。多个图像对可以包括最佳图像对。可以可选地对最佳图像对进行注释,以在视觉上区别于其他图像对。例如,可以通过在显示给用户的最佳图像对周围放置预定义的边界来注释最佳图像对(例如,如本文所述,用于用户的选择或拒绝)。
在一些实施方式中,目标区域可能包括对象的皮肤上的痣,并且多个图像(可见光和荧光)可能是痣的图像。
在步骤1902,可见光图像可被分割以识别感兴趣的区域。例如,当目标区域包括痣时,可见光图像可以被分割以找到痣的边界。在一些实施方式中,可以在目标区域内自动检测痣,并且可以在痣周围生成并显示图形边界或轮廓。图形边界或轮廓可以自动生成以跟随痣的形状或外形。在一些实施方式中,图形边界或轮廓可由用户通过图形用户界面调整或创建。
在一些实施方式中,可以自动识别痣边界。可以通过将可见光图像(例如,RGB图像)转换成强度图像来开始从可见光图像分割痣边界。对于阈值T的每个可能值,可以创建强度图像中小于阈值T的像素值的掩模。可以找到掩模中的最大连通分量,并且可以填充掩模中的任何孔。可以识别在掩模边界上的在痣内部的像素。可以识别在掩模边界上的在痣外部的像素。可以计算内部边界像素和外部边界像素之间的平均对比度。可以识别产生最大平均对比度的阈值T。在识别了产生最大平均对比度的阈值T之后,可以使用该阈值T来分割强度图像。可以填充分割图像中的任何孔。可以通过径向向内或向外调整痣边界来细化痣轮廓,以最大化局部对比度。在调整每个痣边界像素之后,可以保留细化痣轮廓。
在一些实施方式中,痣边界最初可由用户通过图形用户界面识别,然后自动细化。当用户(例如,临床医生)创建痣的手动轮廓时,可以通过将可见光图像(例如,RGB图像)转换为强度图像来自动细化痣轮廓。由临床医生创建的轮廓可以用于分割强度图像。可以填充分割图像中的任何孔。可以通过径向向内或向外调整痣边界来细化痣轮廓,以最大化局部对比度。在调整每个痣边界像素之后,可以保留细化痣轮廓。
在步骤1903,基准标记位置(例如,在确定最佳图像对期间识别的)可用于将步骤1902中识别的痣边界从可见光图像转换为最佳图像对的荧光图像。在一些实施方式中,可以在最佳图像对的荧光图像上识别一个或多个基准标记,并且可以在最佳图像对的可见光图像上识别一个或多个基准标记。一个或多个基准标记可以与在可见光图像上识别的一个或多个基准标记相同或不同。
在步骤1904,可以从可见光图像的可见特征中提取第一组度量。第一组度量可以包括以下中的一个或多个:痣及其周围区域的大小、形状、体积、颜色或表面纹理。可见光图像可以如本文所述被分割,并且第一组度量可以包括来自如本文所述的一个或多个片段的度量。例如,可以如本文所述分割痣周围的宏观区域。
在步骤1905,可以从荧光图像的可见(例如,荧光)特征中提取第二组度量。第二组度量可以包括以下中的一个或多个:大小、形状、组织重塑的区域或程度、像素强度、荧光强度、或对象的皮肤下面和痣周围的目标区域中的图案或纹理。荧光图像可以如本文所述被分割,并且第一组度量可以包括来自如本文所述的一个或多个片段的度量。例如,如本文所述,可以分割痣周围的宏观区域。
在步骤1906,可对可见光图像度量进行评分,以生成可见光分数。
在步骤1907,可以对荧光图像度量进行评分,以生成荧光分数。
在步骤1908,可以为最佳图像对生成总分数。总分数可以指示组织重塑活动。总分数可以是两个或多个离散分数合成。例如,总分数可以是可见光图像的可见光分数和荧光图像的荧光分数的合成。在一些实施方式中,两个或多个离散分数可以被相等地加权,使得可见光图像的分数和荧光图像的分数都被给予相同的权重。可备选地,两个或多个离散分数可以被不同地加权,使得可见光图像的分数和荧光图像的分数被给予不同的权重。在一些实施方式中,可以给予荧光图像的分数比可见光图像的分数更高的权重。可备选地,可以给予荧光图像的分数比可见光图像的分数更低的权重。
总分数可以是可提供组织重塑可能性的尺度的数字分数。在一些实施方式中,总分数可以位于值范围内。在一些实施方式中,两个或多个离散分数可以位于值范围内。在一些实施方式中,可见光图像的分数和荧光图像的分数基于标准化值范围。
组织重塑的概率可能与肿瘤(例如,如果目标区域包括对象的皮肤上的痣,则为黑色素瘤)发展的概率相关联。
例如,总分数可以在0至10的范围内。低分数可以指示组织重塑的低概率。高分数可以指示组织重塑的高概率。例如,5分及5分以上的分数可能指示可能是组织重塑。在一些情况下,7分或7分以上可进一步指示患黑色素瘤的概率。在一些实施方式中,总分数可以是根据从可见光图像计算的ABCD度量计算的可见光分数和根据从荧光图像计算的I/T度量计算的荧光分数的组合。
在步骤1909,可以将最佳图像对与一个或多个参考图像进行比较,例如参考图像对。参考图像对可以包括不是来自该组可见光图像的可见光参考图像(例如,来自与同一患者的较早会话或来自完全不同的患者的可见光参考图像)。参考图像对还可以包括不是来自该组荧光图像的荧光参考图像。在一些实施方式中,参考图像对可以包括或可以不包括基准标记。例如,最佳图像对可以包括一个或多个基准标记,而参考图像对可以不包括基准标记。可备选地,最佳图像对可以包括位于相对于目标区域(例如,相对于痣)的预定位置和/或取向的第一组基准标记,并且参考图像对可以包括位于参考图像对中的每个参考图像的边界附近的一组基准标记。在一些实施方式中,参考图像对可以包括目标区域解剖结构的照片(例如,上面有痣的肩部)和/或身体示意图。用户可以使用参考图像对来找到痣在身体上的位置。
在步骤1910,可以生成并显示分析报告,如本文所述。分析报告可包括如本文所述的组织重塑和/或肿瘤发展概率的评估。在一些实施方式中,分析报告可用于(单独或与标准技术组合)基于痣中黑色素瘤发展的概率来确定临床诊断和/或行动过程。
尽管以上步骤示出了根据实施方式的对最佳图像对进行识别、分割和评分的方法1900,但是本领域的普通技术人员将认识到基于本文所述的教导的许多变化。这些步骤可以以不同的顺序完成。可以添加或删除步骤。一些步骤可以包括子步骤。可以根据需要经常重复许多步骤,以对最佳图像对进行评分。
例如,在一些实施方式中,步骤1901可以在多个步骤中发生,使得多个图像对被识别,并且用户具有选择或拒绝图像对以识别最佳图像对的选项。可备选地,或组合地,步骤1901可选地自动发生(例如,没有用户输入)。
图20示出了划分成多个片段的痣和周围皮肤的图像。图21示出了划分成多个片段和子区域的痣和周围皮肤的图像。如本文所述,可以将基准标记放置在邻近痣的皮肤上。与将宏观区域作为整体进行分析相比,将痣周围的宏观区域分割成更小的局部区域可以提高评分准确性和/或减少假阳性。痣M周围的皮肤,本文也被称为宏观区域,可以被分割成多个片段用于分析。例如,图像的第一片段或区带Z1可以包括直接痣M周围的皮肤区域。第二片段或区带Z2可以从第一区带Z1径向向外,并且可以包括第二最接近痣的宏观区域的组织。第三片段或区带Z3可以从第二区带Z2径向向外,第四片段可以从第三片段径向向外,等等。在一些实施方式中,可以在最佳图像对的可见光图像和荧光图像两者中分割宏观区域。在一些实施方式中,可以仅在荧光图像中分割宏观区域用于分析。可以对分割图像进行分析,以识别生物标签在周围宏观区域中的保留强度和/或其在目标区域(痣和/或宏观区域)中的保留模式,或者本领域普通技术人员所需的任何其他特征。
例如,可以对荧光图像进行分割和分析,以识别目标区域和宏观区域中生物标签保留的强度和纹理。可以从荧光图像中提取红色通道(或对应于生物标签的荧光签名的任何其他通道)。基准标记2的位置可用于将痣边界从相应的可见光图像转换为荧光图像的红色通道,如本文所述。痣边界可用于创建掩模以指示痣在荧光图像中的位置。可以生成痣周围的同心区域,以将痣分割成片段或区带(例如,区带Z1、Z2、Z3等),如图20所示。片段或区带Z1、Z2、Z3等可以包含由生物标签生成的信号。在一些实施方式中,同心区域可以是间隔相同或不同距离的同心环。可备选地,在一些实施方式中,同心区域可以模仿痣边界,并且可以使用距离图生成以定义与痣边界的距离。每个片段或区带可以被划分为子区域,如图21所示。子区域的数量、大小、位置以及与相邻子区域的重叠量可以不同。在一些实施方式中,可以基于与痣中心的角度将片段或区带划分为子区域。区带的每个片段可以包括一个或多个子区域,例如多个子区域。可以测量每个子区域的强度。具有最大强度的子区域可以产生强度度量值。在许多实施方式中,第二最接近痣M的片段或区带Z2可以可靠地包含均匀的生物标签保留,并且可以识别区带Z2中的最小强度子区域。在一些实施方式中,区带Z1可能太靠近痣边界,并且痣内的色素可能使荧光信号模糊。另一方面,区带Z3可能离痣太远,可能没有已接收的任何生物标签。区带Z2可以离痣足够远,因此它不受痣色素或缺乏生物标签的影响。可以根据图像的最大强度子区域和区带Z2的最小强度子区域来计算纹理度量。纹理度量可以是已接收的生物标签的子区域之间的强度差异。
计算机控制系统
本公开提供了计算机控制系统,其被编程以实施本公开的方法。图22示出了计算机系统2201,其被编程或以其他方式配置为评估组织重塑风险。计算机系统2201可以调节任何方法的各个方面,以确定本公开的组织重塑的风险,例如,处理多个图像以确定最佳图像对,分析图像以进行组织重塑,对图像进行评分,将图像和分数转换为有形的可视输出,例如组织重塑的风险和/或程度。计算机系统2201可以是用户的电子设备或相对于电子设备远程定位的计算机系统。电子设备可以是移动电子设备。
计算机系统2201包括中央处理器(CPU,本文也称为“处理器”和“计算机处理器”)2205,其可以是单核或多核处理器,或用于并行处理的多个处理器。计算机系统2201还包括存储器或存储器位置2210(例如,随机存取存储器、只读存储器、闪存)、电子存储单元2215(例如,硬盘)、用于与一个或多个其他系统通信的通信接口2220(例如,网络适配器),以及外围设备2225,例如高速缓存、其他存储器、数据存储和/或电子显示适配器。存储器2210、存储单元2215、接口2220和外围设备2225通过诸如主板的通信总线(实线)与CPU2205通信。存储单元2215可以是用于存储数据的数据存储单元(或数据储存库)。计算机系统2201可以借助于通信接口2220可操作地耦合到计算机网络(“网络”)2230。网络2230可以是互联网、内联网和/或外联网、或与互联网通信的内联网和/或外联网。在一些情况下,网络2230是电信和/或数据网络。网络2230可以包括一个或多个计算机服务器,其可以实现分布式计算,例如云计算。在一些情况下,在计算机系统2201的帮助下,网络2230可以实现对等网络,该对等网络可以使耦合到计算机系统2201的设备能够用作客户端或服务器。
CPU 2205可以执行一系列机器可读指令,这些指令可以体现在程序或软件中。指令可以存储在诸如存储器2210的存储器位置中。指令可以指向CPU 2205,CPU 2205可以随后编程或以其他方式配置CPU 2205以实现本公开的方法。由CPU 2205执行的操作的示例可以包括获取、解码、执行和写回。
CPU 2205可以是电路的一部分,例如集成电路。系统2201的一个或多个其他部件可以包括在电路中。在一些情况下,该电路是专用集成电路(ASIC)。
存储单元2215可以存储文件,例如驱动程序、库和保存的程序。存储单元2215可以存储用户数据,例如,用户偏好和用户程序。在一些情况下,计算机系统2201可以包括在计算机系统2201外部的一个或多个附加的数据存储单元,例如位于通过内联网或因特网与计算机系统2201通信的远程服务器上。
计算机系统2201可以通过网络2230与一个或多个远程计算机系统通信。例如,计算机系统2201可以与用户(例如,操作员、患者等)的远程计算机系统通信。远程计算机系统的示例包括个人计算机(例如,便携式PC)、平板PC(例如,iPad、/>GalaxyTab)、电话、智能电话(例如,/>iPhone、支持Android的设备、/>)或个人数字助理。用户可以经由网络2230访问计算机系统2201。
本文所述的方法可通过存储在计算机系统2201的电子存储位置(例如,存储器2210或电子存储单元2215)上的机器(例如,计算机处理器)可执行代码来实现。机器可执行或机器可读代码可以以软件的形式提供。在使用过程中,代码可以由处理器2205执行。在一些情况下,代码可以从存储单元2215中检索并存储在存储器2210中,以便处理器2205随时访问。在一些情况下,可以排除电子存储单元2215,并将机器可执行指令存储在存储器2210中。
所述代码可以被预编译并配置为与具有适于执行所述代码的处理器的机器一起使用,或者可以在运行时被编译。可以以编程语言提供代码,可以选择该编程语言以使代码能够以预编译或编译的方式执行。
本文提供的系统和方法的各个方面,例如计算机系统2201,可以在编程中体现。本技术的各个方面可以被认为是通常以机器(或处理器)可执行代码和/或相关联的数据的形式的“产品”或“制造物品”,所述机器可执行代码和/或相关联的数据在一种类型的机器可读介质上承载或包含在其中。机器可执行代码可以存储在电子存储单元上,例如存储器(例如,只读存储器、随机存取存储器、闪存)或硬盘。“存储”类型介质可以包括计算机、处理器等或其相关模块的任何或所有有形存储器,例如各种半导体存储器、磁带驱动器、磁盘驱动器等,其可以在任何时间为软件编程提供非瞬态存储。软件的全部或部分有时可以通过因特网或各种其他电信网络进行通信。这样的通信例如可以使得能够将软件从一个计算机或处理器加载到另一个计算机或处理器中,例如从管理服务器或主计算机加载到应用服务器的计算机平台中。因此,可以承载软件元素的另一类型的介质包括光、电和电磁波,例如通过有线和光学陆线网络以及在各种空中链路上跨越本地设备之间的物理接口使用的。承载这种波的物理元件,例如有线或无线链路、光学链路等,也可以被认为是承载软件的介质。如本文所使用的,除非限于非暂时性的、有形的“存储”介质,否则诸如计算机或机器“可读介质”等术语是指参与向处理器提供指令以供执行的任何介质。
因此,诸如计算机可执行代码的机器可读介质可以采取许多形式,包括但不限于,有形存储介质、载波介质或物理传输介质。非易失性存储介质包括例如光盘或磁盘,例如任何计算机等中的任何存储设备,例如可用于实现数据库等,如图所示。易失性存储介质包括动态存储器,例如这种计算机平台的主存储器。有形传输介质包括同轴电缆;铜线和光纤,包括构成计算机系统内总线的导线。载波传输介质可以采用电或电磁信号、或者声波或光波的形式,例如在射频(RF)和红外(IR)数据通信期间生成的那些。因此,计算机可读介质的常见形式包括例如:软盘、柔性盘、硬盘、磁带、任何其他磁介质、CD-ROM、DVD或DVD-ROM、任何其他光学介质、穿孔卡片纸带、具有孔图案的任何其他物理存储介质、RAM、ROM、PROM和EPROM、FLASH-EPROM、任何其他存储器芯片或盒式磁带、传输数据或指令的载波、传输这种载波的电缆或链路,或者计算机可以从其读取程序代码和/或数据的任何其他介质。计算机可读介质的这些形式中的许多形式可涉及将一个或多个指令的一个或多个序列携带到处理器以供执行。
计算机系统2201可包括或与之通信的电子显示器2235,电子显示器2235包括用户界面(UI)2240,用于提供,例如,如本文所述的患者图像输入数据和/或组织重塑风险评估输出数据。UI的示例包括但不限于图形用户界面(GUI)和基于web的用户界面。图4-17示出了可以在显示器上提供给用户的示例性用户界面。由用户输入到用户界面中的数据(例如,痣边界选择等)可以被发送到处理器。处理器可被配置有用于运行如本文所述的图像处理和评分算法以生成一个或多个输出的指令。处理和/或评分算法的输出可以由处理器发送到显示器,该显示器利用用户界面向用户显示输出。
本公开的方法和系统可以通过一个或多个算法来实现。算法可以通过中央处理器2205执行的软件来实现。例如,该算法可以选择最佳图像对,分割一个或多个图像用于分析,比较图像上的视觉特征,对图像对进行评分等,如本文所述。
尽管本文已经示出并描述了本发明的优选实施方式,但本领域技术人员容易理解的是,这些实施方式仅作为示例提供。在不脱离本发明的情况下,本领域技术人员现在将发生许多变化、改变和替换。应当理解,在实践本发明时可以采用本文所述的本发明实施方式的各种替代方案。以下权利要求限定了本发明的范围,并且在这些权利要求及其等价物的范围内的方法和结构由此被覆盖。
Claims (61)
1.一种用于评估组织重塑风险的方法,包括:
(a)获得对象皮肤的目标区域的多个图像,其中所述多个图像包括(1)一组可见光图像和(2)一组荧光图像;
(b)处理所述多个图像以确定所述目标区域的最佳图像对,其中所述最佳图像对包括:(i)选自(1)的第一可见光图像,和(ii)选自(2)的第一荧光图像;
(c)至少基于所述最佳图像对来生成所述目标区域的评估;以及
(d)在图形用户界面上显示所述评估、所述最佳图像对和示出所述目标区域在所述对象身体上的位置的示意图,其中所述评估指示所述目标区域处的组织重塑的概率。
2.根据权利要求1所述的方法,其中所述目标区域包括所述对象皮肤上的痣。
3.根据权利要求2所述的方法,其中所述第一可见光图像和所述第一荧光图像被选择为彼此互补或匹配。
4.根据权利要求2所述的方法,其中所述第一可见光图像包括第一组视觉特性,并且所述第一荧光图像包括第二组视觉特性,其中所述第二组视觉特性的至少一部分在所述第一组视觉特性中是不可见的,并且所述第一组视觉特性的至少一部分在所述第二组视觉特性中是不可见的。
5.根据权利要求4所述的方法,其中所述第一组视觉特性是通过使用可见光或白光对所述目标区域成像而生成的,并且其中所述第二组视觉特性是通过使用红外光对所述目标区域成像而生成的。
6.根据权利要求4所述的方法,其中所述第一组视觉特性与所述痣和所述对象的暴露皮肤相关联,并且其中所述第二组视觉特性与所述皮肤下面和所述痣周围的下层组织相关联。
7.根据权利要求1所述的方法,其中至少基于以下中的一个或多个:聚焦质量、对比度、清晰度、亮度、颜色或分辨率,从所述多个图像中确定所述最佳图像对。
8.根据权利要求1所述的方法,其中至少基于:(1)所述可见光图像中的每一个和所述荧光图像中的每一个内的所述目标区域的位置、(2)所述可见光图像中的每一个与所述荧光图像中的每一个之间的相似度或相关度、和/或(3)所述可见光图像中的每一个和所述荧光图像中的每一个的聚焦质量,从所述多个图像中确定所述最佳图像对。
9.根据权利要求1所述的方法,其中处理所述多个图像还包括以下中的至少一个:尺寸过滤、规格化、标准化、减少噪声、消除成像伪影、背景减除、裁剪、放大、调整尺寸、重新定位、亮度调整、对比度调整或物体分割。
10.根据权利要求1所述的方法,其中所述最佳图像对是第一最佳图像对,并且其中在(b)之后且在(c)之前:
在所述图形用户界面上向用户显示选项,其中所述选项允许所述用户接受或拒绝所述第一最佳图像对;以及
响应于在所述图形用户界面上显示的所述选项,从所述用户接收输入。
11.根据权利要求10所述的方法,还包括:
当所述输入指示所述用户拒绝所述第一最佳图像对时,处理所述多个图像以确定用于所述目标区域的第二最佳图像对,其中所述第二最佳图像对不同于所述第一最佳图像对。
12.根据权利要求11所述的方法,其中所述第二最佳图像对和所述第一最佳图像对不共享任何公共图像。
13.根据权利要求11所述的方法,其中所述第二最佳图像对和所述第一最佳图像对共享公共图像,其中所述公共图像包括所述第一可见光图像或所述第一荧光图像。
14.根据权利要求11所述的方法,还包括:
在所述图形用户界面上向用户重新显示所述选项,其中所述选项允许所述用户接受或拒绝所述第二最佳图像对;以及
响应于在所述图形用户界面上显示的所述选项,从所述用户接收另一输入。
15.根据权利要求14所述的方法,其中(c)包括当所述另一输入指示所述用户接受所述第二最佳图像对时,至少基于所述第二最佳图像对而不是所述第一最佳图像对来生成针对所述目标区域的所述评估。
16.根据权利要求10所述的方法,包括:当所述输入指示所述用户接受所述第一最佳图像对时,继续(c)和(d)。
17.根据权利要求10所述的方法,还包括:
当所述输入指示所述用户拒绝所述第一最佳图像对时,处理所述多个图像以确定用于所述目标区域的多个其他最佳图像对;以及
在所述图形用户界面上显示所述多个其他最佳图像对。
18.根据权利要求17所述的方法,其中所述多个其他最佳图像对被顺序地显示在所述图形用户界面上给所述用户。
19.根据权利要求1所述的方法,其中(b)还包括处理所述多个图像以确定多个图像对,其中所述多个图像对包括所述最佳图像对。
20.根据权利要求19所述的方法,其中所述最佳图像对被注释为在视觉上区别于所述其他图像对。
21.根据权利要求20所述的方法,其中通过在所述最佳图像对周围放置预定义边界来注释所述最佳图像对。
22.根据权利要求2所述的方法,其中(b)还包括自动检测所述目标区域内的所述痣,并生成所述痣周围的图形边界或轮廓。
23.根据权利要求22所述的方法,其中所述图形边界或轮廓被自动生成以跟随所述痣的形状或外形。
24.根据权利要求22所述的方法,其中所述图形边界或轮廓是可调整的或者是由用户经由所述图形用户界面创建的。
25.根据权利要求1所述的方法,其中所述评估包括所述最佳图像对的总分数。
26.根据权利要求25所述的方法,其中所述总分数是两个或多个离散分数的合成。
27.根据权利要求26所述的方法,其中所述两个或多个离散分数包括(1)所述第一可见光图像的分数和(2)所述第一荧光图像的分数。
28.根据权利要求27所述的方法,其中所述两个或多个离散分数的合成被相等地加权,使得所述第一可见光图像的分数和所述第一荧光图像的分数都被给予相同的权重。
29.根据权利要求27所述的方法,其中所述两个或多个离散分数的合成被不同地加权,使得所述第一可见光图像的分数和所述第一荧光图像的分数被给予不同的权重。
30.根据权利要求29所述的方法,其中所述第一荧光图像的分数被给予比所述第一可见光图像的分数更高的权重。
31.根据权利要求29所述的方法,其中所述第一荧光图像的分数被给予比所述第一可见光图像的分数更低的权重。
32.根据权利要求25所述的方法,其中所述总分数位于值范围内。
33.根据权利要求26所述的方法,其中所述两个或多个离散分数位于值范围内。
34.根据权利要求27所述的方法,其中所述第一可见光图像的分数和所述第一荧光图像的分数基于标准化值范围。
35.根据权利要求2所述的方法,其中所述组织重塑的概率与所述痣中黑色素瘤发展的概率相关联。
36.根据权利要求35所述的方法,其中所述评估可用于基于所述痣中黑色素瘤发展的概率来确定临床诊断或行动过程。
37.根据权利要求36所述的方法,还包括:当所述目标区域处组织重塑的概率或黑色素瘤发展的概率大于一个或多个阈值时,在所述图形用户界面上生成一个或多个通知。
38.根据权利要求4所述的方法,其中至少基于:(1)与所述第一可见光图像中的所述第一组视觉特性相关联的第一组度量和(2)与所述第一荧光图像中的所述第二组视觉特性相关联的第二组度量来生成所述评估。
39.根据权利要求38所述的方法,其中所述第一组度量包括以下中的一个或多个:所述痣及其周围区域的大小、形状、体积、颜色或表面纹理。
40.根据权利要求38所述的方法,其中所述第二组度量包括以下中的一个或多个:大小、形状、组织重塑的区域或程度、像素强度、荧光强度、所述对象皮肤下面和所述痣周围的所述目标区域中的图案或纹理。
41.根据权利要求38所述的方法,还包括分割所述第一可见光图像或所述第一荧光图像以分别生成所述第一组度量或所述第二组度量。
42.根据权利要求41所述的方法,其中分割所述第一荧光图像包括将所述第一荧光图像分割成围绕所述目标区域的多个区带。
43.根据权利要求42所述的方法,还包括将所述多个区带划分为多个子区域。
44.根据权利要求2所述的方法,其中所述第一可见光图像和所述第一荧光图像被调整并对准到所述最佳图像对中的一组坐标。
45.根据权利要求44所述的方法,其中通过旋转、平移、裁剪、放大和/或缩小所述第一可见光图像和所述第一荧光图像中的至少一个来调整和对准所述第一可见光图像和所述第一荧光图像。
46.根据权利要求44所述的方法,其中使用存在于所述第一可见光图像和所述第一荧光图像两者中的一个或多个基准标记来调整和对准所述第一可见光图像和所述第一荧光图像。
47.根据权利要求46所述的方法,其中所述一个或多个基准标记被注释在所述第一可见光图像和所述第一荧光图像上。
48.根据权利要求46所述的方法,其中所述一个或多个基准标记在所述第一可见光图像和所述第一荧光图像两者中都是可见的。
49.根据权利要求46所述的方法,其中所述一个或多个基准标记包括一个或多个字母数字字符。
50.根据权利要求46所述的方法,其中所述一个或多个基准标记包括线、边、点或二维形状。
51.根据权利要求46所述的方法,其中在所述目标区域内的一个或多个预定位置处提供所述一个或多个基准标记。
52.根据权利要求46所述的方法,其中所述一个或多个基准标记以相对于所述痣的位置的预定距离和/或取向提供。
53.根据权利要求2所述的方法,还包括:将所述最佳图像对与一个或多个参考图像进行比较。
54.根据权利要求53所述的方法,其中所述一个或多个参考图像包括参考图像对。
55.根据权利要求54所述的方法,其中参考图像对包括(1)不是来自该组可见光图像的可见光参考图像和(2)不是来自该组荧光图像的荧光参考图像。
56.根据权利要求54所述的方法,其中所述最佳图像对包括基准,并且其中所述参考图像对不包括基准。
57.根据权利要求54所述的方法,其中所述最佳图像对包括位于相对于所述痣的预定位置和/或取向的第一组基准,并且其中所述参考图像对包括位于所述参考图像对中的每个参考图像的边界附近的一组基准。
58.根据权利要求1所述的方法,其中所述图形用户界面被配置为允许用户在所述最佳图像对中的所述第一可见光图像或所述第一荧光图像之间进行拨动或切换。
59.根据权利要求2所述的方法,其中所述第一可见光图像聚焦在所述对象的皮肤上的所述痣上,并且所述第一荧光图像聚焦在所述对象的皮肤下面所述痣周围的区域上。
60.根据权利要求59所述的方法,其中所述区域比所述痣的大小大至少1.5倍。
61.根据权利要求1所述的方法,其中获得所述目标区域的所述多个图像包括使用结构化光自动聚焦集成成像系统以及在自动聚焦之后用所述集成成像系统捕获所述多个图像。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063132979P | 2020-12-31 | 2020-12-31 | |
| US63/132,979 | 2020-12-31 | ||
| PCT/US2021/065470 WO2022147090A1 (en) | 2020-12-31 | 2021-12-29 | Systems and methods for assessing tissue remodeling |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116916812A true CN116916812A (zh) | 2023-10-20 |
Family
ID=82259732
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202180094945.2A Pending CN116916812A (zh) | 2020-12-31 | 2021-12-29 | 用于评估组织重塑的系统和方法 |
Country Status (7)
| Country | Link |
|---|---|
| US (1) | US20240173084A1 (zh) |
| EP (1) | EP4271253A4 (zh) |
| JP (1) | JP2024502437A (zh) |
| CN (1) | CN116916812A (zh) |
| AU (1) | AU2021416188A1 (zh) |
| CA (1) | CA3201131A1 (zh) |
| WO (1) | WO2022147090A1 (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116152270B (zh) * | 2022-11-14 | 2024-01-26 | 上海耐欣科技有限公司 | 图像处理方法、装置、设备和介质 |
| CN116758528B (zh) * | 2023-08-18 | 2023-11-03 | 山东罗斯夫新材料科技有限公司 | 基于人工智能的丙烯酸乳液颜色变化识别方法 |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20050136177A1 (en) * | 2003-08-25 | 2005-06-23 | Anthony Hesse | Method for coloring landscaping materials using foamable dry colorant |
| US9697582B2 (en) * | 2006-11-16 | 2017-07-04 | Visiopharm A/S | Methods for obtaining and analyzing images |
| US20100185064A1 (en) * | 2007-01-05 | 2010-07-22 | Jadran Bandic | Skin analysis methods |
| CA3105924C (en) * | 2011-12-21 | 2022-06-28 | Catherine M. Shachaf | System for imaging lesions aligning tissue surfaces |
| EP3371594A1 (en) * | 2015-11-06 | 2018-09-12 | Ventana Medical Systems, Inc. | Representative diagnostics |
| EP3384269A4 (en) * | 2015-12-02 | 2019-05-01 | Clearlight Diagnostics LLC | METHOD FOR PREPARING AND ANALYZING TUMOR TISSUE SAMPLES FOR DETECTING AND MONITORING CANCER |
| US11903723B2 (en) * | 2017-04-04 | 2024-02-20 | Aranz Healthcare Limited | Anatomical surface assessment methods, devices and systems |
-
2021
- 2021-12-29 CN CN202180094945.2A patent/CN116916812A/zh active Pending
- 2021-12-29 CA CA3201131A patent/CA3201131A1/en active Pending
- 2021-12-29 WO PCT/US2021/065470 patent/WO2022147090A1/en not_active Ceased
- 2021-12-29 JP JP2023540810A patent/JP2024502437A/ja active Pending
- 2021-12-29 AU AU2021416188A patent/AU2021416188A1/en active Pending
- 2021-12-29 EP EP21916399.5A patent/EP4271253A4/en active Pending
-
2023
- 2023-06-28 US US18/342,974 patent/US20240173084A1/en active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| JP2024502437A (ja) | 2024-01-19 |
| WO2022147090A1 (en) | 2022-07-07 |
| US20240173084A1 (en) | 2024-05-30 |
| CA3201131A1 (en) | 2022-07-07 |
| AU2021416188A1 (en) | 2023-07-06 |
| EP4271253A1 (en) | 2023-11-08 |
| EP4271253A4 (en) | 2024-06-05 |
| AU2021416188A9 (en) | 2024-09-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11744510B2 (en) | System for imaging lesions aligning tissue surface | |
| Fabelo et al. | HELICoiD project: A new use of hyperspectral imaging for brain cancer detection in real-time during neurosurgical operations | |
| Unger et al. | Real-time diagnosis and visualization of tumor margins in excised breast specimens using fluorescence lifetime imaging and machine learning | |
| Lu et al. | Detection of head and neck cancer in surgical specimens using quantitative hyperspectral imaging | |
| US9445713B2 (en) | Apparatuses and methods for mobile imaging and analysis | |
| Aggarwal et al. | Applications of multispectral and hyperspectral imaging in dermatology | |
| CN113366530A (zh) | 计算机支持的组织学图像中的肿瘤审查和术后肿瘤切缘评估 | |
| US20190261913A1 (en) | Hyperspectral imaging for passive detection of colorectal cancers | |
| Richards-Kortum et al. | Optical imaging for screening and early cancer diagnosis in low-resource settings | |
| Collins et al. | Automatic optical biopsy for colorectal cancer using hyperspectral imaging and artificial neural networks | |
| US20240173084A1 (en) | Systems and methods for assessing tissue remodeling | |
| Yang et al. | Development of an integrated multimodal optical imaging system with real-time image analysis for the evaluation of oral premalignant lesions | |
| Gkouzionis et al. | Real-time tracking of a diffuse reflectance spectroscopy probe used to aid histological validation of margin assessment in upper gastrointestinal cancer resection surgery | |
| Manni et al. | Automated tumor assessment of squamous cell carcinoma on tongue cancer patients with hyperspectral imaging | |
| CN118787310A (zh) | 高光谱医学成像平台和方法 | |
| Hill | Segmentation of oral optical coherence tomography with deep learning | |
| Bagheriye et al. | Advancements in Real-Time Oncology Diagnosis: Harnessing AI and Image Fusion Techniques | |
| Kuo et al. | Small intestinal bleeding prediction by spectral reconstruction through band selection | |
| Hombalimath et al. | An Empirical Analysis of S-CNN based Oral Tongue Squamous Cell Carcinoma | |
| WO2025240968A1 (en) | Systems and methods for automated detection of colon polyps using depth-in-color encoding and machine learning | |
| Reshma et al. | Review of Image Acquisition and Classification Methods on Early Detection of Skin Cancer | |
| Kang | the International Confocal Group (ICG), the International Dermoscopy Society (IDS), and the International Society for Digital Imaging of the Skin (ISDIS) |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |