CN111657947A - 一种神经调控靶区的定位方法 - Google Patents
一种神经调控靶区的定位方法 Download PDFInfo
- Publication number
- CN111657947A CN111657947A CN202010665006.6A CN202010665006A CN111657947A CN 111657947 A CN111657947 A CN 111657947A CN 202010665006 A CN202010665006 A CN 202010665006A CN 111657947 A CN111657947 A CN 111657947A
- Authority
- CN
- China
- Prior art keywords
- magnetic resonance
- target area
- image
- patient
- contour map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0033—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room
- A61B5/004—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
- A61B5/0042—Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part for the brain
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient; User input means
- A61B5/746—Alarms related to a physiological condition, e.g. details of setting alarm thresholds or avoiding false alarms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
- A61B2576/02—Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part
- A61B2576/026—Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part for the brain
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Pathology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Radiology & Medical Imaging (AREA)
- Physiology (AREA)
- High Energy & Nuclear Physics (AREA)
- Neurology (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
本发明公开一种神经调控靶区的定位方法,包括以下步骤:步骤s1:通过磁共振获取病患磁共振功能像以及磁共振结构像,然后获得靶区;步骤s2:采用主轴法将步骤s1中所获得的磁共振功能像配准到所获得的磁共振结构像,在磁共振结构像上得到靶区;步骤s3:获得病患头部轮廓图上的人脸特征点的三维坐标;步骤s4:与通过深度相机获得的病患头部轮廓图的人脸特征点进行三维配准;步骤s5:通过深度相机对调控装置进行识别及定位,所述调控装置为经颅磁刺激线圈TMS或超声调控换能器阵列;步骤s6:完成定位。本发明能够通过调控装置在不进行指示器标定,并能直接观察调控装置例如TMS相对于靶区位置的情形下进行调控靶区定位。
Description
技术领域
本发明涉及计算机图像技术领域,尤其涉及一种神经调控靶区的定位方法。
背景技术
长期以来,神经调控脑部靶区定位缺乏有效装置,近年来采用光学导航装置利用溯源光球标定调控装置到大脑结构像因为成本高昂(普遍采用国外进口光学导航相机)和操作繁琐(需要通过标定指示器指点头部特征结构点完成标定),且无法适应头动,无法准确显示靶区,在临床应用中极少被采用。
发明内容
本发明旨在提供一种能够通过调控装置在不进行指示器标定,能直接观察调控装置例如TMS相对于靶区位置的情形下进行调控靶区定位的方法。
为达到上述目的,本发明是采用以下技术方案实现的:
一种神经调控靶区的定位方法,包括以下步骤:
步骤s1:通过磁共振获取病患磁共振功能像以及磁共振结构像,然后获得靶区;
步骤s2:采用主轴法将步骤s1中所获得的磁共振功能像配准到所获得的磁共振结构像,在磁共振结构像上得到靶区;
步骤s3:通过深度相机获得病患头部轮廓图及对应的RGB平面图,采用MTCNN算法获取RGB平面图上的人脸特征点,再通过病患头部轮廓图与RGB平面图对应的关系获得病患头部轮廓图上的人脸特征点的三维坐标;
步骤s4:根据病患的头部特征设定相应的阈值并以此进行面绘制得到磁共振结构像头部轮廓图,采用MTCNN算法获取所述磁共振结构像头部轮廓图的人脸特征点的坐标,再与通过深度相机获得的病患头部轮廓图的人脸特征点进行三维配准;
步骤s5:通过深度相机对调控装置进行识别及定位,所述调控装置为经颅磁刺激线圈TMS或超声调控换能器阵列;
步骤s6:移动调控装置使其作用区域与靶区重合,完成定位。
优选的,在步骤s1中,有3种方法获得靶区,分别为:
方法a:通过磁共振获得大脑结构像,根据脑结构分区选择靶区;
方法b:从任务态fMRI得到大脑的激活区,将激活区或者激活区的关联区域作为靶区;
方法c:通过对静息态fMRI影像数据体素信号的相关性计算,进行功能连接计算,将脑网络中的连接节点作为靶区。
优选的,在步骤s2中,将磁共振功能像配准到磁共振结构像上的配准方法分别为插值配准法、质心与长短轴除配准以及基于互信息的三维图像仿射变换配准法。
优选的,在步骤s5中,通过在深度相机图像中对调控装置采用贴标志物或几何结构模板匹配的方法识别出调控装置,并通过三维深度测量获得调控装置相对于大脑的空间位置。
优选的,在步骤s6中,移动调控装置的方式包括手动移动以及通过机械臂移动。
优选的,所述人脸特征点共5个,其位置分别位于左眼眼球处、右眼眼球处、鼻尖处、左侧嘴角处及右侧嘴角处。
本发明具有以下有益效果:
1、本发明能直接观察到调控装置相对于靶区的位置;
2、本发明通过深度相机直接测量头部调控装置位置,定位过程无需标定步骤;
3、本发明能检测到头动,能够对头动进行提醒和报警。
附图说明
图1为本发明中磁共振结构像;
图2为本发明完成定位结果示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图,对本发明进行进一步详细说明。
一种神经调控靶区的定位方法,包括以下步骤:
步骤s1:
通过磁共振获取病患磁共振功能像以及磁共振结构像,然后获得靶区。
在步骤s1中,有3种方法获得靶区,分别为:
方法a:通过磁共振获得大脑结构像,根据脑结构分区选择靶区;
方法b:从任务态fMRI得到大脑的激活区,将激活区或者激活区的关联区域作为靶区;
方法c:通过对静息态fMRI影像数据体素信号的相关性计算,进行功能连接计算,将脑网络中的连接节点作为靶区。
步骤s2:
采用主轴法将步骤s1中所获得的磁共振功能像配准到所获得的磁共振结构像,在磁共振结构像上得到靶区。
所述主轴法是图像技术领域常用的方法,通常有以下两个步骤:
1、计算得到立体图像的重心;
2、根据重心得到特征立体图像特征向量,通过判断所述特征向量的方向得到主轴方向。
在步骤s2中,将磁共振功能像配准到磁共振结构像上的配准方法分别为插值配准法、质心与长短轴除配准以及基于互信息的三维图像仿射变换配准法。
步骤s3:
通过深度相机获得病患头部轮廓图及对应的RGB平面图,采用MTCNN算法获取RGB平面图上的人脸特征点,再通过病患头部轮廓图与RGB平面图对应的关系获得病患头部轮廓图上的人脸特征点的三维坐标。
步骤s4:
根据病患的头部特征设定相应的阈值并以此进行面绘制得到磁共振结构像头部轮廓图,采用MTCNN算法获取所述磁共振结构像头部轮廓图的人脸特征点的坐标,再与通过深度相机获得的病患头部轮廓图的人脸特征点进行三维配准。
步骤s4中的面绘制可提供三维头部轮廓的全面信息,其基本方法是提取物体的表面信息,再用绘制算法进行消隐和渲染后得到物体的三维显示图像,在本发明中即为得到磁共振结构像头部轮廓图。
上述步骤中的人脸特征点共5个,其位置分别位于左眼眼球处、右眼眼球处、鼻尖处、左侧嘴角处及右侧嘴角处。
在步骤s3与步骤s4中采用MTCNN(多任务卷积神经网络)算法来进行二维图像中的人脸特征点的识别,一是由于MTCNN多任务卷积神经网络在同领域中的技术效果公认较佳,二是由于该算法在病患闭眼的情形下也能识别出位于眼部的人脸特征点。
步骤s5:
通过深度相机对调控装置进行识别及定位,所述调控装置为经颅磁刺激线圈TMS或超声调控换能器阵列。
在步骤s5中,通过在深度相机图像中对调控装置采用贴标志物或几何结构模板匹配的方法识别出调控装置,并通过三维深度测量获得调控装置相对于大脑的空间位置。
步骤s6:
通过手动或机械臂移动的方式移动调控装置使其作用区域与靶区重合,完成定位,如图2所示,病患头部上方为调控装置。
在步骤s6中,移动调控装置的方式包括手动移动以及通过机械臂移动。
当然,本发明还可有其它多种实施例,在不背离本发明精神及其实质的情况下,熟悉本领域的技术人员可根据本发明作出各种相应的改变和变形,但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。
Claims (6)
1.一种神经调控靶区的定位方法,其特征在于,包括以下步骤:
步骤s1:通过磁共振获取病患磁共振功能像以及磁共振结构像,然后获得靶区;
步骤s2:采用主轴法将步骤s1中所获得的磁共振功能像配准到所获得的磁共振结构像,在磁共振结构像上得到靶区;
步骤s3:通过深度相机获得病患头部轮廓图及对应的RGB平面图,采用MTCNN算法获取RGB平面图上的人脸特征点,再通过病患头部轮廓图与RGB平面图对应的关系获得病患头部轮廓图上的人脸特征点的三维坐标;
步骤s4:根据病患的头部特征设定相应的阈值并以此进行面绘制得到磁共振结构像头部轮廓图,采用MTCNN算法获取所述磁共振结构像头部轮廓图的人脸特征点的坐标,再与通过深度相机获得的病患头部轮廓图的人脸特征点进行三维配准;
步骤s5:通过深度相机对调控装置进行识别及定位,所述调控装置为经颅磁刺激线圈TMS或超声调控换能器阵列;
步骤s6:移动调控装置使其作用区域与靶区重合,完成定位。
2.根据权利要求1所述的一种神经调控靶区的定位方法,其特征在于:在步骤s1中,有3种方法获得靶区,分别为:
方法a:通过磁共振获得大脑结构像,根据脑结构分区选择靶区;
方法b:从任务态fMRI得到大脑的激活区,将激活区或者激活区的关联区域作为靶区;
方法c:通过对静息态fMRI影像数据体素信号的相关性计算,进行功能连接计算,将脑网络中的连接节点作为靶区。
3.根据权利要求1所述的一种神经调控靶区的定位方法,其特征在于:在步骤s2中,将磁共振功能像配准到磁共振结构像上的配准方法分别为插值配准法、质心与长短轴除配准以及基于互信息的三维图像仿射变换配准法。
4.根据权利要求1所述的一种神经调控靶区的定位方法,其特征在于:在步骤s5中,通过在深度相机图像中对调控装置采用贴标志物或几何结构模板匹配的方法识别出调控装置,并通过三维深度测量获得调控装置相对于大脑的空间位置。
5.根据权利要求1所述的一种神经调控靶区的定位方法,其特征在于:在步骤s6中,移动调控装置的方式包括手动移动以及通过机械臂移动。
6.根据权利要求1所述的一种神经调控靶区的定位方法,其特征在于:所述人脸特征点共5个,其位置分别位于左眼眼球处、右眼眼球处、鼻尖处、左侧嘴角处及右侧嘴角处。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2020104373425 | 2020-05-21 | ||
| CN202010437342 | 2020-05-21 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111657947A true CN111657947A (zh) | 2020-09-15 |
| CN111657947B CN111657947B (zh) | 2022-07-05 |
Family
ID=72392230
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010665006.6A Active CN111657947B (zh) | 2020-05-21 | 2020-07-10 | 一种神经调控靶区的定位方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111657947B (zh) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113925606A (zh) * | 2021-10-25 | 2022-01-14 | 四川大学华西医院 | 一种神经调控导航定位方法、装置和神经调控治疗系统 |
| CN114004880A (zh) * | 2021-04-08 | 2022-02-01 | 四川大学华西医院 | 双目相机的点云和强反光目标实时定位方法 |
| CN114176776A (zh) * | 2021-12-15 | 2022-03-15 | 中国医学科学院生物医学工程研究所 | 一种用于同步双线圈磁刺激的神经导航定位系统 |
| CN114190922A (zh) * | 2020-09-18 | 2022-03-18 | 四川大学 | Tms头动检测方法 |
| CN114445514A (zh) * | 2022-01-26 | 2022-05-06 | 四川大学 | 基于磁共振扫描影像的模板数据的生成及应用方法 |
| CN114732519A (zh) * | 2022-04-11 | 2022-07-12 | 成都焕星科技有限公司 | 基于磁共振成像的个体空间经颅磁刺激精准定位导航的方法 |
| CN115999067A (zh) * | 2023-01-09 | 2023-04-25 | 浙江大学医学院附属第一医院 | 基于磁共振精准聚焦右背外侧前额叶rTMS优化系统 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101516444A (zh) * | 2006-09-13 | 2009-08-26 | 奈科斯迪姆公司 | 纠正导航脑刺激中显示的对象的坐标系配准中的错误的方法和装置 |
| US20100036233A1 (en) * | 2008-08-08 | 2010-02-11 | Michigan State University | Automatic Methods for Combining Human Facial Information with 3D Magnetic Resonance Brain Images |
| EP2684518A1 (en) * | 2011-03-09 | 2014-01-15 | Osaka University | Image data processing device and transcranial magnetic stimulation apparatus |
| CN106345062A (zh) * | 2016-09-20 | 2017-01-25 | 华东师范大学 | 一种基于磁共振成像的经颅磁刺激线圈定位方法 |
| CN109731227A (zh) * | 2018-10-23 | 2019-05-10 | 四川大学华西医院 | 一种经颅磁刺激的系统 |
| US20190240499A1 (en) * | 2018-02-06 | 2019-08-08 | The Board Of Trustees Of The Leland Stanford Junior University | Accurate patient-specific targeting of cranial therapy using a brain atlas |
| CN110896609A (zh) * | 2018-09-27 | 2020-03-20 | 武汉资联虹康科技股份有限公司 | 一种用于经颅磁刺激治疗的tms定位导航方法 |
| CN111080769A (zh) * | 2019-11-13 | 2020-04-28 | 创新工场(北京)企业管理股份有限公司 | 一种基于核磁共振数据的三维形变模型生成方法、系统及电子设备 |
| US11308657B1 (en) * | 2021-08-11 | 2022-04-19 | Neon Evolution Inc. | Methods and systems for image processing using a learning engine |
-
2020
- 2020-07-10 CN CN202010665006.6A patent/CN111657947B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101516444A (zh) * | 2006-09-13 | 2009-08-26 | 奈科斯迪姆公司 | 纠正导航脑刺激中显示的对象的坐标系配准中的错误的方法和装置 |
| US20100036233A1 (en) * | 2008-08-08 | 2010-02-11 | Michigan State University | Automatic Methods for Combining Human Facial Information with 3D Magnetic Resonance Brain Images |
| EP2684518A1 (en) * | 2011-03-09 | 2014-01-15 | Osaka University | Image data processing device and transcranial magnetic stimulation apparatus |
| CN106345062A (zh) * | 2016-09-20 | 2017-01-25 | 华东师范大学 | 一种基于磁共振成像的经颅磁刺激线圈定位方法 |
| US20190240499A1 (en) * | 2018-02-06 | 2019-08-08 | The Board Of Trustees Of The Leland Stanford Junior University | Accurate patient-specific targeting of cranial therapy using a brain atlas |
| CN110896609A (zh) * | 2018-09-27 | 2020-03-20 | 武汉资联虹康科技股份有限公司 | 一种用于经颅磁刺激治疗的tms定位导航方法 |
| CN109731227A (zh) * | 2018-10-23 | 2019-05-10 | 四川大学华西医院 | 一种经颅磁刺激的系统 |
| CN111080769A (zh) * | 2019-11-13 | 2020-04-28 | 创新工场(北京)企业管理股份有限公司 | 一种基于核磁共振数据的三维形变模型生成方法、系统及电子设备 |
| US11308657B1 (en) * | 2021-08-11 | 2022-04-19 | Neon Evolution Inc. | Methods and systems for image processing using a learning engine |
Non-Patent Citations (4)
| Title |
|---|
| KANG WANG等: "A siamese network with adaptive gated feature fusion for individual knee OA features grades prediction", 《SCIENTIFIC REPORTS》 * |
| 张伟亮: "基于深度学习的磁共振医学图像重建系统的设计与实现", 《中国优秀硕士学位论文全文数据库医药卫生科技辑》 * |
| 彭小江: "基于多模态信息的情感计算综述", 《衡阳师范学院学报》 * |
| 白兰兰: "影像引导经颅磁刺激机器人系统关键技术研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 * |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114190922A (zh) * | 2020-09-18 | 2022-03-18 | 四川大学 | Tms头动检测方法 |
| CN114190922B (zh) * | 2020-09-18 | 2023-04-21 | 四川大学 | Tms头动检测方法 |
| CN114004880A (zh) * | 2021-04-08 | 2022-02-01 | 四川大学华西医院 | 双目相机的点云和强反光目标实时定位方法 |
| CN114004880B (zh) * | 2021-04-08 | 2023-04-25 | 四川大学华西医院 | 双目相机的点云和强反光目标实时定位方法 |
| CN113925606A (zh) * | 2021-10-25 | 2022-01-14 | 四川大学华西医院 | 一种神经调控导航定位方法、装置和神经调控治疗系统 |
| CN113925606B (zh) * | 2021-10-25 | 2023-07-07 | 四川大学华西医院 | 一种神经调控导航定位方法、装置和神经调控治疗系统 |
| CN114176776A (zh) * | 2021-12-15 | 2022-03-15 | 中国医学科学院生物医学工程研究所 | 一种用于同步双线圈磁刺激的神经导航定位系统 |
| CN114445514A (zh) * | 2022-01-26 | 2022-05-06 | 四川大学 | 基于磁共振扫描影像的模板数据的生成及应用方法 |
| CN114732519A (zh) * | 2022-04-11 | 2022-07-12 | 成都焕星科技有限公司 | 基于磁共振成像的个体空间经颅磁刺激精准定位导航的方法 |
| CN114732519B (zh) * | 2022-04-11 | 2024-10-22 | 成都焕星科技有限公司 | 基于磁共振成像的个体空间经颅磁刺激精准定位导航的方法 |
| CN115999067A (zh) * | 2023-01-09 | 2023-04-25 | 浙江大学医学院附属第一医院 | 基于磁共振精准聚焦右背外侧前额叶rTMS优化系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111657947B (zh) | 2022-07-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111657947B (zh) | 一种神经调控靶区的定位方法 | |
| JP6161004B2 (ja) | 画像データ処理装置および経頭蓋磁気刺激装置 | |
| US20210379406A1 (en) | Research and development of augmented reality in radiotherapy | |
| CN112168357B (zh) | C臂机空间定位模型构建系统及方法 | |
| US20150087888A1 (en) | Method and system for displaying the electric field generated on the brain by transcranial magnetic stimulation | |
| CN107595388B (zh) | 一种基于反光球标记点的近红外双目视觉立体匹配方法 | |
| CN103948361B (zh) | 无标志点的内窥镜定位跟踪方法和系统 | |
| JP2010503439A (ja) | ナビゲーション脳刺激時に提示された対象を表示するために用いられる座標系の相互表示における誤差を補正するための方法及び機器 | |
| CN106529409A (zh) | 一种基于头部姿态的眼睛注视视角测定方法 | |
| US20200110280A1 (en) | Methods, devices, and computer program for determining a near-vision point | |
| US11291852B2 (en) | Accurate patient-specific targeting of cranial therapy using a brain atlas | |
| NL2038192B1 (en) | Intelligent anesthetization system for transperineal prostate puncturing based on multimodal medical images | |
| CN112215871B (zh) | 一种基于机器人视觉的移动目标追踪方法及装置 | |
| CN106504257B (zh) | 一种放疗头部位置姿态测量装置和解算方法 | |
| CN109886173A (zh) | 基于视觉的侧脸姿态解算方法及情绪感知自主服务机器人 | |
| WO2024021637A1 (zh) | 针对脑部病灶的穿刺路径确定系统、方法、装置及介质 | |
| CN119541031B (zh) | 一种可穿戴视距测量方法 | |
| CN115317794A (zh) | 基于动态跟踪的经颅磁刺激导航方法、装置、设备及介质 | |
| CN119048594A (zh) | 一种用于脑磁自动配准的多目视觉系统 | |
| CN115227979B (zh) | 一种经颅磁刺激设备的控制装置、系统和设备 | |
| CN109364385A (zh) | 基于双目视觉的肿瘤定位方法 | |
| CN111672029A (zh) | 基于颅表解剖标志的智能导航方法、导航系统及导航仪 | |
| Zeng et al. | A novel reconstruction model of multi-camera positioning system based on neural network | |
| Chaoui et al. | Virtual movements-based calibration method of ultrasound probe for computer assisted surgery | |
| Guo et al. | Physically disabled visual position tracking using skew lines model with head motion compensation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |