CN111091136B - 一种视频场景变换检测方法和系统 - Google Patents
一种视频场景变换检测方法和系统 Download PDFInfo
- Publication number
- CN111091136B CN111091136B CN201811238433.5A CN201811238433A CN111091136B CN 111091136 B CN111091136 B CN 111091136B CN 201811238433 A CN201811238433 A CN 201811238433A CN 111091136 B CN111091136 B CN 111091136B
- Authority
- CN
- China
- Prior art keywords
- feature number
- detection result
- image
- reference image
- current image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种视频场景变换检测方法和系统,该方法包括以下步骤:获取参考图像和当前图像;提取参考图像和当前图像的SIFT特征,得到第一特征数和第二特征数;判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;根据相同特征数得到检测结果。本发明通过提取SIFT特征进行比对,对多种天气情况具有很好的鲁棒性;在SIFT特征比对无法满足时,本发明利用算法过滤掉动态运动目标所带来的干扰,提升检测的准确性。本发明可以广泛应用于图像处理领域。
Description
技术领域
本发明涉及图像处理技术,尤其是一种视频场景变换检测方法和系统。
背景技术
摄像头场景变换时由于人为或者其他原因转动摄像头,使监控区域偏离指定监控区域。目前相关检测手段有基于视频编码的检测,基于视频帧之间直方图的差异的检测等,但是这些方法检测准确率都不高,基于视频编码的检测主要是基于编码比特数的动态阈值和基于AC能量的AC图像相似性,但是这种方式技术复杂,难以实现且准确率不高。户外摄像头场景复杂,有光照、雾霾、下雨等等天气因素影响,还有人、车、物等变化因素,所以只是考虑AC图像相似性和基于编码比特数的动态阈值很难准确检测场景移动。基于视频编码的视频场景变换检测技术可能会利用预测编码的运动矢量估计来检测,这种方式准确性跟上面分析一致且难于实现。基于视频帧之间直方图的差异检测方法主要是计算视频帧的直方图,计算它们之间的差值,根据设定的阈值判断决定是否发生场景变换,同样根据以上分析,准确率不高,而且阈值很难确定。
综上所述上述算法并不适用于室外监控摄像头的场景变换检测。
发明内容
为解决上述技术问题,本发明的目的在于:提供一种适用于室外监控摄像头的视频场景变换检测方法和系统。
本发明所采取的第一种技术方案是:
一种视频场景变换检测方法,包括以下步骤:
获取步骤:获取参考图像和当前图像;
提取步骤:提取参考图像的SIFT特征,得到第一特征数;提取当前图像的SIFT特征,得到第二特征数;
一次判断步骤:判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则执行二次判断步骤;
所述二次判断步骤包括:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;
根据所述相同特征数得到检测结果。
进一步,在获取步骤和提取步骤之间还包括以下步骤:
将参考图像和当前图像在保持长宽比例不变的情况下缩小至设定尺寸。
进一步,所述第一设定条件为,第一特征数和第二特征数中的至少一个为0。
进一步,所述根据第一特征数和第二特征数得到检测结果,其具体包括:
若第一特征数和第二特征数均为0,则返回正常作为检测结果;
若第一特征数和第二特征数中只有一个为0,则返回异常作为检测结果。
进一步,所述根据所述相同特征数得到检测结果,其具体包括:
判断所述相同特征数是否大于等于第一设定阈值;若是,则获取homography变换的矩阵参数,并根据所述矩阵参数得到检测结果;反之,则返回异常作为检测结果。
进一步,所述根据所述矩阵参数得到检测结果,其具体包括:
判断所述矩阵参数中的h3参数和h6参数中是否存在至少一个参数值大于第二设定阈值的参数;若是,则返回异常作为检测结果;反之,则返回正常作为检测结果。
进一步,所述当前图像为从当前视频流中解码得到的一帧图像,所述参考图像为在最近一次检测结果为正常的检测中保存的图像或者为预先存储的图像。
进一步,所述将参考图像和当前图像在保持长宽比例不变的情况下缩小至设定尺寸,其具体为:
将参考图像和当前图像在保持长宽比例不变的情况下缩小至宽度为480像素的尺寸。
本发明所采取的第二种技术方案是:
一种视频场景变换检测系统,包括:
获取模块,用于获取参考图像和当前图像;
提取模块,用于提取参考图像的SIFT特征,得到第一特征数;提取当前图像的SIFT特征,得到第二特征数;
一次判断模块,用于判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则由二次判断模块处理;
所述二次判断模块用于:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;
根据所述相同特征数得到检测结果。
本发明所采取的第三种技术方案是:
一种视频场景变换检测系统,包括:
存储器,用于存储程序;
处理器,用于加载所述程序,以执行一种视频场景变换检测方法。
本发明的有益效果是:通过提取SIFT特征进行比对,对多种天气情况具有很好的鲁棒性,对于SIFT满足特定条件的情况我们可以快速判断出当前的视频场景是否异常,即是否发生场景变换;在SIFT特征不满足特定条件时,本发明利用基于homography变换的RANSAC算法过滤掉人、车、动物等动态运动目标所带来的干扰,提升检测的准确性。
附图说明
图1为本发明一种具体实施例的视频场景变换检测方法的流程图;
图2为本发明一种具体实施例的一次判断步骤的具体流程图;
图3为本发明一种具体实施例的二次判断步骤的具体流程图。
具体实施方式
下面结合说明书附图和具体的实施例对本发明进行进一步的说明。
参照图1,一种视频场景变换检测方法,包括以下步骤:
获取步骤:获取参考图像和当前图像;所述参考图像为该摄像头拍摄的正常画面,该画面可以是上次检测到正常时保留的图像,也可以是在安装摄像头时就保存的图像。所述当前图像,可以通过视频流解码获得。
提取步骤:提取参考图像的SIFT特征,得到第一特征数;提取当前图像的SIFT特征,得到第二特征数;所述SIFT特征的提取为现有技术。其中,SIFT,即尺度不变特征变换(Scale-invariant feature transform,SIFT),是用于图像处理领域的一种描述。这种描述具有尺度不变性,可在图像中检测出关键点,是一种局部特征描述子。SIFT特征是基于物体上的一些局部外观的兴趣点而与影像的大小和旋转无关。对于光线、噪声、微视角改变的容忍度也相当高。基于这些特性,它们是高度显著而且相对容易撷取,在母数庞大的特征数据库中,很容易辨识物体而且鲜有误认。使用SIFT特征描述对于部分物体遮蔽的侦测率也相当高,甚至只需要3个以上的SIFT物体特征就足以计算出位置与方位。
一次判断步骤:判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则执行二次判断步骤;通过对比两者的SIFT特征数量,在满足特定条件的情况下我们可以判断视频场景是否发生变换。在不满足特定条件的情况下,我们需要对当前图像和参考图像进行进一步的判断。
所述二次判断步骤包括:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数。其中,干扰特征是指人、车和动物等运动物体。homography变换即单应性变换,其参数通过一个3*3的矩阵表示。其中,对单应性最感兴趣的部分只是其他意义的一个子集。平面的单应性被定义为从一个平面到另一个平面的投影映射。比如,一个二维平面上的点映射到摄像机成像仪上的映射就是平面单应性的例子。RANSAC为Random Sample Consensus的缩写,它是根据一组包含异常数据的样本数据集,计算出数据的数学模型参数,得到有效样本数据的算法。RANSAC算法经常用于计算机视觉中。本实施例中基于homography变换的RANSAC算法主要对特征点是否满足homography映射几何关系进行判断,并使用这个算法提取现实世界的静态点,而滤掉动态点,排除干扰对象。
根据所述相同特征数得到检测结果。我们可以根据我们得到的相同特征数,去判断视频场景是否发生变换。
作为优选的实施例,为了减少系统的运算量,在获取步骤和提取步骤之间还包括以下步骤:
将参考图像和当前图像在保持长宽比例不变的情况下缩小至设定尺寸。
通过将图像进行缩小,可以去除一些不明显的特征,同时加快处理速度。
下面我们结合具体的判断逻辑和具体的阈值对本发明进行进一步的说明。
参照图2,作为优选的实施例,本实施例对第一判断步骤的具体流程进行描述,所述第一设定条件为,第一特征数N1和第二特征数N2中的至少一个为0。即N1=0、N2=0以及N1=0且N2=0三种情况。因为求homography变换矩阵参数时至少需要4个点,而假设现实世界中静态特征点是不会低于4个的;N1等于或N2等于0是极端情形,表示一个特征点都没有,所以其中一个为0,另一个不为零,说明发生了场景移动。本实施例可以对极端情况进行排除,提升算法的精准度。
所述根据第一特征数和第二特征数得到检测结果,其具体包括:
若第一特征数和第二特征数均为0,即N1=0且N2=0,则返回正常作为检测结果;
若第一特征数和第二特征数中只有一个为0,即N1=0或者N2=0,则返回异常作为检测结果。其中,所述返回正常具体是指返回代表正常的代码,例如正常的情况下返回1,异常的情况下返回0。
参照图3,作为优选的实施例,本实施例对第二判断步骤的具体流程进行描述,第二判断步骤包括:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;
根据所述相同特征数得到检测结果。
其中,所述根据所述相同特征数得到检测结果,其具体包括:
判断所述相同特征数N3是否大于等于第一设定阈值;若是,则获取homography变换的矩阵参数,并根据所述矩阵参数得到检测结果;反之,则返回异常作为检测结果。根据实验结果,在第一设定阈值取值为4时,具有较好的检测效果。
所述根据所述矩阵参数得到检测结果,其具体包括:
判断所述矩阵参数中的h3参数和h6参数中是否存在至少一个参数值大于第二设定阈值的参数;若是,则返回异常作为检测结果;反之,则返回正常作为检测结果。其中,在homography变换的矩阵参数中,h3参数和h6参数是与位移相关的参数。根据实验结果,在第二设定阈值取值为20时,具有较好的检测效果。
作为优选的实施例,所述当前图像为从当前视频流中解码得到的一帧图像,所述参考图像为在最近一次检测结果为正常的检测中保存的图像或者为预先存储的图像。本实施例可以通过实时的视频流进行检测,无需人工介入。
作为优选的实施例,所述将参考图像和当前图像在保持长宽比例不变的情况下缩小至设定尺寸,其具体为:
将参考图像和当前图像在保持长宽比例不变的情况下缩小至宽度为480像素的尺寸。本实施例将图像尺寸压缩至宽度为480像素的尺寸,对于1080P和720P视频具有较好的处理效果。
本实施例公开了一种实现如图1所示的方法的视频场景变换检测系统,其包括:
获取模块,用于获取参考图像和当前图像;
提取模块,用于提取参考图像的SIFT特征,得到第一特征数;提取当前图像的SIFT特征,得到第二特征数;
一次判断模块,用于判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则由二次判断模块处理;
所述二次判断模块用于:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;
根据所述相同特征数得到检测结果。
本实施例公开了一种视频场景变换检测系统,其包括:
存储器,用于存储程序;
处理器,用于加载所述程序,以执行如图1所示的一种视频场景变换检测方法。
对于上述方法实施例中的步骤编号,其仅为了便于阐述说明而设置,对步骤之间的顺序不做任何限定,实施例中的各步骤的执行顺序均可根据本领域技术人员的理解来进行适应性调整。
以上是对本发明的较佳实施进行了具体说明,但本发明并不限于所述实施例,熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换,这些等同的变形或替换均包含在本申请权利要求所限定的范围内。
Claims (8)
1.一种视频场景变换检测方法,其特征在于:包括以下步骤:
获取步骤:获取参考图像和当前图像;
提取步骤:提取参考图像的SIFT特征,得到第一特征数;提取当前图像的SIFT特征,得到第二特征数;
一次判断步骤:判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则执行二次判断步骤;
所述二次判断步骤包括:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;
根据所述相同特征数得到检测结果;
其中,所述第一条件为,第一特征数和第二特征数中的至少一个为0;
其中,所述根据第一特征数和第二特征数得到检测结果,其具体包括:
若第一特征数和第二特征数均为0,则返回正常作为检测结果;
若第一特征数和第二特征数中只有一个为0,则返回异常作为检测结果。
2.根据权利要求1所述的一种视频场景变换检测方法,其特征在于:在获取步骤和提取步骤之间还包括以下步骤:
将参考图像和当前图像在保持长宽比例不变的情况下缩小至设定尺寸。
3.根据权利要求1所述的一种视频场景变换检测方法,其特征在于:所述根据所述相同特征数得到检测结果,其具体包括:
判断所述相同特征数是否大于等于第一设定阈值;若是,则获取homography变换的矩阵参数,并根据所述矩阵参数得到检测结果;反之,则返回异常作为检测结果。
4.根据权利要求3所述的一种视频场景变换检测方法,其特征在于:所述根据所述矩阵参数得到检测结果,其具体包括:
判断所述矩阵参数中的h3参数和h6参数中是否存在至少一个参数值大于第二设定阈值的参数;若是,则返回异常作为检测结果;反之,则返回正常作为检测结果。
5.根据权利要求4所述的一种视频场景变换检测方法,其特征在于:所述当前图像为从当前视频流中解码得到的一帧图像,所述参考图像为在最近一次检测结果为正常的检测中保存的图像或者为预先存储的图像。
6.根据权利要求2所述的一种视频场景变换检测方法,其特征在于:所述将参考图像和当前图像在保持长宽比例不变的情况下缩小至设定尺寸,其具体为:
将参考图像和当前图像在保持长宽比例不变的情况下缩小至宽度为480像素的尺寸。
7.一种视频场景变换检测系统,其特征在于:包括:
获取模块,用于获取参考图像和当前图像;
提取模块,用于提取参考图像的SIFT特征,得到第一特征数;提取当前图像的SIFT特征,得到第二特征数;
一次判断模块,用于判断第一特征数和第二特征数是否满足第一条件,若是,则根据第一特征数和第二特征数得到检测结果;反之,则由二次判断模块处理;
所述二次判断模块用于:
通过基于homography变换的RANSAC算法过滤当前图像和参考图像中的干扰特征,并累计两者经过过滤后的相同特征数;
根据所述相同特征数得到检测结果;
其中,所述第一条件为,第一特征数和第二特征数中的至少一个为0;
其中,所述根据第一特征数和第二特征数得到检测结果,其具体包括:
若第一特征数和第二特征数均为0,则返回正常作为检测结果;
若第一特征数和第二特征数中只有一个为0,则返回异常作为检测结果。
8.一种视频场景变换检测系统,其特征在于:包括:
存储器,用于存储程序;
处理器,用于加载所述程序,以执行如权利要求1-6任一项所述的一种视频场景变换检测方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811238433.5A CN111091136B (zh) | 2018-10-23 | 2018-10-23 | 一种视频场景变换检测方法和系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811238433.5A CN111091136B (zh) | 2018-10-23 | 2018-10-23 | 一种视频场景变换检测方法和系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111091136A CN111091136A (zh) | 2020-05-01 |
| CN111091136B true CN111091136B (zh) | 2023-05-23 |
Family
ID=70391588
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811238433.5A Active CN111091136B (zh) | 2018-10-23 | 2018-10-23 | 一种视频场景变换检测方法和系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111091136B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120823204A (zh) * | 2025-09-17 | 2025-10-21 | 华田智能机器人(南通)有限公司 | 一种基于光致发光技术的光伏组件缺陷检测方法及系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP2499963A1 (en) * | 2011-03-18 | 2012-09-19 | SensoMotoric Instruments Gesellschaft für innovative Sensorik mbH | Method and apparatus for gaze point mapping |
| CN102982537A (zh) * | 2012-11-05 | 2013-03-20 | 安维思电子科技(广州)有限公司 | 一种检测场景变换的方法和系统 |
| CN103646391A (zh) * | 2013-09-30 | 2014-03-19 | 浙江大学 | 一种针对动态变化场景的实时摄像机跟踪方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102821323B (zh) * | 2012-08-01 | 2014-12-17 | 成都理想境界科技有限公司 | 基于增强现实技术的视频播放方法、系统及移动终端 |
-
2018
- 2018-10-23 CN CN201811238433.5A patent/CN111091136B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP2499963A1 (en) * | 2011-03-18 | 2012-09-19 | SensoMotoric Instruments Gesellschaft für innovative Sensorik mbH | Method and apparatus for gaze point mapping |
| CN102982537A (zh) * | 2012-11-05 | 2013-03-20 | 安维思电子科技(广州)有限公司 | 一种检测场景变换的方法和系统 |
| CN103646391A (zh) * | 2013-09-30 | 2014-03-19 | 浙江大学 | 一种针对动态变化场景的实时摄像机跟踪方法 |
Non-Patent Citations (2)
| Title |
|---|
| 杨涛 ; 张艳宁 ; 张秀伟 ; 张新功 ; .基于场景复杂度与不变特征的航拍视频实时配准算法.电子学报.2010,(05),全文. * |
| 葛鹤银 ; 孙建红 ; 林楠 ; 吴凡 ; .融合小波变换及SIFT算法的去抖动运动目标检测.实验室研究与探索.2016,(02),全文. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111091136A (zh) | 2020-05-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5908174B2 (ja) | 画像処理装置及び画像処理方法 | |
| JP6482195B2 (ja) | 画像認識装置、画像認識方法及びプログラム | |
| Cheung et al. | Robust background subtraction with foreground validation for urban traffic video | |
| Elhabian et al. | Moving object detection in spatial domain using background removal techniques-state-of-art | |
| CN109035304B (zh) | 目标跟踪方法、介质、计算设备和装置 | |
| KR101524548B1 (ko) | 영상 정합 장치 및 방법 | |
| Nonaka et al. | Evaluation report of integrated background modeling based on spatio-temporal features | |
| Fendri et al. | Fusion of thermal infrared and visible spectra for robust moving object detection | |
| CN108399627B (zh) | 视频帧间目标运动估计方法、装置和实现装置 | |
| CN103679756A (zh) | 基于颜色和形状特征的自动目标跟踪方法及系统 | |
| WO2009105812A1 (en) | Spatio-activity based mode matching field of the invention | |
| CN108198205A (zh) | 一种基于Vibe和Camshift算法的目标跟踪方法 | |
| CN105184771A (zh) | 一种自适应运动目标检测系统及检测方法 | |
| CN114239736B (zh) | 光流估计模型的训练方法和装置 | |
| CN111091136B (zh) | 一种视频场景变换检测方法和系统 | |
| CN111914627A (zh) | 一种车辆识别与追踪方法及装置 | |
| Phadke et al. | Illumination invariant mean-shift tracking | |
| Huang et al. | Random sampling-based background subtraction with adaptive multi-cue fusion in RGBD videos | |
| CN115294358B (zh) | 特征点提取方法、装置、计算机设备及可读存储介质 | |
| Walha et al. | Moving object detection system in aerial video surveillance | |
| CN116071563A (zh) | 目标检测方法、装置及电子设备 | |
| CN111091526A (zh) | 一种视频模糊的检测方法和系统 | |
| Yang et al. | Misaligned RGB-depth boundary identification and correction for depth image recovery | |
| Song et al. | An improved vibe algorithm of dual background model for quickly suppressing ghost images | |
| Asundi et al. | Raindrop detection algorithm for ADAS |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |