[go: up one dir, main page]

CN111784697B - 图像处理方法、装置、电子设备及存储介质 - Google Patents

图像处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111784697B
CN111784697B CN202010612852.1A CN202010612852A CN111784697B CN 111784697 B CN111784697 B CN 111784697B CN 202010612852 A CN202010612852 A CN 202010612852A CN 111784697 B CN111784697 B CN 111784697B
Authority
CN
China
Prior art keywords
image
fragment
matching
images
image block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010612852.1A
Other languages
English (en)
Other versions
CN111784697A (zh
Inventor
龙翔
任建国
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010612852.1A priority Critical patent/CN111784697B/zh
Publication of CN111784697A publication Critical patent/CN111784697A/zh
Application granted granted Critical
Publication of CN111784697B publication Critical patent/CN111784697B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Geometry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供一种图像处理方法、装置、电子设备及存储介质,涉及图像处理领域中的计算机视觉以及图像识别技术,该图像处理方法包括:获取原始图像;获取至少两份碎片图像,所有碎片图像组成原始图像;根据各碎片图像以及原始图像进行特征匹配,确定各碎片图像在原始图像中的匹配图像块;在单份碎片图像对应的匹配图像块为至少两个时,对至少两个匹配图像块进行筛选,得到单份碎片图像对应的单个匹配图像块;基于各碎片图像对应的单个匹配图像块,确定各碎片图像在原始图像中的位置。本申请通过将碎片图像与原始图像进行特征匹配,进一步还包括对匹配图像块进行筛选的步骤,从而可以唯一确定碎片图像在原图像中的位置。

Description

图像处理方法、装置、电子设备及存储介质
技术领域
本申请实施例涉及图像处理领域中的计算机视觉以及图像识别技术,尤其涉及一种图像处理方法、装置、电子设备及存储介质。
背景技术
拼图是一种广受欢迎的智力游戏,其游戏模式是将多张碎片图像拼凑为一张完整的图像,其中,每份碎片图像具有唯一对应的位置。
现有的拼图自动识别方法通过将碎片图像与原图像进行比对,以达到对碎片图像进行识别的目的,从而确定碎片图像在原图像的位置。
发明内容
本申请提供了一种用于唯一确定碎片图像在原图像中的位置、以提高识别结果准确性的图像处理方法、装置、电子设备以及存储介质。
根据本申请的一方面,提供了一种图像处理方法,包括:
获取原始图像;
获取至少两份碎片图像,所有所述碎片图像组成所述原始图像;
根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块;
在单份所述碎片图像对应的匹配图像块为至少两个时,对至少两个所述匹配图像块进行筛选,得到单份所述碎片图像对应的单个匹配图像块;
基于各所述碎片图像对应的单个匹配图像块,确定各所述碎片图像在所述原始图像中的位置。
根据本申请的另一方面,提供了一种图像处理装置,包括:
第一获取模块,用于获取原始图像;
第二获取模块,用于获取至少两份碎片图像,所有所述碎片图像组成所述原始图像;
特征匹配模块,用于根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块;
图像块筛选模块,用于在单份所述碎片图像对应的匹配图像块为至少两个时,对至少两个所述匹配图像块进行筛选,得到单份所述碎片图像对应的单个匹配图像块;
位置确定模块,用于基于各所述碎片图像对应的单个匹配图像块,确定各所述碎片图像在所述原始图像中的位置。
根据本申请的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述的图像处理方法。
根据本申请的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行上述的图像处理方法。
本申请提供的图像处理方法、装置、电子设备以及存储介质,该图像处理方法包括:获取原始图像;获取至少两份碎片图像,所有碎片图像组成原始图像;根据各碎片图像以及原始图像进行特征匹配,确定各碎片图像在原始图像中的匹配图像块;在单份碎片图像对应的匹配图像块为至少两个时,对至少两个匹配图像块进行筛选,得到单份碎片图像对应的单个匹配图像块;基于各碎片图像对应的单个匹配图像块,确定各碎片图像在原始图像中的位置。
本申请通过将碎片图像与原始图像进行特征匹配,以确定碎片图像在原始图像中的匹配图像块,从而可以根据匹配图像块的位置确定碎片图像在原始图像中的位置。另外,在单份碎片图像对应的匹配图像块为至少两个时,根据匹配图像块并不能唯一确定碎片图像的位置,因此,本申请进一步还包括对至少两个匹配图像块进行筛选的步骤,以得到单份碎片图像对应的单个匹配图像块,从而可以唯一确定碎片图像在原图像中的位置,进而提高碎片图像的识别结果准确性。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1为本申请实施例提供的图像处理方法的示意图;
图2a为本申请实施例中原始图像的示例图;
图2b为本申请实施例中碎片图像的示例图;
图3为本申请实施例提供的图像处理方法的另一示意图;
图4为本申请实施例提供的对各碎片图像进行缩放处理的步骤示意图;
图5为本申请实施例提供的根据各碎片图像以及原始图像进行特征匹配的步骤示意图;
图6为本申请实施例所使用的孪生网络的示意图;
图7为本申请实施例提供的对至少两个匹配图像块进行筛选以得到单份碎片图像对应的单个匹配图像块的步骤示意图;
图8a为本申请实施例中相邻碎片图像的示例图;
图8b为本申请实施例中匹配图像块的示例图;
图9为本申请实施例提供的对至少两个匹配图像块进行筛选以得到单份碎片图像对应的单个匹配图像块的另一步骤示意图;
图10a为本申请实施例中相邻碎片图像的另一示例图;
图10b为本申请实施例中匹配图像块的另一示例图;
图11为本申请实施例中对碎片图像进行方位矫正处理的示例图;
图12为本申请实施例中图像区域的示例图;
图13为本申请实施例提供的对至少两个匹配图像块进行筛选以得到单份碎片图像对应的单个匹配图像块的步骤示意图;
图14为本申请实施例中进行匹配图像块筛选的示例图;
图15为本申请实施例提供的辅助用户完成拼图游戏的示意图;
图16为本申请实施例提供的图像处理装置的示意图;
图17为本申请实施例的图像处理的方法的电子设备的框图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本申请实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本申请实施例中所使用的单数形式的“一种”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的商品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种商品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的商品或者系统中还存在另外的相同要素。
现有的拼图自动识别方法通过将碎片图像与原图像进行比对,以达到对碎片图像进行识别的目的。然而,拼图的难度随着碎片图像数量的增加而增大。在碎片图像数量较多时,相似的碎片图像也较多,在将碎片图像与原图像进行比对时,原图像中与碎片图像匹配的图像区域可能为多个,使得现有的方法无法唯一确定碎片图像在原图像中的位置,导致现有方法存在识别结果准确性低的问题。
基于现有技术存在的问题,本申请在进行图像比对匹配的过程中,若碎片图像对应的匹配图像块为多个,还进一步包含对多个匹配图像块进行筛选的步骤,从而起到唯一确定碎片图像块对应的匹配图像块的目的,提高碎片图像识别结果的准确性。
本申请提供一种图像处理方法、装置、电子设备以及存储介质,应用于图像处理领域中的计算机视觉以及图像识别技术,以达到提高碎片图像的识别结果准确性的目的。
下面以具体地实施例对本申请的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
可以理解,本申请中图像处理方法的处理步骤可以由具备图像处理功能的终端或者服务器实现。
图1为本申请实施例提供的图像处理方法的示意图,如图1所示,该方法主要包括以下步骤:
S100、获取原始图像。
其中,原始图像是指一幅完整的图像,原始图像可以是例如人物图像、动物图像、风景图像以及建筑图像等。
S200、获取至少两份碎片图像,所有碎片图像组成原始图像。
其中,碎片图像是指对原始图像进行图像切割得到的图像,所有碎片图像通过图像组合可以得到原始图像,即碎片图像可以理解为由原始图像得到的至少两个子图像。
图2a和图2b分别为本申请实施例中原始图像以及碎片图像的示例图,如图2a及图2b所示,图2a包括原始图像P1,图2b包括碎片图像P21、P22、P23以及P24。其中,P21、P22、P23以及P24为通过对原始图像P1进行图像切割得到的碎片图像,P1为通过对碎片图像P21、P22、P23以及P24进行图像组合得到的原始图像。
可选的,在获取原始图像以及碎片图像时,可以是直接获取通过摄像头等拍摄装置拍摄采集得到的图像,也可以是通过网络访问等方式获取预先采集并保存于服务器中的图像,还可以是通过数据读取等方式获取预先采集并保存于存储介质中的图像。本实施例对获取原始图像以及碎片图像的具体方式不做限定。
S400、根据各碎片图像以及原始图像进行特征匹配,确定各碎片图像在原始图像中的匹配图像块。
其中,匹配图像块是指原始图像中特征与碎片图像匹配的图像块,图像块具体为原始图像中的图像区域,特征具体可以是指像素等。
由于碎片图像是由原始图像进行图像切割得到,原始图像中必然存在与碎片图像的特征相匹配的图像块。因此,在获取原始图像以及各碎片图像之后,通过对各碎片图像以及原始图像进行基于像素的特征匹配,从而可以确定各碎片图像在原始图像中的匹配图像块。
S500、在单份碎片图像对应的匹配图像块为至少两个时,对至少两个匹配图像块进行筛选,得到单份碎片图像对应的单个匹配图像块。
在对各碎片图像以及原始图像进行基于像素的特征匹配之后,可以得到各碎片图像的特征匹配结果,特征匹配结果包括原始图像中与碎片图像的特征相匹配的匹配图像块。
在特征匹配结果为单份碎片图像对应至少两个匹配图像块时,说明该至少两个匹配图像块与该单份碎片图像的特征匹配度较高,由于该至少两个匹配图像块对应原始图像中的至少两个不同的位置,因此,基于该至少两个匹配图像块无法唯一确定该单份碎片图像在原始图像中的位置。
基于此,本实施例在特征匹配结果为单份碎片图像对应至少两个匹配图像块时,进一步还包括对该至少两个匹配图像块进行筛选的步骤,从而得到该单份碎片图像对应的单个匹配图像块,该单个匹配图像块仅对应原始图像中的一个位置,因此,基于该单个匹配图像块可以唯一确定该单份碎片图像在原始图像中的位置。
可选的,在特征匹配结果为单份碎片图像仅对应一个匹配图像块时,该一个匹配图像块即为该单份碎片图像对应的单个匹配图像块。
S600、基于各碎片图像对应的单个匹配图像块,确定各碎片图像在原始图像中的位置。
在每一份碎片图像都存在对应的单个匹配图像块之后,基于单个匹配图像块在原始图像中的位置,可以唯一确定对应的碎片图像在原始图像中的位置,从而可以得到所有碎片图像在原始图像中的位置。
本实施例通过将碎片图像与原始图像进行特征匹配,以确定碎片图像在原始图像中的匹配图像块,从而可以根据匹配图像块的位置确定碎片图像在原始图像中的位置。另外,在单份碎片图像对应的匹配图像块为至少两个时,根据匹配图像块并不能唯一确定碎片图像的位置,因此,本申请进一步还包括对至少两个匹配图像块进行筛选的步骤,以得到单份碎片图像对应的单个匹配图像块,从而可以唯一确定碎片图像在原图像中的位置,进而提高碎片图像的识别结果准确性。
图3为本申请实施例提供的图像处理方法的另一示意图,如图3所示,在根据各碎片图像以及原始图像进行特征匹配之前,该方法还包括:S310、根据原始图像的面积,对各碎片图像进行缩放处理,得到调整后的碎片图像。
相应的,根据各碎片图像以及原始图像进行特征匹配,确定各碎片图像在原始图像中的匹配图像块,包括:根据各调整后的碎片图像以及原始图像进行特征匹配,确定各调整后的碎片图像在原始图像中的匹配图像块。
在进行特征匹配时,若待匹配的对象尺寸差距太大,可能会对特征匹配的结果产生影响,从而降低特征匹配结果的准确性。因此,本实施例中,在对碎片图像以及原始图像进行特征匹配之前,还包括基于对原始图像的面积对各碎片图像进行缩放处理的步骤。
具体的,在基于原始图像的面积确定碎片图像的面积较大时,可以对碎片图像进行图像缩小处理,以减小碎片图像的面积;在基于原始图像的面积确定碎片图像的面积较小时,可以对碎片图像进行图像放大处理,以增加碎片图像的面积,从而得到调整后的碎片图像。
本实施例中,通过基于原始图像的面积对碎片图像进行缩放处理,以减少特征匹配时的面积差,从而降低由于图像尺寸对特征匹配结果的影响,提高特征匹配结果的准确性。
图4为本申请实施例提供的对各碎片图像进行缩放处理的步骤示意图,如图4所示,根据原始图像的面积,对各碎片图像进行缩放处理,得到调整后的碎片图像,包括:
S312、根据原始图像的面积以及碎片图像的数量,得到碎片平均面积。
S314、根据碎片平均面积对各碎片图像进行缩放处理,得到调整后的碎片图像,调整后的碎片图像的面积与碎片平均面积相同。
在对各碎片图像进行缩放处理时,首先基于原始图像的面积以及碎片图像的数量得到碎片平均面积。具体的,定义S0表示原始图像的面积,N表示碎片图像的数量,Savg表示碎片平均面积,则碎片平均面积可以通过以下公式计算得到:
Savg=S0N
在得到碎片平均面积Savg后,对各碎片图像进行缩放处理,得到调整后的碎片图像,调整后的碎片图像的面积Si与碎片平均面积Savg相同,由调整后的碎片图像做组成的组合图像的面积即与原始图像的面积相同。
本实施例中,通过计算碎片平均面积,并根据碎片平均面积对各碎片图像进行缩放处理,使得调整后的碎片图像的面积与碎片平均面积相同,从而,可以保证进行特征匹配时的面积差为零,进一步提高特征匹配结果的准确性。
图5为本申请实施例提供的根据各碎片图像以及原始图像进行特征匹配的步骤示意图,如图5所示,根据各碎片图像以及原始图像进行特征匹配,确定各碎片图像在原始图像中的匹配图像块,包括:
S410、对原始图像进行图像块划分,得到至少两个图像块,图像块的数量与碎片图像的数量相同。
S420、通过特征匹配网络对碎片图像以及图像块进行特征匹配,确定与碎片图像的特征匹配结果满足预设条件的图像块为碎片图像对应的匹配图像块。
在进行特征匹配之前,首先对原始图像进行图像块划分,得到与碎片图像同等数量的图像块,以保证每份碎片图像都对应存在一个图像块。可以理解,在进行图像块划分时,可以是采用等面积的方式进行划分,从而保证每个图像块的面积都相等。
在进行特征匹配时,可以采用特征匹配网络对碎片图像以及图像块进行特征匹配。特征匹配网络可以基于碎片图像以及图像块的像素特征进行匹配,从而得到碎片图像与图像块的匹配度,该匹配度也可以理解为碎片图像与图像块的相似度。在碎片图像与图像块的匹配度满足预设条件时,例如,碎片图像与图像块的相似度大于预设阈值,可以认为碎片图像与图像块匹配,从而,该图像块即为该碎片图像的匹配图像块。
本实施例通过对原始图像进行区域划分以得到与碎片图像同等数量的图像块,以保证每份碎片图像都对应存在一个图像块,从而可以保证每份碎片图像都可以通过特征匹配确定其对应的匹配图像块,进而保证每份碎片图像都可以确定其在原始图像中的位置,使得碎片图像的识别结果完整准确。
在一些实施例中,在通过S410得到至少两个图像块后,在执行S420之前,若碎片图像与图像块的面积不相等,图像处理方法还包括:根据图像块的面积对各碎片图像进行缩放处理,得到调整后的碎片图像,调整后的碎片图像的面积与图像块的面积相同。
本实施例中,通过根据图像块的面积对各碎片图像进行缩放处理,使得调整后的碎片图像的面积与图像块的面积相同,从而,可以保证进行特征匹配时的面积差为零,进一步提高特征匹配结果的准确性。
在一些实施例中,特征匹配网络包括孪生网络。
图6为本申请实施例所使用的孪生网络的示意图,如图6所示,孪生网络可以理解为“连体的神经网络”,神经网络的“连体”通过共享权值(Weights)来实现。在通过孪生网络进行碎片图像以及图像块的相似度对比时,将碎片图像的图像特征作为第一输入进入第一神经网络,将图像块的图像特征作为第二输入进入第二神经网络,第一神经网络以及第二神经网络分别将对应的输入映射到新的空间,并分别形成对应的、在新的空间中的新的表示,然后通过对新的表示进行损失值(Loss)计算,通过Loss评价两个输入的相似度。其中,第一神经网络和第二神经网络可以是相同的神经网络,也可以是不同的神经网络,例如,第一神经网络和第二神经网络可以都是LSTM(Long Short-Term Memory,长短期记忆网络),也可以都是CNN(Convolutional Neural Networks,卷积神经网络),还可以是一个为CNN,另一个为LSTM等。
另外,对于孪生网络模型中的第一神经网络以及第二神经网络,也可以是不共享权值,此时,孪生网络可以称为伪孪生网络(Pseudo-Siamese Network),第一神经网络以及第二神经网络可以是相同的神经网络,也可以是不同的神经网络。
在通过孪生网络进行碎片图像以及图像块的特征匹配时,在将碎片图像的图像特征作为第一输入进入第一神经网络后,可以是依次将所有图像块的图像特征作为第二输入进入第二神经网络,即,得到碎片图像与所有图像块的相似度,然后根据相似度从所有图像块中确定与碎片图像匹配的图像块。
本实施例通过孪生网络对碎片图像以及图像块进行特征匹配,通过网络模型的损失值判断两种图像的相似度,从而可以提高特征匹配结果的准确性。
在一些实施例中,在对匹配图像块进行筛选时,可以基于碎片图像之间的位置关系进行匹配图像块筛选。
本实施例中,在单份碎片图像对应的匹配图像块为至少两个时,对至少两个匹配图像块进行筛选,得到单份碎片图像对应的单个匹配图像块之前,还包括:
对各碎片图像进行方位矫正处理,得到矫正后的碎片图像。
对各矫正后的碎片图像进行边缘特征提取,基于边缘特征提取结果确定至少两份矫正后的碎片图像的相邻位置关系,得到相邻碎片图像。
在得到相邻碎片图像之后,若相邻碎片图像中的至少一份碎片图像对应的匹配图像块为至少两个,执行对至少两个匹配图像块进行筛选,得到单份碎片图像对应的单个匹配图像块的步骤。
具体的,可以通过预先训练得到边缘匹配网络,在对碎片图像进行方位矫正后,可以通过边缘提取算子对各矫正后的碎片图像进行边缘特征提取,得到各碎片图像的轮廓。然后,对于轮廓的每条边,仅保留每条边附近区域的像素。再将某份碎片图像的一条边附近区域的像素以及另外一份碎片图像的一条边附近区域的像素输入预先训练的边缘匹配网络,通过该边缘匹配网络得到两条边可以匹配在一起的概率,从而,基于边缘匹配网络的输出结果可以得到不同碎片图像的不同边是否可以进行匹配的概率,即可以得到不同碎片图像是否为相邻的碎片图像。
本实施例通过对碎片图像进行方位矫正以及边缘提取、匹配处理,可以得到不同碎片图像之间的相邻位置关系,在得到相邻碎片图像后,若相邻碎片图像中的至少一份碎片图像对应的匹配图像块为至少两个,即可根据相邻碎片图像各自对应的匹配图像块进行匹配图像块的筛选,从而得到相邻碎片图像中的单份碎片图像对应的单个匹配图像块,以保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,对基于碎片图像之间的相邻位置关系进行匹配图像块筛选的处理流程进行解释说明。
图7为本申请实施例提供的对至少两个匹配图像块进行筛选以得到单份碎片图像对应的单个匹配图像块的步骤示意图,如图7所示,以相邻碎片图像至少包括第一碎片图像以及第二碎片图像,第一碎片图像对应的匹配图像块包括第一图像块,第二碎片图像对应的匹配图像块至少包括第二图像块以及第三图像块为例进行解释说明,该处理流程具体包括:
S512、确定第一碎片图像与第二碎片图像的第一图像位置关系。
S514、确定第一图像块与第二图像块的第一图像块位置关系,以及第一图像块与第三图像块的第二图像块位置关系。
S516、基于第一图像位置关系、第一图像块位置关系以及第二图像块位置关系,从第二图像块以及第三图像块中选择第一目标图像块作为第二碎片图像对应的单个匹配图像块,第一目标图像块与第一图像块的图像块位置关系与第一图像位置关系相同。
具体的,图8a为本实施例中相邻碎片图像的示例图,图8b为本实施例中匹配图像块的示例图,如图8a及图8b所示,T1为第一碎片图像,T2为第二碎片图像,K1为第一碎片图像T1对应的第一图像块,K2为第二碎片图像T2对应的第二图像块,K3为第二碎片图像T2对应的第三图像块。
如图8a及图8b所示,在进行匹配图像块筛选时,首先,确定第一碎片图像T1与第二碎片图像T2的第一图像位置关系为左右相邻关系,具体为第一碎片图像T1在左,第二碎片图像T2在右。
其次,确定第一图像块K1与第二图像块K2的第一图像块位置关系为左右相邻关系,具体为第一图像块K1在左,第二图像块K2在右。
然后,确定第一图像块K1与第三图像块K3的第二图像块位置关系为上下相邻关系,具体为第一图像块K1在下,第三图像块K3在上。
最后,基于第一图像位置关系、第一图像块位置关系以及第二图像块位置关系,可以确定第一图像块K1与第二图像块K2的第一图像块位置关系与第一碎片图像T1与第二碎片图像T2的第一图像位置关系相同,从而,可以确定第二图像块K2为第二碎片图像T2对应的单个匹配图像块。
本实施例中,基于碎片图像之间的相邻位置关系进行匹配图像块筛选,由于匹配图像块与碎片图像为对应关系,若两份碎片图像为相邻位置关系,该两份碎片图像所对应的两个匹配图像块也应为相邻位置关系,且该两个匹配图像块的位置关系与该两份碎片图像的位置关系相同,从而,基于上述原理,可以对匹配图像块进行筛选,以保证碎片图像仅对应单个匹配图像块,进而保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,对基于碎片图像之间的相邻位置关系进行匹配图像块筛选的处理流程进行解释说明。
图9为本申请实施例提供的对至少两个匹配图像块进行筛选以得到单份碎片图像对应的单个匹配图像块的另一步骤示意图,如图9所示,以相邻碎片图像至少包括第三碎片图像以及第四碎片图像,第三碎片图像对应的匹配图像块至少包括第四图像块以及第五图像块,第四碎片图像对应的匹配图像块至少包括第六图像块以及第七图像块为例进行解释说明,该处理流程具体包括:
S522、确定第三碎片图像与第四碎片图像的第二图像位置关系。
S524、确定第四图像块与第六图像块的第三图像块位置关系,第四图像块与第七图像块的第四图像块位置关系,第五图像块与第六图像块的第五图像块位置关系,以及第五图像块与第七图像块的第六图像块位置关系。
S526、从第三图像块位置关系、第四图像块位置关系、第五图像块位置关系以及第六图像块位置关系中确定与第二图像位置关系相同的目标图像块位置关系。
S528、确定目标图像块位置关系对应的两个目标图像块中,与第三碎片图像对应的第二目标图像块为第三碎片图像对应的单个匹配图像块,与第四碎片图像对应的第三目标图像块为第四碎片图像对应的单个匹配图像块。
具体的,图10a为本实施例中相邻碎片图像的示例图,图10b为本实施例中匹配图像块的示例图,如图10a及图10b所示,T3为第三碎片图像,T4为第四碎片图像,K4为第三碎片图像T3对应的第四图像块,K5为第三碎片图像T3对应的第五图像块,K6为第四碎片图像T4对应的第六图像块,K7为第四碎片图像T4对应的第七图像块。
如图10a及图10b所示,在进行匹配图像块筛选时,首先,确定第三碎片图像T3与第四碎片图像T4的第二图像位置关系为上下相邻关系,具体为第三碎片图像T3在上,第四碎片图像T4在下。
其次,确定第四图像块K4与第六图像块K6的第三图像块位置关系为左右相邻关系,具体为第四图像块K4在左,第六图像块K6在右。
然后,确定第四图像块K4与第七图像块K7的第四图像块位置关系为上下相邻关系,具体为第四图像块K4在下,第七图像块K7在上。
然后,确定第五图像块K5与第六图像块K6的第五图像块位置关系为上下相邻关系,具体为第五图像块K5在上,第六图像块K6在下。
然后,确定第五图像块K5与第七图像块K7的第六图像块位置关系为左右相邻关系,具体为第五图像块K5在右,第七图像块K7在左。
然后,从第三图像块位置关系、第四图像块位置关系、第五图像块位置关系以及第六图像块位置关系中确定与第二图像位置关系相同的目标图像块位置关系。具体的,通过对比可以得知,第五图像块位置与第二图像位置关系相同,即第五图像块位置为目标图像块位置关系。
最后,确定目标图像块位置关系对应的两个目标图像块中,与第三碎片图像对应的第二目标图像块为第三碎片图像对应的单个匹配图像块,与第四碎片图像对应的第三目标图像块为第四碎片图像对应的单个匹配图像块。即,确定第五图像块K5为第三碎片图像T3对应的单个匹配图像块,第六图像块K6为第四碎片图像T4对应的单个匹配图像块。
本实施例中,基于碎片图像之间的相邻位置关系进行匹配图像块筛选,由于匹配图像块与碎片图像为对应关系,若两份碎片图像为相邻位置关系,该两份碎片图像所对应的两个匹配图像块也应为相邻位置关系,且该两个匹配图像块的位置关系与该两份碎片图像的位置关系相同,从而,基于上述原理,可以对匹配图像块进行筛选,以保证碎片图像仅对应单个匹配图像块,进而保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,对进行方位矫正处理的处理流程进行解释说明。
本实施例中,对各碎片图像进行方位矫正处理,得到矫正后的碎片图像,包括:
对各碎片图像进行图像检测,确定各碎片图像中的角点。
根据相邻角点的连线与水平方向的夹角,对各碎片图像进行旋转,得到矫正后的碎片图像,矫正后的碎片图像中相邻角点的连线与水平方向平行或者垂直。
具体的,首先对碎片图像进行图像的像素检测,以确定各碎片图像的角点(CornerPoint)。其中,角点是指碎片图像中轮廓线的连接点。以碎片图像为矩形为例,其对应的角点数量为4个,具体包括左上,右上,左下,右下四个角点。
在确定碎片图像的角点之后,根据角点对碎片图像进行旋转,使得相邻角点的连线与水平方向平行或者垂直,从而起到对碎片图像进行方位矫正的目的。
图11为本实施例中对碎片图像进行方位矫正处理的示例图,如图11所示,碎片图像包含包括左上,右上,左下以及右下四个角点,分别为点A、点B、点C以及点D,其中,点A和点B的连线与水平方向的夹角为a。另外,点O为碎片图像的中心点。
由于点A和点B的连线与水平方向存在夹角a,此时,可以认为碎片图像需要进行方位矫正,因此,可以以点O为基准点,将碎片图像沿顺时针旋转角度a,从而使得点A和点B的连线与水平方向平行,点A和点C的连线与水平方向垂直。
本实施例通过对碎片图像进行方位矫正处理,具体为讲碎片图像矫正为与水平方向对齐,从而可以便于进行后续的边缘提取以及边缘匹配处理,保证碎片图像之间的相邻位置关系的准确性。
在一些实施例中,在对匹配图像块进行筛选时,可以基于碎片图像以及匹配图像块的分区信息进行匹配图像块筛选。
本实施例中,原始图像包括多个图像区域。图像区域的划分方式与得到碎片图像的图像切割方式、以及得到图像块的图像块划分方式不同。具体的,图像区域的数量少于碎片图像以及图像块的数量,即,一个图像区域包括多个碎片图像或者多个图像块。碎片图像以及匹配图像块的分区信息即为碎片图像以及匹配图像块所在的图像区域的信息。
图12为本申请实施例中图像区域的示例图,如图12所示,原始图像包括多个图像区域Si,每个图像区域Si包括多个图像块Ki。
可以理解,在划分得到多个图像区域Si后,通过对原始图像进行图像切割得到多个碎片图像后,可以理解为每个图像区域Si包括多个碎片图像。
图13为本申请实施例提供的对至少两个匹配图像块进行筛选以得到单份碎片图像对应的单个匹配图像块的步骤示意图,如图13所示,该处理流程具体包括:
S532、获取碎片图像在多个图像区域中的第一分区信息。
S534、获取至少两个匹配图像块在多个图像区域中的第二分区信息以及第三分区信息。
S536、基于第一分区信息、第二分区信息以及第三分区信息,从至少两个匹配图像块中确定第四目标图像块为碎片图像对应的单个匹配图像块,第四目标图像块为分区信息与第一分区信息相同的匹配图像块。
具体的,图14为本实施例中进行匹配图像块筛选的示例图,如图14所示,碎片图像对应的匹配图像块的数量为3个,分别为Kp、Kq以及Km。碎片图像对应的第一分区信息为S1,即碎片图像所在的图像区域为S1。三个匹配图像块对应的分区信息分别为S1、S2、S3,即三个匹配图像所在的图像区域分别为S1、S2、S3。
根据三个匹配图像块对应的分区信息可以得知,只有Kp的分区信息与碎片图像对应的第一分区信息相同,因此,可以确定Kp为碎片图像对应的单个匹配图像块。
本实施例中,基于碎片图像以及匹配图像块的分区信息进行匹配图像块筛选,由于匹配图像块与碎片图像为对应关系,碎片图像的分区信息与匹配图像块的分区信息应该相同,从而,基于上述原理,可以对匹配图像块进行筛选,以保证碎片图像仅对应单个匹配图像块,进而保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,在进行匹配图像块的筛选时,可以同时结合碎片图像之间的相邻位置关系,以及碎片图像以及匹配图像块的分区信息进行匹配图像块筛选。具体筛选原理与上述实施例所描述的原理相同,在此不再赘述。
本实施例通过同时结合碎片图像之间的相邻位置关系,以及碎片图像以及匹配图像块的分区信息进行匹配图像块筛选,可以进一步提高碎片图像识别结果的准确性。
在一些实施例中,根据各碎片图像以及原始图像进行特征匹配之前,图像处理方法还包括:若原始图像或者碎片图像包含背景,对原始图像或者碎片图像进行图像分割处理,得到不包含背景的原始图像或者不包含背景的碎片图像。
相应的,根据各碎片图像以及原始图像进行特征匹配,确定各碎片图像在原始图像中的匹配图像块,包括:根据不包含背景的碎片图像以及不包含背景的原始图像进行特征匹配,确定各不包含背景的碎片图像在不包含背景的原始图像中的匹配图像块。
具体的,可以通过预先训练得到图像分割网络,在原始图像或者碎片图像包含背景时,直接通过该图像分割网络对原始图像或者碎片图像进行图像分割即可,从而得到不包含背景的原始图像或者不包含背景的碎片图像。
本实施例通过对包含背景的原始图像或者碎片图像进行图像分割处理,可以去除原始图像或者碎片图像中的背景,得到不包含背景的原始图像或者不包含背景的碎片图像,从而可以防止图像中的背景对特征匹配结果产生影响,提高特征匹配结果的准确性。
在一些实施例中,本申请的图像处理方法具体可以应用于辅助用户完成难度较大的拼图游戏。以图像处理方法的执行主体为服务器为例,对通过本申请的方法辅助用户完成拼图游戏的具体流程进行解释说明。
图15为本实施例提供的辅助用户完成拼图游戏的示意图,如图15所示,该处理流程包括以下步骤:
S701、用户通过用户终端拍摄拼图的正面完整图像以及背面分区图像,以及待拼凑的碎片图像,其中,待拼凑的碎片图像可以是全部碎片图像,也可以是用户觉得拼凑难度较大的部分碎片图像;
S702、用户通过用户终端向服务器发送拼图的正面完整图像、背面分区图像、待拼凑的碎片图像以及拼图总碎片数;
S703、服务器对正面完整图像和/或碎片图像进行图像预处理,图像预处理具体包括以下至少一项:
a、根据正面完整图像的面积,对各碎片图像进行缩放处理,得到调整后的碎片图像;
b、对正面完整图像进行图像块划分,得到至少两个图像块,图像块的数量与碎片图像的数量相同;
c、对各碎片图像进行方位矫正处理,得到矫正后的碎片图像;对各矫正后的碎片图像进行边缘特征提取,基于边缘特征提取结果确定至少两份矫正后的碎片图像的相邻位置关系,得到相邻碎片图像;
d、若正面完整图像或者碎片图像包含背景,对正面完整图像或者碎片图像进行图像分割处理,得到不包含背景的正面完整图像或者不包含背景的碎片图像;
S704、服务器通过特征匹配网络对预处理后的碎片图像以及图像块进行特征匹配,确定与碎片图像的特征匹配结果满足预设条件的图像块为碎片图像对应的匹配图像块;
S705、在单份碎片图像对应的匹配图像块为至少两个时,服务器通过碎片图像之间的相邻位置关系,和/或,通过碎片图像以及匹配图像块的分区信息进行匹配图像块筛选,得到单份碎片图像对应的单个匹配图像块;
S706、服务器基于各碎片图像对应的单个匹配图像块,确定各碎片图像在正面完整图像中的位置;
S707、服务器向用户终端反馈碎片图像在正面完整图像中的位置信息;
S708、用户终端基于服务器的反馈信息,向用户展示碎片图像在正面完整图像中的位置信息。
本实施例中,通过本申请的图像处理方法可以唯一确定碎片图像在正面完整图像中的位置,从而可以辅助用户完成难度较大的拼图游戏。
在一些实施例中,提供一种图像处理装置。
图16为本申请实施例提供的图像处理装置的示意图,如图16所示,该装置包括:
第一获取模块100,用于获取原始图像;
第二获取模块200,用于获取至少两份碎片图像,所有所述碎片图像组成所述原始图像;
特征匹配模块400,用于根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块;
图像块筛选模块500,用于在单份所述碎片图像对应的匹配图像块为至少两个时,对至少两个所述匹配图像块进行筛选,得到单份所述碎片图像对应的单个匹配图像块;
位置确定模块600,用于基于各所述碎片图像对应的单个匹配图像块,确定各所述碎片图像在所述原始图像中的位置。
关于图像处理装置的具体限定可以参见上文中对于图像处理方法的限定,在此不再赘述。上述图像处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
本申请提供一种图像处理装置,通过将碎片图像与原始图像进行特征匹配,以确定碎片图像在原始图像中的匹配图像块,从而可以根据匹配图像块的位置确定碎片图像在原始图像中的位置。另外,在单份碎片图像对应的匹配图像块为至少两个时,根据匹配图像块并不能唯一确定碎片图像的位置,因此,本申请进一步还包括对至少两个匹配图像块进行筛选的步骤,以得到单份碎片图像对应的单个匹配图像块,从而可以唯一确定碎片图像在原图像中的位置,进而提高碎片图像的识别结果准确性。
在一些实施例中,图像处理装置还包括:缩放处理模块,用于根据原始图像的面积,对各碎片图像进行缩放处理,得到调整后的碎片图像。从而,通过基于原始图像的面积对碎片图像进行缩放处理,以减少特征匹配时的面积差,从而降低由于图像尺寸对特征匹配结果的影响,提高特征匹配结果的准确性。
在一些实施例中,缩放处理模块包括:碎片平均面积确定单元,用于根据原始图像的面积以及碎片图像的数量,得到碎片平均面积;缩放处理单元,用于根据碎片平均面积对各碎片图像进行缩放处理,得到调整后的碎片图像,调整后的碎片图像的面积与碎片平均面积相同。从而,通过计算碎片平均面积,并根据碎片平均面积对各碎片图像进行缩放处理,使得调整后的碎片图像的面积与碎片平均面积相同,从而,可以保证进行特征匹配时的面积差为零,进一步提高特征匹配结果的准确性。
在一些实施例中,特征匹配模块包括:图像块划分单元,用于对原始图像进行图像块划分,得到至少两个图像块,图像块的数量与碎片图像的数量相同;特征匹配单元,用于通过特征匹配网络对碎片图像以及图像块进行特征匹配,确定与碎片图像的特征匹配结果满足预设条件的图像块为碎片图像对应的匹配图像块。从而,通过对原始图像进行区域划分以得到与碎片图像同等数量的图像块,以保证每份碎片图像都对应存在一个图像块,从而可以保证每份碎片图像都可以通过特征匹配确定其对应的匹配图像块,进而保证每份碎片图像都可以确定其在原始图像中的位置,使得碎片图像的识别结果完整准确。
在一些实施例中,图像处理装置还包括:方位矫正处理模块,用于对各碎片图像进行方位矫正处理,得到矫正后的碎片图像;相邻碎片图像确定模块,用于对各矫正后的碎片图像进行边缘特征提取,基于边缘特征提取结果确定至少两份矫正后的碎片图像的相邻位置关系,得到相邻碎片图像。从而,通过对碎片图像进行方位矫正以及边缘提取、匹配处理,可以得到不同碎片图像之间的相邻位置关系,在得到相邻碎片图像后,若相邻碎片图像中的至少一份碎片图像对应的匹配图像块为至少两个,即可根据相邻碎片图像各自对应的匹配图像块进行匹配图像块的筛选,从而得到相邻碎片图像中的单份碎片图像对应的单个匹配图像块,以保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,图像块筛选模块包括:第一筛选单元,用于确定第一碎片图像与第二碎片图像的第一图像位置关系;确定第一图像块与第二图像块的第一图像块位置关系,以及第一图像块与第三图像块的第二图像块位置关系;基于第一图像位置关系、第一图像块位置关系以及第二图像块位置关系,从第二图像块以及第三图像块中选择第一目标图像块作为第二碎片图像对应的单个匹配图像块,第一目标图像块与第一图像块的图像块位置关系与第一图像位置关系相同。
从而,基于碎片图像之间的相邻位置关系进行匹配图像块筛选,由于匹配图像块与碎片图像为对应关系,若两份碎片图像为相邻位置关系,该两份碎片图像所对应的两个匹配图像块也应为相邻位置关系,且该两个匹配图像块的位置关系与该两份碎片图像的位置关系相同,从而,基于上述原理,可以对匹配图像块进行筛选,以保证碎片图像仅对应单个匹配图像块,进而保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,图像块筛选模块包括:第二筛选单元,用于确定第三碎片图像与第四碎片图像的第二图像位置关系;确定第四图像块与第六图像块的第三图像块位置关系,第四图像块与第七图像块的第四图像块位置关系,第五图像块与第六图像块的第五图像块位置关系,以及第五图像块与第七图像块的第六图像块位置关系;从第三图像块位置关系、第四图像块位置关系、第五图像块位置关系以及第六图像块位置关系中确定与第二图像位置关系相同的目标图像块位置关系;确定目标图像块位置关系对应的两个目标图像块中,与第三碎片图像对应的第二目标图像块为第三碎片图像对应的单个匹配图像块,与第四碎片图像对应的第三目标图像块为第四碎片图像对应的单个匹配图像块。
从而,基于碎片图像之间的相邻位置关系进行匹配图像块筛选,由于匹配图像块与碎片图像为对应关系,若两份碎片图像为相邻位置关系,该两份碎片图像所对应的两个匹配图像块也应为相邻位置关系,且该两个匹配图像块的位置关系与该两份碎片图像的位置关系相同,从而,基于上述原理,可以对匹配图像块进行筛选,以保证碎片图像仅对应单个匹配图像块,进而保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,方位矫正处理模块包括:角点确定单元,用于对各碎片图像进行图像检测,确定各碎片图像中的角点;图像旋转单元,用于根据相邻角点的连线与水平方向的夹角,对各碎片图像进行旋转,得到矫正后的碎片图像,矫正后的碎片图像中相邻角点的连线与水平方向平行或者垂直。
从而,通过对碎片图像进行方位矫正处理,具体为讲碎片图像矫正为与水平方向对齐,从而可以便于进行后续的边缘提取以及边缘匹配处理,保证碎片图像之间的相邻位置关系的准确性。
在一些实施例中,图像块筛选模块包括:第三筛选单元,用于获取碎片图像在多个图像区域中的第一分区信息;获取至少两个匹配图像块在多个图像区域中的第二分区信息以及第三分区信息;基于第一分区信息、第二分区信息以及第三分区信息,从至少两个匹配图像块中确定第四目标图像块为碎片图像对应的单个匹配图像块,第四目标图像块为分区信息与第一分区信息相同的匹配图像块。
从而,基于碎片图像以及匹配图像块的分区信息进行匹配图像块筛选,由于匹配图像块与碎片图像为对应关系,碎片图像的分区信息与匹配图像块的分区信息应该相同,从而,基于上述原理,可以对匹配图像块进行筛选,以保证碎片图像仅对应单个匹配图像块,进而保证可以基于单个匹配图像块唯一确定碎片图像在原始图像中的位置,提高碎片图像识别结果的准确性。
在一些实施例中,图像处理装置还包括:图像分割模块,用于在原始图像或者碎片图像包含背景时,对原始图像或者碎片图像进行图像分割处理,得到不包含背景的原始图像或者不包含背景的碎片图像。
从而,通过对包含背景的原始图像或者碎片图像进行图像分割处理,可以去除原始图像或者碎片图像中的背景,得到不包含背景的原始图像或者不包含背景的碎片图像,从而可以防止图像中的背景对特征匹配结果产生影响,提高特征匹配结果的准确性。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图17所示,是根据本申请实施例的图像处理的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图17所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图17中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的图像处理的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的图像处理的方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的图像处理的方法对应的程序指令/模块(例如,附图16所示的第一获取模块100、第二获取模块200、特征匹配模块400、图像块筛选模块500以及位置确定模块600)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图像处理的方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据图像处理的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器701远程设置的存储器,这些远程存储器可以通过网络连接至图像处理的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
图像处理的方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图17中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与图像处理的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (14)

1.一种图像处理方法,包括:
获取原始图像;
获取至少两份碎片图像,所有所述碎片图像组成所述原始图像;
根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块;
确定至少两份碎片图像的相邻位置关系,得到相邻碎片图像;
在所述相邻碎片图像中的至少一份碎片图像对应的匹配图像块为至少两个时,对至少两个所述匹配图像块进行筛选,得到单份所述碎片图像对应的单个匹配图像块;
基于各所述碎片图像对应的单个匹配图像块,确定各所述碎片图像在所述原始图像中的位置;
所述对至少两个所述匹配图像块进行筛选,得到单份所述碎片图像对应的单个匹配图像块,包括:
根据所述相邻碎片图像中的碎片图像之间的图像位置关系,对至少两个所述匹配图像块进行筛选,得到所述相邻碎片图像中的碎片图像各自对应的单个匹配图像块;其中,所述相邻碎片图像中的碎片图像各自对应的单个匹配图像块之间的位置关系与所述图像位置关系相同。
2.根据权利要求1所述的方法,其中,所述根据各所述碎片图像以及所述原始图像进行特征匹配之前,还包括:
根据所述原始图像的面积,对各所述碎片图像进行缩放处理,得到调整后的碎片图像;
相应的,所述根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块,包括:
根据各调整后的碎片图像以及所述原始图像进行特征匹配,确定各所述调整后的碎片图像在所述原始图像中的匹配图像块。
3.根据权利要求2所述的方法,其中,所述根据所述原始图像的面积,对各所述碎片图像进行缩放处理,得到调整后的碎片图像,包括:
根据所述原始图像的面积以及所述碎片图像的数量,得到碎片平均面积;
根据所述碎片平均面积对各所述碎片图像进行缩放处理,得到调整后的碎片图像,所述调整后的碎片图像的面积与所述碎片平均面积相同。
4.根据权利要求1所述的方法,其中,所述根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块,包括:
对所述原始图像进行图像块划分,得到至少两个图像块,所述图像块的数量与所述碎片图像的数量相同;
通过特征匹配网络对所述碎片图像以及所述图像块进行特征匹配,确定与所述碎片图像的特征匹配结果满足预设条件的图像块为所述碎片图像对应的匹配图像块。
5.根据权利要求4所述的方法,其中,所述特征匹配网络包括孪生网络。
6.根据权利要求1所述的方法,其中,所述确定至少两份碎片图像的相邻位置关系,得到相邻碎片图像之前,还包括:
对各所述碎片图像进行方位矫正处理,得到矫正后的碎片图像;
所述确定至少两份碎片图像的相邻位置关系,得到相邻碎片图像,包括:
对各所述矫正后的碎片图像进行边缘特征提取,基于边缘特征提取结果确定至少两份矫正后的碎片图像的相邻位置关系,得到所述相邻碎片图像。
7.根据权利要求6所述的方法,其中,所述相邻碎片图像至少包括第一碎片图像以及第二碎片图像;
所述第一碎片图像对应的匹配图像块包括第一图像块,所述第二碎片图像对应的匹配图像块至少包括第二图像块以及第三图像块;
所述根据所述相邻碎片图像中的碎片图像之间的图像位置关系,对至少两个所述匹配图像块进行筛选,得到所述相邻碎片图像中的碎片图像各自对应的单个匹配图像块,包括:
确定所述第一碎片图像与所述第二碎片图像的第一图像位置关系;
确定所述第一图像块与所述第二图像块的第一图像块位置关系,以及所述第一图像块与所述第三图像块的第二图像块位置关系;
基于所述第一图像位置关系、所述第一图像块位置关系以及所述第二图像块位置关系,从所述第二图像块以及所述第三图像块中选择第一目标图像块作为所述第二碎片图像对应的单个匹配图像块,所述第一目标图像块与所述第一图像块的图像块位置关系与所述第一图像位置关系相同。
8.根据权利要求6所述的方法,其中,所述相邻碎片图像至少包括第三碎片图像以及第四碎片图像;
所述第三碎片图像对应的匹配图像块至少包括第四图像块以及第五图像块,所述第四碎片图像对应的匹配图像块至少包括第六图像块以及第七图像块;
所述根据所述相邻碎片图像中的碎片图像之间的图像位置关系,对至少两个所述匹配图像块进行筛选,得到所述相邻碎片图像中的碎片图像各自对应的单个匹配图像块,包括:
确定所述第三碎片图像与所述第四碎片图像的第二图像位置关系;
确定所述第四图像块与所述第六图像块的第三图像块位置关系,所述第四图像块与所述第七图像块的第四图像块位置关系,所述第五图像块与所述第六图像块的第五图像块位置关系,以及所述第五图像块与所述第七图像块的第六图像块位置关系;
从所述第三图像块位置关系、所述第四图像块位置关系、所述第五图像块位置关系以及所述第六图像块位置关系中确定与所述第二图像位置关系相同的目标图像块位置关系;
确定所述目标图像块位置关系对应的两个目标图像块中,与所述第三碎片图像对应的第二目标图像块为所述第三碎片图像对应的单个匹配图像块,与所述第四碎片图像对应的第三目标图像块为所述第四碎片图像对应的单个匹配图像块。
9.根据权利要求6所述的方法,其中,所述对各所述碎片图像进行方位矫正处理,得到矫正后的碎片图像,包括:
对各所述碎片图像进行图像检测,确定各所述碎片图像中的角点;
根据相邻角点的连线与水平方向的夹角,对各所述碎片图像进行旋转,得到所述矫正后的碎片图像,所述矫正后的碎片图像中相邻角点的连线与所述水平方向平行或者垂直。
10.根据权利要求1-9任一项所述的方法,其中,所述根据各所述碎片图像以及所述原始图像进行特征匹配之前,还包括:
若所述原始图像或者所述碎片图像包含背景,对所述原始图像或者所述碎片图像进行图像分割处理,得到不包含背景的原始图像或者不包含背景的碎片图像;
相应的,所述根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块,包括:
根据所述不包含背景的碎片图像以及所述不包含背景的原始图像进行特征匹配,确定各所述不包含背景的碎片图像在所述不包含背景的原始图像中的匹配图像块。
11.一种图像处理装置,包括:
第一获取模块,用于获取原始图像;
第二获取模块,用于获取至少两份碎片图像,所有所述碎片图像组成所述原始图像;
特征匹配模块,用于根据各所述碎片图像以及所述原始图像进行特征匹配,确定各所述碎片图像在所述原始图像中的匹配图像块;
确定至少两份碎片图像的相邻位置关系,得到相邻碎片图像;
图像块筛选模块,用于在所述相邻碎片图像中的至少一份碎片图像对应的匹配图像块为至少两个时,对至少两个所述匹配图像块进行筛选,得到单份所述碎片图像对应的单个匹配图像块;
位置确定模块,用于基于各所述碎片图像对应的单个匹配图像块,确定各所述碎片图像在所述原始图像中的位置;
所述位置确定模块,具体用于根据所述相邻碎片图像中的碎片图像之间的图像位置关系,对至少两个所述匹配图像块进行筛选,得到所述相邻碎片图像中的碎片图像各自对应的单个匹配图像块;其中,所述相邻碎片图像中的碎片图像各自对应的单个匹配图像块之间的位置关系与所述图像位置关系相同。
12. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-10中任一项所述的方法。
13.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-10中任一项所述的方法。
14.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-10中任一项所述的方法。
CN202010612852.1A 2020-06-30 2020-06-30 图像处理方法、装置、电子设备及存储介质 Active CN111784697B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010612852.1A CN111784697B (zh) 2020-06-30 2020-06-30 图像处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010612852.1A CN111784697B (zh) 2020-06-30 2020-06-30 图像处理方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN111784697A CN111784697A (zh) 2020-10-16
CN111784697B true CN111784697B (zh) 2024-03-08

Family

ID=72760444

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010612852.1A Active CN111784697B (zh) 2020-06-30 2020-06-30 图像处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111784697B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114926351B (zh) * 2022-04-12 2023-06-23 荣耀终端有限公司 图像处理方法、电子设备以及计算机存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103236050A (zh) * 2013-05-06 2013-08-07 电子科技大学 一种基于图聚类的辅助钞票残币重建方法
CN106778510A (zh) * 2016-11-25 2017-05-31 江西师范大学 一种超高分辨率遥感图像中高层建筑特征点匹配方法
CN110115839A (zh) * 2019-05-14 2019-08-13 北京字节跳动网络技术有限公司 用于生成图片的方法和装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2659745C1 (ru) * 2017-08-28 2018-07-03 Общество с ограниченной ответственностью "Аби Продакшн" Реконструкция документа из серии изображений документа

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103236050A (zh) * 2013-05-06 2013-08-07 电子科技大学 一种基于图聚类的辅助钞票残币重建方法
CN106778510A (zh) * 2016-11-25 2017-05-31 江西师范大学 一种超高分辨率遥感图像中高层建筑特征点匹配方法
CN110115839A (zh) * 2019-05-14 2019-08-13 北京字节跳动网络技术有限公司 用于生成图片的方法和装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
一种基于特征点集的图像匹配算法;杨小影;王亚利;王磊;;计算机与网络;20090912(第17期);全文 *
图像匹配方法研究综述;贾迪;朱宁丹;杨宁华;吴思;李玉秀;赵明远;;中国图象图形学报;20190516(第05期);全文 *

Also Published As

Publication number Publication date
CN111784697A (zh) 2020-10-16

Similar Documents

Publication Publication Date Title
CN112507949A (zh) 目标跟踪方法、装置、路侧设备以及云控平台
CN111462174B (zh) 多目标跟踪方法、装置以及电子设备
CN110929639A (zh) 用于确定图像中障碍物位置的方法、装置、设备和介质
CN111275827B (zh) 基于边缘的增强现实三维跟踪注册方法、装置和电子设备
CN111768381A (zh) 零部件缺陷检测方法、装置及电子设备
CN112634343A (zh) 图像深度估计模型的训练方法、图像深度信息的处理方法
CN111723768A (zh) 车辆重识别的方法、装置、设备和存储介质
CN110610575B (zh) 硬币识别方法及装置、收银机
JP7389824B2 (ja) オブジェクト識別方法と装置、電子機器及び記憶媒体
CN110968718A (zh) 目标检测模型负样本挖掘方法、装置及电子设备
CN113256583A (zh) 图像质量检测方法及装置、计算机设备和介质
CN111950537A (zh) 斑马线信息获取方法、地图更新方法、装置及系统
CN111539347A (zh) 用于检测目标的方法和装置
CN111832483A (zh) 一种兴趣点有效性识别方法、装置、设备以及存储介质
CN111191619B (zh) 车道线虚线段的检测方法、装置、设备和可读存储介质
CN114494751A (zh) 证照信息识别方法、装置、设备及介质
CN112560772A (zh) 人脸的识别方法、装置、设备及存储介质
CN112560459A (zh) 用于模型训练的样本筛选方法、装置、设备及存储介质
CN114067394A (zh) 人脸活体检测方法、装置、电子设备及存储介质
CN110909701B (zh) 行人特征的提取方法、装置、设备及介质
CN111949816A (zh) 定位处理方法、装置、电子设备和存储介质
CN111652112A (zh) 一种车道流向的识别方法、装置、电子设备及存储介质
CN111488821A (zh) 用于识别交通信号灯倒计时信息的方法及装置
CN112990127B (zh) 目标识别方法、装置、电子设备及存储介质
CN112215243B (zh) 图像特征提取方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant