[go: up one dir, main page]

KR102186605B1 - 다시점 영상 부호화/복호화 장치 및 방법 - Google Patents

다시점 영상 부호화/복호화 장치 및 방법 Download PDF

Info

Publication number
KR102186605B1
KR102186605B1 KR1020130112745A KR20130112745A KR102186605B1 KR 102186605 B1 KR102186605 B1 KR 102186605B1 KR 1020130112745 A KR1020130112745 A KR 1020130112745A KR 20130112745 A KR20130112745 A KR 20130112745A KR 102186605 B1 KR102186605 B1 KR 102186605B1
Authority
KR
South Korea
Prior art keywords
vector
candidate
motion vector
block
disparity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
KR1020130112745A
Other languages
English (en)
Other versions
KR20140043030A (ko
Inventor
이진영
이재준
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US14/432,404 priority Critical patent/US9900620B2/en
Priority to PCT/KR2013/008564 priority patent/WO2014051321A1/ko
Priority to CN201380051015.4A priority patent/CN104782126B/zh
Publication of KR20140043030A publication Critical patent/KR20140043030A/ko
Application granted granted Critical
Publication of KR102186605B1 publication Critical patent/KR102186605B1/ko
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

다시점 영상을 부호화/복호화하는 시스템이 개시된다. 일실시예에 따른 시스템은 다시점 영상 부호화 장치 및 다시점 영상 복호화 장치를 포함할 수 있다. 다시점 영상 부호화 장치는 복수의 후보 움직임 벡터들로부터 현재 블록에 가장 적합한 예측 움직임 벡터를 결정할 수 있고, 결정된 예측 움직임 벡터의 인덱스를 다시점 영상 복호화 장치에 전송할 수 있다.

Description

다시점 영상 부호화/복호화 장치 및 방법{APPARATUS AND METHOD FOR ENCODING AND DECODING MULTI-VIEW IMAGE}
아래의 설명은 다시점 영상을 부호화하는 다시점 영상 부호화 장치 및 방법, 부호화된 다시점 영상을 복호화하는 다시점 영상 복호화 장치 및 방법에 관한 것이다.
입체 영상이란 깊이 및 공간에 대한 형상 정보를 영상 정보와 동시에 제공하는 3차원 영상을 의미한다. 스테레오 영상의 경우, 좌우 눈에 각각 다른 시점의 영상을 제공하는 반면에, 입체 영상은 관찰자가 보는 시점을 달리할 때마다 다른 방향에서 본 것과 같은 영상을 제공한다. 따라서, 입체 영상을 생성하기 위해서는 여러 시점에서 촬영한 영상들이 필요하다.
복수의 시점에서 촬영한 영상들을 많은 데이터량을 가진다. 이와 같이 복수의 시점에서 촬영한 영상들을 MPEG-2, H.264/AVC, HEVC와 같은 단일 시점 비디오 부호화 방식으로 부호화하는 경우, 네트워크 인프라 및 지상파 대역폭을 고려하였을 때, 실현이 거의 불가능하다.
따라서, 복수의 시점에서 촬영한 영상들을 보다 효율적으로 부호화하기 위해서는 다시점 영상에 적합한 부호화 방식에 따른 부호화 방법이 필요하다. 그러나, 여전히 네트워크 인프라와 지상파 대역폭은 한정되어 있기 때문에, 다시점 비디오 압축 방식을 보다 효율적으로 개선하는 것이 요구된다.
일실시예에 따른 다시점 영상 부호화 방법은, 제1 시점 영상 내 현재 블록의 부호화와 관련된 움직임 벡터 후보를 식별하는 단계; 상기 식별된 움직임 벡터 후보에 기초하여 상기 현재 블록의 부호화에 이용될 예측 움직임 벡터를 결정하는 단계; 및 상기 예측 움직임 벡터의 인덱스를 비트스트림을 통해 다시점 영상 복호화 장치에 전송하는 단계를 포함할 수 있다.
일실시예에 따른 다시점 영상 복호화 방법은, 다시점 영상 부호화 장치로부터 수신한 비트스트림에서 예측 움직임 벡터의 인덱스를 추출하는 단계; 및 상기 예측 움직임 벡터의 인덱스에 기초하여 복호화하고자 하는 제1 시점 영상 내 현재 블록의 최종 움직임 벡터를 결정하는 단계를 포함할 수 있다.
일실시예에 따른 다시점 영상 부호화 장치는, 제1 시점 영상 내 현재 블록의 부호화와 관련된 움직임 벡터 후보를 식별하는 움직임 벡터 후보 식별부; 상기 식별된 움직임 벡터 후보에 기초하여 상기 현재 블록의 부호화에 이용될 예측 움직임 벡터를 결정하는 예측 움직임 벡터 결정부; 및 상기 예측 움직임 벡터의 인덱스를 비트스트림을 통해 다시점 영상 복호화 장치에 전송하는 비트스트림 전송부를 포함할 수 있다.
일실시예에 따른 다시점 영상 복호화 장치는, 다시점 영상 부호화 장치로부터 수신한 비트스트림에서 예측 움직임 벡터의 인덱스를 추출하는 인덱스 추출부; 및 상기 예측 움직임 벡터의 인덱스에 기초하여 복호화하고자 하는 제1 시점 영상 내 현재 블록의 최종 움직임 벡터를 결정하는 최종 움직임 벡터 결정부를 포함할 수 있다.
도 1은 일실시예에 따른 다시점 영상 부호화 장치와 다시점 영상 복호화 장치의 동작을 설명하기 위한 도면이다.
도 2는 일실시예에 따른 다시점 영상 부호화 장치를 도시한 도면이다.
도 3은 일실시예에 따른 다시점 영상 복호화 장치를 도시한 도면이다.
도 4는 일실시예에 따른 다시점 영상의 구조를 도시한 도면이다.
도 5는 일실시예에 따른 현재 블록을 코딩할 때 사용되는 참조 영상을 도시한 도면이다.
도 6은 일실시예에 따른 다시점 영상을 부호화할 때 사용되는 부호화 모드를 도시한 도면이다.
도 7은 일실시예에 따른 변이 벡터를 이용하여 시점상 후보 벡터를 식별하는 과정을 도시한 도면이다.
도 8은 일실시예에 따른 변이 벡터를 유도하는 과정을 설명하기 위한 도면이다.
도 9는 일실시예에 따른 다시점 영상을 부호화하는 방법을 도시한 흐름도이다.
도 10은 일실시예에 따른 다시점 영상을 복호화하는 방법을 도시한 흐름도이다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 아래의 특정한 구조적 내지 기능적 설명들은 단지 발명의 실시예들을 설명하기 위한 목적으로 예시된 것으로, 발명의 범위가 본문에 설명된 실시예들에 한정되는 것으로 해석되어서는 안된다. 일실시예에 따른 다시점 영상 부호화 방법은 다시점 영상 부호화 장치에 의해 수행될 수 있으며, 다시점 영상 복호화 방법은 다시점 영상 복호화 장치에 의해 수행될 수 있다. 각 도면에 제시된 동일한 참조부호는 동일한 부재를 나타낸다.
실시예들을 상세하게 설명하기 전에, 실시예 또는 특허청구범위에 기재된 용어들을 다음과 같이 정의한다.
(1) 현재 블록(current block): 현재 블록은 다시점 영상에 포함된 어느 한 시점의 영상에서 부호화 또는 복호화하고자 하는 블록을 나타낸다.
(2) 제1 시점 영상: 제1 시점 영상은 다시점 영상에 포함된 시점 영상들 중 현재 블록을 포함하고 있는 시점 영상을 나타낸다. 일실시예에서, 제1 시점 영상은 현재 시점 영상과 동일한 의미를 가진다.
(3) 제2 시점 영상: 제2 시점 영상은 제1 시점 영상 이전에 부호화 또는 복호화된 시점 영상으로서, 제1 시점 영상과 다른 시점을 가지고 있는 시점 영상을 나타낸다.
(4) 대응 블록(corresponding block): 대응 블록은 현재 블록에 대응하는 제2 시점 영상 내 블록을 나타낸다.
(5) 동위치 블록(co-located block): 동위치 블록은 현재 시점 영상 이전에 부호화 또는 복호화되고, 현재 시점 영상과 동일 시점을 가진 프레임 내에서 현재 블록과 동일한 위치에 있는 블록을 나타낸다.
도 1은 일실시예에 따른 다시점 영상 부호화 장치와 다시점 영상 복호화 장치의 동작을 설명하기 위한 도면이다.
일실시예에 따른 다시점 영상 부호화 장치(110)는 다시점 영상을 부호화하고, 부호화된 데이터를 비트스트림 형태로 생성하여 다시점 영상 복호화 장치(120)에 전송할 수 있다. 다시점 영상은 여러 시점에서 촬영된 영상들을 포함할 수 있다. 다시점 영상은 시간적으로 연속적인 영상들 간에 나타나는 시간적 중복성 뿐만 아니라 서로 다른 시점의 영상들 간에 나타나는 시점간 중복성을 가지고 있다. 다시점 영상 부호화 장치(110)는 블록 기반의 부호화 과정에서 각각의 블록에 대해 부호화 효율을 최대화할 수 있는 움직임 벡터(motion vector)를 결정함으로써, 영상들 간의 중복성을 최소화할 수 있다.
다시점 영상 부호화 장치(110)는 다양한 부호화 모드에 따라 다시점 영상을 부호화할 수 있다. 다시점 영상 부호화 장치(110)는 부호화하고자 하는 현재 블록에 가장 유사한 예측 블록을 가리키는 예측 움직임 벡터를 이용하여 현재 블록을 부호화할 수 있다. 다시점 영상 부호화 장치(110)는 다시점 영상을 부호화하는 과정에서 영상들 간의 중복성을 최대한으로 제거함으로써, 부호화된 다시점 영상을 보다 적은 양의 데이터로 나타낼 수 있다. 다시점 영상 부호화 장치(110)는 영상들 간의 중복성을 제거하기 위해 블록 기반의 인트라(Intra), 인터(Inter), 또는 인터뷰(Inter-View) 예측 방법을 이용할 수 있다.
다시점 영상 부호화 장치(110)는 현재 블록에 대해 다양한 움직임 벡터 후보들(motion vector candidates)을 식별하고, 움직임 벡터 후보들 중에서 현재 블록의 부호화 효율을 최대화할 수 있는 예측 움직임 벡터를 결정할 수 있다. 다시점 영상 부호화 장치(110)는 결정된 예측 움직임 벡터의 인덱스를 비트스트림을 통해 다시점 영상 복호화 장치(120)에 전송할 수 있다.
예를 들어, 다시점 영상 부호화 장치(110)는 부호화하고자 하는 현재 블록이 포함된 시점 영상과 다른 시점의 영상에서 현재 블록과 가장 유사한 예측 블록을 탐색할 수 있다. 또는, 다시점 영상 부호화 장치(110)는 현재 블록이 포함된 시점 영상의 이전에 부호화된 프레임에서 현재 블록과 가장 유사한 예측 블록을 탐색할 수 있다. 다시점 영상 부호화 장치(110)는 현재 블록과 예측 블록 간의 관계를 나타내는 예측 움직임 벡터를 예측 움직임 벡터의 인덱스로 나타내고, 예측 움직임 벡터의 인덱스에 대한 정보를 다시점 영상 복호화 장치(120)에 전송할 수 있다.
다시점 영상 복호화 장치(120)는 다시점 영상 부호화 장치(110)로부터 부호화된 다시점 영상을 비트스트림 형태로 수신할 수 있다. 또한, 다시점 영상 복호화 장치(120)는 비트스트림으로부터 복호화 과정에서 이용할 예측 움직임 벡터의 인덱스를 추출할 수 있다. 다시점 영상 복호화 장치(120)는 예측 움직임 벡터의 인덱스로부터 예측 움직임 벡터를 식별할 수 있다. 다시점 영상 복호화 장치(120)는 다시점 영상의 부호화 과정에 적용된 부호화 모드에 따라 예측 움직임 벡터에 기초하여 최종 움직임 벡터를 결정할 수 있다.
도 2는 일실시예에 따른 다시점 영상 부호화 장치를 도시한 도면이다.
도 2를 참조하면, 다시점 영상 부호화 장치(210)는 움직임 벡터 후보 식별부(230), 예측 움직임 벡터 결정부(240) 및 비트스트림 전송부(250)를 포함할 수 있다.
움직임 벡터 후보 식별부(230)는 제1 시점 영상 내 현재 블록의 부호화와 관련된 움직임 벡터 후보를 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 공간상 후보 벡터(spatial candidate vector), 시간상 후보 벡터(temporal candidate vector), 시점상 후보 벡터(inter-view candidate vector), 또는 변이 후보 벡터(disparity candidate vector)를 식별할 수 있다.
공간상 후보 벡터는 부호화하고자 하는 현재 블록에 이웃한 주변 블록의 움직임 벡터를 나타낸다. 움직임 벡터 후보 식별부(230)는 현재 블록에 이웃한 주변 블록이 움직임 벡터를 가지고 있는지 여부를 식별하여 주변 블록의 움직임 벡터를 공간상 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다. 예를 들어, 움직임 벡터 후보 식별부(230)는 현재 블록의 좌측 블록, 현재 블록의 상단 블록, 현재 블록의 좌측 상단 블록, 또는 현재 블록의 우측 상단 블록이 움직임 벡터를 가지고 있는지 여부를 식별할 수 있다.
시간상 후보 벡터는 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 움직임 벡터를 나타낸다. 예를 들어, 현재 블록의 중심 위치가 (x, y)라고 가정하는 경우, 동위치 블록은 제1 시점 영상과 시간상으로 다른 위치에 존재하는 프레임 내에서 중심 위치가 (x, y)인 블록을 나타낸다. 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임은, 제1 시점 영상과 시간상으로 다른 위치에 존재하는 프레임으로서, 제1 시점 영상과 동일한 시점을 가진 프레임을 나타낸다.
시간상 후보 벡터는 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 포함할 수 있다. 예를 들어, 동위치 블록의 주변 블록은 동위치 블록의 좌측 블록, 동위치 블록의 상단 블록, 동위치 블록의 우측 상단 블록, 또는 동위치 블록의 좌측 상단 블록을 포함할 수 있다. 움직임 벡터 후보 식별부(230)는 동위치 블록 또는 동위치 블록에 이웃한 주변 블록이 움직임 벡터를 가지고 있는지 여부를 식별하고, 동위치 블록의 움직임 벡터 및 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 시간상 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다.
시점상 후보 벡터는 현재 블록에 대응하는 제2 시점 영상 내 대응 블록의 움직임 벡터를 나타낸다. 제2 시점 영상은 제1 시점 영상과 다른 시점을 갖는 시점 영상을 나타낸다. 움직임 벡터 후보 식별부(230)는 제2 시점 영상의 대응 블록에 움직임 벡터가 존재하는 경우, 해당 움직임 벡터를 시점상 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다.
움직임 벡터 후보 식별부(230)는 시점상 후보 벡터가 존재하는지 여부를 식별하기 위해 변이 벡터(disparity vector)를 이용할 수 있다. 예를 들어, 움직임 벡터 후보 식별부(230)는 시점상 후보 벡터가 존재하는지 여부를 식별하기 위해 현재 블록의 주변 블록의 변이 벡터, 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터, 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터를 이용할 수 있다.
일실시예에 따르면, 움직임 벡터 후보 식별부(230)는 시점상 후보 벡터를 첫 번째 시점상 후보 벡터와 두 번째 시점상 후보 벡터로 분류하여 식별할 수 있다. 첫 번째 시점상 후보 벡터와 두 번째 시점상 후보 벡터가 동일한 경우, 움직임 벡터 후보 식별부(230)는 둘 중 어느 하나의 시점상 후보 벡터만을 움직임 벡터 후보에 포함시킬 수 있다.
예를 들어, 움직임 벡터 후보 식별부(230)는 첫 번째 시점상 후보 벡터를 현재 블록에 이웃한 주변 블록의 변이 벡터를 이용하여 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 현재 블록에 이웃한 주변 블록에 변이 벡터가 존재하지 않는 경우, 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터 및 동위치 블록의 주변 블록의 변이 벡터 중 적어도 하나에 기초하여 상기 시점상 후보 벡터가 존재하는지 여부를 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 두 번째 시점상 후보 벡터를 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터 및 동위치 블록의 주변 블록의 변이 벡터 중 적어도 하나를 이용하여 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 동위치 블록 및 동위치 블록에 이웃한 주변 블록에 변이 벡터가 존재하지 않는 경우, 현재 블록에 이웃한 주변 블록의 변이 벡터에 기초하여 시점상 후보 벡터가 존재하는지 여부를 식별할 수 있다.
다른 예로, 움직임 벡터 후보 식별부(230)는 첫 번째 시점상 후보 벡터를 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터 및 동위치 블록의 주변 블록의 변이 벡터 중 적어도 하나를 이용하여 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 동위치 블록 및 동위치 블록에 이웃한 주변 블록에 변이 벡터가 존재하지 않는 경우, 현재 블록에 이웃한 주변 블록의 변이 벡터에 기초하여 시점상 후보 벡터가 존재하는지 여부를 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 두 번째 시점상 후보 벡터를 현재 블록에 이웃한 주변 블록의 변이 벡터를 이용하여 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 현재 블록에 이웃한 주변 블록에 변이 벡터가 존재하지 않는 경우, 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터 및 동위치 블록의 주변 블록의 변이 벡터 중 적어도 하나에 기초하여 상기 시점상 후보 벡터가 존재하는지 여부를 식별할 수 있다.
다른 실시예에 따르면, 움직임 벡터 후보 식별부(230)는 현재 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있는 경우, 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인지 여부를 판단할 수 있다. 움직임 벡터 후보 식별부(230)는 판단 결과, 주변 블록의 움직임 벡터가 변이 벡터를 이용하여 획득된 움직임 벡터인 경우에는, 해당 변이 벡터를 이용하여 시점상 후보 벡터의 존재 여부를 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 현재 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직인 벡터는 가지고 있는 경우, 시점상 후보 벡터를 식별하는 과정의 복잡도(complexity)를 계산하고, 복잡도가 미리 설정된 임계값보다 큰 경우에는 시점상 후보 벡터를 움직임 벡터 후보에 포함시키지 않을 수 있다.
또한, 움직임 벡터 후보 식별부(230)는 동위치 블록 또는 동위치 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있는 경우, 동위치 블록 또는 동위치 블록에 이웃한 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인지 여부를 판단할 수 있다. 움직임 벡터 후보 식별부(230)는 판단 결과, 동위치 블록 또는 동위치 블록에 이웃한 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인 경우에는 해당 변이 벡터를 이용하여 시점상 후보 벡터의 존재 여부를 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 동위치 블록 또는 동위치 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있는 경우, 시점상 후보 벡터를 식별하는 과정의 복잡도를 계산하고, 복잡도가 미리 설정된 임계값보다 큰 경우에는 시점상 후보 벡터를 움직임 벡터 후보에 포함시키지 않을 수 있다.
현재 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있는 경우, 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인지 여부를 판단할 수 있다. 움직임 벡터 후보 식별부(230)는 판단 결과, 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인 경우에는 해당 변이 벡터를 이용하여 시점상 후보 벡터의 존재 여부를 식별할 수 있다.
움직임 벡터 후보 식별부(230)는 시점상 후보 벡터가 존재하지 않는 경우, 영벡터(zero motion vector)를 현재 블록의 변이 벡터로 결정하고, 결정된 현재 블록의 변이 벡터에 기초하여 시점상 후보 벡터가 존재하는지 여부를 식별할 수 있다. 예를 들어, 움직임 벡터 후보 식별부(230)는 시점상 후보 벡터가 존재하지 않는 경우, 현재 블록의 변이 벡터를 영벡터로 설정하여, 다른 시점의 시점 영상에서 현재 블록에 대응되는 대응 블록의 움직임 벡터를 식별할 수 있다. 또는, 움직임 벡터 후보 식별부(230)는 시점상 후보 벡터가 존재하지 않는 경우, 영벡터를 시점상 후보 벡터로 결정할 수 있다.
다른 실시예에 따르면, 움직임 벡터 후보 식별부(230)는 현재 블록에 이웃한 주변 블록, 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록, 및 동위치 블록에 이웃한 주변 블록이 변이 벡터를 가지고 있지 않은 경우에는, 시점상 후보 벡터를 움직임 벡터 후보에 포함시키지 않을 수 있다.
또 다른 실시예에 따르면, 움직임 벡터 후보 식별부(230)는 시점상 후보 벡터가 존재하지 않는 경우에는, 시점상 후보 벡터를 움직임 벡터 후보에 포함시키지 않을 수 있다.
변이 후보 벡터는 현재 블록에 대응하는 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 나타낸다. 예를 들어, 변이 후보 벡터는 현재 블록에 이웃한 주변 블록의 변이 벡터, 동위치 블록의 변이 벡터, 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터 등을 포함할 수 있다. 움직임 벡터 후보 식별부(230)는 변이 후보 벡터의 존재 여부를 식별하고, 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 변이 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다.
예를 들어, 움직임 벡터 후보 식별부(230)는 현재 블록에 대한 변이 벡터를 찾으면, 해당 변이 벡터가 가리키는 제2 시점 영상 내 대응 블록을 탐색하고, 그 대응 블록의 움직임 벡터를 시점상 후보 벡터로 결정할 수 있다. 여기서, 움직임 벡터 후보 식별부(230)는 제2 시점 영상 내 대응 블록을 탐색하기 위해 이용한 변이 벡터를 변이 후보 벡터로 식별하여 움직임 벡터 후보에 포함시킬 수 있다.
시점상 후보 벡터를 첫 번째 시점상 후보 벡터와 두 번째 시점상 후보 벡터로 분류하여 식별하는 경우, 움직임 벡터 후보 식별부(230)는 각각의 시점상 후보 벡터와 관련된 두 개의 변이 후보 벡터를 식별할 수 있다. 움직임 벡터 후보 식별부(230)는 식별한 두 개의 변이 후보 벡터가 동일한 경우에는, 둘 중 어느 하나의 변이 후보 벡터만을 움직임 벡터 후보에 포함시킬 수 있다.
예측 움직임 벡터 결정부(240)는 식별된 움직임 벡터 후보에 기초하여 현재 블록의 부호화에 이용될 예측 움직임 벡터를 결정할 수 있다. 예측 움직임 벡터 결정부(240)는 여러 움직임 벡터 후보들 중에 가장 효율적인 움직임 벡터 후보를 결정할 수 있다. 예를 들어, 예측 움직임 벡터 결정부(240)는 현재 블록과 각각의 움직임 벡터 후보들이 가리키는 예측 블록 간의 유사성 정도를 판단하고, 현재 블록과 가장 유사한 예측 블록을 가리키는 움직임 벡터 후보를 예측 움직임 벡터로 결정할 수 있다. 예를 들어, 예측 움직임 벡터 결정부(240)는 현재 블록과 예측 블록 간의 차이를 표현하기 위한 필요 비트수를 최소로 하는 예측 블록을 식별하고, 식별된 예측 블록을 가리키는 움직임 벡터 후보를 예측 움직임 벡터로 결정할 수 있다.
비트스트림 전송부(250)는 예측 움직임 벡터의 인덱스를 비트스트림을 통해 다시점 영상 복호화 장치(220)에 전송할 수 있다.
부호화 모드가 머지 모드 또는 인터 모드인 경우, 비트스트림 전송부(250)는 부호화된 현재 블록과 예측 움직임 벡터가 가리키는 예측 블록의 잔차 신호를 비트스트림을 통해 다시점 영상 복호화 장치(220)에 전송할 수 있다.
일실시예에 따르면, 부호화되기 전의 잔차 신호는 제2 시점 영상을 부호화할 때 발생된 잔차 신호로부터 예측될 수 있다. 제2 시점 영상에서 발생된 잔차 신호(residual signal)를 예측하기 위해 변이 벡터를 이용할 수 있다. 제2 시점 영상에서 발생된 잔차 신호를 예측하기 위해 현재 블록에 이웃한 주변 블록의 변이 벡터, 동위치 블록의 변이 벡터, 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터를 이용할 수 있다. 예를 들어, 현재 블록에 이웃한 주변 블록의 변이 벡터를 이용하여 제2 시점 영상에서 발생된 잔차 신호를 예측할 수 있고, 만약 현재 블록에 이웃한 주변 블록에 변이 벡터가 존재하지 않는다면, 동위치 블록의 변이 벡터 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터를 이용할 수 있다. 다른 예로, 동위치 블록의 변이 벡터 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터를 이용하여 제2 시점 영상에서 발생된 잔차 신호를 예측할 수 있고, 만약 동위치 블록 및 동위치 블록의 주변 블록에 변이 벡터가 존재하지 않는다면, 현재 블록에 이웃한 주변 블록의 변이 벡터를 이용할 수 있다. 다시점 영상 부호화 장치(210)는 현재 블록의 잔차 신호와 변이 벡터를 이용하여 식별한 제2 시점 영상에서 발생된 잔차 신호 간의 차분 신호를 부호화할 수 있다. 다시점 영상 부호화 장치(210)는 예측 블록이 제2 시점 영상을 이용하여 예측된 경우, 제2 시점 영상에서 발생된 잔차 신호를 예측하지 않을 수 있다. 다른 예로, 다시점 영상 부호화 장치(210)는 예측 블록이 제1 시점 영상과 동일한 시점의 영상과 제2 시점 영상을 함께 이용하여 예측된 경우, 제2 시점 영상에서 발생된 잔차 신호를 예측하지 않을 수 있다.
도 3은 일실시예에 따른 다시점 영상 복호화 장치를 도시한 도면이다.
도 3을 참조하면, 다시점 영상 복호화 장치(320)는 인덱스 추출부(330) 및 최종 움직임 벡터 결정부(340)를 포함할 수 있다.
인덱스 추출부(330)는 다시점 영상 부호화 장치(310)로부터 수신한 비트스트림에서 예측 움직임 벡터의 인덱스를 추출할 수 있다. 최종 움직임 벡터 결정부(340)는 예측 움직임 벡터의 인덱스에 기초하여 복호화하고자 하는 제1 시점 영상 내 현재 블록의 최종 움직임 벡터를 결정할 수 있다. 예를 들어, 최종 움직임 벡터 결정부(340)는 예측 움직임 벡터를 최종 움직임 벡터로 결정할 수 있다. 다른 실시예에 따르면, 최종 움직임 벡터 결정부(340)는 예측 움직임 벡터를 기초로 하여 현재 블록과 보다 유사한 예측 블록을 새로이 탐색할 수 있고, 새로이 탐색된 예측 블록에 기초하여 최종 움직임 벡터를 결정할 수 있다.
예측 움직임 벡터는 다시점 영상 부호화 장치(310)가 식별한 움직임 벡터 후보에 기초하여 결정될 수 있다. 움직임 벡터 후보는 시점상 후보 벡터, 공간상 후보 벡터, 시간상 후보 벡터, 및 변이 후보 벡터 중 적어도 하나를 포함할 수 있다.
공간상 후보 벡터는 부호화하고자 하는 현재 블록에 이웃한 주변 블록의 움직임 벡터를 나타낸다. 예를 들어, 공간상 후보 벡터는 현재 블록의 좌측 블록, 현재 블록의 상단 블록, 현재 블록의 좌측 상단 블록, 또는 현재 블록의 우측 상단 블록이 움직임 벡터를 포함할 수 있다.
시간상 후보 벡터는 제1 시점 영상 이전에 복호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 움직임 벡터를 나타낸다. 제1 시점 영상 이전에 복호화된 제1 시점 영상의 프레임은, 제1 시점 영상과 시간상으로 다른 위치에 존재하는 프레임으로서, 제1 시점 영상과 동일한 시점을 가진 프레임을 나타낸다. 시간상 후보 벡터는 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 포함할 수 있다.
시점상 후보 벡터는 복호화하고자 하는 현재 블록에 대응하는 제2 시점 영상 내 대응 블록의 움직임 벡터를 나타낸다. 예를 들어, 시점상 후보 벡터는 현재 블록에 이웃한 주변 블록의 변이 벡터 및 제1 시점 영상 이전에 복호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터, 동위치 블록의 주변 블록의 변이 벡터, 또는 영벡터 등에 기초하여 결정될 수 있다.
변이 후보 벡터는 현재 블록에 대응하는 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 나타낸다. 예를 들어, 변이 후보 벡터는 현재 블록에 이웃한 주변 블록의 변이 벡터, 동위치 블록의 변이 벡터, 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터 등을 포함할 수 있다.
도 4는 일실시예에 따른 다시점 영상의 구조를 도시한 도면이다.
도 4를 참고하면, 일실시예에 따라 3개 시점(Left view, Center view, Right view)의 영상을 입력받았을 때, GOP(Group of Picture) '8'로 부호화하는 다시점 영상 부호화 방식(Multi-view Video Coding, MVC)을 나타낸다. GOP는 I-프레임으로 시작하는 연속적인 이미지들의 집합을 의미한다.
다시점(Multi-view) 영상을 부호화하는 과정에서는 기본적으로 시간(Temporal)축과 시점(View)축으로 계층적 B 영상(Hierarchical B Picture, 또는 계층적 B-프레임)의 개념을 이용하기 때문에 영상 간의 중복성(Redundancy)은 감소될 수 있다.
도 1의 다시점 영상 부호화 장치(110)는 도 4에 도시된 다시점 영상의 구조에 따라 좌측 영상(Left Picture: I-view)을 부호화하고, 우측 영상(Right Picture: P-view)과 중앙 영상(Center Picture: B-view)를 차례대로 부호화함으로써 3개 시점에 대응하는 영상을 부호화할 수 있다. 단, 다시점 영상 부호화 장치(110)는 우측 영상 또는 중앙 영상을 먼저 부호화할 수도 있으며, 위에 기재된 부호화 순서에 한정되는 것은 아니다.
좌측 영상을 부호화하는 과정에서, 움직임 추정(Motion Estimation)을 통해 이전 영상들에서 좌측 영상과 비슷한 영역을 탐색할 수 있고, 탐색된 영역의 정보를 이용함으로써 시간적 중복성은 감소될 수 있다. 좌측 영상 이후에 부호화되는 우측 영상은 이미 부호화된 좌측 영상을 참조하여 부호화되기 때문에, 움직임 추정을 통한 시간적 중복성 뿐만 아니라 변이 추정(Disparity Estimation)을 통한 시점간의 중복성(View Redundancy)도 감소될 수 있다. 또한, 중앙 영상은 이미 부호화된 좌측 영상과 우측 영상을 모두 참조하여 변이 추정을 통한 부호화를 수행할 수 있기 때문에, 시점간 중복성이 감소될 수 있다.
도 4를 참고하면, 다시점 영상을 부호화하는 과정에서, 좌측 영상과 같이 다른 시점의 영상을 이용하지 않고 부호화되는 영상은 I-View 영상, 우측 영상과 같이 다른 시점의 영상을 단방향으로 예측하여 부호화되는 영상은 P-View 영상, 그리고 중앙 영상과 같이 서로 다른 시점의 영상들을 양방향으로 예측하여 부호화되는 영상은 B-View 영상이라고 정의될 수 있다.
도 5는 일실시예에 따른 현재 블록을 코딩할 때 사용되는 참조 영상을 도시한 도면이다.
다시점 영상 부호화 장치는 현재 시점 영상 B (510)에 포함된 현재 블록을 부호화할 때, 현재 시점 영상 B (510)와 시점상으로 주변에 위치한 영상들(540, 550) 또는 현재 시점 영상 B (510)의 시간상으로 주변에 위치한 영상들(520, 530)을 참조 영상으로 이용할 수 있다. 예를 들어, 다시점 영상 부호화 장치는 주변에 위치한 영상들(520~550)에서 현재 블록과 가장 유사한 예측 블록을 식별하고, 현재 블록과 예측 블록 사이의 잔차 신호(Residue)를 부호화할 수 있다. H.264/AVC의 경우, 참조 영상을 이용하여 예측 블록을 탐색하는 부호화 모드는 SKIP(P Slice Only)/Direct(B Slice Only), 16x16, 16x8, 8x16, P8x8 모드 등을 포함할 수 있다. HEVC(high efficiency video coding)의 경우, 참조 영상을 이용하여 예측 블록을 탐색하는 부호화 모드는 Merge(SKIP/DIRECT), 2NX2N, NXN, 2NxN, NX2N 모드 등을 포함할 수 있다.
다시점 영상 부호화 장치는 현재 블록을 부호화하는 과정에서, 시간적 중복성을 감소시키기 위해 현재 시점 영상 B (510)에 대해 시간상으로 주변에 위치하는 참조 영상(520, 530)을 이용할 수 있다. 또한, 다시점 영상 부호화 장치는 시점간 중복성을 감소시키기 위해 현재 시점 영상에 대해 시점상 주변에 위치하는 참조 영상(540, 550)을 이용할 수 있다. 다시점 영상 부호화 장치는 시간적인 중복성을 제거하기 위해 Ref1 영상(520) 및 Ref2 영상(530)을 이용할 수 있고, 시점 간의 중복성을 제거하기 위해 Ref3 영상(540) 및 Ref4 영상(550)을 이용할 수 있다.
도 6은 일실시예에 따른 다시점 영상을 부호화할 때 사용되는 부호화 모드를 도시한 도면이다.
다시점 영상 부호화 장치는 코딩 단위 블록을 예측하는데 있어서, 시점 영상을 복수 개의 블록으로 세분화할 수 있으며, 세분화된 블록의 크기는 각각의 블록마다 다양할 수 있다. 다시점 영상 부호화 장치는 세분화된 블록들에 다양한 압축 모드(예를 들어, 머지(Merge) 모드, 인터 모드-2NX2N, NXN, 2NXN, NX2N 등-, 인트라 모드 등)를 적용할 수 있다. 다시점 영상 부호화 장치는 여러 부호화 모드 중 세분화된 블륵들 각각에 가장 적합한 부호화 모드를 결정하고, 결정된 부호화 모드에 따라 세분화된 블록을 부호화할 수 있다.
다양한 압축 모드 중 머지 모드는 부호화되는 블록들의 움직임 정보를 부호화하지 않기 때문에 다시점 영상을 부호화하여 전송하는데 필요한 비트량을 줄일 수 있다. 시점 영상을 부호화하는 과정에서 머지 모드가 많이 선택될수록 부호화 성능은 더욱 개선될 수 있다.
도 7은 일실시예에 따른 변이 벡터를 이용하여 시점상 후보 벡터를 식별하는 과정을 도시한 도면이다.
도 7를 참조하면, 다시점 영상 부호화 장치는 제1 시점 영상(710)에서 현재 블록(730)에 대한 변이 벡터(740)를 이용하여 현재 블록(730)의 부호화와 관련된 시점상 후보 벡터(760)를 식별할 수 있다.
예를 들어, 다시점 영상 부호화 장치는 현재 블록(730)의 주변 블록, 제1 시점 영상(710) 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록(730)과 동일한 위치에 있는 동위치 블록의 변이 벡터, 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터(740)를 이용할 수 있다. 다시점 영상 부호화 장치는 변이 벡터(740)가 가리키는 제2 시점 영상(720) 내 대응 블록의 움직임 벡터(750)를 시점상 후보 벡터(760)로 결정할 수 있다.
다른 실시예에 따르면, 다시점 영상 부호화 장치는 영벡터를 현재 블록(730)의 변이 벡터(740)로 결정할 수 있고, 영벡터의 변이 벡터(740)에 기초하여 현재 블록(730)에 대응하는 제2 시점 영상(720) 내 대응 블록의 움직임 벡터(750)를 식별하여 시점상 후보 벡터(760)로 결정할 수 있다.
또 다른 실시예에 따르면, 다시점 영상 부호화 장치는 현재 블록(730)에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있고, 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인 경우에는 해당 변이 벡터(740)를 이용하여 시점상 후보 벡터(760)의 존재 여부를 식별할 수 있다. 다시점 영상 부호화 장치는 동위치 블록 또는 동위치 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지는 않으나 움직임 벡터는 가지고 있고, 동위치 블록 또는 동위치 블록에 이웃한 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인 경우, 해당 변이 벡터(740)를 이용하여 시점상 후보 벡터(760)의 존재 여부를 식별할 수 있다.
도 8은 일실시예에 따른 변이 벡터를 유도하는 과정을 설명하기 위한 도면이다.
도 8을 참조하면, (a)는 다시점 영상 부호화 장치가 시점상 후보 벡터를 식별하기 위해 현재 블록(810)의 주변 블록(820)을 이용하여 변이 벡터를 유도하는 과정을 설명하기 위한 것이다. (a)에서, 현재 블록(810)에 이웃한 주변 블록(820)의 움직임 벡터는 공간상 후보 벡터에 대응될 수 있다. 다시점 영상 부호화 장치는 현재 블록(810)에 이웃한 주변 블록(820)의 변이 벡터를 이용하여 제2 시점 영상 내 대응 블록이 가지는 움직임 벡터를 시점상 후보 벡터를 식별할 수 있다.
(b)는 다시점 영상 부호화 장치가 시점상 후보 벡터를 식별하기 위해 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록(830), 또는 동위치 블록(830)에 이웃한 주변 블록(840)을 이용하여 변이 벡터를 유도하는 과정을 설명하기 위한 것이다. (b)에서, 동위치 블록(830)의 움직임 벡터 및 동위치 블록(830)에 이웃한 주변 블록(840)의 움직임 벡터는 시간상 후보 벡터에 대응될 수 있다. 다시점 영상 부호화 장치는 동위치 블록(830)의 변이 벡터 또는 동위치 블록(830)에 이웃한 주변 블록(840)의 변이 벡터를 이용하여 제2 시점 영상 내 대응 블록이 가지는 움직임 벡터를 시점상 후보 벡터를 식별할 수 있다.
도 9는 일실시예에 따른 다시점 영상을 부호화하는 방법을 도시한 흐름도이다.
단계(910)에서, 다시점 영상 부호화 장치는 제1 시점 영상 내 현재 블록의 부호화와 관련된 움직임 벡터 후보를 식별할 수 있다. 다시점 영상 부호화 장치는 공간상 후보 벡터, 시간상 후보 벡터, 시점상 후보 벡터, 또는 변이 후보 벡터를 식별할 수 있다.
다시점 영상 부호화 장치는 현재 블록에 이웃한 주변 블록이 움직임 벡터를 가지고 있는지 여부를 식별하여 주변 블록의 움직임 벡터를 공간상 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다. 다시점 영상 부호화 장치는 동위치 블록 또는 동위치 블록에 이웃한 주변 블록이 움직임 벡터를 가지고 있는지 여부를 식별하고, 동위치 블록의 움직임 벡터 및 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 시간상 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다.
다시점 영상 부호화 장치는 제2 시점 영상의 대응 블록에 움직임 벡터가 존재하는 경우, 해당 움직임 벡터를 시점상 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다. 다시점 영상 부호화 장치는 시점상 후보 벡터가 존재하는지 여부를 식별하기 위해 변이 벡터를 이용할 수 있다. 다시점 영상 부호화 장치는 시점상 후보 벡터가 존재하는지 여부를 식별하기 위해, 현재 블록에 이웃한 주변 블록의 변이 벡터, 제1 시점 영상 이전에 부호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터, 동위치 블록에 이웃한 주변 블록의 변이 벡터, 또는 영벡터를 이용할 수 있다.
일실시예에 따르면, 다시점 영상 부호화 장치는 시점상 후보 벡터를 첫 번째 시점상 후보 벡터와 두 번째 시점상 후보 벡터로 분류하여 식별할 수 있다. 첫 번째 시점상 후보 벡터와 두 번째 시점상 후보 벡터가 동일한 경우, 다시점 영상 부호화 장치는 하나의 시점상 후보 벡터만을 움직임 벡터 후보에 포함시킬 수 있다.
다른 실시예에 따르면, 다시점 영상 부호화 장치는 시점상 후보 벡터가 존재하지 않는 경우, 영벡터를 현재 블록의 변이 벡터로 결정하고, 결정된 현재 블록의 변이 벡터에 기초하여 시점상 후보 벡터가 존재하는지 여부를 식별할 수 있다. 또 다른 실시예에 따르면, 다시점 영상 부호화 장치는 시점상 후보 벡터가 존재하지 않는 경우에는 시점상 후보 벡터를 움직임 벡터 후보에 포함시키지 않을 수 있다.
다시점 영상 부호화 장치는 변이 후보 벡터의 존재 여부를 식별하고, 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 변이 후보 벡터로서 움직임 벡터 후보에 포함시킬 수 있다.
단계(920)에서, 다시점 영상 부호화 장치는 예측 움직임 벡터 결정부는 식별된 움직임 벡터 후보에 기초하여 현재 블록의 부호화에 이용될 예측 움직임 벡터를 결정할 수 있다. 다시점 영상 부호화 장치는 여러 움직임 벡터 후보들 중에 가장 효율적인 움직임 벡터 후보를 결정할 수 있다.
단계(930)에서, 다시점 영상 부호화 장치는 예측 움직임 벡터의 인덱스를 비트스트림을 통해 다시점 영상 복호화 장치에 전송할 수 있다.
도 10은 일실시예에 따른 다시점 영상을 복호화하는 방법을 도시한 흐름도이다.
단계(1010)에서, 다시점 영상 복호화 장치는 다시점 영상 부호화 장치로부터 수신한 비트스트림에서 예측 움직임 벡터의 인덱스를 추출할 수 있다. 예측 움직임 벡터는 다시점 영상 부호화 장치가 식별한 움직임 벡터 후보에 기초하여 결정될 수 있다. 움직임 벡터 후보는 시점상 후보 벡터, 공간상 후보 벡터, 시간상 후보 벡터, 및 변이 후보 벡터 중 적어도 하나를 포함할 수 있다.
공간상 후보 벡터는 부호화하고자 하는 현재 블록에 이웃한 주변 블록의 움직임 벡터를 나타낸다. 시간상 후보 벡터는 제1 시점 영상 이전에 복호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 움직임 벡터를 나타낸다. 제1 시점 영상 이전에 복호화된 제1 시점 영상의 프레임은, 제1 시점 영상과 시간상으로 다른 위치에 존재하는 프레임으로서, 제1 시점 영상과 동일한 시점을 가진 프레임을 나타낸다. 시간상 후보 벡터는 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 포함할 수 있다.
시점상 후보 벡터는 복호화하고자 하는 현재 블록에 대응하는 제2 시점 영상 내 대응 블록의 움직임 벡터를 나타낸다. 시점상 후보 벡터는 현재 블록에 이웃한 주변 블록의 변이 벡터 및 제1 시점 영상 이전에 복호화된 제1 시점 영상의 프레임 내에서 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터, 동위치 블록의 주변 블록의 변이 벡터, 및 영벡터 중 적어도 하나에 기초하여 결정될 수 있다.
변이 후보 벡터는 현재 블록에 대응하는 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 나타낸다. 예를 들어, 변이 후보 벡터는 현재 블록에 이웃한 주변 블록의 변이 벡터, 동위치 블록의 변이 벡터, 또는 동위치 블록에 이웃한 주변 블록의 변이 벡터 등을 포함할 수 있다.
단계(1020)에서, 다시점 영상 복호화 장치는 예측 움직임 벡터의 인덱스에 기초하여 복호화하고자 하는 제1 시점 영상 내 현재 블록의 최종 움직임 벡터를 결정할 수 있다. 예를 들어, 다시점 영상 복호화 장치는 예측 움직임 벡터를 최종 움직임 벡터로 결정할 수 있다. 다른 실시예에 따르면, 다시점 영상 복호화 장치는 예측 움직임 벡터를 기초로 하여 현재 블록과 보다 유사한 예측 블록을 새로이 탐색할 수 있고, 새로이 탐색된 예측 블록에 기초하여 최종 움직임 벡터를 결정할 수 있다. 다시점 영상 복호화 장치는 최종 움직임 벡터가 결정되면, 최종 움직임 벡터가 가리키는 최종 예측 블록에 기초하여 현재 블록을 복원할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
110: 다시점 영상 부호화 장치
120: 다시점 영상 복호화 장치

Claims (21)

  1. 제1 시점 영상 내 현재 블록의 움직임 벡터 후보를 식별하는 단계; 및
    상기 식별된 움직임 벡터 후보에 기초하여 상기 현재 블록에 대한 예측 움직임 벡터를 결정하는 단계를 포함하고,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 제1 시점 영상의 이전에 처리된 프레임 내에서 상기 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터가 존재하는 경우, 상기 동위치 블록의 변이 벡터에 기초하여 시점상 후보 벡터를 식별하는 단계; 및
    상기 동위치 블록의 변이 벡터가 존재하지 않는 경우, 상기 현재 블록에 이웃한 주변 블록의 변이 벡터에 기초하여 상기 시점상 후보 벡터를 식별하는 단계
    를 포함하는 방법.
  2. 삭제
  3. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 현재 블록에 이웃한 주변 블록에 변이 벡터가 존재하지 않는 경우, 상기 동위치 블록의 변이 벡터 및 상기 동위치 블록의 주변 블록의 변이 벡터 중 적어도 하나에 기초하여 상기 시점상 후보 벡터가 존재하는지 여부를 식별하는, 방법.
  4. 삭제
  5. 삭제
  6. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 시점상 후보 벡터가 존재하지 않는 경우, 영벡터를 상기 현재 블록의 변이 벡터로 결정하고, 상기 결정된 변이 벡터에 기초하여 상기 시점상 후보 벡터가 존재하는지 여부를 식별하는, 방법.
  7. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 시점상 후보 벡터가 존재하지 않는 경우, 영벡터를 시점상 후보 벡터로 결정하는 단계
    를 포함하는 방법.
  8. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 현재 블록에 이웃한 주변 블록의 움직임 벡터를 나타내는 공간상 후보 벡터(spatial candidate vector)가 존재하는지 여부를 식별하는, 방법.
  9. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 동위치 블록의 움직임 벡터 및 상기 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 나타내는 시간상 후보 벡터(temporal candidate vector)가 존재하는지 여부를 식별하는, 방법.
  10. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 현재 블록에 대응하는 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 나타내는 변이 후보 벡터(disparity candidate vector)의 존재 여부를 식별하는, 방법.
  11. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 현재 블록에 이웃한 주변 블록, 상기 동위치 블록, 및 상기 동위치 블록에 이웃한 주변 블록이 변이 벡터를 가지고 있지 않은 경우, 상기 시점상 후보 벡터를 상기 움직임 벡터 후보에 포함시키지 않는, 방법.
  12. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 현재 블록에 이웃한 주변 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있는 경우, 상기 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인지 여부를 판단하는 단계; 및
    상기 판단 결과, 상기 주변 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인 경우, 상기 변이 벡터를 이용하여 시점상 후보 벡터의 존재 여부를 식별하는 단계
    를 포함하는 방법.
  13. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 동위치 블록이 변이 벡터는 가지고 있지 않으나 움직임 벡터는 가지고 있는 경우, 상기 동위치 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인지 여부를 판단하는 단계; 및
    상기 판단 결과, 상기 동위치 블록의 움직임 벡터가 변이 벡터에 기초하여 획득된 움직임 벡터인 경우, 상기 변이 벡터를 이용하여 시점상 후보 벡터의 존재 여부를 식별하는 단계
    를 포함하는 방법.
  14. 제1항에 있어서,
    상기 움직임 벡터 후보를 식별하는 단계는,
    상기 시점상 후보 벡터가 존재하지 않는 경우, 상기 시점상 후보 벡터를 상기 움직임 벡터 후보에 포함시키지 않는, 방법.
  15. 비트스트림에서 예측 움직임 벡터의 인덱스를 추출하는 단계; 및
    상기 추출한 예측 움직임 벡터의 인덱스에 기초하여 제1 시점 영상 내 현재 블록의 최종 움직임 벡터를 결정하는 단계를 포함하고,
    상기 예측 움직임 벡터는, 움직임 벡터 후보에 기초하여 결정되고,
    상기 움직임 벡터 후보는, 공간상 후보 벡터 및 시간상 후보 벡터 중 적어도 하나를 포함하고,
    상기 시간상 후보 벡터는, 상기 제1 시점 영상 이전에 처리된 제1 시점 영상의 프레임 내에서 상기 현재 블록과 동일한 위치에 있는 동위치 블록의 움직임 벡터 또는 상기 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 포함하고,
    상기 공간상 후보 벡터는, 상기 제1 시점 영상의 상기 현재 블록에 이웃한 주변 블록의 움직임 벡터를 포함하고,
    상기 시간상 후보 벡터가 존재하지 않는 경우, 상기 공간상 후보 벡터에 기초하여 상기 예측 움직임 벡터가 결정되는,
    방법.
  16. 제15항에 있어서,
    상기 움직임 벡터 후보는,
    상기 현재 블록에 대응하는 제2 시점 영상 내 대응 블록의 움직임 벡터를 나타내는 시점상 후보 벡터를 더 포함하는, 방법.
  17. 제16항에 있어서,
    상기 시점상 후보 벡터는,
    상기 현재 블록에 이웃한 주변 블록의 변이 벡터 및 상기 동위치 블록의 변이 벡터 및 상기 동위치 블록의 주변 블록의 변이 벡터 중 적어도 하나에 기초하여 결정된 시점상 후보 벡터를 포함하는, 방법.
  18. 제15항에 있어서,
    상기 움직임 벡터 후보는,
    상기 현재 블록에 대응하는 제2 시점 영상 내 대응 블록을 탐색하는데 이용된 변이 벡터를 나타내는 변이 후보 벡터를 더 포함하는, 방법.
  19. 제1항, 제3항, 및 제6항 내지 제18항 중 어느 한 항의 방법을 실행하기 위한 프로그램이 기록된 컴퓨터에서 판독 가능한 기록 매체.
  20. 제1 시점 영상 내 현재 블록의 움직임 벡터 후보를 식별하는 움직임 벡터 후보 식별부; 및
    상기 식별된 움직임 벡터 후보에 기초하여 상기 현재 블록에 대한 예측 움직임 벡터를 결정하는 예측 움직임 벡터 결정부를 포함하고,
    상기 움직임 벡터 후보 식별부는,
    상기 제1 시점 영상의 이전에 처리된 프레임 내에서 상기 현재 블록과 동일한 위치에 있는 동위치 블록의 변이 벡터가 존재하는 경우, 상기 동위치 블록의 변이 벡터에 기초하여 시점상 후보 벡터를 식별하고,
    상기 동위치 블록의 변이 벡터가 존재하지 않는 경우, 상기 현재 블록에 이웃한 주변 블록의 변이 벡터에 기초하여 상기 시점상 후보 벡터를 식별하는, 장치.
  21. 비트스트림에서 예측 움직임 벡터의 인덱스를 추출하는 인덱스 추출부; 및
    상기 추출한 예측 움직임 벡터의 인덱스에 기초하여 제1 시점 영상 내 현재 블록의 최종 움직임 벡터를 결정하는 최종 움직임 벡터 결정부를 포함하고,
    상기 예측 움직임 벡터는, 움직임 벡터 후보에 기초하여 결정되고,
    상기 움직임 벡터 후보는, 공간상 후보 벡터 및 시간상 후보 벡터 중 적어도 하나를 포함하고,
    상기 시간상 후보 벡터는, 상기 제1 시점 영상 이전에 처리된 제1 시점 영상의 프레임 내에서 상기 현재 블록과 동일한 위치에 있는 동위치 블록의 움직임 벡터 또는 상기 동위치 블록에 이웃한 주변 블록의 움직임 벡터를 포함하고,
    상기 공간상 후보 벡터는, 상기 제1 시점 영상의 상기 현재 블록에 이웃한 주변 블록의 움직임 벡터를 포함하고,
    상기 시간상 후보 벡터가 존재하지 않는 경우, 상기 공간상 후보 벡터에 기초하여 상기 예측 움직임 벡터가 결정되는,
    장치.
KR1020130112745A 2012-09-28 2013-09-23 다시점 영상 부호화/복호화 장치 및 방법 Expired - Fee Related KR102186605B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US14/432,404 US9900620B2 (en) 2012-09-28 2013-09-25 Apparatus and method for coding/decoding multi-view image
PCT/KR2013/008564 WO2014051321A1 (ko) 2012-09-28 2013-09-25 다시점 영상 부호화/복호화 장치 및 방법
CN201380051015.4A CN104782126B (zh) 2012-09-28 2013-09-25 用于对多视点图像进行编码/解码的设备和方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201261707537P 2012-09-28 2012-09-28
US61/707,537 2012-09-28
US201261746276P 2012-12-27 2012-12-27
US61/746,276 2012-12-27

Publications (2)

Publication Number Publication Date
KR20140043030A KR20140043030A (ko) 2014-04-08
KR102186605B1 true KR102186605B1 (ko) 2020-12-03

Family

ID=50651865

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130112745A Expired - Fee Related KR102186605B1 (ko) 2012-09-28 2013-09-23 다시점 영상 부호화/복호화 장치 및 방법

Country Status (3)

Country Link
US (1) US9900620B2 (ko)
KR (1) KR102186605B1 (ko)
CN (1) CN104782126B (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2842327A4 (en) * 2012-04-24 2016-10-12 Mediatek Inc METHOD AND APPARATUS FOR DETECTING MOTION VECTORS FOR THREE DIMENSIONAL VIDEO CODING
US9288507B2 (en) * 2013-06-21 2016-03-15 Qualcomm Incorporated More accurate advanced residual prediction (ARP) for texture coding
EP3629584A1 (en) 2018-09-25 2020-04-01 Koninklijke Philips N.V. Apparatus and method for generating and rendering a video stream
KR102297479B1 (ko) 2020-04-10 2021-09-03 삼성전자주식회사 움직임 벡터의 부호화 장치 및 방법, 및 움직임 벡터의 복호화 장치 및 방법

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8369406B2 (en) 2005-07-18 2013-02-05 Electronics And Telecommunications Research Institute Apparatus of predictive coding/decoding using view-temporal reference picture buffers and method using the same
KR101276720B1 (ko) 2005-09-29 2013-06-19 삼성전자주식회사 카메라 파라미터를 이용하여 시차 벡터를 예측하는 방법,그 방법을 이용하여 다시점 영상을 부호화 및 복호화하는장치 및 이를 수행하기 위한 프로그램이 기록된 기록 매체
US8532175B2 (en) * 2007-01-04 2013-09-10 Thomson Licensing Methods and apparatus for reducing coding artifacts for illumination compensation and/or color compensation in multi-view coded video
KR20080066522A (ko) 2007-01-11 2008-07-16 삼성전자주식회사 다시점 영상의 부호화, 복호화 방법 및 장치
JP2009094828A (ja) * 2007-10-10 2009-04-30 Hitachi Ltd 画像符号化装置及び画像符号化方法、画像復号化装置及び画像復号化方法
KR20110003549A (ko) * 2008-04-25 2011-01-12 톰슨 라이센싱 깊이 신호의 코딩
US8532410B2 (en) * 2008-04-25 2013-09-10 Thomson Licensing Multi-view video coding with disparity estimation based on depth information
KR101671460B1 (ko) 2009-09-10 2016-11-02 에스케이 텔레콤주식회사 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101441905B1 (ko) * 2009-11-18 2014-09-24 에스케이텔레콤 주식회사 후보 예측 움직임 벡터 집합 선택을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
US9124898B2 (en) * 2010-07-12 2015-09-01 Mediatek Inc. Method and apparatus of temporal motion vector prediction
JP5505154B2 (ja) * 2010-07-16 2014-05-28 ソニー株式会社 画像処理装置と画像処理方法
KR101893559B1 (ko) * 2010-12-14 2018-08-31 삼성전자주식회사 다시점 비디오 부호화/복호화 장치 및 방법
KR20120080122A (ko) * 2011-01-06 2012-07-16 삼성전자주식회사 경쟁 기반의 다시점 비디오 부호화/복호화 장치 및 방법
WO2012093879A2 (ko) * 2011-01-06 2012-07-12 삼성전자주식회사 경쟁 기반의 다시점 비디오 부호화/복호화 장치 및 방법
KR20120095610A (ko) 2011-02-21 2012-08-29 삼성전자주식회사 다시점 비디오의 부호화 방법 및 장치, 그 복호화 방법 및 장치
US9131239B2 (en) * 2011-06-20 2015-09-08 Qualcomm Incorporated Unified merge mode and adaptive motion vector prediction mode candidates selection
US9313494B2 (en) * 2011-06-20 2016-04-12 Qualcomm Incorporated Parallelization friendly merge candidates for video coding
US8441111B2 (en) * 2011-10-03 2013-05-14 Invensas Corporation Stub minimization for multi-die wirebond assemblies with parallel windows
US9083983B2 (en) * 2011-10-04 2015-07-14 Qualcomm Incorporated Motion vector predictor candidate clipping removal for video coding
CN104041030B (zh) * 2012-01-19 2018-01-16 索尼公司 图像处理设备和方法
JP6430542B2 (ja) * 2014-06-16 2018-11-28 クゥアルコム・インコーポレイテッドＱｕａｌｃｏｍｍ Ｉｎｃｏｒｐｏｒａｔｅｄ ３ｄ−ｈｅｖｃにおける簡略化シフティングマージ候補およびマージリスト導出

Also Published As

Publication number Publication date
US20150245065A1 (en) 2015-08-27
CN104782126B (zh) 2019-01-18
US9900620B2 (en) 2018-02-20
KR20140043030A (ko) 2014-04-08
CN104782126A (zh) 2015-07-15

Similar Documents

Publication Publication Date Title
RU2705435C1 (ru) Способ и устройство для кодирования информации движения, а также способ и устройство для ее декодирования
JP6298140B2 (ja) 映像の復号化方法
KR102500091B1 (ko) 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
US20140002599A1 (en) Competition-based multiview video encoding/decoding device and method thereof
KR102502175B1 (ko) 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치
KR101893559B1 (ko) 다시점 비디오 부호화/복호화 장치 및 방법
KR20140043032A (ko) 움직임 벡터와 변이 벡터를 예측하는 영상 처리 방법 및 장치
KR20120084629A (ko) 움직임 정보 및 변이 정보를 부호화／복호화하는 영상 처리 장치 및 방법
KR20150043319A (ko) 비디오 신호 처리 방법 및 장치
KR102186605B1 (ko) 다시점 영상 부호화/복호화 장치 및 방법
KR102148650B1 (ko) 비디오 신호 처리 방법 및 장치
KR20160004946A (ko) 다시점 비디오 신호 처리 방법 및 장치
KR20130022923A (ko) 가상 시점 합성 예측을 이용한 부호화/복호화 장치 및 부호화/복호화 방법
KR20080007069A (ko) 비디오 신호 디코딩 방법 및 장치
KR102133936B1 (ko) ３ｄ 비디오 부호화／복호화 장치 및 부호화／복호화 방법
RU2853919C2 (ru) Устройство для обработки сигналов видео с использованием интер-предсказания
RU2787882C2 (ru) Способ и устройство для обработки сигналов видео с использованием интер-предсказания
KR20130116777A (ko) 움직임 벡터와 변이 벡터를 예측하는 영상 처리 방법 및 장치
KR102020024B1 (ko) 가상 시점 합성 예측을 이용한 부호화/복호화 장치 및 부호화/복호화 방법
RU2785479C1 (ru) Способ декодирования изображения, способ кодирования изображения и машиночитаемый носитель информации
RU2784379C1 (ru) Способ декодирования изображения, способ кодирования изображения и машиночитаемый носитель информации
RU2784483C1 (ru) Способ декодирования изображения, способ кодирования изображения и машиночитаемый носитель информации
RU2784475C1 (ru) Способ декодирования изображения, способ кодирования изображения и машиночитаемый носитель информации
WO2014051321A1 (ko) 다시점 영상 부호화/복호화 장치 및 방법

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

A201 Request for examination
PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20231128

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20231128