[go: up one dir, main page]

WO2024253465A1 - 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 - Google Patents

영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 Download PDF

Info

Publication number
WO2024253465A1
WO2024253465A1 PCT/KR2024/007817 KR2024007817W WO2024253465A1 WO 2024253465 A1 WO2024253465 A1 WO 2024253465A1 KR 2024007817 W KR2024007817 W KR 2024007817W WO 2024253465 A1 WO2024253465 A1 WO 2024253465A1
Authority
WO
WIPO (PCT)
Prior art keywords
block
prediction
current
prediction block
weight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
PCT/KR2024/007817
Other languages
English (en)
French (fr)
Inventor
최정아
허진
박승욱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hyundai Motor Co
Kia Corp
Original Assignee
Hyundai Motor Co
Kia Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hyundai Motor Co, Kia Corp filed Critical Hyundai Motor Co
Priority to CN202480027475.1A priority Critical patent/CN121058240A/zh
Priority claimed from KR1020240074453A external-priority patent/KR20240174507A/ko
Publication of WO2024253465A1 publication Critical patent/WO2024253465A1/ko
Anticipated expiration legal-status Critical
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Definitions

  • the present invention relates to a video encoding/decoding method, a device, and a recording medium storing a bitstream. Specifically, the present invention relates to a video encoding/decoding method, a device, and a recording medium storing a bitstream based on an improved intra-block copy (IBC)-based prediction method.
  • IBC intra-block copy
  • intra block copy is a technique for searching for a prediction block for a current coding unit (CU) block (current block) in an already restored area.
  • Intra block copy prediction has high prediction accuracy for screen contents with repeated similar shapes.
  • encoding efficiency can be improved by applying intra block copy prediction. Therefore, various tools for intra block copy prediction are being discussed in order to improve encoding efficiency when only intra prediction is applicable.
  • the purpose of the present invention is to provide a video encoding/decoding method and device with improved encoding/decoding efficiency.
  • the present invention aims to provide a recording medium storing a bitstream generated by an image decoding method or device according to the present invention.
  • the present invention aims to provide a prediction method for solving the problems of the existing binary prediction intra block copy-based prediction as described above.
  • a video decoding method includes the steps of generating a first prediction block of a current block based on a first block vector, generating a second prediction block of the current block based on a second block vector, and generating a final prediction block of the current block by weighting the first prediction block and the second prediction block, wherein the first prediction block is generated based on a first matching block in a current picture indicated by the first block vector, and the second prediction block is generated based on a second matching block in the current picture indicated by the second block vector.
  • the first block vector is derived by performing block vector prediction
  • the second block vector is determined based on an intra block copy merge candidate list and an index indicating one merge candidate.
  • the first block vector and the second block vector may be determined based on an intra block copy merge candidate list, a first merge index and a second merge index indicating different merge candidates.
  • the final prediction block of the current block is generated by adding the first prediction block to which the first weight is applied and the second prediction block to which the second weight is applied.
  • the first weight and the second weight are determined as preset values.
  • the first weight and the second weight may be determined based on an index indicating one weight candidate among a plurality of preset weight candidates.
  • the codeword assigned to each of the plurality of preset weight candidates is determined based on the usage frequency of each of the plurality of weight candidates.
  • the first weight and the second weight are determined based on a first index indicating one weight candidate set from among a plurality of weight candidate sets and a second index indicating one weight candidate from among a plurality of weight candidates included in one weight candidate set.
  • the first index indicates a set of weight candidates used in at least one group among a picture group, a slice group, and a block group
  • the second index indicates a weight candidate used in at least one unit among a picture, a slice, and a block.
  • the at least one unit is a unit of a lower layer corresponding to the at least one group.
  • the first weight and the second weight may be determined based on a first distortion value, which is a distortion value between an adjacent current template of the current block and a first reference template adjacent to the first matching block, and a second distortion value, which is a distortion value between an adjacent current template of the current block and a second reference template adjacent to the second matching block.
  • the first distortion value and the second distortion value are measured using one of a SAD (sum of absolute differences) measurement method and a SSE (sum of square error) measurement method.
  • the first weight and the second weight are determined based on a look-up table corresponding to the first distortion value and the second distortion value.
  • the shape of the current template may be determined as one of a first template shape including samples adjacent to the left side of the current block, a second template shape including samples adjacent to the top of the current block, and a third template shape including samples adjacent to the left side of the current block and samples adjacent to the top of the current block, and the shapes of the first reference template and the second reference template may be characterized in that they correspond to the shape of the current template.
  • the final prediction block of the current block may be generated by weighting the first prediction block and the second prediction block based on a comparison result between a threshold value derived based on the first distortion value and the second distortion value.
  • the second distortion value may be a value smaller than the first distortion value, and when the second distortion value is smaller than or equal to the threshold value, the final prediction block of the current block may be generated by weighting the first prediction block and the second prediction block.
  • the second distortion value may be a value greater than the first distortion value, and when the second distortion value is less than the threshold value, the final prediction block of the current block may be generated by weighting the first prediction block and the second prediction block.
  • a video encoding method includes the steps of generating a first prediction block of a current block based on a first block vector, generating a second prediction block of the current block based on a second block vector, and generating a final prediction block of the current block by weighting the first prediction block and the second prediction block, wherein the first prediction block is generated based on a first matching block in a current picture indicated by the first block vector, and the second prediction block is generated based on a second matching block in the current picture indicated by the second block vector.
  • a non-transitory computer-readable recording medium can store a bitstream generated by a video encoding method, comprising the steps of: generating a first prediction block of a current block based on a first block vector; generating a second prediction block of the current block based on a second block vector; and generating a final prediction block of the current block by weighting the first prediction block and the second prediction block, wherein the first prediction block is generated based on a first matching block in the current picture indicated by the first block vector, and the second prediction block is generated based on a second matching block in the current picture indicated by the second block vector.
  • a transmission method comprises the steps of transmitting the bitstream, generating a first prediction block of a current block based on a first block vector, generating a second prediction block of the current block based on a second block vector, and generating a final prediction block of the current block by weighting the first prediction block and the second prediction block, wherein the first prediction block is generated based on a first matching block in a current picture indicated by the first block vector, and the second prediction block is generated based on a second matching block in the current picture indicated by the second block vector.
  • a video encoding/decoding method and device with improved encoding/decoding efficiency can be provided.
  • a binary prediction intra block copy-based prediction method using weighted sum can be provided.
  • a method can be provided for judging the efficiency of a binary prediction intra block copy-based prediction method based on distortion values of different prediction signals, and determining whether to apply the binary prediction intra block copy-based prediction method based on the judgment result.
  • Figure 1 is a block diagram showing the configuration according to one embodiment of an encoding device to which the present invention is applied.
  • FIG. 2 is a block diagram showing the configuration of one embodiment of a decryption device to which the present invention is applied.
  • FIG. 3 is a diagram schematically showing a video coding system to which the present invention can be applied.
  • FIG. 4 is a diagram for explaining an intra block copy-based prediction method according to an embodiment of the present invention.
  • FIG. 5 is a diagram for explaining a binary prediction intra block copy-based prediction method according to one embodiment of the present invention.
  • FIG. 6 is a diagram for explaining a binary prediction intra block copy-based prediction method according to another embodiment of the present invention.
  • FIG. 7 is a diagram for explaining a plurality of template shape candidates used in a process of deriving distortion values for predicted values according to one embodiment of the present invention.
  • FIG. 8 is a flowchart illustrating an intra block copy prediction method according to an embodiment of the present invention.
  • FIG. 9 is a drawing exemplarily showing a content streaming system to which an embodiment according to the present invention can be applied.
  • first, second, etc. may be used to describe various components, but the components should not be limited by the terms. The terms are only used for the purpose of distinguishing one component from another.
  • the first component may be referred to as the second component, and similarly, the second component may also be referred to as the first component.
  • the term and/or includes a combination of a plurality of related described items or any item among a plurality of related described items.
  • each component shown in the embodiments of the present invention are independently depicted to indicate different characteristic functions, and do not mean that each component is formed as a separate hardware or software configuration unit. That is, each component is listed and included as a separate component for convenience of explanation, and at least two components among each component may be combined to form a single component, or one component may be divided into multiple components to perform a function, and such integrated embodiments and separate embodiments of each component are also included in the scope of the present invention as long as they do not deviate from the essence of the present invention.
  • the terminology used in the present invention is only used to describe specific embodiments and is not intended to limit the present invention.
  • the singular expression includes the plural expression unless the context clearly indicates otherwise.
  • some components of the present invention are not essential components that perform essential functions in the present invention and may be optional components that merely enhance performance.
  • the present invention may be implemented by including only essential components for implementing the essence of the present invention excluding components used only for enhancing performance, and a structure including only essential components excluding optional components used only for enhancing performance is also included in the scope of the present invention.
  • the term "at least one” can mean one of a number greater than or equal to 1, such as 1, 2, 3, and 4.
  • the term "a plurality of” can mean one of a number greater than or equal to 2, such as 2, 3, and 4.
  • video may mean one picture constituting a video, and may also represent the video itself.
  • encoding and/or decoding of a video may mean “encoding and/or decoding of a video,” and may also mean “encoding and/or decoding of one of the videos constituting the video.”
  • the target image may be an encoding target image that is a target of encoding and/or a decoding target image that is a target of decoding.
  • the target image may be an input image input to an encoding device and may be an input image input to a decoding device.
  • the target image may have the same meaning as the current image.
  • encoder and image encoding device may be used interchangeably and have the same meaning.
  • decoder and image decoding device may be used interchangeably and interchangeably.
  • image may be used with the same meaning and may be used interchangeably.
  • target block may be an encoding target block that is a target of encoding and/or a decoding target block that is a target of decoding.
  • target block may be a current block that is a target of current encoding and/or decoding.
  • target block and current block may be used with the same meaning and may be used interchangeably.
  • a coding tree unit may be composed of one luma component (Y) coding tree block (CTB) and two chroma component (Cb, Cr) coding tree blocks related to it.
  • sample may represent a basic unit constituting a block.
  • Figure 1 is a block diagram showing the configuration according to one embodiment of an encoding device to which the present invention is applied.
  • the encoding device (100) may be an encoder, a video encoding device, or an image encoding device.
  • the video may include one or more images.
  • the encoding device (100) may sequentially encode one or more images.
  • an encoding device (100) may include an image segmentation unit (110), an intra prediction unit (120), a motion prediction unit (121), a motion compensation unit (122), a switch (115), a subtractor (113), a transformation unit (130), a quantization unit (140), an entropy encoding unit (150), an inverse quantization unit (160), an inverse transformation unit (170), an adder (117), a filter unit (180), and a reference picture buffer (190).
  • the encoding device (100) can generate a bitstream including encoded information through encoding an input image, and output the generated bitstream.
  • the generated bitstream can be stored in a computer-readable recording medium, or can be streamed through a wired/wireless transmission medium.
  • the video segmentation unit (110) can segment the input video into various forms to increase the efficiency of video encoding/decoding. That is, the input video is composed of multiple pictures, and one picture can be hierarchically segmented and processed for compression efficiency, parallel processing, etc. For example, one picture can be segmented into one or multiple tiles or slices, and then segmented again into multiple CTUs (Coding Tree Units). Alternatively, one picture can be segmented into multiple sub-pictures defined as groups of rectangular slices, and each sub-picture can be segmented into the tiles/slices. Here, the sub-pictures can be utilized to support the function of partially independently encoding/decoding and transmitting the picture.
  • multiple sub-pictures can be individually restored, they have the advantage of being easy to edit in applications that configure multi-channel input into one picture.
  • tiles can be segmented horizontally to generate bricks.
  • a brick can be utilized as a basic unit of intra-picture parallel processing.
  • one CTU can be recursively split into a quad tree (QT: Quadtree), and the terminal node of the split can be defined as a CU (Coding Unit).
  • the CU can be split into a prediction unit (PU) and a transformation unit (TU) to perform prediction and splitting. Meanwhile, the CU can be utilized as a prediction unit and/or a transformation unit itself.
  • each CTU can be recursively split into not only a quad tree (QT) but also a multi-type tree (MTT: Multi-Type Tree).
  • MTT Multi-Type Tree
  • Splitting of a CTU into a multi-type tree can start from the terminal node of a QT, and the MTT can be composed of a BT (Binary Tree) and a TT (Triple Tree).
  • the MTT structure can be distinguished into vertical binary split mode (SPLIT_BT_VER), horizontal binary split mode (SPLIT_BT_HOR), vertical ternary split mode (SPLIT_TT_VER), and horizontal ternary split mode (SPLIT_TT_HOR).
  • the minimum block size (MinQTSize) of the quad tree of the luma block during splitting can be set to 16x16
  • the maximum block size (MaxBtSize) of the binary tree can be set to 128x128, and the maximum block size (MaxTtSize) of the triple tree can be set to 64x64.
  • the minimum block size (MinBtSize) of the binary tree and the minimum block size (MinTtSize) of the triple tree can be set to 4x4
  • the maximum depth (MaxMttDepth) of the multi-type tree can be set to 4.
  • a dual tree that uses different CTU split structures for luma and chrominance components can be applied to improve the encoding efficiency of the I slice.
  • the luminance and chrominance CTBs (Coding Tree Blocks) within the CTU can be split into a single tree sharing the coding tree structure.
  • the encoding device (100) may perform encoding on the input image in the intra mode and/or the inter mode.
  • the encoding device (100) may perform encoding on the input image in a third mode (e.g., IBC mode, Palette mode, etc.) other than the intra mode and the inter mode.
  • a third mode e.g., IBC mode, Palette mode, etc.
  • the third mode may be classified as the intra mode or the inter mode for convenience of explanation. In the present invention, the third mode will be classified and described separately only when a specific explanation is required.
  • the switch (115) can be switched to intra, and when the inter mode is used as the prediction mode, the switch (115) can be switched to inter.
  • the intra mode can mean an intra-screen prediction mode
  • the inter mode can mean an inter-screen prediction mode.
  • the encoding device (100) can generate a prediction block for an input block of an input image.
  • the encoding device (100) can encode a residual block using a residual of the input block and the prediction block.
  • the input image can be referred to as a current image which is a current encoding target.
  • the input block can be referred to as a current block which is a current encoding target or an encoding target block.
  • the intra prediction unit (120) can use samples of blocks already encoded/decoded around the current block as reference samples.
  • the intra prediction unit (120) can perform spatial prediction on the current block using the reference sample, and can generate prediction samples for the input block through spatial prediction.
  • intra prediction can mean prediction within the screen.
  • non-directional prediction modes such as DC mode and Planar mode and directional prediction modes (e.g., 65 directions) can be applied.
  • the intra prediction method can be expressed as an intra prediction mode or an intra-screen prediction mode.
  • the motion prediction unit (121) can search for an area that best matches the input block from the reference image during the motion prediction process, and can derive a motion vector using the searched area. At this time, the search area can be used as the area.
  • the reference image can be stored in the reference picture buffer (190).
  • it when encoding/decoding for the reference image is processed, it can be stored in the reference picture buffer (190).
  • the motion compensation unit (122) can generate a prediction block for the current block by performing motion compensation using a motion vector.
  • inter prediction can mean inter-screen prediction or motion compensation.
  • the above motion prediction unit (121) and motion compensation unit (122) can generate a prediction block by applying an interpolation filter to a portion of an area within a reference image when the value of a motion vector does not have an integer value.
  • the AFFINE mode of sub-PU based prediction the AFFINE mode of sub-PU based prediction, the SbTMVP (Subblock-based Temporal Motion Vector Prediction) mode, and the MMVD (Merge with MVD) mode, the GPM (Geometric Partitioning Mode) mode of PU based prediction can be applied.
  • the SbTMVP Subblock-based Temporal Motion Vector Prediction
  • MMVD Merge with MVD
  • GPM Gaometric Partitioning Mode
  • the HMVP History based MVP
  • the PAMVP Positionwise Average MVP
  • the CIIP Combined Intra/Inter Prediction
  • the AMVR Adaptive Motion Vector Resolution
  • the BDOF Bi-Directional Optical-Flow
  • the BCW Block Predictive with CU Weights
  • the LIC Lical Illumination Compensation
  • the TM Tempolate Matching
  • the OBMC Overlapped Block Motion Compensation
  • AFFINE mode is a technology that is used in both AMVP and MERGE modes and also has high encoding efficiency. Since the conventional video coding standard performs MC (Motion Compensation) by considering only the parallel translation of the block, there was a disadvantage in that it could not properly compensate for motions that occur in reality, such as zoom in/out and rotation. To supplement this, a four-parameter affine motion model using two control point motion vectors (CPMV) and a six-parameter affine motion model using three control point motion vectors can be applied to inter prediction.
  • CPMV is a vector representing an affine motion model of one of the upper left, upper right, and lower left of the current block.
  • the subtractor (113) can generate a residual block using the difference between the input block and the predicted block.
  • the residual block may also be referred to as a residual signal.
  • the residual signal may mean the difference between the original signal and the predicted signal.
  • the residual signal may be a signal generated by transforming, quantizing, or transforming and quantizing the difference between the original signal and the predicted signal.
  • the residual block may be a residual signal in block units.
  • the transform unit (130) can perform a transform on the residual block to generate a transform coefficient and output the generated transform coefficient.
  • the transform coefficient can be a coefficient value generated by performing a transform on the residual block.
  • the transform unit (130) can also skip the transform on the residual block.
  • a quantized level can be generated by applying quantization to a transform coefficient or a residual signal.
  • a quantized level may also be referred to as a transform coefficient.
  • a 4x4 luminance residual block generated through within-screen prediction can be transformed using a basis vector based on DST (Discrete Sine Transform), and a basis vector based on DCT (Discrete Cosine Transform) can be used to transform the remaining residual blocks.
  • a transform block can be divided into a quad tree shape for one block using RQT (Residual Quad Tree) technology, and after performing transformation and quantization on each transform block divided through RQT, a coded block flag (cbf) can be transmitted to increase encoding efficiency when all coefficients become 0.
  • RQT Residual Quad Tree
  • the Multiple Transform Selection (MTS) technique can be applied to perform transformation by selectively using multiple transformation bases. That is, instead of dividing the CU into TUs through the RQT, a function similar to TU division can be performed through the Sub-block Transform (SBT) technique.
  • SBT Sub-block Transform
  • the SBT is applied only to inter-screen prediction blocks, and unlike the RQT, the current block can be divided into 1 ⁇ 2 or 1 ⁇ 4 sizes in the vertical or horizontal direction, and then the transformation can be performed on only one of the blocks. For example, if it is divided vertically, the transformation can be performed on the leftmost or rightmost block, and if it is divided horizontally, the transformation can be performed on the topmost or bottommost block.
  • LFNST Low Frequency Non-Separable Transform
  • a secondary transform technique that additionally transforms the residual signal converted to the frequency domain through DCT or DST, can be applied.
  • LFNST additionally performs a transform on the low-frequency region of 4x4 or 8x8 in the upper left, so that the residual coefficients can be concentrated in the upper left.
  • the quantization unit (140) can generate a quantized level by quantizing a transform coefficient or a residual signal according to a quantization parameter (QP), and can output the generated quantized level. At this time, the quantization unit (140) can quantize the transform coefficient using a quantization matrix.
  • QP quantization parameter
  • a quantizer using QP values of 0 to 51 can be used.
  • 0 to 63 QP can be used.
  • DQ Dependent Quantization
  • DQ performs quantization using two quantizers (e.g., Q0 and Q1), and even without signaling information about the use of a specific quantizer, the quantizer to be used for the next transform coefficient can be selected based on the current state through a state transition model.
  • the entropy encoding unit (150) can generate a bitstream by performing entropy encoding according to a probability distribution on values produced by the quantization unit (140) or coding parameter values produced in the encoding process, and can output the bitstream.
  • the entropy encoding unit (150) can perform entropy encoding on information about image samples and information for decoding the image. For example, information for decoding the image can include syntax elements, etc.
  • the entropy encoding unit (150) can use an encoding method such as exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), or Context-Adaptive Binary Arithmetic Coding (CABAC) for entropy encoding.
  • CAVLC Context-Adaptive Variable Length Coding
  • CABAC Context-Adaptive Binary Arithmetic Coding
  • the entropy encoding unit (150) can perform entropy encoding using a Variable Length Coding/Code (VLC) table.
  • VLC Variable Length Coding/Code
  • the entropy encoding unit (150) may derive a binarization method of a target symbol and a probability model of a target symbol/bin, and then perform arithmetic encoding using the derived binarization method, probability model, and context model.
  • the table probability update method when applying CABAC, in order to reduce the size of the probability table stored in the decryption device, the table probability update method can be changed to a table update method using a simple formula and applied.
  • two different probability models can be used to obtain more accurate symbol probability values.
  • the entropy encoding unit (150) can change a two-dimensional block form coefficient into a one-dimensional vector form through a transform coefficient scanning method to encode a transform coefficient level (quantized level).
  • Coding parameters may include information (flags, indexes, etc.) encoded in an encoding device (100) and signaled to a decoding device (200), such as syntax elements, as well as information derived during an encoding process or a decoding process, and may mean information necessary when encoding or decoding an image.
  • signaling a flag or index may mean that the encoder entropy encodes the flag or index and includes it in the bitstream, and that the decoder entropy decodes the flag or index from the bitstream.
  • the encoded current image can be used as a reference image for other images to be processed later. Therefore, the encoding device (100) can restore or decode the encoded current image again, and store the restored or decoded image as a reference image in the reference picture buffer (190).
  • the quantized level can be dequantized in the dequantization unit (160) and inverse transformed in the inverse transform unit (170).
  • the dequantized and/or inverse transformed coefficients can be combined with a prediction block through an adder (117), and a reconstructed block can be generated by combining the dequantized and/or inverse transformed coefficients and the prediction block.
  • the dequantized and/or inverse transformed coefficients mean coefficients on which at least one of dequantization and inverse transformation has been performed, and may mean a reconstructed residual block.
  • the dequantization unit (160) and the inverse transform unit (170) can be performed in the reverse process of the quantization unit (140) and the transform unit (130).
  • the restoration block may pass through a filter unit (180).
  • the filter unit (180) may apply a deblocking filter, a sample adaptive offset (SAO), an adaptive loop filter (ALF), a bilateral filter (BIF), LMCS (Luma Mapping with Chroma Scaling), etc. as a filtering technique, in whole or in part, to the restoration sample, restoration block, or restoration image.
  • the filter unit (180) may also be called an in-loop filter. In this case, the in-loop filter is also used as a name excluding LMCS.
  • the deblocking filter can remove block distortion that occurs at the boundary between blocks.
  • different filters can be applied depending on the required deblocking filtering strength.
  • a sample adaptive offset can be used to add an appropriate offset value to the sample value to compensate for the encoding error.
  • the sample adaptive offset can correct the offset from the original image on a sample basis for the image on which deblocking has been performed.
  • a method can be used in which the samples included in the image are divided into a certain number of regions, and then the region to be offset is determined and the offset is applied to the region, or a method can be used in which the offset is applied by considering the edge information of each sample.
  • Bilateral filter can also compensate for the offset from the original image on a sample-by-sample basis for the deblocked image.
  • An adaptive loop filter can perform filtering based on a comparison value between a restored image and an original image. After dividing samples included in an image into a predetermined group, a filter to be applied to each group can be determined, and filtering can be performed differentially for each group. Information related to whether to apply an adaptive loop filter can be signaled for each coding unit (CU), and the shape and filter coefficients of the adaptive loop filter to be applied can vary for each block.
  • CU coding unit
  • LMCS Luma Mapping with Chroma Scaling
  • LM luma mapping
  • CS chroma scaling
  • LMCS can be utilized as an HDR correction technique that reflects the characteristics of HDR (High Dynamic Range) images.
  • the restored block or restored image that has passed through the filter unit (180) may be stored in the reference picture buffer (190).
  • the restored block that has passed through the filter unit (180) may be a part of the reference image.
  • the reference image may be a restored image composed of restored blocks that have passed through the filter unit (180).
  • the stored reference image may be used for inter-screen prediction or motion compensation thereafter.
  • FIG. 2 is a block diagram showing the configuration of one embodiment of a decryption device to which the present invention is applied.
  • the decoding device (200) may be a decoder, a video decoding device, or an image decoding device.
  • the decoding device (200) may include an entropy decoding unit (210), an inverse quantization unit (220), an inverse transformation unit (230), an intra prediction unit (240), a motion compensation unit (250), an adder (201), a switch (203), a filter unit (260), and a reference picture buffer (270).
  • an entropy decoding unit (210) may include an entropy decoding unit (210), an inverse quantization unit (220), an inverse transformation unit (230), an intra prediction unit (240), a motion compensation unit (250), an adder (201), a switch (203), a filter unit (260), and a reference picture buffer (270).
  • the decoding device (200) can receive a bitstream output from the encoding device (100).
  • the decoding device (200) can receive a bitstream stored in a computer-readable recording medium, or can receive a bitstream streamed through a wired/wireless transmission medium.
  • the decoding device (200) can perform decoding on the bitstream in an intra mode or an inter mode.
  • the decoding device (200) can generate a restored image or a decoded image through decoding, and can output the restored image or the decoded image.
  • the switch (203) can be switched to intra. If the prediction mode used for decryption is inter mode, the switch (203) can be switched to inter.
  • the decoding device (200) can obtain a reconstructed residual block by decoding the input bitstream and can generate a prediction block. When the reconstructed residual block and the prediction block are obtained, the decoding device (200) can generate a reconstructed block to be decoded by adding the reconstructed residual block and the prediction block.
  • the decoding target block can be referred to as a current block.
  • the entropy decoding unit (210) can generate symbols by performing entropy decoding according to a probability distribution for the bitstream.
  • the generated symbols can include symbols in the form of quantized levels.
  • the entropy decoding method can be the reverse process of the entropy encoding method described above.
  • the entropy decoding unit (210) can change a one-dimensional vector-shaped coefficient into a two-dimensional block-shaped coefficient through a transform coefficient scanning method to decode a transform coefficient level (quantized level).
  • the quantized level can be dequantized in the dequantization unit (220) and detransformed in the inverse transform unit (230).
  • the quantized level can be generated as a restored residual block as a result of the dequantization and/or detransformation.
  • the dequantization unit (220) can apply a quantization matrix to the quantized level.
  • the dequantization unit (220) and the detransform unit (230) applied to the decoding device can apply the same technology as the dequantization unit (160) and the detransform unit (170) applied to the encoding device described above.
  • the intra prediction unit (240) can generate a prediction block by performing spatial prediction on the current block using sample values of already decoded blocks surrounding the block to be decoded.
  • the intra prediction unit (240) applied to the decoding device can apply the same technology as the intra prediction unit (120) applied to the encoding device described above.
  • the motion compensation unit (250) can perform motion compensation using a motion vector and a reference image stored in the reference picture buffer (270) for the current block to generate a prediction block.
  • the motion compensation unit (250) can apply an interpolation filter to a part of the reference image to generate a prediction block when the value of the motion vector does not have an integer value.
  • the motion compensation unit (250) applied to the decoding device can apply the same technology as the motion compensation unit (122) applied to the encoding device described above.
  • the adder (201) can add the restored residual block and the prediction block to generate a restored block.
  • the filter unit (260) can apply at least one of an Inverse-LMCS, a deblocking filter, a sample adaptive offset, and an adaptive loop filter to the restored block or the restored image.
  • the filter unit (260) applied to the decoding device can apply the same filtering technology as that applied to the filter unit (180) applied to the encoding device described above.
  • the filter unit (260) can output a restored image.
  • the restored block or restored image can be stored in the reference picture buffer (270) and used for inter prediction.
  • the restored block that has passed through the filter unit (260) can be a part of the reference image.
  • the reference image can be a restored image composed of restored blocks that have passed through the filter unit (260).
  • the stored reference image can be used for inter-screen prediction or motion compensation thereafter.
  • FIG. 3 is a diagram schematically showing a video coding system to which the present invention can be applied.
  • a video coding system may include an encoding device (10) and a decoding device (20).
  • the encoding device (10) may transmit encoded video and/or image information or data to the decoding device (20) in the form of a file or streaming through a digital storage medium or a network.
  • An encoding device (10) may include a video source generating unit (11), an encoding unit (12), and a transmitting unit (13).
  • a decoding device (20) may include a receiving unit (21), a decoding unit (22), and a rendering unit (23).
  • the encoding unit (12) may be called a video/image encoding unit, and the decoding unit (22) may be called a video/image decoding unit.
  • the transmitting unit (13) may be included in the encoding unit (12).
  • the receiving unit (21) may be included in the decoding unit (22).
  • the rendering unit (23) may include a display unit, and the display unit may be configured as a separate device or an external component.
  • the video source generation unit (11) can obtain a video/image through a process of capturing, synthesizing, or generating a video/image.
  • the video source generation unit (11) can include a video/image capture device and/or a video/image generation device.
  • the video/image capture device can include, for example, one or more cameras, a video/image archive including previously captured video/image, etc.
  • the video/image generation device can include, for example, a computer, a tablet, a smartphone, etc., and can (electronically) generate a video/image.
  • a virtual video/image can be generated through a computer, etc., and in this case, the video/image capture process can be replaced with a process of generating related data.
  • the encoding unit (12) can encode the input video/image.
  • the encoding unit (12) can perform a series of procedures such as prediction, transformation, and quantization for compression and encoding efficiency.
  • the encoding unit (12) can output encoded data (encoded video/image information) in the form of a bitstream.
  • the detailed configuration of the encoding unit (12) can also be configured in the same manner as the encoding device (100) of FIG. 1 described above.
  • the transmission unit (13) can transmit encoded video/image information or data output in the form of a bitstream to the reception unit (21) of the decoding device (20) through a digital storage medium or a network in the form of a file or streaming.
  • the digital storage medium can include various storage media such as USB, SD, CD, DVD, Blu-ray, HDD, SSD, etc.
  • the transmission unit (13) can include an element for generating a media file through a predetermined file format and can include an element for transmission through a broadcasting/communication network.
  • the reception unit (21) can extract/receive the bitstream from the storage medium or network and transmit it to the decoding unit (22).
  • the decoding unit (22) can decode video/image by performing a series of procedures such as inverse quantization, inverse transformation, and prediction corresponding to the operation of the encoding unit (12).
  • the detailed configuration of the decoding unit (22) can also be configured in the same manner as the decoding device (200) of FIG. 2 described above.
  • the rendering unit (23) can render the decrypted video/image.
  • the rendered video/image can be displayed through the display unit.
  • the intra block copy (IBC)-based prediction method is a method of searching for an optimal prediction block in the reconstructed area of the current picture using a block vector and copying it to generate a prediction block of the current block.
  • FIG. 4 is a diagram for explaining an intra block copy-based prediction method according to an embodiment of the present invention.
  • a matching block (440) can be searched within a predefined search range (R1, R2, R3, R4) of a reconstructed area (430) of a current picture (400) based on a block vector (420) of a current block (410).
  • a prediction block of the current block (410) can be derived based on the matching block (440). Accordingly, when an intra block copy-based prediction method is applied to the current block (410), the encoder can transmit information about the intra block copy-based prediction method and information related to the block vector (420) to the decoder.
  • the predefined search ranges R1, R2, R3, and R4 may be defined as the current CTU (Coding Tree Unit) including the current block (410), the upper left CTU located at the upper left of the current CTU among the areas within the pre-set range from the current CTU, the upper CTU located at the top of the current CTU among the areas within the pre-set range from the current CTU, and the left CTU located to the left of the current CTU among the areas within the pre-set range from the current CTU, respectively.
  • the area within the pre-set range may be an area set as one of the current tiles, slices, and pictures.
  • the intra block copy-based prediction method described in FIG. 4 is a uni-predictive intra block copy (IBC) that generates a prediction value using one block vector (420).
  • the intra block copy-based prediction method may be a bi-predictive intra block copy (bi-predictive IBC) that uses two block vectors.
  • the bi-predictive intra block copy-based prediction method may be as described below.
  • FIG. 5 is a diagram for explaining a binary prediction intra block copy-based prediction method according to one embodiment of the present invention.
  • a first matching block (541) and a second matching block (542) can be searched within a predefined search range (R1, R2 , R3, R4) of a reconstructed region (530) of a current picture (500) based on different block vectors of a current block (510), which are first block vectors (BV 1 , 521) and second block vectors (BV 2 , 522). Then, the first prediction block of the current block (510) can be derived based on the first matching block (541), and the second prediction block can be derived based on the second matching block (542). Then, the final prediction block for the current block (510) can be derived through a weighted sum of the first prediction block and the second prediction block. That is, the binary prediction intra block copy-based prediction method can be a binary prediction method that uses two block vectors (521, 522).
  • the two block vectors (521, 522) used in the binary prediction intra block copy-based prediction method can be derived in various ways.
  • the two block vectors (521, 522) can be derived from the IBC block vector prediction (BVP) method and the IBC merge mode.
  • BVP IBC block vector prediction
  • an index for the IBC block vector prediction mode and an index for the IBC merge candidate can be signaled from the encoder to the decoder.
  • the two block vectors (521, 522) can be derived from the IBC merge candidate list by utilizing different IBC merge indices.
  • the merge indices indicating the two block vectors (521, 522) can be signaled from the encoder to the decoder.
  • the binary prediction intra block copy-based prediction method can improve coding efficiency compared to the unit prediction intra block copy-based prediction method. However, if the prediction value is generated through a simple average of two prediction signals, the prediction accuracy may be reduced.
  • a final prediction block can be generated by weighting and adding each of the generated prediction blocks.
  • the final prediction block can be generated according to the following mathematical formula.
  • P BV1 may mean a prediction value generated using the first block vector BV 1
  • P BV2 may mean a prediction value generated from the second block vector BV 2
  • W 1 may mean a weight value applied to P BV1
  • W 2 may mean a weight value applied to P BV2 .
  • the weight values W 1 and W 2 may be determined according to arbitrary values promised in the encoder and decoder. In this case, the weight values W 1 and W 2 may not be signaled separately.
  • the sum of the weight values W 1 and W 2 is 1, and each of the weight values W 1 and W 2 is a real number greater than or equal to 0.
  • the weight values W 1 and W 2 may be transmitted to indicate one of the preset N weight candidates, and may be determined based on the index to be parsed.
  • N is any positive integer.
  • the index may indicate the weight value W 1 applied to P BV1 and the weight value W 2 applied to P BV2 .
  • the sum of the weight values W 1 and W 2 is 1.
  • Candidates for weight values assigned to different prediction blocks and indices and codewords assigned to each of the candidates for weight values can be as described in the table below.
  • Table 1 shows an embodiment of an index and a codeword assigned to each of the candidates for a weight value.
  • the embodiment of Table 1 is only an embodiment of the present disclosure, and the number N of weight value candidates (N ⁇ 2 is an integer), the codeword for the weight value candidates, and the weight value for each of the weight value candidates can be arbitrarily determined.
  • a codeword for transmitting and/or parsing an index corresponding to the weight value candidates can be generated using one of any codeword allocation methods including a fixed length code (FLC), a unary code, a truncated unary code, and a truncated binary code.
  • FLC fixed length code
  • the weight values W 1 and W 2 can be determined based on K predefined categories and different weight value candidates W 1 , W 2 included in each of the categories.
  • an index indicating a category used among the K categories can be transmitted and parsed.
  • an index indicating a weight value used among a set of weight values included in the category can be transmitted and parsed.
  • the weight values W 1 and W 2 can use the distortion of each prediction value.
  • a binary prediction intra block copy prediction method based on the distortion of each prediction value can be as described below.
  • FIG. 6 is a diagram for explaining a binary prediction intra block copy-based prediction method according to another embodiment of the present invention.
  • a first matching block (641), which is the most similar block to the current block (610), can be searched within a predefined search range (R1, R2, R3, R4) of a reconstructed area (630) of a current picture (600).
  • a block vector indicating the first matching block (641) can be referred to as a first block vector (BV 1 , 621).
  • a second matching block (642), which is the second most similar block to the current block (610) can be searched within a predefined search range (R1, R2, R3, R4) of a reconstructed area.
  • a block vector indicating the second matching block (642) can be referred to as a second block vector (BV 2 , 622).
  • the first prediction block of the current block (610) can be derived based on the first matching block (641), and the second prediction block can be derived based on the second matching block (642). And, the final prediction block for the current block (610) can be derived through a weighted sum of the first prediction block and the second prediction block.
  • the distortion of each of the first prediction block and the second prediction block derived based on the intra block copy can be determined based on the difference between the current template (650) adjacent to the current block (610) and the reference template (661, 662) adjacent to the matching block indicated by each of the block vectors (621, 622).
  • the distortion value of the prediction signal derived based on the first block vector (621) may mean the distortion value between the current template (650) adjacent to the current block (610) and the first reference template (661), which is a reference template adjacent to the first matching block (641).
  • the distortion value of the prediction signal derived based on the second block vector (622) may mean the distortion value between the current template (650) adjacent to the current block (610) and the second reference template (662), which is a reference template adjacent to the second matching block (642).
  • the weight value applied to the prediction values obtained as a result of the intra block copy can be calculated based on the distortion value of the prediction signal derived based on the first block vector (621) and the distortion value of the prediction signal derived based on the second block vector (622), according to the mathematical formula below.
  • D BV1 may mean a distortion value of a prediction signal derived based on the first block vector (621)
  • D BV2 may mean a distortion value of a prediction signal derived based on the second block vector (622).
  • the weight value W 1 of the prediction signal derived based on the first block vector (621) may be calculated using D BV2
  • the weight value W 2 of the prediction signal derived based on the second block vector (622) may be calculated using D BV1 .
  • the weight value of each signal can be calculated using the distortion values of different signals.
  • the distortion of each signal can be calculated using various correlation measurement methods such as SAD (sum of absolute differences), SSE (sum of square error), MSE (mean squared error), SSD (sum of squared differences), and SATD (sum of absolute transformed differences).
  • Equation 2 all floating-point operations can be changed to integer operations using a look-up table (LUT). That is, instead of floating-point operations, the weight values W 1 and W 2 can be approximated using only integer multiplication, addition, and shift operations. For example, the weight values can be derived using the LUT of the Cross-Component Linear Model (CCLM).
  • CCLM Cross-Component Linear Model
  • the distortion value of the prediction signal derived based on the first block vector (621) and the distortion value of the prediction signal derived based on the second block vector (622) are similar, it may not be meaningful to generate the prediction signal using the weighted sum. Therefore, the binary prediction intra block copy-based prediction method may not be applied.
  • the distortion of each prediction signal can be calculated using various correlation measurement methods such as SAD, SSE, MSE, SSD, and SATD.
  • the similarity of the distortion value can be derived according to the following mathematical formula.
  • D min may mean a smaller value among the distortion value of the prediction signal derived based on the first block vector (621) and the distortion value of the prediction signal derived based on the second block vector (622).
  • Threshold 1 means a threshold value. Accordingly, if the smaller distortion value among the distortion values of the two prediction signals is less than the threshold value, the two prediction signals may be determined to be similar.
  • the threshold value may be derived according to the following mathematical formula.
  • D max may mean a larger value among the distortion value of the prediction signal derived based on the first block vector (621) and the distortion value of the prediction signal derived based on the second block vector (622).
  • ⁇ may mean an arbitrary positive real number.
  • the similarity judgment method based on mathematical expressions 3 and 4 is only an example of judging the similarity of prediction signals, and the similarity judgment method is not limited to the present embodiment.
  • the binary prediction intra block copy-based prediction method may not be applied.
  • the distortion of each prediction signal can be calculated using various correlation measurement methods such as SAD, SSE, MSE, SSD, and SATD.
  • the dissimilarity of the distortion value can be derived according to the mathematical formula below.
  • D max may mean a larger value among the distortion value of the prediction signal derived based on the first block vector (621) and the distortion value of the prediction signal derived based on the second block vector (622).
  • Threshold 2 means a threshold value. Accordingly, if the larger distortion value among the distortion values of the two prediction signals is greater than the threshold value, the two prediction signals may be determined to be not similar.
  • the threshold value may be derived according to the following mathematical formula.
  • D min may mean a smaller value among the distortion value of the prediction signal derived based on the first block vector (621) and the distortion value of the prediction signal derived based on the second block vector (622).
  • ⁇ may mean an arbitrary positive real number.
  • the dissimilarity judgment method based on mathematical expressions 5 and 6 is only an example of judging the dissimilarity of prediction signals, and the dissimilarity judgment method is not limited to the present embodiment.
  • the L-shaped current template (650) around the current block (610) and the L-shaped reference templates (661, 662) around each of the matching blocks (641, 642) can be utilized.
  • a template having a shape other than an L-shape can be used. That is, a distortion value for a matching block can be derived using a current template having a shape other than an L-shape and reference templates having a shape other than an L-shape. That is, when inducing distortion for prediction values, the distortion value for the prediction values can be derived by considering multiple template shape candidates rather than one template shape.
  • FIG. 7 is a diagram for explaining a plurality of template shape candidates used in a process of deriving distortion values for predicted values according to one embodiment of the present invention.
  • a template having one shape among a plurality of template shape candidates having different shapes can be used.
  • the template shape candidate may include peripheral samples on the left and top of the block, as in (a) of Fig. 7.
  • the template shape candidate including peripheral samples on the left and top of the block may be referred to as an L-shaped template.
  • the size of the L-shaped template may be expressed as (w x L2) + (L1 x h) + (L1 x L2).
  • w and h represent the width and height of the block, and the values of L1 and L2 may be any positive numbers.
  • the template shape candidate may include a left-side surrounding sample of the block, as in (b) of Fig. 7.
  • the template shape candidate including a left-side surrounding sample of the block may be referred to as a left template.
  • the size of the left template may be represented as L3 x h, where h represents the height of the block, and the value of L3 may be any positive number.
  • the template shape candidate may include a peripheral sample at the top of the block, as in (c) of Fig. 7.
  • the template shape candidate including a peripheral sample at the top of the block may be referred to as an upper template.
  • the size of the upper template may be represented as w x L4, where w represents the width of the block, and the value of L4 may be any positive number.
  • a distortion value can be derived for each of the matching blocks by using a current template adjacent to the current block and reference templates having the same shape as the current template and having one of the shapes of an L-shaped template, a left template, and an upper template, and being adjacent to each of the matching blocks.
  • samples around blocks of various shapes predefined in the encoder and decoder can be used.
  • the shape of the template is not limited to that described in the present invention.
  • the template used to induce distortion in the prediction values may be an L-shaped template based on information such as the size and position of the current block, a template of Fig. 7, or a template of a shape implicitly determined from among various forms of templates using samples around blocks predefined in the encoder and decoder.
  • FIG. 8 is a flowchart illustrating an intra block copy prediction method according to an embodiment of the present invention.
  • the image decoding method of Fig. 8 can be performed by an image decoding device.
  • the video decoding device can generate a first prediction block of the current block based on the first block vector (S810). Specifically, the first prediction block can be generated based on the first matching block in the current picture indicated by the first block vector.
  • the video decoding device can generate a second prediction block of the current block based on the second block vector (S820). Specifically, the second prediction block can be generated based on the second matching block in the current picture indicated by the second block vector.
  • the video decoding device can generate a final prediction block of the current block by weighting the first prediction block and the second prediction block (S830).
  • the first block vector can be derived by performing block vector prediction, and the second block vector can be determined based on the intra block copy merge candidate list and an index indicating one merge candidate.
  • the first block vector and the second block vector can be determined based on the intra block copy merge candidate list, the first merge index and the second merge index pointing to different merge candidates.
  • the final prediction block of the current block can be generated by adding the first prediction block to which the first weight is applied and the second prediction block to which the second weight is applied.
  • the first weight and the second weight can be determined as preset values.
  • the first weight and the second weight can be determined based on an index indicating one weight candidate among a plurality of preset weight candidates.
  • the first weight and the second weight can be determined based on a first index indicating one weight candidate set from among a plurality of weight candidate sets and a second index indicating one weight candidate from among a plurality of weight candidates included in one weight candidate set.
  • the first index may indicate a set of weight candidates used in at least one of a picture group, a slice group, and a block group
  • the second index may indicate a weight candidate used in at least one unit of a picture, a slice, and a block.
  • At least one unit may be characterized as being a unit of a lower layer corresponding to at least one group.
  • the first weight can be determined based on a first distortion value, which is a distortion value between an adjacent current template of the current block and a first reference template adjacent to the first matching block, and a second distortion value, which is a distortion value between an adjacent current template of the current block and a second reference template adjacent to the second matching block.
  • the first distortion value and the second distortion value can be measured using any one of the measurement methods such as SAD (sum of absolute differences), SSE (sum of square error), MSE (mean squared error), SSD (sum of squared differences), and SATD (sum of absolute transformed differences).
  • SAD sum of absolute differences
  • SSE sum of square error
  • MSE mean squared error
  • SSD sum of squared differences
  • SATD sum of absolute transformed differences
  • the first weight and the second weight can be determined based on a look-up table corresponding to the first distortion value and the second distortion value.
  • the shape of the current template can be determined as one of a first template shape including samples adjacent to the left side of the current block, a second template shape including samples adjacent to the top side of the current block, and a third template shape including samples adjacent to the left side of the current block and samples adjacent to the top side of the current block.
  • the shapes of the first reference template and the second reference template can correspond to the shape of the current template.
  • the final prediction block of the current block can be generated by weighting the first prediction block and the second prediction block based on the comparison result between the threshold value derived based on the first distortion value and the second distortion value.
  • the second distortion value is a value smaller than the first distortion value, and if the second distortion value is smaller than or equal to the threshold value, the final prediction block of the current block can be generated by weighting the first prediction block and the second prediction block.
  • the second distortion value is a value greater than the first distortion value, and if the second distortion value is less than the threshold value, the final prediction block of the current block can be generated by weighting the first prediction block and the second prediction block.
  • a bitstream can be generated by an image encoding method including the steps described in FIG. 8.
  • the bitstream can be stored in a non-transitory computer-readable recording medium, and can also be transmitted (or streamed).
  • FIG. 9 is a drawing exemplarily showing a content streaming system to which an embodiment according to the present invention can be applied.
  • a content streaming system to which an embodiment of the present invention is applied may largely include an encoding server, a streaming server, a web server, a media storage, a user device, and a multimedia input device.
  • the encoding server compresses content input from multimedia input devices such as smartphones, cameras, CCTVs, etc. into digital data to generate a bitstream and transmits it to the streaming server.
  • multimedia input devices such as smartphones, cameras, CCTVs, etc. directly generate a bitstream
  • the encoding server may be omitted.
  • the above bitstream can be generated by an image encoding method and/or an image encoding device to which an embodiment of the present invention is applied, and the streaming server can temporarily store the bitstream during the process of transmitting or receiving the bitstream.
  • the above streaming server transmits multimedia data to a user device based on a user request via a web server, and the web server can act as an intermediary that informs the user of any available services.
  • the web server transmits it to the streaming server, and the streaming server can transmit multimedia data to the user.
  • the content streaming system may include a separate control server, and in this case, the control server may perform a role of controlling commands/responses between each device within the content streaming system.
  • the above streaming server can receive content from a media storage and/or an encoding server. For example, when receiving content from the encoding server, the content can be received in real time. In this case, in order to provide a smooth streaming service, the streaming server can store the bitstream for a certain period of time.
  • Examples of the user devices may include mobile phones, smart phones, laptop computers, digital broadcasting terminals, personal digital assistants (PDAs), portable multimedia players (PMPs), navigation devices, slate PCs, tablet PCs, ultrabooks, wearable devices (e.g., smartwatches, smart glasses, HMDs (head mounted displays)), digital TVs, desktop computers, digital signage, etc.
  • PDAs personal digital assistants
  • PMPs portable multimedia players
  • navigation devices slate PCs
  • tablet PCs tablet PCs
  • ultrabooks ultrabooks
  • wearable devices e.g., smartwatches, smart glasses, HMDs (head mounted displays)
  • digital TVs desktop computers, digital signage, etc.
  • Each server within the above content streaming system can be operated as a distributed server, in which case data received from each server can be distributedly processed.
  • an image can be encoded/decoded using at least one or a combination of at least one of the above embodiments.
  • the order in which the above embodiments are applied may be different in the encoding device and the decoding device. Alternatively, the order in which the above embodiments are applied may be the same in the encoding device and the decoding device.
  • the above embodiments can be performed for each of the luminance and chrominance signals, or the above embodiments can be performed identically for the luminance and chrominance signals.
  • the methods are described based on the flowchart as a series of steps or units, but the present invention is not limited to the order of the steps, and some steps may occur in a different order or simultaneously with other steps described above.
  • the steps shown in the flowchart are not exclusive, and other steps may be included, or one or more steps in the flowchart may be deleted without affecting the scope of the present invention.
  • the above embodiments may be implemented in the form of program commands that can be executed through various computer components and recorded on a computer-readable recording medium.
  • the computer-readable recording medium may include program commands, data files, data structures, etc., alone or in combination.
  • the program commands recorded on the computer-readable recording medium may be those specifically designed and configured for the present invention or may be those known to and available to those skilled in the art of computer software.
  • a bitstream generated by an encoding method according to the above embodiment can be stored in a non-transitory computer-readable recording medium.
  • the bitstream stored in the non-transitory computer-readable recording medium can be decoded by a decoding method according to the above embodiment.
  • examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, and hardware devices specifically configured to store and execute program instructions such as ROMs, RAMs, and flash memories.
  • Examples of program instructions include not only machine language codes generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter, etc.
  • the hardware devices may be configured to operate as one or more software modules to perform the processing according to the present invention, and vice versa.
  • the present invention can be used in a device for encoding/decoding an image and a recording medium storing a bitstream.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

영상 부호화/복호화 방법, 장치, 비트스트림을 저장한 기록 매체 및 전송 방법이 제공된다. 영상 복호화 방법은 제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계, 제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계, 및 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고, 상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고, 상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성될 수 있다.

Description

영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
본 발명은 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체에 관한 것이다. 구체적으로, 본 발명은 향상된 인트라 블록 복사(intra-block copy, IBC) 기반 예측 방법에 기반한 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체에 관한 것이다.
최근 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 응용 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 데이터량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 저장하는 경우, 전송 비용과 저장 비용이 증가하게 된다. 영상 데이터가 고해상도, 고품질화 됨에 따라 발생하는 이러한 문제들을 해결하기 위해서는 더 높은 해상도 및 화질을 갖는 영상에 대한 고효율 영상 부호화(encoding)/복호화(decoding) 기술이 요구된다.
비디오 코딩 및 복호화 방법 및 장치에서 인트라 블록 복사(intra block copy, IBC)는 이미 복원된 영역에서 현재 코딩 단위 (coding unit, CU) 블록(현재 블록)에 대한 예측 블록을 탐색하는 기술이다. 인트라 블록 복사 예측은 유사한 형상이 반복되는 스크린 컨텐츠에 대하여 예측 정확도가 높다. 특히 참조 픽처가 없어 인트라 예측만 적용 가능한 경우, 인트라 블록 복사 예측을 적용함으로써, 부호화 효율이 향상될 수 있다. 따라서, 인트라 예측만 적용 가능한 경우의 부호화 효율을 향상시키기 위하여, 인트라 블록 복사 예측에 대한 다양한 툴이 논의되고 있다.
본 발명은 부호화/복호화 효율이 향상된 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 본 발명에 따른 영상 복호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체를 제공하는 것을 목적으로 한다.
또한, 본 발명은 위와 같은 기존의 이원 예측 인트라 블록 복사 기반 예측의 문제점을 해결하기 위한 예측 방법을 제공하는 것을 목적으로 한다.
본 발명의 일 실시예에 따른 영상 복호화 방법은, 제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계, 제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계, 및 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고, 상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고, 상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 블록 벡터는 블록 벡터 예측을 수행하여 도출되고, 상기 제2 블록 벡터는 인트라 블록 복사 머지 후보 리스트 및 하나의 머지 후보를 지시하는 인덱스를 기초로 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 블록 벡터 및 상기 제2 블록 벡터는, 인트라 블록 복사 머지 후보 리스트, 서로 다른 하나의 머지 후보를 지시하는 제1 머지 인덱스 및 제2 머지 인덱스를 기초로 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 현재 블록의 최종 예측 블록은, 제1 가중치를 적용한 상기 제1 예측 블록과 제2 가중치를 적용한 상기 제2 예측 블록을 합산하여 생성되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 가중치 및 상기 제2 가중치는 미리 설정된 값으로 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 가중치 및 상기 제2 가중치는, 미리 설정된 복수의 가중치 후보들 중에서 하나의 가중치 후보를 지시하는 인덱스에 기초하여 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 미리 설정된 복수의 가중치 후보들 각각에 할당되는 코드워드는 상기 복수의 가중치 후보들 각각의 사용 빈도를 기초로 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 가중치 및 상기 제2 가중치는, 복수의 가중치 후보 세트들 중에서 하나의 가중치 후보 세트를 지시하는 제1 인덱스 및 하나의 가중치 후보 세트에 포함된 복수의 가중치 후보들 중에서, 하나의 가중치 후보를 지시하는 제2 인덱스에 기초하여 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 인덱스는, 픽처 그룹, 슬라이스 그룹, 블록 그룹 중 적어도 하나의 그룹에서 사용되는 가중치 후보 세트를 지시하고, 상기 제2 인덱스는, 픽처, 슬라이스, 블록 중 적어도 하나의 유닛에서 사용되는 가중치 후보를 지시하는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 적어도 하나의 유닛은, 상기 적어도 하나의 그룹에 대응되는 하위 계층의 유닛인 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 가중치 및 상기 제2 가중치는, 상기 현재 블록의 인접한 현재 템플릿과 상기 제1 매칭 블록에 인접한 제1 참조 템플릿 간의 왜곡 값인 제1 왜곡 값 및 상기 현재 블록의 인접한 현재 템플릿과 상기 제2 매칭 블록에 인접한 제2 참조 템플릿 간의 왜곡 값인 제2 왜곡 값을 기초로 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 왜곡 값 및 상기 제2 왜곡 값은 SAD(sum of absolute differences) 측정 방법 또는 SSE(sum of square error) 측정 방법 중 어느 하나의 방법을 통해 측정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제1 가중치 및 상기 제2 가중치는, 상기 제1 왜곡 값 및 상기 제2 왜곡 값에 대응되는 룩업 테이블(look-up table)을 기초로 결정되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 현재 템플릿의 형상은, 상기 현재 블록의 좌측에 인접한 샘플들을 포함하는 제1 템플릿 형상, 상기 현재 블록의 상단에 인접한 샘플들을 포함하는 제2 템플릿 형상, 및 상기 현재 블록의 좌측에 인접한 샘플들 및 상기 현재 블록의 상단에 인접한 샘플들을 포함하는 제3 템플릿 형상 중 하나로 결정되고, 상기 제1 참조 템플릿 및 상기 제2 참조 템플릿의 형상은, 상기 현재 템플릿의 형상에 대응되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 현재 블록의 최종 예측 블록은, 상기 제1 왜곡 값을 기초로 유도되는 임계 값과 상기 제2 왜곡 값 간의 비교 결과를 기초로, 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 생성되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제2 왜곡 값은, 상기 제1 왜곡 값 보다 작은 값이고, 상기 제2 왜곡 값이 상기 임계 값보다 작거나 같은 경우, 상기 현재 블록의 최종 예측 블록이 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 생성되는 것을 특징으로 할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 제2 왜곡 값은, 상기 제1 왜곡 값 보다 큰 값이고, 상기 제2 왜곡 값이 상기 임계 값 미만인 경우, 상기 현재 블록의 최종 예측 블록이 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 생성되는 것을 특징으로 할 수 있다.
본 발명의 일 실시예에 따른 영상 부호화 방법은, 제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계, 제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계, 및 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고, 상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고, 상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 할 수 있다.
본 발명의 일 실시예에 따른 비 일시적 컴퓨터 판독가능한 기록 매체는, 제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계, 제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계, 및 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고, 상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고, 상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 하는, 영상 부호화 방법에 의해 생성된 비트스트림을 저장할 수 있다.
본 발명의 일 실시예에 따른 전송 방법은, 상기 비트스트림을 전송하는 단계를 포함하고, 제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계, 제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계, 및 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고, 상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고, 상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 하는, 영상 부호화 방법에 의해 생성된 비트스트림을 전송할 수 있다. 본 개시에 대하여 위에서 간략하게 요약된 특징들은 후술하는 본 개시의 상세한 설명의 예시적인 양상일 뿐이며, 본 개시의 범위를 제한하는 것은 아니다.
본 발명에 따르면, 부호화/복호화 효율이 향상된 영상 부호화/복호화 방법 및 장치가 제공될 수 있다.
또한, 본 발명에 따르면, 가중합을 이용한 이원 예측 인트라 블록 복사 기반 예측 방법이 제공될 수 있다.
또한, 본 발명에 따르면, 서로 다른 예측 신호의 왜곡 값을 기초로 이원 예측 인트라 블록 복사 기반 예측 방법의 효율성을 판단하고, 판단 결과를 기초로 이원 예측 인트라 블록 복사 기반 예측 방법의 적용 여부를 결정하는 방법이 제공될 수 있다.
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 3은 본 발명이 적용될 수 있는 비디오 코딩 시스템을 개략적으로 나타내는 도면이다.
도 4는 본 발명의 일 실시 예에 따른 인트라 블록 복사 기반 예측 방법을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시 예에 따른 이원 예측 인트라 블록 복사 기반 예측 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 다른 실시 예에 따른 이원 예측 인트라 블록 복사 기반 예측 방법을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시 예에 따른 예측 값들에 대한 왜곡 값 유도 과정에서 사용되는 복수의 템플릿 형상 후보들을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시 예에 따른 인트라 블록 복사 예측 방법을 나타내는 흐름도이다.
도 9은 본 발명에 따른 실시예가 적용될 수 있는 컨텐츠 스트리밍 시스템을 예시적으로 나타내는 도면이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다. 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 예시적으로 제공될 수 있다. 후술하는 예시적 실시예들에 대한 상세한 설명은, 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 실시예를 실시할 수 있기에 충분하도록 상세히 설명된다. 다양한 실시예들은 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 실시예의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 예시적 실시예들의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다.
본 발명에서 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
본 발명에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 본 발명의 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.
실시예에서 용어 "적어도 하나(at least one)"는 1, 2, 3 및 4와 같은 1 이상의 개수들 중 하나를 의미할 수 있다. 실시예에서 용어 "복수(a plurality of)"는 2, 3 및 4와 같은 2 이상의 개수들 중 하나를 의미할 수 있다.
이하, 도면을 참조하여 본 발명의 실시 형태에 대하여 구체적으로 설명한다. 본 명세서의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략하고, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
용어 설명
이하에서, “영상”은 동영상(video)을 구성하는 하나의 픽처(picture)를 의미할 수 있으며, 동영상 자체를 나타낼 수도 있다. 예를 들면, "영상의 부호화 및/또는 복호화"는 "동영상의 부호화 및/또는 복호화"를 의미할 수 있으며, "동영상을 구성하는 영상들 중 하나의 영상의 부호화 및/또는 복호화"를 의미할 수도 있다.
이하에서, "동영상" 및 "비디오"는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다. 또한, 대상 영상은 부호화의 대상인 부호화 대상 영상 및/또는 복호화의 대상인 복호화 대상 영상일 수 있다. 또한, 대상 영상은 부호화 장치로 입력된 입력 영상일 수 있고, 복호화 장치로 입력된 입력 영상일 수 있다. 여기서, 대상 영상은 현재 영상과 동일한 의미를 가질 수 있다.
이하에서, 부호화기 및 영상 부호화 장치는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, 복호화기 및 영상 복호화 장치는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, "영상(image)", "픽처(picture)", "프레임(frame)" 및 "스크린(screen)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, “대상 블록”은 부호화의 대상인 부호화 대상 블록 및/또는 복호화의 대상인 복호화 대상 블록일 수 있다. 또한, 대상 블록은 현재 부호화 및/또는 복호화의 대상인 현재 블록일 수 있다. 예를 들면, "대상 블록" 및 "현재 블록"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, "블록" 및 "유닛"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다. 또한, “유닛”은 블록과 구분하여 지칭하기 위해 휘도(Luma) 성분 블록과 그에 대응하는 색차(Chroma) 성분 블록을 포함한 것을 의미할 수 있다. 일 예로, 부호화 트리 유닛(Coding Tree Unit, CTU)은 하나의 휘도 성분(Y) 부호화 트리 블록(Coding Tree Block, CTB)과 관련된 두 색차 성분(Cb, Cr) 부호화 트리 블록들로 구성될 수 있다.
이하에서, “샘플”, “화소” 및 “픽셀”은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다. 여기서, 샘플은 블록을 구성하는 기본 단위를 나타낼 수 있다.
이하에서, “인터” 및 “화면 간”은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, “인트라” 및 “화면 내”는 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
부호화 장치(100)는 인코더, 비디오 부호화 장치 또는 영상 부호화 장치일 수 있다. 비디오는 하나 이상의 영상들을 포함할 수 있다. 부호화 장치(100)는 하나 이상의 영상들을 순차적으로 부호화할 수 있다.
도 1을 참조하면, 부호화 장치(100)는 영상 분할부(110), 인트라 예측부(120), 움직임 예측부(121), 움직임 보상부(122), 스위치(115), 감산기(113), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(117), 필터부(180) 및 참조 픽처 버퍼(190)를 포함할 수 있다.
또한, 부호화 장치(100)는 입력 영상에 대한 부호화를 통해 부호화된 정보를 포함하는 비트스트림을 생성할 수 있고, 생성된 비트스트림을 출력할 수 있다. 생성된 비트스트림은 컴퓨터 판독가능한 기록 매체에 저장될 수 있거나, 유/무선 전송 매체를 통해 스트리밍될 수 있다.
영상 분할부(110)는 동영상 부호화/복호화의 효율을 높이기 위해, 입력 영상을 다양한 형태로 분할할 수 있다. 즉, 입력 동영상은 다수의 픽처로 구성되어 있고 하나의 픽처는 압축 효율, 병렬처리 등을 위하여 계층적으로 분할되어 처리될 수 있다. 예를 들어, 하나의 픽처를 하나 또는 다수개의 타일(tile) 또는 슬라이스(slice)로 분할하고 다시 다수개의 CTU (Coding Tree Unit)로 분할할 수 있다. 또 다른 방식으로, 먼저 하나의 픽처를 직사각형 모양의 슬라이스의 그룹으로 정의되는 다수개의 서브픽처(sub-picture)로 분할하고, 각 서브픽처를 상기 타일/슬라이스로 분할할 수도 있다. 여기서, 서브픽처는 픽처를 부분적으로 독립 부호화/복호화 및 전송하는 기능을 지원하기 위하여 활용될 수 있다. 여러 개의 서브픽처는 각각 개별적으로 복원 가능하기에 멀티 채널 입력을 하나의 픽처로 구성하는 응용에 있어서 편집이 용이하다는 장점을 가지게 된다. 또한, 타일을 횡방향으로 분할하여 브릭(brick)을 생성할 수도 있다. 여기서, 브릭(brick)은 픽처내 병렬처리의 기본 단위로 활용할 수 있다. 또한, 하나의 CTU는 쿼드 트리(QT: Quadtree)로 재귀적으로 분할될 수 있고, 분할의 말단 노드를 CU (Coding Unit)라고 정의할 수 있다. CU는 예측 단위인 PU(Prediction Unit)와 변환 단위인 TU (Transform Unit)로 분할되어 예측과 분할이 수행될 수 있다. 한편, CU는 예측 단위 및/또는 변환 단위 그 자체로 활용할 수 있다. 여기서, 유연한 분할을 위하여 각 CTU는 쿼드 트리(QT) 뿐만 아니라 멀티타입 트리(MTT: Multi-Type Tree)로 재귀적으로 분할될 수도 있다. CTU는 QT의 말단 노드에서 멀티타입 트리로 분할이 시작될 수 있으며 MTT는 BT(Binary Tree)와 TT(Triple Tree)로 구성될 수 있다. 예를 들어, MTT구조에는 수직 이진 분할모드(SPLIT_BT_VER), 수평 이진 분할모드(SPLIT_BT_HOR), 수직 삼항 분할모드(SPLIT_TT_VER), 수평 삼항 분할모드(SPLIT_TT_HOR)로 구분될 수 있다. 또한, 분할 시 휘도 블록의 쿼드 트리의 최소 블록 크기(MinQTSize)는 16x16이고 바이너리 트리의 최대블록 크기(MaxBtSize)는 128x128, 트리플 트리의 최대 블록 크기(MaxTtSize)는 64x64로 설정할 수 있다. 또한, 바이너리 트리의 최소 블록 크기(MinBtSize)와 트리플 트리의 최소 블록 크기(MinTtSize)는 4x4, 멀티 타입 트리의 최대 깊이(MaxMttDepth)는 4로 지정할 수 있다. 또한 I 슬라이스의 부호화 효율을 높이기 위하여 휘도와 색차성분의 CTU 분할 구조를 서로 다르게 사용하는 듀얼 트리(dual tree)를 적용할 수도 있다. 반면 P와 B슬라이스에서는 CTU 내의 휘도와 색차 CTB (Coding Tree Block)들이 코딩 트리 구조를 공유하는 싱글 트리(single tree)로 분할할 수 있다.
부호화 장치(100)는 입력 영상에 대해 인트라 모드 및/또는 인터 모드로 부호화를 수행할 수 있다. 또는, 부호화 장치(100)는 입력 영상에 대해 상기 인트라 모드 및 인터 모드가 아닌 제3의 모드 (예, IBC 모드, Palette 모드 등)로 부호화를 수행할 수도 있다. 단, 상기 제3의 모드가 인트라 모드 또는 인터 모드와 유사한 기능적 특징을 가지는 경우, 설명의 편의를 위해 인트라 모드 또는 인터 모드로 분류하기도 한다. 본 발명에서는 상기 제3의 모드에 대한 구체적인 설명이 필요한 경우에만 이를 별도로 분류하여 기술할 것이다.
예측 모드로 인트라 모드가 사용되는 경우 스위치(115)는 인트라로 전환될 수 있고, 예측 모드로 인터 모드가 사용되는 경우 스위치(115)는 인터로 전환될 수 있다. 여기서 인트라 모드는 화면 내 예측 모드를 의미할 수 있으며, 인터 모드는 화면 간 예측 모드를 의미할 수 있다. 부호화 장치(100)는 입력 영상의 입력 블록에 대한 예측 블록을 생성할 수 있다. 또한, 부호화 장치(100)는 예측 블록이 생성된 후, 입력 블록 및 예측 블록의 차분(residual)을 사용하여 잔여 블록을 부호화할 수 있다. 입력 영상은 현재 부호화의 대상인 현재 영상으로 칭해질 수 있다. 입력 블록은 현재 부호화의 대상인 현재 블록 혹은 부호화 대상 블록으로 칭해질 수 있다.
예측 모드가 인트라 모드인 경우, 인트라 예측부(120)는 현재 블록의 주변에 이미 부호화/복호화된 블록의 샘플을 참조 샘플로서 이용할 수 있다. 인트라 예측부(120)는 참조 샘플을 이용하여 현재 블록에 대한 공간적 예측을 수행할 수 있고, 공간적 예측을 통해 입력 블록에 대한 예측 샘플들을 생성할 수 있다. 여기서 인트라 예측은 화면 내 예측을 의미할 수 있다.
인트라 예측 방식으로, DC 모드, Planar 모드와 같은 무방향성 예측 모드와 방향성 예측 모드 (예, 65개 방향)가 적용될 수 있다. 여기서, 인트라 예측 방식은 인트라 예측 모드 또는 화면 내 예측 모드로 표현될 수 있다.
예측 모드가 인터 모드인 경우, 움직임 예측부(121)는, 움직임 예측 과정에서 참조 영상으로부터 입력 블록과 가장 매치가 잘 되는 영역을 검색할 수 있고, 검색된 영역을 이용하여 움직임 벡터를 도출할 수 있다. 이때, 상기 영역으로 탐색 영역을 사용할 수 있다. 참조 영상은 참조 픽처 버퍼(190)에 저장될 수 있다. 여기서, 참조 영상에 대한 부호화/복호화가 처리되었을 때 참조 픽처 버퍼(190)에 저장될 수 있다.
움직임 보상부(122)는 움직임 벡터를 이용하는 움직임 보상을 수행함으로써 현재 블록에 대한 예측 블록을 생성할 수 있다. 여기서 인터 예측은 화면 간 예측 혹은 움직임 보상을 의미할 수 있다.
상기 움직임 예측부(121)와 움직임 보상부(122)는 움직임 벡터의 값이 정수 값을 가지지 않을 경우에 참조 영상 내의 일부 영역에 대해 보간 필터(Interpolation Filter)를 적용하여 예측 블록을 생성할 수 있다. 화면 간 예측 혹은 움직임 보상을 수행하기 위해 부호화 유닛을 기준으로 해당 부호화 유닛에 포함된 예측 유닛의 움직임 예측 및 움직임 보상 방법이 스킵 모드(Skip Mode), 머지 모드(Merge Mode), 향상된 움직임 벡터 예측(Advanced Motion Vector Prediction; AMVP) 모드, 인트라 블록 복사(Intra Block Copy; IBC) 모드 중 어떠한 방법인지 여부를 판단할 수 있고, 각 모드에 따라 화면 간 예측 혹은 움직임 보상을 수행할 수 있다.
또한, 상기 화면 간 예측 방법을 기초로, sub-PU 기반 예측의 AFFINE 모드, SbTMVP (Subblock-based Temporal Motion Vector Prediction) 모드, 및 PU 기반 예측의 MMVD(Merge with MVD) 모드, GPM(Geometric Partitioning Mode) 모드를 적용할 수도 있다. 또한, 각 모드의 성능 향상을 위하여 HMVP(History based MVP), PAMVP(Pairwise Average MVP), CIIP(Combined Intra/Inter Prediction), AMVR(Adaptive Motion Vector Resolution), BDOF(Bi-Directional Optical-Flow), BCW(Bi-predictive with CU Weights), LIC (Local Illumination Compensation), TM(Template Matching), OBMC(Overlapped Block Motion Compensation) 등을 적용할 수도 있다.
이 중, AFFINE 모드는 AMVP와 MERGE 모드에서 모두 사용되고 부호화 효율 또한 높은 기술이다. 종래 동영상 코딩 표준에서는 블록의 평행이동만을 고려하여 MC(Motion Compensation)를 수행하기 때문에 줌 인/아웃(zoom in/out), 회전(rotation)과 같이 현실에서 발생하는 움직임을 제대로 보상하지 못하는 단점이 있었다. 이를 보완하여, 두 개의 컨트롤 포인트 움직임 벡터(control point motion vector, CPMV)를 사용하는 4 파라미터 어파인 움직임 모델과 세 개의 컨트롤 포인트 움직임 벡터를 사용하는 6 파라미터 어파인 움직임 모델을 사용하여 인터 예측에 적용할 수 있다. 여기서, CPMV는 현재 블록의 왼쪽 상단, 오른쪽 상단, 왼쪽 하단 중 어느 하나의 어파인 움직임 모델을 표현하는 벡터이다.
감산기(113)는 입력 블록 및 예측 블록의 차분을 사용하여 잔여 블록을 생성할 수 있다. 잔여 블록은 잔여 신호로 칭해질 수도 있다. 잔여 신호는 원 신호 및 예측 신호 간의 차이(difference)를 의미할 수 있다. 또는, 잔여 신호는 원신호 및 예측 신호 간의 차이를 변환(transform)하거나, 양자화하거나, 또는 변환 및 양자화함으로써 생성된 신호일 수 있다. 잔여 블록은 블록 단위의 잔여 신호일 수 있다.
변환부(130)는 잔여 블록에 대해 변환(transform)을 수행하여 변환 계수(transform coefficient)를 생성할 수 있고, 생성된 변환 계수를 출력할 수 있다. 여기서, 변환 계수는 잔여 블록에 대한 변환을 수행함으로써 생성된 계수 값일 수 있다. 변환 생략(transform skip) 모드가 적용되는 경우, 변환부(130)는 잔여 블록에 대한 변환을 생략할 수도 있다.
변환 계수 또는 잔여 신호에 양자화를 적용함으로써 양자화된 레벨(quantized level)이 생성될 수 있다. 이하, 실시예들에서는 양자화된 레벨도 변환 계수로 칭해질 수 있다.
일 예로, 화면내 예측을 통해 생성된 4x4 휘도 잔차 블록은 DST(Discrete Sine Transform) 기반 기저 벡터를 통해 변환하며, 나머지 잔차 블록에 대해서는 DCT(Discrete Cosine Transform) 기반의 기저 벡터를 사용하여 변환을 수행할 수 있다. 또한 RQT(Residual Quad Tree) 기술을 통하여 하나의 블록에 대하여 변환 블록을 쿼드 트리 형태로 분할하며 RQT를 통해 분할된 각 변환 블록에 대하여 변환과 양자화를 수행하고 난 후 모든 계수가 0이 되는 경우의 부호화 효율을 높이기 위해 cbf(coded block flag)를 전송할 수 있다.
또 다른 대안으로는, 여러 변환 기저를 선택적으로 사용하여 변환을 수행하는 MTS(Multiple Transform Selection) 기술을 적용할 수도 있다. 즉, CU를 RQT를 통해 TU로 분할하지 않고, SBT(Sub-block Transform) 기술을 통해 TU분할과 유사한 기능을 수행할 수 있다. 구체적으로, SBT는 화면 간 예측 블록에만 적용되며 RQT와 달리 현재 블록을 수직 혹은 수평 방향으로 ½ 혹은 ¼ 크기로 분할한 뒤 그 중 하나의 블록에 대해서만 변환을 수행할 수 있다. 예를 들어, 수직으로 분할된 경우 맨 왼쪽 혹은 맨 오른쪽 블록에 대해 변환을 수행하고, 수평으로 분할된 경우 맨 위쪽 혹은 맨 아래쪽 블록에 대하여 변환을 수행할 수 있다.
또한 DCT 또는 DST를 통해 주파수 영역으로 변환된 잔차 신호를 추가 변환하는 2차 변환 (secondary transform) 기술인 LFNST(Low Frequency Non-Separable Transform)를 적용할 수도 있다. LFNST는 좌측 상단의 4x4 또는 8x8의 저주파수 영역에 대해서 변환을 추가적으로 수행하여 잔차 계수를 좌측 상단으로 집중시킬 수 있게 된다.
양자화부(140)는 변환 계수 또는 잔여 신호를 양자화 매개변수 (QP, Quantization parameter)에 따라 양자화함으로써 양자화된 레벨을 생성할 수 있고, 생성된 양자화된 레벨을 출력할 수 있다. 이때, 양자화부(140)에서는 양자화 행렬을 사용하여 변환 계수를 양자화할 수 있다.
일 예로, 0~51 QP 값을 사용하는 양자화기를 사용할 수 있다. 또는, 영상의 크기가 보다 크고 높은 부호화 효율이 요구되는 경우에는, 0~63 QP를 사용할 수도 있다. 또한 하나의 양자화기를 사용하는 것이 아닌 두 개의 양자화기를 사용하는 DQ(Dependent Quantization) 방법을 적용할 수도 있다. DQ는 두개의 양자화기(예, Q0, Q1)를 사용하여 양자화를 수행하되, 특정 양자화기 사용에 대한 정보를 시그널링 하지 않더라도, 상태 전이 모델을 통해 현재 상태에 기반하여 다음 변환 계수에 사용할 양자화기가 선택되도록 적용할 수 있다.
엔트로피 부호화부(150)는, 양자화부(140)에서 산출된 값들 또는 부호화 과정에서 산출된 부호화 파라미터(Coding Parameter) 값들 등에 대하여 확률 분포에 따른 엔트로피 부호화를 수행함으로써 비트스트림(bitstream)을 생성할 수 있고, 비트스트림을 출력할 수 있다. 엔트로피 부호화부(150)는 영상의 샘플에 관한 정보 및 영상의 복호화를 위한 정보에 대한 엔트로피 부호화를 수행할 수 있다. 예를 들면, 영상의 복호화를 위한 정보는 구문 요소(syntax element) 등을 포함할 수 있다.
엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼(symbol)에 적은 수의 비트가 할당되고 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당되어 심볼이 표현됨으로써, 부호화 대상 심볼들에 대한 비트열의 크기가 감소될 수 있다. 엔트로피 부호화부(150)는 엔트로피 부호화를 위해 지수 골롬(exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 부호화 방법을 사용할 수 있다. 예를 들면, 엔트로피 부호화부(150)는 가변 길이 부호화(Variable Length Coding/Code; VLC) 테이블을 이용하여 엔트로피 부호화를 수행할 수 있다. 또한 엔트로피 부호화부(150)는 대상 심볼의 이진화(binarization) 방법 및 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출한 후, 도출된 이진화 방법, 확률 모델, 문맥 모델(Context Model)을 사용하여 산술 부호화를 수행할 수도 있다.
관련하여, CABAC을 적용함에 있어서, 복호화 장치에서 저장되는 확률 테이블의 크기를 줄이고자, 테이블 확률 업데이트 방식을 간단한 수식을 통한 테이블 업데이트 방식으로 변경하여 적용할 수도 있다. 또한 더 정확한 심볼의 확률 값을 얻기 위하여 2개의 서로 다른 확률 모델을 사용할 수도 있다.
엔트로피 부호화부(150)는 변환 계수 레벨(양자화된 레벨)을 부호화하기 위해 변환 계수 스캐닝(Transform Coefficient Scanning) 방법을 통해 2차원의 블록 형태(form) 계수를 1차원의 벡터 형태로 변경할 수 있다.
부호화 파라미터(Coding Parameter)는 구문 요소 (syntax element)와 같이 부호화 장치(100)에서 부호화되어 복호화 장치(200)로 시그널링되는 정보(플래그, 색인 등)뿐만 아니라, 부호화 과정 혹은 복호화 과정에서 유도되는 정보를 포함할 수 있으며, 영상을 부호화하거나 복호화할 때 필요한 정보를 의미할 수 있다.
여기서, 플래그 혹은 색인을 시그널링(signaling)한다는 것은 인코더에서는 해당 플래그 혹은 색인을 엔트로피 부호화(Entropy Encoding)하여 비트스트림(Bitstream)에 포함하는 것을 의미할 수 있고, 디코더에서는 비트스트림으로부터 해당 플래그 혹은 색인을 엔트로피 복호화(Entropy Decoding)하는 것을 의미할 수 있다.
부호화된 현재 영상은 이후에 처리되는 다른 영상에 대한 참조 영상으로서 사용될 수 있다. 따라서, 부호화 장치(100)는 부호화된 현재 영상을 다시 복원 또는 복호화할 수 있고, 복원 또는 복호화된 영상을 참조 영상으로 참조 픽처 버퍼(190)에 저장할 수 있다.
양자화된 레벨은 역양자화부(160)에서 역양자화(dequantization)될 수 있고. 역변환부(170)에서 역변환(inverse transform)될 수 있다. 역양자화 및/또는 역변환된 계수는 가산기(117)를 통해 예측 블록과 합해질 수 있다, 역양자화 및/또는 역변환된 계수와 예측 블록을 합함으로써 복원 블록(reconstructed block)이 생성될 수 있다. 여기서, 역양자화 및/또는 역변환된 계수는 역양자화 및 역변환 중 적어도 하나 이상이 수행된 계수를 의미하며, 복원된 잔여 블록을 의미할 수 있다. 상기 역양자화부(160) 및 역변환부(170)는 양자화부(140) 및 변환부(130)의 역과정으로 수행될 수 있다.
복원 블록은 필터부(180)를 거칠 수 있다. 필터부(180)는 디블록킹 필터(deblocking filter), 샘플 적응적 오프셋(Sample Adaptive Offset; SAO), 적응적 루프 필터(Adaptive Loop Filter; ALF), 양방향 필터 (Bilateral filter; BIF), LMCS (Luma Mapping with Chroma Scaling) 등을 복원 샘플, 복원 블록 또는 복원 영상에, 전부 또는 일부 필터링 기술로 적용할 수 있다. 필터부(180)는 인-루프 필터(in-loop filter)로 칭해질 수도 있다. 이때, 인-루프 필터(in-loop filter)는 LMCS를 제외하는 명칭으로 사용하기도 한다.
디블록킹 필터는 블록들 간의 경계에서 발생한 블록 왜곡을 제거할 수 있다. 디블록킹 필터를 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 샘플을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 서로 다른 필터를 적용할 수 있다.
샘플 적응적 오프셋을 이용하여 부호화 에러를 보상하기 위해 샘플 값에 적정 오프셋(offset) 값을 더할 수 있다. 샘플 적응적 오프셋은 디블록킹을 수행한 영상에 대해 샘플 단위로 원본 영상과의 오프셋을 보정할 수 있다. 영상에 포함된 샘플을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 샘플의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.
양방향 필터 (Bilateral filter; BIF) 또한 디블록킹을 수행한 영상에 대해 샘플 단위로 원본 영상과의 오프셋을 보정할 수 있다.
적응적 루프 필터는 복원 영상 및 원래의 영상을 비교한 값에 기반하여 필터링을 수행할 수 있다. 영상에 포함된 샘플을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. 적응적 루프 필터를 적용할지 여부에 관련된 정보는 부호화 유닛(Coding Unit, CU) 별로 시그널링될 수 있고, 각각의 블록에 따라 적용될 적응적 루프 필터의 모양 및 필터 계수는 달라질 수 있다.
LMCS(Luma Mapping with Chroma Scaling)에서, 루마 매핑(LM, Luma-mapping)은 piece-wise 선형 모델을 통해 휘도 값을 재맵핑 하는 것을 의미하고, 크로마 스케일링(CS, Chroma scaling)은 예측 신호의 평균 휘도 값에 따라 색차 성분의 잔차 값을 스케일링해주는 기술을 의미한다. 특히, LMCS는 HDR(High Dynamic Range) 영상의 특성을 반영한 HDR 보정 기술로 활용될 수 있다.
필터부(180)를 거친 복원 블록 또는 복원 영상은 참조 픽처 버퍼(190)에 저장될 수 있다. 필터부(180)를 거친 복원 블록은 참조 영상의 일부일 수 있다. 말하자면, 참조 영상은 필터부(180)를 거친 복원 블록들로 구성된 복원 영상일 수 있다. 저장된 참조 영상은 이후 화면 간 예측 혹은 움직임 보상에 사용될 수 있다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
복호화 장치(200)는 디코더, 비디오 복호화 장치 또는 영상 복호화 장치일 수 있다.
도 2를 참조하면, 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움직임 보상부(250), 가산기(201), 스위치 (203), 필터부(260) 및 참조 픽처 버퍼(270)를 포함할 수 있다.
복호화 장치(200)는 부호화 장치(100)에서 출력된 비트스트림을 수신할 수 있다. 복호화 장치(200)는 컴퓨터 판독가능한 기록 매체에 저장된 비트스트림을 수신하거나, 유/무선 전송 매체를 통해 스트리밍되는 비트스트림을 수신할 수 있다. 복호화 장치(200)는 비트스트림에 대하여 인트라 모드 또는 인터 모드로 복호화를 수행할 수 있다. 또한, 복호화 장치(200)는 복호화를 통해 복원된 영상 또는 복호화된 영상을 생성할 수 있고, 복원된 영상 또는 복호화된 영상을 출력할 수 있다.
복호화에 사용되는 예측 모드가 인트라 모드인 경우 스위치(203)가 인트라로 전환될 수 있다. 복호화에 사용되는 예측 모드가 인터 모드인 경우 스위치(203)가 인터로 전환될 수 있다.
복호화 장치(200)는 입력된 비트스트림을 복호화하여 복원된 잔여 블록(reconstructed residual block)을 획득할 수 있고, 예측 블록을 생성할 수 있다. 복원된 잔여 블록 및 예측 블록이 획득되면, 복호화 장치(200)는 복원된 잔여 블록과 및 예측 블록을 더함으로써 복호화 대상이 되는 복원 블록을 생성할 수 있다. 복호화 대상 블록은 현재 블록으로 칭해질 수 있다.
엔트로피 복호화부(210)는 비트스트림에 대한 확률 분포에 따른 엔트로피 복호화를 수행함으로써 심볼들을 생성할 수 있다. 생성된 심볼들은 양자화된 레벨 형태의 심볼을 포함할 수 있다. 여기에서, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법의 역과정일 수 있다.
엔트로피 복호화부(210)는 변환 계수 레벨(양자화된 레벨)을 복호화하기 위해 변환 계수 스캐닝 방법을 통해 1차원의 벡터 형태 계수를 2차원의 블록 형태로 변경할 수 있다.
양자화된 레벨은 역양자화부(220)에서 역양자화될 수 있고, 역변환부(230)에서 역변환될 수 있다. 양자화된 레벨은 역양자화 및/또는 역변환이 수행된 결과로서, 복원된 잔여 블록으로 생성될 수 있다. 이때, 역양자화부(220)는 양자화된 레벨에 양자화 행렬을 적용할 수 있다. 복호화 장치에 적용되는 역양자화부(220) 및 역변환부(230)는 전술한 부호화 장치에 적용되는 역양자화부(160) 및 역변환부(170)와 동일한 기술을 적용할 수 있다.
인트라 모드가 사용되는 경우, 인트라 예측부(240)는 복호화 대상 블록 주변의 이미 복호화된 블록의 샘플 값을 이용하는 공간적 예측을 현재 블록에 대해 수행함으로써 예측 블록을 생성할 수 있다. 복호화 장치에 적용되는 인트라 예측부(240)는 전술한 부호화 장치에 적용되는 인트라 예측부(120)와 동일한 기술을 적용할 수 있다.
인터 모드가 사용되는 경우, 움직임 보상부(250)는 움직임 벡터 및 참조 픽처 버퍼(270)에 저장되어 있는 참조 영상을 이용하는 움직임 보상을 현재 블록에 대해 수행함으로써 예측 블록을 생성할 수 있다. 상기 움직임 보상부(250)는 움직임 벡터의 값이 정수 값을 가지지 않을 경우에 참조 영상 내의 일부 영역에 대해 보간 필터를 적용하여 예측 블록을 생성할 수 있다. 움직임 보상을 수행하기 위해 부호화 유닛을 기준으로 해당 부호화 유닛에 포함된 예측 유닛의 움직임 보상 방법이 스킵 모드, 머지 모드, AMVP 모드, 현재 픽처 참조 모드 중 어떠한 방법인지 여부를 판단할 수 있고, 각 모드에 따라 움직임 보상을 수행할 수 있다. 복호화 장치에 적용되는 움직임 보상부(250)는 전술한 부호화 장치에 적용되는 움직임 보상부(122)와 동일한 기술을 적용할 수 있다.
가산기(201)는 복원된 잔여 블록 및 예측 블록을 가산하여 복원 블록을 생성할 수 있다. 필터부(260)는 Inverse-LMCS, 디블록킹 필터, 샘플 적응적 오프셋 및 적응적 루프 필터 등 적어도 하나를 복원 블록 또는 복원 영상에 적용할 수 있다. 복호화 장치에 적용되는 필터부(260)는 전술한 부호화 장치에 적용되는 필터부(180)에 적용된 필터링 기술과 동일한 기술을 적용할 수 있다.
필터부(260)는 복원 영상을 출력할 수 있다. 복원 블록 또는 복원 영상은 참조 픽처 버퍼(270)에 저장되어 인터 예측에 사용될 수 있다. 필터부(260)를 거친 복원 블록은 참조 영상의 일부일 수 있다. 말하자면, 참조 영상은 필터부(260)를 거친 복원 블록들로 구성된 복원 영상일 수 있다. 저장된 참조 영상은 이후 화면 간 예측 혹은 움직임 보상에 사용될 수 있다.
도 3은 본 발명이 적용될 수 있는 비디오 코딩 시스템을 개략적으로 나타내는 도면이다.
일 실시예에 따른 비디오 코딩 시스템은 부호화 장치(10) 및 복호화 장치(20)를 포함할 수 있다. 부호화 장치(10)는 부호화된 비디오(video) 및/또는 영상(image) 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 복호화 장치(20)로 전달할 수 있다.
일 실시예에 따른 부호화 장치(10)는 비디오 소스 생성부(11), 부호화부(12), 전송부(13)를 포함할 수 있다. 일 실시예에 따른 복호화 장치(20)는 수신부(21), 복호화부(22) 및 렌더링부(23)를 포함할 수 있다. 상기 부호화부(12)는 비디오/영상 부호화부라고 불릴 수 있고, 상기 복호화부(22)는 비디오/영상 복호화부라고 불릴 수 있다. 전송부(13)는 부호화부(12)에 포함될 수 있다. 수신부(21)는 복호화부(22)에 포함될 수 있다. 렌더링부(23)는 디스플레이부를 포함할 수도 있고, 디스플레이부는 별개의 디바이스 또는 외부 컴포넌트로 구성될 수도 있다.
비디오 소스 생성부(11)는 비디오/영상의 캡쳐, 합성 또는 생성 과정 등을 통하여 비디오/영상을 획득할 수 있다. 비디오 소스 생성부(11)는 비디오/영상 캡쳐 디바이스 및/또는 비디오/영상 생성 디바이스를 포함할 수 있다. 비디오/영상 캡쳐 디바이스는 예를 들어, 하나 이상의 카메라, 이전에 캡쳐된 비디오/영상을 포함하는 비디오/영상 아카이브 등을 포함할 수 있다. 비디오/영상 생성 디바이스는 예를 들어 컴퓨터, 타블렛 및 스마트폰 등을 포함할 수 있으며 (전자적으로) 비디오/영상을 생성할 수 있다. 예를 들어, 컴퓨터 등을 통하여 가상의 비디오/영상이 생성될 수 있으며, 이 경우 관련 데이터가 생성되는 과정으로 비디오/영상 캡쳐 과정이 갈음될 수 있다.
부호화부(12)는 입력 비디오/영상을 부호화할 수 있다. 부호화부(12)는 압축 및 부호화 효율을 위하여 예측, 변환, 양자화 등 일련의 절차를 수행할 수 있다. 부호화부(12)는 부호화된 데이터(부호화된 비디오/영상 정보)를 비트스트림(bitstream) 형태로 출력할 수 있다. 상기 부호화부(12)의 상세 구성은 전술한 도 1의 부호화 장치(100)와 동일하게 구성하는 것도 가능하다.
전송부(13)는 비트스트림 형태로 출력된 부호화된 비디오/영상 정보 또는 데이터를 파일 또는 스트리밍 형태로 디지털 저장매체 또는 네트워크를 통하여 복호화 장치(20)의 수신부(21)로 전달할 수 있다. 디지털 저장 매체는 USB, SD, CD, DVD, 블루레이, HDD, SSD 등 다양한 저장 매체를 포함할 수 있다. 전송부(13)는 미리 정해진 파일 포맷을 통하여 미디어 파일을 생성하기 위한 엘리먼트를 포함할 수 있고, 방송/통신 네트워크를 통한 전송을 위한 엘리먼트를 포함할 수 있다. 수신부(21)는 상기 저장매체 또는 네트워크로부터 상기 비트스트림을 추출/수신하여 복호화부(22)로 전달할 수 있다.
복호화부(22)는 부호화부(12)의 동작에 대응하는 역양자화, 역변환, 예측 등 일련의 절차를 수행하여 비디오/영상을 복호화할 수 있다. 상기 복호화부(22)의 상세 구성은 전술한 도 2의 복호화 장치(200)와 동일하게 구성하는 것도 가능하다.
렌더링부(23)는 복호화된 비디오/영상을 렌더링할 수 있다. 렌더링된 비디오/영상은 디스플레이부를 통하여 디스플레이될 수 있다.
인트라 블록 복사(intra block copy, IBC) 기반 예측 방법은 블록 벡터를 이용하여 현재 픽처의 복원된 영역에서 최적의 예측 블록을 탐색하고, 이를 복사하여 현재 블록의 예측 블록을 생성하는 방법을 의미한다.
이하, 도 4 내지 도 7을 참고하여, 본 발명의 일 실시 예에 따른 인트라 블록 복사 기반 예측 방법에 대해 설명하도록 한다.
도 4는 본 발명의 일 실시 예에 따른 인트라 블록 복사 기반 예측 방법을 설명하기 위한 도면이다.
도 4를 참고하면, 현재 블록(current block, 410)의 블록 벡터(block vector, 420)에 기초하여 현재 픽처(400)의 복원된 영역(Reconstructed area, 430)의 기 정의된 탐색 범위 (R1, R2, R3, R4) 내에서 매칭 블록(440)이 탐색될 수 있다. 그리고, 현재 블록(410)의 예측 블록은 매칭 블록(440)을 기초로 유도될 수 있다. 따라서, 현재 블록(410)에 인트라 블록 복사 기반 예측 방법이 적용되면, 부호화기는 인트라 블록 복사 기반 예측 방법에 관한 정보와 블록 벡터(420)에 관련된 정보를 복호화기로 전송할 수 있다.
도 4에서 기 정의된 탐색 범위인 R1, R2, R3, R4는 현재 블록(410)을 포함하는 현재 CTU(Coding Tree Unit), 현재 CTU로부터 기 설정된 범위 이내의 영역 중에서 현재 CTU의 좌측 상단에 위치하는 좌상단 CTU, 현재 CTU로부터 기 설정된 범위 이내의 영역 중에서 현재 CTU의 상단에 위치하는 상단 CTU, 현재 CTU로부터 기 설정된 범위 이내의 영역 중에서 현재 CTU의 좌측에 위치하는 좌측 CTU 로 각각 정의될 수 있다. 여기서, 기 설정된 범위 이내의 영역은 현재 타일, 슬라이스, 픽처 중 하나로 설정된 영역일 수 있다.
도 4에서 설명하는 인트라 블록 복사 기반 예측 방법은 하나의 블록 벡터(420)를 사용해 예측 값을 생성하는 단원 예측 인트라 블록 복사(uni-predictive IBC)이다. 반면, 다른 실시예에 따르면, 인트라 블록 복사 기반 예측 방법은 두 개의 블록 벡터들을 사용하는 이원 예측 인트라 블록 복사(bi-predictive IBC)일 수 있다. 이원 예측 인트라 블록 복사 기반 예측 방법은 아래에 설명하는 바와 같을 수 있다.
도 5는 본 발명의 일 실시 예에 따른 이원 예측 인트라 블록 복사 기반 예측 방법을 설명하기 위한 도면이다.
도 5를 참조하면, 현재 블록(510)의 서로 다른 블록 벡터인 제1 블록 벡터(BV1, 521), 및 제2 블록 벡터(BV2, 522)에 기초하여 현재 픽처(500)의 복원된 영역(530)의 기 정의된 탐색 범위 (R1, R2, R3, R4) 내에서 제1 매칭 블록(541) 및 제2 매칭 블록(542)이 탐색될 수 있다. 그리고, 현재 블록(510)의 제1 예측 블록은 제1 매칭 블록(541)을 기초로 유도되고, 제2 예측 블록은 제2 매칭 블록(542)을 기초로 유도될 수 있다. 그리고, 현재 블록(510)에 대한 최종 예측 블록은 제1 예측 블록 및 제2 예측 블록의 가중합을 통해 유도될 수 있다. 즉, 이원 예측 인트라 블록 복사 기반 예측 방법은 두 개의 블록 벡터들(521, 522)을 사용하는 이원 예측 방법일 수 있다.
이원 예측 인트라 블록 복사 기반 예측 방법에서 사용하는 두 개의 블록 벡터들(521, 522)은 다양한 방법으로 도출될 수 있다. 일 실시예에 따르면, 두 개의 블록 벡터들(521, 522)은 IBC 블록 벡터 예측(block vector prediction, BVP) 방법과 IBC 머지(merge) 모드로부터 도출될 수 있다. 이 경우, IBC 블록 벡터 예측 모드에 대한 인덱스와 IBC 머지 후보에 대한 인덱스가 부호기에서 복호기로 시그널링 될 수 있다.
다른 실시예에 따르면, 두 개의 블록 벡터들(521, 522)은 IBC 머지 후보 리스트로부터 서로 다른 IBC 머지 인덱스를 활용하여 유도될 수 있다. 이 경우, 두 개의 블록 벡터들(521, 522)을 지시하는 머지 인덱스는 부호기에서 복호기로 시그널링 될 수 있다.
이원 예측 인트라 블록 복사 기반 예측 방법은 단원 예측 인트라 블록 복사 기반 예측 방법에 비해 코딩 효율을 향상시킬 수 있다. 다만, 두 개의 예측 신호의 단순 평균을 통해 예측 값을 생성할 경우, 예측 정확도가 낮아질 수 있다.
또한 본 발명의 일 실시예에 따르면, 두 개의 블록 벡터들(521, 522)에 기반해 두 개의 예측 블록들을 생성한 후, 생성된 각각의 예측 블록들을 가중합하여 최종 예측 블록이 생성될 수 있다. 최종 예측 블록은 아래의 수학식에 따라 생성될 수 있다.
Figure PCTKR2024007817-appb-img-000001
여기서, PBV1은 제1 블록 벡터 BV1을 이용하여 생성한 예측 값을 의미하고, PBV2는 제2 블록 벡터 BV2로부터 생성한 예측 값을 의미할 수 있다. 그리고, W1은 PBV1에 적용되는 가중치 값을 의미하고, W2는 PBV2에 적용되는 가중치 값을 의미할 수 있다.
일 실시예에 따르면, 가중치 값 W1과 W2는 부호기와 복호기에서 약속된 임의의 값에 따라 결정될 수 있다. 이 경우, 가중치 값 W1과 W2는 별도로 시그널링되지 않을 수 있다. 여기서, 가중치 값 W1과 W2의 합은 1이고, 가중치 값 W1과 W2 각각은 0 이상의 실수이다.
다른 실시예에 따르면, 가중치 값 W1과 W2는 미리 설정된 N개의 가중치 후보들 중에서 하나의 가중치 후보를 지시하도록 전송되고, 파싱되는 인덱스를 기초로 결정될 수 있다. 여기서, N은 임의의 양의 정수이다. 여기서, 인덱스는 PBV1에 적용되는 가중치 값 W1 및 PBV2에 적용되는 가중치 값 W2를 지시할 수 있다. 가중치 값 W1과 W2의 합은 1이다.
서로 다른 예측 블록에 할당되는 가중치 값의 후보들 및 가중치 값의 후보들 각각에 할당되는 인덱스 및 코드워드는 아래의 표를 통해 설명하는 바와 같을 수 있다.
Figure PCTKR2024007817-appb-img-000002
표 1은 가중치 값의 후보들 각각에 할당되는 인덱스 및 코드워드의 실시예를 나타낸다. 다만, 표 1의 실시예는 본 개시의 일 실시예일 뿐이며, 가중치 값 후보들의 수 N(N ≥ 2인 정수), 가중치 값 후보들에 대한 코드워드, 그리고 가중치 값 후보들 각각에 대한 가중치 값은 임의로 결정될 수 있다. 또한, 가중치 값 후보들에 대응되는 인덱스의 전송 및/또는 파싱을 위한 코드워드(codeword)는 고정 길이 부호화(fixed length code, FLC), 단항 코드(unary code), 절삭형 단항 코드(truncated unary code), 절삭형 이진 코드(truncated binary code)를 포함하는 임의의 코드워드 할당 방법 중 하나의 방법을 이용하여 생성될 수 있다.
가중치 값 후보에 대한 코드워드를 생성함에 있어, FLC 대신 가중치 값 후보들의 발생 확률에 기초한 VLC(variable length code)를 사용하여 코드워드를 생성하는 경우, 가중치 값 후보에 대한 인덱스 할당 순서가 변경될 수 있다. 즉, 아래의 표와 같이, 빈번하게 발생하는 가중치 값에 짧은 코드워드가 할당될 수 있다.
Figure PCTKR2024007817-appb-img-000003
또 다른 실시예에 따르면, 가중치 값 W1과 W2는 미리 정의된 K 개의 카테고리 및 카테고리 각각에 포함되는 서로 다른 가중치 값 W1, W2 후보들을 기초로 결정될 수 있다. 임의의 픽쳐 그룹/슬라이스 그룹/블록 그룹마다 K 개의 카테고리 중 사용되는 카테고리를 지시하는 인덱스가 전송 및 파싱될 수 있다. 그리고, 하위 레벨 (예를 들어, 픽쳐, 슬라이스, 블록, QP 단위)마다 카테고리에 포함된 가중치 값 세트 중에서 사용되는 가중치 값을 지시하는 인덱스가 전송 및 파싱될 수 있다.
또 다른 실시예에 따르면, 가중치 값 W1과 W2는 각 예측 값의 왜곡(distortion)을 사용할 수 있다. 각각의 예측 값의 왜곡에 기반한 이원 예측 인트라 블록 복사 예측 방법은 아래에 설명하는 바와 같을 수 있다.
도 6은 본 발명의 다른 실시 예에 따른 이원 예측 인트라 블록 복사 기반 예측 방법을 설명하기 위한 도면이다.
도 6을 참조하면, 현재 픽처(600)의 복원된 영역(630)의 기 정의된 탐색 범위 (R1, R2, R3, R4) 내에서 현재 블록(610)과 가장 유사한 블록인 제1 매칭 블록(641)이 탐색될 수 있다. 제1 매칭 블록(641)을 지시하는 블록 벡터를 제1 블록 벡터(BV1, 621)로 지칭할 수 있다. 그리고, 복원된 영역(Reconstructed area)의 미리 정의한 탐색 범위 (R1, R2, R3, R4) 내에서 현재 블록(610)과 두 번째로 유사한 블록인 제2 매칭 블록(642)이 탐색될 수 있다. 제2 매칭 블록(642)을 지시하는 블록 벡터를 제2 블록 벡터(BV2, 622)으로 지칭할 수 있다.
그리고, 현재 블록(610)의 제1 예측 블록은 제1 매칭 블록(641)을 기초로 유도되고, 제2 예측 블록은 제2 매칭 블록(642)을 기초로 유도될 수 있다. 그리고, 현재 블록(610)에 대한 최종 예측 블록은 제1 예측 블록 및 제2 예측 블록의 가중합을 통해 유도될 수 있다.
인트라 블록 복사를 기반으로 유도한 제1 예측 블록 및 제2 예측 블록 각각의 왜곡은 현재 블록(610) 주변 이웃한 현재 템플릿(Current template, 650)과 블록 벡터들(621, 622) 각각에 의해 지시되는 매칭 블록(Matching block)에 이웃한 참조 템플릿(Reference template, 661, 662)의 차이를 기초로 결정될 수 있다.
제1 블록 벡터(621) 기반으로 유도한 예측 신호의 왜곡 값은 현재 블록(610)에 인접한 현재 템플릿(650)과 제1 매칭 블록(641)에 인접한 참조 템플릿인 제1 참조 템플릿(661) 간의 왜곡 값을 의미할 수 있다.
제2 블록 벡터(622) 기반으로 유도한 예측 신호의 왜곡 값은 현재 블록(610)에 인접한 현재 템플릿(650)과 제2 매칭 블록(642)에 인접한 참조 템플릿인 제2 참조 템플릿(662) 간의 왜곡 값을 의미할 수 있다.
인트라 블록 복사 결과 획득한 예측 값들에 적용되는 가중치 값은 아래의 수학식에 따라, 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값 및 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값을 기초로 산출될 수 있다.
Figure PCTKR2024007817-appb-img-000004
여기서, DBV1는 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값을 의미하고, DBV2는 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값을 의미할 수 있다. 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 가중치 값 W1은 DBV2을 사용하여 산출되고, 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 가중 값 W2는 DBV1을 사용하여 산출될 수 있다.
왜곡 값이 작을수록 예측 신호와 원본 신호 간의 유사도가 커지고, 반대로 왜곡 값이 커질수록 예측 신호와 원본 신호의 유사도가 작아질 수 있다. 이에 따라, 각 신호의 가중치 값은 서로 다른 신호의 왜곡 값을 사용하여 산출될 수 있다. 각 신호의 왜곡은 SAD(sum of absolute differences), SSE(sum of square error), MSE (mean squared error), SSD (sum of squared differences), SATD (sum of absolute transformed differences) 등 다양한 상관도 측정 방법을 사용하여 산출될 수 있다.
수학식 2의 구현 및 연산 복잡도를 줄이기 위해, 룩업 테이블(look-up table, LUT)을 이용하여 모든 부동 소수점 연산을 정수 연산으로 변경할 수 있다. 즉, 부동 소수점 연산을 대신하여 정수의 곱셈, 덧셈, 쉬프트 (shift) 연산만으로 가중치 값 W1과 W2의 근사치를 도출할 수 있다. 예를 들어, CCLM(Cross-Component Linear Model)의 LUT을 이용하여 가중치 값이 도출될 수 있다.
또 다른 실시예에 따르면, 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값과 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값이 유사한 경우, 가중 합을 이용해 예측 신호를 생성하는 것이 유의미하지 않을 수 있다. 따라서, 이원 예측 인트라 블록 복사 기반 예측 방법을 적용하지 않을 수 있다. 여기서, 각 예측 신호들의 왜곡은 SAD, SSE, MSE, SSD, SATD 등 다양한 상관도 측정 방법을 사용하여 산출될 수 있다. 왜곡 값의 유사도는 아래의 수학식에 따라 유도될 수 있다.
Figure PCTKR2024007817-appb-img-000005
여기서, Dmin은 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값 및 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값 중 작은 값을 의미할 수 있다. 그리고, Threshold1은 문턱 값을 의미한다. 따라서, 두 예측 신호의 왜곡 값 중 작은 왜곡 값이 문턱 값 이하일 경우, 두 예측 신호는 유사하다고 판단될 수 있다. 여기서, 문턱 값은 아래의 수학식에 따라 유도될 수 있다.
Figure PCTKR2024007817-appb-img-000006
Dmax는 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값 및 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값 중 큰 값을 의미할 수 있다. 그리고, α는 임의의 양의 실수를 의미할 수 있다. 다만, 수학식 3 및 수학식 4에 기초한 유사도 판단 방법은, 예측 신호들의 유사도를 판단하는 일 실시예일 뿐이며, 유사도 판단 방법은 본 실시예에 한정되지 않는다.
또 다른 실시예에 따르면, 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값과 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값의 차이가 큰 경우, 가중 합을 이용해 예측 신호를 생성하는 것이 유의미하지 않을 수 있다. 따라서, 이원 예측 인트라 블록 복사 기반 예측 방법을 적용하지 않을 수 있다. 여기서, 각 예측 신호들의 왜곡은 SAD, SSE, MSE, SSD, SATD 등 다양한 상관도 측정 방법을 사용하여 산출될 수 있다. 왜곡 값의 비유사도는 아래의 수학식에 따라 유도될 수 있다.
Figure PCTKR2024007817-appb-img-000007
여기서, Dmax는 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값 및 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값 중 큰 값을 의미할 수 있다. 그리고, Threshold2는 문턱 값을 의미한다. 따라서, 두 예측 신호의 왜곡 값 중 큰 왜곡 값이 문턱 값 이상일 경우, 두 예측 신호는 유사하지 않다고 판단될 수 있다. 여기서, 문턱 값은 아래의 수학식에 따라 유도될 수 있다.
Figure PCTKR2024007817-appb-img-000008
Dmin은 제1 블록 벡터(621)를 기반으로 유도한 예측 신호의 왜곡 값 및 제2 블록 벡터(622)를 기반으로 유도한 예측 신호의 왜곡 값 중 작은 값을 의미할 수 있다. 그리고, β는 임의의 양의 실수를 의미할 수 있다. 다만, 수학식 5 및 수학식 6에 기초한 비유사도 판단 방법은, 예측 신호들의 비유사도를 판단하는 일 실시예일 뿐이며, 비유사도 판단 방법은 본 실시예에 한정되지 않는다.
도 6에 도시된 바에 따르면, 예측 값들에 대한 왜곡을 유도함에 있어, 현재 블록(610) 주변의 L형의 현재 템플릿(650) 및 매칭 블록들(641, 642) 각각의 주변의 L형 참조 탬플릿들(661, 662)을 이용할 수 있다.
반면, 본 발명의 다른 실시예에 따르면, L형 이외의 형상을 가지는 템플릿을 이용할 수 있다. 즉, L형 이외의 형상을 가지는 현재 템플릿 및 L형 이외의 형상을 가지는 참조 템플릿들을 이용하여 매칭 블록에 대한 왜곡 값이 유도될 수 있다. 즉, 예측 값들에 대한 왜곡을 유도할 때, 하나의 템플릿 형상이 아닌, 복수의 템플릿 형상 후보들을 고려하여 예측 값들에 대한 왜곡 값을 유도할 수 있다.
예측 값들에 대한 왜곡 값 유도 과정에서 사용되는 복수의 템플릿 형상 후보들은 아래에 설명하는 바와 같을 수 있다.
도 7은 본 발명의 일 실시 예에 따른 예측 값들에 대한 왜곡 값 유도 과정에서 사용되는 복수의 템플릿 형상 후보들을 설명하기 위한 도면이다.
도 7을 참조하면, 이원 예측 인트라 블록 복사 기반 예측 결과 유도된 서로 다른 예측 블록들 각각에 대해, 서로 다른 형태를 가지는 복수의 템플릿 형상 후보들 중 하나의 형상을 가지는 템플릿이 사용될 수 있다.
여기서, 템플릿 형상 후보는 도 7의 (a)와 같이 블록의 좌측 및 상단의 주변 샘플을 포함할 수 있다. 블록의 좌측 및 상단의 주변 샘플을 포함하는 템플릿 형상 후보를 L형 템플릿으로 지칭할 수 있다. L형 템플릿의 크기는 (w x L2) + (L1 x h) + (L1 x L2)로 나타낼 수 있다. 여기서, w와 h는 블록의 너비와 높이를 나타내고, L1과 L2의 값은 임의의 양수일 수 있다.
또는 템플릿 형상 후보는 도 7의 (b)와 같이 블록의 좌측의 주변 샘플을 포함할 수 있다. 블록의 좌측의 주변 샘플을 포함하는 템플릿 형상 후보를 좌측 템플릿으로 지칭할 수 있다. 좌측 템플릿의 크기는 L3 x h로 나타낼 수 있다. 여기서, h는 블록의 높이를 나타내고, L3의 값은 임의의 양수일 수 있다.
또는 템플릿 형상 후보는 도 7의 (c)와 같이 블록의 상단의 주변 샘플을 포함할 수 있다. 블록의 상단의 주변 샘플을 포함하는 템플릿 형상 후보를 상측 템플릿으로 지칭할 수 있다. 상측 템플릿의 크기는 w x L4로 나타낼 수 있다. 여기서, w는 블록의 너비를 나타내고, L4의 값은 임의의 양수일 수 있다.
도 7의 실시예에 따르면, L 형 템플릿, 좌측 템플릿 및 상측 템플릿 중 하나의 형상을 가지고, 현재 블록에 인접한 현재 템플릿 및 현재 템플릿과 동일한 형상을 가지고, 매칭 블록들 각각에 인접한 참조 템플릿들을 이용하여, 매칭 블록들 각각에 대한 왜곡 값이 유도될 수 있다.
다만, 도 7에 도시된 예시 외에도 부호화기 및 복호화기에서 미리 정의된 다양한 형태의 블록 주변의 샘플을 이용할 수 있다. 템플릿의 형태는 본 발명에서 설명한 바에 한정되지 아니한다.
또는, 예측 값들에 대한 왜곡을 유도함에 있어 사용되는 템플릿은 현재 블록의 크기, 위치 등의 정보에 기초한 L형 템플릿, 도 7의 템플릿 또는 부호화기 및 복호화기에서 미리 정의된 블록 주변의 샘플을 이용한 다양한 형태의 템플릿 중에서 암시적으로 결정된 형상의 템플릿일 수 있다.
도 8은 본 발명의 일 실시 예에 따른 인트라 블록 복사 예측 방법을 나타내는 흐름도이다.
도 8의 영상 복호화 방법은 영상 복호화 장치에 의해 수행될 수 있다.
영상 복호화 장치는 제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성할 수 있다(S810). 구체적으로, 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성될 수 있다.
영상 복호화 장치는 제2 블록 벡터를 기초로 현재 블록의 제2 예측 블록을 생성할 수 있다(S820). 구체적으로, 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 현재 픽처 내의 제2 매칭 블록을 기초로 생성될 수 있다.
영상 복호화 장치는 제1 예측 블록 및 제2 예측 블록을 가중합하여 현재 블록의 최종 예측 블록을 생성할 수 있다(S830).
여기서, 제1 블록 벡터는 블록 벡터 예측을 수행하여 도출될 수 있고, 제2 블록 벡터는 인트라 블록 복사 머지 후보 리스트 및 하나의 머지 후보를 지시하는 인덱스를 기초로 결정될 수 있다.
또는, 제1 블록 벡터 및 제2 블록 벡터는, 인트라 블록 복사 머지 후보 리스트, 서로 다른 하나의 머지 후보를 지시하는 제1 머지 인덱스 및 제2 머지 인덱스를 기초로 결정될 수 있다.
여기서, 현재 블록의 최종 예측 블록은, 제1 가중치를 적용한 제1 예측 블록과 제2 가중치를 적용한 제2 예측 블록을 합산하여 생성될 수 있다.
여기서, 제1 가중치 및 제2 가중치는 미리 설정된 값으로 결정될 수 있다.
여기서, 제1 가중치 및 제2 가중치는, 미리 설정된 복수의 가중치 후보들 중에서 하나의 가중치 후보를 지시하는 인덱스에 기초하여 결정될 수 있다.
구체적으로, 제1 가중치 및 제2 가중치는, 복수의 가중치 후보 세트들 중에서 하나의 가중치 후보 세트를 지시하는 제1 인덱스 및 하나의 가중치 후보 세트에 포함된 복수의 가중치 후보들 중에서, 하나의 가중치 후보를 지시하는 제2 인덱스에 기초하여 결정될 수 있다.
여기서, 제1 인덱스는, 픽처 그룹, 슬라이스 그룹, 블록 그룹 중 적어도 하나의 그룹에서 사용되는 가중치 후보 세트를 지시하고, 제2 인덱스는, 픽처, 슬라이스, 블록 중 적어도 하나의 유닛에서 사용되는 가중치 후보를 지시할 수 있다.
여기서, 적어도 하나의 유닛은, 적어도 하나의 그룹에 대응되는 하위 계층의 유닛인 것을 특징으로 할 수 있다.
여기서, 제1 가중치는, 현재 블록의 인접한 현재 템플릿과 제1 매칭 블록에 인접한 제1 참조 템플릿 간의 왜곡 값인 제1 왜곡 값 및 현재 블록의 인접한 현재 템플릿과 제2 매칭 블록에 인접한 제2 참조 템플릿 간의 왜곡 값인 제2 왜곡 값을 기초로 결정될 수 있다.
여기서, 제1 왜곡 값 및 제2 왜곡 값은 SAD(sum of absolute differences), SSE(sum of square error), MSE (mean squared error), SSD (sum of squared differences), SATD (sum of absolute transformed differences) 등의 측정 방법 중 어느 하나의 방법을 통해 측정될 수 있다.
여기서, 제1 가중치 및 제2 가중치는, 제1 왜곡 값 및 제2 왜곡 값에 대응되는 룩업 테이블(look-up table)을 기초로 결정될 수 있다.
여기서, 현재 템플릿의 형상은, 현재 블록의 좌측에 인접한 샘플들을 포함하는 제1 템플릿 형상, 현재 블록의 상단에 인접한 샘플들을 포함하는 제2 템플릿 형상, 및 현재 블록의 좌측에 인접한 샘플들 및 현재 블록의 상단에 인접한 샘플들을 포함하는 제3 템플릿 형상 중 하나로 결정될 수 있다.
그리고, 제1 참조 템플릿 및 제2 참조 템플릿의 형상은, 현재 템플릿의 형상에 대응될 수 있다.
여기서, 현재 블록의 최종 예측 블록은, 제1 왜곡 값을 기초로 유도되는 임계 값과 제2 왜곡 값 간의 비교 결과를 기초로, 제1 예측 블록 및 제2 예측 블록을 가중합하여 생성될 수 있다.
여기서, 제2 왜곡 값은, 제1 왜곡 값 보다 작은 값이고, 제2 왜곡 값이 임계 값보다 작거나 같은 경우, 현재 블록의 최종 예측 블록이 제1 예측 블록 및 제2 예측 블록을 가중합하여 생성될 수 있다.
여기서, 제2 왜곡 값은, 제1 왜곡 값 보다 큰 값이고, 제2 왜곡 값이 임계 값 미만인 경우, 현재 블록의 최종 예측 블록이 제1 예측 블록 및 제2 예측 블록을 가중합하여 생성될 수 있다.
한편, 도 8에서 설명한 단계들은 영상 복호화 방법 및 영상 부호화 방법에서 수행될 수 있다. 또한, 도 8에서 설명한 단계를 포함하는 영상 부호화 방법에 의해 비트스트림이 생성될 수 있다. 상기 비트스트림은 비 일시적 컴퓨터 판독가능한 기록매체에 저장될 수 있으며, 또한, 전송(또는 스트리밍)될 수 있다.
도 9은 본 발명에 따른 실시예가 적용될 수 있는 컨텐츠 스트리밍 시스템을 예시적으로 나타내는 도면이다.
도 9에 도시된 바와 같이, 본 발명의 실시예가 적용된 컨텐츠 스트리밍 시스템은 크게 인코딩 서버, 스트리밍 서버, 웹 서버, 미디어 저장소, 사용자 장치 및 멀티미디어 입력 장치를 포함할 수 있다.
상기 인코딩 서버는 스마트폰, 카메라, CCTV 등과 같은 멀티미디어 입력 장치들로부터 입력된 컨텐츠를 디지털 데이터로 압축하여 비트스트림을 생성하고 이를 상기 스트리밍 서버로 전송하는 역할을 한다. 다른 예로, 스마트폰, 카메라, CCTV 등과 같은 멀티미디어 입력 장치들이 비트스트림을 직접 생성하는 경우, 상기 인코딩 서버는 생략될 수도 있다.
상기 비트스트림은 본 발명의 실시예가 적용된 영상 부호화 방법 및/또는 영상 부호화 장치에 의해 생성될 수 있고, 상기 스트리밍 서버는 상기 비트스트림을 전송 또는 수신하는 과정에서 일시적으로 상기 비트스트림을 저장할 수 있다.
상기 스트리밍 서버는 웹 서버를 통한 사용자 요청에 기반하여 멀티미디어 데이터를 사용자 장치에 전송하고, 상기 웹 서버는 사용자에게 어떠한 서비스가 있는지를 알려주는 매개체 역할을 할 수 있다. 사용자가 상기 웹 서버에 원하는 서비스를 요청하면, 상기 웹 서버는 이를 스트리밍 서버에 전달하고, 상기 스트리밍 서버는 사용자에게 멀티미디어 데이터를 전송할 수 있다. 이때, 상기 컨텐츠 스트리밍 시스템은 별도의 제어 서버를 포함할 수 있고, 이 경우 상기 제어 서버는 상기 컨텐츠 스트리밍 시스템 내 각 장치 간 명령/응답을 제어하는 역할을 수행할 수 있다.
상기 스트리밍 서버는 미디어 저장소 및/또는 인코딩 서버로부터 컨텐츠를 수신할 수 있다. 예를 들어, 상기 인코딩 서버로부터 컨텐츠를 수신하는 경우, 상기 컨텐츠를 실시간으로 수신할 수 있다. 이 경우, 원활한 스트리밍 서비스를 제공하기 위하여 상기 스트리밍 서버는 상기 비트스트림을 일정 시간동안 저장할 수 있다.
상기 사용자 장치의 예로는, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)), 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등이 있을 수 있다.
상기 컨텐츠 스트리밍 시스템 내 각 서버들은 분산 서버로 운영될 수 있으며, 이 경우 각 서버에서 수신하는 데이터는 분산 처리될 수 있다.
상기의 실시예들은 부호화 장치 및 복호화 장치에서 동일한 방법 또는 상응하는 방법으로 수행될 수 있다. 또한, 상기 실시예들 중 적어도 하나 혹은 적어도 하나의 조합을 이용해서 영상을 부호화/복호화할 수 있다.
상기 실시예들이 적용되는 순서는 부호화 장치와 복호화 장치에서 상이할 수 있다. 또는, 상기 실시예들이 적용되는 순서는 부호화 장치와 복호화 장치에서 동일할 수 있다.
상기 실시예들은 휘도 및 색차 신호 각각에 대하여 수행될 수 있다. 또는, 휘도 및 색차 신호에 대한 상기 실시예들이 동일하게 수행될 수 있다.
상기 실시예들에서, 방법들은 일련의 단계 또는 유닛으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
상기 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다.
상기 실시예에 따른 부호화 방법에 의해 생성된 비트스트림은 비 일시적인 컴퓨터 판독 가능한 기록 매체에 저장될 수 있다. 또한, 상기 비 일시적인 컴퓨터 판독 가능한 기록 매체에 저장되는 비트스트림은 상기 실시예에 따른 복호화 방법에 의해 복호화될 수 있다.
여기서, 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
본 발명은 영상을 부호화/복호화하는 장치 및 비트스트림을 저장한 기록 매체에 이용될 수 있다.

Claims (20)

  1. 영상 복호화 방법에 있어서,
    제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계;
    제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계; 및
    상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고,
    상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고,
    상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 하는 영상 복호화 방법.
  2. 제1 항에 있어서,
    상기 제1 블록 벡터는 블록 벡터 예측을 수행하여 도출되고,
    상기 제2 블록 벡터는 인트라 블록 복사 머지 후보 리스트 및 하나의 머지 후보를 지시하는 인덱스를 기초로 결정되는 것을 특징으로 하는 영상 복호화 방법.
  3. 제1 항에 있어서,
    상기 제1 블록 벡터 및 상기 제2 블록 벡터는,
    인트라 블록 복사 머지 후보 리스트, 서로 다른 하나의 머지 후보를 지시하는 제1 머지 인덱스 및 제2 머지 인덱스를 기초로 결정되는 것을 특징으로 하는 영상 복호화 방법.
  4. 제1 항에 있어서,
    상기 현재 블록의 최종 예측 블록은,
    제1 가중치를 적용한 상기 제1 예측 블록과 제2 가중치를 적용한 상기 제2 예측 블록을 합산하여 생성되는 것을 특징으로 하는 영상 복호화 방법.
  5. 제4 항에 있어서,
    상기 제1 가중치 및 상기 제2 가중치는 미리 설정된 값으로 결정되는 것을 특징으로 하는 영상 복호화 방법.
  6. 제4 항에 있어서,
    상기 제1 가중치 및 상기 제2 가중치는,
    미리 설정된 복수의 가중치 후보들 중에서 하나의 가중치 후보를 지시하는 인덱스에 기초하여 결정되는 것을 특징으로 하는 영상 복호화 방법.
  7. 제6 항에 있어서,
    상기 미리 설정된 복수의 가중치 후보들 각각에 할당되는 코드워드는 상기 복수의 가중치 후보들 각각의 사용 빈도를 기초로 결정된 것을 특징으로 하는 영상 복호화 방법.
  8. 제6 항에 있어서,
    상기 제1 가중치 및 상기 제2 가중치는,
    복수의 가중치 후보 세트들 중에서 하나의 가중치 후보 세트를 지시하는 제1 인덱스 및 하나의 가중치 후보 세트에 포함된 복수의 가중치 후보들 중에서, 하나의 가중치 후보를 지시하는 제2 인덱스에 기초하여 결정되는 것을 특징으로 하는 영상 복호화 방법.
  9. 제8 항에 있어서,
    상기 제1 인덱스는, 픽처 그룹, 슬라이스 그룹, 블록 그룹 중 적어도 하나의 그룹에서 사용되는 가중치 후보 세트를 지시하고,
    상기 제2 인덱스는, 픽처, 슬라이스, 블록 중 적어도 하나의 유닛에서 사용되는 가중치 후보를 지시하는 것을 특징으로 하는 영상 복호화 방법.
  10. 제9 항에 있어서,
    상기 적어도 하나의 유닛은, 상기 적어도 하나의 그룹에 대응되는 하위 계층의 유닛인 것을 특징으로 하는 영상 복호화 방법.
  11. 제6 항에 있어서,
    상기 제1 가중치 및 상기 제2 가중치는,
    상기 현재 블록의 인접한 현재 템플릿과 상기 제1 매칭 블록에 인접한 제1 참조 템플릿 간의 왜곡 값인 제1 왜곡 값 및 상기 현재 블록의 인접한 현재 템플릿과 상기 제2 매칭 블록에 인접한 제2 참조 템플릿 간의 왜곡 값인 제2 왜곡 값을 기초로 결정되는 것을 특징으로 하는 영상 복호화 방법.
  12. 제11 항에 있어서,
    상기 제1 왜곡 값 및 상기 제2 왜곡 값은 SAD(sum of absolute differences) 측정 방법 또는 SSE(sum of square error) 측정 방법 중 어느 하나의 방법을 통해 측정되는 것을 특징으로 하는 영상 복호화 방법.
  13. 제11 항에 있어서,
    상기 제1 가중치 및 상기 제2 가중치는,
    상기 제1 왜곡 값 및 상기 제2 왜곡 값에 대응되는 룩업 테이블(look-up table)을 기초로 결정되는 것을 특징으로 하는 영상 복호화 방법.
  14. 제11 항에 있어서,
    상기 현재 템플릿의 형상은,
    상기 현재 블록의 좌측에 인접한 샘플들을 포함하는 제1 템플릿 형상, 상기 현재 블록의 상단에 인접한 샘플들을 포함하는 제2 템플릿 형상, 및 상기 현재 블록의 좌측에 인접한 샘플들 및 상기 현재 블록의 상단에 인접한 샘플들을 포함하는 제3 템플릿 형상 중 하나로 결정되고,
    상기 제1 참조 템플릿 및 상기 제2 참조 템플릿의 형상은,
    상기 현재 템플릿의 형상에 대응되는 것을 특징으로 하는 영상 복호화 방법.
  15. 제11 항에 있어서,
    상기 현재 블록의 최종 예측 블록은, 상기 제1 왜곡 값을 기초로 유도되는 임계 값과 상기 제2 왜곡 값 간의 비교 결과를 기초로, 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 생성되는 것을 특징으로 하는 영상 복호화 방법.
  16. 제15 항에 있어서,
    상기 제2 왜곡 값은, 상기 제1 왜곡 값 보다 작은 값이고,
    상기 제2 왜곡 값이 상기 임계 값보다 작거나 같은 경우, 상기 현재 블록의 최종 예측 블록이 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 생성되는 것을 특징으로 하는 영상 복호화 방법.
  17. 제15 항에 있어서,
    상기 제2 왜곡 값은, 상기 제1 왜곡 값 보다 큰 값이고,
    상기 제2 왜곡 값이 상기 임계 값 미만인 경우, 상기 현재 블록의 최종 예측 블록이 상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 생성되는 것을 특징으로 하는 영상 복호화 방법.
  18. 영상 부호화 방법에 있어서,
    제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계;
    제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계; 및
    상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고,
    상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고,
    상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 하는 영상 부호화 방법.
  19. 영상 부호화 방법에 의해 생성된 비트스트림을 저장하는 비 일시적 컴퓨터 판독가능한 기록 매체에 있어서,
    상기 영상 부호화 방법은,
    제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계;
    제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계; 및
    상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고,
    상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고,
    상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 하는, 비 일시적 컴퓨터 판독가능한 기록 매체.
  20. 영상 부호화 방법에 의해 생성된 비트스트림을 전송하는 방법에 있어서,
    상기 전송 방법은 상기 비트스트림을 전송하는 단계를 포함하고,
    상기 영상 부호화 방법은,
    제1 블록 벡터를 기초로 현재 블록의 제1 예측 블록을 생성하는 단계;
    제2 블록 벡터를 기초로 상기 현재 블록의 제2 예측 블록을 생성하는 단계; 및
    상기 제1 예측 블록 및 상기 제2 예측 블록을 가중합하여 상기 현재 블록의 최종 예측 블록을 생성하는 단계를 포함하고,
    상기 제1 예측 블록은 제1 블록 벡터에 의해 지시되는 현재 픽처 내의 제1 매칭 블록을 기초로 생성되고,
    상기 제2 예측 블록은 제2 블록 벡터에 의해 지시되는 상기 현재 픽처 내의 제2 매칭 블록을 기초로 생성되는 것을 특징으로 하는, 전송 방법.
PCT/KR2024/007817 2023-06-08 2024-06-07 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 Pending WO2024253465A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202480027475.1A CN121058240A (zh) 2023-06-08 2024-06-07 图像编码/解码方法和装置以及用于存储比特流的记录介质

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20230073463 2023-06-08
KR10-2023-0073463 2023-06-08
KR10-2024-0074453 2024-06-07
KR1020240074453A KR20240174507A (ko) 2023-06-08 2024-06-07 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Publications (1)

Publication Number Publication Date
WO2024253465A1 true WO2024253465A1 (ko) 2024-12-12

Family

ID=93796256

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2024/007817 Pending WO2024253465A1 (ko) 2023-06-08 2024-06-07 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Country Status (1)

Country Link
WO (1) WO2024253465A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200007044A (ko) * 2017-06-22 2020-01-21 후아웨이 테크놀러지 컴퍼니 리미티드 인트라-프레임 예측 방법 및 장치
KR20220043240A (ko) * 2016-05-13 2022-04-05 브이아이디 스케일, 인크. 비디오 코딩을 위한 일반화된 다중-가설 예측 시스템 및 방법
WO2023046127A1 (en) * 2021-09-25 2023-03-30 Beijing Bytedance Network Technology Co., Ltd. Method, apparatus, and medium for video processing
US20230135166A1 (en) * 2021-10-28 2023-05-04 Tencent America LLC Intrabc using wedgelet partitioning
KR20230080497A (ko) * 2015-06-08 2023-06-07 브이아이디 스케일, 인크. 스크린 콘텐츠 코딩을 위한 인트라 블록 카피 모드

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230080497A (ko) * 2015-06-08 2023-06-07 브이아이디 스케일, 인크. 스크린 콘텐츠 코딩을 위한 인트라 블록 카피 모드
KR20220043240A (ko) * 2016-05-13 2022-04-05 브이아이디 스케일, 인크. 비디오 코딩을 위한 일반화된 다중-가설 예측 시스템 및 방법
KR20200007044A (ko) * 2017-06-22 2020-01-21 후아웨이 테크놀러지 컴퍼니 리미티드 인트라-프레임 예측 방법 및 장치
WO2023046127A1 (en) * 2021-09-25 2023-03-30 Beijing Bytedance Network Technology Co., Ltd. Method, apparatus, and medium for video processing
US20230135166A1 (en) * 2021-10-28 2023-05-04 Tencent America LLC Intrabc using wedgelet partitioning

Similar Documents

Publication Publication Date Title
WO2020017861A1 (ko) 서브블록 단위의 시간적 움직임 정보 예측을 위한 인터 예측 방법 및 그 장치
WO2023239147A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2023200206A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024039155A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024253465A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024210648A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024210624A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024258110A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025009816A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025005615A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024262870A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024191219A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024181820A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025048492A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025084817A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024262883A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025048441A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025023735A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025192990A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025037911A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025110783A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024215069A2 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024005456A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2025135613A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2024248598A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 24819616

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: CN2024800274751

Country of ref document: CN