JP3711571B2 - 画像符号化装置及び画像符号化方法 - Google Patents
画像符号化装置及び画像符号化方法 Download PDFInfo
- Publication number
- JP3711571B2 JP3711571B2 JP23510294A JP23510294A JP3711571B2 JP 3711571 B2 JP3711571 B2 JP 3711571B2 JP 23510294 A JP23510294 A JP 23510294A JP 23510294 A JP23510294 A JP 23510294A JP 3711571 B2 JP3711571 B2 JP 3711571B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- picture
- length
- scene change
- gop
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/87—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/114—Adapting the group of pictures [GOP] structure, e.g. number of B-frames between two anchor frames
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
- H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/142—Detection of scene cut or scene change
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/152—Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/177—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/179—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Discrete Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Processing (AREA)
Description
【産業上の利用分野】
本発明は、例えば画像を圧縮符号化する場合に用いて好適な画像符号化装置及び画像符号化方法に関する。
【0002】
【従来の技術】
従来の例えば画像を圧縮符号化する場合に用いて好適な画像符号化装置の構成例を図5に示す。
【0003】
この図5の画像符号化装置において、入力端子1には、図6に示すように、
輝度成分(Y) 352(H)×240(V)×30フレーム
クロマ成分(Cb) 174(H)×120(V)×30フレーム
クロマ成分(Cr) 174(H)×120(V)×30フレーム
のピクセル数にディジタル化された画像データが供給される。
【0004】
上記入力端子1に供給された入力画像データは、当該入力画像データを一時的に蓄えて然るべき順番に入れ替えるためのフレームメモリ10を介して、動き検出器20とブロック分割器11に送られる。
【0005】
当該ブロック分割器11は、フレームメモリ10から供給されたそれぞれのフレームを、図7に示すように、輝度成分(Y) ,クロマ成分(Cr),(Cb) それぞれを8×8ピクセルのブロックに分割する。なお、輝度成分(Y) の4つのブロック(Y0,Y1,Y2,Y3)と1つのクロマ成分(Cb)のブロックと、1つのクロマ成分(Cr)のブロックからなる合計6つのブロック(Y0,Y1,Y2,Y3,Cb,Cr) は、マクロブロック(MB)と呼ばれている。
【0006】
このブロック分割器11からのマクロブロック単位のデータは差分器12に送られる。
【0007】
この差分器12では、ブロック分割器11からのデータと後述するフレーム間予測画像データとの差分をとり、その出力を後述するフレーム間予測符号化がなされるフレームのデータとして切換スイッチ13の被切換端子bに送る。また、当該切換スイッチ13の被切換端子aには、上記ブロック分割器11からのデータが後述するフレーム内符号化がなされるフレームのデータとして供給される。
【0008】
上記切換スイッチ13を介したブロック単位のデータはDCT回路14によって離散コサイン変換(DCT)処理され、そのDCT係数が量子化器15に送られる。当該量子化器15では、所定の量子化ステップ幅で上記DCT出力を量子化し、この量子化した係数がジグザグスキャン回路16に送られる。
【0009】
当該ジグザグスキャン回路16では、上記量子化係数を図8に示すようにいわゆるジグザグスキャンによって並べ換え、その出力を可変長符号化回路17に送る。この可変長符号化回路17では、上記ジグザグスキャン回路16の出力データを可変長符号化(VLC)し、その出力を出力バッファ18に送ると共に、当該可変長符号化処理により発生した符号量を示す情報を、量子化ステップ制御器19に送る。量子化ステップ制御器19は、可変長符号化回路17からの符号量を示す情報に基づいて量子化器15の量子化ステップ幅を制御する。また、上記出力バッファ18から出力されたデータは圧縮符号化がなされた符号化出力として出力端子2から出力される。
【0010】
また、上記量子化器15からの出力は、逆量子化器27によって逆量子化され、さらに逆DCT回路26によって逆DCT処理される。当該逆DCT回路26の出力は、加算器25に送られる。
【0011】
この加算器25には、フレーム間予測符号化のフレームのときにオンとなる切換スイッチ24を介した動き補償器21からのフレーム間予測画像データも供給され、当該データと上記逆DCT回路26の出力データとの加算が行われる。この加算器25の出力データは、フレームメモリ22に一時的に蓄えられた後、動き補償器21に送られる。
【0012】
当該動き補償器21は、上記動き検出器20によって検出された動きベクトルに基づいて動き補償を行い、これによって得たフレーム間予測画像データを出力する。
【0013】
以下、上記図5の従来の画像符号化装置の具体的な動作について詳細に説明する。ここで、説明のために以下のように各フレームの呼び名を定義する。
【0014】
先ず、表示順にフレームを並べたとき、それぞれを
I0,B1,B2,P3,B4,B5,P6,B7,B8,I9,B10,B11,B12,・・・・・
と呼ぶこととする。これらのフレームのうち、I,P,Bは、後に説明するが、圧縮方法の種類を示し、これらI,P,Bの次の数字は、単純に表示順を示している。
【0015】
カラー動画像符号化方式の国際標準化作業グループであるいわゆるMPEG(Moving Picture Expert Group)のうちMPEG1では、この様な画像を圧縮するために、以下のようにすることが規定されている。
【0016】
先ず、I0の画像を圧縮する。
【0017】
次に、P3の画像を圧縮するのだが、P3そのものを圧縮するのではなく、P3とI0の画像との差分データを圧縮する。
【0018】
その次に、B1の画像を圧縮するのだが、B1そのものを圧縮するのではなく、B1とI0或いは、B1とP3との差分データ或いはI0とP3の平均値との差分(いずれか情報の少ない方)を圧縮する。
【0019】
その次に、B2の画像を圧縮するのだが、B2そのものを圧縮するのではなく、B2とI0或いは、B2とP3との差分データ或いはI0とP3の平均値との差分(どちらか情報の少ない方を選んで)を圧縮する。
【0020】
次に、P6の画像を圧縮するのだが、P6そのものを圧縮するのではなく、P6とP3の画像との差分データを圧縮する。
【0021】
上述したような処理を順番に並べて表すと、
となる。このようにエンコード順は、
I0,P3,B1,B2,P6,B4,B5,P9,B7,B8,I9,P12,B10,B11,・・・・
のように、表示順とは順番が入れ替わる。圧縮後のデータ(符号化データ)はこの順番に並ぶことになる。
【0022】
以下、上述したことを図5の構成の動作と共にさらに詳しく述べる。
【0023】
1枚目の画像(すなわちI0)のエンコードでは、先ず、上記フレームメモリ10から1枚目に圧縮すべき画像のデータが、ブロック分割器11によってブロック化される。このブロック分割器11からは、前記Y0,Y1,Y2,Y3,Cb,Crの順にブロック毎のデータが出力され、被切換端子a側に切り換えられた切換スイッチ13を介してDCT回路14に送られる。このDCT回路14では、それぞれのブロックについて縦横2次元の離散コサイン変換処理を行う。これにより、時間軸であったデータが周波数軸に変換される。
【0024】
このDCT回路14からのDCT係数は、量子化器15に送られ、当該量子化器15で所定の量子化ステップ幅で量子化される。その後、ジグザグスキャン回路16によって図8のようにジグザグ順に並べ変えられる。このようにジグザグ順に並べると、後ろへ行くほど、その係数は周波数成分の高い係数となるから、一般的に係数の値は後ろの方が小さくなる傾向にある。したがって、ある値Sで量子化すると、後ろへ行くほど、その結果は0になる頻度が増し、結果的に高域の成分が切り落とされることになる。
【0025】
その後、この量子化後の係数は、可変長符号化(VLC)回路17へ送られ、ここでいわゆるハフマンコーディングが施される。この結果得られる圧縮されたビットストリームは、出力バッファ18に一旦蓄えられた後、一定のビットレートで送出される。当該出力バッファ18は、不規則に発生するビットストリームを一定のビットレートで送出できるようにするための緩衝のためのメモリである。
【0026】
以上の様に1枚の画像だけ単独で圧縮することをフレーム内(イントラ:Intra )符号化と言い、この画像をIピクチャと呼ぶ。
【0027】
したがって、デコーダが上記のIピクチャのビットストリームを受信した場合は、以上に述べたことを逆にたどり、1枚目の画像を完成させる。
【0028】
次に、2枚目の画像(すなわちP3)のエンコードでは、以下のようになされる。
【0029】
すなわち、この2枚目以降もIピクチャとして圧縮してビットストリームを作っても良いが圧縮率を上げるには、連続する画像の内容には相関があることを利用して、以下の様な方法で圧縮する。
【0030】
先ず、動き検出器20では、2枚目の画像を構成するマクロブロック毎に、1枚目の画像(I0)の中からそれに良く似たパターンを捜し出し、それを動きベクトルという(x,y)の相対位置の座標として表現する。
【0031】
また、2枚目の画像ではそれぞれのブロックを、上記Iピクチャの場合のようにそのままDCT回路14に送るのではなく、そのブロック毎の動きベクトルに従って一枚目の画像から引っ張ってきたブロックとの差分のデータ(差分器12による差分データ)を、DCT回路14へ送るようにする。なお、動きベクトルの検出方法としては、ISO/IEC 11172-2 annex D.6.2 に詳細に述べられているためここでは省略する。
【0032】
ここで、例えば上記動きベクトルによって示された一枚目の画像のパターンと、これから圧縮しようとするブロックのパターンとの間で、相関が非常に強くなっていれば、その差分データは非常に小さくなり、したがって、上記フレーム内(イントラ)符号化で圧縮するよりも、上記動きベクトルと上記差分データとを符号化した方が、圧縮後のデータ量は小さくなる。
【0033】
このような圧縮方法を、フレーム間(インター:Inter)予測符号化と呼んでいる。ただし、常に差分データが少なくなるわけではなく、絵柄(画像内容)によっては、差分を取るよりも、上記フレーム内符号化で圧縮した方が、圧縮率が上がる場合がある。このような場合は、上記フレーム内符号化で圧縮する。フレーム間予測符号化にするか、フレーム内符号化にするかは、マクロブロック毎に異なる。
【0034】
以上のことを図5の画像符号化装置(エンコーダ)に即して説明すると、先ず、フレーム間予測符号化を行うためには、エンコーダ側でたえずデコーダ側で作られる画像と同じ画像を作って置く必要がある。
【0035】
そのためにエンコーダ内には、デコーダと同じ回路が存在する。その回路をローカルデコーダ(局部復号器)と呼ぶ。図5の逆量子化器27と逆DCT回路26と加算器25とフレームメモリ22と動き補償器21が当該ローカルデコーダに対応し、フレームメモリ22内に記憶される画像のことをローカルデコーデッドピクチャ(Local decoded picture)又はローカルデコーデッドデータ(Local decoded data)と呼ぶ。これに対して、圧縮前の画像のデータは、オリジナルピクチャ(Original picture)又はオリジナルデータ(Original data) と呼ぶ。
【0036】
なお、前述した1枚目のIピクチャの圧縮時にも、上記ローカルデコーダを通して復号化された1枚目の画像が、上記フレームメモリ22内に格納される。ここで、注意すべきことは、このローカルデコーダによって得られる画像は、圧縮前の画像ではなく、圧縮後復元した画像であり、圧縮による画質劣化のある、デコーダが復号化する画像とまったく同じ画像であるということである。
【0037】
このような状態のエンコーダに2枚目の画像(P3)のデータ(Original data)が入ってくるわけだが(この段階ですでに、動きベクトルは検出済でなければならない)、データはブロック毎に動きベクトルを持ち、このベクトルが動き補償器(MC:Motion Compensation)21に与えられる。当該動き補償回路21は、その動きベクトルの示すローカルデコーデッドピクチャ上のデータ(動き補償データ:MC data:1マクロブロック)を上記フレーム間予測画像データとして出力する。
【0038】
上記2枚目のオリジナルデータとこの動き補償データ(フレーム間予測画像データ)のピクセル毎の、差分器12による差分データが、上記DCT回路14に入力される。それからの後の圧縮方法は、基本的にIピクチャと同じである。上述のような圧縮方法によって圧縮する画像をPピクチャ(Predicted picture)と呼ぶ。
【0039】
さらに詳しく説明すると、Pピクチャにおいてすべてのマクロブロックがフレーム間予測符号化で圧縮するとは限らず、フレーム内符号化で圧縮する方が効率が良いと判断されるときは、そのマクロブロックは当該フレーム内符号化で符号化を行う。
【0040】
すなわち、Pピクチャにおいても、マクロブロック毎に、フレーム内符号化によるか(このマクロブロックをイントラマクロブロックと呼ぶ)、又はフレーム間予測符号化によるか(このマクロブロックをインターマクロブロックと呼ぶ)のどちらかを選択して圧縮を行う。
【0041】
上述のように、上記ローカルデコーダでは、量子化器15の出力が、逆量子化器27で逆量子化され、さらに逆DCT回路26で逆DCT処理された後、エンコード時に動き補償データ(MC data )と足され最終的なローカルデコーデッドピクチャとなる。
【0042】
次に、3枚目の画像(すなわちB1)のエンコードでは、以下のようになされる。
【0043】
上記3枚目の画像(B1)のエンコードでは、I0,P3の2枚の画像それぞれに対する動きベクトルを探索する。ここで、I0に対する動きベクトルをフォワードベクトル(forward Vector)MVf(x,y) と呼び、P3に対する動きベクトルをバックワードベクトル(Backward Vector)MVb(x,y) と呼ぶ。
【0044】
この3枚目の画像についても差分データを圧縮するわけであるが、どのデータを圧縮するのかが、問題である。この場合も一番情報量が少なくなるものとの差分を取れば良い。このときの圧縮方法の選択肢としては、
(1)フォワードベクトルMVf(x,y) の示すI0上のデータとの差分
(2)バックワードベクトルMVb(x,y) の示すP3上のデータとの差分
(3)フォワードベクトルMVf(x,y) の示すI0上のデータとバックワードベクトルMVb(x,y) の示すP3上のデータの平均値との差分
(4)差分データは使わない(フレーム内符号化)
の4つである。マクロブロック毎にこの4種類の圧縮方法から一つが選択される。上記圧縮方法の選択肢のうちの(1),(2),(3)の場合は、それぞれの動きベクトルも動き補償器21に送られ、差分器21ではその動き補償データとの差分をとり、これがDCT回路14に送られる。上記圧縮方法の選択肢のうちの(4)の場合は、そのままのデータがDCT回路14へ送られる。
【0045】
上述した1枚目、2枚目のエンコードの処理の結果、ローカルデコーデッドピクチャを格納するフレームメモリ22には、I0,P3の2枚のピクチャが、復元されているのでこのようなことが可能である。
【0046】
次に、4枚目の画像(すなわちB2)のエンコードでは、以下のようになされる。
【0047】
上記4枚目の画像(B2)のエンコードでは、上述した3枚目(B1)のエンコード方法のところの説明文で、B1をB2に置き換えたこと以外は、上記3枚目のエンコードと同じ方法で圧縮する。
【0048】
次に、5枚目の画像(すなわちP6)のエンコードでは、以下のようになされる。
【0049】
上記5枚目の画像(P6)のエンコードでは、上述した2枚目(P3)のエンコード方法のところの説明文で、P3をP6に、I0をP3に置き換えただけで、他は同じ説明となる。
【0050】
6枚目以降は、上述の繰り返しとなるので説明は省略する。
【0051】
また、MPEGにおいては、GOP(Group Of Picture)と呼ばれるものが規定されている。
【0052】
すなわち、何枚かのピクチャの集まりがグループオブピクチャ(GOP)と呼ばれており、当該GOPは符号化データ(圧縮後のデータ)上で見て連続した画像の集まりでなくてはならないものである。また、GOPはランダムアクセスを考慮したもので、そのためには符号化データ上で見てGOPの最初に来るピクチャは上記Iピクチャである必要がある。さらに、表示順(ディスプレイ順)でGOPの最後は、I又はPピクチャでなくてはならない。
【0053】
図9には、最初が4枚のピクチャからなるGOPで、それ以降が6枚のピクチャからなるGOPとなる例を挙げる。なお、図9のAはディスプレイ順を示し、図9のBは符号化データ順を示している。
【0054】
この図9において、GOP2に注目すると、B4,B5はP3,I6から形成されるため、例えばランダムアクセスでI6にアクセスされると、P3が無いため、B4,B5は正しく復号化できない。このようにGOP内だけで正しく復号化できないGOPは、クローズドGOP(Closed GOP)でないという。
【0055】
これに対し、もしB4,B5がI6だけしか参照していないとしならば、例えばランダムアクセスでI6にアクセスしても、P3は必要ないため、これらB4,B5は正しく復号化できることになる。このようにGOP内だけの情報で、完全に復号化できるGOPをクローズドGOP(Closed GOP)と呼ぶ。
【0056】
以上のような圧縮方法の選択の中から一番効率の良い方法で圧縮するわけであるが、その結果発生する符号化データ(Coded data)の量は、入力画像にも依存し、実際に圧縮してみないと判らない。
【0057】
しかし、圧縮後のデータのビットレートを一定にするためにコントロールすることも必要である。当該コントロールを行うためのパラメータは、量子化器15に与える前記符号量を表す情報としての量子化ステップ(又は量子化スケール:Q-scale )である。同じ圧縮方法でも、上記量子化ステップを大きくすれば発生ビット量は減り、小さくすれば増える。
【0058】
この量子化ステップの値は、次のようにして制御する。
【0059】
エンコーダには、圧縮後のデータを一定のビットレートにするために、出力に緩衝バッファ(出力バッファ18)が設けられており、これによって画像毎のある程度のデータ発生量の差は吸収できるようになされている。
【0060】
しかし、定められたビットレートを超えるようなデータの発生が続けば、出力バッファ18の残量が増加し、ついにはオーバーフローを起こすことになる。逆にビットレートを下回るデータの発生が続けば出力バッファ18の残量は減少し、最後にはアンダーフローを引き起こすことになる。
【0061】
したがって、エンコーダは、出力バッファ18の残量をフィードバックすることにより、前記量子化ステップ制御器19が量子化器15の量子化ステップをコントロールし、ここで出力バッファ18の残量が少なくなればあまり圧縮しないように量子化ステップを小さくなるよう制御し、出力バッファ18の残量が多くなれば圧縮率を高くするように量子化ステップを大きくするようにコントロールを行うようにしている。
【0062】
また、前述した圧縮方法(前記フレーム内符号化やフレーム間予測符号化)によって発生する符号化データ量の範囲には、大きな差がある。
【0063】
特にフレーム内符号化方式で圧縮をすると大量のデータが発生するため、出力バッフファ18の空き容量が小さい場合には量子化ステップサイズを大きくしなければならず、場合によっては量子化ステップサイズを最大にしてもバッファ18のオーバーフローを招くかもしれない。よしんばバッファ18に収まったとしても量子化ステップが大きければフレーム内符号化の画像は後のフレーム間予測符号化の画質に影響するので、フレーム内符号化での圧縮を行う前には出力バッファ18に十分な空き容量が必要である。
【0064】
したがって、予め定められた順序の圧縮方法を決めておき、フレーム内符号化の前には十分な出力バッファ18の空き容量を確保するように、量子化ステップ制御器19は量子化ステップサイズのフィードバックコントロールを行うようにしている。
【0065】
以上のようにして一定レートの符号化データに抑えることが可能となる。
【0066】
【発明が解決しようとする課題】
ここで、フレーム内符号化のピクチャは、圧縮後のデータサイズが大きく、一般的にフレーム間予測符号化のピクチャが多いほうが平均のビットレートに対して画質を向上させることができる。
【0067】
しかし、通常はランダムアスセス性を考慮して定期的にフレーム内符号化のピクチャを挿入し、これによってGOPを区切ることが多い。
【0068】
一方、上記フレーム間予測符号化のピクチャのうち特にBピクチャでは、データサイズがかなり小さくなり、また、フレーム内符号化のピクチャ1枚に対してある程度の枚数のフレーム間予測符号化のピクチャ(特にBピクチャ)を間に入れることにより、適度な画質を確保しつつ出力バッファを介した平均ビットレートも低く保つことができる。
【0069】
ところが、シーンチェンジ等の前の画像との相関が極めて低い画像では、フレーム間予測符号化では効率良く圧縮できない。むしろフレーム内符号化の方が効率良く圧縮できる。したがって、そのような画像の場合はフレーム内符号化を行うべきである。
【0070】
しかしそうするとGOPを区切るためのフレーム内符号化のピクチャとは異なる画像がフレーム内符号化のピクチャとして挿入されることになり、結果としてGOP内部でフレーム間予測符号化のピクチャに対するフレーム内符号化のピクチャの比率が高くなる。したがって、出力されるデータを一定のビットレートに抑えようとすると、画質が犠牲となる。
【0071】
また、ランダムアクセスのためにGOPを分けるのにシーンの変わり目とGOPの切れ目が一致しないのは不都合である。
【0072】
さらに、あるシーケンスを所定のフレームで丁度終了するように符号化する場合、その最後の画像がGOPの切れ目になることは稀であるし、最後のGOPの長さも短過ぎるものもできて最後に画質を損なう虞がある。
【0073】
このため例えば、一度符号化を試みてその結果をフィードバックしてGOPの切りわけをやり直すこともできるが、これでは効率が悪く、またリアルタイムエンコーダには不向きである。
【0074】
また、最後の画像がIピクチャ又はPピクチャになるとは限らないが、GOPの最後はIピクチャ又はPピクチャで終わらなければならないという制約がある。しかし、これもまた符号化を再度行うことは効率が悪く、全ての組合せの符号化を行うことも装置の規模を大きくする。
【0075】
そこで、本発明は、上述のような実情に鑑みて提案されたものであり、効率の良い画像圧縮が可能で、全体的に画質を向上させることができる画像符号化装置及び画像符号化方法を提供することを目的とするものである。
【0076】
【課題を解決するための手段】
本発明の画像符号化装置は、上述した目的を達成するために提案されたものであり、入力画像データを複数枚蓄える画像データ蓄積手段と、上記画像データ蓄積手段に蓄積された画像データのシーンチェンジを検出するシーンチェンジ検出手段と、複数枚の画像で構成される単位の先頭から上記シーンチェンジ検出手段によりシーンチェンジが検出された画像までの長さが上記単位として区切れる最短境界値以上のとき上記シーチェンジ検出手段で検出された境界で上記複数枚の画像で構成される単位として切り分け、上記単位として切り分ける長さの目標値の次の画像がBピクチャのときは上記目標値を1加算し、上記目標値とフレーム内符号化の画像が1枚だけとしたときに適度な画質が保証される長さの値とを加算した長さまでシーンチェンジが検出されないときは上記目標値の長さで上記単位として切り分けることを決定する単位長制御手段とを有することを特徴とする。
【0077】
ここで、上記境界の直後の画像をフレーム内符号化方法により圧縮するように選択する圧縮方法選択手段を有することが好ましい。
【0078】
また、本発明の画像符号化方法は、入力された画像データを複数枚蓄える画像データ蓄積ステップと、蓄積された上記画像データのシーンチェンジを検出するステップと、複数枚の画像で構成される単位の先頭からシーンチェンジが検出された画像までの長さが上記単位として区切れる最短境界値以上のときのみシーチェンジが検出された境界を上記複数枚の画像で構成される単位として切り分け、上記単位として切り分ける長さの目標値の次の画像がBピクチャのときは上記目標値を1加算し、上記目標値とフレーム内符号化の画像が1枚だけとしたときに適度な画質が保証される長さの値とを加算した長さまでシーンチェンジが検出されないときは上記目標値の長さで上記単位として切り分けることを決定するステップとを有することを特徴とする。
【0079】
【作用】
本発明によれば、入力画像データの情報量を評価してシーンチェンジを検出し、このシーンチェンジの検出に合わせて圧縮方法としてフレーム内符号化を選択することで、前後の画像の相関が低くなるシーンチェンジ部分での圧縮効率を上げるようにしている。
【0080】
また、本発明によれば、シーンチェンジ検出に応じて、所定単位の長さを変更することで、シーンの変わり目と所定単位の切れ目とを一致させている。
【0081】
さらに、フレーム内符号化される画像の枚数に対するフレーム間予測符号化される画像の枚数の比率が、所定比率より小さいときには、所定単位の長さをシーンチェンジ検出出力に応じた長さにせずに、例えば延ばすようにすることで、出力されるデータを一定のビットレートに抑え、画質のレベルを維持するようにしている。
【0082】
【実施例】
以下、図面を参照し、本発明の実施例について詳述する。
【0083】
図1には本発明実施例の画像符号化装置の概略構成を示す。なお、この図1において、前述した図5と同じの構成については同一の指示符号を付してその説明については省略する。
【0084】
この図1の構成において、前記図5の構成に追加された構成要素はシーンチェンジ検出回路31とGOP長制御回路34と圧縮方法選択回路32であり、また、フレームメモリ40と量子化ステップ制御器33が変更されている。
【0085】
すなわち、本発明実施例の画像符号化装置は、入力画像データを複数フレーム蓄える画像データ蓄積手段であるフレームメモリ40と、上記フレームメモリ40に蓄積された複数フレームの画像データから当該入力画像データの情報量を評価し、シーンチェンジを検出するシーンチェンジ検出回路31と、上記シーンチェンジ検出回路31からのシーンチェンジ検出出力の供給に基づいてフレーム内符号化による圧縮方法を選択する選択手段と、上記選択手段により選択された圧縮方法に従って上記入力画像データに所定の圧縮符号化処理を施す圧縮符号化処理手段としての差分器12から可変長符号化回路17まで、及びローカルデコードと動き検出器20,動き補償器21等を有するものである。
【0086】
ここで、上記選択手段は、上記シーンチェンジ検出回路31からのシーンチェンジ検出出力に応じて、複数枚の画像で構成される所定単位(GOP)内におけるフレーム内符号化される画像の枚数とフレーム間予測符号化される画像の枚数を適応的に変更して当該GOP長さを決定する単位長制御手段としてのGOP長制御回路34と、当該GOP長制御回路34からの出力に基づいて上記GOP内の各画像の圧縮方法を選択する圧縮方法選択回路32とからなる。
【0087】
また、このときの上記選択手段は、フレーム内符号化される画像の枚数に対するフレーム間予測符号化される画像の枚数の比率が、所定比率より大きいときのみ上記シーンチェンジ検出出力に応じた上記GOP長さの決定を行う。言い換えれば、フレーム内符号化される画像の枚数に対するフレーム間予測符号化される画像の枚数の比率が、所定比率より小さいときには、上記GOP長さをシーンチェンジ検出出力に応じた長さにせずに、例えば延ばすようにする。
【0088】
この図1において、先ず、入力端子1から入力された入力画像データは、フレームメモリ40に蓄えられる。このフレームメモリ40は、図5のフレームメモリ10とは異なり、所定数のフレームを蓄積できるものである。このときの蓄積する所定数のフレームとしては、後述するように、フレーム内符号化のピクチャがGOPに1枚だけとしたとき、それに対して適度な画質が保証されるだけのフレーム間予測符号化のピクチャがGOPに含まれたときの当該GOPの長さ分よりも多くなければならない。言い換えれば、フレームメモリ40に記憶されるフレーム数は、適度な画質が保証されるだけのフレーム内符号化ピクチャ1枚に対するフレーム間予測符号化ピクチャの枚数以上、すなわち、今符号化している画像をフレーム内符号化したとしてもそれによって発生したデータ量を打ち消すだけのフレーム間予測符号化ピクチャが連続して送出できるまで、フレーム内符号化がなされないことを保証できるだけ必要である。
【0089】
もちろん上記所定フレーム数はこれに限定されることはなく様々な条件に合わせてもっと多くしても良い。例えば、予めGOPが決まってからレートコントールを行うタイプの装置の場合、後述するようにGOP長が決定して符号化が開始されるまで画像を蓄えるだけの容量のフレームメモリを必要とする。
【0090】
上記フレームメモリ40に蓄積された画像データは、適宜、シーンチェンジ検出回路31に送られる。
【0091】
ここで、シーンチェンジは、前後の画像で相関が著しく損なわれる所と言える。本実施例では、例えば動きベクトル補償後の画像との差分値の画像全体の総和を求めて、最後の値と比較することによってシーンチェンジを検出することができる。
【0092】
例えば、このシーンチェンジの検出の際には、先ず、画像情報の評価として大別して2通りのパラメータを算出する。
【0093】
第1のパラメータは、フレーム内符号化で圧縮を行った場合の圧縮後のデータ量を予測することが可能なように、その画像自身の情報量を示すものである。この第1のパラメータとしては、例えば、フレームメモリ40から供給された画像データに対して、DCT処理をブロック毎に行い、そのDCT係数の和や統計をとったものとしたり、また、それでは規模が大きくなる場合には、平均自乗誤差のブロック毎の和を求めたものとする。いずれにしても、画像の情報量を表し、圧縮後のデーター量を類推するに足るパラメータが用いられる。
【0094】
第2のパラメータは、フレーム間予測符号化で圧縮を行った場合の圧縮後のデータ量を予測することが可能な、画像の差分情報量を示すものである。この場合のパラメータとしては、例えば、フレームメモリ40に格納された画像と動き補償後の画像との差分値のブロック内の和を用いる。このパラメータ算出の際には、一般的な動きベクトル検出回路(動き検出器20)で得られる動きベクトルが検出された最小誤差を利用することができる。
【0095】
次に、GOP長制御回路34では、上記シーンチェンジ検出回路31からのシーンチェンジ検出出力に基づいて、後述する図2及び図3のフローチャートで説明するようにGOP長の制御を行う。
【0096】
このGOP長制御回路34で決定されたGOP長の情報が圧縮方法選択回路32に送られる。
【0097】
ここで、フレーム内符号化方式による圧縮では少なくともGOPの最初になければならない。GOPはランダムアクセスを考慮してある程度の間隔とするので、必然的にフレーム内符号化のピクチャはある程度定期的に発生するし、シーンチェンジ等によっても発生する。したがって、当該圧縮方法選択回路32には、上記GOP長制御回路34からのGOP長を示す情報と共に、上記GOP長制御回路34を介した画像のカウントとシーンチェンジ検出回路31の出力が加えられるようになっている。
【0098】
当該圧縮方法選択回路32は、上記シーンチェンジ検出回路31からの出力に基づいて、フレーム内符号化/フレーム間予測符号化(P,Bピクチャ)のいずれの圧縮方式で圧縮を行うのかを選択すると共に、上記GOP長を示す情報に基づいてフレーム内符号化のピクチャの挿入を行う。
【0099】
また、量子化ステップ制御器33は、可変長符号化回路17からの符号量を示す情報と、上記圧縮方法選択回路32で選択した圧縮方式を示す情報とに基づいて、量子化器15の量子化ステップを制御する。
【0100】
次に本実施例の構成における処理の流れを、図2と図3のフローチャートに沿って説明する。
【0101】
ここで、図2と図3のフローチャートの説明に先立ち、これらフローチャートで述べる定数及び変数を以下のように定める。
【0102】
通常のGOPの長さを定数(DefaultLen)とし、
フレーム内符号化のピクチャがGOPに1枚だけとしたときにそれに対して適度な画質が保証されるだけのフレーム間予測符号化のピクチャがGOPに含まれたときの当該GOPの長さを変数(MinLen)、
GOPを区切れる最短の境界を変数(MinGOP)、
ランダムアクセス保証のためのGOPの最長値を変数(MaxLen)、
次のGOPの区切りの目標値を変数(TargetLen) 、
GOP先頭からの長さを変数(CurLen)、
符号化順序でのピクチャ番号を変数(PicNo) 、
n番目のGOPの先頭のピクチャ番号を保持する変数(GOPbegin[n]) 、
n番目のGOPの末尾のピクチャ番号を保持する変数(GOPend[n]) とする。
【0103】
また、フローチャートには示していないが、下記の条件を前提とする。
【0104】
先ず、前段で入力画像を順次フレームメモリ40に蓄え、シーンチェンジを検出する。当該シーンチェンジの検出の目的は、前述のようにフレーム間予測符号化で効率良く圧縮できない画像を検出することであるため、例えば動き補償後の差分の結果が前と比べて急激に大きくなった場合を検出することでできる。
【0105】
また、適応的にGOPを区切るためにフレーム内符号化のピクチャを初めは設定せずMに応じて全てPピクチャ,Bピクチャとして動き検出をする。GOP決定時には符号化順序に並べ換えられているとする。
【0106】
以下、図2のフローチャートから説明する。
【0107】
ステップS151では、最初に各変数をリセットする。すなわち、
n =0
CurLen =1
PicNo =0
GOPbegin[n] =PicNo
TargetLen =DefaultLen
MinGOP =MinLen
のようにリセットする。
【0108】
次のステップS152では、GOPにおいて最初のPピクチャか否かの判定を行う。このステップS152で最初のPピクチャでないと判定した場合にはステップS157に進み、ここでピクチャタイプをPピクチャからIピクチャに変更する。また、ステップS152で最初のPピクチャであると判定した場合にはステップS153に進む。
【0109】
当該ステップS153では、現在のピクチャ(Current picture) がシーケンス最後の画像かどうかを判定する。このステップS153で現在のピクチャがシーケンスの最後の画像であると判定した場合には、ステップS154に進み、ここで、その画像をGOP最後とする。一方、ステップS153で最後の画像でないと判定した場合にはステップS158に進む。
【0110】
上記ステップS154の次のステップS155では、ディスプレイ表示順(Display order) でシーケンス(Sequence)の最後がPピクチャかどうかを判定する。当該ステップS155で最後のPピクチャでないと判定した場合(Bピクチャであると判定した場合)には、ステップS156に進む。当該ステップS156では、Bピクチャでシーケンスを終えることはできないので、Pピクチャになるように変更する。また、ステップS155で最後がPピクチャであると判定した場合には処理を終了する。
【0111】
また、上記ステップS153で最後の画像でないと判定した場合に進むステップS158では、シーンチェンジされた(SceneChange) か否かを判定する。当該ステップS158において、シーンチェンジと判定した場合にはステップS159に進み、シーンチェンジでないと判定した場合にはステップS164に進む。
【0112】
上記ステップS158でシーンチェンジと判定した場合のステップS159では、上記変数(CurLen)と変数(MaxLen)とを比較し、 CurLen <MaxLenと判定した場合にはステップS160に進み、それ以外であると判定した場合にはステップS163に進む。
【0113】
上記ステップS160では変数(CurLen)と変数(MinGOP)とを比較し、CurLen< MinGOP と判定した場合にはステップS161に進み、それ以外であると判定した場合にはステップS163に進む。
【0114】
ステップS161では、GOPが短く、Iピクチャで発生するデータ量を分散できないため、シーンチェンジ後の最初のPピクチャをフレーム内符号化のピクチャとし、新たにシーンチェンジのために増えたIピクチャの分も考慮して、
MinGOP += MinLen
TargetLen += MinLen
とする。その後はステップS162に進む。
【0115】
また、ステップS163では、変数(CurLen)と変数(MaxLen)との比較結果が CurLen ≧ MaxLen なら、GOPが長くなり過ぎるのを避けるため、シーンチェンジを機にGOPを切り分ける。その後はステップS162に進む。
【0116】
一方、ステップS158で、シーンチェンジでないと判定した場合のステップS164では、変数(CurLen)と変数(TargetLen) とを比較する。このステップS164でCurLen=TargetLen と判定した場合にはステップS166に進む。
【0117】
このステップS166では、次の画像のピクチャタイプがBピクチャかどうかを判定し、Bピクチャであると判定した場合にはステップS167に進む。このステップS167では、Bピクチャでシーケンスを終わることはできないので、目標のGOPの長さを1伸ばす。その後はステップS162に進む。
【0118】
また、ステップS164でCurLen≠TargetLen と判定した場合にはステップS165に進む。このステップS165では、変数(CurLen)と、変数(TargetLen) +変数(MinLen)とを比較する。当該ステップS165において、 CurLen ≦ TargetLen + MinLen と判定した場合にはステップS168に進み、 CurLen > TargetLen + MinLen と判定した場合にはステップS162に進む。
【0119】
当該ステップS168では、目標のGOPの長さでGOPを区切っても次のGOPの先頭のIピクチャで発生するデータ量を分散するに足る区間先までシーンチェンジが存在しないので、変数(TargetLen) でGOPを区切る。このステップS168の後は、ステップS162に進む。
【0120】
ステップS162では、変数(CurLen),(PicNo)をカウントアップし、ステップS152へ戻る。
【0121】
次に、図3のフローチャートでは、ステップS169において、GOPの長さを指定の長さに決め、次のGOP長決定のため変数を初期化する。ステップS170では、ディスプレイ表示順(Display order) でGOPの最後がPピクチャかどうかを判定する。当該ステップS170で最後のPピクチャでないと判定した場合(Bピクチャであると判定した場合)には、ステップS171に進む。当該ステップS171では、BピクチャでGOPを終えることはできないので、Pピクチャになるように変更する。また、ステップS170で最後がPピクチャであると判定した場合には処理を終了する。
【0122】
なお、上述した図2,図3のフローチャートにおいて、GOPの末尾のピクチャタイプを変更する方法としては、以下のようなものを挙げることができる。
【0123】
すなわち、GOPの最後はIピクチャかPピクチャでなければならないが、例えばシーンチェンジでGOPを区切る場合、M=2以上のシーケンスでは前のGOPが必ずしもそうなるとは限らない。そこで、上述のように、GOPの最後がBピクチャで終わっていた場合、その最後のBピクチャをPピクチャに変えるようにしている。
【0124】
この例として、例えば、ビットストリームの順番(Bitstream order) が図4の(c)のようになっており、ディスプレイ表示順(Display order) が図4の(a)のようになっているとして、上記図4の(a)のディスプレイ表示順の例えばB13とP14の間にシーンチェンジが発生しているような場合について説明する。この場合、図4の(a)のシーンチェンジ直前のB13を図4の(b)に示すようにPピクチャ(例えばP13)に変更し、また、図4の(a)のシーンチェンジ直後のP14を図4の(b)に示すようにIピクチャ(例えばI14)に変更する。
【0125】
ここで、リアルタイムエンコーダの場合は符号化を再度行うことは困難であるので、本実施例では、上記図4の(a)及び(b)に示すようにB13をP13に変更する際に、P11からのフォワードベクトル(forward vector)のみを用いてPピクチャ(P13)として符号化する。またこのとき、B12については、P11からのフォワードベクトル(forward vector)のみを用いながらBピクチャ(B11)として符号化する。
【0126】
上述したように、本発明実施例の画像符号化装置においては、入力画像データの情報量を評価してシーンチェンジを検出し、このシーンチェンジの検出に合わせて圧縮方法としてフレーム内符号化を選択することで、前後の画像の相関が低くなるシーンチェンジ部分での圧縮効率を上げることができる。
【0127】
また、本実施例装置においては、シーンチェンジ検出に応じて、GOP長さを変更することで、シーンの変わり目とGOPの切れ目とを一致させることができる。
【0128】
さらに、フレーム内符号化される画像の枚数に対するフレーム間予測符号化される画像の枚数の比率が、所定比率より小さいときには、GOP長さをシーンチェンジ検出出力に応じた長さにせずに、例えば延ばすようにすることで、出力されるデータを一定のビットレートに抑え、画質のレベルを維持することが可能となっている。
【0129】
【発明の効果】
本発明の画像符号化装置においては、入力画像データの情報量を評価してシーンチェンジを検出し、このシーンチェンジの検出に合わせて圧縮方法としてフレーム内符号化を選択することで、前後の画像の相関が低くなるシーンチェンジ部分での圧縮効率を上げることができ、したがって、効率の良い画像圧縮が可能で、全体的に画質を向上させることができる。
【0130】
また、本発明においては、シーンチェンジ検出に応じて、所定単位の長さを変更することで、シーンの変わり目と所定単位の切れ目とを一致させることが可能となる。
【0131】
また、本発明においては、フレーム内符号化される画像の枚数に対するフレーム間予測符号化される画像の枚数の比率が、所定比率より小さいときには、所定単位の長さをシーンチェンジ検出出力に応じた長さにせずに、例えば延ばすようにすることで、出力されるデータを一定のビットレートに抑えることができ、したがって、出力されるデータを一定のビットレートに抑えることができると共に、画質を犠牲にしなくても済む。
【図面の簡単な説明】
【図1】本発明実施例の画像符号化装置の概略構成を示すブロック回路図である。
【図2】GOP決定のフローチャートである。
【図3】決定されたGOPに応じたピクチャタイプ決定のフローチャートである。
【図4】GOP末尾のピクチャタイプの変更例を説明するための図である。
【図5】従来の画像符号化装置の概略構成を示すブロック回路図である。
【図6】画像の解像度と構成について説明するための図である。
【図7】マクロブロックとブロックについて説明するための図である。
【図8】ジグザグスキャンについて説明するための図である。
【図9】GOPの一例について説明するための図である。
【符号の説明】
11 ブロック分割器
12 差分器
13,24 スイッチ
14 DCT回路
15 量子化器
16 ジグザグスキャン回路
17 可変長符号化回路
18 出力バッファ
20 動き検出器
21 動き補償器
25 加算器
26 逆DCT回路
27 逆量子化器
31 シーンチェンジ検出回路
32 圧縮方法選択回路
33 量子化ステップ制御器
34 GOP長制御回路
40 フレームメモリ
Claims (4)
- 入力画像データを複数枚蓄える画像データ蓄積手段と、
上記画像データ蓄積手段に蓄積された画像データのシーンチェンジを検出するシーンチェンジ検出手段と、
複数枚の画像で構成される単位の先頭から上記シーンチェンジ検出手段によりシーンチェンジが検出された画像までの長さが上記単位として区切れる最短境界値以上のとき上記シーチェンジ検出手段で検出された境界で上記複数枚の画像で構成される単位として切り分け、上記単位として切り分ける長さの目標値の次の画像がBピクチャのときは上記目標値を1加算し、上記目標値とフレーム内符号化の画像が1枚だけとしたときに適度な画質が保証される長さの値とを加算した長さまでシーンチェンジが検出されないときは上記目標値の長さで上記単位として切り分けることを決定する単位長制御手段と
を有すること特徴とする画像符号化装置。 - 上記境界の直後の画像をフレーム内符号化方法により圧縮するように選択する圧縮方法選択手段を有することを特徴とする請求項1記載の画像符号化装置。
- 入力された画像データを複数枚蓄える画像データ蓄積ステップと、
蓄積された上記画像データのシーンチェンジを検出するステップと、
複数枚の画像で構成される単位の先頭からシーンチェンジが検出された画像までの長さが上記単位として区切れる最短境界値以上のときのみシーチェンジが検出された境界を上記複数枚の画像で構成される単位として切り分け、上記単位として切り分ける長さの目標値の次の画像がBピクチャのときは上記目標値を1加算し、上記目標値とフレーム内符号化の画像が1枚だけとしたときに適度な画質が保証される長さの値とを加算した長さまでシーンチェンジが検出されないときは上記目標値の長さで上記単位として切り分けることを決定するステップと
を有することを特徴とする画像符号化方法。 - 上記境界の直後の画像をフレーム内符号化方法により圧縮するように選択するステップを有することを特徴とする請求項3記載の画像符号化方法。
Priority Applications (7)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP23510294A JP3711571B2 (ja) | 1994-09-29 | 1994-09-29 | 画像符号化装置及び画像符号化方法 |
| EP19950306709 EP0705041B1 (en) | 1994-09-29 | 1995-09-22 | Scene change adaptive video encoder |
| DE69529137T DE69529137T2 (de) | 1994-09-29 | 1995-09-22 | Szenenänderungsadaptiver Bildkodierer |
| EP20010200071 EP1098530A3 (en) | 1994-09-29 | 1995-09-22 | Picture encoding |
| US08/534,659 US5757968A (en) | 1994-09-29 | 1995-09-27 | Method and apparatus for video data compression |
| KR1019950033801A KR100392970B1 (ko) | 1994-09-29 | 1995-09-28 | 비디오데이터압축방법및장치 |
| US08/899,958 US5832121A (en) | 1994-09-27 | 1997-07-24 | Method and apparatus for video data compression |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP23510294A JP3711571B2 (ja) | 1994-09-29 | 1994-09-29 | 画像符号化装置及び画像符号化方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH0898185A JPH0898185A (ja) | 1996-04-12 |
| JP3711571B2 true JP3711571B2 (ja) | 2005-11-02 |
Family
ID=16981093
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP23510294A Expired - Fee Related JP3711571B2 (ja) | 1994-09-27 | 1994-09-29 | 画像符号化装置及び画像符号化方法 |
Country Status (5)
| Country | Link |
|---|---|
| US (2) | US5757968A (ja) |
| EP (2) | EP1098530A3 (ja) |
| JP (1) | JP3711571B2 (ja) |
| KR (1) | KR100392970B1 (ja) |
| DE (1) | DE69529137T2 (ja) |
Families Citing this family (66)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TW293227B (ja) * | 1994-11-24 | 1996-12-11 | Victor Company Of Japan | |
| JP3258840B2 (ja) * | 1994-12-27 | 2002-02-18 | シャープ株式会社 | 動画像符号化装置および領域抽出装置 |
| JPH0974566A (ja) * | 1995-09-04 | 1997-03-18 | Sony Corp | 圧縮符号化装置及び圧縮符号化データの記録装置 |
| GB9607645D0 (en) * | 1996-04-12 | 1996-06-12 | Snell & Wilcox Ltd | Processing of video signals prior to compression |
| US6094510A (en) * | 1996-04-15 | 2000-07-25 | Canon Kabushiki Kaisha | Image processing apparatus and method for predicting a compression rate of image data processed to modify an image |
| JPH09322174A (ja) * | 1996-05-30 | 1997-12-12 | Hitachi Ltd | 動画データの再生方法 |
| JP3263807B2 (ja) * | 1996-09-09 | 2002-03-11 | ソニー株式会社 | 画像符号化装置および画像符号化方法 |
| US6163573A (en) * | 1996-12-12 | 2000-12-19 | Sony Corporation | Equipment and method for compressing picture data |
| JPH10290464A (ja) * | 1997-04-14 | 1998-10-27 | Kokusai Denshin Denwa Co Ltd <Kdd> | 符号化モード判定装置 |
| FR2764156B1 (fr) * | 1997-05-27 | 1999-11-05 | Thomson Broadcast Systems | Dispositif de pretraitement pour codage mpeg ii |
| AU8018898A (en) * | 1997-07-28 | 1999-02-22 | Idt International Digital Technologies Deutschland Gmbh | Method and apparatus for compressing video sequences |
| AR016812A1 (es) * | 1997-08-14 | 2001-08-01 | Samsung Electronics Co Ltd | Metodo para transmitir informacion de video comprimida, disposiciones de compresion y de grabacion de video y aparato de reproduccion de video |
| US6282240B1 (en) * | 1997-09-03 | 2001-08-28 | Oki Electric Industry Co., Ltd. | Picture coder, picture decoder, and transmission system |
| US6307886B1 (en) | 1998-01-20 | 2001-10-23 | International Business Machines Corp. | Dynamically determining group of picture size during encoding of video sequence |
| US6563549B1 (en) * | 1998-04-03 | 2003-05-13 | Sarnoff Corporation | Method and apparatus for adaptively encoding an information stream |
| US6434196B1 (en) * | 1998-04-03 | 2002-08-13 | Sarnoff Corporation | Method and apparatus for encoding video information |
| JP3129411B2 (ja) * | 1998-05-28 | 2001-01-29 | 日本電気株式会社 | 動画像圧縮装置と動画像圧縮方法 |
| US6859496B1 (en) | 1998-05-29 | 2005-02-22 | International Business Machines Corporation | Adaptively encoding multiple streams of video data in parallel for multiplexing onto a constant bit rate channel |
| US6351493B1 (en) * | 1998-06-30 | 2002-02-26 | Compaq Computer Corporation | Coding an intra-frame upon detecting a scene change in a video sequence |
| US6532262B1 (en) * | 1998-07-22 | 2003-03-11 | Matsushita Electric Industrial Co., Ltd. | Coding method and apparatus and recorder |
| EP0979011A1 (en) * | 1998-08-06 | 2000-02-09 | STMicroelectronics S.r.l. | Detection of a change of scene in a motion estimator of a video encoder |
| US6590607B1 (en) | 1998-08-19 | 2003-07-08 | Hewlett-Packard Development Company, L.P. | Method and apparatus for storing an uninterrupted digital video stream |
| FR2783388B1 (fr) * | 1998-09-15 | 2000-10-13 | Thomson Multimedia Sa | Procede de compression d'images et dispositif pour la mise en oeuvre de ce procede |
| US6731684B1 (en) | 1998-09-29 | 2004-05-04 | General Instrument Corporation | Method and apparatus for detecting scene changes and adjusting picture coding type in a high definition television encoder |
| EP1005233A1 (en) * | 1998-10-12 | 2000-05-31 | STMicroelectronics S.r.l. | Constant bit-rate coding control in a video coder by way of pre-analysis of the slices of the pictures |
| JP2000278692A (ja) * | 1999-03-25 | 2000-10-06 | Victor Co Of Japan Ltd | 圧縮データ処理方法及び処理装置並びに記録再生システム |
| JP3721867B2 (ja) * | 1999-07-07 | 2005-11-30 | 日本電気株式会社 | 映像表示装置及び表示方法 |
| WO2001026379A1 (en) * | 1999-10-07 | 2001-04-12 | World Multicast.Com, Inc. | Self adapting frame intervals |
| US6731813B1 (en) | 1999-10-07 | 2004-05-04 | World Multicast.Com, Inc. | Self adapting frame intervals |
| GB2356509B (en) * | 1999-11-16 | 2004-02-11 | Sony Uk Ltd | Video data formatting and storage |
| KR100377190B1 (ko) * | 1999-12-24 | 2003-03-26 | 한국전자통신연구원 | 블록별 생성 비트스트림 크기에 따른 채널 오류 발생가능성 예측에 의한 인트라 갱신 블록 결정 기법을 이용한 영상 부호화 방법 |
| US7343617B1 (en) | 2000-02-29 | 2008-03-11 | Goldpocket Interactive, Inc. | Method and apparatus for interaction with hyperlinks in a television broadcast |
| US7120924B1 (en) | 2000-02-29 | 2006-10-10 | Goldpocket Interactive, Inc. | Method and apparatus for receiving a hyperlinked television broadcast |
| US7367042B1 (en) * | 2000-02-29 | 2008-04-29 | Goldpocket Interactive, Inc. | Method and apparatus for hyperlinking in a television broadcast |
| EP1279295A1 (en) * | 2000-04-27 | 2003-01-29 | Koninklijke Philips Electronics N.V. | Video compression |
| GB2364459B (en) * | 2000-06-30 | 2004-03-31 | Nokia Mobile Phones Ltd | Video error resilience |
| US20020028024A1 (en) * | 2000-07-11 | 2002-03-07 | Mediaflow Llc | System and method for calculating an optimum display size for a visual object |
| EP1176833A3 (en) * | 2000-07-25 | 2012-06-27 | Panasonic Corporation | Image decoding method, image decoding apparatus, and data storage medium |
| JP2004507989A (ja) * | 2000-08-30 | 2004-03-11 | ウォッチポイント メディア, インコーポレイテッド | テレビ放送におけるハイパーリンクのための方法および装置 |
| EP1323315A1 (en) * | 2000-10-06 | 2003-07-02 | STMicroelectronics Asia Pacific Pte Ltd | System and method of bit allocation in scene change situations |
| US7136508B2 (en) * | 2000-11-09 | 2006-11-14 | Minolta Co., Ltd. | Image processing apparatus, method, and program for processing a moving image |
| JP3889233B2 (ja) | 2001-03-08 | 2007-03-07 | 株式会社モノリス | 画像符号化方法と装置および画像復号方法と装置 |
| US6907071B2 (en) * | 2001-05-24 | 2005-06-14 | Telefonaktiebolaget Lm Ericsson (Publ) | Selective prediction for intra-coding video data block |
| US6804301B2 (en) | 2001-08-15 | 2004-10-12 | General Instrument Corporation | First pass encoding of I and P-frame complexity for compressed digital video |
| AU2002353301A1 (en) * | 2001-11-21 | 2003-06-10 | Canon Kabushiki Kaisha | Method and device for determining at least one multimedia data encoding parameter |
| TWI247531B (en) * | 2002-03-11 | 2006-01-11 | Winbond Electronics Corp | Digital data processing and storage method and device thereof |
| WO2005011269A1 (en) * | 2003-07-24 | 2005-02-03 | Koninklijke Philips Electronics, N.V. | Optimization of stored video data |
| US7889792B2 (en) * | 2003-12-24 | 2011-02-15 | Apple Inc. | Method and system for video encoding using a variable number of B frames |
| JP3894948B2 (ja) * | 2004-06-21 | 2007-03-22 | 三菱電機株式会社 | 動画像符号化装置及び動画像記録装置 |
| US20050286629A1 (en) * | 2004-06-25 | 2005-12-29 | Adriana Dumitras | Coding of scene cuts in video sequences using non-reference frames |
| EP1999883A4 (en) | 2006-03-14 | 2013-03-06 | Divx Llc | SCHEME FOR THE MANAGEMENT OF UNITED DIGITAL RIGHTS, INCLUDING TRUSTWORTHY SYSTEMS |
| US8279928B2 (en) * | 2006-05-09 | 2012-10-02 | Canon Kabushiki Kaisha | Image encoding apparatus and encoding method, image decoding apparatus and decoding method |
| JP4650454B2 (ja) * | 2007-06-04 | 2011-03-16 | ソニー株式会社 | 符号化装置及び符号化方法 |
| CN101577823B (zh) * | 2008-05-08 | 2011-05-25 | 宏碁股份有限公司 | 视讯编码方法及编码系统与具有视讯编码功能的摄影装置 |
| US9247312B2 (en) | 2011-01-05 | 2016-01-26 | Sonic Ip, Inc. | Systems and methods for encoding source media in matroska container files for adaptive bitrate streaming using hypertext transfer protocol |
| US9467708B2 (en) | 2011-08-30 | 2016-10-11 | Sonic Ip, Inc. | Selection of resolutions for seamless resolution switching of multimedia content |
| US8909922B2 (en) | 2011-09-01 | 2014-12-09 | Sonic Ip, Inc. | Systems and methods for playing back alternative streams of protected content protected using common cryptographic information |
| JPWO2014054325A1 (ja) * | 2012-10-05 | 2016-08-25 | ソニー株式会社 | 符号化制御装置および符号化制御方法 |
| US9313510B2 (en) | 2012-12-31 | 2016-04-12 | Sonic Ip, Inc. | Use of objective quality measures of streamed content to reduce streaming bandwidth |
| US9191457B2 (en) | 2012-12-31 | 2015-11-17 | Sonic Ip, Inc. | Systems, methods, and media for controlling delivery of content |
| US9906785B2 (en) * | 2013-03-15 | 2018-02-27 | Sonic Ip, Inc. | Systems, methods, and media for transcoding video data according to encoding parameters indicated by received metadata |
| US9094737B2 (en) | 2013-05-30 | 2015-07-28 | Sonic Ip, Inc. | Network video streaming with trick play based on separate trick play files |
| JP2015005835A (ja) * | 2013-06-19 | 2015-01-08 | シャープ株式会社 | 画像処理装置、画像形成装置及び記録媒体 |
| JP6481457B2 (ja) | 2015-03-26 | 2019-03-13 | 富士通株式会社 | 動画像符号化装置、動画像符号化方法、動画像復号装置、及び動画像復号方法 |
| US20160360206A1 (en) * | 2015-06-04 | 2016-12-08 | Microsoft Technology Licensing, Llc | Rate controller for real-time encoding and transmission |
| EP4591570A1 (en) * | 2022-09-20 | 2025-07-30 | Qualcomm Incorporated | Variable intra-frame (i-frame) time interval and group of picture (gop) length for video coding |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3119888B2 (ja) * | 1991-04-18 | 2000-12-25 | 松下電器産業株式会社 | 信号処理方法及び記録再生装置 |
| JPH04318785A (ja) * | 1991-04-18 | 1992-11-10 | Matsushita Electric Ind Co Ltd | 映像信号の圧縮符号化処理方法及びその装置 |
| JP3158370B2 (ja) * | 1991-07-12 | 2001-04-23 | ソニー株式会社 | ディスクデータ再生装置 |
| JPH0595540A (ja) * | 1991-09-30 | 1993-04-16 | Sony Corp | 動画像符号化装置 |
| KR0121328B1 (ko) * | 1991-12-13 | 1997-11-17 | 사또오 후미오 | 디지탈 신호 기록 재생 장치 |
| US5510840A (en) * | 1991-12-27 | 1996-04-23 | Sony Corporation | Methods and devices for encoding and decoding frame signals and recording medium therefor |
| DE69333896T2 (de) * | 1992-01-29 | 2006-07-27 | Mitsubishi Denki K.K. | Vorrichtung und Verfahren zum Aufzeichnen/Wiedergeben von Videoinformation |
| GB9206651D0 (en) * | 1992-03-26 | 1992-05-06 | Solid State Logic Ltd | Video processing |
| US5440345A (en) * | 1992-07-17 | 1995-08-08 | Kabushiki Kaisha Toshiba | High efficient encoding/decoding system |
| JP3465272B2 (ja) * | 1992-08-28 | 2003-11-10 | ソニー株式会社 | デジタルデータ記録装置および記録方法 |
| US5565921A (en) * | 1993-03-16 | 1996-10-15 | Olympus Optical Co., Ltd. | Motion-adaptive image signal processing system |
| JPH0750839A (ja) * | 1993-08-06 | 1995-02-21 | Matsushita Electric Ind Co Ltd | 動画像の符号化方法 |
| US5592226A (en) * | 1994-01-26 | 1997-01-07 | Btg Usa Inc. | Method and apparatus for video data compression using temporally adaptive motion interpolation |
-
1994
- 1994-09-29 JP JP23510294A patent/JP3711571B2/ja not_active Expired - Fee Related
-
1995
- 1995-09-22 EP EP20010200071 patent/EP1098530A3/en not_active Withdrawn
- 1995-09-22 EP EP19950306709 patent/EP0705041B1/en not_active Expired - Lifetime
- 1995-09-22 DE DE69529137T patent/DE69529137T2/de not_active Expired - Lifetime
- 1995-09-27 US US08/534,659 patent/US5757968A/en not_active Expired - Lifetime
- 1995-09-28 KR KR1019950033801A patent/KR100392970B1/ko not_active Expired - Fee Related
-
1997
- 1997-07-24 US US08/899,958 patent/US5832121A/en not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| US5757968A (en) | 1998-05-26 |
| DE69529137T2 (de) | 2003-10-09 |
| US5832121A (en) | 1998-11-03 |
| KR960013083A (ko) | 1996-04-20 |
| EP1098530A2 (en) | 2001-05-09 |
| EP1098530A3 (en) | 2007-03-07 |
| EP0705041B1 (en) | 2002-12-11 |
| EP0705041A2 (en) | 1996-04-03 |
| DE69529137D1 (de) | 2003-01-23 |
| KR100392970B1 (ko) | 2003-11-14 |
| JPH0898185A (ja) | 1996-04-12 |
| EP0705041A3 (en) | 1997-09-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3711571B2 (ja) | 画像符号化装置及び画像符号化方法 | |
| JP3954656B2 (ja) | 画像符号化装置及び方法 | |
| JP3224465B2 (ja) | 画像符号化装置 | |
| US6167088A (en) | Method and apparatus for performing adaptive encoding rate control of a video information stream including 3:2 pull-down video information | |
| US7532764B2 (en) | Prediction method, apparatus, and medium for video encoder | |
| JP3755155B2 (ja) | 画像符号化装置 | |
| US20060239347A1 (en) | Method and system for scene change detection in a video encoder | |
| JP2000261800A (ja) | 動画像可変ビットレート符号化方法および装置 | |
| JP5649296B2 (ja) | 画像符号化装置 | |
| JP3599942B2 (ja) | 動画像符号化方法、及び動画像符号化装置 | |
| JP4806483B2 (ja) | 画像圧縮方法 | |
| JP3480067B2 (ja) | 画像符号化装置及び方法 | |
| JPH09294267A (ja) | 画像圧縮符号化装置 | |
| US7876816B2 (en) | Moving picture coding program, program storage medium, and coding apparatus | |
| JP4718736B2 (ja) | 動画像符号化装置 | |
| JPH07131793A (ja) | 映像信号高能率符号化装置 | |
| JP2005303555A (ja) | 動画像符号化装置および動画像符号化方法 | |
| JP3779066B2 (ja) | 動画像符号化装置 | |
| JP4926912B2 (ja) | 映像符号化装置及び方法 | |
| JPH0898177A (ja) | 画像符号化装置 | |
| JP4359273B2 (ja) | 符号化モード選択方法 | |
| JP4359274B2 (ja) | 動画像圧縮符号化装置 | |
| JP2000270251A (ja) | デジタルカメラ | |
| JPH0898178A (ja) | 画像符号化装置 | |
| JP4353928B2 (ja) | データ圧縮方法、記録方法、及び伝送方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040713 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040727 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040927 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20041201 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050127 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050127 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050414 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050419 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050726 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050808 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080826 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090826 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100826 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110826 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120826 Year of fee payment: 7 |
|
| LAPS | Cancellation because of no payment of annual fees |