[go: up one dir, main page]

JP4221667B2 - 情報処理装置および情報処理方法、記録媒体、並びに、プログラム - Google Patents

情報処理装置および情報処理方法、記録媒体、並びに、プログラム Download PDF

Info

Publication number
JP4221667B2
JP4221667B2 JP2004245373A JP2004245373A JP4221667B2 JP 4221667 B2 JP4221667 B2 JP 4221667B2 JP 2004245373 A JP2004245373 A JP 2004245373A JP 2004245373 A JP2004245373 A JP 2004245373A JP 4221667 B2 JP4221667 B2 JP 4221667B2
Authority
JP
Japan
Prior art keywords
picture
encoded stream
editing
encoding
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004245373A
Other languages
English (en)
Other versions
JP2006067095A (ja
Inventor
孝明 渕江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004245373A priority Critical patent/JP4221667B2/ja
Priority to US11/207,899 priority patent/US7539347B2/en
Priority to KR20050078497A priority patent/KR101119685B1/ko
Priority to CN200510129140XA priority patent/CN1767648B/zh
Publication of JP2006067095A publication Critical patent/JP2006067095A/ja
Application granted granted Critical
Publication of JP4221667B2 publication Critical patent/JP4221667B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/109Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23424Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2401Monitoring of the client buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Description

本発明は、情報処理装置および情報処理方法、記録媒体、並びに、プログラムに関し、特に、双方向のフレーム間予測を用いて圧縮した映像データを編集する場合に用いて好適な、情報処理装置および情報処理方法、記録媒体、並びに、プログラムに関する。
MPEG(Moving Picture Coding Experts Group/Moving Picture Experts Group)などに代表される画像圧縮方式では、フレーム間予測を用いて映像信号を圧縮符号化することで、高い圧縮効率を実現している。しかし、映像を編集することを考えた場合、フレーム間予測を用いた圧縮画像は、フレーム間に予測による圧縮信号の関連があるため、圧縮されたままの映像信号で、映像素材をつなぎ合わせる事はできない。そのため、映像素材を編集することが予め考慮されたシステムにおいては、一般的に、フレーム間予測を用いず、フレーム内での圧縮のみを用いて符号化が行われている。
しかしながら、例えば、HD(High Definition)信号のように、高精細で情報量の多い映像信号が取り扱われる場合、フレーム内圧縮のみで符号化を行うと、低い圧縮効率しか得られないため、多量のデータを伝送したり、蓄積するためには、転送速度が速かったり、記憶容量が大きかったり、または、処理速度が速いなどの、高価なシステムが必要となってしまう。すなわち、高精細で情報量の多い映像信号を安価なシステムで取り扱うためには、フレーム間予測を用いて圧縮効率を上げることが必要となる。
MPEGにおいて、Iピクチャ(I-Picture)、Pピクチャ(P-Picture)、および、Bピクチャ(B-Picture)から構成される、双方向のフレーム間予測を用いた圧縮符号化方式は、Long GOP(Group of Picture)方式の圧縮と呼ばれる。
Iピクチャとは、フレーム内(Intra)符号化画像のことであり、他の画面とは独立に符号化されるピクチャであり、この情報のみで画像を復号することができるものである。Pピクチャとは、フレーム間(inter)順方向予測符号化画像のことであり、時間的に前(順方向)のフレームからの差分によって表現される前方向予測符号化ピクチャである。Bピクチャとは、双方向予測符号化画像のことであり、時間的に前(順方向)、または後(逆方向)、または前後(双方向)のピクチャを利用して動き補償フレーム間予測により符号化されるピクチャである。
PピクチャやBピクチャは、データ量がIピクチャに比べて小さいため、GOPを長くすれば(すなわち、Long GOPを構成するピクチャ数を増加させれば)、映像の圧縮率を高くすることができるので、デジタル放送やDVD(Digital Versatile Disk)ビデオでの利用に適している。しかしながら、GOPが長すぎると、フレーム精度での編集コントロールが困難となり、特に、業務用用途での編集では、運用上の問題が発生する。
Long GOP方式で圧縮された2つの映像データを所定の編集点で接続することにより編集する処理について、図1を用いて説明する。
まず、編集対象圧縮映像データ1および編集対象圧縮映像データ2のそれぞれにおいて、編集点近傍の部分的なデコードが行われ、部分的な非圧縮の映像信号1および映像信号2が得られる。そして、非圧縮の映像信号1および映像信号2が編集点で接続されて、必要に応じて編集点付近にエフェクト(Effect)が施されて、再エンコードが行われる。そして、再エンコードされた圧縮映像データが、デコードおよび再エンコードされていない(部分的なデコードが行われた編集点近傍以外の)圧縮映像データと結合される。
図1を用いて説明した方法は、圧縮された編集素材の映像データを全てデコードしてから、映像信号を編集点でつなぎ、再び全ての映像信号を再エンコードして編集済みの圧縮映像データを得る方法と比較して、再エンコードによる画質劣化を局所的に抑えることができるとともに、編集処理時間を大幅に短縮することができるなどの利点がある。
しかしながら、図1を用いて説明したような方法で編集と再エンコードを行うと、再エンコードを行った部分と行っていない部分のつなぎ目において、画像を参照することができないという問題が発生する。
この問題に対して、フレーム間で予測符号化が行われている(Long GOP)方式で圧縮する場合、編集を比較的簡単に実現する方法として、フレーム間予測に制限を加え、GOP内のみで画像を参照し、GOPをまたいで画像を参照しないClosed GOP構造をとるように、フレーム間予測に制限を加える方法が知られている。
フレーム間予測に制限を加える場合について、図2を用いて説明する。図2においては、フレーム間予測と編集との関係を示すために、編集対象である圧縮素材映像1のデータおよび圧縮素材映像2のデータ、部分再エンコードされた編集後の編集点付近の圧縮映像のデータ、並びに、再エンコードしない部分の圧縮映像のデータについて、それぞれ、display order(ディスプレイオーダ)でのピクチャの並びを示している。図中の矢印は、画像の参照方向を示している(以下、同様)。図2においては、ディスプレイオーダのBBIBBPBBPBBPBBPの15のピクチャが1GOPとされ、画像の参照は、GOP内のみとされている。この方法は、GOPをまたぐ予測を禁止することで、GOP間に予測による圧縮データの関連をなくし、GOP単位での圧縮データのつなぎ替え(再エンコードを行う範囲の決定)を可能にする。
すなわち、編集対象である圧縮素材映像1のデータおよび圧縮素材映像2のデータは、それぞれ、編集点を含む1GOP単位で、再エンコード範囲が決定され、1GOP単位で決定された再エンコード範囲の編集対象である圧縮素材映像1のデータおよび圧縮素材映像2のデータがデコードされて、非圧縮の素材映像1の信号および素材映像2の信号が生成される。そして、非圧縮の素材映像1の信号と素材映像2の信号とがカット(Cut)編集点において接続されて、接続された素材映像1および素材映像2が部分再エンコードされて、圧縮映像データが生成され、再エンコードしない部分の圧縮映像データと接続されて、圧縮符号化された編集映像データが生成される。
実際に符号化されたデータは、図3に示されるように、Coding order(コーディングオーダ)で並んでおり、圧縮映像データの結合はコーディングオーダで行われる。接続された素材映像1および素材映像2が部分再エンコードされて生成された圧縮映像データと、再エンコードしない部分の圧縮映像データとは、再エンコードしない部分の圧縮素材映像1のデータにおいて、コーディングオーダで最後のピクチャであり、ディスプレイオーダ14番目のピクチャであるB13ピクチャと、再エンコードされて生成された圧縮映像データにおいて、コーディングオーダで最初のピクチャであり、ディスプレイオーダ3番目のピクチャであるI2ピクチャとが接続される。そして、再エンコードされて生成された圧縮映像データにおいて、コーディングオーダで最後のピクチャであり、ディスプレイオーダ13番目のピクチャであるB12ピクチャと、再エンコードしない部分の圧縮素材映像2のデータにおいて、コーディングオーダで最初のピクチャであり、ディスプレイオーダ3番目のピクチャであるI2ピクチャとが接続される。すなわち、接続された素材映像1および素材映像2が部分再エンコードされて生成された圧縮映像データと、再エンコードしない部分の圧縮映像データとは、GOPの切り替え部分で接続されて、圧縮された編集映像データが生成される。
これに対して、Closed GOP構造ではないGOP構造、すなわち、GOPをまたいで画像を参照する場合のLong GOP構造を、以下、Open GOPと称する。
また、Open GOPの2つのビットストリームを編集する場合、具体的には、ビットストリームXに、ビットストリームYを挿入する場合において、ビットストリームYの最初のGOPを構成するIピクチャ前Bピクチャ(Iピクチャが表示されるまでに出現するBピクチャ)が削除され、更に、そのGOPを構成する残りの画像のテンポラルリファレンス(Temporal Reference)が変更されることにより、ビットストリームXの最後のGOPを構成する画像を用いて予測されるIピクチャ前Bピクチャを表示させないようにし、Open GOPでMPEG符号化された画像のビットストリームどうしを接続したときのつなぎ目部分における画質の劣化を防止することができるようにした技術がある(例えば、特許文献1)。
特開平10−66085号公報
しかしながら、図2および図3を用いて説明したように、GOPをまたぐ予測を禁止するClosed GOP構造を利用する編集方法では、GOPの開始部で予測方向に制限を加えることになり、通常用いられる圧縮方式であるOpen GOPと比較して、映像信号の圧縮効率が低下する。
また、特許文献1に記載の技術においては、つなぎ目付近のBピクチャが表示されないため、その分の画像が欠落してしまうという問題がある。
本発明はこのような状況に鑑みてなされたものであり、高い圧縮効率が得られるLong GOP方式で圧縮された、双方向のフレーム間予測を用いた圧縮映像信号の編集を、VBV Bufferの制約を守って実現することができるようにするものである。
本発明の第1の情報処理装置は、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間をデコードするデコード手段と、第1の符号化ストリームがデコード手段によりデコードされて生成された第1の画像データと、第2の符号化ストリームがデコード手段によりデコードされて生成された第2の画像データとを、編集点で接続し、第3の画像データを生成する接続手段と、接続手段により接続されて生成された第3の画像データをエンコードして、再符号化ストリームを生成するエンコード手段と、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコード手段によりデコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコード手段によるエンコード処理を制御する制御手段と、編集符号化ストリームを生成する編集符号化ストリーム生成手段を備えことを特徴とする。
制御手段には、再符号化ストリームのうち、ディスプレイオーダで最も時間的に後ろに位置するIピクチャ、またはPピクチャより後ろのピクチャのピクチャタイプが、そのピクチャとディスプレイオーダでの時間的な位置の対応する第2の符号化ストリームのピクチャのピクチャタイプから変更されないように、エンコード手段によるエンコード処理を制御させるようにすることができる。
制御手段にはのピクチャのオキュパンシに関する情報を取得させるようにすることができる。
制御手段には、第1のピクチャの発生符号量の情報を取得させるようにすることができる。
制御手段には、コーディングオーダで、再符号化ストリームのうち、最後に連続するBピクチャの前に、第1のピクチャが配置されるように、編集符号化ストリーム生成手段による編集符号化ストリームの生成を制御させるようにすることができる。
制御手段には、編集点付近以外の所定区間の第2の符号化ストリーム内の第1のピクチャのオキュパンシが、編集符号化ストリーム内の第1のピクチャのオキュパンシと同一になるように、エンコード手段によるエンコード処理を制御させるようにすることができる。
エンコード手段には、MPEG方式で第3の画像データをエンコードさせるようにすることができる。
本発明の第1の情報処理方法は、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップと、デコード制御ステップの処理によりデコードが制御されて第1の符号化ストリームから生成された第1の画像データと、デコード制御ステップの処理によりデコードが制御されて第2の符号化ストリームから生成された第2の画像データとの、編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップと、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと、第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、第3の画像データのエンコードを制御して、再符号化ストリームの生成を制御するエンコード制御ステップと、編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップとを含むことを特徴とする。
本発明の第1の記録媒体に記録されているプログラムは、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップと、デコード制御ステップの処理によりデコードが制御されて第1の符号化ストリームから生成された第1の画像データと、デコード制御ステップの処理によりデコードが制御されて第2の符号化ストリームから生成された第2の画像データとの、編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップと、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと、第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、第3の画像データのエンコードを制御して、再符号化ストリームの生成を制御するエンコード制御ステップと、編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップとを含むことを特徴とする処理をコンピュータに実行させる。
本発明の第1のプログラムは、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップと、デコード制御ステップの処理によりデコードが制御されて第1の符号化ストリームから生成された第1の画像データと、デコード制御ステップの処理によりデコードが制御されて第2の符号化ストリームから生成された第2の画像データとの、編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップと、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと、第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、第3の画像データのエンコードを制御して、再符号化ストリームの生成を制御するエンコード制御ステップと、編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップとを含むことを特徴とする処理をコンピュータに実行させる。
本発明の第1の情報処理装置および情報処理方法、並びに、プログラムにおいては、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間決定され、その所定区間がデコードされ、デコードされて第1の符号化ストリームから生成された第1の画像データと、デコードされて第2の符号化ストリームから生成された第2の画像データとが、編集点で接続されて、第3の画像データが生成され、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと、第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、第3の画像データがエンコードされて再符号化ストリームが生成され編集符号化ストリームが生成される。
本発明の第2の情報処理装置は、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコード手段と、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコード手段によるエンコード処理を制御する制御手段とを備えることを特徴とする。
編集符号化ストリームを生成する編集符号化ストリーム生成手段を更に備えさせるようにすることができ、制御手段には、編集符号化ストリーム生成手段を更に制御させるようにすることができる。
本発明の第2の情報処理方法は、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップと、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコードステップにおけるエンコード処理を制御する制御ステップとを含むことを特徴とする。
本発明の第2の記録媒体に記録されているプログラムは、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップと、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコードステップにおけるエンコード処理を制御する制御ステップとを含むことを特徴とする処理をコンピュータに実行させる。
本発明の第2のプログラムは、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップと、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコードステップにおけるエンコード処理を制御する制御ステップとを含むことを特徴とする処理をコンピュータに実行させる。
本発明の第2の情報処理装置および情報処理方法、並びに、プログラムにおいては、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データが、エンコードされて再符号化ストリームが生成される。なお編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間は決定され、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコード処理制御される。
本発明によれば、第1の圧縮映像データおよび第2の圧縮映像データを編集点で接続することができ、特に、編集点付近のデータのみをデコードして編集点で接続し、いずれかのフレーム内符号化画像、または、フレーム間順方向予測符号化画像より、画像表示順で時間的に後ろとなる部分のピクチャタイプが、第1の圧縮映像データおよび第2の圧縮映像データの対応するピクチャタイプから変更されないようにエンコードされるので、OpenGOPで圧縮符号化されたデータを、画質を劣化させたりVBVバッファを破綻させることなく編集することができる。
また、他の本発明によれば、第1の圧縮映像データおよび第2の圧縮映像データを編集点で接続してエンコードすることができ、特に、編集点で接続されたデータのうちのいずれかのフレーム内符号化画像、または、フレーム間順方向予測符号化画像より、画像表示順で時間的に後ろとなる部分のピクチャタイプが、第1の圧縮映像データおよび第2の圧縮映像データの対応するピクチャタイプから変更されないようにエンコードされるので、OpenGOPで圧縮符号化されたデータを、画質を劣化させたりVBVバッファを破綻させることなく編集することができる。
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
請求項1に記載の情報処理装置(例えば、図4の編集装置1)は、第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置であって、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間をデコードするデコード手段(例えば、図4のデコーダ22およびデコーダ23)と、第1の符号化ストリームがデコード手段によりデコードされて生成された第1の画像データと、第2の符号化ストリームがデコード手段によりデコードされて生成された第2の画像データとを、編集点で接続し、第3の画像データを生成する接続手段(例えば、図4のエフェクト/スイッチ26)と、接続手段により接続されて生成された第3の画像データをエンコードして、再符号化ストリームを生成するエンコード手段(例えば、図4のエンコーダ27)と、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャ(例えば、図9のIピクチャ40、すなわち、Iピクチャ47)がIピクチャとなるように、デコード手段によりデコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャ(例えば、図10のPピクチャ82)のオキュパンシ(例えば、図11のJに示されるOccupancy)が、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャ(例えば、図10のBピクチャ39の次のPピクチャ)のオキュパンシ(例えば、図11のIに示されるOccupancy)と一致するように、エンコード手段によるエンコード処理を制御する制御手段(例えば、図4のCPU20)と、編集符号化ストリームを生成する編集符号化ストリーム生成手段(例えば、図4のストリームスプライサ25)を備えことを特徴とする。
制御手段は、再符号化ストリームのうち、ディスプレイオーダで最も時間的に後ろに位置するIピクチャ、またはPピクチャより後ろのピクチャのピクチャタイプが、そのピクチャとディスプレイオーダでの時間的な位置の対応する第2の符号化ストリームのピクチャのピクチャタイプから変更されないように、エンコード手段によるエンコード処理を制御することができる。
制御手段はのピクチャ(例えば、図10のBピクチャ39の次のPピクチャ)のオキュパンシ(例えば、図11のIに示されるOccupancy)に関する情報を取得することができる。
制御手段は、第1のピクチャ(例えば、図9のIピクチャ40、すなわち、Iピクチャ47)の発生符号量(例えば、図11のBで示される発生符号量)の情報を取得することができる。
制御手段は、コーディングオーダで、再符号化ストリームのうち、最後に連続するBピクチャ(例えば、図10のBピクチャ72,73)の前に、第1のピクチャが配置されるように、編集符号化ストリーム生成手段による編集符号化ストリームの生成を制御することができる。
制御手段は、編集点付近以外の所定区間の第2の符号化ストリーム内の第1のピクチャのオキュパンシが、編集符号化ストリーム内の第1のピクチャのオキュパンシと同一になるように、エンコード手段によるエンコード処理を制御することができる。
エンコード手段は、MPEG方式で第3の画像データをエンコードすることができる。
請求項に記載の情報処理方法は、第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置の情報処理方法であって、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、第1の符号化ストリームおよび第2の符号化ストリームのうちの編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップ(例えば、図12のステップS5の処理)と、デコード制御ステップの処理によりデコードが制御されて第1の符号化ストリームから生成された第1の画像データと、デコード制御ステップの処理によりデコードが制御されて第2の符号化ストリームから生成された第2の画像データとの、編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップ(例えば、図12のステップS6の処理)と、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと、第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、第3の画像データのエンコードを制御して、再符号化ストリームの生成を制御するエンコード制御ステップ編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップ(例えば、図12のステップS8および図15を用いて説明した処理)とを含むことを特徴とする。
また、請求項に記載の記録媒体に記録されているプログラム、および、請求項10に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項に記載の情報処理方法と同様である。
請求項11に記載の情報処理装置(例えば、図4の編集装置1)は、第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置であって、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコード手段(例えば、図4のエンコーダ27)と、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコード手段によるエンコード処理を制御する制御手段(例えば、図4のCPU20)とを備えることを特徴とする。
編集符号化ストリームを生成する編集符号化ストリーム生成手段(例えば、図4のストリームスプライサ25)を更に備え、制御手段は、編集符号化ストリーム生成手段を更に制御することを特徴とする。
請求項1に記載の情報処理方法は、第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置の情報処理方法であって、第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、第2の符号化ストリームが編集点付近の所定区間でデコードされて生成された第2の画像データとが、編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップ(例えば、図12のステップS7の処理)と、編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる所定区間を決定し、編集点付近以外の所定区間の第1の符号化ストリームおよび編集点付近以外の所定区間の第2の符号化ストリームと再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、エンコードステップにおけるエンコード処理を制御する制御ステップ(例えば、図13を用いて説明した処理)とを含むことを特徴とする。
また、請求項14に記載の記録媒体に記録されているプログラム、および、請求項15に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項13に記載の情報処理方法と同様である。
以下、図を参照して、本発明の実施の形態について説明する。
図4は本発明を適用した編集装置1のハードウェア構成を示すブロック図である。
CPU(Central Processing Unit)11は、ノースブリッジ12に接続され、例えば、HDD(Hard disk Drive)16に記憶されているデータの読み出しなどの処理を制御したり、CPU20が実行する編集処理を制御するためのコマンドを生成し、出力する。ノースブリッジ12は、PCIバス(Peripheral Component Interconnect/Interface)14に接続され、例えば、CPU11の制御に基づいて、サウスブリッジ15を介して、HDD16に記憶されているデータの供給を受けて、PCIバス14、PCIブリッジ17を介して、メモリ18に供給する。また、ノースブリッジ12は、メモリ13とも接続されており、CPU11の処理に必要なデータを授受する。
メモリ13は、CPU11が実行する処理に必要なデータを保存する。サウスブリッジ15は、HDD16のデータの書き込みおよび読み出しを制御する。HDD16には、圧縮符号化された編集用の素材が記憶されている。
PCIブリッジ17は、メモリ18のデータの書き込みおよび読み出しを制御したり、デコーダ22乃至24、または、ストリームスプライサ25への圧縮符号化データの供給を制御するとともに、PCIバス14およびコントロールバス19のデータの授受を制御する。メモリ18は、PCIブリッジ17の制御に基づいて、HDD16により読み出された、編集用素材である圧縮符号化データや、ストリームスプライサ25から供給される編集後の圧縮符号化データを記憶する。
CPU20は、ノースブリッジ12、PCIバス14、PCIブリッジ17、および、コントロールバス19を介して、CPU11から供給されたコマンドにしたがって、PCIブリッジ17、デコーダ22乃至24、ストリームスプライサ25、エフェクト/スイッチ26、および、エンコーダ27が実行する処理を制御する。メモリ21は、CPU20の処理に必要なデータを記憶する。
デコーダ22乃至デコーダ24は、CPU20の制御に基づいて、供給された圧縮符号化データをデコードし、非圧縮の映像信号を出力する。ストリームスプライサ25は、CPU20の制御に基づいて、供給された圧縮映像データを、所定のフレームで結合する。また、デコーダ22乃至デコーダ24は、編集装置1に含まれない独立した装置として設けられていても良い。例えば、デコーダ24が、独立した装置として設けられている場合、デコーダ24は、後述する処理により編集されて生成された圧縮編集映像データの供給を受け、復号し、出力することができるようになされる。
エフェクト/スイッチ26は、CPU20の制御に基づいて、デコーダ22またはデコーダ23から供給される、非圧縮の映像信号出力を切り替える、すなわち、供給された非圧縮の映像信号を所定のフレームで結合するとともに、必要に応じて、所定の範囲にエフェクトを施して、エンコーダ27に供給する。エンコーダ27は、CPU20の制御に基づいて、供給された非圧縮の映像信号をエンコードして、圧縮符号化された圧縮映像データを、ストリームスプライサ25に出力する。
次に、編集装置1の動作について説明する。
HDD16には、図5に示されるLong GOPのOpen GOP方式で圧縮された圧縮素材映像1および圧縮素材映像2のデータが記憶されている。図5において、圧縮された圧縮素材映像1および圧縮素材映像2は、表示されるピクチャ順(display order)で記載されている。
CPU11は、サウスブリッジ15を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD16から、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータを読み出させ、ノースブリッジ12、PCIバス14、および、PCIブリッジ17を介して、メモリ18に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ12、PCIバス14、PCIブリッジ17、および、コントロールバス19を介して、CPU20に供給する。
CPU20は、CPU11から供給された編集点を示す情報を基に、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータのうち、再エンコードを行う範囲を決定する。そして、CPU20は、PCIブリッジ17を制御して、メモリ18に記憶されている圧縮符号化された圧縮素材映像1のデータのうち、再エンコードを行う範囲のピクチャと、参照する必要があるピクチャに対応する圧縮素材映像1のデータをデコーダ22に供給させるとともに、圧縮素材映像2のデータのうち、再エンコードを行う範囲のピクチャと、参照する必要があるピクチャに対応する圧縮素材映像2のデータをデコーダ23に供給させる。
すなわち、この時、圧縮素材映像1のうち、Bピクチャ36およびBピクチャ37が再エンコードを行う範囲に含まれている場合、Bピクチャ36およびBピクチャ37をデコードするために、Iピクチャ31、および、Pピクチャ32乃至Pピクチャ35もデコードされる。また、同様に、圧縮素材映像2のうち、Bピクチャ38およびBピクチャ39が再エンコードを行う範囲に含まれている場合、Bピクチャ38およびBピクチャ39をデコードするために、Iピクチャ40もデコードされる。
また、このとき、CPU20は、PCIブリッジ17を制御して、メモリ18に記憶されている圧縮符号化された圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲のピクチャを、ストリームスプライサ25に供給させる。
CPU20は、デコーダ22およびデコーダ23を制御して、供給された圧縮符号化されたデータをデコードさせる。
デコーダ22およびデコーダ23は、CPU20の制御に基づいて、供給されたデータをデコードし、復号されて得られた素材映像1および素材映像2の信号をエフェクト/スイッチ26に供給する。エフェクト/スイッチ26は、CPU20の制御に基づいて、所定のカット(Cut)編集点(スプライス点)で、非圧縮の復号素材映像1と復号素材映像2の信号を接続して、必要に応じて、エフェクトを施し、再エンコード用の非圧縮の編集映像信号を生成し、再エンコードに必要な再エンコード用参照画像(図5においては、Bピクチャ42およびBピクチャ43のエンコードに必要なPピクチャ41に対応する画像データ)とともに、エンコーダ27に供給する。
エンコーダ27は、CPU20の制御に基づいて、エフェクト/スイッチ26から供給された、再エンコード用の非圧縮の編集映像信号をエンコードする。
そのとき、エンコーダ27は、図5に示されるように、双方向予測符号化を行うBピクチャ42およびBピクチャ43をエンコードするために、参照画として、一つ前のPピクチャ41を用いなければならない。また、ディスプレイオーダにおいて、再エンコードの最後のピクチャがPピクチャとなるように、ピクチャタイプを決定することにより、再エンコードの最後のピクチャ以降のピクチャをエンコードのための参照画として用いなくてもよいようにすることができる。
換言すれば、再エンコード終了点がGOPの切れ目(すなわち、Bピクチャ以外)となるようなピクチャタイプで再エンコードを行うようにすることにより、編集用の圧縮素材映像データがOpenGOPであっても、再エンコードの最後のピクチャ以降のピクチャをエンコードのための参照画として用いる必要がなくなる。
そして、エンコーダ27において再エンコードされた映像データは、ストリームスプライサ25に供給される。ストリームスプライサ25は、CPU20の制御に基づいて、PCIブリッジ17から供給された、圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲の圧縮素材映像1および圧縮素材映像2と、エンコーダ27から供給されたエンコードされた映像データとを接続し、圧縮編集映像データを生成する。
具体的には、ストリームスプライサ25は、CPU20の制御に基づいて、PCIブリッジ17から供給された、圧縮素材映像1のPピクチャ46とエンコーダ27から供給されたエンコードされた映像データのBピクチャ42とがディスプレイオーダで連続するように接続され、エンコーダ27から供給されたエンコードされた映像データのPピクチャ45と、PCIブリッジ17から供給された、圧縮素材映像2のIピクチャ47とがディスプレイオーダで連続するように接続されるように、ストリームをつなぎ合わせる。
そして、ストリームスプライサ25は、CPU20の制御に基づいて、作成した圧縮編集映像データをPCIブリッジ17に供給して、メモリ18に保存させるとともに、デコーダ24に供給してデコードさせ、編集結果確認用のモニタなどに出力させて表示させたり、デコードされて生成されたベースバンド信号を、他の装置に出力させる。
図示しない操作入力部から、編集されて生成された圧縮編集映像データの保存が指令された場合、CPU11は、PCIブリッジ17を制御して、メモリ18に保存されている圧縮編集映像データを読み出させ、PCIバス14およびノースブリッジ12を介して、サウスブリッジ15に供給させるとともに、サウスブリッジ15を制御して、供給された圧縮編集映像データをHDD16に供給させて保存させる。
実際のエンコードはコーディングオーダ(coding order)で行われ、エンコーダ27においてエンコードされた圧縮映像も、コーディングオーダで出力される。図5を用いて説明した場合に対応させて、圧縮された信号におけるピクチャの並びをコーディングオーダで示したものを図6に示す。
編集対象である圧縮素材映像1および編集対象である圧縮素材映像2のそれぞれのデータにおいて、編集点を含む再エンコード範囲が決定され、再エンコード範囲の圧縮素材映像1および圧縮素材映像2がデコードされて、非圧縮の素材映像1の信号および素材映像2の信号が生成される。そして、カット(Cut)編集点において、非圧縮の素材映像1の信号と素材映像2とが接続されて、接続された素材映像1および素材映像2が、最後のピクチャがPピクチャ(またはIピクチャ)となるように部分再エンコードされて、圧縮映像データが生成され、再エンコードしない部分の圧縮映像データと接続されて、圧縮された編集映像データが生成される。
接続された素材映像1および素材映像2が部分再エンコードされて生成された圧縮映像データと、再エンコードしない部分の圧縮映像データとは、再エンコードしない部分の圧縮素材映像1のデータにおいて、コーディングオーダで最後のピクチャであって、ディスプレイオーダ14番目のピクチャであるB13ピクチャと、再エンコードされて生成された圧縮映像データにおいて、コーディングオーダで先頭のピクチャであって、ディスプレイオーダ3番目のピクチャであるI2ピクチャとが接続される。そして、再エンコードされて生成された圧縮映像データにおいて、コーディングオーダで最後のピクチャであって、ディスプレイオーダ16番目のピクチャであるP15ピクチャ(Pピクチャ45)と、再エンコードしない部分の圧縮素材映像2において、コーディングオーダで先頭のピクチャであって、データのディスプレイオーダ3番目のピクチャであるI0ピクチャ(Iピクチャ47)とが接続される。すなわち、接続された素材映像1および素材映像2が部分再エンコードされて生成された圧縮映像データと、再エンコードしない部分の圧縮映像データとは、GOPの切り替え部分に関係なく接続されて、圧縮された編集映像データが生成される。
このように、ディスプレイオーダにおいて、再エンコードの最後のピクチャであるP15ピクチャ(Pピクチャ45)は、コーディングオーダでも再エンコードの最後のピクチャとなる。このようにして、ピクチャタイプを決定することにより、再エンコードの最後のピクチャ以降のピクチャをエンコードのための参照画として用いなくてもよいようにすることができる。
このとき、VBV(Video Buffering Verifier)バッファも考慮して再エンコードを行う必要がある。図7を用いて、編集を行う場合のVBVバッファについて説明する。
エンコードを行うにあたっては、VBVバッファがオーバーフロー(over flow)、または、アンダーフロー(under flow)しないようにそれぞれのピクチャに発生符号量を割り当てることで、後段のデコーダが正常にデコードを行えるように制御されなくてはならない。特に、編集のための部分的な再エンコードを行う場合、部分再エンコードしない部分に関して(特に、再エンコードを行う部分と再エンコードを行わない部分の接続点付近において)も、VBVバッファがオーバーフローまたはアンダーフローしないように再エンコードを行う必要がある。
再エンコードされた圧縮映像データのバッファの状態により影響を受けるのは、再エンコードされた圧縮映像信号の後に結合される再エンコードしない部分の圧縮映像データである。この再エンコードしない部分の圧縮映像データが、オーバーフローまたはアンダーフローしないための十分条件は、再エンコードされた圧縮映像信号の後に結合される再エンコードしない部分の圧縮編集映像データの最初のIピクチャまたはPピクチャ、すなわち、図7において、Aで示されるIピクチャに続く、図7においてDで示されるPピクチャのOccupancy(オキュパンシ)が、圧縮素材映像2データの図7においてBで示されるIピクチャ次のIピクチャまたはPピクチャ、すなわち、図7において、Cで示されるPピクチャのOccupancyに等しくなることである。よって再エンコードを行う場合は、上記条件を満たす値になるように、再エンコード終了時点(図7のAで示される部分)のバッファのOccupancyを制御する必要がある。
このようにすることにより、VBVバッファの破綻をできるだけ防止するようにすることができる。
しかしながら、Aで示されるIピクチャおよびその次のIまたはPピクチャの発生符号量によっては、Aで示されるIピクチャのOccupancyを制御して、図7を用いて説明したように、Dで示されるPピクチャのOccupancyが、圧縮素材映像2データの図7においてCで示されるPピクチャのOccupancyに等しくなるようにすることができず、VBVバッファが破綻してしまう恐れがある。
図8を用いて、VBVバッファが破綻してしまう場合について説明する。
一般的に、Iピクチャの発生符号量およびPピクチャの発生符号量は、Bピクチャの発生符号量よりも大きい。例えば、再エンコードして生成された圧縮映像データの後に結合される、再エンコードしない圧縮素材映像2のデータの先頭のIピクチャであるI2ピクチャの発生符号量B、および、次のPピクチャであるP5ピクチャの発生符号量Cが大きい場合について考える。
このとき、編集されて生成される圧縮編集映像のうちの、部分エンコードされた部分に続く部分エンコードされない部分の先頭のIピクチャに続くPピクチャにおけるDで示される部分のOccupancyが、編集前の圧縮素材映像2データのCで示される部分のOccupancyに等しくなるように、Aで示されるIピクチャのOccupancyを制御しようとしても、連続するIピクチャとPピクチャの符号発生量がいずれも多いために、図中Dに示されるように、バッファをアンダーフローしてしまう。この例では、編集後のI0ピクチャにおけるAで示されるIピクチャのOccupancyは、ほぼ、バッファの最大値であるため、再エンコード部分において、発生符号量をどのように制御しても、図中Dに示される部分でバッファのアンダーフローを避けることができない。すなわち、図5および図6を用いて説明した方法では、デコーダでの復号処理を100%保障することができない。
そこで、CPU20は、VBVバッファが破綻しない条件を守って再エンコードが行われるように、デコーダ22およびデコーダ23、ストリームスプライサ25、エフェクト/スイッチ26、並びに、エンコーダ27が実行する処理を制御するようにすることができる。
次に、Long GOPのOpen GOP方式で圧縮された映像信号において、VBVバッファが破綻しない条件を守って編集する方法について説明する。
CPU11は、サウスブリッジ15を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD16から、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータを読み出させ、ノースブリッジ12、PCIバス14、および、PCIブリッジ17を介して、メモリ18に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ12、PCIバス14、PCIブリッジ17、および、コントロールバス19を介して、CPU20に供給する。
CPU20は、CPU11から供給された編集点を示す情報を基に、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータのうち、再エンコードを行う範囲を決定する。
具体的には、CPU20は、圧縮素材映像1において、再エンコードする区間の開始点を、部分再エンコードされた圧縮映像の前に結合する、再エンコードしない部分の圧縮映像のディスプレイオーダで最後のピクチャのピクチャタイプが、IピクチャまたはPピクチャになるように決定する。
すなわち、CPU20は、例えば、図9に示されるように、再エンコードしない部分の圧縮素材映像1のディスプレイオーダで最後のピクチャのピクチャタイプがPピクチャ46になるように、再エンコードする区間の開始点を、圧縮素材映像1において、Pピクチャ35の次のBピクチャ36に決定する。換言すれば、CPU20は、再エンコードしない部分の圧縮映像がGOPの終了位置となるようにすることにより、エンコード処理が行いやすいようにすることができる。
また、CPU20は、圧縮素材映像2において、再エンコードする区間の終了点を、部分再エンコードされた圧縮映像の後に結合する、再エンコードしない部分の圧縮映像のディスプレイオーダで最初のピクチャのピクチャタイプがIピクチャになるように決定する。
すなわち、CPU20は、例えば、図9に示されるように、再エンコードしない部分の圧縮素材映像2のディスプレイオーダで最初のピクチャのピクチャタイプがIピクチャ47になるように、再エンコードする区間の終了点を、圧縮素材映像2において、Iピクチャ40の前のBピクチャ39に決定する。
そして、CPU20は、PCIブリッジ17を制御して、メモリ18に記憶されている圧縮符号化された圧縮素材映像1のデータのうち、再エンコードを行う範囲のピクチャと、Bピクチャ36およびBピクチャ37をデコードするために参照する必要があるピクチャである、Iピクチャ31、Pピクチャ32、Pピクチャ33、Pピクチャ34、および、Pピクチャ35のデータをデコーダ22に供給させるとともに、圧縮素材映像2のデータのうち、再エンコードを行う範囲のピクチャと、Bピクチャ38およびBピクチャ39をデコードするために参照する必要があるピクチャである、Iピクチャ40のデータをデコーダ23に供給させる。
また、このとき、CPU20は、PCIブリッジ17を制御して、メモリ18に記憶されている圧縮符号化された圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲のピクチャを、ストリームスプライサ25に供給させる。
CPU20は、デコーダ22およびデコーダ23を制御して、供給された圧縮符号化されたデータをデコードさせる。
デコーダ22およびデコーダ23は、CPU20の制御に基づいて、供給されたデータをデコードし、復号されて得られた素材映像1および素材映像2の信号をエフェクト/スイッチ26に供給する。エフェクト/スイッチ26は、CPU20の制御に基づいて、所定のカット(Cut)編集点(スプライス点)で、非圧縮の復号素材映像1と復号素材映像2の信号を接続して、必要に応じて、エフェクトを施し、再エンコード用の非圧縮の編集映像信号を生成し、再エンコードに必要な再エンコード用参照画像(図9においては、Bピクチャ42およびBピクチャ43のエンコードに必要なPピクチャ41、並びに、Bピクチャ72およびBピクチャ73のエンコードに必要なIピクチャ74に対応する画像データ)とともに、エンコーダ27に供給する。
CPU20は、圧縮素材映像2のうち、再エンコードを行う部分において、ディスプレイオーダで最後に位置する連続するBピクチャの枚数nの情報を取得する。再エンコードしない部分の圧縮素材映像2のディスプレイオーダで最初のピクチャのピクチャタイプは、上述したように、Iピクチャになるように決定されているので、Bピクチャの枚数nは、すなわち、再エンコードしない部分の圧縮素材映像2のディスプレイオーダで最初のIピクチャと、編集後にそのIピクチャの直前に存在するIピクチャまたはPピクチャとの間にあるBピクチャの枚数である。図9における場合では、Bピクチャの枚数nは、Bピクチャ38およびBピクチャ39の2枚である。
更に、CPU20は、再エンコードしない部分の圧縮素材映像2のディスプレイオーダで最初のIピクチャの直前に存在するIピクチャまたはPピクチャ、換言すれば、再エンコードする範囲の最後に存在するIピクチャまたはPピクチャのピクチャタイプの情報を取得する。図9における場合では、再エンコードしない部分の圧縮素材映像2のディスプレイオーダで最初のIピクチャの直前に存在するIピクチャまたはPピクチャは、Pピクチャ61である。
そして、CPU20は、エンコーダ27が実行する処理において、再エンコード終了点付近のBピクチャの枚数が編集前の圧縮素材映像2と同一となり、そのBピクチャの直前のピクチャのピクチャタイプがIピクチャまたはPピクチャとなるように、エンコーダ27を制御する。また、CPU20は、Bピクチャの直前のピクチャのピクチャタイプも、編集前の圧縮素材映像2と同一となるように制御すると好適である。
すなわち、CPU20は、図9における場合では、編集前の圧縮素材映像2のBピクチャ38およびBピクチャ39と、再エンコードにおけるBピクチャ72およびBピクチャ73のピクチャタイプがそろい、再エンコードにおけるBピクチャ72およびBピクチャ73の直前をPピクチャ71となるように、エンコーダ27を制御する。
エンコーダ27は、CPU20の制御に基づいて、エフェクト/スイッチ26から供給された、再エンコード用の非圧縮の編集映像信号をエンコードする。
そして、エンコーダ27において再エンコードされた映像データは、ストリームスプライサ25に供給される。ストリームスプライサ25は、CPU20の制御に基づいて、PCIブリッジ17から供給された、圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲の圧縮素材映像1および圧縮素材映像2と、エンコーダ27から供給されたエンコードされた映像データとを接続し、圧縮編集映像データを生成する。
具体的には、ストリームスプライサ25は、CPU20の制御に基づいて、PCIブリッジ17から供給された、圧縮素材映像1のPピクチャ46とエンコーダ27から供給されたエンコードされた映像データのBピクチャ42とがディスプレイオーダで連続するように接続され、エンコーダ27から供給されたエンコードされた映像データのBピクチャ73と、PCIブリッジ17から供給された、圧縮素材映像2のIピクチャ47とがディスプレイオーダで連続するように接続されるように、ストリームをつなぎ合わせる。
実際のエンコードはコーディングオーダで行われ、エンコーダ27においてエンコードされた圧縮映像も、コーディングオーダで出力される。図9を用いて説明した場合に対応させて、圧縮された信号におけるピクチャの並びをコーディングオーダで示したものを図10に示す。
すなわち、ストリームスプライサ25は、CPU20の制御に基づいて、再エンコードされた部分と再エンコードされていない部分の接続点において、エンコードされた映像データにおいて、コーディングオーダでPピクチャ71に続くBピクチャ81と、圧縮素材映像2のIピクチャ47(再エンコードされていないIピクチャ)とがコーディングオーダで連続するように接続され、圧縮素材映像2のIピクチャ47と、エンコードされた映像データのBピクチャ72とがコーディングオーダで連続するように接続され、エンコードされた映像データにおいて、コーディングオーダでBピクチャ72に続くBピクチャ73と、圧縮素材映像2のPピクチャ82とがコーディングオーダで連続するように接続されるように、ストリームをつなぎ合わせる。
換言すれば、ストリームスプライサ25は、コーディングオーダにおいて、再エンコードされた区間の最後のIピクチャまたはPピクチャに続く、n枚の再エンコードされたBピクチャの前に、再エンコードされていないIピクチャが入るように、ストリームをつなぎ合わせる。
そして、ストリームスプライサ25は、CPU20の制御に基づいて、作成した圧縮編集映像データをPCIブリッジ17に供給して、メモリ18に保存させるとともに、デコーダ24に供給してデコードさせ、編集結果確認用のモニタなどに出力させて表示させたり、デコードされて生成されたベースバンド信号を、他の装置に出力させる。デコーダ24が、独立した装置として構成されている場合、デコーダ24に対応する装置は、図9および図10を用いて説明したようにして生成された、換言すれば、再エンコードされた区間の最後のIピクチャまたはPピクチャに続く、n枚の再エンコードされたBピクチャの前に、再エンコードされていないIピクチャが入る編集後の圧縮映像データの供給を受けてこれをデコードし、デコードされて生成されたベースバンド信号を出力することができるようになされる。
次に、図11を用いて、図9および図10を用いて説明した、再エンコードを利用した編集処理を行う場合のVBVバッファについて説明する。
図9および図10を用いて説明した、再エンコードを利用した編集処理が行われた場合、コーディングオーダにおいて、再エンコードの最後のn枚のBピクチャの前に、再エンコードしないIピクチャが挿入される。したがって、図11に示されるように、再エンコード範囲から最後のn枚のBピクチャを除いた部分(図11のEで示される部分)は、再エンコードされないIピクチャのOccupancyが編集前と一致するように、再エンコードが行われ、その後、再エンコードされないIピクチャの発生符号量の情報(図11においては、Fで示される部分)が圧縮素材映像2の対応するIピクチャの発生符号量の情報(図11においては、Bで示される部分)から求められて、VBVバッファのOccupancyが計算される。
その後、再エンコードしない部分の圧縮映像のVBVバッファが、オーバーフローまたはアンダーフローしないようにするため、再エンコードしない部分の圧縮映像の先頭のIピクチャの次に位置するIピクチャまたはPピクチャのOccupancyが編集前後で一致するように、再エンコード部分の最後のn枚のBピクチャ(図11においては、Gで示される部分)において、発生符号量が制御されて、エンコードが行なわれる。すなわち、図11において、編集前のCで示される発生符号量と、編集後のHで示される発生符号量は同一であるため、編集前のIで示されるOccupancyに、編集後のJで示されるOccupancyが一致するように、n枚のBピクチャの再エンコードが行なわれる。これにより、図11において、KおよびLで示される部分でバッファのアンダーフローは発生しない。
この方法では、再エンコードが行われている部分と再エンコードが行われない部分の圧縮映像の結合部におけるピクチャタイプが、編集前後で保存されているので、図11に示されるように、再エンコードが行われている部分に接続される、再エンコードが行われない部分の先頭のIピクチャの発生符号量Fと、次のIピクチャまたはPピクチャの発生符号量Hが大きくても、編集前の圧縮素材映像2のデータでVBVバッファの制約が満たされていれば、編集後の圧縮映像でも制約を満たすようにエンコードが行われるようにすることが可能である。
次に、図12のフローチャートを参照して、編集処理について説明する。
ステップS1において、CPU11は、図示しない操作入力部から、編集開始を指令するユーザからの操作入力を受け、サウスブリッジ15を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD16から、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータを読み出させ、ノースブリッジ12、PCIバス14、および、PCIブリッジ17を介して、メモリ18に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ12、PCIバス14、PCIブリッジ17、および、コントロールバス19を介して、CPU20に供給する。
ステップS2において、メモリ18は、圧縮符号化された2つの編集素材データを取得する。
ステップS3において、CPU20は、CPU11から供給された、編集点を示す情報と、編集開始を示すコマンドを基に、再エンコードしない部分の圧縮素材映像1のディスプレイオーダで最後のピクチャのピクチャタイプがPピクチャになり、再エンコードしない部分の圧縮素材映像2のディスプレイオーダで最初のピクチャのピクチャタイプがIピクチャになるように、圧縮符号化された編集素材データのデコード範囲を決定する。
ステップS4において、CPU20は、PCIブリッジ17を制御して、メモリ18に記憶されている圧縮符号化された2つの編集素材データから、決定されたデコード範囲のデータをデコードおよび再エンコードするために必要なデータを抽出させ、デコーダ22およびデコーダ23にそれぞれ供給させる。また、このとき、CPU20は、PCIブリッジ17を制御して、再エンコードされない部分の圧縮符号化された編集素材データを、ストリームスプライサ25に供給させる。PCIブリッジ17は、CPU20の制御に基づいて、メモリ18に記憶されている圧縮符号化された2つの編集素材データから、決定されたデコード範囲のデータをデコードおよび再エンコードするために必要なデータを抽出し、デコーダ22およびデコーダ23にそれぞれ供給するとともに、再エンコードされない部分の圧縮符号化された編集素材データを、ストリームスプライサ25に供給する。
ステップS5において、CPU20は、デコーダ22およびデコーダ23を制御して、決定されたデコード範囲のデータをデコードさせる。デコーダ22およびデコーダ23は、CPU20の制御に基づいて、供給された圧縮符号化された編集素材データをデコードして、エフェクト/スイッチ26に供給する。
ステップS6において、CPU20は、エフェクト/スイッチ26を制御して、デコードされたデータを編集点で接続させて、必要に応じて、エフェクトをかけさせる。エフェクト/スイッチ26は、CPU20の制御に基づいて、供給された非圧縮の復号映像素材を編集点で接続して、必要に応じて、エフェクトをかけ、エンコーダ27に供給する。
ステップS7において、CPU20は、エンコーダ27を制御して、編集点で接続された非圧縮の復号映像素材を再エンコードさせる。エンコーダ27は、CPU20の制御に基づいて、編集点で接続された非圧縮の復号映像素材の再エンコードを行い、再エンコードされた圧縮符号化された映像データを、ストリームスプライサ25に供給する。
ステップS8において、図15を用いて後述する接続処理が実行され、ステップS8の処理の終了後、処理は終了される。
このような処理により、Long GOPのOpen GOP構造の圧縮映像データの編集点付近を部分的にデコードし、デコードされた非圧縮の映像信号を所定の編集点で接続した後、再エンコードを行い、デコードおよび再エンコードされていない部分の圧縮映像データと接続することにより、Long GOPのOpen GOP構造の圧縮映像データの編集を実現することができる。
次に、図13のフローチャートを参照して、再エンコード実行(図12のステップS7の処理)時におけるピクチャタイプ決定処理について説明する。
ステップS31において、CPU20は、圧縮符号化された映像素材2のデータにおいて、ディスプレイオーダで、再エンコードされる部分の最後に連続するBピクチャの数nを取得し、再エンコードされる部分の最後に連続するBピクチャの数nを基に、エンコーダ27によるエンコード処理を制御する。エンコーダ27は、CPU20の制御に基づいて、エフェクト/スイッチ26から供給された、編集点で接続された映像素材データのエンコードを開始する。
ステップS32において、エンコーダ27は、エンコードするピクチャは、ディスプレイオーダで、最後からn+1番目のピクチャ、すなわち、図9におけるPピクチャ71に対応するピクチャであるか否かを判断する。ステップS32において、最後からn+1番目のピクチャであると判断された場合、処理は、後述するステップS35に進む。
ステップS32において、最後からn+1番目のピクチャではないと判断された場合、ステップS33において、エンコーダ27は、エンコードするピクチャは、ディスプレイオーダで、最後からn番目以降のピクチャ、すなわち、図9におけるBピクチャ72またはBピクチャ73に対応するピクチャであるか否かを判断する。ステップS33において、エンコードするピクチャは、最後からn番目以降のピクチャであると判断された場合、処理は、後述するステップS38に進む。
ステップS33において、エンコードするピクチャは、最後からn番目以降のピクチャではないと判断された場合、すなわち、エンコードするピクチャが、最後からn+2番目以前のピクチャ(図9におけるPピクチャ71より時間的に前のピクチャ)であると判断された場合、ステップS34において、エンコーダ27は、エンコードするピクチャのピクチャタイプを通常のアルゴリズムにしたがって設定し、処理は、後述するステップS39に進む。
ステップS32において、エンコードするピクチャは、最後からn+1番目のピクチャ、すなわち、図9におけるPピクチャ71に対応するピクチャであると判断された場合、ステップS35において、エンコーダ27は、エンコードするピクチャは、圧縮符号化された映像素材2のデータにおいて、Iピクチャであったか否かを判断する。
ステップS35において、エンコードするピクチャは、圧縮符号化された映像素材2のデータにおいて、Iピクチャであったと判断された場合、ステップS36において、エンコーダ27は、エンコードするピクチャのピクチャタイプをIピクチャに設定し、処理は、後述するステップS39に進む。
ステップS35において、エンコードするピクチャは、圧縮符号化された映像素材2のデータにおいて、Iピクチャではなかった、すなわち、Pピクチャであったと判断された場合、ステップS37において、エンコーダ27は、エンコードするピクチャのピクチャタイプをPピクチャに設定し、処理は、後述するステップS39に進む。
ステップS33において、エンコードするピクチャは、最後からn番目以降のピクチャすなわち、図9におけるBピクチャ72またはBピクチャ73に対応するピクチャであると判断された場合、ステップS38において、エンコーダ27は、エンコードするピクチャのピクチャタイプをBピクチャに設定する。
ステップS34、ステップS36、ステップS37、または、ステップS38の処理の終了後、ステップS39において、エンコーダ27は、最後のピクチャの処理が終了したか否かを判断する。
ステップS39において、最後のピクチャの処理が終了していないと判断された場合、処理は、ステップS32に戻り、それ以降の処理が繰り返される。ステップS39において、最後のピクチャの処理が終了したと判断された場合、処理は終了される。
このような処理により、LongGOPのOpenGOPの圧縮素材映像のうちの編集点付近のデータをデコードし、編集点で接続して再エンコードした後、再エンコードされていない圧縮素材映像データと接続して編集したときに、VBVバッファが破綻することがないようにするために、再エンコード時のピクチャタイプを決定することが可能となる。
次に、図14のフローチャートを参照して、再エンコード実行(図12のステップS7の処理)時におけるVBVバッファ制御処理について説明する。
ステップS61において、CPU20は、再エンコードしない部分の圧縮素材映像2の最初のIピクチャ、すなわち、図11においてBで示される部分の発生符号量の情報を取得する。
ステップS62において、CPU20は、再エンコードしない部分の圧縮素材映像2の最初のIピクチャ、および、次のIピクチャまたはPピクチャのOccupancyの情報、すなわち、図11においてBおよびCで示されるピクチャのOccupancyの情報を取得する。CPU20は、ステップS61およびステップS62において取得した情報を基に、エンコーダ27によるエンコード処理を制御する。エンコーダ27は、CPU20の制御に基づいて、エフェクト/スイッチ26から供給された、編集点で接続された映像素材データのエンコードを開始する。
ステップS63において、エンコーダ27は、エンコードするピクチャは、コーディングオーダで、最後から(n+1)番目以降のピクチャ、すなわち、図10におけるIピクチャ47、Bピクチャ72またはBピクチャ73のうちのいずれかに対応するピクチャであるか否かを判断する。
ステップS63において、エンコードするピクチャは、コーディングオーダで、最後から(n+1)番目以降のピクチャではないと判断された場合、ステップS64において、エンコーダ27は、再エンコードしない部分の圧縮素材映像2の最初のIピクチャのOccupancyが編集前後で変化しないように、すなわち、図11のBで示されるピクチャのOccupancyと、Fで示されるピクチャのOccupancyとが、編集前後で変化しないように、エンコードを実行し、処理は、後述するステップS66に進む。
ステップS63において、エンコードするピクチャは、コーディングオーダで、最後から(n+1)番目以降のピクチャであると判断された場合、ステップS65において、エンコーダ27は、再エンコードしない部分の圧縮素材映像2の最初のIピクチャの発生符号量を用いて、再エンコードしない部分の圧縮素材映像2の最初のIピクチャの次のIピクチャまたはPピクチャのOccupancyが編集前後で変化しないように、すなわち、図11のIに示されるOccupancyと、Jで示されるOccupancyとが、編集前後で変化しないように、エンコードにおけるOccupancyを計算し、発生符号量の割り当てを行う。
ステップS64またはステップS65の処理の終了後、ステップS66において、エンコーダ27は、ステップS64またはステップS65の処理による発生符号量の割り当てに基づいて、VBVバッファを更新する。
ステップS67において、エンコーダ27は、最後のピクチャの処理が終了したか否かを判断する。
ステップS67において、最後のピクチャの処理が終了していないと判断された場合、処理は、ステップS63に戻り、それ以降の処理が繰り返される。ステップS67において、最後のピクチャの処理が終了したと判断された場合、処理は終了される。
このような処理により、LongGOPのOpenGOPの圧縮素材映像のうちの編集点付近のデータをデコードし、編集点で接続して再エンコードした後、再エンコードされていない圧縮素材映像データと接続して編集するときに、VBVバッファを破綻させないように、発生符号量を制御することが可能となる。
次に、図15のフローチャートを参照して、図12のステップS8において実行される接続処理について説明する。
ステップS91において、ストリームスプライサ25は、PCIブリッジ17から供給された、再エンコードしない部分の圧縮素材映像1のデータ、すなわち、図9における場合では、ディスプレイオーダにおいて時間的にPピクチャ46以前となるピクチャのデータを取得する。
ステップS92において、ストリームスプライサ25は、エンコーダ27から供給された、再エンコードされた編集点付近の圧縮映像データ、すなわち、図9における場合では、ディスプレイオーダにおいてPピクチャ41乃至Iピクチャ74に対応するピクチャを取得する。
ステップS93において、ストリームスプライサ25は、再エンコードされた編集点付近の圧縮映像データのうち、エンコードの参照のためにエンコードされた部分すなわち、図9における場合では、Pピクチャ41およびIピクチャ74に対応するピクチャを破棄し、再エンコードしない部分の圧縮素材映像1のデータと、再エンコードされた圧縮映像データを接続する。すなわち、図9における場合では、ストリームスプライサ25は、Pピクチャ46とBピクチャ42とがディスプレイオーダで連続するように接続する。
ステップS94において、ストリームスプライサ25は、PCIブリッジ17から供給された、再エンコードしない部分の圧縮素材映像2のデータ、すなわち、図9における場合では、ディスプレイオーダにおいて時間的にIピクチャ47以降となるピクチャのデータを取得する。
ステップS95において、ストリームスプライサ25は、再エンコードされた編集点付近の圧縮映像データのうち、コーディングオーダで最後からn+1番目のピクチャ、すなわち、図10における場合では、B12ピクチャ81に対応するピクチャの次に、再エンコードしない部分の圧縮素材映像2のコーディングオーダで最初のIピクチャ、すなわち、図10における場合では、I2ピクチャ47に対応するピクチャを接続する
ステップS96において、ストリームスプライサ25は、再エンコードしない部分の圧縮素材映像2のコーディングオーダで最初のIピクチャ、すなわち、図10における場合では、I2ピクチャ47に対応するピクチャに、再エンコードされた編集点付近の圧縮映像データの最後からn枚のBピクチャ、すなわち、図10における場合では、B0ピクチャ72およびB1ピクチャ73を接続する。
そして、ステップS97において、ストリームスプライサ25は、再エンコードされた編集点付近の圧縮映像データの最後のBピクチャ、すなわち、図10における場合では、B1ピクチャ73の次に、再エンコードしない部分の圧縮素材映像2の2番目のIまたはPピクチャ、すなわち、図10における場合では、P5ピクチャ82を接続し、処理は、図12のステップS8にもどり、処理が終了される。
このような処理により、LongGOPのOpenGOPの圧縮素材映像を編集するときに、VBVバッファを破綻させないように、発生符号量が制御され、再エンコード時のピクチャタイプが決定された再エンコード部分の圧縮符号化データと、再エンコードされていない部分の圧縮符号化データとを接続することが可能となる。
このように、本発明を適用することにより、Long GOPのOpen GOP方式で圧縮された映像素材を、部分的にデコード、再エンコードする方法の編集において、圧縮方法に制約をつける必要なく、VBV Bufferの制約を満たすことができる。
なお、ここでは、ディスプレイオーダで、最後からn+1番目のピクチャより後ろのピクチャのピクチャタイプが、編集前後で変更されないように制御されるものとして説明したが、再エンコードされる範囲の所定のIピクチャまたはPピクチャを含めてそれより後ろのピクチャのピクチャタイプが、編集前後で変更されないように制御された場合にも、本発明は適用可能である。
上述した一連の処理は、ソフトウェアにより実行することもできる。そのソフトウェアは、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。この場合、例えば、図4を用いて説明した編集装置1は、図16に示されるようなパーソナルコンピュータ301により構成される。
図16において、CPU(Central Processing Unit)311は、ROM(Read Only Memory)312に記憶されているプログラム、または記憶部318からRAM(Random Access Memory)313にロードされたプログラムにしたがって、各種の処理を実行する。RAM313にはまた、CPU311が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU311、ROM312、およびRAM313は、バス314を介して相互に接続されている。このバス314にはまた、入出力インタフェース315も接続されている。
入出力インタフェース315には、キーボード、マウスなどよりなる入力部316、ディスプレイやスピーカなどよりなる出力部317、ハードディスクなどより構成される記憶部318、モデム、ターミナルアダプタなどより構成される通信部319が接続されている。通信部319は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インタフェース315にはまた、必要に応じてドライブ320が接続され、磁気ディスク331、光ディスク332、光磁気ディスク333、もしくは、半導体メモリ334などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部318にインストールされる。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
この記録媒体は、図16に示されるように、装置本体とは別に、ユーザにプログラムを供給するために配布される、プログラムが記憶されている磁気ディスク331(フロッピディスクを含む)、光ディスク332(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク333(MD(Mini-Disk)(商標)を含む)、もしくは半導体メモリ334などよりなるパッケージメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに供給される、プログラムが記憶されているROM312や、記憶部318に含まれるハードディスクなどで構成される。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
なお、上述の実施の形態においては、編集装置1が、それぞれ、デコーダとエンコーダを有しているものとして説明したが、デコーダおよびエンコーダが、それぞれ、独立した装置として構成されている場合においても、本発明は適用可能である。例えば、図17に示されるように、ストリームデータを復号してベースバンド信号に変換する復号装置371、ベースバンド信号を符号化してストリームデータに変換する符号化装置372が、それぞれ独立した装置として構成されていても良い。
このとき、復号装置371は、映像素材である圧縮符号化データを復号し、符号化装置372に供給するのみならず、本発明を適用することにより符号化装置372により部分的に符号化された後、編集されて生成された圧縮符号化データの供給を受け、復号処理を行い、ベースバンド信号に変換することができる。ベースバンド信号に変換された編集後のストリームは、例えば、所定の表示装置に供給されて表示されたり、他の装置に出力されて、必要な処理が施される。
さらに、上述の実施の形態においては、デコーダ22乃至24が、供給された圧縮符号化データを完全にデコードせず、対応するエンコーダ27が、非完全に復号されたデータの対応する部分を部分的にエンコードする場合においても、本発明は適用可能である。
例えば、デコーダ22乃至24が、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していなかった場合、エンコーダ27は、量子化および可変長符号化処理を行うが、DCT変換処理は行わない。このような部分的な符号化(中途段階からの符号化)を行うエンコーダにおいても、本発明を適用することができるのは言うまでもない。
さらに、上述の実施の形態においては、デコーダ22乃至24が完全に復号したベースバンド信号を、エンコーダ27が中途段階まで符号化する場合(例えば、DCT変換および量子化を行うが可変長符号化処理を行わないなど)や、デコーダ22乃至24が完全に復号していない(例えば、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していない)ため、中途段階まで符号化されているデータに対して、エンコーダ27が更に中途段階まで符号化する場合など(例えば、量子化を行うが可変長符号化処理を行わないなど)においても、本発明は適用可能である。
更に、図17に示される復号装置371が、供給されたストリームデータを完全に復号せず、対応する符号化装置372が、非完全に復号されたデータの対応する部分を部分的に符号化する場合においても、本発明は適用可能である。
例えば、復号装置371が、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していなかった場合、符号化装置372は、量子化および可変長符号化処理を行うが、DCT変換処理は行わない。このような部分的な復号処理(中途段階までの復号)を行う復号装置371のデコード処理、および、符号化(中途段階からの符号化)を行う符号化装置372のエンコード処理において、本発明を適用することができるのは言うまでもない。
更に、復号装置371が完全に復号したベースバンド信号を、符号化装置372が中途段階まで符号化する場合(例えば、DCT変換および量子化を行うが可変長符号化処理を行わないなど)や、復号装置371が完全に復号していない(例えば、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していない)ため、中途段階まで符号化されているデータに対して、符号化装置372が更に中途段階まで符号化する場合など(例えば、量子化を行うが可変長符号化処理を行わないなど)においても、本発明は適用可能である。
更に、このような部分的な復号を行う(復号処理の工程のうちの一部を実行する)符号化装置351と部分的な符号化を行う(符号化処理の工程のうちの一部を実行する)符号化装置372で構成されたトランスコーダ381においても、本発明は適用可能である。このようなトランスコーダ381は、例えば、スプライシングなどの編集を行う編集装置382、すなわち、上述した編集装置1のストリームスプライサ25やエフェクト/スイッチ26が実行可能な機能を有する編集装置が利用される場合などに用いられる。
さらに、上述の実施の形態においては、CPU11およびCPU20がそれぞれ別の形態で構成されているが、これに限らず、編集装置1全体を制御する1つのCPUとして構成する形態も考えられる。同様に、上述の実施の形態においては、メモリ13およびメモリ21がそれぞれ別の形態で構成されているが、これに限らず、編集装置1において1つのメモリとして構成する形態も考えられる。
さらに、上述の実施の形態においては、HDD16、デコーダ22乃至24、ストリームスプライサ25、エフェクト/スイッチ26、および、エンコーダ27を、それぞれ、ブリッジおよびバスを介して接続し、編集装置として一体化されている場合について述べたが、本発明はこれに限らず、例えば、これらの構成要素のうちの一部が、外部から有線または無線で接続されるようにしても良いし、これらの構成要素は、この他、種々の接続形態で相互に接続されるようにしてもよい。
さらに、上述の実施の形態においては、圧縮された編集用の素材がHDDに記憶されている場合について述べたが、本発明はこれに限らず、例えば、光ディスク、光磁気ディスク、半導体メモリ、磁気ディスク等の種々の記録媒体に記録された編集用の素材を用いて編集処理を行う場合にも適用することができる。
さらに、上述の実施の形態においては、デコーダ22乃至24、ストリームスプライサ25、エフェクト/スイッチ26、および、エンコーダ27は、同一の拡張カード(例えば、PCIカード、PCI−Expressカード)に搭載する形態に限らず、例えばPCI−Expressなどの技術によりカード間の転送速度が高い場合には、それぞれ別の拡張カードに搭載してもよい。
本発明は、MPEG方式による情報処理装置の他、これに類似する符号化又は復号化のアルゴリズムを有する方式の情報処理装置に適用することができる。
編集と部分再エンコードについて説明するための図である。 ClosedGOPでの編集と部分再エンコードについて説明するための図である。 ClosedGOPでの編集と部分再エンコードについて、ディスプレイオーダにおけるピクチャの並びを説明するための図である。 本発明を適用した編集装置1の構成を示すブロック図である。 図4の編集装置1において実行可能な部分再エンコードおよび編集処理について説明するための図である。 図5の部分再エンコードおよび編集処理について、ディスプレイオーダにおけるピクチャの並びを説明するための図である。 図5の部分再エンコードおよび編集処理を実行した場合のVBVバッファについて説明するための図である。 図5の部分再エンコードおよび編集処理を実行した場合に、VBVバッファが破綻してしまう場合について説明するための図である。 VBVバッファを考慮した部分再エンコードおよび編集処理について説明するための図である。 図9の部分再エンコードおよび編集処理について、ディスプレイオーダにおけるピクチャの並びを説明するための図である。 図9の部分再エンコードおよび編集処理を実行した場合のVBVバッファについて説明するための図である。 編集処理について説明するためのフローチャートである。 ピクチャタイプ決定処理について説明するためのフローチャートである。 VBVバッファ制御処理について説明するためのフローチャートである。 接続処理について説明するためのフローチャートである。 パーソナルコンピュータの構成を示すブロック図である。 本発明を適用可能な異なる装置の構成について説明するための図である。
符号の説明
1 編集装置, 11 CPU, 16 HDD, 20 CPU, 22乃至24 デコーダ, 25 ストリームスプライサ, 26 エフェクト/スイッチ, 27 エンコーダ

Claims (15)

  1. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置において、
    前記第1の符号化ストリームおよび前記第2の符号化ストリームのうちの編集点付近の所定区間をデコードするデコード手段と、
    前記第1の符号化ストリームが前記デコード手段によりデコードされて生成された第1の画像データと、前記第2の符号化ストリームが前記デコード手段によりデコードされて生成された第2の画像データとを、前記編集点で接続し、第3の画像データを生成する接続手段と、
    前記接続手段により接続されて生成された前記第3の画像データをエンコードして、再符号化ストリームを生成するエンコード手段と、
    前記編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、前記デコード手段によりデコードされる前記所定区間を決定し、前記編集点付近以外の所定区間の第1の符号化ストリームおよび前記編集点付近以外の所定区間の第2の符号化ストリームと前記再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記エンコード手段によるエンコード処理を制御する制御手段と、
    前記編集符号化ストリームを生成する編集符号化ストリーム生成手段
    を備えことを特徴とする情報処理装置。
  2. 前記制御手段は、前記再符号化ストリームのうち、ディスプレイオーダで最も時間的に後ろに位置するIピクチャ、またはPピクチャより後ろのピクチャのピクチャタイプが、そのピクチャとディスプレイオーダでの時間的な位置の対応する前記第2の符号化ストリームのピクチャのピクチャタイプから変更されないように、前記エンコード手段によるエンコード処理を制御する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記制御手段は、前記のピクチャのオキュパンシに関する情報を取得する
    ことを特徴とする請求項1に記載の情報処理装置。
  4. 前記制御手段は、前記第1のピクチャの発生符号量の情報を取得する
    ことを特徴とする請求項1に記載の情報処理装置。
  5. 前記制御手段は、
    コーディングオーダで、前記再符号化ストリームのうち、最後に連続するBピクチャの前に、前記第1のピクチャが配置されるように、前記編集符号化ストリーム生成手段による前記編集符号化ストリームの生成を制御する
    ことを特徴とする請求項1に記載の情報処理装置。
  6. 前記制御手段は、
    前記編集点付近以外の所定区間の第2の符号化ストリーム内の前記第1のピクチャのオキュパンシが、前記編集符号化ストリーム内の前記第1のピクチャのオキュパンシと同一になるように、前記エンコード手段によるエンコード処理を制御する
    ことを特徴とする請求項1に記載の情報処理装置。
  7. 前記エンコード手段は、MPEG方式で前記第3の画像データをエンコードする
    ことを特徴とする請求項1に記載の情報処理装置。
  8. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置の情報処理方法において、
    編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、前記第1の符号化ストリームおよび前記第2の符号化ストリームのうちの前記編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップと、
    前記デコード制御ステップの処理によりデコードが制御されて前記第1の符号化ストリームから生成された第1の画像データと、前記デコード制御ステップの処理によりデコードが制御されて前記第2の符号化ストリームから生成された第2の画像データとの、前記編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップと、
    前記編集点付近以外の所定区間の前記第1の符号化ストリームおよび前記編集点付近以外の所定区間の前記第2の符号化ストリームと、前記第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記第3の画像データのエンコードを制御して、前記再符号化ストリームの生成を制御するエンコード制御ステップと、
    前記編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップと
    を含むことを特徴とする情報処理方法。
  9. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理をコンピュータに実行させるためのプログラムであって、
    編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、前記第1の符号化ストリームおよび前記第2の符号化ストリームのうちの前記編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップと、
    前記デコード制御ステップの処理によりデコードが制御されて前記第1の符号化ストリームから生成された第1の画像データと、前記デコード制御ステップの処理によりデコードが制御されて前記第2の符号化ストリームから生成された第2の画像データとの、前記編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップと、
    前記編集点付近以外の所定区間の前記第1の符号化ストリームおよび前記編集点付近以外の所定区間の前記第2の符号化ストリームと、前記第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記第3の画像データのエンコードを制御して、前記再符号化ストリームの生成を制御するエンコード制御ステップと、
    前記編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップと
    を含むことを特徴とする処理をコンピュータに実行させるための、コンピュータが読み取り可能なプログラムが記録されている記録媒体。
  10. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理をコンピュータに実行させるためのプログラムであって、
    編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、前記第1の符号化ストリームおよび前記第2の符号化ストリームのうちの前記編集点付近の所定区間を決定し、その所定区間のデコードを制御するデコード制御ステップと、
    前記デコード制御ステップの処理によりデコードが制御されて前記第1の符号化ストリームから生成された第1の画像データと、前記デコード制御ステップの処理によりデコードが制御されて前記第2の符号化ストリームから生成された第2の画像データとの、前記編集点における接続を制御し、第3の画像データの生成を制御する接続制御ステップと、
    前記編集点付近以外の所定区間の前記第1の符号化ストリームおよび前記編集点付近以外の所定区間の前記第2の符号化ストリームと、前記第3の画像データをエンコードした結果得られる再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記第3の画像データのエンコードを制御して、前記再符号化ストリームの生成を制御するエンコード制御ステップと、
    前記編集符号化ストリームの生成を制御する編集符号化ストリーム生成制御ステップと
    を含むことを特徴とする処理をコンピュータに実行させるためのプログラム。
  11. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置において、
    前記第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、前記第2の符号化ストリームが前記編集点付近の所定区間でデコードされて生成された第2の画像データとが、前記編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコード手段と、
    前記編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる前記所定区間を決定し、前記編集点付近以外の所定区間の第1の符号化ストリームおよび前記編集点付近以外の所定区間の第2の符号化ストリームと前記再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記エンコード手段によるエンコード処理を制御する制御手段と
    を備えることを特徴とする情報処理装置。
  12. 前記編集符号化ストリームを生成する編集符号化ストリーム生成手段を更に備え、
    前記制御手段は、前記編集符号化ストリーム生成手段を更に制御する
    ことを特徴とする請求項11に記載の情報処理装置。
  13. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理を実行する情報処理装置の情報処理方法において、
    前記第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、前記第2の符号化ストリームが前記編集点付近の所定区間でデコードされて生成された第2の画像データとが、前記編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップと、
    前記編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる前記所定区間を決定し、前記編集点付近以外の所定区間の第1の符号化ストリームおよび前記編集点付近以外の所定区間の第2の符号化ストリームと前記再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記エンコードステップにおけるエンコード処理を制御する制御ステップと
    を含むことを特徴とする情報処理方法。
  14. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理をコンピュータに実行させるためのプログラムであって、
    前記第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、前記第2の符号化ストリームが前記編集点付近の所定区間でデコードされて生成された第2の画像データとが、前記編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップと、
    前記編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる前記所定区間を決定し、前記編集点付近以外の所定区間の第1の符号化ストリームおよび前記編集点付近以外の所定区間の第2の符号化ストリームと前記再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記エンコードステップにおけるエンコード処理を制御する制御ステップと
    を含むことを特徴とする処理をコンピュータに実行させるための、コンピュータが読み取り可能なプログラムが記録されている記録媒体。
  15. 第1の符号化ストリームと第2の符号化ストリームとを接続して編集する処理をコンピュータに実行させるためのプログラムであって、
    前記第1の符号化ストリームが編集点付近の所定区間でデコードされて生成された第1の画像データと、前記第2の符号化ストリームが前記編集点付近の所定区間でデコードされて生成された第2の画像データとが、前記編集点で接続されて生成された第3の画像データを、エンコードして再符号化ストリームを生成するエンコードステップと、
    前記編集点付近以外の所定区間の第2の符号化ストリームのコーディングオーダで時間的に先頭に位置する第1のピクチャがIピクチャとなるように、デコードされる前記所定区間を決定し、前記編集点付近以外の所定区間の第1の符号化ストリームおよび前記編集点付近以外の所定区間の第2の符号化ストリームと前記再符号化ストリームとを接続して生成された編集符号化ストリームのうちコーディングオーダで時間的に前記第1のピクチャの次に位置するIピクチャまたはPピクチャである第2のピクチャのオキュパンシが、前記編集点付近以外の所定区間の第2の符号化ストリームのうちコーディングオーダで時間的に2番目に位置するIピクチャまたはPピクチャである第3のピクチャのオキュパンシと一致するように、前記エンコードステップにおけるエンコード処理を制御する制御ステップと
    を含むことを特徴とする処理をコンピュータに実行させるためのプログラム。
JP2004245373A 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム Expired - Fee Related JP4221667B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2004245373A JP4221667B2 (ja) 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
US11/207,899 US7539347B2 (en) 2004-08-25 2005-08-22 Information processing apparatus and information processing method, recording medium, and program
KR20050078497A KR101119685B1 (ko) 2004-08-25 2005-08-25 정보 처리 장치, 정보 처리 방법, 및 기록 매체
CN200510129140XA CN1767648B (zh) 2004-08-25 2005-08-25 信息处理设备和信息处理方法、记录介质、以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004245373A JP4221667B2 (ja) 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム

Publications (2)

Publication Number Publication Date
JP2006067095A JP2006067095A (ja) 2006-03-09
JP4221667B2 true JP4221667B2 (ja) 2009-02-12

Family

ID=35943222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004245373A Expired - Fee Related JP4221667B2 (ja) 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム

Country Status (4)

Country Link
US (1) US7539347B2 (ja)
JP (1) JP4221667B2 (ja)
KR (1) KR101119685B1 (ja)
CN (1) CN1767648B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4791129B2 (ja) * 2005-10-03 2011-10-12 ルネサスエレクトロニクス株式会社 画像符号化装置、画像符号化方法及び画像編集装置
JP4207072B2 (ja) 2006-04-07 2009-01-14 ソニー株式会社 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP4229149B2 (ja) * 2006-07-13 2009-02-25 ソニー株式会社 ビデオ信号処理装置およびビデオ信号処理方法、ビデオ信号符号化装置およびビデオ信号符号化方法、並びにプログラム
JP4221676B2 (ja) 2006-09-05 2009-02-12 ソニー株式会社 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2008066851A (ja) * 2006-09-05 2008-03-21 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP5307545B2 (ja) * 2006-09-11 2013-10-02 パナソニック株式会社 画像復号化装置、画像復号化方法、画像復号化システム、及びシステムlsi
JP2009077105A (ja) * 2007-09-20 2009-04-09 Sony Corp 編集装置および編集方法、プログラム、並びに記録媒体
JP4575417B2 (ja) * 2007-11-09 2010-11-04 株式会社東芝 動画像再生装置
WO2011027507A1 (ja) * 2009-09-03 2011-03-10 日本電気株式会社 動画像符号化装置、動画像符号化方法および動画像符号化プログラム
DE112014003833T5 (de) * 2013-08-22 2016-05-25 Panasonic intellectual property Management co., Ltd Heizvorrichtung
EP3119098A4 (en) * 2014-03-11 2017-10-18 Sony Corporation Information processing device, information processing system and information processing method

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3755206B2 (ja) 1996-10-07 2006-03-15 ソニー株式会社 編集装置と編集方法
KR100604631B1 (ko) * 1997-07-25 2006-07-28 소니 가부시끼 가이샤 편집 장치, 편집 방법, 재부호화 장치, 재부호화 방법,스플라이싱 장치 및 스플라이싱 방법
EP0935395A2 (en) * 1998-02-06 1999-08-11 Sony Corporation Video encoding methods and apparatus
JPH11289541A (ja) 1998-02-06 1999-10-19 Sony Corp 動画像符号化方法、動画像符号化装置及び記録媒体
JP4487374B2 (ja) * 1999-06-01 2010-06-23 ソニー株式会社 符号化装置及び符号化方法並びに多重化装置及び多重化方法
JP3932546B2 (ja) * 2001-01-24 2007-06-20 日本電気株式会社 Mpegビデオ編集装置及びmpegビデオ編集方法
US7096488B1 (en) * 2001-10-19 2006-08-22 Cisco Technology, Inc. Methods and apparatus for facilitating network splicing

Also Published As

Publication number Publication date
US20060045467A1 (en) 2006-03-02
US7539347B2 (en) 2009-05-26
CN1767648B (zh) 2010-06-16
KR20060050664A (ko) 2006-05-19
JP2006067095A (ja) 2006-03-09
KR101119685B1 (ko) 2012-03-15
CN1767648A (zh) 2006-05-03

Similar Documents

Publication Publication Date Title
JP4221676B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP4088799B2 (ja) 編集装置および編集方法
CN101052127B (zh) 信息处理装置和信息处理方法
JP4221667B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP4342139B2 (ja) 信号処理装置
JP4174728B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP4743119B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
KR100834322B1 (ko) 이미지 인코딩 장치, 화상 인코딩 방법 및 이미지 편집장치
JP4492484B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP3182329B2 (ja) 符号化データ編集装置とデータ復号装置
KR100893806B1 (ko) 동화상 재부호화 장치, 동화상 편집 장치, 및 방법
JP4333522B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2008258858A (ja) 動画像符号化装置
JP2006067098A (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2008066846A (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2008066852A (ja) 情報処理装置および方法、記録媒体、並びにプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081105

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131128

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees