[go: up one dir, main page]

JP5166650B2 - 立体撮像装置、画像再生装置及び編集ソフトウエア - Google Patents

立体撮像装置、画像再生装置及び編集ソフトウエア Download PDF

Info

Publication number
JP5166650B2
JP5166650B2 JP2012508018A JP2012508018A JP5166650B2 JP 5166650 B2 JP5166650 B2 JP 5166650B2 JP 2012508018 A JP2012508018 A JP 2012508018A JP 2012508018 A JP2012508018 A JP 2012508018A JP 5166650 B2 JP5166650 B2 JP 5166650B2
Authority
JP
Japan
Prior art keywords
information
read
time
parallax images
series
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012508018A
Other languages
English (en)
Other versions
JPWO2011121837A1 (ja
Inventor
林  淳司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012508018A priority Critical patent/JP5166650B2/ja
Application granted granted Critical
Publication of JP5166650B2 publication Critical patent/JP5166650B2/ja
Publication of JPWO2011121837A1 publication Critical patent/JPWO2011121837A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • G03B35/10Stereoscopic photography by simultaneous recording having single camera with stereoscopic-base-defining system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/286Image signal generators having separate monoscopic and stereoscopic modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Camera Data Copying Or Recording (AREA)

Description

本開示内容は立体撮像装置に係り、特に互いに視差を有する複数の視差画像を撮像する立体撮像装置に関する。
特許文献1には、右眼用の撮影情報を得るためのCCDを有する第1レンズ鏡筒と、左眼用の撮影情報を得るためのCCDを有する第2レンズ鏡筒と、これら第1レンズ鏡筒と第2レンズ鏡筒の焦点距離を検出するカメラ検出回路と、各焦点距離における上記第1レンズ鏡筒と第2レンズ鏡筒のそれぞれの光軸中心のずれ量を予め記憶したEEPROM等からなるROMと、このROMからの出力に基づき各焦点距離における上記左右一対のCCDの内の少なくとも一方における画像切出しエリアを制御するCPUと、を備えた立体撮影装置が開示されている。
特許文献2には、ステレオカメラのレンズ特性に対して、レンズ中心を基準とする座標補正のための近似式を設定し、この近似式に基づいてカメラにより捉えた対象画像の投影座標を補正する画像処理装置が開示されている。
一方、特許文献3には、複数の撮像素子を用いて高精細な撮像を行い、それらの各撮像出力に対してデジタル画像にした後、画像分割回路で複数の画像領域に分割し、各画像領域に対して並列に画像処理を行うことにより、高精細な画像の場合においても動画レートで高速の画像処理ができる画像処理装置が開示されている。
特開平8−8−317424号公報 特開2004−126905号公報 特開2002−247593号公報
特許文献1には、2つの撮影レンズ間の個体差による光軸ずれを、画像切り出しエリアを変更することにより、立体視に好適な左右視点画像を生成する技術が開示され、また、特許文献2には、レンズ歪による画像の歪を補正する技術が開示されている。
静止画の撮影時には、撮影レンズ間の個体差による光軸ずれを補正するための画像切り出し処理やレンズ歪による画像の歪補正処理は、撮影後、メモリカードへの書き込みまでの間に行えばよい。しかし、動画の撮影時には、リアルタイムにメモリカードに書き込む必要がある。ところが、撮像処理、画像処理及び圧縮処理が集中する動画撮影時には、負荷の重いレンズ歪補正処理を動画で行うことは難しく、特に高精細(HD)な動画を高フレームレートで撮影記録する場合には困難である。
特許文献3には、高精細な画像の場合においても動画レートで高速の画像処理ができる画像処理装置が開示されているが、引用文献3に記載の画像処理装置は、処理領域を分割して並列処理するため、回路構成が複雑になり、高価になる。また、特許文献3に記載の画像処理は、シェーディング補正であり、計算が複雑な画像の歪補正処理ではなく、更に3次元(3D)動画に対する処理ではない。
本開示内容はこのような事情に鑑みてなされたもので、高精細な3D動画を高フレームレートで撮影記録することができ、かつ負荷の重いレンズ歪等の収差の補正処理が可能な立体撮像装置と、その立体撮像装置により撮影された3D動画の画像再生装置及び編集ソフトウエアを提供することを目的とする。
前記目的を達成するために第1の態様に係る立体撮像装置は、撮影光学系と該撮影光学系を介して結像される被写体像をそれぞれ光電変換する撮像素子とを有する複数の撮像部であって、互いに視差を有する視差画像を撮像する複数の撮像部と、各撮影光学系の光軸中心位置及び切り出しサイズ、又は各撮影光学系の光軸中心位置を中心にした切り出しエリアを示す第1の情報と、各撮影光学系の収差を示す第2の情報とが記憶された記憶部と、前記複数の撮像部から立体動画となる時系列の複数の視差画像を出力させる撮像制御部と、動画撮影時に前記複数の撮像部から出力される時系列の複数の視差画像を記録媒体に記録するとともに、前記記憶部から読み出した前記第1の情報及び第2の情報を前記複数の視差画像に関連付けて前記記録媒体に記録する記録部と、を備える。
前記第1の情報は、製品出荷前に予め複数の撮像部の各撮影光学系の検査により取得された、各撮影光学系の光軸中心のずれ量を補正するための情報であり、各撮影光学系の光軸中心位置及び切り出しサイズを示す情報、又は各撮影光学系の光軸中心位置を中心にした切り出しエリア(例えば、切り出しエリアの対角の位置座標)を示す情報である。また、前記第2の情報も同様に製品出荷前に予め複数の撮像部の各撮影光学系の検査により取得された情報であり、各撮影光学系のディストーション、色収差等の収差を示す情報である。これらの第1、第2の情報は、予めEEPROM等の不揮発性の記憶部に記憶されている。
第1の態様に係る立体撮像装置は、前記第1の情報と第2の情報とを、動画撮影した時系列の複数の視差画像(3D動画)に関連付けて記録し、動画撮影中にレンズ歪補正等の重い処理を行わないようにし、これにより高精細な3D動画を高フレームレートで撮影記録できるようにしている。
第2の態様によれば、第1の態様に係る立体撮像装置において、前記第1の情報は、前記撮影光学系の収差を補正する前の視差画像、又は収差を補正した後の視差画像に対する情報である。即ち、前記第1の情報は、撮影光学系の収差に対応する補正処理がされる前の視差画像(収差を含む視差画像)を前提にした情報でもよいし、撮影光学系の収差に対応する補正処理がされた視差画像(収差のない視差画像)を前提にした情報でもよい。
第3の態様によれば、第1の態様又は第2の態様に係る立体撮像装置は、前記複数の撮像部から出力される複数の視差画像間の視差量を調整する視差量調整部を更に備え、前記記録部は、前記視差量調整部により調整された視差量を示す第3の情報を前記複数の視差画像に関連付けて前記記録媒体に記録する。前記第3の情報は、複数の視差画像間の左右方向のずらし量を示す情報であり、視差の強弱を調整するための情報である。
第4の態様によれば、第1の態様から第3の態様のいずれかに係る立体撮像装置において、前記撮影光学系はズームレンズであり、前記記憶部は、前記ズームレンズのズーム位置毎に前記第1の情報及び第2の情報を記憶し、前記記録部は、前記記憶部に記憶された前記ズーム位置毎の第1の情報及び第2の情報の全情報と動画撮影時の前記ズームレンズの時系列のズーム位置を示す情報、又は動画撮影時の前記ズームレンズのズーム位置に基づいて前記記憶部から読み出した時系列の前記第1の情報及び第2の情報を、前記複数の視差画像に関連付けて前記記録媒体に記録する。
複数の撮影光学系の光軸中心のずれをメカ的(機械的)に調整することは難しく、特にズームレンズの全ズーム範囲において光軸中心のずれを調整するには限界がある。また、複数の撮影光学系の収差は、そのズーム位置に応じて変化する。そこで、前記記憶部には、ズームレンズのズーム位置毎に前記第1の情報及び第2の情報を記憶させておき、動画撮影時にズーム位置毎の第1の情報及び第2の情報の全情報と、時系列のズームレンズのズーム位置を示す情報とを3D動画に関連付けて記録し、又は動画撮影時のズームレンズのズーム位置に基づいて前記記憶部から読み出した時系列の第1の情報及び第2の情報を3D動画に関連付けて記録するようにしている。
第5の態様によれば、第1の態様、第2の態様又は第4の態様に係る立体撮像装置は、前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出部と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、前記画像処理部により生成された時系列の複数の視差画像を、装置内の立体表示部又は外部の立体表示部に出力する出力部と、をさらに備える。
第5の態様に係る立体撮像装置は、再生時に前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出し、前記読み出した時系列の複数の視差画像を第1の情報に基づいて立体表示用の視差画像として切り出すことにより、複数の視差画像の光軸ずれを補正し、また、前記第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成し、光軸ずれが補正され、かつ収差が補正された時系列の複数の視差画像(3D動画)を装置内の立体表示部又は外部の立体表示部に出力するようにしている。
尚、動画再生時には、動画撮影時に比べて動画撮影処理や伸張処理よりも時間を要する圧縮記録処理がないため、上記収差等の補正処理を行いながら3D動画を表示させることができる。
第6の態様によれば、第3の態様に係る立体撮像装置は、前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報及び第3の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、前記画像処理部により生成された時系列の複数の視差画像を、装置内の立体表示部又は外部の立体表示部に出力する出力部と、をさらに備える。
第6の態様に係る立体撮像装置は、更に、前記第3の情報に基づいて3D動画の視差量を調整して出力する点で、第5の態様に係る立体撮像装置と相違する。
第7の態様によれば、第3の態様に係る立体撮像装置は、前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいて画像ずらして装置内の立体表示部又は外部の立体表示部に出力する出力部と、をさらに備える。
第7の態様に係る立体撮像装置は、前記第3の情報を複数の視差画像の画像ずらしに使用する点(立体表示時のオフセット量として使用する点)で、第6の態様に係る立体撮像装置と相違する。
第8の態様によれば、第5から第7の態様のいずれかに係る立体撮像装置は、前記出力部の代わりに、又は前記出力部とともに前記画像処理部により生成された時系列の複数の視差画像を前記記録媒体に記録する記録部をさらに備える。
即ち、第8の態様に係る立体撮像装置は、前記画像処理部により収差等の処理済みの3D動画を前記記録媒体に記録するようにしている。このとき、未処理の3D動画に代えて処理済みの3D動画を記録するようにしてもよいし、未処理の3D画像とは別に処理済みの3D動画を記録するようにしてもよい。
第9の態様に係る画像再生装置は、第1、第2又は第4の態様に係る立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出部と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、前記画像処理部により生成された時系列の複数の視差画像に基づいて立体動画を表示する立体表示部と、を備える。
第10の態様に係る画像再生装置は、第3の態様に係る立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報及び第3の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、前記画像処理部により生成された時系列の複数の視差画像に基づいて立体動画を表示する立体表示部と、を備える。
第11の態様に係る画像再生装置は、第3の態様に係る立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいて画像ずらして立体動画を表示する立体表示部と、を備える。
即ち、第9、第10又は第11の態様に係る画像再生装置は、前記記録媒体から収差等の補正処理が施されていない未処理の3D動画と、それに関連付けられて記録された第1、2の情報、又は第1、第2、第3の情報とを読み出し、未処理の3D動画を補正処理して立体表示部に出力するようにしたため、光軸ずれやレンズ歪等が補正処理された3D動画を再生することができる。
第12の態様に係る編集ソフトウエアは、第1、第2又は第4の態様に係る立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出機能と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、前記生成された時系列の複数の視差画像を記録媒体に記録する記録機能と、をコンピュータにより実現させる。
第13の態様に係る編集ソフトウエアは、第3の態様に係る立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出機能と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報及び第3の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、前記生成された時系列の複数の視差画像を記録媒体に記録する記録機能と、をコンピュータにより実現させる。
第14の態様に係る編集ソフトウエアは、第3の態様に係る立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出機能と、前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいて画像ずらして装置内の立体表示部又は外部の立体表示部に出力する出力機能と、をコンピュータにより実現させる。
これにより、再生時に光軸ずれやレンズ歪等の補正処理を行わずに済み、再生処理を簡略化することができ、また、リアルタイムに補正処理する必要がないため、高性能なコンピュータでなくても補正処理が可能である。
本開示内容によれば、負荷の重いレンズ歪等の収差の補正処理が行われていない3D動画と、その3D動画に関連付けて前記補正処理に必要な情報とを記録媒体に記録するようにしている。従って、動画撮影時に負荷の重い補正処理を行わずに済み、これにより高精細な3D動画を高フレームレートで撮影記録することができる。
また、3D動画の再生時又は変換時に、前記記録媒体から読み出した未処理の3D動画とそれに関連付けて記録された補正処理用の情報とに基づいて光軸ずれやレンズ歪等の補正処理を行うようにしている。これにより、立体視に適した高品質の3D動画の再生又は変換を行うことができる。
図1Aは、本開示内容に係る立体撮像装置の外観を示す図(その1)である。 図1Bは、本開示内容に係る立体撮像装置の外観を示す図(その2)である。 図2は、本開示内容に係る立体撮像装置の実施形態を示すブロック図である。 図3は、本開示内容に係る立体撮像装置の3D動画撮影時の動作を示すフローチャートである。 図4は、出荷前の検査で取得したカメラ固有の補正パラメータの一例を示す図表である。 図5は、ズームポジションがワイド端のときの左右の全画角の画像と画像切り出しエリアとの関係を示す図である。 図6は、ズームポジションがテレ側に移動したときの左右の全画角の画像と画像切り出しエリアとの関係を示す図である。 図7は、3D動画を記録する記録ファイルのファイル構造の一例を示す図である。 図8は、本開示内容に係る立体撮像装置の3D動画の再生時の動作を示すフローチャートである。 図9Aは、左右の撮影光学系の光軸ずれ等を補正するための画像の切り出しを説明する図である(その1)。 図9Bは、左右の撮影光学系の光軸ずれ等を補正するための画像の切り出しを説明する図である(その2)。 図9Cは、左右の撮影光学系の光軸ずれ等を補正するための画像の切り出しを説明する図である(その3)。 図10は、本開示内容に係る立体撮像装置による3D動画の変換処理を示すフローチャートである。
以下、添付図面に従って本開示内容に係る立体撮像装置の実施の形態について説明する。
[立体撮像装置の外観]
図1A及び1Bは本開示内容に係る立体撮像装置の外観を示す図であり、図1Aは立体撮像装置を前面側から見た斜視図であり、図1Bは背面図である。
この立体撮像装置(複眼カメラ)10は、2D/3Dの静止画、及び2D/3Dの動画の記録再生が可能なデジタルカメラであり、図1A及び1Bに示すように薄型の直方体状のカメラ本体の上面には、シャッタボタン11、ズームボタン12が配設されている。
カメラ本体の前面には、カメラ本体の左右方向の幅と略一の幅を有するレンズバリア13が、カメラ本体の上下方向に移動自在に配設されており、このレンズバリア13を、二点鎖線で示す位置と実線で示す位置との間で上下方向に移動させることにより、左右一対の撮影光学系14-1,14-2の前面を同時に開閉できるようになっている。尚、撮影光学系14-1,14-2としては、屈曲光学系のズームレンズが使用されている。また、レンズバリア13によるレンズ前面の開閉動作に連動して、カメラ電源をON/OFFさせることができるようになっている。
図1Bに示すようにカメラ本体の背面には、その中央部に3D用の液晶モニタ16が配設されている。液晶モニタ16は、複数の視差画像(右目用画像、左目用画像)をパララックスバリアによりそれぞれ所定の指向性をもった指向性画像として表示できるものである。尚、3D用の液晶モニタ16としては、レンチキュラレンズを使用するものや、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで右目用画像と左目用画像とを個別に見ることができるものなどが適用できる。
上記液晶モニタ16の左右には、各種の操作スイッチが配設されている。操作スイッチ18Aは、静止画撮影と動画撮影とを切り替える切替えスイッチであり、操作スイッチ18Bは、右目用画像と左目用画像の視差量を調整する視差調整スイッチであり、操作スイッチ18Cは2D撮影と3D撮影とを切り替える切替えスイッチである。また、操作スイッチ18Dは、MENU/OKボタンと再生ボタンとを兼ねたシーソーキーであり、操作スイッチ18Eは、マルチファンクションの十字キーであり、操作スイッチ18Fは、DISP/BACKキーである。
MENU/OKボタンは、液晶モニタ16の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作スイッチである。再生ボタンは、撮影モードから再生モードに切り替えるボタンである。十字キーは、上下左右の4方向の指示を入力する操作スイッチであり、マクロボタン、フラッシュボタン、セルフタイマーボタン等が割り当てられており、また、メニューが選択されている場合には、そのメニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示するスイッチ(カーソル移動操作部)として機能する。また、十字キーの左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。DISP/BACKキーは、液晶モニタ16の表示形態を切り替えたり、メニュー画面上での指示内容の取消し、あるいは1つ前の操作状態に戻らせる時などに使用される。
尚、図1A上で、参照符号15はステレオマイクを示す。
[立体撮像装置の内部構成]
図2は上記立体撮像装置10の実施形態を示すブロック図である。
図2に示すように、この立体撮像装置10は、主として複数の撮像部20-1,20-2、中央処理装置(CPU)32、前述したシャッタボタン11、ズームボタン12、及び各種の操作スイッチを含む操作部34、表示制御部36、液晶モニタ16、記録制御部38、圧縮/伸張処理部42、デジタル信号処理部44、AE(Automatic Exposure:自動露出)検出部46、AF(Auto Focus:自動焦点)検出部48、AWB(Automatic White Balance:自動ホワイトバランス)検出部50、VRAM(Video RAM)52、RAM54、ROM56、及びEEPROM(Electrically Erasable and Programmable ROM)58等から構成されている。尚、撮像部20-1,20-2は、互いに視差を有する左眼用画像と右眼用画像の2枚の視差画像を撮像するが、撮像部20は、3つ以上あってもよい。
左眼用画像を撮像する撮像部20-1は、プリズム(図示せず)、フォーカスレンズ及びズームレンズ21からなる撮影光学系、絞り22及びメカシャッタ23からなる光学ユニットと、固体撮像素子(CCD)24と、アナログ信号処理部25と、A/D変換器26と、画像入力コントローラ27と、前記光学ユニットを駆動するレンズ駆動部28、絞り駆動部29及びシャッタ制御部30と、CCD24を制御するCCD制御部31とを備えている。尚、右眼用画像を撮像する撮像部20-2は、前記左眼用画像を撮像する撮像部20-1と同じ構成を有するため、その具体的な構成の説明は省略する。
CPU32は、操作部34からの入力に基づき所定の制御プログラムに従ってカメラ全体の動作を統括制御する。尚、ROM56には、CPU32が実行する制御プログラム及び制御に必要な各種データ等が格納され、EEPROM58には、製品出荷前の検査時の検査結果を示す各種の情報、例えばCCD24の画素欠陥情報、画像処理等に使用する補正パラメータやテーブル等が記憶されている。尚、ここに記憶される各種の情報の詳細については後述する。
また、VRAM52は、液晶モニタ16に表示する表示用の画像データを一時記憶するメモリであり、RAM54は、CPU32の演算作業用領域及び画像データの一時記憶領域を含んでいる。
撮影光学系に含まれるフォーカスレンズ及びズームレンズ21は、レンズ駆動部28により駆動されて光軸に沿って前後に移動する。CPU32は、レンズ駆動部28の駆動を制御することにより、フォーカスレンズの位置を制御して被写体に焦点が合うように焦点調節を行うとともに、操作部34中のズームボタン12からのズーム指令に応じてズームレンズのズーム位置を制御してズーム倍率を変更させる。
絞り22は、例えば、アイリス絞りで構成されており、絞り駆動部29に駆動されて動作する。CPU32は、絞り駆動部29を介して絞り22の開口量(絞り値)を制御し、CCD24への入射光量を制御する。
メカシャッタ23は、光路を開閉することによりCCD24での露光時間を決めるとともに、CCD24からの画像信号の読み出し時に不要光がCCD24に入射しないようにしてスミアの発生を防止する。CPU32は、シャッタ速度に対応する露光終了時点に同期したシャッタ閉信号をシャッタ制御部30に出力し、メカシャッタ23を制御する。
CCD24は、2次元のカラーCCD固体撮像素子により構成されている。CCD24の受光面には、多数のフォトダイオードが2次元的に配列されており、各フォトダイオードには所定の配列でカラーフィルタが配置されている。
上記構成の光学ユニットを介してCCD受光面上に結像された被写体の光学像は、このフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、CPU32の指令に従ってCCD制御部31から与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(画像信号)としてCCD24から順次読み出される。CCD24は、電子シャッタ機能を備えており、フォトダイオードへの電荷蓄積時間を制御することにより、露光時間(シャッタ速度)が制御される。尚、電子シャッタによりシャッタ速度に対応する電荷蓄積開始時点が制御され、前記メカシャッタ23を閉じることにより露光終了時点(電荷蓄積終了時点)が制御される。この実施形態では、撮像素子としてCCD24を用いているが、CMOSセンサ等の他の構成の撮像素子を用いることもできる。
CCD24から読み出されたR、G、Bのアナログ信号は、アナログ信号処理部25により相関二重サンプリング(CDS)や増幅が行われた後、A/D変換器26によりR、G、Bのデジタル信号に変換される。
画像入力コントローラ27は、所定容量のラインバッファを内蔵しており、A/D変換器26によりA/D変換されたR、G、Bの画像信号(CCDRAWデータ)を一時蓄積したのち、バス60を介してRAM54に格納する。
CPU32は、3D撮影モード時には左目用画像を撮像する撮像部20-1と同様に右眼用画像を撮像する撮像部20-2を制御する。
AE検出部46は、シャッタボタン11の半押し時に取り込まれる画像信号に基づいてAE制御に必要な被写体輝度を算出し、被写体輝度(撮影EV値)を示す信号をCPU32に出力する。CPU32は、入力する撮影EV値に基づいて所定のプログラム線図にしたがって複数の撮像部20-1,20-2におけるシャッタ速度(露光時間)、絞り値、撮影感度を設定する。
AF検出部48は、シャッタボタン11の半押し時に取り込まれるAFエリアの画像信号の高周波成分の絶対値を積算し、この積算した値(AF評価値)をCPU32に出力する。CPU32は、フォーカスレンズを至近から無限遠側に移動させ、AF検出部48により検出されるAF評価値が最大となる合焦位置をサーチし、その合焦位置にフォーカスレンズを移動させることにより、被写体(主要被写体)への焦点調節を行う。
AWB検出部50は、本撮像時に取得されたR、G、Bの画像信号に基づいて自動的に光源種(被写界の色温度)を求め、予め光源種別に設定されたR、G、Bのホワイトバランスゲイン(ホワイトバランス補正値)を記憶するテーブルから対応するホワイトバランスゲインを読み出す。
デジタル信号処理部44は、ホワイトバランス補正回路、階調変換処理回路(例えば、ガンマ補正回路)、単板CCDのカラーフィルタ配列に伴うR,G,Bなどの色信号の空間的なズレを補間して各色信号の位置を合わせる同時化回路、輪郭補正回路、輝度・色差信号生成回路等の第1の画像処理部を含み、RAM54に格納されたR、G、Bの画像信号(CCDRAWデータ)に対して第1の画像処理部により第1の画像処理を行う。即ち、R、G、BのCCDRAWデータは、デジタル信号処理部44において、AWB検出部50により検出されたホワイトバランスゲインが乗算されてホワイトバランス補正が行われ、その後、階調変換処理(例えば、ガンマ補正)等の所定の処理が施された後、輝度信号(Y信号)及び色差信号(Cr、Cb信号)からなるYC信号に変換される。デジタル信号処理部44により処理されたYC信号はRAM54に格納される。
また、デジタル信号処理部44は、3D動画再生時に、左右視点画像からそれぞれ所定の切り出しエリアの画像を切り出すことにより複数の撮像部20-1,20-2の撮影光学系の光軸ずれを補正する画像切り出し処理回路、複数の撮像部20-1,20-2の撮影光学系のレンズ歪補正を補正するレンズ歪補正処理回路等の第2の画像処理部を含み、この第2の画像処理部は、前記第1の画像処理部により処理されたYC信号に対して第2の画像処理を行う。尚、第2の画像処理部の処理内容の詳細については後述する。
圧縮/伸張処理部42は、メモリカード40への記録時にはCPU32からの指令に従い、RAM54に格納されたYC信号を圧縮処理し、また、メモリカード40に記録された圧縮された圧縮データを伸張処理してYC信号にする。記録制御部38は、圧縮/伸張処理部42により圧縮された圧縮データを所定形式の画像ファイル(例えば、3Dの静止画は、MP(マルチピクチャ)フォーマットの画像ファイル)にしてメモリカード40に記録し、又はメモリカード40から画像ファイルの読み出しを行う。
液晶モニタ16は、撮影済み画像を表示するための画像表示部として使用されるとともに、各種設定時にGUI(グラフィカルユーザインターフェース)として使用される。また、液晶モニタ16は、撮影モード時に画角を確認するための電子ファインダとして利用される。表示制御部36は、液晶モニタ16に3D画像を表示させる場合には、VRAM52に保持されている左目用画像と右眼用画像とを1画素ずつ交互に表示させる。液晶モニタ16に設けられているパララックスバリアにより、所定の距離から観察するユーザの左右の眼には、1画素ずつ交互に配列された左右の画像がそれぞれ別々に視認される。これにより、立体視を可能にしている。
尚、図2には図示されていないが、この立体撮像装置10は、図1A及び1Bに示したステレオマイク15により取得した音声情報(オーディオデータ)を記録再生する機能も有している。
[3D動画撮影時の動作]
次に、本開示内容に係る立体撮像装置10の3D動画撮影時の動作について、図3に示すフローチャートを参照しながら説明する。
図1Bに示した操作スイッチ18Aにより動画撮影モードに切り替え、かつ操作スイッチ18Cにより3D撮影モードに切り替えることにより、3D動画を撮影する撮影モード(以下、「3D動画撮影モード」という)に設定することができる。
3D動画撮影モードに設定された立体撮像装置10は、動画記録前又は動画記録中に3Dのスルー画を液晶モニタ16に表示させることができるようになっており、ユーザはこの3Dのスルー画を見ながら視差量調整スイッチ18B(図1B参照)を操作することにより、3D動画(左目用画像と右眼用画像)の視差量を調整できる。
即ち、視差量調整スイッチ18Bを+方向、又は−方向に操作することにより、3D動画の視差量を増減することができる。
図3において、CPU32は、視差量調整スイッチ18Bの操作を監視し、視差量調整スイッチ18Bの操作があると(「No」の場合)、視差調整値H_SHIFTを内部メモリ(RAM54)に設定する(ステップS10、S12)。尚、視差量調整スイッチ18Bが操作されない場合には、視差調整値は0に設定される。
続いて、CPU32は、動画撮影の指示(シャッタボタン11の全押し)の有無を判別する(ステップS14)。シャッタボタン11が全押しされると、CPU32は、まずメモリカード40に3D動画記録用の記録ファイルを作成し、そのヘッダに図4に示す表のデータを記録する(ステップS16)。
ここで、図4にしめす表のデータについて説明する。
図2に示したEEPROM58には、図4の表に示すような、出荷前の検査で取得したカメラ固有のデータが格納されている。この実施形態では、ズームレンズの6段のズームポジションZP1〜ZP6ごとに、CCDの全撮影画角の画像(以下、「全画像」という)から画像を切り出すための切り出し中心(光軸中心)の座標及び切り出しサイズ(縦横の画素数)を示す情報(第1の情報)と、レンズ歪補正パラメータ及び計算式を示す情報(第2の情報)とが、左右の撮影光学系別にそれぞれ格納されている。
図5及び図6は、それぞれズームポジションZP1(ワイド端;35mm画角)とズームポジションZP3(Tele側;45mm画角)における左右の全画像に対する切り出し中心及び切り出しサイズ等を示している。
図5に示すように、左眼用の全画像に対する切り出し中心(Lx1,Ly1)と、右眼用の全画像に対する切り出し中心(Rx1,Ry1)は、それぞれ左右の撮影光学系の光軸中心を示しており、CCD撮像面の中心(×印)からずれている。
左眼用の全画像から切り出し中心(Lx1,Ly1)を中心に切り出しサイズ(LH1,LV1)の画像を切り出し、同様に右眼用の全画像から切り出し中心(Rx1,Ry1)を中心に切り出しサイズ(RH1,RV1)の画像を切り出すことにおり、このズームポジションZP1における左右の撮影光学系の光軸ずれに伴う画像ずれを補正すること、即ち、光軸ずれを補正することができる。
また、図5に示すレンズ歪は樽型歪の例が示されているが、この種のレンズ歪をもつ画像は、予めレンズ歪を検査してそれを補正するための情報(第2の情報)を使用することによりレンズ歪を補正することができる。即ち、レンズ歪を補正するための計算式(図4に示す表の例では6次多項式)の各項の係数にレンズ歪補正パラメータを代入した計算式を使用し、この計算式に切り出し中心を基準にした各画素の座標値を代入して得た座標位置に画素を再配置することより、レンズ歪が補正された画像を生成することができる。
尚、計算式の次数が大きいほど、高精度の歪補正を行うことができるが、計算量が増加する。
図6に示す左眼用の全画像に対する切り出し中心(Lx3,Ly3)と、右眼用の全画像に対する切り出し中心(Rx3,Ry3)は、それぞれ図5に示した切り出し中心(Lx1,Ly1)、切り出し中心(Rx1,Ry1)と異なっている。これは、ズームレンズのズームポジション毎に左右の撮影光学系の光軸中心のずれが異なることに起因している。
従って、図4に示す表に示したように左右の撮影光学系のそれぞれのズームレンズのズームポジション毎に切り出し中心の情報を保持している。
また、ズームレンズのズームポジション毎に撮影光学系のレンズ歪も変化するため、図4の表に示したように左右の撮影光学系のそれぞれのズームレンズのズームポジション毎にレンズ歪補正パラメータを保持している。
尚、この実施形態の切り出し中心及び切り出しサイズは、レンズ歪補正が行われた画像上の値である。また、左右の撮影光学系のレンズ特性が同じ場合には、レンズ歪補正パラメータは、左右で共通のものを使用してもよい。
図3に戻って、CPU32は、ズームボタン12によるズーム操作が行われたかを判別する(ステップS18)。ズーム操作が行われた場合(「Yes」の場合)には、左右のズームレンズをズーム操作により指示されたズームポジションZPxに移動させる(ステップS20)。ズーム操作が行われない場合(「No」の場合)には、ステップS22に遷移させる。尚、CPU32は、ズーム操作の有無にかかわらず、常に現在のズームポジションZPxを把握している。
ステップS22では、CPU32は、AE検出部46を動作させて被写体の明るさを示す撮影EV値を取得するとともに、AF検出部48を動作させてAFエリアの被写体像のコントラストを示すAF評価値を取得し、このAF評価値が最大値に維持されるように左右のフォーカスレンズを駆動させる。
続いて、CPU32は、ステップS32で取得した撮影EV値に基づいて左右の撮像部20-1,20-2における撮影条件(絞り値、シャッタ速度、撮影感度)をそれぞれ決定する(ステップS24-1,S24-2)。尚、左右の撮像部20-1,20-2の性能にバラツキがあったり、異なるレンズ等が使用されている場合には、上記のように個別に撮影条件を決定する必要があるが、左右の撮像部20-1,20-2が同一の性能を有するものである場合には、共通の撮影条件を使用してもよい。
CPU32は、上記のようにして決定した撮影条件にしたがって左右の撮像部20-1,20-2における露光制御を行い、1フレーム分の左右の視点画像(CCDRAWデータ)を取得する(ステップS26-1,S26-2)。
前記取得されたCCDRAWデータは、デジタル信号処理部44の第1の画像処理部によりホワイトバランス補正、ガンマ補正、YC変換等の画像処理が行われるが(ステップS28-1,S28-2)、ここでは、デジタル信号処理部44の第2の画像処理部(画像切り出し処理回路、レンズ歪補正処理回路)による負荷の重い処理は行われない。
ステップS28-1,S28-2によりCCDRAWデータからYC変換されたレンズ歪補正前のYC信号は、一旦RAM54に蓄えられ、規定のフレーム数(例えば、フレームレートが60/秒の場合には、60フレーム)に達すると、フレーム毎にYC信号が圧縮された補正前の全画角の画像と、その画像に関連付けて現在のズームレンズのズームポジションZPx、ステップS12で設定した視差調整値H_SHIFTとを、ステップS16で作成した記録ファイルに格納する(ステップS30)。尚、動画の圧縮方式としては、モーションJPEG、H.264、MPEG4、MPEG4−MVCなどが適用できる。
図7は前記記録ファイルのファイル構造の一例を示す図である。同図に示すように、記録ファイルのタグには、撮影情報、撮影条件、撮影日時等の通常の付属情報の他に、図4の表に示したズームポジション毎の切り出し中心(光軸中心)、切り出しサイズ、レンズ歪補正パラメータ(計算式含む)のテーブル、3D動画のサムネイル(3D動画を代表する3D静止画の左右の縮小画像)、各サムネイルの視差調整値が記録される。また、記録ファイルの本体には、1秒毎に3D動画の視差調整値H_SHIFT、ズームポジションZPxの情報のパケット(1秒間の各フレーム毎のパケット)、圧縮された3D動画(例えば、60フレーム分の時系列の左右の視差画像)、及び1秒間のオーディオデータが記録される。
上記記録ファイルの本体には、上記1秒毎の3D動画等の情報が、任意の動画撮影時間だけ連続して記録される。
図3に戻って、ステップS32では、CPU32は、3D動画の撮影終了指示があったか否かを判別する。例えば、CPU32は、ステップS14でシャッタボタン11が全押しされた後、再びシャッタボタン11が全押しされた場合、「撮影終了指示あり」と判別する。
そして、「撮影終了指示あり」が判別されない場合(「No」の場合)には、ステップS10に戻り、上記3D動画の撮影と記録を繰り返す。
一方、「撮影終了指示あり」と判別された場合(「Yes」の場合)には、ステップS32に遷移し、ここで1秒未満の3D動画等を記録ファイルに記録した後、3D動画の撮影記録を終了する。
[3D動画再生時の動作]
次に、本開示内容に係る立体撮像装置10の3D動画再生時の動作について、図8に示すフローチャートを参照しながら説明する。
MENU/OKボタンと再生ボタンとを兼ねた操作スイッチ18Dにより再生モードが設定されると、立体撮像装置10はメモリカード40に記録された画像の再生を行うことができる。
図8において、3D動画が記録された記録ファイルが選択されてその再生が指示されると(ステップS50)、CPU32は、記録ファイルのタグ(図7参照)に基づいて図4に示す表のデータを読み出し、これを内部メモリ(RAM54)に記憶させる(ステップS52)。
続いて、CPU32は、記録ファイルの本体から3D動画と、それに関連付けられて記録されているズームポジションZPx、視差調整値H_SHIFTとを読み出す(ステップS54)。
読み出された3D動画(圧縮されたYC信号)は、圧縮/伸張処理部42により伸張処理されて非圧縮のYC信号に復元され(ステップS56)、その後、デジタル信号処理部44の第2の画像処理部により画像処理が行われる(ステップS58〜S64)。
即ち、復元されたYC信号は、まずレンズ歪補正処理回路により左右の視点画像に対してそれぞれレンズ歪補正が行われる。このレンズ歪補正処理は、フレーム毎に対応付けて記録されたズームポジションZPxに基づいて、RAM54に記憶させた図4に示す表から対応するレンズ歪補正パラメータ、及び切り出し中心(光軸中心)座標を読み出し、このレンズ歪補正パラメータを係数とする計算式に視点画像の各画素の光軸中心を基準にした座標値を代入することにより新たな座標値を取得し、その座標値に画素を移動させることで、レンズ歪が補正された視差画像を得る(ステップS58、図5、図6参照)。
レンズ歪補正された左右の全画角の視差画像は、画像切り出し処理回路によりそれぞれ切り出しエリアが調整されて切り出され、左右の撮影光学系の光軸ずれが補正される。即ち、画像切り出し処理回路は、全画角の視差画像のズームポジションZPxに対応してRAM54から切り出し中心(光軸中心)の座標及び切り出しサイズの情報を読み出し、これらの情報に基づいて左右の全画角の視差画像から3D表示用の光軸ずれが補正された左右の視差画像を切り出す(ステップS60)。
図9Aに示すレンズ歪が補正された左右の全画角の視差画像から、図9Bに示すように光軸ずれが補正された左右の視差画像を切り出す。
次に、画像切り出し処理回路は、前記切り出した左右の視差画像からステップS54で読み出した視差調整値H_SHIFTに基づいて、図9Cに示すように左右方向に視差調整値H_SHIFTの2分の1だけオフセットした切り出しエリアで切り出す(ステップS62、S64)。尚、図9Cに示す例では、視差量が大きくなる方向に切り出しているが、視差調整値H_SHIFTの符号が逆転している場合には、視差量が小さくなる方向に切り出される。
上記のようにして切り出された左右の視差画像は、表示制御部36を介して液晶モニタ16(立体表示部)に出力され、ここで3D画像として表示される(ステップS66)。
ステップS68では、映像フレームが終了したか、又は動画再生の終了が指示されたかが判別され、「No」の場合には、ステップS54に戻る。
これにより、上記再生処理がフレーム毎に繰り返され、液晶モニタ16には3D動画が表示される。尚、上記3D動画の出力先は、液晶モニタ16に限らず、外部の3D表示装置でもよい。
映像フレームが終了し、又は動画再生の終了が指示されると(「Yes」の場合)、3D動画の再生処理を終了させる(ステップS70)。
上記実施形態の画像切り出し処理は、光軸ずれを補正するための切り出しを行った後、その切り出された画像から更に視差調整値H_SHIFTに基づいて視差調整した画像を切り出すようにしたが、これに限らず、左右の視差画像の切り出し中心の座標を、視差調整値H_SHIFTの2分の1の値でオフセットし、このオフセットした切り出し中心と切り出しサイズにより、全画角の画像から一度に切り出すようにしてもよい。
あるいは、光軸ずれを補正するための切り出しを行った後、その切り出された画像を視差調整値H_SHIFTに基づいて(画像をずらす)視差調整をしてもよい。それを立体表示する場合、表示画像の左右端のH_SHIFT/2を黒等で塗りつぶしてもよい。もちろん塗り潰さずそのまま表示してもよい。
[3D動画の変換処理]
次に、本開示内容に係る立体撮像装置10の3D動画の変換処理について、図10に示すフローチャートを参照しながら説明する。尚、図8に示した動画再生時にフローチャートと共通する部分については、共通のステップ番号を付し、その詳細な説明は省略する。
図10において、まず、立体撮像装置10の操作スイッチ18D(MENU/OKボタン)を操作し、液晶モニタ16に動画変換メニューを表示させ、その動画変換メニューの選択実行が指示されると、3D動画の変換処理が開始される(ステップS80)。
ステップS82では、変換処理を行う3D動画の選択が行われる。この3D動画の選択は、3D動画のサムネイルを表示させ、所望のサムネイルを選択することにより行うことができる。尚、変換処理前のサムネイルと変換処理後のサムネイルとをマーカや文字等により識別可能に表示させることにより、変換処理済みの3D動画が選択されないようにすることができる。
上記選択した3D動画の変換指示があると、前述したステップS52からS64により1フレームずつレンズ歪補正処理、光軸ずれを補正の画像切り出し処理等が行われる。
1秒分の規定のフレーム数の画像処理が終了すると、左右の視差画像をそれぞれ圧縮処理し(ステップS86)、記録ファイルに上書きし、又は新規の記録ファイルを作成して保存する(ステップS88)。
そして、映像フレームが終了するまで、ステップS54からステップS88までの処理を繰り返す。これにより、レンズ歪補正、光軸中心のずれ等が補正された変換済みの3D動画の記録ファイルを生成することができる。
[その他]
この実施形態では、立体撮像装置10が、図8に示した3D動画の再生処理を行うようにしたが、これに限らず、3Dディスプレイを有する3D再生装置が、図8に示した3D動画の再生処理を行うようにしてもよい。この場合、3D再生装置は、立体撮像装置10により記録された3D動画の記録ファイルを記録メディアから直接又は通信手段を介して取得するようにする。
また、この実施形態では、立体撮像装置10が、図10に示した3D動画の変換処理を行うようにしたが、これに限らず、図10に示した3D動画の変換処理を行う編集ソフトウエアがインストールされたパーソナルコンピュータ、その他の外部機器が、未処理の3D動画を入力して3D動画の変換処理を行うようにしてもよい。
この実施形態では、光軸中心のずれを補正するための情報として、レンズ歪補正後の画像における切り出し中心の座標、及び切り出しサイズの情報を記憶保持するようにしたが、これに限らず、レンズ歪補正前の画像における切り出し中心の座標、及び切り出しサイズの情報を記憶保持するようにしてもよい。この場合、前記記憶保持した情報に基づいて最初にレンズ歪補正前の画像から光軸中心のずれを補正する画像の切り出しを行い、その後、切り出した画像に対してレンズ歪を補正する処理を行う。
また、この実施形態では、光軸中心のずれを補正するための情報として、図4に示したようにズームポジションZPに応じて切り出し中心(光軸中心)の座標値と切り出しサイズの情報をもつようにしたが、これに限らず、切り出しエリアの対角の座標値をもつようにしてもよい。
また、本開示内容は撮影光学系のレンズ歪補正に限らず、色収差等の他の収差を補正する場合にも適用できる。
更に、図7に示したように記録ファイルのタグに図4に示す表を格納し、各動画のフレームに関連付けてズームポジションZPxの情報を記録するようにしたが、これに限らず、ズームポジションZPxに基づいて図4に示す表から選択されたデータを、直接動画のフレームに関連付けて記録するようにしてもよい。この場合には、図4に示す表のズームポジションZPxの情報の記録は不要になる。
また、本開示内容は上述した実施形態に限定されず、本開示内容の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10…立体撮像装置、11…シャッタボタン、12…ズームボタン、16…液晶モニタ、20-1,20-2…撮像部、21…フォーカスレンズ及びズームレンズ、24…CCD、25…アナログ信号処理部、32…中央処理装置(CPU)、34…操作部、44…デジタル信号処理部、54…RAM、56…ROM、58…EEPROM

Claims (20)

  1. 立体撮像装置であって、
    撮影光学系と該撮影光学系を介して結像される被写体像をそれぞれ光電変換する撮像素子とを有する複数の撮像部であって、互いに視差を有する視差画像を撮像する複数の撮像部と、
    前記立体撮像装置に固有の、前記撮影光学系間の光軸ズレに関する第1及び第2の情報であって、各撮影光学系について撮影画角から画像を切り出す光軸中心位置及び切り出しサイズ、又は前記光軸中心位置を中心にした切り出しエリアを示す第1の情報と、各撮影光学系の収差を示す第2の情報とが前記立体撮像装置の出荷前に予め記憶された記憶部と、
    前記複数の撮像部から立体動画となる時系列の複数の視差画像を出力させる撮像制御部と、
    前記立体動画の撮影時に前記複数の撮像部から出力される時系列の複数の視差画像を記録媒体に記録するとともに、前記第1の情報及び第2の情報を前記記憶部から読み出し、読み出した前記第1の情報及び第2の情報を前記複数の視差画像に関連付けて前記記録媒体に記録する記録部と、
    を備える立体撮像装置。
  2. 前記第1の情報は、前記撮影光学系の収差を補正する前の視差画像、又は前記収差を補正した後の視差画像に対する情報である、請求項1に記載の立体撮像装置。
  3. 前記複数の撮像部から出力される複数の視差画像間の視差量を調整する指示を出力する視差量調整部をさらに備え、
    前記記録部は、前記視差量調整部から出力された前記指示に基づく視差量調整値を第3の情報として前記複数の視差画像に関連付けて前記記録媒体に記録する、請求項1又は2に記載の立体撮像装置。
  4. 前記撮影光学系はズームレンズであり、
    前記立体撮像装置は、前記立体動画の撮影時に前記ズームレンズのズーム位置を示す情報を時系列に取得する撮影情報取得部をさらに備え、
    前記記憶部は、前記ズームレンズのズーム位置毎に前記第1の情報及び第2の情報を記憶し、
    前記記録部は、前記記憶部に記憶された前記ズーム位置毎の第1の情報及び第2の情報の全情報と前記立体動画撮影時の前記ズームレンズの時系列のズーム位置を示す情報、又は前記立体動画の撮影時の前記ズームレンズの位置を示す情報に基づいて前記記憶部から読み出した時系列の前記第1の情報及び第2の情報を、前記複数の視差画像に関連付けて前記記録媒体に記録する、請求項1から3のいずれかに記載の立体撮像装置。
  5. 前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出部と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、
    前記画像処理部により生成された時系列の複数の視差画像を、装置内の立体表示部又は外部の立体表示部に出力する出力部と、
    をさらに備える請求項1、2又は4に記載の立体撮像装置。
  6. 前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、
    前記読み出した第3の情報に基づいて、前記読み出した第1の情報により示される光軸中心、切り出しエリア、切り出しサイズの少なくとも1つを変更することにより前記第1の情報を調整し、前記調整された第1の情報に基づいて前記読み出した時系列の複数の視差画像を立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、
    前記画像処理部により生成された時系列の複数の視差画像を、装置内の立体表示部又は外部の立体表示部に出力する出力部と、
    をさらに備える請求項3に記載の立体撮像装置。
  7. 前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、
    前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいてずらした後、前記立体撮像装置に備えられた立体表示部又は外部の立体表示部に出力する出力部と、
    をさらに備える請求項3に記載の立体撮像装置。
  8. 前記出力部の代わりに、又は前記出力部とともに前記画像処理部により生成された時系列の複数の視差画像を前記記録媒体に記録する記録部をさらに備える請求項5から7のいずれかに記載の立体撮像装置。
  9. 請求項1、2又は4の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出部と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、
    前記画像処理部により生成された時系列の複数の視差画像に基づいて立体動画を表示する立体表示部と、
    を備える画像再生装置。
  10. 請求項3に記載の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、
    前記読み出した第3の情報に基づいて、前記読み出した第1の情報により示される光軸中心、切り出しエリア、切り出しサイズの少なくとも1つを変更することにより前記第1の情報を調整し、前記調整された第1の情報に基づいて前記読み出した時系列の複数の視差画像を立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、
    前記画像処理部により生成された時系列の複数の視差画像に基づいて立体動画を表示する立体表示部と、
    を備える画像再生装置。
  11. 請求項3の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出部と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理部と、
    前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいてずらした後、立体動画を表示する立体表示部と、
    を備える画像再生装置。
  12. 請求項1、2又は4の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出機能と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、
    前記生成された時系列の複数の視差画像を記録媒体に記録する記録機能と、
    をコンピュータにより実現させる編集ソフトウエア。
  13. 請求項3の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出機能と、
    前記読み出した第3の情報に基づいて、前記読み出した第1の情報により示される光軸中心、切り出しエリア、切り出しサイズの少なくとも1つを変更することにより前記第1の情報を調整し、前記調整された第1の情報に基づいて前記読み出した時系列の複数の視差画像を立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、
    前記生成された時系列の複数の視差画像を記録媒体に記録する記録機能と、
    をコンピュータにより実現させる編集ソフトウエア。
  14. 請求項の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出機能と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、
    前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいてずらした後、立体表示部に出力する出力機能と、
    をコンピュータにより実現させる編集ソフトウエア。
  15. 請求項1、2又は4の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出す読出機能と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の 複数の視差画像を生成する画像処理機能と、
    前記生成された時系列の複数の視差画像を記録媒体に記録する記録機能と、
    をコンピュータにより実現させる編集ソフトウエアを記録した記録媒体。
  16. 請求項3の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出機能と、
    前記読み出した第3の情報に基づいて、前記読み出した第1の情報により示される光軸中心、切り出しエリア、切り出しサイズの少なくとも1つを変更することにより前記第1の情報を調整し、前記調整された第1の情報に基づいて前記読み出した時系列の複数の視差画像を立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、
    前記生成された時系列の複数の視差画像を記録媒体に記録する記録機能と、
    をコンピュータにより実現させる編集ソフトウエアを記録した記録媒体。
  17. 請求項の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出す読出機能と、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成する画像処理機能と、
    前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいてずらした後、立体表示部に出力する出力機能と、
    をコンピュータにより実現させる編集ソフトウエアを記録した記録媒体。
  18. 請求項1、2又は4の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報及び第2の情報とを読み出すステップと、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成するステップと、
    前記生成された時系列の複数の視差画像を記録媒体に記録するステップと、
    をコンピュータが実行する編集方法。
  19. 請求項3の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出すステップと、
    前記読み出した第3の情報に基づいて、前記読み出した第1の情報により示される光軸中心、切り出しエリア、切り出しサイズの少なくとも1つを変更することにより前記第1の情報を調整し、前記調整された第1の情報に基づいて前記読み出した時系列の複数の視差画像を立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成するステップと、
    前記生成された時系列の複数の視差画像を記録媒体に記録するステップと、
    をコンピュータが実行する編集方法。
  20. 請求項5の立体撮像装置により記録された前記記録媒体から時系列の複数の視差画像と前記第1の情報、第2の情報及び第3の情報とを読み出すステップと、
    前記読み出した時系列の複数の視差画像を、前記読み出した第1の情報に基づいて立体表示用に切り出すとともに、前記読み出した第2の情報に基づいて収差を補正した時系列の複数の視差画像を生成するステップと、
    前記画像処理部により生成された時系列の複数の視差画像を、前記第3の情報に基づいてずらした後、立体表示部に出力するステップと、
    をコンピュータが実行する編集方法。
JP2012508018A 2010-03-29 2010-11-09 立体撮像装置、画像再生装置及び編集ソフトウエア Expired - Fee Related JP5166650B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012508018A JP5166650B2 (ja) 2010-03-29 2010-11-09 立体撮像装置、画像再生装置及び編集ソフトウエア

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010075750 2010-03-29
JP2010075750 2010-03-29
JP2012508018A JP5166650B2 (ja) 2010-03-29 2010-11-09 立体撮像装置、画像再生装置及び編集ソフトウエア
PCT/JP2010/069913 WO2011121837A1 (ja) 2010-03-29 2010-11-09 立体撮像装置、画像再生装置及び編集ソフトウエア

Publications (2)

Publication Number Publication Date
JP5166650B2 true JP5166650B2 (ja) 2013-03-21
JPWO2011121837A1 JPWO2011121837A1 (ja) 2013-07-04

Family

ID=44711611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012508018A Expired - Fee Related JP5166650B2 (ja) 2010-03-29 2010-11-09 立体撮像装置、画像再生装置及び編集ソフトウエア

Country Status (4)

Country Link
US (1) US9256116B2 (ja)
JP (1) JP5166650B2 (ja)
CN (1) CN102860015B (ja)
WO (1) WO2011121837A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4187902A2 (en) 2021-11-26 2023-05-31 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, and image processing method

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4787369B1 (ja) * 2010-03-30 2011-10-05 富士フイルム株式会社 画像処理装置および方法並びにプログラム
US20140225991A1 (en) * 2011-09-02 2014-08-14 Htc Corporation Image capturing apparatus and method for obatining depth information of field thereof
WO2013042311A1 (ja) * 2011-09-20 2013-03-28 パナソニック株式会社 立体映像処理装置及び立体映像処理方法
CN103220460B (zh) * 2012-01-20 2016-05-25 华晶科技股份有限公司 影像处理方法及其装置
TWI524735B (zh) * 2012-03-30 2016-03-01 華晶科技股份有限公司 三維影像產生方法及裝置
JP6022212B2 (ja) * 2012-05-25 2016-11-09 シャープ株式会社 空間情報算出システム
DE102013012988A1 (de) * 2013-08-03 2015-02-05 Carl Zeiss Microscopy Gmbh Verfahren zur Kalibrierung eines digitalen optischen Abbildungssystems, Verfahren zur Korrektur von Abbildungsfehlern in einem digitalen optischen Abbildungssystem, sowie digitales optisches Abblildungssystem
CN105023275B (zh) * 2015-07-14 2018-08-28 清华大学 超分辨率光场采集装置及其的三维重建方法
JP6935389B2 (ja) * 2016-03-30 2021-09-15 ソニー・オリンパスメディカルソリューションズ株式会社 医療用立体観察装置、医療用立体観察方法、及びプログラム
TWI625051B (zh) * 2017-03-21 2018-05-21 奇景光電股份有限公司 深度感測裝置
JP7179446B2 (ja) * 2017-05-22 2022-11-29 キヤノン株式会社 情報処理装置、情報処理方法、および、プログラム
US11571109B2 (en) * 2017-08-03 2023-02-07 Sony Olympus Medical Solutions Inc. Medical observation device
CN107801012B (zh) * 2017-10-30 2019-05-17 Oppo广东移动通信有限公司 白平衡处理方法及装置、电子装置和计算机可读存储介质
EP3934231A4 (en) * 2019-03-18 2022-04-06 Sony Group Corporation IMAGING DEVICE, INFORMATION PROCESSING METHOD, AND PROGRAM
JP7676122B2 (ja) * 2020-09-10 2025-05-14 キヤノン株式会社 画像処理装置、画像処理方法、記憶媒体およびプログラム
JP2022162426A (ja) * 2021-04-12 2022-10-24 ソニーセミコンダクタソリューションズ株式会社 情報処理方法、情報処理装置、プログラム
WO2023218980A1 (ja) * 2022-05-13 2023-11-16 ソニーセミコンダクタソリューションズ株式会社 撮像装置、センサチップ、および処理回路
JP7763296B1 (ja) * 2024-05-23 2025-10-31 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006062325A1 (en) * 2004-12-06 2006-06-15 Electronics And Telecommunications Research Institute Apparatus for correcting image distortion of stereo-camera and method thereof
JP2008141518A (ja) * 2006-12-01 2008-06-19 Fujifilm Corp 撮影装置
JP2009302657A (ja) * 2008-06-10 2009-12-24 Canon Inc 画像処理装置、制御方法、及びプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317424A (ja) 1995-05-19 1996-11-29 Olympus Optical Co Ltd 立体撮影装置
JP2002247593A (ja) 2001-02-16 2002-08-30 Olympus Optical Co Ltd 画像処理装置
JP3971246B2 (ja) 2002-06-03 2007-09-05 富士フイルム株式会社 デジタル撮影装置
JP4047687B2 (ja) * 2002-09-30 2008-02-13 富士フイルム株式会社 デジタルカメラ
JP4397573B2 (ja) 2002-10-02 2010-01-13 本田技研工業株式会社 画像処理装置
CN101001309A (zh) * 2006-01-13 2007-07-18 鸿富锦精密工业(深圳)有限公司 一种成像系统及方法
JP2008131551A (ja) * 2006-11-24 2008-06-05 Konica Minolta Opto Inc 撮像装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006062325A1 (en) * 2004-12-06 2006-06-15 Electronics And Telecommunications Research Institute Apparatus for correcting image distortion of stereo-camera and method thereof
JP2008141518A (ja) * 2006-12-01 2008-06-19 Fujifilm Corp 撮影装置
JP2009302657A (ja) * 2008-06-10 2009-12-24 Canon Inc 画像処理装置、制御方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4187902A2 (en) 2021-11-26 2023-05-31 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, and image processing method

Also Published As

Publication number Publication date
CN102860015B (zh) 2015-08-26
WO2011121837A1 (ja) 2011-10-06
US9256116B2 (en) 2016-02-09
US20130038699A1 (en) 2013-02-14
JPWO2011121837A1 (ja) 2013-07-04
CN102860015A (zh) 2013-01-02

Similar Documents

Publication Publication Date Title
JP5166650B2 (ja) 立体撮像装置、画像再生装置及び編集ソフトウエア
JP4875225B2 (ja) 立体撮像装置
JP4897940B2 (ja) 立体撮像装置
JP4692770B2 (ja) 複眼デジタルカメラ
JP5640143B2 (ja) 撮像装置及び撮像方法
JP5449536B2 (ja) 立体画像再生装置及び方法、立体撮像装置、立体ディスプレイ装置
JP5722975B2 (ja) 撮像装置、撮像装置用シェーディング補正方法及び撮像装置用プログラム
WO2011136191A1 (ja) 立体画像再生装置及び方法、立体撮像装置、立体ディスプレイ装置
JP5449535B2 (ja) 立体撮像装置及びその制御方法
WO2012101916A1 (ja) 立体動画処理装置、立体動画処理プログラム及びその記録媒体、立体撮像装置並びに立体動画処理方法
WO2012105120A1 (ja) 立体動画再生装置、立体動画再生プログラムならびにその記録媒体、立体ディスプレイ装置、立体撮像装置及び立体動画再生方法
JP2010204385A (ja) 立体撮像装置および立体撮像方法
JP2010200024A (ja) 立体画像表示装置および立体画像表示方法
JP2012124650A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5166650

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees