[go: up one dir, main page]

JP6283105B2 - ステレオカメラ装置、ステレオカメラ装置を設置した車両及びプログラム - Google Patents

ステレオカメラ装置、ステレオカメラ装置を設置した車両及びプログラム Download PDF

Info

Publication number
JP6283105B2
JP6283105B2 JP2016523159A JP2016523159A JP6283105B2 JP 6283105 B2 JP6283105 B2 JP 6283105B2 JP 2016523159 A JP2016523159 A JP 2016523159A JP 2016523159 A JP2016523159 A JP 2016523159A JP 6283105 B2 JP6283105 B2 JP 6283105B2
Authority
JP
Japan
Prior art keywords
image
imaging unit
stereo camera
camera device
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016523159A
Other languages
English (en)
Other versions
JPWO2015182147A1 (ja
Inventor
和昌 穐本
和昌 穐本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Publication of JPWO2015182147A1 publication Critical patent/JPWO2015182147A1/ja
Application granted granted Critical
Publication of JP6283105B2 publication Critical patent/JP6283105B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • G01C3/085Use of electric radiation detectors with electronic parallax measurement
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/25Image signal generators using stereoscopic image cameras using two or more image sensors with different characteristics other than in their location or field of view, e.g. having different resolutions or colour pickup characteristics; using image signals from one sensor to control the characteristics of another sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/188Displaying information using colour changes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Measurement Of Optical Distance (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Studio Devices (AREA)

Description

関連出願へのクロスリファレンス
本出願は、日本国特許出願2014−110242号(2014年5月28日出願)の優先権を主張するものであり、当該出願の開示全体を、ここに参照のために取り込む。
本発明は、ステレオカメラ装置およびステレオカメラ装置を設置した車両に関する。
従来、左右に1つずつ設置した2つのステレオカメラによって水平方向にずれた2つの範囲を撮影し、それぞれの画像情報に基づいて被写体までの距離を測定して物体を検出する車両用路上物体検出装置が知られている(例えば、特許文献1)。
特開平7−225126号公報
水平方向にずれた範囲を撮影するステレオカメラによって路上の白線や交通標識を共に検出するには、左右のステレオカメラのいずれもが鉛直方向に広い画角(視野角)を有する必要がある。悪天候のときや先行車両が大型車であるとき等には、白線や標識・信号等を、近距離に来るまで検出できないこともあるため、ステレオカメラはより広い画角を有することが必要となる。一方で、鉛直方向に画角を広げれば、距離測定の精度や物体検出の精度は低下する。
かかる事情に鑑みてなされた本発明の目的は、より広い空間範囲内における検出対象物体の検出が可能であり且つ被写体までの距離算出の精度および物体検出の精度が高いステレオカメラ装置およびステレオカメラ装置を設置した車両を提供することである。
上記課題を解決するため、本発明に係るステレオカメラ装置は、第1の撮像部と、前記第1の撮像部が撮像する範囲とは、基線長に沿った方向と異なる方向にずれた範囲を撮像する第2の撮像部と、前記第1の撮像部で撮像した第1の画像と前記第2の撮像部で撮像した第2の画像との重複領域を用いて被写体までの距離を算出する制御部と、を備え、前記制御部は更に、前記第2の画像内の前記重複領域を除いた領域で前記被写体と異なる物体の検出を行う
更に、上記課題を解決するため、本発明に係る車両には、第1の撮像部と、前記第1の撮像部が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれた範囲を撮像する第2の撮像部と、前記第1の撮像部で撮像した第1の画像と前記第2の撮像部で撮像した第2の画像との重複領域を用いて被写体までの距離を算出する制御部と、を備え、前記制御部は更に、前記第2の画像内の前記重複領域を除いた領域で前記被写体と異なる物体の検出を行うステレオカメラ装置が設置される。
更に、上記課題を解決するため、本発明に係るプログラムは、第1の撮像部と、前記第1の撮像部が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれた範囲を撮像する第2の撮像部と、を備えるステレオカメラ装置に、前記第1の撮像部で撮像した第1の画像と前記第2の撮像部で撮像した第2の画像との重複領域を用いて被写体までの距離を算出するステップと、前記第2の画像内の前記重複領域を除いた領域で前記被写体と異なる物体の検出を行うステップと、を実行させる。
より広い空間範囲内における検出対象物体の検出が可能であり且つ被写体までの距離算出の精度および物体検出の精度が高いステレオカメラ装置およびステレオカメラ装置を設置した車両を提供することができる。
本発明の一実施形態に係るステレオカメラ装置の機能ブロック図である。 図1の第1の撮像部および第2の撮像部の、車両における配置図である。 図1の第1の撮像部および第2の撮像部の斜視図である。 図1の第1の撮像部および第2の撮像部の、撮像素子およびイメージサークルの構成を示す図である。 図1の第1の撮像部および第2の撮像部の、撮像素子およびイメージサークルの別の構成を示す図である。 図2の車両の前方の撮像画像を示す図である。 色によって区別されるように定められた物体を検出するときの、図2の車両の前方の撮像画像を示す図である。 第2の画像内で検出された物体が占める領域に対応する第1の画像内の対応領域において物体検出を行うときの、図2の車両の前方の撮像画像の更に他の一例を示す図である。 図1の制御部の動作フローを示す図である。 図1の制御部の物体検出処理のサブルーチンを示す図である。
以下、本発明の一実施形態を図面に基づいて説明する。
図1は、一実施形態に係るステレオカメラ装置1の機能ブロック図の例を示す図である。図1に示すように、一実施形態に係るステレオカメラ装置1は、第1の撮像部2と、第2の撮像部3と、制御部4とを含む。ステレオカメラ装置1は、撮像画像を用いて距離算出を行い、算出した距離と共に撮像画像内で行った物体検出の結果(例えば、被写体が検出対象の物体であるか否か、また、物体の種類)を制御部4から出力する。
本実施形態において、ステレオカメラ装置1は、図1に示すように第1の撮像部2、第2の撮像部3および制御部4を単一の筐体内に含む態様で記載されている。カメラモジュールを撮像部として機能させ、且つ、カメラモジュールの外部のMPUをその制御部として機能させることによっても、ステレオカメラ装置1を構成可能である。
本発明に係るステレオカメラ装置1の各機能を説明するが、ステレオカメラ装置1が備える他の機能を排除することを意図したものではないことに留意されたい。本実施形態に係るステレオカメラ装置1は例えば自動車等の車両に設置される。しかしながら、ステレオカメラ装置1は自動車以外の車両に設置されてもよい。また、ステレオカメラ装置1は電子機器関連の要素と通信するが、以下の説明においては、他の機能部を構成する要素の図示および説明は省略する。
図2は、図1の第1の撮像部2および第2の撮像部3の車両5における配置図である。車両5には少なくとも第1の撮像部2および第2の撮像部3が設置される。第1の撮像部2および第2の撮像部3は、車両5の前方を撮像可能な位置(例えば、車両5の内側の、フロントガラスに接する位置)に設置され、車両5の前方を撮像する。
図2においては、第1の撮像部2および第2の撮像部3は車両5の前方を撮像可能な位置に設置されているが、前方ではなく側方や後方といった周辺を撮像可能な位置にそれらを設置して利用することも可能である。
図3は、図1の第1の撮像部2および第2の撮像部3の斜視図である。第1の撮像部2と第2の撮像部3とは基線長dの間隔をあけて設置される。基線長とは第1の撮像部2の結像面S2上の光軸位置C2と第2の撮像部3の結像面S3上の光軸位置C3との間の距離である。
第1の撮像部2および第2の撮像部3の取付け位置および取付け姿勢は、それらの撮像部が同一の被写体を、視差をもって撮像できるように、予め厳密に定められる。このとき、第1の撮像部2と第2の撮像部3とは、基線長に沿った方向と異なる方向にずれた範囲を撮像する。基線長に沿った方向と異なる方向とは、基線長に沿った方向とは平行でない方向をいう。詳細は後述する。
図1の説明に戻る。第1の撮像部2および第2の撮像部3はいずれも、光学系および撮像素子(センサ)を有する。光学系はレンズなどの光学素子によって構成され、画像を結像する。撮像素子は、例えばCMOSまたはCCD撮像素子であり、光学系が結像する画像をモノクロ画像として撮像する。また、撮像素子は、受光面上にカラーフィルタを有し、光学系が結像する画像をカラー画像として撮像することもできる。
第1の撮像部2および第2の撮像部3は、撮像したモノクロ画像またはカラー画像を制御部4に出力する。本実施形態では一例として、第1の撮像部2を、カラー画像を撮像可能な撮像部として説明し、第2の撮像部3を、モノクロ画像を撮像可能な撮像部として説明する。また、第1の撮像部2が撮像する画像を第1の画像、第2の撮像部3が撮像する画像を第2の画像とする。
第1の画像がカラー画像で第2の画像がモノクロ画像のときには、第1の撮像部2には、第2の撮像部3よりも明るい光学系が用いられてもよい。受光量の差を抑制する明るい光学系を第1の撮像部2に用いることで、その差がゼロになるように調節してもよい。
制御部4は、第1の撮像部2から取得した第1の画像内において物体検出を行う。制御部4は、第1の画像内における物体検出においては、第1の画像内における検出対象として予め定められた物体が第1の画像内に含まれるか否かを判別する。
同様に、制御部4は、第2の撮像部3から取得した第2の画像内において物体検出を行う。制御部4は、第2の画像内における物体検出においては、第2の画像内における検出対象として予め定められた物体が第2の画像内に含まれるか否かを判別する。詳細は後述する。
第1の撮像部2および第2の撮像部3の取り付け位置および取り付け姿勢には少なくとも2つの異なるパターンがある。その2つの異なるパターンを、図4および図5に示す。
図4は、図1のステレオカメラ装置が車両5に設置されたときにおける、第1の撮像部2および第2の撮像部3の、撮像素子(長方形で示す)およびイメージサークル(円形で示す)の構成を示す図である。
図4に示すように、第1の撮像部2および第2の撮像部3それぞれにおいて、光学系の光軸(矢印で示す)が撮像素子の受光領域の中心を通るように、光学系および撮像素子は配置される。ステレオカメラ装置1内で、第1の撮像部2および第2の撮像部3は、所定の基線長で離れ、基線長に沿った方向から見て第1の撮像部2および第2の撮像部3の光学系の光軸がずれるように固定される。更に、第1の撮像部2および第2の撮像部3の光学系の光軸のずれは、第1の撮像部2および第2の撮像部3の撮像範囲が一部重複するように、定められる(図4において、一部重複する範囲を斜線で示す)。このような構成によって、第2の撮像部3は、第1の撮像部2が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれた範囲を撮像する。ステレオカメラ装置1は、基線長に沿った方向が水平方向と平行になるように、且つ第1の撮像部2および第2の撮像部3が車両に対して所望の方向の撮像範囲を撮像可能なように車両に設置される。このような設置によって、第1の撮像部2および第2の撮像部3は、一部重複しながらも、鉛直方向にずれた範囲を撮像可能である。
図5は、図1のステレオカメラ装置が車両5に設置されたときの、第1の撮像部および第2の撮像部の、撮像素子(長方形で示す)およびイメージサークル(円形で示す)の別の構成を示す図である。
第1の撮像部2および第2の撮像部3それぞれの光学系の光軸(矢印で示す)は平行であり、基線長に沿った方向から見て重なっている。第1の撮像部2および第2の撮像部3のそれぞれの光学系の撮像素子の受光面の中心を通り受光面に垂直な直線は、基線長に沿った方向に垂直であり、互いに平行である。また、第1の撮像部2および第2の撮像部3のそれぞれの撮像素子は、それぞれの撮像素子の受光面に平行な方向にずれ、且つ撮像範囲が一部重複するように定められる(図5において、一部重複する範囲を斜線で示す)。このような構成によって、第2の撮像部3は、第1の撮像部2が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれた範囲を撮像する。ステレオカメラ装置は、基線長に沿った方向が水平方向と平行になるように、且つ第1の撮像部2および第2の撮像部3が車両に対して所望の方向の撮像領域を撮像可能なように設置される。このような設置によって、第1の撮像部2および第2の撮像部3は、一部重複しながらも、鉛直方向にずれた範囲を撮像可能である。
図6は、図2の車両の前方の撮像画像を示す図である。具体的には図6は、第1の撮像部2が撮像し制御部4に出力する第1の画像10(カラー画像)と、第2の撮像部3が撮像し制御部4に出力する第2の画像20(モノクロ画像)とを示す図である。
上述の通り、第1の撮像部2と第2の撮像部3とは、基線長に沿った方向とは異なる方向にずれた範囲を撮像する。以下では上述の通り、第1の撮像部2および第2の撮像部3が、一部重複しながらも、鉛直方向にずれた範囲を撮像可能であるとして説明する。以下の説明では、当該一部重複した領域を、領域Bおよび領域B´とする。領域Bおよび領域B´においては、同じ物体を撮像可能である。図6に示す通り、第1の画像10は領域Aおよび領域Bを有し、第2の画像20は領域B´および領域Cを有する。領域Aは、第1の画像内の重複領域(領域B)を除いた領域であり、領域Cは、第2の画像内の重複領域(領域B´)を除いた領域である。
図6を参照して領域A、B、B´およびCのそれぞれについて説明する。図6に示すカラー画像においては、領域11から13は赤色を示す色情報を有する。色情報を有する領域11から13を斜線で示す。
領域Aは、交通標識または交通信号等を撮像する領域である。交通標識および交通信号は、色に特定の内容が定められた物体であり、具体的には、速度制限や進行の許可という内容を示す。このため、領域Aにカラーフィルタを設置して、領域Aを、カラー画像を撮像可能な領域とするとよい。領域Aで撮像される物体と、後述する領域Cで撮像される物体とは、異なる内容を示す異なる物体である。
領域Bは、後述するように、領域B´と共に用いて車両の前方の被写体までの距離を算出するのに用いられる領域である。従って、領域Bには高い感度および高い解像度(特定種類の光での高い解像度)が必要となることがある。このため、領域Bにカラーフィルタを設置せず、領域Bを、モノクロ画像を撮像可能な領域としてもよい。このとき、領域Aのみを、カラー画像を撮像可能な領域としてもよい。
領域Bは、ステレオカメラ装置が設置された車両の前方にある、車両(例えば、車体、車両の方向指示器、ストップランプ、ヘッドランプおよびテールランプ)、人物、動物、路面上の障害物等を撮像する領域である。これらの被写体は、車両からの距離算出が好ましい被写体である。領域Bにおいても、第1の撮像部は、色に特定の内容が定められた被写体(例えば、車両の方向指示器や車両のストップランプ)を撮像する。このため、領域Bにカラーフィルタを設置して、領域Bを、カラー画像を撮像可能な領域としてもよい。
領域Aと領域Bとの境界を設定する位置は任意である。例えば、境界は、領域Bが水平線を含む位置に設定される。
領域B´は、領域Bと同様に、ステレオカメラ装置が設置された車両の前方にある、車両(例えば、車体、車両の方向指示器、ストップランプ、ヘッドランプおよびテールランプ)、人物、動物、路面上の障害物等を撮像する領域である。領域B´は、領域Bと同様の理由で、カラー画像を撮像可能な領域としてもよいしモノクロ画像を撮像を撮像可能な領域としてもよい。
領域Cは、領域B´よりも手前(ステレオカメラ装置に近い側)に存在する路面標識または路面上の区画線等を撮像する領域である。路面標識または路面上の区画線は、駐停車禁止や前方の信号の存在という内容を示す。領域Cで撮像される被写体にとっての色情報は、他の領域で撮像される被写体にとっての色情報に比べて比較的有用でない。すなわち、領域Cにおいては、色よりも色以外の特性(例えば、模様、輪郭等)の方が重要である。このため、領域Cは、モノクロ画像を撮像可能な領域とするとよい。
制御部4は、全領域において、予め定められた物体を検出する。具体的に制御部4は、領域Aにおいて交通標識や交通信号のような、予め定められた物体を検出する。制御部4は、物体検出の手法として、勾配算出や、例えばSVM学習データを用いたHOG等による処理を行ってもよい。また制御部4は、領域Bおよび領域B´において同一の対象物を検出したときに、画像座標に基づいて当該被写体までの距離を算出する。距離の算出は、ステレオマッチング等によって行う。算出した距離は、物体検出の結果と共に出力される。更に、制御部4は、領域Cを用いて路面上の区画線等を検出する。
制御部4は、領域B´内において検出した物体が、後述する、色によって区別されるように定められた物体であるか否かを判別する。制御部4は、領域B´内において検出した物体が色によって区別されるように定められた物体であるときには、当該物体の第2の画像内に占める領域に対応する、第1の画像内における対応領域の色を検出する。さらに、制御部4は、検出した色を、第2の画像内で検出した物体の区別に用いる。
前述のように、制御部4においては、検出対象として予め複数の物体が定められる。例えば、全領域のうち領域Bおよび領域B´における検出対象として定められた物体の一例としては、例えば車両のストップランプが挙げられる。ストップランプは、ランプが点灯しているか否かによって、ブレーキ操作がなされたか否かを示す。ランプが点灯しているか否かの判別は、色以外の特性(模様、形状等)を用いることによっては難しいことがある。そこで、色以外の特性だけでは区別できない物体毎に、色によって区別されるか否かを設定可能である。
色によって区別されるように定められた物体は、車両のストップランプに限られない。例えば、車両の方向指示器、ヘッドランプおよびテールランプも、色によって区別されるように定められた物体の一例である。
図7は、図2の車両の前方の撮像画像を示す図である。以下、制御部4が行う、画像内において検出した物体を色によって区別する処理を詳細に説明する。
制御部4は、第2の画像20内において検出した、色によって区別される物体が占める第2の画像20内の領域に対応する、第1の画像10内の領域を検出する。検出方法としては、まず制御部4は、領域B´を検索する。次に、制御部4は、領域B´内で検出された物体と同一の、輪郭等の特性を有する物体の占める領域およびその周辺領域を、対応領域として領域B内で検出する。更に、制御部4は、対応領域において検出した色を領域B´内で検出された物体の区別に用いる。
例えば、図7に示す画像が撮像されたとき、制御部4は、第2の画像20内における物体の占める領域21に対応する第1の画像10内の領域22およびその周辺領域23を、領域21の対応領域として検出し、領域22および周辺領域23の色を検出する。周辺領域23の決め方は任意である。検出された色は、第2の画像20内で検出した物体の区別に用いる。第1の画像10の斜線部分が赤色であるとき、図7に示す車両はブレーキ操作を行っていると区別(判別)される。一方、図7の斜線部分が白色等の無灯火を示す色であるとき、図7に示す車両はブレーキ操作を行っていないと区別される。
更に、別の機能として、制御部4は、モノクロ画像である第2の画像内で検出された物体の第2の画像内の領域に対応する、カラー画像である第1の画像内の対応領域において物体検出を行う。
図8は、図2の車両の前方の撮像画像を示す図である。図8を参照して、制御部4が行う、対応領域を検出して物体検出を行う処理を詳細に説明する。
図8においては、モノクロ画像である第2の画像20の方がカラー画像である第1の画像10よりも感度および解像度が比較的高いことを示すため、第2の画像20内の人物の像の輪郭を太線で表現した。
制御部4は、第2の画像20内で物体を検出したとき、その物体の占める領域31に対応する領域32およびその周辺領域33を領域31の対応領域として検出する。対応領域の検出方法は、図7で説明した方法と同様である。制御部4は、対応領域において物体の検出を行うとき、検出感度を上げる(検出レベルの閾値を下げる)。制御部4を、第1の画像10内において何ら物体として検出されるものがなかったときにのみこの処理を行うように構成してもよい。
図9は、図1の制御部の動作フローを示す図である。制御部は、第1の撮像部から第1の画像を取得し(ステップS1)、第2の撮像部から第2の画像を取得する(ステップS2)。ステップS1とステップS2の順序は逆でもよい。
次いで、制御部は、第1の画像および第2の画像の重複領域を用いて物体検出を行う(ステップS3)。詳細は図10の説明で詳述する。次いで制御部は、ステレオマッチングによって被写体までの距離を算出する(ステップS4)。制御部は、第1の画像を用いて交通標識または交通信号を検出し(ステップS5)、第2の画像を用いて路面標識または路面上の区画線を検出する(ステップS6)。更に、制御部は、検出結果を出力する(ステップS7)。ステップS3およびステップS4と、ステップS5と、ステップS6との順序は任意である。
図10は、図1の制御部の物体検出処理のサブルーチンを示す図である。制御部は、第2の画像内で物体検出を行う(ステップS11)。制御部は、色によって区別されるように定められた物体を領域B´内において検出すると(ステップS12のYes)、領域B´内におけるその物体の占める領域に対応する、領域B内の対応領域を検出し、そこから色情報を取得する(ステップS13)。また、制御部は、取得した色情報を領域B´内で検出した物体の区別に用いる(ステップS14)。ステップS12でNoのときは、ステップS13およびステップS14の処理は行わない。
次に、制御部は、ステップS11で検出された物体の領域B´内で占める領域に対応する、領域B内の対応領域を検出する(ステップS15)。更に、制御部は、検出した対応領域において物体検出を行う(ステップS16)。ステップS12からステップS14と、ステップS15およびステップS16との順序は逆であってもよい。
以上説明したように、第1の撮像部が撮像する範囲と第2の撮像部が撮像する範囲とを基線長に沿った方向と異なる方向(鉛直方向)にずれる。このため、より広い空間範囲内における検出対象物体の検出が可能であり且つ被写体までの距離算出の精度および物体検出の精度を高くすることができる。
また、制御部は、第1の画像内の重複領域を除いた領域と、第2の画像内の重複領域を除いた領域とで、異なる内容を示す異なる物体の検出を行う。このため、当該異なる物体を重複して撮像することがなくなり、無駄なデータがなくなる。
また、制御部は、第2の画像内において検出した物体の占める領域に対応する、第1の画像内の対応領域として、周辺領域からも色を検出する。このため、誤検出を防ぐことができる。
また、制御部は、物体検出を行う領域を限定してその領域における検出感度を上げる。これによって、誤検出を防ぎつつ、第2の画像では検出された物体が、比較的感度および解像度が低い第1の画像内で検出されないことを防ぐことができる。
更に、第1の画像がカラー画像で第2の画像がモノクロ画像のときには、第1の撮像部には、第2の撮像部よりも明るい光学系が用いられる。これによって、モノクロ画像を撮像するカメラである第2の撮像部との受光量の差を低減化することが可能である。
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。したがって、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各部材、各部、各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能である。また、本発明を方法の発明として実施する場合にも、複数の部やステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。
また、本発明に係るステレオカメラ装置をコンピュータで構成した場合には、各機能を実現する処理内容を記述したプログラムを、そのコンピュータの内部または外部の記憶部に格納しておき、そのコンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。また、このようなプログラムは、例えばDVDまたはCD−ROMなどの可搬型記録媒体の販売、譲渡、貸与等によって流通させることができるほか、そのようなプログラムを、例えばネットワーク上にあるサーバの記憶部に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することによって、流通させることができる。また、そのようなプログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバから転送されたプログラムを、一旦、自己の記憶部に記憶することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、更に、このコンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。
1 ステレオカメラ装置
2 第1の撮像部
3 第2の撮像部
4 制御部
5 車両
10 第1の撮像部が撮像する第1の画像
20 第2の撮像部が撮像する第2の画像

Claims (11)

  1. 第1の撮像部と、
    前記第1の撮像部が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれた範囲を撮像する第2の撮像部と、
    前記第1の撮像部で撮像した第1の画像と前記第2の撮像部で撮像した第2の画像との重複領域を用いて被写体までの距離を算出する制御部と、
    を備え
    前記制御部は更に、前記第2の画像内の前記重複領域を除いた領域で前記被写体と異なる物体の検出を行う
    ステレオカメラ装置。
  2. 前記制御部は更に、前記第1の画像内において交通標識または交通信号の少なくとも一方を検出する、請求項1に記載のステレオカメラ装置。
  3. 前記制御部は更に、前記第2の画像内において路面標識または路面上の区画線の少なくとも一方を検出する、請求項1又は2に記載のステレオカメラ装置。
  4. 前記制御部は更に、前記第1の画像内の前記重複領域を除いた領域と、前記第2の画像内の前記重複領域を除いた領域とで、異なる内容を示す異なる物体の検出を行う、
    請求項1乃至のいずれか1項に記載のステレオカメラ装置。
  5. 前記第1の撮像部はカラー画像を出力し、
    前記第2の撮像部はモノクロ画像を出力する、
    請求項1乃至のいずれか1項に記載のステレオカメラ装置。
  6. 前記第1の撮像部は、前記第1の画像内の前記重複領域を除いた領域のみでカラー画像を出力する請求項に記載のステレオカメラ装置。
  7. 前記制御部は更に、色によって区別されるように定められた物体を前記第2の画像内で検出したとき、当該第2の画像内における当該物体の占める領域に対応する、前記第1の画像内の対応領域における色を、前記第2の画像内で検出した物体の区別に用いる、請求項に記載のステレオカメラ装置。
  8. 前記制御部は更に、前記第2の画像内で検出された物体が占める当該第2の画像内の領域に対応する、前記第1の画像内の対応領域において物体検出を行う、請求項またはに記載のステレオカメラ装置。
  9. 前記第1の撮像部は前記第2の撮像部よりも明るい光学系を用いた、請求項5乃至8のいずれか1項に記載のステレオカメラ装置。
  10. 第1の撮像部と、
    前記第1の撮像部が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれ
    た範囲を撮像する第2の撮像部と、
    前記第1の撮像部で撮像した第1の画像と前記第2の撮像部で撮像した第2の画像との重複領域を用いて被写体までの距離を算出する制御部と、
    を備え
    前記制御部は更に、前記第2の画像内の前記重複領域を除いた領域で前記被写体と異なる物体の検出を行うステレオカメラ装置を設置した
    車両。
  11. 第1の撮像部と、
    前記第1の撮像部が撮像する範囲とは、基線長に沿った方向と異なる方向に一部がずれた範囲を撮像する第2の撮像部と、
    を備えるステレオカメラ装置に、
    前記第1の撮像部で撮像した第1の画像と前記第2の撮像部で撮像した第2の画像との重複領域を用いて被写体までの距離を算出するステップと、
    前記第2の画像内の前記重複領域を除いた領域で前記被写体と異なる物体の検出を行うステップと、を実行させるプログラム。
JP2016523159A 2014-05-28 2015-05-28 ステレオカメラ装置、ステレオカメラ装置を設置した車両及びプログラム Active JP6283105B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014110242 2014-05-28
JP2014110242 2014-05-28
PCT/JP2015/002704 WO2015182147A1 (ja) 2014-05-28 2015-05-28 ステレオカメラ装置およびステレオカメラ装置を設置した車両

Publications (2)

Publication Number Publication Date
JPWO2015182147A1 JPWO2015182147A1 (ja) 2017-04-20
JP6283105B2 true JP6283105B2 (ja) 2018-02-21

Family

ID=54698492

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016523159A Active JP6283105B2 (ja) 2014-05-28 2015-05-28 ステレオカメラ装置、ステレオカメラ装置を設置した車両及びプログラム

Country Status (5)

Country Link
US (1) US10180318B2 (ja)
EP (1) EP3150961B1 (ja)
JP (1) JP6283105B2 (ja)
CN (1) CN106461387B (ja)
WO (1) WO2015182147A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6585006B2 (ja) * 2016-06-07 2019-10-02 株式会社東芝 撮影装置および車両
CN107666590B (zh) * 2016-07-29 2020-01-17 华为终端有限公司 一种目标监控方法、摄像头、控制器和目标监控系统
US10300573B2 (en) 2017-05-24 2019-05-28 Trimble Inc. Measurement, layout, marking, firestop stick
US10341618B2 (en) 2017-05-24 2019-07-02 Trimble Inc. Infrastructure positioning camera system
JP6793608B2 (ja) 2017-08-07 2020-12-02 日立オートモティブシステムズ株式会社 ステレオ画像処理装置
US20190278273A1 (en) * 2018-03-07 2019-09-12 Robert Bosch Gmbh Odometry system and method for tracking traffic lights
US10739455B2 (en) 2018-05-24 2020-08-11 GM Global Technology Operations LLC Method and apparatus for acquiring depth information using cameras from different vehicles
CN113538571A (zh) * 2020-04-13 2021-10-22 奥迪股份公司 跟车距离测量系统、包括其的车辆及相应的方法
KR20210147405A (ko) * 2020-05-28 2021-12-07 삼성전자주식회사 객체 인식을 수행하는 전자 장치 및 이의 동작 방법

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7663502B2 (en) * 1992-05-05 2010-02-16 Intelligent Technologies International, Inc. Asset system control arrangement and method
JPH07225126A (ja) 1994-02-14 1995-08-22 Mitsubishi Motors Corp 車両用路上物体認識装置
JP2000261028A (ja) * 1999-03-05 2000-09-22 Hamamatsu Photonics Kk 半導体位置検出器及びこれを用いた測距装置
CN1160210C (zh) * 1999-09-20 2004-08-04 松下电器产业株式会社 驾驶提醒装置
JP2001305681A (ja) * 2000-04-19 2001-11-02 Nippon Signal Co Ltd:The ステレオカメラ装置
JP2001305682A (ja) * 2000-04-20 2001-11-02 Sony Corp 撮像装置および方法
JP2005024463A (ja) * 2003-07-04 2005-01-27 Fuji Heavy Ind Ltd ステレオ広視野画像処理装置
JP4999386B2 (ja) * 2006-07-24 2012-08-15 株式会社イレブンインターナショナル 後方カメラ付車両
FR2921027B1 (fr) * 2007-09-17 2010-02-26 Valeo Vision Dispositif d'aide a la conduite pour vehicule automobile comportant un systeme de capture d'images stereoscopique
JP2009284188A (ja) * 2008-05-22 2009-12-03 Panasonic Corp カラー撮像装置
WO2010099416A1 (en) * 2009-02-27 2010-09-02 Magna Electronics Alert system for vehicle
ES2538827T3 (es) * 2009-09-01 2015-06-24 Magna Mirrors Of America, Inc. Sistema de formación de imágenes y de exhibición para un vehículo
JP2012198075A (ja) * 2011-03-18 2012-10-18 Ricoh Co Ltd ステレオカメラ装置、画像補整方法
JP5910740B2 (ja) 2011-07-05 2016-04-27 オムロン株式会社 射影空間監視のための方法および装置
JP6102930B2 (ja) 2011-10-14 2017-03-29 オムロン株式会社 射影空間監視のための方法および装置
JP6197291B2 (ja) * 2012-03-21 2017-09-20 株式会社リコー 複眼カメラ装置、及びそれを備えた車両
JP2015232442A (ja) * 2012-10-04 2015-12-24 アルプス電気株式会社 画像処理装置及び車両前方監視装置
US9365214B2 (en) * 2014-01-30 2016-06-14 Mobileye Vision Technologies Ltd. Systems and methods for determining the status of a turn lane traffic light

Also Published As

Publication number Publication date
EP3150961B1 (en) 2023-01-04
US10180318B2 (en) 2019-01-15
WO2015182147A1 (ja) 2015-12-03
CN106461387A (zh) 2017-02-22
EP3150961A1 (en) 2017-04-05
JPWO2015182147A1 (ja) 2017-04-20
CN106461387B (zh) 2020-11-20
US20170074651A1 (en) 2017-03-16
EP3150961A4 (en) 2018-04-18

Similar Documents

Publication Publication Date Title
JP6283105B2 (ja) ステレオカメラ装置、ステレオカメラ装置を設置した車両及びプログラム
EP3057063B1 (en) Object detection device and vehicle using same
JP4962581B2 (ja) 区画線検出装置
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
JP5399027B2 (ja) 自動車の運転を支援するための、立体画像を捕捉することができるシステムを有するデバイス
US10713506B2 (en) Vehicle vision system with 3D registration for distance estimation
CN105825495B (zh) 物体检测装置和物体检测方法
CN108692719A (zh) 物体检测装置
JP7484783B2 (ja) 車線境界検出装置、車線境界検出方法及び車線境界検出用コンピュータプログラム
US10992920B2 (en) Stereo image processing device
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
KR101694837B1 (ko) 주행 차량에서 촬영된 영상에서의 차량 정보 검출 장치 및 그 방법
CN114943836B (zh) 挂车角度检测方法、装置及电子设备
JP2020086956A (ja) 撮影異常診断装置
JP7095559B2 (ja) 区画線検出装置及び区画線検出方法
WO2020171232A1 (ja) 磁気マーカの診断システム及び診断方法
JP2009014645A (ja) 車両用距離測定装置
JP6665522B2 (ja) 情報処理装置、情報処理システム、および情報処理プログラム
JP2015219212A (ja) ステレオカメラ装置及び距離算出方法
JP6611334B2 (ja) 区画線認識装置
JP2017211765A (ja) 物体認識装置
JP7781630B2 (ja) 駐車支援装置、及び駐車支援方法
US20250299501A1 (en) Lane division line detection device
US11417115B2 (en) Obstacle recognition device
JP7005762B2 (ja) カメラ装置の標識認識方法及び標識認識装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180125

R150 Certificate of patent or registration of utility model

Ref document number: 6283105

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150