[go: up one dir, main page]

JP6380843B2 - 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム - Google Patents

物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム Download PDF

Info

Publication number
JP6380843B2
JP6380843B2 JP2014209786A JP2014209786A JP6380843B2 JP 6380843 B2 JP6380843 B2 JP 6380843B2 JP 2014209786 A JP2014209786 A JP 2014209786A JP 2014209786 A JP2014209786 A JP 2014209786A JP 6380843 B2 JP6380843 B2 JP 6380843B2
Authority
JP
Japan
Prior art keywords
imaging
light
image
detection
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014209786A
Other languages
English (en)
Other versions
JP2015136095A5 (ja
JP2015136095A (ja
Inventor
亮介 笠原
亮介 笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014209786A priority Critical patent/JP6380843B2/ja
Priority to EP14870904.1A priority patent/EP3085073B1/en
Priority to US15/035,352 priority patent/US9944293B2/en
Priority to PCT/JP2014/083490 priority patent/WO2015093552A1/en
Priority to CN201480068131.1A priority patent/CN105830428A/zh
Publication of JP2015136095A publication Critical patent/JP2015136095A/ja
Publication of JP2015136095A5 publication Critical patent/JP2015136095A5/ja
Application granted granted Critical
Publication of JP6380843B2 publication Critical patent/JP6380843B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor
    • B60S1/0844Optical rain sensor including a camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/14Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
    • B60Q1/1415Dimming circuits
    • B60Q1/1423Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • B60R16/0231Circuits relating to the driving or the functioning of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/09Taking automatic action to avoid collision, e.g. braking and steering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/14Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
    • B60Q1/1415Dimming circuits
    • B60Q1/1423Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
    • B60Q1/143Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic combined with another condition, e.g. using vehicle recognition from camera images or activation of wipers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/30Indexing codes relating to the vehicle environment
    • B60Q2300/31Atmospheric conditions
    • B60Q2300/312Adverse weather
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/40Indexing codes relating to other road users or special conditions
    • B60Q2300/41Indexing codes relating to other road users or special conditions preceding vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/40Indexing codes relating to other road users or special conditions
    • B60Q2300/42Indexing codes relating to other road users or special conditions oncoming vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/108Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 'non-standard' camera systems, e.g. camera sensor used for additional purposes i.a. rain sensor, camera sensor split in multiple image areas
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Transportation (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、フロントガラス等の光透過性部材上に付着する雨滴等の付着物や、移動体周囲等の撮像領域内に存在する検出対象物を検出する物体検出装置、及び、これを備えた移動体機器制御システム、並びに、物体検出用プログラムに関するものである。
特許文献1には、車両の周辺情報を取得するための車両周辺情報検出用のカメラ(撮像手段)を利用して、車両のフロントガラスに付着した雨滴の検出も行う装置が開示されている。この装置では、撮像フレームの領域を車両周辺情報検出用の画像領域(撮像領域画像)と雨滴検出用の画像領域(付着物観測画像)とに分割し、車両周辺情報検出処理には車両周辺情報検出用画像領域の撮像画像データを用いるとともに、雨滴検出処理には雨滴検出用画像領域の撮像画像データを用いる。雨滴検出処理には、専用の光源からの照明光でフロントガラスの付着物観測部分を照明した撮像画像データを用いる。
前記特許文献1に開示の装置では、車両周辺情報検出処理に用いる撮像画像データには、車両周辺情報検出に適した露光量で撮像した撮像フレームの画像データを用い、雨滴検出処理に用いる撮像画像データには、雨滴検出に適した露光量で撮像した撮像フレームの画像データを用いる。具体的には、車両周辺情報検出に適した露光量で車両周辺情報検出用の撮像フレームを所定回数連続して撮像したら、露光量を雨滴検出に適した露光量に切り替えて雨滴検出用の撮像フレームを1回だけ撮像するという規則に従って、繰り返し撮像処理を行う。これにより、車両周辺情報検出処理と雨滴検出処理の両方の処理で、高い検出精度を確保している。
通常、付着物(雨滴等)の検出処理の検出精度を高めるよりも、撮像領域内(車両周辺)に存在する検出対象物の検出処理の検出精度を高める方が優先される。そのため、同じ撮像フレームを用いて両処理に行う場合には、その撮像フレームを撮像するときの露光量は、検出対象物の検出処理に適した露光量に設定される。付着物の検出処理に適した露光量は、一般に、レンズのフレアゴーストや光源からの照明光以外の外乱光の影響を小さくするために、なるべく露光量が少なくなる設定とするのが好ましい。これに対し、車両周辺情報検出処理に適した露光量は、車両周辺からの比較的弱い光も検出して検出対象物の検出漏れを防ぐことが重要であることから、露光量が比較的多くなるように設定するのが好ましい。そのため、車両周辺情報検出処理に適した露光量で撮像した撮像フレームでは、雨滴検出処理にとって露光量が多すぎて、光源からの光に対する外乱光が大きく影響し、雨滴の検出精度を高めることができない。
本発明者は、車両周辺情報検出と雨滴検出との間のみならず、車両周辺情報検出自体においても、車両周辺情報検出処理で検出する複数の検出対象物間において異なる露光量でそれぞれ撮像した撮像フレームを用いることが、それぞれの検出精度を高めるのに有効であることを見出した。これによれば、複数の検出対象物をそれぞれに適した露光量で個別に撮像した撮像フレームからこれらの検出対象物を別途検出することができるので、それぞれの検出対象物の検出精度を高めることが可能となる。そして、これらの検出対象物の中には、露光量が少ない方が高い検出精度を得られるというものも存在する。例えば、先行車両のテールランプや対向車両のヘッドランプなどは高輝度な検出対象物であるため、路上の白線や路端などの低輝度な検出対象物と比較して、露光量が少ない方が高い検出精度を得やすい。
このように、複数の検出対象物をそれぞれに適した露光量で個別に撮像した撮像フレームからこれらの検出対象物を検出する構成においては、露光量が少ない撮像フレームが存在する。このような撮像フレームであれば、その撮像フレームを用いて雨滴検出処理を行っても、付着物の検出精度を十分に確保することが可能である。そして、このように検出対象物の検出処理に用いられるものと同じ撮像フレームで付着物の検出処理を行えば、付着物検出のための専用の撮像フレームを別途挿入する場合と比べて、検出対象物についての撮像フレームのフレームレートを下げることはない。このフレームレートが下がると検出対象物の検出精度を下げる要因となることから、検出対象物についての撮像フレームのフレームレートを下げないようにすることは重要である。
以上の説明は、複数の検出対象物をそれぞれに適した露光量で個別に撮像する2以上の撮像フレームを用いて検出する構成において、当該2以上の撮像フレームの中から相対的に露光量が少ない撮像フレームを選択して付着物の検出処理に用いる場合である。
一方で、単一の検出対象物を互いに異なる露光量で個別に撮像された2以上の撮像フレームを用いて検出する構成も、単一の露光量で撮像された撮像フレームのみを用いて検出する構成よりも、高い検出精度が得られることが多い。そして、このような構成においても、当該2以上の撮像フレームの中から相対的に露光量が少ない露光条件の撮像フレームを選択して付着物の検出処理に用いれば、付着物の検出精度を十分に確保することが可能である。
いずれにしても、検出対象物の検出処理において互いに露光量が異なる2以上の撮像フレームを用いる構成においては、その撮像フレームのうち相対的に露光量が少ない撮像フレームを付着物の検出処理に用いれば、付着物の検出精度を十分に確保することが可能である。
本発明は、以上の背景に鑑みなされたものであり、その目的とするところは、付着物検出のための専用の撮像フレームを別途挿入することなく、検出対象物の検出処理と付着物の検出処理の両処理で高い検出精度を実現できる物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラムを提供することである。
前記目的を達成するために、本発明は、光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置において、前記撮像手段の露光量を撮像フレーム単位で変更する露光量変更手段を有し、前記対象物検出処理手段は、露光量が異なる2以上の撮像フレーム中の撮像領域画像を用いて前記検出対象物の検出処理を行うものであり、前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も多い撮像フレームを除いた他の撮像フレーム中の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする。
本発明によれば、付着物検出のための専用の撮像フレームを別途挿入することなく、検出対象物の検出処理と付着物の検出処理の両処理で高い検出精度を実現できるという優れた効果が得られる。
実施形態における車載機器制御システムの概略構成を示す模式図である。 同車載機器制御システムにおける撮像ユニットの概略構成を示す模式図である。 同撮像ユニットに設けられる撮像装置の概略構成を示す説明図である。 自車両のフロントガラスの外壁面上の雨滴に撮像レンズの焦点が合っている場合における、雨滴検出用の撮像画像データである赤外光画像データを示す説明図である。 無限遠に焦点が合っている場合における、雨滴検出用の撮像画像データである赤外光画像データを示す説明図である。 雨滴検出用の撮像画像データに適用可能なカットフィルタのフィルタ特性を示すグラフである。 雨滴検出用の撮像画像データに適用可能なバンドパスフィルタのフィルタ特性を示すグラフである。 同撮像装置の光学フィルタに設けられる前段フィルタの正面図である。 同撮像装置の撮像画像データの画像例を示す説明図である。 実施形態における物体検出装置の詳細を示す説明図である。 同撮像装置の光学フィルタと画像センサとを光透過方向に対して直交する方向から見たときの模式拡大図である。 同光学フィルタの偏光フィルタ層と分光フィルタ層の領域分割パターンを示す説明図である。 構成例1における光学フィルタの層構成を模式的に示す断面図である。 同光学フィルタの車両検出用フィルタ部を透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。 (a)は、図14に示す符号A−Aで切断した光学フィルタの車両検出用フィルタ部及び画像センサを模式的に表した断面図である。(b)は、図14に示す符号B−Bで切断した光学フィルタの車両検出用フィルタ部及び画像センサを模式的に表した断面図である。 同光学フィルタの雨滴検出用フィルタ部を透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。 (a)は、図16に示す符号A−Aで切断した光学フィルタの雨滴検出用フィルタ部及び画像センサを模式的に表した断面図である。(b)は、図16に示す符号B−Bで切断した光学フィルタの雨滴検出用フィルタ部及び画像センサを模式的に表した断面図である。 雨滴検出に関わる各種光線についての説明図である。 光学フィルタの雨滴検出用フィルタ部における偏光フィルタ層の各地点でワイヤーグリッド構造の金属ワイヤー長手方向が異なる例を示す説明図である。 構成例2における光学フィルタを透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。 (a)は、図20に示す符号A−Aで切断した光学フィルタ及び画像センサを模式的に表した断面図である。(b)は、図20に示す符号B−Bで切断した光学フィルタ及び画像センサを模式的に表した断面図である。 構成例3における光学フィルタを透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。 (a)は、図22に示す符号A−Aで切断した光学フィルタ及び画像センサを模式的に表した断面図である。(b)は、図22に示す符号B−Bで切断した光学フィルタ及び画像センサを模式的に表した断面図である。 同光学フィルタの分光フィルタ層の非分光領域を透過する光の受光量を制限する構成の一例を示す説明図である。 同光学フィルタの分光フィルタ層の非分光領域を透過する光の受光量を制限する構成の他の例を示す説明図である。 同光学フィルタの分光フィルタ層の非分光領域を透過する光の受光量を制限する構成の更に他の例を示す説明図である。 同光学フィルタの分光フィルタ層の非分光領域を透過する光の受光量を制限する構成の更に他の例を示す説明図である。 同光学フィルタの分光フィルタ層の非分光領域を透過する光の受光量を制限する構成の更に他の例を示す説明図である。 同光学フィルタの分光フィルタ層の非分光領域を透過する光の受光量を制限する構成の更に他の例を示す説明図である。 構成例4における光学フィルタの偏光フィルタ層におけるワイヤーグリッド構造の金属ワイヤーの長手方向を示す説明図である。 偏光フィルタ層を構成するワイヤーグリッド構造の拡大図である。 分光フィルタ層に適用可能なカットフィルタのフィルタ特性を示すグラフである。 分光フィルタ層に適用可能なバンドパスフィルタのフィルタ特性を示すグラフである。 同撮像装置を用いて、雨の日にヘッドランプからの直接光とヘッドランプの雨路面で反射光(照り返し光)とを撮像し、それぞれの差分偏光度を算出したときのヒストグラムである。 雨路面上を自車両が走行しているときにその進行方向前方のほぼ同一距離に先行車両と対向車両の両方が存在する状況を同撮像装置で撮像した場合の一例を示す模式図である。 実施形態における車両検出処理の流れを示すフローチャートである。 (a)は、雨天時において白線を含む撮像領域を撮像したモノクロ輝度画像(非分光・非偏光)と非分光の差分偏光度画像とを示す画像例である。(b)は、雨天時において同じ撮像領域を撮像した非分光の差分偏光度画像を示す画像例である。 ブリュースタ角での反射光の偏光状態を示す説明図である。 (a)は、フロントガラスの外壁面に雨滴が付着しているときの撮像画像を示す説明図である。(b)は、フロントガラスの外壁面に雨滴が付着していないときの撮像画像を示す説明図である。 撮像動作例1における撮像装置の撮像動作を簡易的に示したタイミングチャートである。 撮像動作例2における撮像装置の撮像動作を簡易的に示したタイミングチャートである。
以下、本発明に係る物体検出装置を、移動体機器制御システムである車載機器制御システムに用いる一実施形態について説明する。
なお、本発明に係る物体検出装置は、撮像画像に基づき、光透過性部材を通して撮像領域内の検出対象物を検出するとともに、当該光透過性部材上に付着する付着物の検出も行うものであれば、移動体機器制御システムに限らず、他のシステムの物体検出装置としても利用できる。
図1は、本実施形態における車載機器制御システムの概略構成を示す模式図である。
本車載機器制御システムは、移動体である自動車などの自車両100に搭載された撮像装置により、自車両周囲(特に進行方向前方領域)を撮像領域として撮像した撮像画像データを利用して、ヘッドランプの配光制御、ワイパーの駆動制御、その他の車載機器の制御を行うものである。
本実施形態の車載機器制御システムに設けられる撮像装置は、撮像ユニット101に設けられており、走行する自車両100の進行方向前方領域を撮像領域として撮像するものであり、例えば、自車両100のフロントガラス105のルームミラー(図示せず)付近に設置される。撮像ユニット101の撮像装置で撮像された撮像画像データは、画像解析ユニット102に入力される。画像解析ユニット102は、撮像装置から送信されてくる撮像画像データを解析し、撮像画像データに自車両100の前方に存在する他車両の位置(方角や距離)を算出したり、フロントガラス105に付着する雨滴や異物などの付着物を検出したり、撮像領域内に存在する路面上の白線(区画線)等の検出対象物を検出したりする。他車両の検出では、他車両のテールランプを識別することで自車両100と同じ進行方向へ進行する先行車両を検出し、他車両のヘッドランプを識別することで自車両100とは反対方向へ進行する対向車両を検出する。
画像解析ユニット102の算出結果は、ヘッドランプ制御ユニット103に送られる。ヘッドランプ制御ユニット103は、例えば、画像解析ユニット102が算出した他車両の位置データから、自車両100の車載機器であるヘッドランプ104を制御する制御信号を生成する。具体的には、例えば、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
画像解析ユニット102の算出結果は、ワイパー制御ユニット106にも送られる。ワイパー制御ユニット106は、ワイパー107を制御して、自車両100のフロントガラス105に付着した雨滴や異物などの付着物を除去する。ワイパー制御ユニット106は、画像解析ユニット102が検出した付着物検出結果を受けて、ワイパー107を制御する制御信号を生成する。ワイパー制御ユニット106により生成された制御信号がワイパー107に送られると、自車両100の運転者の視界を確保するべく、ワイパー107を稼動させる。
また、画像解析ユニット102の算出結果は、車両走行制御ユニット108にも送られる。車両走行制御ユニット108は、画像解析ユニット102が検出した白線検出結果に基づいて、白線によって区画されている車線領域から自車両100が外れている場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。また、車両走行制御ユニット108は、画像解析ユニット102が検出した他車両の位置データに基づいて、先行車両との距離が近接した場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
図2は、撮像ユニット101の概略構成を示す模式図である。
図3は、撮像ユニット101に設けられる撮像装置200の概略構成を示す説明図である。
撮像ユニット101は、撮像手段としての撮像装置200と、光照射手段としての光源202と、これらを収容する撮像ケース201とから構成されている。撮像ユニット101は自車両100のフロントガラス105の内壁面側に設置される。撮像装置200は、図3に示すように、撮像レンズ204と、光学フィルタ205と、画像センサ206とから構成されている。光源202は、フロントガラス105に向けて赤外光を含む光を照射し、その光がフロントガラス105の外壁面に付着する雨滴と空気との界面で反射したときにその反射光が撮像装置200へ入射するように配置されている。また、フロントガラス105の外壁面に付着する付着物が非光透過性の異物である場合には、光源202からの光が異物とフロントガラス105の外壁面との界面で反射したときにその反射光が撮像装置200へ入射する。
本実施形態において、光源202は、フロントガラス105の外壁面に付着した付着物(以下、付着物が雨滴である場合を例に挙げて説明する。)を検出するためのものである。フロントガラス105の外壁面に雨滴203が付着していない場合、光源202から照射された光は、その多くがフロントガラス105の外壁面を透過するので、撮像装置200へはほとんど入射されない。一方、図2に示すように、フロントガラス105の外壁面に雨滴203が付着している場合には、フロントガラス105の外壁面を透過した後に雨滴203と空気との界面で反射し、その反射光が再びフロントガラス105の外壁面を透過することで、撮像装置200に入射する。この違いにより、撮像装置200の撮像画像データにはコントラスト(輝度差)が生じ、フロントガラス105に付着する雨滴203の検出が可能となる。
また、本実施形態において、撮像ユニット101は、図2に示すとおり、撮像装置200や光源202を、フロントガラス105とともに撮像ケース201で覆っている。このように撮像ケース201で覆うことにより、フロントガラス105の内壁面が曇るような状況であっても、撮像ユニット101で覆われたフロントガラス105が曇ってしまう事態を抑制できる。よって、フロントガラスの曇りによって画像解析ユニット102が誤解析するような事態を抑制でき、画像解析ユニット102の解析結果に基づく各種制御動作を適切に行うことができる。
ただし、フロントガラス105の曇りを撮像装置200の撮像画像データから検出して、例えば自車両100の空調設備を制御する場合には、撮像装置200に対向するフロントガラス105の部分が他の部分と同じ状況となるように、撮像ケース201の一部に空気の流れる通路を形成してもよい。
ここで、本実施形態では、撮像レンズ204の焦点位置は、無限遠又は無限遠とフロントガラス105との間に設定している。これにより、フロントガラス105上に付着した雨滴203の検出を行う場合だけでなく、先行車両や対向車両の検出や白線の検出を行う場合にも、撮像装置200の撮像画像データから適切な情報を取得することができる。
例えば、フロントガラス105上に付着した雨滴203の検出を行う場合、撮像画像データ上の雨滴画像の形状は円形状であることが多いので、撮像画像データ上の雨滴候補画像が円形状であるかどうかを判断してその雨滴候補画像が雨滴画像であると識別する形状認識処理を行う。このような形状認識処理を行う場合、フロントガラス105の外壁面上の雨滴203に撮像レンズ204の焦点が合っているよりも、上述したように無限遠又は無限遠とフロントガラス105との間に焦点が合っている方が、多少ピンボケして、雨滴の形状認識率(円形状)が高くなり、雨滴検出性能が高い。
図4は、フロントガラス105の外壁面上の雨滴203に撮像レンズ204の焦点が合っている場合における、雨滴検出用の撮像画像データである赤外光画像データを示す説明図である。
図5は、無限遠に焦点が合っている場合における、雨滴検出用の撮像画像データである赤外光画像データを示す説明図である。
フロントガラス105の外壁面上の雨滴203に撮像レンズ204の焦点が合っている場合、図4に示すように、雨滴に映り込んだ背景画像203aまでが撮像される。このような背景画像203aは雨滴203の誤検出の原因となる。また、図4に示すように雨滴の一部203bだけ弓状等に輝度が大きくなる場合があり、その大輝度部分の形状すなわち雨滴画像の形状は太陽光の方向や街灯の位置などによって変化する。このような種々変化する雨滴画像の形状を形状認識処理で対応するためには処理負荷が大きく、また認識精度の低下を招く。
これに対し、無限遠に焦点が合っている場合には、図5に示すように、多少のピンボケが発生する。そのため、背景画像203aの映り込みが撮像画像データに反映されず、雨滴203の誤検出が軽減される。また、多少のピンボケが発生することで、太陽光の方向や街灯の位置などによって雨滴画像の形状が変化する度合いが小さくなり。雨滴画像の形状は常に略円形状となる。よって、雨滴203の形状認識処理の負荷が小さく、また認識精度も高い。
ただし、無限遠に焦点が合っている場合、遠方を走行する先行車両のテールランプを識別する際に、画像センサ206上のテールランプの光を受光する受光素子が1個程度になることがある。この場合、詳しくは後述するが、テールランプの光がテールランプ色(赤色)を受光する赤色用受光素子に受光されないおそれがあり、その際にはテールランプを認識できず、先行車両の検出ができない。このような不具合を回避しようとする場合には、撮像レンズ204の焦点を無限遠よりも手前に合わせることが好ましい。これにより、遠方を走行する先行車両のテールランプがピンボケするので、テールランプの光を受光する受光素子の数を増やすことができ、テールランプの認識精度が上がり先行車両の検出精度が向上する。
撮像ユニット101の光源202には、発光ダイオード(LED)や半導体レーザ(LD)などを用いることができる。また、光源202の発光波長は、例えば可視光や赤外光を用いることができる。ただし、光源202の光で対向車両の運転者や歩行者等を眩惑するのを回避する場合には、可視光よりも波長が長くて画像センサ206の受光感度がおよぶ範囲の波長、例えば800nm以上1000nm以下の赤外光領域の波長を選択するのが好ましい。本実施形態の光源202は、赤外光領域の波長を有する光を照射するものである。
ここで、フロントガラス105上の雨滴203で反射した光源202からの赤外波長光を撮像装置200で撮像する際、撮像装置200の画像センサ206では、光源202からの赤外波長光のほか、例えば太陽光などの赤外波長光を含む大光量の外乱光も受光される。よって、光源202からの赤外波長光をこのような大光量の外乱光と区別するためには、光源202の発光量を外乱光よりも十分に大きくする必要があるが、このような大発光量の光源202を用いることは困難である場合が多い。
そこで、本実施形態においては、例えば、図6に示すように光源202の発光波長よりも短い波長の光をカットするようなカットフィルタか、もしくは、図7に示すように透過率のピークが光源202の発光波長とほぼ一致したバンドパスフィルタを介して、光源202からの光を画像センサ206で受光するように構成する。これにより、光源202の発光波長以外の光を除去して受光できるので、画像センサ206で受光される光源202からの光量は、外乱光に対して相対的に大きくなる。その結果、大発光量の光源202でなくても、光源202からの光を外乱光と区別することが可能となる。
ただし、本実施形態においては、撮像画像データから、フロントガラス105上の雨滴203を検出するだけでなく、先行車両や対向車両の検出や白線の検出も行う。そのため、撮像画像全体について光源202が照射する赤外波長光以外の波長帯を除去してしまうと、先行車両や対向車両の検出や白線の検出に必要な波長帯の光を画像センサ206で受光できず、これらの検出に支障をきたす。そこで、本実施形態では、撮像画像データの画像領域を、フロントガラス105上の雨滴203を検出するための雨滴検出用画像領域と、先行車両や対向車両の検出や白線の検出を行うための車両検出用画像領域とに区分し、雨滴検出用画像領域に対応する部分についてのみ光源202が照射する赤外波長光以外の波長帯を除去するフィルタを、光学フィルタ205に配置している。
図8は、光学フィルタ205に設けられる前段フィルタ210の正面図である。
図9は、撮像画像データの画像例を示す説明図である。
本実施形態の光学フィルタ205は、図3に示したように、前段フィルタ210と後段フィルタ220とを光透過方向に重ね合わせた構造となっている。前段フィルタ210は、図8に示すように、車両検出用画像領域213である撮像画像上部2/3に対応する箇所に配置される赤外光カットフィルタ領域211と、雨滴検出用画像領域214である撮像画像下部1/3に対応する箇所に配置される赤外光透過フィルタ領域212とに、領域分割されている。赤外光透過フィルタ領域212には、図6に示したカットフィルタや図7に示したバンドパスフィルタを用いる。
対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の画像は、主に撮像画像中央部から上部に存在することが多く、撮像画像下部には自車両前方の直近路面の画像が存在するのが通常である。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別に必要な情報は撮像画像上部に集中しており、その識別において撮像画像下部の情報はあまり重要でない。よって、単一の撮像画像データから、対向車両や先行車両あるいは白線の検出と雨滴の検出とを両立して行う場合には、図9に示すように、撮像画像下部を雨滴検出用画像領域214とし、残りの撮像画像上部を車両検出用画像領域213とし、これに対応して前段フィルタ210を領域分割するのが好適である。
なお、本実施形態では、撮像画像中における車両検出用画像領域213の下部に雨滴検出用画像領域214を設けた例であるが、車両検出用画像領域213の上部に雨滴検出用画像領域214を設けたり、車両検出用画像領域213の上部と下部の両方に雨滴検出用画像領域214を設けたりしてもよい。
撮像装置200の撮像方向を下方へ傾けていくと、撮像領域内の下部に自車両のボンネットが入り込んでくる場合がある。この場合、自車両のボンネットで反射した太陽光や先行車両のテールランプなどが外乱光となり、これが撮像画像データに含まれることで対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の誤識別の原因となる。このような場合でも、本実施形態では、撮像画像下部に対応する箇所に図6に示したカットフィルタや図7に示したバンドパスフィルタが配置されているので、ボンネットで反射した太陽光や先行車両のテールランプなどの外乱光が除去される。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別精度が向上する。
なお、本実施形態では、撮像レンズ204の特性により、撮像領域内の光景と画像センサ206上の像とでは天地が逆になる。よって、撮像画像下部を雨滴検出用画像領域214とする場合には、光学フィルタ205の前段フィルタ210の上部を図6に示したカットフィルタや図7に示したバンドパスフィルタで構成することになる。
ここで、先行車両を検出する際には、撮像画像上のテールランプを識別することで先行車両の検出を行うが、テールランプは対向車両のヘッドランプと比較して光量が少なく、また街灯などの外乱光も多く存在するため、単なる輝度データのみからテールランプを高精度に検出するのは困難である。そのため、テールランプの識別には分光情報を利用し、赤色光の受光量に基づいてテールランプを識別することが必要となる。そこで、本実施形態では、後述するように、光学フィルタ205の後段フィルタ220に、テールランプの色に合わせた赤色フィルタあるいはシアンフィルタ(テールランプの色の波長帯のみを透過させるフィルタ)を配置し、赤色光の受光量を検知できるようにしている。
ただし、本実施形態の画像センサ206を構成する各受光素子は、赤外波長帯の光に対しても感度を有するので、赤外波長帯を含んだ光を画像センサ206で受光すると、得られる撮像画像は全体的に赤みを帯びたものとなってしまう。その結果、テールランプに対応する赤色の画像部分を識別することが困難となる場合がある。そこで、本実施形態では、光学フィルタ205の前段フィルタ210において、車両検出用画像領域213に対応する箇所を赤外光カットフィルタ領域211としている。これにより、テールランプの識別に用いる撮像画像データ部分から赤外波長帯が除外されるので、テールランプの識別精度が向上する。
図10は、本実施形態における物体検出装置の詳細を示す説明図である。
本実施形態における物体検出装置を構成する撮像装置200は、主に、撮像レンズ204と、光学フィルタ205と、2次元配置された画素アレイを有する画像センサ206を含んだセンサ基板207と、センサ基板207から出力されるアナログ電気信号(画像センサ206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する信号処理部208とから構成されている。被写体(検出対象物)を含む撮像領域からの光は、撮像レンズ204を通り、光学フィルタ205を透過して、画像センサ206でその光強度に応じた電気信号に変換される。信号処理部208では、画像センサ206から出力される電気信号(アナログ信号)が入力されると、その電気信号から、撮像画像データとして、画像センサ206上における各画素の明るさ(輝度)を示すデジタル信号を、画像の水平・垂直同期信号とともに後段のユニットへ出力する。また、信号処理部208は、画像センサ206の露光制御を行う露光量変更手段あるいは露光条件変更手段としても機能するため、露光量変更部を備えている。また、本実施形態の物体検出装置は、画像形成ユニット102に対象物検出処理部及び雨滴検出処理部を備え、物体検出装置における対象物検出処理手段や付着物検出処理手段の機能が画像形成ユニット102に設けられている例であるが、これらの機能の少なくとも一部を撮像装置200に設けてもよい。
図11は、光学フィルタ205と画像センサ206とを光透過方向に対して直交する方向から見たときの模式拡大図である。
画像センサ206は、全撮像画素を同時露光(グローバルシャッタ)して各撮像画素の信号を読み出すCCD(Charge Coupled Device)や、ライン露光(ローリングシャッタ)で露光された各撮像画素の信号を読み出すCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、その受光素子にはフォトダイオード206Aを用いている。フォトダイオード206Aは、画素ごとに2次元的にアレイ配置されており、フォトダイオード206Aの集光効率を上げるために、各フォトダイオード206Aの入射側にはマイクロレンズ206Bが設けられている。この画像センサ206がワイヤボンディングなどの手法によりPWB(printed wiring board)に接合されてセンサ基板207が形成されている。
画像センサ206のマイクロレンズ206B側の面には、光学フィルタ205が近接配置されている。光学フィルタ205の後段フィルタ220は、図11に示すように、透明なフィルタ基板221上に偏光フィルタ層222と分光フィルタ層223を順次形成して積層構造としたものである。偏光フィルタ層222と分光フィルタ層223は、いずれも、画像センサ206上における1つのフォトダイオード206Aに対応するように領域分割されている。
光学フィルタ205と画像センサ206との間に空隙がある構成としてもよいが、光学フィルタ205を画像センサ206に密着させる構成とした方が、光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の各領域の境界と画像センサ206上のフォトダイオード206A間の境界とを一致させやすくなる。光学フィルタ205と画像センサ206は、例えば、UV接着剤で接合してもよいし、撮像に用いる有効画素範囲外でスペーサにより支持した状態で有効画素外の四辺領域をUV接着や熱圧着してもよい。
図12は、本実施形態に係る光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の領域分割パターンを示す説明図である。
偏光フィルタ層222と分光フィルタ層223は、それぞれ、第1領域及び第2領域という2種類の領域が、画像センサ206上の1つのフォトダイオード206Aに対応して配置されたものである。これにより、画像センサ206上の各フォトダイオード206Aによって受光される受光量は、受光する光が透過した偏光フィルタ層222と分光フィルタ層223の領域の種類に応じて、偏光情報や分光情報等として取得することができる。
なお、本実施形態では、画像センサ206はモノクロ画像用の撮像素子を前提にして説明するが、画像センサ206をカラー用撮像素子で構成してもよい。カラー用撮像素子で構成する場合、カラー用撮像素子の各撮像画素に付属するカラーフィルタの特性に応じて、偏光フィルタ層222と分光フィルタ層223の各領域の光透過特性を調整してやればよい。
〔光学フィルタの構成例1〕
ここで、本実施形態における光学フィルタ205の一構成例(以下、本構成例を「構成例1」という。)について説明する。
図13は、本構成例1における光学フィルタ205の層構成を模式的に示す断面図である。
本構成例1における光学フィルタ205の後段フィルタ220は、車両検出用画像領域213に対応する車両検出用フィルタ部220Aと、雨滴検出用画像領域214に対応する雨滴検出用フィルタ部220Bとで、その層構成が異なっている。具体的には、車両検出用フィルタ部220Aは分光フィルタ層223を備えているのに対し、雨滴検出用フィルタ部220Bは分光フィルタ層223を備えていない。また、車両検出用フィルタ部220Aと雨滴検出用フィルタ部220Bとでは、その偏光フィルタ層222,225の構成が異なっている。
図14は、本構成例1における光学フィルタ205の車両検出用フィルタ部220Aを透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図15(a)は、図14に示す符号A−Aで切断した光学フィルタ205の車両検出用フィルタ部220A及び画像センサ206を模式的に表した断面図である。
図15(b)は、図14に示す符号B−Bで切断した光学フィルタ205の車両検出用フィルタ部220A及び画像センサ206を模式的に表した断面図である。
本構成例1における光学フィルタ205の車両検出用フィルタ部220Aは、図15(a)及び(b)に示すように、透明なフィルタ基板221の上に偏光フィルタ層222を形成した後、その上に分光フィルタ層223を形成して積層構造としたものである。そして、偏光フィルタ層222は、ワイヤーグリッド構造を有するものであり、その積層方向上面(図15中下側面)は凹凸面となる。このような凹凸面上にそのまま分光フィルタ層223を形成しようとすると、分光フィルタ層223がその凹凸面に沿って形成され、分光フィルタ層223の層厚ムラが生じて本来の分光性能が得られない場合がある。そこで、本実施形態の光学フィルタ205は、偏光フィルタ層222の積層方向上面側を充填材で充填して平坦化した後、その上に分光フィルタ層223を形成している。
充填材としては、この充填材によって凹凸面が平坦化される偏光フィルタ層222の機能を妨げない材料であればよいので、本実施形態では偏光機能を有しない材料のものを用いる。また、充填材による平坦化処理は、例えば、スピンオングラス法によって充填材を塗布する方法が好適に採用できるが、これに限られるものではない。
本構成例1において、偏光フィルタ層222の第1領域は、画像センサ206の撮像画素の縦列(鉛直方向)に平行に振動する鉛直偏光成分のみを選択して透過させる鉛直偏光領域であり、偏光フィルタ層222の第2領域は、画像センサ206の撮像画素の横列(水平方向)に平行に振動する水平偏光成分のみを選択して透過させる水平偏光領域である。
また、分光フィルタ層223の第1領域は、偏光フィルタ層222を透過可能な使用波長帯域に含まれる赤色波長帯(特定波長帯)の光のみを選択して透過させる赤色分光領域であり、分光フィルタ層223の第2領域は、波長選択を行わずに光を透過させる非分光領域である。そして、本構成例1においては、図14に一点鎖線で囲ったように、隣接する縦2つ横2つの合計4つの撮像画素(符号a、b、e、fの4撮像画素)によって撮像画像データの1画像画素が構成される。
図14に示す撮像画素aでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素aは、鉛直偏光成分(図14中符号Pで示す。)の赤色波長帯(図14中符号Rで示す。)の光P/Rを受光することになる。
また、図14に示す撮像画素bでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素bは、鉛直偏光成分Pにおける非分光(図14中符号Cで示す。)の光P/Cを受光することになる。
また、図14に示す撮像画素eでは、光学フィルタ205の偏光フィルタ層222における水平偏光領域(第2領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素eは、水平偏光成分(図14中符号Sで示す。)における非分光Cの光S/Cを受光することになる。
図14に示す撮像画素fでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素fは、撮像画素aと同様、鉛直偏光成分Pにおける赤色波長帯Rの光P/Rを受光することになる。
以上の構成により、本構成例1によれば、撮像画素aおよび撮像画素fの出力信号から赤色光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素bの出力信号から非分光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素eの出力信号から非分光の水平偏光成分画像についての一画像画素が得られる。よって、本構成例1によれば、一度の撮像動作により、赤色光の鉛直偏光成分画像、非分光の鉛直偏光成分画像、非分光の水平偏光成分画像という3種類の撮像画像データを得ることができる。
なお、これらの撮像画像データでは、その画像画素の数が撮像画素数よりも少なくなるが、より高解像度の画像を得る際には一般に知られる画像補間技術を用いてもよい。例えば、より高い解像度である赤色光の鉛直偏光成分画像を得ようとする場合、撮像画素aと撮像画素fに対応する画像画素についてはこれらの撮像画素a,fで受光した赤色光の鉛直偏光成分Pの情報をそのまま使用し、撮像画素bに対応する画像画素については、例えばその周囲を取り囲む撮像画素a,c,f,jの平均値を当該画像画素の赤色光の鉛直偏光成分の情報として使用する。
また、より高い解像度である非分光の水平偏光成分画像を得ようとする場合、撮像画素eに対応する画像画素についてはこの撮像画素eで受光した非分光の水平偏光成分Sの情報をそのまま使用し、撮像画素a,b,fに対応する画像画素については、その周囲で非分光の水平偏光成分を受光する撮像画素eや撮像画素gなどの平均値を使用したり、撮像画素eと同じ値を使用したりしてもよい。
このようにして得られる赤色光の鉛直偏光成分画像は、例えば、テールランプの識別に使用することができる。赤色光の鉛直偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射した赤色光や自車両100の室内におけるダッシュボードなどからの赤色光(映りこみ光)等のように水平偏光成分Sの強い赤色光による外乱要因が抑制された赤色画像を得ることができる。よって、赤色光の鉛直偏光成分画像をテールランプの識別に使用することで、テールランプの認識率が向上する。
また、非分光の鉛直偏光成分画像は、例えば、白線や対向車両のヘッドランプの識別に使用することができる。非分光の水平偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射したヘッドランプや街灯等の白色光や自車両100の室内におけるダッシュボードなどからの白色光(映りこみ光)等のように水平偏光成分Sの強い白色光による外乱要因が抑制された非分光画像を得ることができる。よって、非分光の鉛直偏光成分画像を白線や対向車両のヘッドランプの識別に使用することで、その認識率が向上する。特に、雨路において、路面を覆った水面からの反射光は水平偏光成分Sが多いことが一般に知られている。よって、非分光の鉛直偏光成分画像を白線の識別に使用することで、雨路における水面下の白線を適切に識別することが可能となり、認識率が向上する。
また、非分光の鉛直偏光成分画像と非分光の水平偏光成分画像との間で各画素値を比較した指標値を画素値とした比較画像を用いれば、後述するように、撮像領域内の金属物体、路面の乾湿状態、撮像領域内の立体物、雨路における白線の高精度な識別が可能となる。ここで用いる比較画像としては、例えば、非分光の鉛直偏光成分画像と非分光の水平偏光成分画像との間の画素値の差分値を画素値とした差分画像、これらの画像間の画素値の比率を画素値とした比率画像、あるいは、これらの画像間の画素値の合計に対するこれらの画像間の画素値の差分値の比率(差分偏光度)を画素値とした差分偏光度画像などを使用することができる。
図16は、本構成例1における光学フィルタ205の雨滴検出用フィルタ部220Bを透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図17(a)は、図16に示す符号A−Aで切断した光学フィルタ205の雨滴検出用フィルタ部220B及び画像センサ206を模式的に表した断面図である。
図17(b)は、図16に示す符号B−Bで切断した光学フィルタ205の雨滴検出用フィルタ部220B及び画像センサ206を模式的に表した断面図である。
本構成例1における光学フィルタ205の雨滴検出用フィルタ部220Bは、図17(a)及び(b)に示すように、前記車両検出用フィルタ部220Aと共通のフィルタ基板221の上にワイヤーグリッド構造の偏光フィルタ層225が形成されている。この偏光フィルタ層225は、前記車両検出用フィルタ部220Aの偏光フィルタ層222とともに、積層方向上面側が充填材によって充填されて平坦化されている。ただし、雨滴検出用フィルタ部220Bは、前記車両検出用フィルタ部220Aとは異なり、分光フィルタ層223は積層されていない。
本実施形態においては、自車両100の室内側の風景がフロントガラス105の内壁面に映り込むことがある。この映り込みは、フロントガラス105の内壁面で正反射した光によるものである。この映り込みは、正反射光であるのでその光強度が比較的大きい外乱光である。よって、この映り込みが雨滴と一緒に雨滴検出用画像領域214に映し出されると、雨滴の検出精度が低下する。また、光源202からの光がフロントガラス105の内壁面で正反射した正反射光も、雨滴と一緒に雨滴検出用画像領域214に映し出されると、外乱光となって雨滴の検出精度を低下させる。
このような雨滴の検出精度を低下させる外乱光は、フロントガラス105の内壁面で正反射した正反射光であるので、その偏光成分のほとんどは光源入射面に対して偏光方向が垂直な偏光成分、すなわち、画像センサ206の撮像画素の横列(水平方向)に平行に振動する水平偏光成分Sである。そこで、本構成例1の光学フィルタ205の雨滴検出用フィルタ部220Bにおける偏光フィルタ層225は、フロントガラス105に向かう光源202からの光の光軸と撮像レンズ204の光軸とを含む仮想面(光源入射面)に対して偏光方向が平行である偏光成分、すなわち、画像センサ206の撮像画素の縦列(鉛直方向)に平行に振動する鉛直偏光成分Pのみを透過するように透過軸が設定されている。
これにより、雨滴検出用フィルタ部220Bの偏光フィルタ層225を透過する光は、鉛直偏光成分Pのみとなり、フロントガラス105の内壁面の映り込みや、フロントガラス105の内壁面で正反射した光源202からの正反射光などの外乱光の大部分を占める水平偏光成分Sをカットすることができる。その結果、雨滴検出用画像領域214は、外乱光による影響の少ない鉛直偏光成分Pによる鉛直偏光画像となり、その雨滴検出用画像領域214の撮像画像データに基づく雨滴の検出精度が向上する。
本構成例1では、前段フィルタ210を構成する赤外光カットフィルタ領域211と赤外光透過フィルタ領域212とが、それぞれ層構成の異なる多層膜によって形成されている。このような前段フィルタ210の製造方法としては、赤外光カットフィルタ領域211の部分をマスクで隠しながら赤外光透過フィルタ領域212の部分を真空蒸着などにより成膜した後、今度は赤外光透過フィルタ領域212の部分をマスクで隠しながら赤外光カットフィルタ領域211の部分を真空蒸着などにより成膜するという方法が挙げられる。
また、本構成例1において、車両検出用フィルタ部220Aの偏光フィルタ層222と、雨滴検出用フィルタ部220Bの偏光フィルタ層225とは、いずれも、2次元方向に領域分割されたワイヤーグリッド構造であるが、前者の偏光フィルタ層222は透過軸が互いに直交する2種類の領域(鉛直偏光領域及び水平偏光領域)が撮像画素単位で領域分割されたものであり、後者の偏光フィルタ層225は鉛直偏光成分Pのみを透過させる透過軸をもつ1種類の領域が撮像画素単位で領域分割されたものである。このような異なる構成をもつ偏光フィルタ層222,225を同一のフィルタ基板221上に形成する場合、例えば、ワイヤーグリッド構造の金属ワイヤーのパターニングを行うテンプレート(型に相当するもの)の溝方向の調整により、各領域の金属ワイヤーの長手方向の調整は容易である。
なお、本構成例1では、赤外光カットフィルタ領域211を光学フィルタ205に設けず、例えば、撮像レンズ204に赤外光カットフィルタ領域211を設けてもよい。この場合、光学フィルタ205の作製が容易となる。
また、赤外光カットフィルタ領域211に代えて、後段フィルタ220の雨滴検出用フィルタ部220Bに鉛直偏光成分Pのみを透過させる分光フィルタ層を形成してもよい。この場合、前段フィルタ210には赤外光カットフィルタ領域211を形成する必要はない。
また、偏光フィルタ層は、必ずしも設ける必要はない。
図18は、雨滴検出に関わる各種光線についての説明図である。
光源202は、フロントガラス105の外壁面での正反射光が撮像レンズ204の光軸と略一致するように配置されている。
図18中の光線Aは、光源202から出射してフロントガラス105を通過する光線である。フロントガラス105の外壁面に雨滴203が付着していない場合、光源202からフロントガラス105に向けて照射された光は、光線Aのように、フロントガラス105を透過してそのまま自車両100の外部に漏れ出る。そのため、光源202としては、その光が人間の目に当たることを考慮して、アイセーフ帯の波長・光量の光源を選択するのが好ましい。また、図18に示すように、光源202からフロントガラス105に向けて照射された光が鉛直方向上方に向かうように構成すると、その光が人間の目に当たる可能性が少なくなるので、より好ましい。
図18中の光線Bは、光源202からの出射光がフロントガラス105の内壁面で正反射して撮像装置200へ入射する光線である。光源202からフロントガラス105へ向かう光の一部はフロントガラス105の内壁面で正反射する。この正反射光(光線B)の偏光成分は、一般に、その入射面に対して直交する方向(図18の紙面に対して垂直な方向)に振動するS偏光成分(水平偏光成分S)が支配的であることが知られている。光源202から照射されてフロントガラス105の内壁面で正反射した正反射光(光線B)は、フロントガラス105の外壁面に付着する雨滴203の有無によって変動しないので、雨滴検出に不要な光であるばかりか、雨滴検出の検出精度を低下させる外乱光となる。本構成例1では、光線B(水平偏光成分S)が雨滴検出用フィルタ部220Bの偏光フィルタ層225によってカットされるので、この光線Bによって雨滴検出精度が低下することを抑制できる。
図18中の光線Cは、光源202からの出射光がフロントガラス105の内壁面を透過し、その後、フロントガラス105の外壁面に付着する雨滴で反射して撮像装置200へ入射する光線である。光源202からフロントガラス105へ向かう光の一部はフロントガラス105の内壁面を透過するが、その透過光は水平偏光成分Sよりも鉛直偏光成分Pの方が多い。そして、フロントガラス105の外壁面上に雨滴203が付着している場合、フロントガラス105の内壁面を透過した光は、前記光線Aのように外部へ漏れ出ずに、雨滴内部で多重反射して撮像装置200側に向けて再度フロントガラス105内を透過し、撮像装置200に入射する。このとき、撮像装置200の光学フィルタ205における前段フィルタ210の赤外光透過フィルタ領域212は、光源202の発光波長(赤外光)を透過させるように構成されているので、光線Cは赤外光透過フィルタ領域212を通過する。また、続く後段フィルタ220の雨滴検出用フィルタ部220Bの偏光フィルタ層225は、鉛直偏光成分Pを透過するようにワイヤーグリッド構造の金属ワイヤーの長手方向が形成されているため、光線Cは偏光フィルタ層225も透過する。よって、光線Cは、画像センサ206に到達し、その受光量によって雨滴の検出が行われる。
図18中の光線Dは、フロントガラス105の外部からフロントガラス105を透過して撮像装置200の雨滴検出用フィルタ部220Bに向かって入射してくる光線である。この光線Dも雨滴検出時の外乱光となり得るが、本構成例1では、その光線Dの大部分が、光学フィルタ205における前段フィルタ210の赤外光透過フィルタ領域212によってカットされる。よって、この光線Dによって雨滴検出精度が低下することも抑制できる。
図18中の光線Eは、フロントガラス105の外部からフロントガラス105を透過して撮像装置200の車両検出用フィルタ部220Aに向かって入射してくる光線である。この光線Eは、光学フィルタ205における前段フィルタ210の赤外光カットフィルタ領域211によって赤外光帯域がカットされ、可視域の光のみが撮像される。この撮像画像は、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の検出などに利用される。
なお、本構成例1では、光源202が1つである場合について説明したが、光源202は複数配置してもよい。その場合、雨滴検出用フィルタ部220Bの偏光フィルタ層225は、その透過軸方向が互いに異なる複数の偏光フィルタ領域を、撮像素子単位で、撮像画素の2次元配列方向へ繰り返されるように領域分割したものを用いる。そして、各偏光フィルタ領域は、複数の光源202のうち当該偏光フィルタ領域への入射光量が最も多い光源からの光の光軸と撮像レンズ204の光軸とを含む仮想面に対して偏光方向が平行である偏光成分のみを透過するように透過軸を設定する。
また、光源202が1つである場合でも複数である場合でも、フロントガラス105の内壁面で正反射した外乱光を適切に除去できる偏光フィルタ層225の透過軸方向は、偏光フィルタ層225の各地点に入射してくる外乱光のフロントガラス内壁面上の反射地点に応じて変わる。自動車のフロントガラス105は、空力特性向上のために、前方に向かって下方へ傾斜しているだけでなく、左右方向において中央部から両端部に向けて後方へ大きく湾曲しているためである。このような場合、撮像画像の雨滴検出用画像領域214において、画像中央部では外乱光を適切にカットできても、画像端部では外乱光を適切にカットできないという事態が起こり得る。
図19は、偏光フィルタ層225の各地点(ポイント1〜3)で、ワイヤーグリッド構造の金属ワイヤー長手方向が異なる例を示す説明図である。
このような構成とすることにより、撮像画像の雨滴検出用画像領域214の全域で外乱光を適切にカットすることが可能となる。
なお、本実施形態の光学フィルタ205は、図14に示したように領域分割された偏光フィルタ層222及び分光フィルタ層223を有する後段フィルタ220が、前段フィルタ210よりも画像センサ206側に設けられているが、前段フィルタ210を後段フィルタ220よりも画像センサ206側に設けてもよい。
〔光学フィルタの構成例2〕
次に、本実施形態における光学フィルタ205の他の構成例(以下、本構成例を「構成例2」という。)について説明する。なお、以下の光学フィルタ205の説明では、前段フィルタ210及び後段フィルタ220の雨滴検出用フィルタ部220Bの構成についてはは前記構成例1の場合と同様であるので、これらの説明は省略し、後段フィルタ220の車両検出用フィルタ部220Aについてのみ説明する。
図20は、本構成例2における光学フィルタ205を透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図21(a)は、図20に示す符号A−Aで切断した光学フィルタ205及び画像センサ206を模式的に表した断面図である。
図21(b)は、図20に示す符号B−Bで切断した光学フィルタ205及び画像センサ206を模式的に表した断面図である。
前記構成例1では、分光フィルタ層223の第1領域が、赤色波長帯の光のみを選択して透過させる赤色分光領域であったが、本構成例2では、偏光フィルタ層222を透過可能な使用波長帯域に含まれるシアン色波長帯(図20中符号Cyで示す。)の光のみを選択して透過させるシアン分光領域である。その他の構成は前記構成例1と同様である。
本構成例2によれば、撮像画素aおよび撮像画素fの出力信号からシアン光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素bの出力信号から非分光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素eの出力信号から非分光の水平偏光成分画像についての一画像画素が得られる。よって、本構成例2によれば、一度の撮像動作により、シアン光の鉛直偏光成分画像、非分光の鉛直偏光成分画像、非分光の水平偏光成分画像という3種類の撮像画像データを得ることができる。
本構成例2では、このようにして得られる3種類の撮像画像データにより、前記構成例1の場合と同様に、各種識別対象(テールランプ、ヘッドランプ、白線等)の認識率が向上する。
更に、本構成例2によれば、シアン光の鉛直偏光成分画像と非分光の鉛直偏光成分画像との比較画像を用いることが可能となり、このような比較画像を用いることでテールランプの高精度な識別が可能となる。すなわち、テールランプの光は、シアン分光領域を透過した撮像画素では受光量が少なく、非分光領域を透過した撮像画素では受光量が多い。よって、この違いが反映されるように、シアン光の鉛直偏光成分画像と非分光の鉛直偏光成分画像との比較画像を生成すれば、テールランプとその周囲の背景部分とのコントラストを大きくでき、テールランプの認識率が向上する。
また、本構成例2では、前記構成例1の赤色フィルタを用いた赤色分光領域に代えて、シアン色の光のみを透過させるシアンフィルタを用いたシアン分光領域を用いているので、前記構成例1の場合よりも、先行車両が自車両に近いときのテールランプと対向車両のヘッドランプとの識別能力が高い。前記構成例1のように赤色分光領域を用いた場合、自車両に近い先行車両のテールランプについては、その赤色分光領域を通じた受光量が受光感度が無くなるほど大きくなって飽和する場合がある。そのため、自車両に近い先行車両のテールランプの認識率が低下するおそれがある。これに対し、本構成例2のようにシアン分光領域を用いた場合、自車両に近い先行車両のテールランプについて、そのシアン分光領域を通じた受光量が飽和することなく、自車両に近い先行車両のテールランプの認識率が低下するのを抑制できる。
〔光学フィルタの構成例3〕
次に、本実施形態における光学フィルタ205の更に他の構成例(以下、本構成例を「構成例3」という。)について説明する。
図22は、本構成例3における光学フィルタ205を透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図23(a)は、図22に示す符号A−Aで切断した光学フィルタ205及び画像センサ206を模式的に表した断面図である。
図23(b)は、図22に示す符号B−Bで切断した光学フィルタ205及び画像センサ206を模式的に表した断面図である。
本構成例3の偏光フィルタ層222及び分光フィルタ層223の領域分割構成は、前記構成例1の場合と同じであるが、本構成例3では、分光フィルタ層223の非分光領域に対応して、受光量を制限するための開口制限部が設けられている。したがって、本構成例3においては、前記構成例1と同様に、一度の撮像動作により、赤色光の鉛直偏光成分画像、非分光の鉛直偏光成分画像、非分光の水平偏光成分画像という3種類の撮像画像データを得ることができるが、これらのうち、非分光の鉛直偏光成分画像及び非分光の水平偏光成分画像については、前記構成例1よりも少ない受光量によって生成されたものとなる。
分光フィルタ層223の非分光領域を透過する光の受光量を制限する構成としては、分光フィルタ層223の非分光領域に対応して、図24に示すように、偏光フィルタ層222の撮像画素中央部に円形状のワイヤーグリッド構造を形成し、その周辺部をアルミニウムのベタ膜とする構成が挙げられる。この構成によれば、アルミニウムのベタ膜では遮光されるので、ワイヤーグリッド構造を形成する領域の広狭(開口率)によって、分光フィルタ層223の非分光領域を透過する光の受光量を制限することができる。なお、ワイヤーグリッド構造を形成する領域形状は、図24に示した円形状に限らず、例えば、図25に示すような略四角形状であってもよい。図25に示すように角部を有する形状とする場合、その角部にRを持たせた方がエッチング加工などで形状寸法を出しやすい。
ワイヤーグリッド構造の偏光フィルタ層222は、例えば、フィルタ基板221上にアルミニウム膜を均一に形成した後にエッチング加工等によりアルミニウム膜を部分的に除去してワイヤーグリッド構造を得るという製造方法が一般的である。本構成例3のように、ワイヤーグリッド構造の周辺部にアルミニウムの遮光領域を設けて開口制限を行う場合には、ワイヤーグリッド構造の形成時にその周辺部のアルミニウム膜を残すように加工することで開口制限することができる。よって、偏光フィルタ層222とは別個に開口制限用の加工を行う場合よりも、製造工程を簡略化できる。
もちろん、偏光フィルタ層222とは別個に、図26に示すような開口制限層を設けてもよい。この場合、その開口制限層の撮像画素中央部にはワイヤーグリッド構造が形成されず、そのまま光を透過する開口部となる。
また、開口制限を行う遮光領域は、上述したようなアルミニウム膜等の反射膜に限定されるものではなく、例えば光を吸収する膜で形成してもよい。例えば、図27に示すように、ブラックレジストのベタ膜によって遮光領域を形成したものでもよい。この場合も、開口部は、図27に示した円形状に限らず、例えば、図28に示すような略四角形状であってもよい。図28に示すように角部を有する形状とする場合、その角部にRを持たせた方がエッチング加工などで形状寸法を出しやすい。
また、光を透過する開口部は1つの撮像画素に1つである必要はなく、1つの撮像画素に対して複数の開口部あるいはワイヤーグリッド構造領域を形成してもよい。また、遮光領域も、1つの撮像画素に1つである必要はなく、1つの撮像画素に対して複数の遮光部を形成してもよい。特に、遮光領域は、撮像画素の周辺部に設ける必要はなく、例えば、図29に示すように、ワイヤーグリッド構造の中にアルミニウムのベタ膜を離散的に配置した構成としてもよい。
本構成例3では、前記構成例1と同じ赤色光の鉛直偏光成分画像、前記構成例1と比較して受光量が制限された非分光の鉛直偏光成分画像及び非分光の水平偏光成分画像という3種類の撮像画像データを得ることができる。本構成例3において、赤色光の鉛直偏光成分画像を用いてテールランプを識別した結果から先行車両を検出するとともに、非分光の鉛直偏光成分画像や非分光の水平偏光成分画像を用いてヘッドランプを識別した結果から対向車両を検出する。テールランプやヘッドランプは、通常、水平方向に一定距離だけ離れた2つで1組のものである。よって、先行車両や対向車両の検出に際しては、これを利用して、撮像画像中における2つのテールランプ又は2つのヘッドランプの画像部分が一定距離離れている場合に、その1組のテールランプ又は1組のヘッドランプを先行車両又は対向車両のものとして認識する。このとき、ヘッドランプの光は、テールランプの光よりも光量が大きいので、テールランプの光を適切に受光できる受光感度に設定すると、ヘッドランプの受光量が飽和してしまい、1つのヘッドランプとして認識される画像領域が拡大し、本来は離間して認識される2つのヘッドランプ画像領域が一体の画像領域となってしまい、ヘッドランプの画像領域を適切に認識できず、対向車両の認識率が低下する。逆に、ヘッドランプの光を適切に受光できる受光感度に設定すると、テールランプの受光量が不足して、テールランプの画像領域を適切に認識できず、今度は先行車両の認識率が低下する。
本構成例3によれば、ヘッドランプの識別に用いる非分光の鉛直偏光成分画像及び非分光の水平偏光成分画像は、上述した開口制限により受光量が制限されたものである。よって、受光量が制限されていない赤色光の鉛直偏光成分画像を用いて識別されるテールランプに合わせて受光感度を設定しても、ヘッドランプの受光量が飽和する事態が抑制され、個々のヘッドランプの画像領域を個別に識別できるようになり、対向車両の認識率の低下が抑制される。
なお、例えば受光感度を切り替えて別々に撮像した撮像画像からヘッドランプの識別とテールランプの識別とを行うことにより、ヘッドランプとテールランプの識別を両立させることもできる。しかしながら、この場合には、受光感度を切り替えるなどの制御機構が必要となる上、撮像画像データのフレームレートが半分に落ち込むという不具合がある。これに対し、本構成例3によれば、このような不具合なく、ヘッドランプとテールランプの識別を両立させることができる。
〔光学フィルタの構成例4〕
次に、本実施形態における光学フィルタ205の更に他の構成例(以下、本構成例を「構成例4」という。)について説明する。
光学フィルタ205の後段フィルタ220に設けられる偏光フィルタ層222は、上述したように、鉛直偏光成分Pのみを選択して透過させる鉛直偏光領域(第1領域)と、水平偏光成分Sのみを選択して透過させる水平偏光領域(第2領域)とに、撮像画素単位で領域分割されている。これにより、鉛直偏光領域を透過した光を受光する撮像画素の画像データに基づいて、水平偏光成分Sがカットされた鉛直偏光成分画像を得ることができる。また、水平偏光領域を透過した光を受光する撮像画素の画像データからは、鉛直偏光成分Pがカットされた水平偏光成分画像を得ることができる。
フロントガラス105の面が平坦な面であれば、フロントガラス105の面に対して鉛直偏光領域や水平偏光領域の偏光方向(透過軸)を適切に設定することにより、フロントガラス105への映り込みを適切にカットした鉛直偏光成分画像や水平偏光成分画像を得ることができる。しかしながら、一般に、自動車のフロントガラス105は、空力特性向上のために、前方に向かって下方へ傾斜しているだけでなく、左右方向において中央部から両端部に向けて後方へ大きく湾曲している。そのため、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域や水平偏光領域の偏光方向(透過軸)がどの位置の領域でも一様であると、例えば、撮像画像中央部ではフロントガラス105からの映り込みが適切にカットできていても、撮像画像端部ではフロントガラス105からの映り込みが適切にカットできないことがある。
図30は、本構成例4における光学フィルタ205の偏光フィルタ層222におけるワイヤーグリッド構造の金属ワイヤーの長手方向を示す説明図である。
本構成例4の偏光フィルタ層222及び分光フィルタ層223の領域分割構成は、前記構成例1の場合と同じであるが、本構成例4では、偏光フィルタ層222の鉛直偏光領域の偏光方向(透過軸)が一様ではない。具体的には、図30に示すように、フロントガラス105の湾曲に合わせて、偏光フィルタ層222の水平方向端部へ近い鉛直偏光領域ほど、その偏光方向(透過軸)と鉛直方向との角度が大きくなるように、偏光フィルタ層222の鉛直偏光領域が形成されている。すなわち、本構成例4の偏光フィルタ層222は、水平方向端部へ近い鉛直偏光領域ほど、そのワイヤーグリッド構造の金属ワイヤーの長手方向と水平方向との角度が大きくなるように構成されている。本実施形態では、鉛直偏光領域をワイヤーグリッド構造で形成しているので、このように撮像画素という微小な単位で偏光方向が異なる多数の領域を形成することが可能である。
〔光学フィルタの各部詳細〕
次に、光学フィルタ205における後段フィルタ220の各部詳細について説明する。
フィルタ基板221は、使用帯域(本実施形態では可視光域と赤外域)の光を透過可能な透明な材料、例えば、ガラス、サファイア、水晶などで構成されている。本実施形態では、ガラス、特に、安価でかつ耐久性もある石英ガラス(屈折率1.46)やテンパックスガラス(屈折率1.51)が好適に用いることができる。
フィルタ基板221上に形成される偏光フィルタ層222は、図31に示すようなワイヤーグリッド構造で形成された偏光子で構成される。ワイヤーグリッド構造は、アルミニウムなどの金属で構成された特定方向に延びる金属ワイヤー(導電体線)を特定のピッチで配列した構造である。ワイヤーグリッド構造のワイヤーピッチを、入射光の波長帯に比べて十分に小さいピッチ(例えば1/2以下)とすることで、金属ワイヤーの長手方向に対して平行に振動する電場ベクトル成分の光をほとんど反射し、金属ワイヤーの長手方向に対して直交する方向に振動する電場ベクトル成分の光をほとんど透過させるため、単一偏光を作り出す偏光子として使用できる。
ワイヤーグリッド構造の偏光子は、一般に、金属ワイヤーの断面積が増加すると、消光比が増加し、更に周期幅に対する所定の幅以上の金属ワイヤーでは透過率が減少する。また、金属ワイヤーの長手方向に直交する断面形状がテーパー形状であると、広い帯域において透過率、偏光度の波長分散性が少なく、高消光比特性を示す。
本実施形態では、偏光フィルタ層222をワイヤーグリッド構造で形成していることにより、以下のような効果を有する。
ワイヤーグリッド構造は、広く知られた半導体製造プロセスを利用して形成することができる。具体的には、フィルタ基板221上にアルミニウム薄膜を蒸着した後、パターニングを行い、メタルエッチングなどの手法によってワイヤーグリッドのサブ波長凹凸構造を形成すればよい。このような製造プロセスにより、画像センサ206の撮像画素サイズ相当(数μmレベル)で金属ワイヤーの長手方向すなわち偏光方向(偏光軸)を調整することが可能となる。よって、本実施形態のように、撮像画素単位で金属ワイヤーの長手方向すなわち偏光方向(偏光軸)を異ならせた偏光フィルタ層222を作成することができる。
また、ワイヤーグリッド構造は、アルミニウムなどの金属材料によって作製されるため、耐熱性に優れ、高温になりやすい車両室内などの高温環境下においても好適に使用できるという利点もある。
偏光フィルタ層222の積層方向上面を平坦化するために用いられる充填材224は、偏光フィルタ層222の金属ワイヤー間の凹部に充填される。この充填材224は、フィルタ基板221よりも屈折率の低いか又は同等の屈折率を有する無機材料が好適に利用できる。なお、本実施形態における充填材224は、偏光フィルタ層222の金属ワイヤー部分の積層方向上面も覆うように形成される。
充填材224の具体的な材料としては、偏光フィルタ層222の偏光特性を劣化させないように、その屈折率が空気の屈折率(屈折率=1)に極力近い低屈折率材料であることが好ましい。例えば、セラミックス中に微細な空孔を分散させて形成してなる多孔質のセラミックス材料が好ましく、具体的には、ポーラスシリカ(SiO2)、ポーラスフッ化マグネシウム(MgF)、ポーラスアルミナ(Al23)などが挙げられる。また、これらの低屈折率の程度は、セラミックス中の空孔の数や大きさ(ポーラス度)によって決まる。フィルタ基板221の主成分がシリカの水晶やガラスからなる場合には、ポーラスシリカ(n=1.22〜1.26)が好適に使用できる。
充填材224の形成方法は、SOG(Spin On Glass)法を好適に用いることができる。具体的には、シラノール(Si(OH)4)をアルコールに溶かした溶剤を、フィルタ基板221上に形成された偏光フィルタ層222上にスピン塗布し、その後に熱処理によって溶媒成分を揮発させ、シラノール自体を脱水重合反応させるような経緯で形成される。
偏光フィルタ層222はサブ波長サイズのワイヤーグリッド構造であり、機械的強度が弱く、わずかな外力によって金属ワイヤーが損傷してしまう。本実施形態の光学フィルタ205は、画像センサ206に密着配置することが望まれるため、その製造段階において光学フィルタ205と画像センサ206とが接触する可能性がある。本実施形態では、偏光フィルタ層222の積層方向上面すなわち画像センサ206側の面が充填材224によって覆われているので、画像センサ206と接触した際にワイヤーグリッド構造が損傷する事態が抑制される。
また、本実施形態のように充填材224を偏光フィルタ層222のワイヤーグリッド構造における金属ワイヤー間の凹部へ充填することで、その凹部への異物進入を防止することができる。
なお、本実施形態では、充填材224の上に積層される分光フィルタ層223については充填材224のような保護層を設けていない。これは、本発明者らの実験によれば、画像センサ206に分光フィルタ層223が接触しても、撮像画像に影響を及ぼすような損傷が発生しなかったため、低コスト化を優先して保護層を省略したものである。また、偏光フィルタ層222の金属ワイヤー(凸部)の高さは使用波長の半分以下と低い一方、分光フィルタ層223の赤色分光領域又はシアン分光領域を形成するフィルタ層部分(凸部)の高さは、使用波長と同等から数倍程度の高さとなる。充填材224の厚みが増すほど、その上面の平坦性を確保することが困難になり、光学フィルタ205の特性に影響を与えるので、充填材224を厚くするにも限度がある。そのため、本実施形態では、分光フィルタ層223を充填材で覆っていない。
本実施形態の分光フィルタ層223における赤色分光領域又はシアン分光領域を形成するフィルタ層部分は、高屈折率の薄膜と低屈折率の薄膜とを交互に多層重ねた多層膜構造で作製されている。このような多層膜構造によれば、光の干渉を利用することで分光透過率の設定自由度が高く、薄膜を多層重ねることで、特定波長(例えば赤色以外の波長帯域帯)に対して100%近い反射率を実現することも可能である。本実施形態においては、撮像画像データの使用波長範囲が略可視光波長帯(可視光と赤外光の波長帯)であるため、当該使用波長範囲に感度を有する画像センサ206を選択するとともに、多層膜部分の透過波長範囲を例えば600nm以上に設定し、それ以外の波長帯は反射する図32に示すようなカットフィルタを形成すればよい。
このようなカットフィルタは、光学フィルタ205の積層方向下側から順に、「基板/(0.125L0.25H0.125L)p/媒質A」のような構成の多層膜を作製することで得ることができる。ここでいう「基板」は、上述した充填材224を意味する。また、「0.125L」は、低屈折率材料(例えばSiO2)の膜厚標記方法でnd/λを1Lとしたものであり、したがって「0.125L」の膜は1/8波長の光路長となるような膜厚をもつ低屈折率材料の膜であることを意味する。なお、「n」は屈折率であり、「d」は厚みであり、「λ」はカットオフ波長である。同様に、「0.25H」は、高屈折率材料(例えばTiO2)の膜厚標記方法でnd/λを1Hとしたものであり、したがって「0.25H」の膜は1/4波長の光路長となるような膜厚をもつ高屈折率材料の膜であることを意味する。また、「p」は、かっこ内に示す膜の組み合わせを繰り返す(積層する)回数を示し、「p」が多いほどリップルなどの影響を抑制できる。また、媒質Aは、空気あるいは画像センサ206との密着接合のための樹脂や接着剤を意図するものである。また、
また、分光フィルタ層223における赤色分光領域又はシアン分光領域を形成するフィルタ層部分としては、透過波長範囲が600〜700nmの範囲である、図33に示すようなフィルタ特性を有するバンドパスフィルタであってもよい。このようなバンドパスフィルタであれば、赤色よりも長波長側の近赤外域と赤色領域との識別も可能となる。このようなバンドパスフィルタは、例えば、「基板/(0.125L0.5M0.125L)p(0.125L0.5H0.125L)q(0.125L0.5M0.125L)r/媒質A」のような構成の多層膜を作製することで得ることができる。なお、前記の通り、高屈折率材料として二酸化チタン(TiO2)、低屈折率材料として二酸化珪素(SiO2)などを使用すれば、対候性の高い分光フィルタ層223を実現できる。
本実施形態の分光フィルタ層223の作製方法の一例について説明すると、まず、フィルタ基板221及び偏光フィルタ層222上に形成された充填材224の層上に、上述した多層膜を形成する。このような多層膜を形成する方法としては、よく知られる蒸着などの方法を用いればよい。続いて、非分光領域に対応する箇所について多層膜を除去する。この除去方法としては、一般的なリフトオフ加工法を利用すればよい。リフトオフ加工法では、目的とするパターンとは逆のパターンを、金属、フォトレジストなどで、事前に充填材224の層上に形成しておき、その上に多層膜を形成してから、非分光領域に対応する箇所の多層膜を当該金属やフォトレジストと一緒に除去する。
本実施形態では、分光フィルタ層223として多層膜構造を採用しているので、分光特性の設定自由度が高いといった利点がある。一般に、カラーセンサなどに用いられるカラーフィルタは、レジスト剤によって形成されているが、このようなレジスト剤では多層膜構造に比べて、分光特性のコントロールが困難である。本実施形態では、分光フィルタ層223として多層膜構造を採用しているので、テールランプの波長に最適化された分光フィルタ層223を形成することが可能となる。
〔ヘッドランプの配光制御〕
以下、本実施形態におけるヘッドランプの配光制御について説明する。
本実施形態におけるヘッドランプの配光制御は、撮像装置200で撮像された撮像画像データを解析して車両のテールランプとヘッドランプを識別し、識別したテールランプから先行車両を検出するとともに、識別したヘッドランプから対向車両を検出する。そして、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
なお、以下の説明では、光学フィルタ205の後段フィルタ220として前記構成例1のものを用いる場合について説明する。
本実施形態のヘッドランプ配光制御では、撮像ユニット101から取得することができる情報のうち、撮像領域内の各地点(光源体)から発せられる光の強さ(明るさ情報)、ヘッドランプやテールランプなどの光源体(他車両)と自車両との距離(距離情報)、各光源体から発せられる光の赤色成分と白色成分(非分光)との比較による分光情報、白色成分の水平偏光成分と鉛直偏光成分との比較による偏光情報、水平偏光成分がカットされた白色成分の鉛直偏光成分情報、水平偏光成分がカットされた赤色成分の鉛直偏光成分情報を用いる。
明るさ情報について説明すると、夜間に、先行車両や対向車両が自車両から同じ距離に存在する場合、撮像装置200によってそれらの先行車両及び対向車両を撮像すると、撮像画像データ上では検出対象物の1つである対向車両のヘッドランプが最も明るく映し出され、検出対象物の1つである先行車両のテールランプはそれよりも暗く映し出される。また、リフレクタが撮像画像データに映し出されている場合、リフレクタは自ら発光する光源ではなく、自車両のヘッドランプを反射することによって明るく映し出されるものに過ぎないので、先行車両のテールランプよりもさらに暗くなる。一方、対向車両のヘッドランプ、先行車両のテールランプ及びリフレクタからの光は、距離が遠くなるにつれて、それを受光する画像センサ206上ではだんだん暗く観測される。よって、撮像画像データから得られる明るさ(輝度情報)を用いることで 2種類の検出対象物(ヘッドランプとテールランプ)及びリフレクタの一次的な識別が可能である。
また、距離情報について説明すると、ヘッドランプやテールランプは、そのほとんどが左右一対のペアランプの構成であるため、この構成の特徴を利用してヘッドランプやテールランプ(すなわち他車両)と自車両との距離を求めることが可能である。ペアとなる左右一対のランプは、撮像装置200が撮像した撮像画像データ上では、互いに近接して同じ高さ方向位置に映し出され、当該ランプを映し出すランプ画像領域の広さはほぼ同じで、かつ、当該ランプ画像領域の形状もほぼ同じである。よって、これらの特徴を条件とすれば、その条件を満たすランプ画像領域同士をペアランプであると識別できる。なお、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなり、単一ランプとして認識される。
このような方法でペアランプを識別できた場合、そのペアランプ構成であるヘッドランプやテールランプの光源までの距離を算出することが可能である。すなわち、車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像装置200における撮像レンズ204の焦点距離fは既知であるため、撮像装置200の画像センサ206上における左右ランプにそれぞれ対応した2つのランプ画像領域間の距離w1を撮像画像データから算出することにより、そのペアランプ構成であるヘッドランプやテールランプの光源と自車両までの距離xは、単純な比例計算(x=f×w0/w1)により求めることができる。また、このようにして算出される距離xが適正範囲であれば、その算出に用いた2つのランプ画像領域は他車両のヘッドランプとテールランプであると識別することができる。よって、この距離情報を用いることで、検出対象物であるヘッドランプとテールランプの識別精度が向上する。
また、分光情報について説明すると、本実施形態では、上述したとおり、撮像装置200で撮像した撮像画像データから、赤色光(鉛直偏光成分)P/Rを受光する画像センサ206上の撮像画素a,c,f,h等に対応した画素データのみを抽出することで、撮像領域内の赤色成分だけを映し出した赤色画像を生成することができる。よって、赤色画像において所定輝度以上の輝度を有する画像領域が存在する場合、その画像領域はテールランプを映し出したテールランプ画像領域であると識別することが可能である。
また、撮像装置200で撮像した撮像画像データから、白色光(非分光)の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b,d等に対応した画素データのみを抽出することで、撮像領域内のモノクロ輝度画像(鉛直偏光成分)を生成することができる。よって、赤色画像上の画像領域と、この画像領域に対応したモノクロ輝度画像上の画像領域との間の輝度比率(赤色輝度比率)を算出することもできる。この赤色輝度比率を用いれば、撮像領域内に存在する物体(光源体)からの光に含まれる相対的な赤色成分の比率を把握することができる。テールランプの赤色輝度比率は、ヘッドランプや他のほとんどの光源よりも十分に高い値をとるので、この赤色輝度比率を用いればテールランプの識別精度が向上する。
また、偏光情報について説明すると、本実施形態では、上述したとおり、撮像装置200で撮像した撮像画像データから、白色光(非分光)の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b,d等に対応した画素データと、白色光(非分光)の水平偏光成分S/Cとを受光する画像センサ206上の撮像画素e,g等に対応した画素データとを抽出し、画像画素ごとに、これらの画像データ間の画素値(輝度)を比較した比較画像を得ることができる。具体的には、例えば、白色光(非分光)の鉛直偏光成分Pと白色光(非分光)の水平偏光成分Sとの差分値(S−P)を画素値とした差分画像を、比較画像として得ることができる。このような比較画像によれば、ヘッドランプから撮像装置200へ直接入射する直接光の画像領域(ヘッドランプ画像領域)と、ヘッドランプから雨路の水面で反射してから撮像装置200へ入射する間接光の画像領域とのコントラストを大きくとることができ、ヘッドランプの識別精度が向上する。
特に、比較画像としては、白色光(非分光)の鉛直偏光成分Pと白色光(非分光)の水平偏光成分Sとの比率(S/P)を画素値とした比率画像や、差分偏光度((S−P)/(S+P))を画素値とした差分偏光度画像などが好適に使用できる。一般に、水面などの水平な鏡面で反射した光は、水平偏光成分が常に強くなることが知られており、とくに水平偏光成分Sと鉛直偏光成分Pとの比率(S/P)や差分偏光度((S−P)/(S+P))をとった場合、その比率や差分偏光度は特定角度(ブリュースター角度)において最大となることが知られている。雨路では、散乱面であるアスファルト面に水が張られて鏡面に近い状態となるため、路面からのヘッドランプ反射光は水平偏光成分Sの方が強くなる。よって、路面からのヘッドランプ反射光の画像領域は、比率画像や差分偏光度画像においては、その画素値(輝度)が大きいものとなる。一方、ヘッドランプからの直接光は基本的には無偏光なので、比率画像や差分偏光度画像においては、その画素値(輝度)が小さいものとなる。この違いにより、ヘッドランプからの直接光と同じ程度の光量をもつ雨路面からのヘッドランプ反射光を適切に除外でき、ヘッドランプからの直接光をこのようなヘッドランプ反射光と区別して識別することができる。
図34は、撮像装置200を用いて、雨の日にヘッドランプからの直接光とヘッドランプの雨路面で反射光(照り返し光)とを撮像し、それぞれの差分偏光度((S−P)/(S+P))を算出したときのヒストグラムである。図34中の縦軸は、頻度を示しており、ここでは1に規格化してある。図34中の横軸は、差分偏光度((S−P)/(S+P))をとったものである。図34からわかるように、ヘッドランプの雨路面で反射光は、ヘッドランプの直接光と比較して、水平偏光成分Sが相対的に大きい側(図中右側)に分布がシフトしていることがわかる。
図35は、雨路面上を自車両が走行しているときにその進行方向前方のほぼ同一距離に先行車両と対向車両の両方が存在する状況を撮像装置200で撮像した場合の一例を示す模式図である。
このような状況においては、明るさ情報と距離情報だけでは、先行車両のテールランプ、雨路面からのテールランプの照り返し光、対向車両のヘッドランプ、雨路面からのヘッドランプの照り返し光を、互いに区別して検出することが困難である。
本実施形態によれば、このような状況でも、まず、先行車両のテールランプ及び雨路面からのテールランプの照り返し光と、対向車両のヘッドランプ及び雨路面からのヘッドランプの照り返し光との区別については、上述した分光情報を用いて高精度に識別できる。具体的には、明るさ情報や距離情報を用いて絞り込んだランプ画像領域において、上述した赤色画像の画素値(輝度値)あるいは赤色輝度比率が所定の閾値を超える画像領域は、先行車両のテールランプ又は雨路面からのテールランプの照り返し光を映し出したテールランプ画像領域であり、当該閾値以下である画像領域は、対向車両のヘッドランプ又は雨路面からのヘッドランプの照り返し光を映し出したヘッドランプ画像領域であると識別する。
また、本実施形態によれば、このように分光情報により識別した各ランプ画像領域について、上述した偏光情報を用いることにより、テールランプやヘッドランプからの直接光と照り返し光とを高い精度で識別できる。具体的には、例えば、テールランプに関しては、上述した水平偏光成分Sの赤色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のテールランプからの直接光と雨路面からのテールランプの照り返し光とを識別する。また、例えば、ヘッドランプに関しては、上述した水平偏光成分の白色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のヘッドランプからの直接光と雨路面からのヘッドランプの照り返し光とを識別する。
次に、本実施形態における先行車両及び対向車両の検出処理の流れについて説明する。
図36は、本実施形態における車両検出処理の流れを示すフローチャートである。
本実施形態の車両検出処理では、撮像装置200が撮像した画像データに対して画像処理を施し、検出対象物であると思われる画像領域を抽出する。そして、その画像領域に映し出されている光源体の種類が2種類の検出対象物のいずれであるかを識別することで、先行車両、対向車両の検出を行う。
まず、ステップS1では、撮像装置200の画像センサ206によって撮像された自車両前方の画像データをメモリに取り込む。この画像データは、上述したように、画像センサ206の各撮像画素における輝度を示す信号を含む。次に、ステップS2では、自車両の挙動に関する情報を図示しない車両挙動センサから取り込む。
ステップS3では、メモリに取り込まれた画像データから検出対象物(先行車両のテールランプ及び対向車両のベッドランプ)であると思われる輝度の高い画像領域(高輝度画像領域)を抽出する。この高輝度画像領域は、画像データにおいて、所定の閾値輝度よりも高い輝度を有する明るい領域となり、複数存在する場合が多いが、それらのすべてを抽出する。よって、この段階では、雨路面からの照り返し光を映し出す画像領域も、高輝度画像領域として抽出される。
高輝度画像領域抽出処理では、まず、ステップS31において、画像センサ206上の各撮像画素の輝度値を所定の閾値輝度と比較することにより2値化処理を行う。具体的には、所定の閾値輝度以上の輝度を有する画素に「1」、そうでない画素に「0」を割り振ることで、2値化画像を作成する。次に、ステップS32において、この2値化画像において、「1」が割り振られた画素が近接している場合には、それらを1つの高輝度画像領域として認識するラベリング処理を実施する。これによって、輝度値の高い近接した複数の画素の集合が、1つの高輝度画像領域として抽出される。
上述した高輝度画像領域抽出処理の後に実行されるステップS4では、抽出された各高輝度画像領域に対応する撮像領域内の物体と自車両との距離を算出する。この距離算出処理では、車両のランプは左右1対のペアランプであることを利用して距離を検出するペアランプ距離算出処理と、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなって当該ペアランプが単一ランプとして認識される場合の単一ランプ距離算出処理とを実行する。
まず、ペアランプ距離算出処理のために、ステップS41では、ランプのペアを作成する処理であるペアランプ作成処理を行う。ペアとなる左右一対のランプは、撮像装置200が撮像した画像データにおいて、近接しつつほぼ同じ高さとなる位置にあり、高輝度画像領域の面積がほぼ同じで、かつ高輝度画像領域の形が同じであるとの条件を満たす。したがって、このような条件を満たす高輝度画像領域同士をペアランプとする。ペアをとることのできない高輝度画像領域は単一ランプとみなされる。ペアランプが作成された場合には、ステップS42のペアランプ距離算出処理によって、そのペアランプまでの距離を算出する。車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像装置200における焦点距離fは既知であるため、撮像装置200の画像センサ206上の左右ランプ距離w1を算出することにより、ペアランプまでの実際の距離xは、単純な比例計算(x=f・w0/w1)により求めることができる。なお、先行車両や対向車両までの距離検出は、レーザレーダやミリ波レーダなどの専用の距離センサを用いてもよい。
ステップS5では、鉛直偏光成分Pの赤色画像と鉛直偏光成分Pの白色画像との比率(赤色輝度比率)を分光情報として用い、この分光情報から、ペアランプとされた2つの高輝度画像領域が、ヘッドランプからの光によるものなのか、テールランプからの光によるものなのかを識別するランプ種類識別処理を行う。このランプ種類識別処理では、まずステップS51において、ペアランプとされた高輝度画像領域について、画像センサ206上の撮像画素a,fに対応した画素データと画像センサ206上の撮像画素bに対応した画素データとの比率を画素値とした赤色比画像を作成する。そして、ステップS52において、その赤色比画像の画素値を所定の閾値と比較し、所定の閾値以上である高輝度画像領域についてはテールランプからの光によるテールランプ画像領域であるとし、所定の閾値未満である高輝度画像領域についてはヘッドランプからの光によるヘッドランプ画像領域であるとするランプ種別処理を行う。
続いて、ステップS6では、テールランプ画像領域及びヘッドランプ画像領域として識別された各画像領域について、差分偏光度((S−P)/(S+P))を偏光情報として用いて、テールランプ又はヘッドランプからの直接光か雨路面等の鏡面部で反射して受光された照り返し光かを識別する照り返し識別処理を行う。この照り返し識別処理では、まずステップS61において、テールランプ画像領域について差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。また、同様に、ヘッドランプ画像領域についても差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。そして、ステップS62において、それぞれの差分偏光度画像の画素値を所定の閾値と比較し、所定の閾値以上であるテールランプ画像領域及びヘッドランプ画像領域については、照り返し光によるものであると判断し、それらの画像領域は先行車両のテールランプを映し出したものではない又は対向車両のヘッドランプを映し出したものではないとして、除外する処理を行う。この除外処理を行った後に残るテールランプ画像領域及びヘッドランプ画像領域は、先行車両のテールランプを映し出したものである、あるいは、対向車両のヘッドランプを映し出したものであると識別される。
なお、レインセンサなどを車両に搭載しておき、当該レインセンサにより雨天時であることを確認した場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。また、運転者(ドライバー)がワイパーを稼働している場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。要するに、雨路面からの照り返しが想定される雨天時のみに上述した照り返し識別処理S6を実行するようにしてもよい。
以上のような車両検出処理により検出した先行車両及び対向車両の検出結果は、本実施形態では自車両の車載機器であるヘッドランプの配光制御に用いられる。具体的には、車両検出処理によりテールランプが検出されてその先行車両のバックミラーに自車両のヘッドランプ照明光が入射する距離範囲内に近づいた場合に、その先行車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。また、車両検出処理によりベッドランプが検出されて、その対向車両の運転者に自車両のヘッドランプ照明光が当たる距離範囲内に近づいた場合に、その対向車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。
〔白線検出処理〕
以下、本実施形態における白線検出処理について説明する。
本実施形態では、自車両が走行可能領域から逸脱するのを防止する目的で、検出対象物としての白線(区画線)を検出する処理を行う。ここでいう白線とは、実線、破線、点線、二重線等の道路を区画するあらゆる白線を含む。なお、黄色線等の白色以外の色の区画線などについても同様に検出可能である。
本実施形態における白線検出処理では、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の鉛直偏光成分Pの偏光情報を用いる。なお、この白色成分の鉛直偏光成分にシアン光の鉛直偏光成分を含めても良い。一般に、白線やアスファルト面は、可視光領域においてフラットな分光輝度特性を有することが知られている。一方、シアン光は可視光領域内の広帯域を含んでいるため、アスファルトや白線を撮像するには好適である。よって、前記構成例2における光学フィルタ205を用い、白色成分の鉛直偏光成分にシアン光の鉛直偏光成分を含めることで、使用する撮像画素数が増えるため、結果的に解像度が上がり、遠方の白線も検出することが可能となる。
本実施形態の白線検出処理において、多くの道路では、黒色に近い色の路面上に白線が形成されており、白色成分(非分光)の鉛直偏光成分Pの画像において白線部分の輝度は路面上の他部分より十分に大きい。そのため、路面部分のうち輝度が所定値以上である部分を白線として判定することにより、白線を検出することができる。特に、本実施形態では、使用する白色成分(非分光)の鉛直偏光成分Pの画像は、水平偏光成分Sがカットされているので、雨路からの照り返し光などを抑制した画像を取得することが可能となる。よって、夜間における雨路などからヘッドランプの照り返し光等の外乱光を白線と誤認識することなく、白線検出を行うことが可能である。
また、本実施形態における白線検出処理において、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の水平偏光成分Sと鉛直偏光成分Pとの比較による偏光情報、例えば、白色成分(非分光)の水平偏光成分Sと鉛直偏光成分Pの差分偏光度((S−P)/(S+P))を用いてもよい。白線からの反射光は、通常、拡散反射成分が支配的であるため、その反射光の鉛直偏光成分Pと水平偏光成分Sとはほぼ同等となり、差分偏光度はゼロに近い値を示す。一方、白線が形成されていないアスファルト面部分は、乾燥状態のときには散乱反射成分が支配的となる特性を示し、その差分偏光度は正の値を示す。また、白線が形成されていないアスファルト面部分は、湿潤状態のときには、鏡面反射成分が支配的となり、その差分偏光度は更に大きな値を示す。したがって、得られた路面部分の偏光差分値が所定閾値よりも小さい部分を白線と判定することができる。
図37(a)及び(b)は、雨天時において同じ撮像領域を撮像したモノクロ輝度画像(非分光・非偏光)と非分光の差分偏光度画像とを示す画像例である。
この画像例は、雨天時に撮影したものであるため、撮像領域が比較的暗く、また、路面は湿潤状態となっている。そのため、図37(a)に示すモノクロ輝度画像では、白線と路面とのコントラストが小さい。これに対し、図37(b)に示す差分偏光度画像では、白線と路面とのコントラストが十分に大きい。よって、モノクロ輝度画像では白線を識別することが困難な状況下であっても、差分偏光度画像を用いれば白線を高精度に識別することが可能である。
また、画像例の右側部分の白線は、陰に重なっているため、図37(a)に示すモノクロ輝度画像では、この右側の白線と路面とのコントラストが特に小さい。これに対し、図37(b)に示す差分偏光度画像では、この右側の白線と路面とのコントラストも十分に大きい。よって、モノクロ輝度画像では識別困難な白線についても、差分偏光度画像を用いれば高精度に識別することが可能である。
〔フロントガラス上の雨滴検出処理〕
以下、本実施形態における雨滴検出処理について説明する。
本実施形態では、ワイパー107の駆動制御やウォッシャー液の吐出制御を行う目的で、付着物としての雨滴を検出する処理を行う。なお、ここでは、フロントガラス上に付着した付着物が雨滴である場合を例に挙げて説明するが、鳥の糞、隣接車両からの跳ねてきた路面上の水しぶきなどの付着物についても同様である。
本実施形態における雨滴検出処理では、撮像ユニット101から取得することができる情報のうち、前段フィルタ210の赤外光透過フィルタ領域212及び後段フィルタ220の雨滴検出用フィルタ部220Bにおける偏光フィルタ層225を透過した光を受光する雨滴検出用画像領域214の鉛直偏光成分Pの偏光情報を用いる。
図38は、ブリュースタ角での反射光の偏光状態を示す説明図である。
一般に、ガラスなどで平坦面に光が入射するとき、水平偏光成分Sの反射率は入射角に対して単調増加するのに対し、鉛直偏光成分Pの反射率は特定角度(ブリュースタ角θB)でゼロとなり、鉛直偏光成分Pは、図38に示すように反射せずに透過光のみとなる。したがって、光源202が、鉛直偏光成分Pの光のみをブリュースタ角θBの入射角をもって車両室内側からフロントガラス105に向けて照射するように構成することで、フロントガラス105の内壁面(室内側の面)での反射光は発生せず、フロントガラス105の外壁面(車外側の面)に鉛直偏光成分Pの光が照射される。フロントガラス105の内壁面での反射光が存在すると、その反射光が撮像装置200への外乱光となり、雨滴検出率の低減要因となる。
光源202からフロントガラス105へ入射させる光を鉛直偏光成分Pのみとするためには、光源202として例えば発光ダイオード(LED)を用いる場合、その光源202とフロントガラス105との間に、鉛直偏光成分Pのみを透過させる偏光子を配置するのがよい。また、光源202として半導体レーザ(LD)を用いる場合、LDは特定偏光成分の光のみを発光させることができるので、鉛直偏光成分Pのみの光がフロントガラス105に入射するようにLDの軸を合わせてもよい。
図39(a)は、フロントガラス105の外壁面に雨滴が付着しているときの撮像画像を示す説明図である。
図39(b)は、フロントガラス105の外壁面に雨滴が付着していないときの撮像画像を示す説明図である。
図39(a)及び(b)の撮像画像は、図中「detected area」と記載された下部領域が雨滴検出用画像領域214であり、残りが車両検出用画像領域213である。雨滴検出用画像領域214には、雨滴が付着しているときは図39(a)に示すように光源202からの光が映し出され、雨滴が付着していないときは図39(b)に示すように光源202からの光が映し出されない。したがって、この雨滴検出用画像領域214における雨滴画像の認識処理は、光源202からの光の受光量の閾値調整により容易に行うことができる。なお、閾値は固定値である必要はなく、撮像装置200が搭載される自車両周辺の状況変化等に応じて適宜変更するようにしてもよい。
本実施形態では、雨滴の検出結果に基づいて、ワイパー制御ユニット106は、ワイパー107の駆動制御やウォッシャー液の吐出制御を行う。
次に、本実施形態で行われる各種車載機器の制御について、更に詳しく説明する。
本実施形態において、ヘッドランプ制御ユニット103では、撮像装置200で撮像した車両検出用画像領域の撮像画像データに基づいて検出されるテールランプやヘッドランプ(夜間の他車両)の検出結果を用いて、ヘッドランプの配光制御を行う。
また、車両走行制御ユニット108では、撮像装置200で撮像した車両検出用画像領域の撮像画像データに基づいて検出される白線の検出結果を用いて、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする車線維持制御を行う。
また、車両走行制御ユニット108では、撮像装置200で撮像した車両検出用画像領域の撮像画像データに基づいて検出される先行車両(昼間又は夜間の他車両)の検出結果を用いて、先行車両との距離が近接したことを検知したら、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする衝突回避制御を行う。
これらの制御に用いる各検出対象物は、それぞれの検出にとって最適な露光条件が異なる。例えば、ヘッドランプの配光制御に用いる撮像画像データは、高輝度なテールランプやヘッドランプを識別して夜間の他車両を検出するのに用いられる。そのため、露光量が少ない露光条件で撮像したものが好適であり、また、撮像環境が夜間であることから露光条件が固定であっても、高い検出精度を安定して得ることが可能である。
また、例えば、車線維持制御に用いられる撮像画像データは、テールランプやヘッドランプに比べると低輝度な白線の検出に用いられる。そのため、露光量が多い露光条件で撮像したものが好適である。また、夜間や昼間の違いなど撮像環境の違いから最適な露光条件が変化することから、必要に応じて、露光条件を撮像環境に応じて調整するのが好適である。
また、例えば、衝突回避制御に用いられる撮像画像データは、夜間であれば高輝度なテールランプの検出、昼間ではれば低輝度な車体の検出に用いられる。そのため、撮像環境に応じて最適な露光条件が大きく変わるので、撮像環境に応じて露光条件を調整するのが好適である。
このように各制御に用いる撮像画像データの最適な露光条件が異なるため、同じ露光条件で撮像した撮像画像データを用いてすべての制御を行おうとすると、すべての制御に利用する検出対象物の検出結果をいずれも高い精度を得るということは困難である。そのため、すべての制御で適切な制御を実現することができない。
そこで、本実施形態においては、すべての制御で適切な制御を実現するため、これらの制御にそれぞれ適した露光条件で撮像した撮像撮像データを用いることとしている。具体的には、撮像装置200の露光条件を撮像フレーム単位で変更し、それぞれ対応する露光条件で撮像された撮像フレームの撮像画像データを用いてそれぞれの制御を行う。
〔撮像動作例1〕
図40は、本実施形態に適用可能な撮像装置200の撮像動作の一例(以下、「撮像動作例1」という。)を簡易的に示したタイミングチャートである。このタイミングチャートは、撮像動作の概要を把握するためのものであり、正確な制御タイミングを示すものではないので、例えば矢印の長さは時間の長さを正確に示すものではない。
本撮像動作例1における撮像装置200は、画像センサ206としてCCDイメージセンサを用い、画像センサの全撮像画素を同時露光して撮像フレームを生成するグローバルシャッター方式を採用したものである。よって、本撮像動作例1においては、図40に示すように、前フレーム周期Tn−1に全撮像画素同時露光がなされた画像センサ206の各撮像画素の信号が、その次のフレーム周期Tに読み出されることになる。
本撮像動作例1において、以下の3種類の撮像フレームを順次撮像するという撮像動作を繰り返す。
第1フレーム目の撮像フレームは、車線維持制御(LDW:Lane Departure Warning)に用いられるものである。この撮像フレームの撮像動作時においては、露光条件としての露光時間FELDWが、例えば20μs〜33msの範囲内で自動露光制御される。したがって、例えば、昼間であれば20μsに近い露光時間FELDWが設定され、夜間であれば33msに近い露光時間FELDWが設定される。
第2フレーム目の撮像フレームは、ヘッドランプの配光制御(AHB:Auto High Beam)に用いられるものである。この撮像フレームの撮像動作時においては、露光条件としての露光時間FEAHBが固定であり、昼夜を問わず、例えば40μsに設定される。
第3フレーム目の撮像フレームは、衝突回避制御(FCW:Front Collision Warning)に用いられるものである。この撮像フレームの撮像動作時においては、露光条件としての露光時間FEFCWが、例えば20μs〜33msの範囲内で自動露光制御される。したがって、例えば、昼間であれば20μsに近い露光時間FEFCWが設定され、夜間であれば33msに近い露光時間FEFCWが設定される。
ここで、本実施形態においては、上述したとおり、フロントガラスに付着する雨滴(付着物)を検出する雨滴検出処理を行い、その雨滴検出結果を用いてワイパー駆動制御等を行う。この雨滴検出処理に用いる撮像画像データに適した露光条件は、レンズのフレアゴーストや光源202からの照明光以外の外乱光の影響を小さくするために、なるべく露光量が少なくなる、すなわち露光時間を短く設定するのが好ましい。このような雨滴検出処理に適した撮像画像データを得る方法としては、雨滴検出処理に適した露光条件で撮像される新たな種類の雨滴検出専用撮像フレームを、追加、挿入するという方法が考えられる。しかしながら、この方法では、雨滴検出専用撮像フレームの追加、挿入により、上述した3種類の撮像フレームのフレームレートを下げる結果を招き、これらの3種類の撮像フレームを用いた各制御の精度を落とすおそれがある。
そこで、本撮像動作例1においては、雨滴検出専用撮像フレームの追加、挿入するのではなく、上述した3種類の撮像フレームの中で、雨滴検出処理に適した露光条件に近い露光条件で撮像される撮像フレームを、雨滴検出処理に用いることとしている。具体的には、上述した3種類の撮像フレームのうち、ヘッドランプの配光制御AHBに用いる撮像フレームを雨滴検出処理に用いる。
特に、本実施形態においては、雨滴検出処理に用いる撮像画像データである雨滴検出用画像領域214に対応した雨滴検出用フィルタ部220Bには、光源202が射出する赤外波長帯の赤外光に制限して透過させる赤外光透過フィルタ領域212等の波長制限手段としての光学フィルタ205が設けられている。このような光学フィルタ205は、その機能上、光透過損失が存在するため、光学フィルタ205を設けない場合と比較して、光源202からの照明光が画像センサ206に受光される受光量が落ちる。そのため、光学フィルタ205を設けることで、光学フィルタ205を設けない場合と比較して、雨滴検出処理に用いる撮像画像データに適した露光時間を延ばすことができる。例えば、雨滴検出処理に用いる撮像画像データに適した露光時間が、光学フィルタ205を設けない場合には4μsであるところ、光学フィルタ205を設けることで40μsとすることができる。その結果、雨滴検出処理の検出精度を落とすことなく、露光時間が40μsであるヘッドランプの配光制御AHBの撮像フレームを雨滴検出処理に利用することが可能となっている。
しかも、本撮像動作例1においては、雨滴検出処理に利用するヘッドランプの配光制御AHBに用いる撮像フレームは、固定された露光時間で撮像されるものである。雨滴検出処理は、ほぼ一定の光量で照射される光源202の照明光のうち雨滴で反射した照明光を受光して雨滴を検出するため、その受光量はほぼ一定である。そのため、露光時間が固定されていれば、露光時間に応じて閾値を変更する必要がなくなり、雨滴検出処理を簡素化できる。よって、より迅速な雨滴検出処理が可能となる。
もちろん、雨滴検出処理に利用する撮像フレームの種類は、露光時間が固定された撮像フレームに限られず、また、ヘッドランプの配光制御AHBの用途に利用される撮像フレームにも限られるものではない。ただし、雨滴検出処理に利用する撮像フレームは、露光量が最も多い撮像フレームを除いた他のフレームのいずれかが好ましく、特に、露光量が最も少ない撮像フレームが好ましい。
なお、雨滴検出処理の検出精度を更に高めるために、光源202から照明光が照射されているときに撮像された照明時撮像画像データと、光源202から照明光が照射されていないときに撮像された非照明時撮像画像データとの差分情報に基づいて雨滴検出処理を行ってもよい。
例えば、上述した3種類の撮像フレームの繰り返し周期において、ある繰り返し周期におけるヘッドランプ配光制御AHBの撮像フレームの露光時には光源202をONにして照明時撮像画像データを撮像し、その次の繰り返し周期におけるヘッドランプ配光制御AHBの撮像フレームの露光時には光源202をOFFにして非照明時撮像画像データを撮像するという動作を繰り返す。
あるいは、上述した3種類の撮像フレームの繰り返し周期に、光源202をOFFにして撮像されるヘッドランプ配光制御AHBの撮像フレームを追加してもよい。例えば、第1フレーム目を、車線維持制御LDW用の撮像フレームとし、第2フレーム目を、光源202をONにしたヘッドランプ配光制御AHB用の撮像フレームとし、第3フレーム目を、衝突回避制御FCW用の撮像フレームとし、第4フレーム目を、光源202をOFFにしたヘッドランプ配光制御AHB用の撮像フレームとする。
このようにして得られる照明時撮像画像データと非照明時撮像画像データとの間における雨滴検出用画像領域214の差分情報は、光源202からの照明光と外乱光の両方を含む照明時撮像画像データから、外乱光のみを含む非照明時撮像画像データを差し引いた情報である。そのため、この差分情報によって、外乱光が除去された光源202からの照明光のみからなる雨滴検出用画像領域214の撮像画像データを得ることができる。よって、雨滴検出処理では、外乱光の影響が抑制され、より高精度な雨滴検出を実現できる。
また、本撮像動作例1においては、図40に示すように、雨滴検出処理に用いる撮像フレームの露光期間以外の期間では、光源202をOFFにしている。これにより、光源202を常時ONにする場合よりも、消費電力を抑制できる。また、光源202からの照明光は、その一部が車両検出用画像領域213にも映し出されることがあり、車両検出用画像領域213の外乱光となるおそれがある。そのため、雨滴検出処理には用いない車線維持制御LDW用の撮像フレームや衝突回避制御FCW用の撮像フレームについては、光源202をOFFにしておくことで、光源202の照明光による外乱光を抑制し、これらの制御の高精度化を実現できる。
〔撮像動作例2〕
図41は、本実施形態に適用可能な撮像装置200の撮像動作の他の例(以下、「撮像動作例2」という。)を簡易的に示したタイミングチャートである。このタイミングチャートは、撮像動作の概要を把握するためのものであり、正確な制御タイミングを示すものではないので、例えば矢印の長さは時間の長さを正確に示すものではない。
本撮像動作例2における撮像装置200は、画像センサ206としてCMOSイメージセンサを用い、画像センサの撮像画素を部分的に順次露光して撮像フレームを生成するローリングシャッター方式を採用したものである。本撮像動作例2では、画像センサ206上に配列される撮像画素を一ラインごとに露光し、各ライン1〜Xの撮像画素の信号を順次読み出す。
本撮像動作例2においても、上述した撮像動作例1と同様、以下の3種類の撮像フレームを順次撮像するという撮像動作を繰り返す。また、本撮像動作例2においても、雨滴検出専用撮像フレームの追加、挿入するのではなく、上述した3種類の撮像フレームのうちのヘッドランプ配光制御AHBに用いる撮像フレームを雨滴検出処理に用いる。
ところで、上述した撮像動作例1においては、雨滴検出処理に用いるヘッドランプ配光制御AHB用の撮像フレームの露光時には、光源202がONになっている。そのため、光源202からの照明光の一部が、ヘッドランプ配光制御AHB用の撮像フレームにおける車両検出用画像領域213にも映し出され、車両検出用画像領域213の外乱光となるおそれがある。この場合、その外乱光によってヘッドランプ配光制御AHBにおけるテールランプやヘッドランプの検出精度が落ち、ヘッドランプ配光制御AHBの精度が低下するおそれがある。
そこで、本撮像動作例2においては、図41に示すように、ヘッドランプ配光制御AHB用の撮像フレームの露光期間において、車両検出用画像領域213に対応するラインの露光時には光源202をOFFにし、雨滴検出用画像領域214に対応するラインの露光時には光源202をONにするという光源制御を行っている。これにより、ヘッドランプ配光制御AHB用の撮像フレーム中の車両検出用画像領域213については、光源202の照明光による外乱の影響を抑制しつつ、その撮像フレーム中の雨滴検出用画像領域214については、光源202の照明光による雨滴検出が可能となる。しかも、ヘッドランプ配光制御AHB用の撮像フレームの露光期間中ずっと光源202をONにする場合よりも、消費電力を抑制することもできる。
また、本撮像動作例2においても、上述した撮像動作例1と同様、雨滴検出処理の検出精度を更に高めるために、光源202のON時における照明時撮像画像データと、光源202のOFF時における非照明時撮像画像データとの差分情報に基づいて雨滴検出処理を行ってもよい。
特に、本撮像動作例2のようなローリングシャッター方式の場合、例えば、ヘッドランプ配光制御AHBの撮像フレームにおける雨滴検出用画像領域214に対応するラインの露光時に、1又は2以上のライン単位で光源202のON/OFFを繰り返すという光源制御を行うことができる。このような光源制御によれば、1つの撮像フレーム内における雨滴検出用画像領域214についての照明時撮像画像データと非照明時撮像画像データとの差分情報を得ることができる。この差分情報は、時間ずれのない差分情報であるため、より高精度な雨滴検出を実現できる。しかも、差分情報を得るための新たな撮像フレームを追加する必要がないので、フレームレートを下げることもない。
本実施形態においては、雨滴によって反射される光源からの光を検出する構成としているが、他の形態も利用可能である。例えば、特開2014−32174号公報で開示された態様が利用できる。この態様では、車両のフロントガラスにプリズムを接触配置させ、光源からの光がフロントガラスで全反射するような条件に設定し、フロントガラス上の雨滴未付着箇所については光源からの全反射光が撮像素子により受光され、フロントガラス上の雨滴付着箇所については光源からの反射光が撮像素子で受光されない又は撮像素子の受光量が減少するような構成が実現される。この態様によれば、光利用効率をより高めることができる。
以上に説明したものは一例であり、本発明は、次の態様毎に特有の効果を奏する。
(態様A)
フロントガラス105等の光透過性部材の付着物観測部分を照明する照明光を照射する光源202等の光照射手段と、フォトダイオード206A等の受光素子が二次元配列された画像センサ206を備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域(車両検出用画像領域213に対応するセンサ部分)で受光して車両検出用画像領域213等の撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域(雨滴検出用画像領域214に対応するセンサ部分)で受光して雨滴検出用画像領域214等の付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像装置200等の撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内のテールランプ、ヘッドランプ、白線、他車両(ボディ)などの検出対象物の検出処理を行う画像解析ユニット102等の対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する雨滴等の付着物の検出処理を行う画像解析ユニット102等の付着物検出処理手段とを有する物体検出装置において、前記撮像手段の露光量を撮像フレーム単位で変更する信号処理部208等の露光量変更手段を有し、前記対象物検出処理手段は、露光量が異なる車線維持制御LDW用の撮像フレーム、ヘッドランプ配光制御AHB用の撮像フレーム、衝突回避制御FCW用の撮像フレーム等の2以上の撮像フレーム中の撮像領域画像を用いて前記検出対象物の検出処理を行うものであり、前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も多い撮像フレームを除いた他の撮像フレーム(ヘッドランプ配光制御AHB用の撮像フレーム等)中の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする。
本態様では、露光量変更手段により撮像手段の露光量を撮像フレーム単位で変更しながら、露光量が互いに異なる2以上の撮像フレームが撮像手段によって生成される。このような露光量の変更は、例えば、撮像環境に応じて露光量を自動調整するものや、複数種類の検出対象物に対してそれぞれ適切な露光量に切り替えながら撮像フレームを順次生成するものなどが挙げられる。本態様においては、撮像領域内に存在する検出対象物の検出処理では、このように露光量が異なる2以上の撮像フレーム中の撮像領域画像に基づいて検出対象物の検出処理を行う。そのため、単一の露光量の撮像フレームだけで検出対象物を検出する場合よりも、検出対象物を高精度に検出することが可能である。
また、本態様によれば、このような検出対象物の検出処理に用いられる2以上の撮像フレームの中で露光量が最も多い撮像フレームを除いた他の撮像フレーム中の付着物観測画像を用いて、付着物の検出処理を行う。そのため、付着物の検出処理には、検出対象物の検出処理に用いられる2以上の撮像フレームの中でも比較的露光量の少ない撮像フレームが用いられる。よって、光照射手段からの照明光に対する外乱光の影響が抑制された状態で、付着物の検出処理を行うことができ、付着物の検出処理についても高い検出精度を得ることが可能である。
しかも、本態様によれば、付着物検出のための専用の撮像フレームを別途挿入することなく、高精度な付着物検出処理を行うことができるので、検出対象物についての撮像フレームのフレームレートを下げることがなく、検出対象物について高い検出精度を確保できる。
(態様B)
前記態様Aにおいて、前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も少ない撮像フレーム中の付着物観測画像を用いて、前記付着物の検出処理を行うことを特徴とする。
これによれば、より精度の高い付着物の検出処理を実現できる。
(態様C)
フロントガラス105等の光透過性部材の付着物観測部分を照明する照明光を照射する光源202等の光照射手段と、フォトダイオード206A等の受光素子が二次元配列された画像センサ206を備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域(車両検出用画像領域213に対応するセンサ部分)で受光して車両検出用画像領域213等の撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域(雨滴検出用画像領域214に対応するセンサ部分)で受光して雨滴検出用画像領域214等の付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像装置200等の撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内のテールランプ、ヘッドランプ、白線、他車両(ボディ)などの検出対象物の検出処理を行う画像解析ユニット102等の対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する雨滴等の付着物の検出処理を行う画像解析ユニット102等の付着物検出処理手段とを有する物体検出装置において、前記撮像手段の露光条件を撮像フレーム単位で変更する信号処理部208等の露光条件変更手段を有し、前記対象物検出処理手段は、テールランプ又はヘッドランプ、白線、他車両(ボディ)などの複数種類の検出対象物それぞれに対応する露光条件(自動露光調整か固定露光か、又は、固定露光であれば露光時間の違い)で撮像される車線維持制御LDW用の撮像フレーム群、ヘッドランプ配光制御AHB用の撮像フレーム群、衝突回避制御FCW用の撮像フレーム群等の各撮像フレーム群の撮像領域画像に基づいて、当該撮像フレーム群に対応する種類の検出対象物の検出処理を行うものであり、前記付着物検出処理手段は、前記撮像フレーム群の中で露光量が最も多い露光条件に対応する撮像フレーム群を除いた他の撮像フレーム群(ヘッドランプ配光制御AHB用の撮像フレーム群等)の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする。
本態様では、露光条件変更手段により撮像手段の露光条件を撮像フレーム単位で変更しながら、露光条件が異なる2以上の撮像フレーム群を撮像手段によって生成する。撮像領域内に存在する検出対象物の検出処理では、このように露光条件が異なる2以上の撮像フレーム群の撮像領域画像に基づいてそれぞれ対応する検出対象物の検出処理を行う。そのため、それぞれの検出対象物に適した露光条件で撮像された撮像フレーム群を用いて、それぞれの検出対象物の検出処理を行うことができる。よって、これらの検出対象物を同じ露光条件で撮像された撮像フレームから検出する場合と比較して、各検出対象物について高い検出精度を得ることができる。
また、本態様によれば、このような検出対象物の検出処理に用いられる2以上の撮像フレーム群の中で、露光量が最も多い露光条件に対応する撮像フレーム群を除いた他の撮像フレーム群の付着物観測画像を用いて、付着物の検出処理を行う。そのため、付着物の検出処理には、検出対象物の検出処理に用いられる2以上の撮像フレーム群の中でも比較的露光量の少ない露光条件の撮像フレーム群が用いられるため、光照射手段からの照明光に対する外乱光の影響が抑制された状態で、付着物の検出処理を行うことができる。よって、付着物の検出処理についても高い検出精度を得ることが可能である。
しかも、本態様によれば、付着物検出のための専用の撮像フレームを別途挿入することなく、高精度な付着物検出処理を行うことができるので、検出対象物についての撮像フレームのフレームレートを下げることがなく、検出対象物について高い検出精度を確保できる。
(態様D)
前記態様Cにおいて、前記付着物検出処理手段は、前記撮像フレーム群の中で露光量が最も少ない露光条件に対応する撮像フレーム群の付着物観測画像を用いて、前記付着物の検出処理を行うことを特徴とする。
これによれば、より精度の高い付着物の検出処理を実現できる。
(態様E)
前記態様A〜Dのいずれかの態様において、前記付着物検出処理手段が用いる付着物観測画像の撮像フレームは、固定された露光量で撮像されたものであることを特徴とする。
付着物の検出処理は、ほぼ一定の光量で照明光を照射可能な光照射手段からの照明光によって映し出される付着物の撮像画像から付着物を検出するため、撮像環境にかかわらず露光量が固定されていても、十分な検出精度を得ることができる。むしろ、撮像環境等に応じて露光量を変更する場合には、露光量の変化に対応した処理(閾値を変更する処理など)が必要となるので、付着物検出処理が複雑化し、迅速な付着物検出処理が困難となるという不具合が生じる。本態様によれば、付着物の検出処理に用いられる撮像フレームは、固定された露光量で撮像されたものであるため、付着物の検出精度を確保しつつ、迅速な検出処理を実現できる。
(態様F)
前記態様A〜Eのいずれかの態様において、前記画像センサ上の第2受光領域に受光される光を透過して所定波長帯に限定する光学フィルタ205等の波長制限手段を有することを特徴とする。
このような波長制限手段は、通常、光を透過する際に光量の損失が出る。そのため、波長制限手段を有しない場合と比較して、光照射手段からの照明光が画像センサに受光される受光量が落ちる。よって、波長制限手段を有することで、波長制限手段を有しない場合と比較して、付着物検出処理に用いる撮像フレームに適した露光量を増やすことができる。その結果、検出対象物の検出処理に用いる比較的露光量の多い撮像フレームを付着物の検出処理に用いても、付着物の検出処理の検出精度を確保することができる。
(態様G)
前記態様A〜Fのいずれかの態様において、前記撮像手段は、ローリングシャッター等のように、前記画像センサを部分的に順次露光して撮像フレームを生成するものであり、前記付着物検出処理手段が用いる付着物観測画像の撮像フレームを撮像する際、前記画像センサ上の第1受光領域を露光している期間は照明光が照射されず、かつ、該画像センサ上の第2受光領域を露光している期間は照明光が照射されるように、前記光照射手段を制御する照明光制御手段(光源202の内部に存在する制御部)を有することを特徴とする。
これによれば、付着物の検出処理に用いられる撮像フレームの撮像領域画像に対する光照射手段からの照明光による外乱の影響を抑制することができるので、その撮像フレームを用いた検出対象物の検出処理が光照射手段からの照明光による外乱で検出精度を落とすことがなくなる。
(態様H)
自車両100等の移動体におけるフロントガラス105等の光透過部材の付着物観測部分に付着する雨滴等の付着物及び移動体周囲の撮像領域内に存在する白線、テールランプ、ヘッドランプ、他車両(ボディ)等の検出対象物を検出する物体検出手段と、前記物体検出手段による前記付着物の検出結果及び前記検出対象物の検出結果に基づいて、前記移動体に搭載されたワイパー、ヘッドランプ、ハンドルやブレーキ等の所定の機器を制御するワイパー制御ユニット106、ヘッドランプ制御ユニット103、車両走行制御ユニット108等の移動体機器制御手段とを備えた車載機器制御システム等の移動体機器制御システムにおいて、前記物体検出手段として、前記態様A〜Gのいずれかの態様に係る物体検出装置を用いたことを特徴とする。
これによれば、付着物の検出結果を用いる機器制御、検出対象物の検出結果を用いる機器制御のいずれの制御も、高精度に行うことが可能となる。
(態様I)
光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置のコンピュータに実行させるための物体検出用プログラムであって、前記対象物検出処理手段、前記付着物検出処理手段、及び、前記撮像手段の露光量を撮像フレーム単位で変更する露光量変更手段として、前記コンピュータを機能させるものであり、前記対象物検出処理手段は、露光量が異なる2以上の撮像フレーム中の撮像領域画像を用いて前記検出対象物の検出処理を行い、前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も多い撮像フレームを除いた他の撮像フレーム中の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする。
これによれば、付着物検出のための専用の撮像フレームを別途挿入することなく、検出対象物の検出処理と付着物の検出処理の両処理で高い検出精度を実現できる。
(態様J)
光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置のコンピュータに実行させるための物体検出用プログラムであって、前記対象物検出処理手段、前記付着物検出処理手段、及び、前記撮像手段の露光条件を撮像フレーム単位で変更する露光条件変更手段として、前記コンピュータを機能させるものであり、前記対象物検出処理手段は、複数種類の検出対象物それぞれに対応する露光条件で撮像される各撮像フレーム群の撮像領域画像に基づいて、当該撮像フレーム群に対応する種類の検出対象物の検出処理を行うものであり、前記付着物検出処理手段は、前記撮像フレーム群の中で露光量が最も多い露光条件に対応する撮像フレーム群を除いた他の撮像フレーム群の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする。
これによれば、付着物検出のための専用の撮像フレームを別途挿入することなく、検出対象物の検出処理と付着物の検出処理の両処理で高い検出精度を実現できる。
なお、このプログラムは、CD−ROM等の記録媒体に記録された状態で配布したり、入手したりすることができる。また、このプログラムを乗せ、所定の送信装置により送信された信号を、公衆電話回線や専用線、その他の通信網等の伝送媒体を介して配信したり、受信したりすることでも、配布、入手が可能である。この配信の際、伝送媒体中には、コンピュータプログラムの少なくとも一部が伝送されていればよい。すなわち、コンピュータプログラムを構成するすべてのデータが、一時に伝送媒体上に存在している必要はない。このプログラムを乗せた信号とは、コンピュータプログラムを含む所定の搬送波に具現化されたコンピュータデータ信号である。また、所定の送信装置からコンピュータプログラムを送信する送信方法には、プログラムを構成するデータを連続的に送信する場合も、断続的に送信する場合も含まれる。
100 自車両
101 撮像ユニット
102 画像解析ユニット
103 ヘッドランプ制御ユニット
105 フロントガラス
106 ワイパー制御ユニット
108 車両走行制御ユニット
200 撮像装置
202 光源
203 雨滴
204 撮像レンズ
205 光学フィルタ
206 画像センサ
特開2013−115625号公報

Claims (10)

  1. 光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、
    受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、
    前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、
    前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置において、
    前記撮像手段の露光量を撮像フレーム単位で変更する露光量変更手段を有し、
    前記対象物検出処理手段は、露光量が異なる2以上の撮像フレーム中の撮像領域画像を用いて前記検出対象物の検出処理を行うものであり、
    前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も多い撮像フレームを除いた他の撮像フレーム中の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする物体検出装置。
  2. 請求項1の物体検出装置において、
    前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も少ない撮像フレーム中の付着物観測画像を用いて、前記付着物の検出処理を行うことを特徴とする物体検出装置。
  3. 光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、
    受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、
    前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、
    前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置において、
    前記撮像手段の露光条件を撮像フレーム単位で変更する露光条件変更手段を有し、
    前記対象物検出処理手段は、複数種類の検出対象物それぞれに対応する露光条件で撮像される各撮像フレーム群の撮像領域画像に基づいて、当該撮像フレーム群に対応する種類の検出対象物の検出処理を行うものであり、
    前記付着物検出処理手段は、前記撮像フレーム群の中で露光量が最も多い露光条件に対応する撮像フレーム群を除いた他の撮像フレーム群の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする物体検出装置。
  4. 請求項3の物体検出装置において、
    前記付着物検出処理手段は、前記撮像フレーム群の中で露光量が最も少ない露光条件に対応する撮像フレーム群の付着物観測画像を用いて、前記付着物の検出処理を行うことを特徴とする物体検出装置。
  5. 請求項1乃至4のいずれか1項に記載の物体検出装置において、
    前記付着物検出処理手段が用いる付着物観測画像の撮像フレームは、固定された露光量で撮像されたものであることを特徴とする物体検出装置。
  6. 請求項1乃至5のいずれか1項に記載の物体検出装置において、
    前記画像センサ上の第2受光領域に受光される光を透過して所定波長帯に限定する波長制限手段を有することを特徴とする物体検出装置。
  7. 請求項1乃至6のいずれか1項に記載の物体検出装置において、
    前記撮像手段は、前記画像センサを部分的に順次露光して撮像フレームを生成するものであり、
    前記付着物検出処理手段が用いる付着物観測画像の撮像フレームを撮像する際、前記画像センサ上の第1受光領域を露光している期間は照明光が照射されず、かつ、該画像センサ上の第2受光領域を露光している期間は照明光が照射されるように、前記光照射手段を制御する照明光制御手段を有することを特徴とする物体検出装置。
  8. 移動体における光透過部材の付着物観測部分に付着する付着物及び移動体周囲の撮像領域内に存在する検出対象物を検出する物体検出手段と、
    前記物体検出手段による前記付着物の検出結果及び前記検出対象物の検出結果に基づいて、前記移動体に搭載された所定の機器を制御する移動体機器制御手段とを備えた移動体機器制御システムにおいて、
    前記物体検出手段として、請求項1乃至7のいずれか1項に記載の物体検出装置を用いたことを特徴とする移動体機器制御システム。
  9. 光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置のコンピュータに実行させるための物体検出用プログラムであって、
    前記対象物検出処理手段、前記付着物検出処理手段、及び、前記撮像手段の露光量を撮像フレーム単位で変更する露光量変更手段として、前記コンピュータを機能させるものであり、
    前記対象物検出処理手段は、露光量が異なる2以上の撮像フレーム中の撮像領域画像を用いて前記検出対象物の検出処理を行い、
    前記付着物検出処理手段は、前記2以上の撮像フレームの中で露光量が最も多い撮像フレームを除いた他の撮像フレーム中の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする物体検出用プログラム。
  10. 光透過性部材の付着物観測部分を照明する照明光を照射する光照射手段と、受光素子が二次元配列された画像センサを備え、撮像領域から前記光透過性部材の外壁面へ入射して該光透過性部材を透過した透過光を該画像センサ上の第1受光領域で受光して撮像領域画像を撮像するとともに、前記光照射手段から照射されて前記光透過部材上の付着物観測部分を経由した照明光を、該画像センサ上の第2受光領域で受光して付着物観測画像を撮像することにより、該撮像領域画像及び該付着物観測画像を含む撮像フレームを生成する撮像手段と、前記撮像手段が生成した撮像フレーム中の撮像領域画像に基づいて、前記撮像領域内の検出対象物の検出処理を行う対象物検出処理手段と、前記撮像手段が生成した撮像フレーム中の付着物観測画像に基づいて、前記光透過部材上の付着物観測部分に付着する付着物の検出処理を行う付着物検出処理手段とを有する物体検出装置のコンピュータに実行させるための物体検出用プログラムであって、
    前記対象物検出処理手段、前記付着物検出処理手段、及び、前記撮像手段の露光条件を撮像フレーム単位で変更する露光条件変更手段として、前記コンピュータを機能させるものであり、
    前記対象物検出処理手段は、複数種類の検出対象物それぞれに対応する露光条件で撮像される各撮像フレーム群の撮像領域画像に基づいて、当該撮像フレーム群に対応する種類の検出対象物の検出処理を行うものであり、
    前記付着物検出処理手段は、前記撮像フレーム群の中で露光量が最も多い露光条件に対応する撮像フレーム群を除いた他の撮像フレーム群の付着物観測画像を用いて前記付着物の検出処理を行うことを特徴とする物体検出用プログラム。
JP2014209786A 2013-12-19 2014-10-14 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム Active JP6380843B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2014209786A JP6380843B2 (ja) 2013-12-19 2014-10-14 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
EP14870904.1A EP3085073B1 (en) 2013-12-19 2014-12-11 Object detection apparatus, moving body device control system and program therefor
US15/035,352 US9944293B2 (en) 2013-12-19 2014-12-11 Object detection apparatus, moving body device control system and program thereof
PCT/JP2014/083490 WO2015093552A1 (en) 2013-12-19 2014-12-11 Object detection apparatus, moving body device control system and program thereof
CN201480068131.1A CN105830428A (zh) 2013-12-19 2014-12-11 目标检测设备、移动体设备控制系统及其程序

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013262885 2013-12-19
JP2013262885 2013-12-19
JP2014209786A JP6380843B2 (ja) 2013-12-19 2014-10-14 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム

Publications (3)

Publication Number Publication Date
JP2015136095A JP2015136095A (ja) 2015-07-27
JP2015136095A5 JP2015136095A5 (ja) 2017-11-24
JP6380843B2 true JP6380843B2 (ja) 2018-08-29

Family

ID=53402896

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014209786A Active JP6380843B2 (ja) 2013-12-19 2014-10-14 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム

Country Status (5)

Country Link
US (1) US9944293B2 (ja)
EP (1) EP3085073B1 (ja)
JP (1) JP6380843B2 (ja)
CN (1) CN105830428A (ja)
WO (1) WO2015093552A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4318035A4 (en) * 2021-03-29 2025-01-08 Pioneer Corporation Measuring device, determining device, determining method, and program

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017505946A (ja) * 2014-01-17 2017-02-23 ケーピーアイティ テクノロジーズ リミテッド 車両検出システムおよびその方法
EP3252707A4 (en) * 2015-01-28 2018-09-19 Kyocera Corporation Image processing apparatus, image processing system, vehicle, imaging apparatus, and image processing method
CN108028022B (zh) * 2015-09-30 2021-06-15 索尼公司 图像处理装置、图像处理方法和车辆控制系统
JP6589760B2 (ja) * 2016-07-07 2019-10-16 株式会社デンソー 車両制御装置
CN106427902A (zh) * 2016-10-26 2017-02-22 江苏金米智能科技有限责任公司 一种基于图像检测的车辆雨刮器自动控制系统
CN106446873B (zh) * 2016-11-03 2021-01-26 北京旷视科技有限公司 人脸检测方法及装置
US10009554B1 (en) * 2017-02-24 2018-06-26 Lighthouse Ai, Inc. Method and system for using light emission by a depth-sensing camera to capture video images under low-light conditions
CN108605081B (zh) * 2017-07-18 2020-09-01 杭州他若信息科技有限公司 智能目标追踪
US11460550B2 (en) 2017-09-19 2022-10-04 Veoneer Us, Llc Direct detection LiDAR system and method with synthetic doppler processing
JP2019055756A (ja) * 2017-09-22 2019-04-11 トヨタ自動車株式会社 車両用認知支援装置
US11194022B2 (en) 2017-09-29 2021-12-07 Veoneer Us, Inc. Detection system with reflection member and offset detection array
WO2019069733A1 (ja) * 2017-10-06 2019-04-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、製造方法、および電子機器
US11585901B2 (en) 2017-11-15 2023-02-21 Veoneer Us, Llc Scanning lidar system and method with spatial filtering for reduction of ambient light
US11145046B2 (en) * 2018-07-24 2021-10-12 The Regents Of The University Of Michigan Detection of near-field occlusions in images
US11263751B2 (en) * 2018-10-26 2022-03-01 Samsung Electronics Co., Ltd. Method and apparatus for image segmentation using an event sensor
CN113287030B (zh) * 2019-01-10 2024-08-06 株式会社小糸制作所 LiDAR传感器单元
CN109886900B (zh) * 2019-03-15 2023-04-28 西北大学 一种基于字典训练和稀疏表示的合成雨图除雨方法
US11579257B2 (en) 2019-07-15 2023-02-14 Veoneer Us, Llc Scanning LiDAR system and method with unitary optical element
US11474218B2 (en) 2019-07-15 2022-10-18 Veoneer Us, Llc Scanning LiDAR system and method with unitary optical element
US11313969B2 (en) 2019-10-28 2022-04-26 Veoneer Us, Inc. LiDAR homodyne transceiver using pulse-position modulation
CN110941024B (zh) * 2019-12-11 2022-05-17 江西莱利电气有限公司 一种基于干涉成像的风机内异物的检测装置及其方法
CN115210599A (zh) * 2020-02-27 2022-10-18 株式会社小糸制作所 传感器系统、控制装置、非瞬时性计算机可读介质以及计算机程序
CN112804447B (zh) * 2020-12-30 2023-01-17 北京石头创新科技有限公司 一种检测近场物体的方法、装置、介质和电子设备
US12044800B2 (en) 2021-01-14 2024-07-23 Magna Electronics, Llc Scanning LiDAR system and method with compensation for transmit laser pulse effects
US11326758B1 (en) 2021-03-12 2022-05-10 Veoneer Us, Inc. Spotlight illumination system using optical element
US11732858B2 (en) 2021-06-18 2023-08-22 Veoneer Us, Llc Headlight illumination system using optical element
KR20230086979A (ko) * 2021-12-09 2023-06-16 현대자동차주식회사 차량 및 차량의 제어방법
JP2023134264A (ja) * 2022-03-14 2023-09-27 スタンレー電気株式会社 ランプシステム、ランプ制御方法、ランプ制御プログラム、および、車両
JP7663083B2 (ja) * 2022-03-14 2025-04-16 株式会社デンソー 画像処理装置
CN114419076B (zh) * 2022-03-28 2022-08-05 杭州微影软件有限公司 一种数据处理方法及装置
CN117008231A (zh) * 2022-04-28 2023-11-07 海湾安全技术有限公司 滤光器、烟雾探测器测试组件和测试方法
CN114898577B (zh) * 2022-07-13 2022-09-20 环球数科集团有限公司 一种用于高峰期道路管理的道路智能管理系统与方法
JP2024016501A (ja) * 2022-07-26 2024-02-07 トヨタ自動車株式会社 車載カメラ遮蔽状態判定装置
US12092278B2 (en) 2022-10-07 2024-09-17 Magna Electronics, Llc Generating a spotlight
US12228653B2 (en) 2022-10-07 2025-02-18 Magna Electronics, Llc Integrating a sensing system into headlight optics
CN115934405B (zh) * 2023-01-29 2023-07-21 蔚来汽车科技(安徽)有限公司 检测多系统在显示设备上显示同步性
US12202396B1 (en) 2023-12-19 2025-01-21 Magna Electronics, Llc Line-scan-gated imaging for LiDAR headlight

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4326999B2 (ja) * 2003-08-12 2009-09-09 株式会社日立製作所 画像処理システム
JP5572954B2 (ja) 2009-01-26 2014-08-20 株式会社リコー 撮像素子及び該撮像素子を備えた画像撮像装置
JP5316805B2 (ja) 2009-03-16 2013-10-16 株式会社リコー 車載カメラ装置の画像調整装置及び車載カメラ装置
JP2010272067A (ja) 2009-05-25 2010-12-02 Hitachi Automotive Systems Ltd 画像処理装置
JP5376313B2 (ja) 2009-09-03 2013-12-25 株式会社リコー 画像処理装置及び画像撮像装置
WO2011078199A1 (en) 2009-12-25 2011-06-30 Ricoh Company, Ltd. Object identifying apparatus, moving body control apparatus, and information providing apparatus
WO2011099404A1 (en) * 2010-02-15 2011-08-18 Ricoh Company, Ltd. Transparent object detection system and transparent flat plate detection system
CN103221805B (zh) * 2010-11-30 2016-10-12 康蒂特米克微电子有限公司 借助于摄像机和照明装置检测窗玻璃上的雨滴
JP5950196B2 (ja) 2011-08-30 2016-07-13 株式会社リコー 撮像装置、並びに、これを用いる画像解析装置及び移動装置
JP5561333B2 (ja) * 2011-11-02 2014-07-30 株式会社リコー 画像処理装置、撮像方法、プログラムおよび車両
JP6098575B2 (ja) 2011-11-02 2017-03-22 株式会社リコー 撮像ユニット、画像処理装置および車両
JP5633503B2 (ja) 2011-11-29 2014-12-03 株式会社リコー 画像処理システム、画像処理システムを備えた車両、画像処理方法及びプログラム
JP5846485B2 (ja) * 2011-11-30 2016-01-20 株式会社リコー 付着物検出装置及び付着物検出方法
JP2014032174A (ja) 2012-07-13 2014-02-20 Ricoh Co Ltd 撮像装置、付着物検出装置、移動装置用機器制御システム及び移動装置
BR112015001825B1 (pt) * 2012-07-27 2021-10-26 Nissan Motor Co., Ltd. Dispositivo de detecção de objeto tridimensional, método de detecção de objeto tridimensional
US9288381B2 (en) * 2012-07-27 2016-03-15 Clarion Co., Ltd. In-vehicle image recognizer

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4318035A4 (en) * 2021-03-29 2025-01-08 Pioneer Corporation Measuring device, determining device, determining method, and program

Also Published As

Publication number Publication date
EP3085073B1 (en) 2018-05-09
CN105830428A (zh) 2016-08-03
EP3085073A4 (en) 2017-04-05
WO2015093552A1 (en) 2015-06-25
US9944293B2 (en) 2018-04-17
US20160280229A1 (en) 2016-09-29
JP2015136095A (ja) 2015-07-27
EP3085073A1 (en) 2016-10-26

Similar Documents

Publication Publication Date Title
JP6380843B2 (ja) 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
JP5846485B2 (ja) 付着物検出装置及び付着物検出方法
JP5561333B2 (ja) 画像処理装置、撮像方法、プログラムおよび車両
JP5936098B2 (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ
JP5633503B2 (ja) 画像処理システム、画像処理システムを備えた車両、画像処理方法及びプログラム
JP2013029451A (ja) 付着物検出装置及び付着物検出方法
JP2013031054A (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ及びその製造方法
JP6468482B2 (ja) 撮像装置、物体検出装置及び移動体機器制御システム
JP5995140B2 (ja) 撮像装置及びこれを備えた車両システム並びに画像処理方法
JP2013190416A (ja) 付着物検出装置及びこれを用いた車載機器制御装置
JP5858327B2 (ja) 撮像装置及びこれを備えた物体検出装置並びに偏光フィルタ
JP6555569B2 (ja) 画像処理装置、移動体機器制御システム及び画像処理用プログラム
JP6098575B2 (ja) 撮像ユニット、画像処理装置および車両
JP2013095315A (ja) 撮像装置内蔵ルームミラー装置及びそれを備えた車両
JP2016146583A (ja) 撮像装置、移動体機器制御システム及びプログラム
JP5862207B2 (ja) 画像処理システム
JP5887840B2 (ja) 画像処理装置
JP5845820B2 (ja) 撮像ユニット及びそれを備えた車両
JP6701542B2 (ja) 検出装置、移動体機器制御システム及び検出用プログラム
JP6536946B2 (ja) 撮像装置、撮像方法、プログラムおよび移動体機器制御システム
JP5967165B2 (ja) 画像処理システム、画像処理システムを備えたワイパー制御システム及び車両、並びにプログラム
JP2015169567A (ja) 付着物検出装置、移動体機器制御システム及び付着物検出用プログラム
JP5879937B2 (ja) 撮像ユニット

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180719

R151 Written notification of patent or utility model registration

Ref document number: 6380843

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151