[go: up one dir, main page]

JP4211809B2 - 物体検出装置 - Google Patents

物体検出装置 Download PDF

Info

Publication number
JP4211809B2
JP4211809B2 JP2006182445A JP2006182445A JP4211809B2 JP 4211809 B2 JP4211809 B2 JP 4211809B2 JP 2006182445 A JP2006182445 A JP 2006182445A JP 2006182445 A JP2006182445 A JP 2006182445A JP 4211809 B2 JP4211809 B2 JP 4211809B2
Authority
JP
Japan
Prior art keywords
intensity
preceding vehicle
threshold
received wave
equal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006182445A
Other languages
English (en)
Other versions
JP2008008870A (ja
Inventor
剛 名波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2006182445A priority Critical patent/JP4211809B2/ja
Priority to US12/308,383 priority patent/US8199046B2/en
Priority to CN2007800241400A priority patent/CN101479624B/zh
Priority to EP07804554A priority patent/EP2035859A2/en
Priority to PCT/IB2007/001805 priority patent/WO2008004077A2/en
Publication of JP2008008870A publication Critical patent/JP2008008870A/ja
Application granted granted Critical
Publication of JP4211809B2 publication Critical patent/JP4211809B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867Combination of radar systems with cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/93185Controlling the brakes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9319Controlling the accelerator
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/932Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles using own vehicle data, e.g. ground speed, steering wheel direction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9321Velocity regulation, e.g. cruise control
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9325Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles for inter-vehicle distance regulation, e.g. navigating in platoons

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Traffic Control Systems (AREA)
  • Regulating Braking Force (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明は物体検出装置に関し、特に、道路上の車両や障害物などの物体の検出を行う物体検出装置に関するものである。
車両の走行支援装置の1つとして、先行車との距離や相対速度などを検出し、自動的に速度および車間距離の設定値を保持するようにスロットルやブレーキを制御する走行支援装置が実用化されている。このような走行支援装置において、進路上の車両などの物体を検出する技術としては、ミリ波帯の電波などを用いたレーダシステムが知られている。特許文献1には、受信波の電波強度について、車両識別用の高閾値と歩行者識別用の低閾値とを設定し、受信波の電波強度が高閾値以上のときは物体を車両であると識別し、受信波の電波強度が低閾値以上のときは物体を歩行者であると識別する技術が記載されている。
特開2004−191131号公報
しかしながら、上記の技術では、車両識別用には高閾値が設定されているため、受信波の電波強度が低いオートバイクや自転車等の物体を一旦検出した場合、頻繁に物体をロストし易い問題がある。先行車両に対して追従走行を行わせる走行支援装置においては、頻繁に物体をロストしてしまうと、走行支援装置は、先行車両が存在するという判断と先行車両が存在しないという判断とを短い時間に繰り返すため、車両に対して不要な加減速を行わせることになる。一方、車両識別用に低い閾値を設定すると、路面反射等のゴーストに対して制御を行うことになり、誤制御および誤警報が生じやすくなる。
本発明は、かかる事情に鑑みてなされたものであり、その目的は、受信波の電波強度が低い物体を検出する際でも、誤検出が少なく、一旦検出した物体をロストし難い物体検出装置を提供することにある。
本発明は、レーダによって周囲の物体を検出する物体検出手段と、取得した周囲の画像から周囲の物体を検出する撮像手段と、物体検出手段撮像手段とによる検出結果を融合して周囲の物体を検出する融合検出手段と、を備え、物体検出手段による受信波の強度が過去において第1閾値未満であった物体については、物体検出手段による受信波の強度が現在において第1閾値以上である物体を検出し、物体検出手段による受信波の強度が過去において第1閾値以上であった物体については、物体検出手段による受信波の強度が現在において第1閾値よりも低い第2閾値以上である物体を検出し、撮像手段によって現在において検出可能な物体については、物体検出手段による受信波の強度が現在において第1閾値よりも低い第2閾値以上である物体を検出する物体検出装置である。
この構成によれば、物体検出手段による受信波の強度が過去において第1閾値未満であった物体については、物体検出手段による受信波の強度が現在において高閾値である第1閾値以上である物体を検出するため、誤検出を防止することができ、物体検出手段による受信波の強度が過去において第1閾値以上であった物体については、物体検出手段による受信波の強度が現在において低閾値である第2閾値以上である物体を検出するため、受信波の電波強度が低い物体を検出し易く、一旦検出した物体をロストし難い物とできる。また、この構成によれば、レーダによる物体検出手段と、画像による撮像手段と、物体検出手段と撮像手段とによる検出結果を融合して周囲の物体を検出する融合検出手段とを備えるため、受信波の電波強度が低い物体を検出する際でも、誤検出が少なく、一旦検出した物体をロストし難い物とできる。また、この構成によれば、撮像手段によって現在において検出可能な物体を存在確率が高い物体として扱うため、誤検出し難い。
この場合、物体検出手段による受信波の強度が過去において第1閾値以上であった時間及び撮像手段によって検出可能となった時間のいずれかが一定時間以上であった物体については、物体検出手段による受信波の強度が現在において第1閾値よりも低い第2閾値以上である物体を検出し、あるいは物体検出手段による受信波の強度が過去において第1閾値以上であった回数及び撮像手段によって検出可能となった回数のいずれかが一定回数以上であった物体については、物体検出手段による受信波の強度が現在において第1閾値よりも低い第2閾値以上である物体を検出する。
本発明の物体検出装置によれば、受信波の電波強度が低い物体を検出する際でも、誤検出が少なく、一旦検出した物体をロストし難い。
以下、本発明の実施の形態に係る物体検出装置について添付図面を参照して説明する。
図1は、本実施形態に係る物体検出装置を走行支援装置に適用した例としてのクルーズコントロールシステム(以下ACC(Adaptive Cruise Control)システムという)1の構成を示す図である。
ACCシステム1は、主として、車両前方をミリ波帯の電波によりスキャンして先行車などの物体を検出するミリ波レーダ10と、前方画像を取得して画像認識によって先行車などを検出するステレオカメラ11と、ミリ波レーダ10およびステレオカメラ11の検出結果から先行車を認識する先行車認識ECU20と、ブレーキアクチュエータ40や電子制御式スロットルバルブ41などを制御して走行速度制御を行う走行制御ECU30とを有して構成されている。ACCシステム1は、先行車が認識されない場合には運転者により設定された車速を維持する定速制御を行い、先行車が認識されたときには先行車に対して設定車間距離を保持する追従制御または緩加速/緩減速制御を行う。
ミリ波レーダ10は、ミリ波帯の電波を水平方向にスキャンしながら車両の前方へ照射し、前方車両などの物体表面で反射された電波を受信し、電波強度、受信信号の周波数変化から先行車候補の有無、先行車候補と自車両との距離、相対速度、自車両からの横変位(横位置)などのパラメータを求め、検出結果として先行車認識ECU20に出力する。ミリ波レーダ10は、自動車等のレーダ波の反射が強い物体を高閾値(第1の閾値)以上の受信波の電波強度で検出可能であり、小型のオートバイクや自転車等のレーダ波の反射が弱い物体を低閾値(第2の閾値)以上の受信波の電波強度で検出可能である。すなわち、ミリ波レーダ10は、特許請求の範囲に記載の物体検出手段として機能する。
ステレオカメラ11は、車両前方の画像を取得する一対のCCDカメラと、取得した画像から画像認識によって先行車などの物体を検出する画像処理部とを有している。この画像処理部では、CCDカメラが撮像した画像内からエッジ抽出やパターン認識処理などによって先行車候補を抽出する。また、左右の取得画像中における対象物(先行車)位置の違いを基にして三角測量方式により先行車との距離および自車両からの横変位を求め、前のフレーム時に求めた距離に対する変化量から相対速度を求める。検出結果は、先行車認識ECU20に出力される。このように、ACCシステム1では、検出原理の異なるミリ波レーダ10およびステレオカメラ11それぞれによって同じパラメータ(距離、相対速度、横変位)が検出される。すなわち、ステレオカメラ11は、特許請求の範囲に記載の撮像手段として機能する。
また、車両には、車速を検出する車速センサ12、車両のヨーレートを検出するヨーレートセンサ13、およびステアリングホイールの操舵角を検出する操舵角センサ14などが設けられている。各センサは先行車認識ECU20に接続されており、検出された信号は先行車認識ECU20に入力される。
先行車認識ECU20は、演算を行うマイクロプロセッサ、マイクロプロセッサに各処理を実行させるためのプログラム等を記憶するROM、演算結果などの各種データを記憶するRAM及び12Vバッテリによってその記憶内容が保持されるバックアップRAM等により構成され、フュージョン演算部21および先行車選択部22を有している。
フュージョン演算部21には、ミリ波レーダ10およびステレオカメラ11それぞれの検出結果、すなわち先行車候補の有無、および先行車候補との距離、相対速度、並びに自車両からの横変位などのパラメータが入力される。そして、フュージョン演算部21は、それぞれの検出結果を融合(フュージョン)して先行車候補の有無、先行車候補の物体パラメータ(先行車候補との距離、相対速度、自車両からの横変位)、および検出状態を示す物体種別情報を求める。すなわち、フュージョン演算部21は特許請求の範囲記載の融合演算手段として機能する。
具体的には、ミリ波レーダ10およびステレオカメラ11の両方で先行車候補が検出された場合には、ミリ波レーダ10により検出された先行車候補との距離、相対速度と、ステレオカメラ11により検出された自車両からの横変位が融合されて、先行車候補の物体パラメータとされる。ここで、ミリ波レーダ10は、物体までの距離や物体との相対速度の検出精度が高いものの、横変位や物体幅の検出精度はステレオカメラ11より劣る。一方、ステレオカメラ11は、横変位や物体幅の検出精度が高いものの、物体までの距離や物体との相対速度の検出精度はミリ波レーダ10より劣る。そのため、双方の検出結果から検出精度の高いパラメータを融合することにより、精度が高い物体パラメータを得ることができる。
フュージョン演算部21は、ミリ波レーダ10のみにより高閾値未満で低閾値以上の電波強度で物体が検出されたときは、物体種別情報に「0」を設定する。フュージョン演算部21は、ミリ波レーダ10のみにより高閾値以上の電波強度で物体が検出されたときは、物体種別情報に「1」を設定する。フュージョン演算部21は、ステレオカメラ11のみによって物体が検出されたときは、物体種別情報に「2」を設定する。フュージョン演算部21は、ミリ波レーダ10により高閾値未満で低閾値以上の電波強度で物体が検出され、かつステレオカメラ11によっても物体が検出されたときは、物体種別情報に「3」を設定する。フュージョン演算部21は、ミリ波レーダ10により高閾値以上の電波強度で物体が検出され、かつステレオカメラ11によっても物体が検出されたときは、物体種別情報に「4」を設定する。またフュージョン演算部21は、物体パラメータや物体種別情報の履歴を蓄積し、蓄積されたデータに基づいて先行車候補を算出する。フュージョン演算部21で求められた物体パラメータ、物体種別情報、先行車候補などは、先行車認識部22に出力される。
先行車選択部22は、車速センサ12からの車速信号、ヨーレートセンサ13からのヨーレート信号、および操舵角センサ14からの操舵角信号などに基づいて求められる自車両の走行状態から自車両の進路を推定するとともに、この推定結果と先行車候補の位置とを比較し、先行車候補が自車両の進路前方に存在すると判断された場合に、この先行車候補を先行車として認識する。なお、自車両の進路を推定する際に、ステレオカメラ11で検出された白線情報などを用いてもよい。
先行車認識ECU20は、走行制御ECU30と通信回線で接続されている。先行車認識ECU20で認識された先行車の物体パラメータおよび物体種別情報などは、この通信回線を介して走行制御ECU30に出力される。
走行制御ECU30も、演算を行うマイクロプロセッサ、マイクロプロセッサに各処理を実行させるためのプログラム等を記憶するROM、演算結果などの各種データを記憶するRAM及び12Vバッテリによってその記憶内容が保持されるバックアップRAM等により構成されている。なお、先行車認識ECU20および走行制御ECU30は、ハード的に一体化または一部を共有する構成とされていてもよい。走行制御ECU30には、各車輪に取り付けられたブレーキを作動させるホイールシリンダに供給される油圧を制御するブレーキアクチュエータ40やエンジンに供給される空気量を制御する電子制御式スロットルバルブ41などが接続されている。
走行制御ECU30は、先行車認識ECU20から入力された、先行車の有無、先行車の物体パラメータ、および物体種別情報などに基づいて、ブレーキアクチュエータ40および電子制御式スロットルバルブ41などを制御することにより、車両に付与される駆動力および制動力を調節して、定速制御、追従制御、緩加速/緩減速制御を実行する。
次に、図2を参照して、ACCシステム1の動作について説明する。図2は、ACCシステム1による走行支援制御の処理手順を示すフローチャートである。この制御は、車両の電源がオンにされてからオフにされるまでの間、先行車認識ECU20および走行制御ECU30によって所定のタイミングで繰り返し実行される。
ステップS100では、ミリ波レーダ10から、受信波の電波強度、物体の有無、物体と自車両との距離、相対速度および自車両からの横変位などのパラメータが読み込まれる。同様に、ステレオカメラ11から、物体の有無、物体と自車両との距離、相対速度および自車両からの横変位などのパラメータが読み込まれる。
続くステップS102では、フュージョン演算部が、ステップS100で読み込まれたミリ波レーダ10およびステレオカメラ11それぞれの検出結果、すなわち受信波の電波強度、物体の有無、距離、相対速度および横変位などのパラメータを融合(フュージョン)して物体の有無、物体パラメータ(距離、相対速度、横変位)、および検出状態を示す物体種別情報を求める。
より具体的には、上述したように、フュージョン演算部は、ミリ波レーダ10のみにより低閾値で物体が検出されたときは物体種別情報に「0」を設定し、ミリ波レーダ10のみにより高閾値で物体が検出されたときは物体種別情報に「1」を設定し、ステレオカメラ11のみによって物体が検出されたときは物体種別情報に「2」を設定し、ミリ波レーダ10により低閾値で物体が検出されかつステレオカメラ11によっても物体が検出されたときは物体種別情報に「3」を設定し、ミリ波レーダ10により高閾値で物体が検出されかつステレオカメラ11によっても物体が検出されたときは物体種別情報に「4」を設定する。
次に、ステップS104では、ステップS102で設定された物体の物体種別情報の履歴を参照し、物体種別情報が「1」「3」および「4」の状態が一定時間以上継続したときは、当該物体を先行車候補とする(S106)。すなわち、ミリ波レーダ10によって高閾値で物体が検出されたときはステレオカメラ11の検出結果に関わらず先行車候補とし(物体種別情報「1」「4」)、ミリ波レーダ10によって低閾値で物体が検出されかつステレオカメラ11によっても物体が検出されたときは先行車候補とする(物体種別情報「3」)。
もし、ステップS104で物体種別情報が「1」「3」および「4」の状態が一定時間以上継続した場合に該当しないときは、ステップS108に進む。ステップS108では、物体種別情報が現在「0」であるが、過去においてミリ波レーダ10によって高閾値以上の電波強度で一定時間以上検出された物体については、当該物体を先行車候補とする(S106)。なお、上記例では、物体種別情報が「1」「3」および「4」の状態が一定時間以上継続したか否かを先行車候補とするか否かの判断基準としたが、本発明はこれに限定されるものではなく、例えば、物体種別情報が「1」「3」および「4」の状態が所定回数継続したときに先行車両候補としても良く、あるいは物体種別情報が「1」「3」および「4」であったときは直ぐに先行車両候補とする構成であっても良い。
ステップS110では、先行車選択部22が、ステップS106での先行車候補について自車線上にあるか否かの判定を行う。ステップS112では、先行車選択部22が、自車線上にある先行車候補を先行車として選択し、走行制御ECU30が、先行車との距離および相対速度などに基づいて、ブレーキアクチュエータ40および電子制御式スロットルバルブ41を制御して、自車両を先行車に対して追従走行させる。
ステップS108で先行車候補とされなかった場合や、ステップS110で先行車候補が自車線上にいないと判断された場合は、ステップS114において、走行制御ECU30がブレーキアクチュエータ40および電子制御式スロットルバルブ41を制御して、自車両を目標車速で安定走行させる。
本実施形態によれば、検出原理を異にするミリ波レーダ10およびステレオカメラ11それぞれから得られた先行車候補との車間距離、相対速度や横変位などのパラメータが融合されて先行車候補の物体パラメータが求められるので、両方の検出手段で先行車両候補を検出することができた場合には、先行車候補の検出精度が向上するので、ACC制御の制御性を向上させることができる。特に受信波の電波強度が低い物体を検出する際でも、誤検出が少なく、一旦検出した物体をロストし難い物とできる。
また、本実施形態によれば、フュージョン演算部21は、ステレオカメラ11で検出されておらず存在確率が低確率である物体については、ミリ波レーダ10による受信波の電波強度が現在において高閾値である物体を先行車候補とするため、誤検出を防止することができる。
さらに、本実施形態によれば、ミリ波レーダ10による受信波の電波強度が低閾値である物体については、ステレオカメラ11でも検出された物体を先行車候補とするため、路面反射等によるゴーストに対して誤認識、誤制御、誤警報をすることを防ぐことができ、反射が低いオートバイクや自転車等の物体に対しても追従制御が可能となる。また、反射が低いオートバイク等の物体をロストすることを防ぐことができ、不要な加減速を少なくすることができる。
加えて、本実施形態によれば、ミリ波レーダ10による受信波の電波強度が過去において一定時間以上にわたり高閾値以上であった物体については、現在の検出結果が高閾値未満で低閾値以上であっても先行車候補とするため、形状が丸くレーダ波が反射しにくい自動車等の不安定な物体に対してもロストを繰り返さずに追従制御が可能となり、不要な加減速を少なくすることができる。
以上、本発明の実施の形態について説明したが、本発明は、上記実施形態に限定されるものではなく種々の変形が可能である。本実施形態では物体検出装置の一例としてACCシステムに係る走行支援装置を挙げたが、本発明の物体検出装置の適用分野としてはこれに限定されない。
また、上記実施形態では、ステレオカメラを用いたが、単眼カメラを用いることもできる。また、ミリ波レーダに代えてレーザレーダなどを用いてもよい。
実施形態に係るACCシステムの構成を示すブロック図である。 実施形態に係るACCシステムによる走行支援制御の処理手順を示すフローチャートである。
符号の説明
1…ACCシステム、10…ミリ波レーダ、11…ステレオカメラ、12…車速センサ、13…ヨーレートセンサ、14…操舵角センサ、20…先行車認識ECU、21…フュージョン演算部、22…先行車選択部、30…走行制御ECU、40…ブレーキアクチュエータ、41…電子制御式スロットルバルブ。

Claims (3)

  1. レーダによって周囲の物体を検出する物体検出手段と、
    取得した周囲の画像から周囲の物体を検出する撮像手段と、
    前記物体検出手段と前記撮像手段とによる検出結果を融合して周囲の物体を検出する融合検出手段と、
    を備え、
    前記物体検出手段による受信波の強度が過去において前記第1閾値未満であった物体については、前記物体検出手段による受信波の強度が現在において第1閾値以上である物体を検出し、
    前記物体検出手段による受信波の強度が過去において前記第1閾値以上であった物体については、前記物体検出手段による受信波の強度が現在において前記第1閾値よりも低い第2閾値以上である物体を検出し、
    前記撮像手段によって現在において検出可能な物体については、前記物体検出手段による受信波の強度が現在において前記第1閾値よりも低い第2閾値以上である物体を検出する、
    物体検出装置。
  2. 前記物体検出手段による受信波の強度が過去において前記第1閾値以上であった時間及び前記撮像手段によって検出可能となった時間のいずれかが一定時間以上であった物体については、前記物体検出手段による受信波の強度が現在において前記第1閾値よりも低い第2閾値以上である物体を検出する、請求項に記載の物体検出装置。
  3. 前記物体検出手段による受信波の強度が過去において前記第1閾値以上であった回数及び前記撮像手段によって検出可能となった回数のいずれかが一定回数以上であった物体については、前記物体検出手段による受信波の強度が現在において前記第1閾値よりも低い第2閾値以上である物体を検出する、請求項に記載の物体検出装置。
JP2006182445A 2006-06-30 2006-06-30 物体検出装置 Active JP4211809B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006182445A JP4211809B2 (ja) 2006-06-30 2006-06-30 物体検出装置
US12/308,383 US8199046B2 (en) 2006-06-30 2007-06-29 Radar system to determine whether an object is subject of detection based on intensity of a radio wave emission of the object
CN2007800241400A CN101479624B (zh) 2006-06-30 2007-06-29 具有雷达与摄像机的传感器融合以及改变雷达阈值的物体存在概率估算的汽车驾驶辅助系统
EP07804554A EP2035859A2 (en) 2006-06-30 2007-06-29 Object detection system, drive assist system provided with the same, and object detection method
PCT/IB2007/001805 WO2008004077A2 (en) 2006-06-30 2007-06-29 Automotive drive assist system with sensor fusion of radar and camera and probability estimation of object existence for varying a threshold in the radar

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006182445A JP4211809B2 (ja) 2006-06-30 2006-06-30 物体検出装置

Publications (2)

Publication Number Publication Date
JP2008008870A JP2008008870A (ja) 2008-01-17
JP4211809B2 true JP4211809B2 (ja) 2009-01-21

Family

ID=38754629

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006182445A Active JP4211809B2 (ja) 2006-06-30 2006-06-30 物体検出装置

Country Status (5)

Country Link
US (1) US8199046B2 (ja)
EP (1) EP2035859A2 (ja)
JP (1) JP4211809B2 (ja)
CN (1) CN101479624B (ja)
WO (1) WO2008004077A2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11430224B2 (en) 2020-10-23 2022-08-30 Argo AI, LLC Systems and methods for camera-LiDAR fused object detection with segment filtering
US11885886B2 (en) 2020-10-23 2024-01-30 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with LiDAR-to-image detection matching
US12050273B2 (en) 2020-10-23 2024-07-30 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with point pruning
US12118732B2 (en) 2020-11-23 2024-10-15 Ford Global Technologies, Llc Systems and methods for object detection with LiDAR decorrelation
US12122428B2 (en) 2020-10-23 2024-10-22 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with segment merging
US12135375B2 (en) 2020-10-23 2024-11-05 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with local variation segmentation

Families Citing this family (73)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8213672B2 (en) * 2007-08-08 2012-07-03 Microsemi Corporation Millimeter wave imaging method and system to detect concealed objects
JP2009086787A (ja) * 2007-09-28 2009-04-23 Hitachi Ltd 車両検出装置
US20110221624A1 (en) * 2007-12-05 2011-09-15 Sensys Networks, Inc Apparatus and Method Using a Radar in a Wireless and/or Wireline Sensor Node and Operating Radar In the Ground to Detect and Count Vehicles in Roadway, Parking Lot and Airport Applications
JP5470762B2 (ja) * 2008-07-08 2014-04-16 富士通株式会社 物体検出装置、物体検出プログラム、および物体検出方法
JP2010108264A (ja) * 2008-10-30 2010-05-13 Honda Motor Co Ltd 車両周辺監視装置
US8170770B2 (en) * 2008-11-18 2012-05-01 Bendix Commercial Vehicle Systems Llc Adaptive cruise control braking with deceleration monitoring
JP5509615B2 (ja) * 2009-02-13 2014-06-04 富士通株式会社 車両検出装置、車両検出方法、および車両検出プログラム
JP4858574B2 (ja) * 2009-05-19 2012-01-18 トヨタ自動車株式会社 物体検出装置
JP5552339B2 (ja) * 2010-03-12 2014-07-16 トヨタ自動車株式会社 車両制御装置
KR101030763B1 (ko) * 2010-10-01 2011-04-26 위재영 이미지 획득 유닛, 방법 및 연관된 제어 유닛
CN102529962B (zh) * 2010-12-08 2014-11-05 安尼株式会社 移动体防碰撞装置和移动体
JP6116041B2 (ja) * 2011-12-19 2017-04-19 日本信号株式会社 車両検知システム
CN102540179A (zh) * 2011-12-30 2012-07-04 上海德意达电子电器设备有限公司 内置雷达测速测距装置
CN102616198A (zh) * 2012-04-27 2012-08-01 湖南赛格导航技术研究有限公司 一种基于毫米波雷达检测和图像识别的主动式汽车安全控制方法及装置
GB2506479A (en) * 2012-07-30 2014-04-02 Ford Global Tech Llc Collision detection system with a plausibility module
US9187091B2 (en) 2012-07-30 2015-11-17 Ford Global Technologies, Llc Collision detection system with a plausibiity module
WO2014033957A1 (ja) * 2012-09-03 2014-03-06 トヨタ自動車株式会社 衝突判定装置及び衝突判定方法
WO2014033955A1 (ja) * 2012-09-03 2014-03-06 トヨタ自動車株式会社 速度算出装置及び速度算出方法並びに衝突判定装置
CN103810877A (zh) * 2012-11-09 2014-05-21 无锡美新物联网科技有限公司 一种汽车信息交互安全系统
JP6212880B2 (ja) 2013-03-04 2017-10-18 株式会社デンソー 物標認識装置
JP2014229197A (ja) * 2013-05-24 2014-12-08 株式会社デンソー 車両用報知装置
CN105247592B (zh) * 2013-05-31 2017-07-07 丰田自动车株式会社 车辆的驾驶支援装置及车辆的驾驶支援方法
US9582886B2 (en) * 2013-07-08 2017-02-28 Honda Motor Co., Ltd. Object recognition device
JP5929870B2 (ja) * 2013-10-17 2016-06-08 株式会社デンソー 物標検出装置
JP6217349B2 (ja) * 2013-11-28 2017-10-25 トヨタ自動車株式会社 制動装置
DE102013225773A1 (de) * 2013-12-12 2015-06-18 Robert Bosch Gmbh Rückraumüberwachungsystem und Verfahren zur Rückraumüberwachung eines Fahrzeugs
WO2015174178A1 (ja) * 2014-05-15 2015-11-19 本田技研工業株式会社 移動支援装置
JP2016103194A (ja) * 2014-11-28 2016-06-02 パナソニックIpマネジメント株式会社 車両走行支援装置及び車両走行支援方法
WO2016126315A1 (en) * 2015-02-06 2016-08-11 Delphi Technologies, Inc. Autonomous guidance system
WO2016126317A1 (en) 2015-02-06 2016-08-11 Delphi Technologies, Inc. Method of automatically controlling an autonomous vehicle based on electronic messages from roadside infrastructure of other vehicles
WO2016126321A1 (en) 2015-02-06 2016-08-11 Delphi Technologies, Inc. Method and apparatus for controlling an autonomous vehicle
US9766336B2 (en) * 2015-03-16 2017-09-19 Here Global B.V. Vehicle obstruction detection
JP6396838B2 (ja) * 2015-03-31 2018-09-26 株式会社デンソー 車両制御装置、及び車両制御方法
US9555736B2 (en) 2015-04-03 2017-01-31 Magna Electronics Inc. Vehicle headlamp control using sensing and communication systems
EP3306340B1 (en) * 2015-05-29 2021-06-23 Mitsubishi Electric Corporation Radar signal processing device
JP6539228B2 (ja) 2015-06-16 2019-07-03 株式会社デンソー 車両制御装置、及び車両制御方法
CN104978568B (zh) * 2015-06-18 2018-10-26 奇瑞汽车股份有限公司 前方车辆检测方法
KR101704221B1 (ko) * 2015-06-24 2017-02-07 현대자동차주식회사 차량 주행 제어 방법
US9959765B2 (en) * 2015-07-20 2018-05-01 Dura Operating Llc System and method for providing alert to a vehicle or an advanced driver assist system based on vehicle dynamics input
US10410513B2 (en) * 2015-07-20 2019-09-10 Dura Operating, Llc Fusion of non-vehicle-to-vehicle communication equipped vehicles with unknown vulnerable road user
CN106405539B (zh) * 2015-07-31 2020-12-08 株式会社万都 车辆雷达系统以及用于去除一非感兴趣目标的方法
JP6530705B2 (ja) * 2015-12-25 2019-06-12 株式会社デンソー 運転支援装置及び運転支援方法
US10317522B2 (en) * 2016-03-01 2019-06-11 GM Global Technology Operations LLC Detecting long objects by sensor fusion
DE102016207463A1 (de) * 2016-04-29 2017-11-02 Robert Bosch Gmbh Verfahren und Vorrichtung zum Betreiben wenigstens eines Fahrzeugs in Bezug auf wenigstens ein passierbares Objekt in der Umgebung des wenigstens einen Fahrzeugs
WO2017205799A1 (en) * 2016-05-26 2017-11-30 RFNAV, Inc. Apparatus and method for multi-modal sensor fusion
WO2018007995A1 (en) * 2016-07-08 2018-01-11 Magna Electronics Inc. 2d mimo radar system for vehicle
CN106347351A (zh) * 2016-09-28 2017-01-25 奇瑞汽车股份有限公司 一种带有自动紧急制动的自适应巡航方法及系统
JP6787102B2 (ja) * 2016-12-14 2020-11-18 株式会社デンソー 物体検出装置、物体検出方法
JPWO2018154862A1 (ja) * 2017-02-23 2019-12-12 本田技研工業株式会社 車両用制御システムおよび制御方法
WO2018154859A1 (ja) 2017-02-23 2018-08-30 本田技研工業株式会社 車両用制御システムおよび制御方法
KR20180112336A (ko) * 2017-04-03 2018-10-12 삼성전자주식회사 복수의 센서를 이용하여 객체를 인식하는 전자 기기 및 방법
CN107202983B (zh) * 2017-05-19 2020-11-13 深圳佑驾创新科技有限公司 基于图像识别和毫米波雷达融合的自动刹车方法和系统
US10641888B2 (en) * 2017-11-06 2020-05-05 Veoneer Us Inc. Cued automobile sensor fusion
US20190146081A1 (en) * 2017-11-16 2019-05-16 GM Global Technology Operations LLC Vehicle radar control
US11091162B2 (en) * 2018-01-30 2021-08-17 Toyota Motor Engineering & Manufacturing North America, Inc. Fusion of front vehicle sensor data for detection and ranging of preceding objects
CN108609001A (zh) * 2018-05-09 2018-10-02 上海蓥石汽车技术有限公司 一种主动刹车行人防撞的设计方法
US10864910B2 (en) 2018-05-16 2020-12-15 GM Global Technology Operations LLC Automated driving systems and control logic using sensor fusion for intelligent vehicle control
US10852420B2 (en) 2018-05-18 2020-12-01 Industrial Technology Research Institute Object detection system, autonomous vehicle using the same, and object detection method thereof
CN110888135B (zh) * 2018-08-15 2022-04-15 比亚迪股份有限公司 目标识别的方法、装置以及存储介质和车辆
DE102018214962A1 (de) * 2018-09-04 2020-03-05 Robert Bosch Gmbh Verfahren und Vorrichtung zum Absichern eines Überholvorgangs eines auf ein Fahrrad auffahrenden Fahrzeugs
WO2020070563A1 (en) * 2018-10-01 2020-04-09 Kpit Technologies Limited Perception sensors based fusion system for vehicle control and method thereof
JP7011568B2 (ja) * 2018-11-26 2022-01-26 本田技研工業株式会社 車載装置
JP7069061B2 (ja) * 2019-01-31 2022-05-17 株式会社デンソー 物体判定装置
JP7185547B2 (ja) 2019-02-07 2022-12-07 株式会社デンソー 車両検出装置
CN110068818A (zh) * 2019-05-05 2019-07-30 中国汽车工程研究院股份有限公司 通过雷达和图像采集设备进行交通路口车辆及行人检测的工作方法
CN110395251B (zh) * 2019-06-27 2021-07-02 驭势(上海)汽车科技有限公司 一种基于多传感器融合数据的自动紧急制动决策方法
CN113960589A (zh) * 2020-07-03 2022-01-21 上海汽车集团股份有限公司 毫米波雷达与摄像头目标存在概率融合方法及装置
CN112098995B (zh) * 2020-08-17 2023-12-26 深圳电目科技有限公司 基于雷达的目标检测方法、梯控方法及系统
FR3114289B1 (fr) * 2020-09-21 2023-12-15 Psa Automobiles Sa Procédé et dispositif de conduite autonome d’un véhicule terrestre à moteur
US12106583B2 (en) 2020-10-02 2024-10-01 Magna Electronics Inc. Vehicular lane marker determination system with lane marker estimation based in part on a LIDAR sensing system
US11733369B2 (en) * 2021-02-11 2023-08-22 Waymo Llc Methods and systems for three dimensional object detection and localization
CN113075638B (zh) * 2021-04-30 2021-10-12 深圳安德空间技术有限公司 用于地下空间勘察的多源数据同步采集及融合方法和系统
CN116092290A (zh) * 2022-12-31 2023-05-09 武汉光庭信息技术股份有限公司 一种采集数据自动修正和补充方法及系统

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3449710A (en) * 1967-10-18 1969-06-10 Us Navy Controlled threshold detector for sonar applications
US3465336A (en) * 1968-05-09 1969-09-02 Us Army Doppler radar with clutter controlled filter channel
JP2687083B2 (ja) * 1992-10-20 1997-12-08 トヨタ自動車株式会社 ドップラ式対地車速検出装置
GB2283631B (en) 1993-11-06 1998-04-29 Roke Manor Research Radar apparatus
US5633642A (en) * 1993-11-23 1997-05-27 Siemens Aktiengesellschaft Radar method and device for carrying out the method
JP3401913B2 (ja) * 1994-05-26 2003-04-28 株式会社デンソー 車両用障害物認識装置
GB9602250D0 (en) * 1996-02-05 1996-04-03 Secr Defence Collision warning system
US5959571A (en) * 1996-04-22 1999-09-28 The Furukawa Electric Co., Ltd. Radar device
US6300865B1 (en) * 1996-05-08 2001-10-09 Daimlerchrysler Ag Process for detecting the road conditions ahead for motor vehicles
US6002983A (en) * 1997-08-27 1999-12-14 Delphi Technologies, Inc. Angle extent estimation method for a motor vehicle object detection system
SE511061C2 (sv) * 1997-11-21 1999-07-26 Celsiustech Electronics Ab Förfarande för klassificering av upphöjda objekt
JP3428009B2 (ja) * 1998-07-03 2003-07-22 トヨタ自動車株式会社 車両用レーダ装置
EP0971242A1 (en) * 1998-07-10 2000-01-12 Cambridge Consultants Limited Sensor signal processing
JP2000292538A (ja) * 1999-04-07 2000-10-20 Mitsubishi Electric Corp 車両用障害物検出装置
JP3966673B2 (ja) * 1999-10-26 2007-08-29 本田技研工業株式会社 物体検知装置および車両の走行安全装置
JP4698048B2 (ja) * 2001-03-19 2011-06-08 富士通テン株式会社 Fm−cwレーダの路上静止物検知方法
EP1409313B1 (de) * 2001-07-11 2006-08-23 Robert Bosch Gmbh Verfahren und vorrichtung zum automatischen auslösen einer verzögerung eines fahrzeugs
DE60238660D1 (de) 2001-11-08 2011-02-03 Fujitsu Ten Ltd Abtastradar
US7295154B2 (en) * 2002-01-17 2007-11-13 The Ohio State University Vehicle obstacle warning radar
JP3903856B2 (ja) * 2002-06-14 2007-04-11 株式会社デンソー 車両制御装置,プログラム
JP4016826B2 (ja) 2002-12-10 2007-12-05 株式会社デンソー 物標識別方法及び装置、プログラム
US6680689B1 (en) * 2003-03-28 2004-01-20 Visteon Global Technologies, Inc. Method for determining object classification from side-looking sensor data
US6838981B2 (en) * 2003-03-28 2005-01-04 Visteon Global Technologies, Inc. Stopped object filtering for side object detection system
JP4046648B2 (ja) * 2003-06-03 2008-02-13 富士通テン株式会社 目標物判別装置
US7339517B2 (en) * 2003-12-16 2008-03-04 Murata Manufacturing Co., Ltd. Radar
JPWO2005091015A1 (ja) * 2004-03-23 2008-02-07 株式会社村田製作所 レーダ
JP2005297648A (ja) * 2004-04-07 2005-10-27 Denso Corp 物体検出装置、車両制御システム
JP4396400B2 (ja) 2004-06-02 2010-01-13 トヨタ自動車株式会社 障害物認識装置
JP4281632B2 (ja) * 2004-06-23 2009-06-17 トヨタ自動車株式会社 物標検出装置
JP4426436B2 (ja) 2004-12-27 2010-03-03 株式会社日立製作所 車両検知装置
JP5070713B2 (ja) 2006-02-27 2012-11-14 トヨタ自動車株式会社 物体検出装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11430224B2 (en) 2020-10-23 2022-08-30 Argo AI, LLC Systems and methods for camera-LiDAR fused object detection with segment filtering
US11885886B2 (en) 2020-10-23 2024-01-30 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with LiDAR-to-image detection matching
US12050273B2 (en) 2020-10-23 2024-07-30 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with point pruning
US12122428B2 (en) 2020-10-23 2024-10-22 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with segment merging
US12135375B2 (en) 2020-10-23 2024-11-05 Ford Global Technologies, Llc Systems and methods for camera-LiDAR fused object detection with local variation segmentation
US12118732B2 (en) 2020-11-23 2024-10-15 Ford Global Technologies, Llc Systems and methods for object detection with LiDAR decorrelation

Also Published As

Publication number Publication date
US20090251355A1 (en) 2009-10-08
WO2008004077A3 (en) 2008-03-20
US8199046B2 (en) 2012-06-12
JP2008008870A (ja) 2008-01-17
CN101479624B (zh) 2012-06-20
EP2035859A2 (en) 2009-03-18
WO2008004077A2 (en) 2008-01-10
CN101479624A (zh) 2009-07-08

Similar Documents

Publication Publication Date Title
JP4211809B2 (ja) 物体検出装置
CN108541325B (zh) 驾驶辅助装置以及驾驶辅助方法
US7777669B2 (en) Object detection device
CN103241241B (zh) 巡航控制设备
US8200419B2 (en) Braking control system and braking control method
US9574538B2 (en) Idling stop control system for vehicle
WO2018056212A1 (ja) 物体検知装置及び物体検知方法
WO2018079252A1 (ja) 物体検知装置
US20230101872A1 (en) Vehicle and control method thereof
WO2019009032A1 (ja) 車両制御装置
US11087149B2 (en) Object detection apparatus
JP2008037361A (ja) 障害物認識装置
JP4876772B2 (ja) 割込車両判定装置
JP2006298254A (ja) 走行支援装置
JP5071309B2 (ja) 車速制御装置
JP4904983B2 (ja) 物体検出装置
JP4872517B2 (ja) 障害物認識装置
JP4941265B2 (ja) 障害物判定装置
CN114390989B (zh) 车辆控制设备及其控制方法
US12265152B2 (en) Object tracking method
US11938879B2 (en) Vehicle control device, information processing apparatus, operation methods thereof, and storage medium
JP2014035669A (ja) 物体位置検知装置
KR20200059475A (ko) 초음파 센서의 높이 보상장치 및 그 방법
CN118671740A (zh) 稳健的激光雷达到相机传感器对准
JP2024067342A (ja) 車両の制御装置、制御方法及び、プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080415

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081007

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081020

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4211809

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131107

Year of fee payment: 5