JP6642307B2 - Perimeter monitoring device - Google Patents
Perimeter monitoring device Download PDFInfo
- Publication number
- JP6642307B2 JP6642307B2 JP2016129660A JP2016129660A JP6642307B2 JP 6642307 B2 JP6642307 B2 JP 6642307B2 JP 2016129660 A JP2016129660 A JP 2016129660A JP 2016129660 A JP2016129660 A JP 2016129660A JP 6642307 B2 JP6642307 B2 JP 6642307B2
- Authority
- JP
- Japan
- Prior art keywords
- water level
- vehicle
- image
- level limit
- limit line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/304—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
- B60R2300/305—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
- B60R2300/607—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Mechanical Engineering (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
本発明の実施形態は、周辺監視装置に関する。 Embodiments of the present invention relate to a periphery monitoring device.
従来、渡渉(渡河)機能を備えた車両がある。例えば、オフロード車と称される車両は沼地や河川、冠水路等で渡渉走行(水中走行)が可能なように、防水対策が施されている場合がある。このような車両の中には、例えば超音波ソナー等のセンサを用いて水面までの距離を測定し、車室内に設けられた表示装置に水面と自車のグラフィック画像を表示して渡渉走行状態を擬似的に表示して運転者に提示するシステムを搭載するものがある。 2. Description of the Related Art Conventionally, there is a vehicle having a crossing (crossing) function. For example, a vehicle referred to as an off-road vehicle may be provided with a waterproofing measure so as to be able to run over water (underwater traveling) in swamps, rivers, flooded roads, and the like. In such vehicles, for example, the distance to the water surface is measured using a sensor such as an ultrasonic sonar, and a graphic image of the water surface and the own vehicle is displayed on a display device provided in the vehicle cabin, and the vehicle is in a traveling state. There is a system equipped with a system for displaying a simulation in a pseudo manner.
しかしながら、車両が渡渉走行を行う場合、水面が波打っていることが多々ある。上述した技術のように水面までの距離を超音波ソナー等のセンサで検出して水面を示すグラフィック画像を表示する場合、波打ちにより水面が上下して水面までの測距を正確に行うことが難しい場合がある。この場合、波打ち状態や水面までの高さがグラフィック画像で正確に表現できず、水面状態の表示や渡渉走行の適否情報をユーザに適切に提供し難いという問題があった。 However, when the vehicle travels over the road, the water surface is often wavy. When detecting the distance to the water surface with a sensor such as an ultrasonic sonar and displaying a graphic image indicating the water surface as in the above-described technique, it is difficult to accurately measure the distance to the water surface due to the rising and falling of the water surface due to waving. There are cases. In this case, there is a problem that the wavy state and the height to the water surface cannot be accurately represented by the graphic image, and it is difficult to appropriately provide the user with the display of the water surface state and information on the suitability of the cruising.
そこで、本発明の課題の一つは、水面状態の表示や渡渉走行(水中走行)の適否情報をユーザに適切に提供することができる周辺監視装置を提供することである。 Therefore, one of the objects of the present invention is to provide a periphery monitoring device that can appropriately provide a user with a display of a water surface state and information on suitability of cruising (underwater traveling).
本発明の実施形態にかかる周辺監視装置は、例えば、車両の車体表面および当該車体表面の周辺を撮像範囲として撮像する撮像部から出力された撮像画像データに基づく画像を表示装置に表示させる制御部と、上記車両の渡渉走行時の水位限界情報に基づく水位限界線を上記画像上の上記車体表面の対応位置に重畳する画像処理部と、を備える。この構成によれば、例えば、表示装置には、撮像部で撮像した撮像画像データに基づく実画像が表示され、自車の実際の車体表面および渡渉走行(水中走行)時の周辺状況、つまり水面状況(水位や波打ち状況等)が表示される。また、水位限界線が画像上の車体表面の対応位置に重畳される。その結果、実際の状況、つまり水位が車体のどの辺りまできているのかという状況をより正確にユーザに伝え易く、ユーザに渡渉走行時の状況を直感的に把握させ易くすることができる。 A peripheral monitoring device according to an embodiment of the present invention includes, for example, a control unit that causes a display device to display an image based on captured image data output from an imaging unit that captures an image of a vehicle body surface and a periphery of the vehicle body surface as an imaging range. And an image processing unit for superimposing a water level limit line based on the water level limit information when the vehicle travels over the road, at a corresponding position on the vehicle body surface on the image. According to this configuration, for example, the display device displays an actual image based on the captured image data captured by the imaging unit, and the actual vehicle body surface of the own vehicle and the surrounding conditions during cruising (underwater traveling), that is, the water surface The status (water level, waving condition, etc.) is displayed. Further, the water level limit line is superimposed on a corresponding position on the vehicle body surface on the image. As a result, it is easier to more accurately convey to a user the actual situation, that is, the situation where the water level is located on the vehicle body, and to make it easier for the user to intuitively grasp the situation at the time of crossing traveling.
また、上記周辺監視装置において、例えば、上記制御部は、上記車両の側面が撮像された上記撮像画像データに補正を施した画像を表示させてもよい。この構成によれば、例えば、画面内容(車両側面およびそこに重畳された水位限界線)の視認性がより向上し、実際の状況、つまり水位が車体のどの辺りまできているのかという状況をさらに正確にユーザに理解させ易くなる。 In the peripheral monitoring device, for example, the control unit may display an image obtained by correcting the captured image data obtained by capturing the side surface of the vehicle. According to this configuration, for example, the visibility of the screen contents (vehicle side surface and the water level limit line superimposed thereon) is further improved, and the actual situation, that is, the situation where the water level is reached on the vehicle body is improved. Further, it is easy to make the user understand more accurately.
また、上記周辺監視装置において、例えば、上記制御部は、上記補正として、上記撮像画像データに視点変換処理を施してもよい。この構成によれば、例えば、車両の側方から車両の側面を見たような画像が提供可能となり、水位限界線と水面との関係、水面と車体との関係をより理解させやすい画像が提供できる。 In the peripheral monitoring device, for example, the control unit may perform a viewpoint conversion process on the captured image data as the correction. According to this configuration, for example, it is possible to provide an image as if the side of the vehicle is viewed from the side of the vehicle, and to provide an image that makes it easier to understand the relationship between the water level limit line and the water surface and the relationship between the water surface and the vehicle body. it can.
また、上記周辺監視装置において、例えば、上記制御部は、上記補正として、上記撮像画像データに歪み補正処理を施してもよい。この構成によれば、例えば、車両の形状がより認識し易い形となり、水位限界線と水面との関係、水面と車体との関係をさらに理解させやすい画像が提供できる。 In the peripheral monitoring device, for example, the control unit may perform a distortion correction process on the captured image data as the correction. According to this configuration, for example, it is possible to provide an image in which the shape of the vehicle is more easily recognizable and the relationship between the water level limit line and the water surface and the relationship between the water surface and the vehicle body can be more easily understood.
また、上記周辺監視装置において、例えば、上記制御部は、上記補正として、上記撮像画像データの一部を切出す切出し処理を施してもよい。この構成によれば、例えば、車両において、水位との関係に注意を払うべき特定部分の拡大表示が可能となり、車体と水位限界線との関係、水面と車体との関係をより理解させやすい画像が提供できる。 In the peripheral monitoring device, for example, the control unit may perform a cutout process of cutting out a part of the captured image data as the correction. According to this configuration, for example, in a vehicle, it is possible to enlarge and display a specific portion of the vehicle in which attention should be paid to the relationship with the water level, and to easily understand the relationship between the vehicle body and the water level limit line and the relationship between the water surface and the vehicle body. Can be provided.
また、上記周辺監視装置において、例えば、上記車両の表面形状に沿った形状の上記水位限界線を上記対応位置に重畳してもよい。この構成によれば、例えば、車両の表面と水位限界線とのズレが軽減され、水位限界線と水面との関係、水面と車体との関係をさらに理解させやすい画像が提供できる。 In the peripheral monitoring device, for example, the water level limit line having a shape along the surface shape of the vehicle may be superimposed on the corresponding position. According to this configuration, for example, a deviation between the surface of the vehicle and the water level limit line is reduced, and an image can be provided that makes it easier to understand the relationship between the water level limit line and the water surface and the relationship between the water surface and the vehicle body.
また、上記周辺監視装置において、例えば、上記画像処理部は、直線の上記水位限界線を上記対応位置に重畳してもよい。この構成によれば、例えば、水位限界線の重畳処理が容易になり、処理負荷を軽減できる。また、車両に対して水位限界線がシンプルに表示され、直感的に車両、水位限界線、水面との関係を理解させやすい表示ができる。 In the peripheral monitoring device, for example, the image processing unit may superimpose the linear water level limit line on the corresponding position. According to this configuration, for example, the process of superimposing the water level limit line is facilitated, and the processing load can be reduced. In addition, the water level limit line is simply displayed for the vehicle, and a display that makes it easy to intuitively understand the relationship between the vehicle, the water level limit line, and the water surface can be provided.
また、上記周辺監視装置において、例えば、上記制御部は、上記水位限界線が表示される場合、上記画像における上記車体表面の表示領域を上記水位限界線が非表示の場合より大きくするようにしてもよい。この構成によれば、例えば、車体に重畳された水位限界線を認識させ易くできるとともに、画面が水位限界線の表示モードに切り替わっていることを認識させやすくすることができる。 In the peripheral monitoring device, for example, when the water level limit line is displayed, the display area of the vehicle body surface in the image is set to be larger than when the water level limit line is not displayed. Is also good. According to this configuration, for example, the water level limit line superimposed on the vehicle body can be easily recognized, and the fact that the screen is switched to the display mode of the water level limit line can be easily recognized.
また、上記周辺監視装置において、例えば、上記画像処理部は、上記画像に重畳される上記水位限界線より車高方向の低い位置に水位参照線を重畳してもよい。この構成によれば、水位参照線は、車体に対する水位の上昇の程度を段階的に示すことができるので、水位上昇に対する段階的な注意喚起を行うことができる。 In the peripheral monitoring device, for example, the image processing unit may superimpose a water level reference line at a position lower in the vehicle height direction than the water level limit line superimposed on the image. According to this configuration, the water level reference line can indicate the degree of rise of the water level with respect to the vehicle body in a stepwise manner, so that the water level reference can be alerted stepwise.
また、上記周辺監視装置において、例えば、上記画像処理部は、上記水位参照線を上記水位限界線と異なる表示態様で重畳してもよい。この構成によれば、水位参照線による水位上昇に対する注意喚起をより明確に行うことができる。 In the peripheral monitoring device, for example, the image processing unit may superimpose the water level reference line in a display mode different from the water level limit line. According to this configuration, it is possible to more clearly alert the user to a rise in the water level by the water level reference line.
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。 Hereinafter, exemplary embodiments of the present invention will be disclosed. The configurations of the embodiments described below, and the operations, results, and effects provided by the configurations are examples. The present invention can be realized by configurations other than those disclosed in the following embodiments, and can obtain at least one of various effects based on the basic configuration and derivative effects. .
本実施形態において、周辺監視装置(周辺監視システム)を搭載する車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよい。また、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。また、車両1は、例えば、いわゆる「オンロード」(主として舗装された道路やそれと同等の道路)の走行に加え、「オフロード」(主として舗装されていない不整地路等)の走行も好適に行える車両である。駆動方式としては、4つある車輪3すべてに駆動力を伝え、4輪すべてを駆動輪として用いる四輪駆動車両とすることができる。車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。例えば、「オンロード」の走行を主目的とする車両でもよい。また、駆動方式も四輪駆動方式に限定されず、例えば、前輪駆動方式や後輪駆動方式でもよい。
In the present embodiment, the
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールであり、加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。
As illustrated in FIG. 1, the
また、車室2a内には、表示出力部としての表示装置8や、音声出力部としての音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等により操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8や、音声出力装置9、操作入力部10等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
Further, a
また、車室2a内には、表示装置8とは別の表示装置12が設けられている。図3に例示されるように、表示装置12は、例えば、ダッシュボード24の計器盤部25に設けられ、計器盤部25の略中央で、速度表示部25aと回転数表示部25bとの間に位置されている。表示装置12の画面12aの大きさは、表示装置8の画面8a(図3)の大きさよりも小さい。この表示装置12には、例えば車両1の周辺監視や他の機能が動作している場合に補助的な情報として、インジケータやマーク、文字情報を示す画像が表示されうる。表示装置12で表示される情報量は、表示装置8で表示される情報量より少なくてもよい。表示装置12は、例えば、LCDや、OELD等である。なお、表示装置8に、表示装置12で表示される情報が表示されてもよい。
Further, a
また、図1、図2に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図4に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。また、トルクセンサ13bは、例えば、運転者が操舵部4に与えるトルクを検出する。
Further, as exemplified in FIGS. 1 and 2, the
また、図2に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a〜15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部15は、車両1が移動可能な路面や渡渉走行時の水面、その周辺の状況(水の有無、水面の状態、水面までの高さ等)や物体(障害物として、例えば、岩、樹木、人間、自転車、車両等)を含む車両1の周辺の外部の環境を逐次撮影し、撮像画像データとして出力する。
Further, as illustrated in FIG. 2, the
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リアハッチのドア2hのリアウインドウの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパやフロントグリル等に設けられている。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側のドアミラー2gに設けられている。ECU14は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。また、ECU14は、撮像部15で得られた広角画像のデータ(湾曲した画像のデータ)に演算処理や画像処理を施し歪みを補正する歪み補正処理を実行したり、特定の領域を切り出した画像を生成したり、特定の領域のみを示す画像データを生成したりする切出し処理が実行できる。また、ECU14は、撮像画像データを撮像部15が撮像した視点とは異なる仮想視点から撮像したような仮想画像データに変換する視点変換処理が実行できる。例えば、車両1を上空から俯瞰したような俯瞰画像を示す仮想画像データに変換したり、車両1の側面を当該車両1から離れた位置から臨むような側視画像を示す仮想画像データに変換したりすることができる。ECU14は、取得した画像データを表示装置8に表示することで、例えば、車両1の右側方や左側方の安全確認や後述する渡渉走行時の水位の確認、車両1を俯瞰してその周囲の安全確認を実行できるような周辺監視情報を提供する。
The
また、ECU14は、渡渉走行時に、水面の状態とともに、車体2の一部を表示して渡渉走行時の車両1と水面の関係を表示して、渡渉走行支援(水中走行支援)を実行することもできる。この場合、ECU14は、後述するように、車両1の一部、例えば車体2の側面に水位限界線や水位参照線等を重畳した画像を表示させることができる。なお、ECU14は、撮像部15から提供される撮像画像データから車両1の周辺の路面に示された区画線等を識別して走行支援を実行したり、駐車区画を検出(抽出)して駐車支援を実行したりすることもできる。
In addition, the
図1、図2に例示されるように、車体2には、複数の測距部16,17として、例えば四つの測距部16a〜16dと、八つの測距部17a〜17hとが設けられている。測距部16,17は、例えば、超音波を発射してその反射波を捉えるソナーである。ソナーは、ソナーセンサ、あるいは超音波探知器、超音波ソナーとも称されうる。本実施形態において、測距部16,17は、車両1の車高方向において低い位置、例えば前後のバンパに設けられ、車両1の周辺の例えば障害物を検出し、その障害物までの距離を測定することができる。また、測距部16,17は、車両1が水中進入(走行)状態か否かを判定するセンサとして利用することができる。上述したように、測距部16,17は、車両1の車高方向において低い位置である前後のバンパに設けられているので、渡渉走行を行う場合、水位が渡渉走行不能となる高さ(水位限界線が重畳される高さ)に達する前の比較的早期の段階で水没する。例えば、測距部16,17が水没した場合、反射波の受信状態が不安定になり動作エラーとなる。したがって、車両1が河川や沼に進入して水没した場合、複数の測距部16,17でほぼ同時にエラー信号を出力することができる。例えば、車両1が前進走行しながら河川や沼に進入していく場合、測距部17e,17f,17g,17hがほぼ同時に水没してエラー信号を出力し、続いて測距部16c,16dがエラー信号を出力する。同様に、車両1が後進走行しながら河川や沼に進入していく場合、測距部17a,17b,17c,17dがほぼ同時に水没してエラー信号を出力し、続いて測距部16a,16bがエラー信号を出力する。つまり、測距部16,17のエラー信号の出力態様に基づいて、車両1が渡渉走行状態か否かを判定するための情報を得ることができる。なお、車両1が渡渉走行を完了した場合(上陸した場合)は、車両1が前進走行しながら河川や沼から脱出した場合、測距部17e,17f,17g,17hがほぼ同時に復帰し、続いて測距部16c,16dが復帰する。さらに上陸が進むと、測距部16a,16bが復帰し、最後に測距部17a,17b,17c,17dがほぼ同時に復帰する。このように、全ての測距部16,17が復帰した場合に、車両1が渡渉走行から脱出(完全上陸)したと判定するための情報を得ることができる。なお、測距部16,17は、防水構造とし、水没による破損等は生じないように構成されている。
As illustrated in FIGS. 1 and 2, the
また、図4に例示されるように、周辺監視システム100(周辺監視装置)では、ECU14や、モニタ装置11、操舵システム13、測距部16,17等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、測距部16、測距部17、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等の検出結果や、操作入力部10等の操作信号等を、受け取ることができる。
As illustrated in FIG. 4, in the periphery monitoring system 100 (perimeter monitoring device), in addition to the
ECU14は、例えば、CPU14a(central processing unit)や、ROM14b(read only memory)、RAM14c(random access memory)、表示制御部14d、音声制御部14e、SSD14f(solid state drive、フラッシュメモリ)等を有している。CPU14aは、例えば、表示装置8,12で表示される画像に関連した画像処理の演算処理および制御を実行することができる。例えば、陸上走行時に表示する標準表示モードの画像や渡渉走行時に表示する特殊表示モードの画像等を表示するための処理や演算を実行する。このほか、CPU14aは、車両1の移動目標位置(駐車目標位置、目標位置)の決定、車両1の誘導経路(誘導経路、駐車経路、駐車誘導経路)の演算、物体との干渉の有無の判断、車両1の自動制御、自動制御の解除等の、各種の演算処理および制御を実行することができる。
The
CPU14aは、ROM14b等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。RAM14cは、CPU14aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、表示装置8で表示される画像データの合成等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合にあってもデータを記憶することができる。なお、CPU14aや、ROM14b、RAM14c等は、同一パッケージ内に集積されうる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、ECU14とは別に設けられてもよい。
The
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部6の可動部の位置を検出するセンサである。
The
舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。ECU14は、運転者による操舵部4の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。アクセルセンサ20は、例えば、加速操作部5の可動部の位置を検出するセンサである。シフトセンサ21は、例えば、変速操作部7の可動部の位置を検出するセンサである。車輪速センサ22は、車輪3の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、検出した回転数を示す車輪速パルス数をセンサ値として出力する。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。本実施形態では、車両1に2個の加速度センサ26(26a、26b)が設けられているものとする。なお、車両1がESCを搭載する場合、ESCに従来から搭載されている加速度センサ26(26a、26b)を用いる。なお、本実施形態は、加速度センサを制限するものではなく、車両1の左右方向の加速度を検出可能なセンサであればよい。本実施形態では、前後方向の加速度及び左右方向の加速度を導出する。
The
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。 The configuration, arrangement, electrical connection form, and the like of the various sensors and actuators described above are merely examples, and can be set (changed) in various ways.
周辺監視システム100を実現するECU14は、一例として、車両1の渡渉走行時に撮像部15が撮像した撮像画像データに基づく実画像を用いて、車両1の周囲の水面と、「水位限界線」が重畳された車体2との関係を表示装置8に表示する。この場合、撮像部15が撮像する撮像画像データは、車両1の車体2の表面および当該表面の周辺を撮像範囲として撮像したデータである。ここで、「水位限界線」とは、車両1が水没しても走行機能等車両1に備えられた機能を正常に動作させることができる水位および車室2a内への浸水を防ぐことが可能な水位の限界を示す指標である。
As an example, the
図5〜図7は、撮像画像データに基づく画像に「水位限界線L」を重畳した状態を示す説明図である。「水位限界線L」は、車輪3の接地位置から車高方向に例えば、600mmの位置に設定される線であり、車両1の設計段階での防水処理や止水処理等が施される高さと車両1の駆動性能等によって予め設定される高さに設定される。「水位限界線L」は、撮像部15が撮像した撮像画像データに基づく画像に含まれる車体2のうち、例えばボディ側面2mに沿って(車体2の曲面に沿って)重畳表示することができる。例えばボディ側面2mが曲面の場合、水位限界線Lも車両1の表面形状(水平断面形状)に沿った形状(曲線)とすることが望ましい。また、水位限界線Lは、車体2の範囲内で重畳される。この場合、水位限界線Lは、車輪3部分も含んで重畳される。このように、水位限界線Lをボディ側面2mに沿わせかつ車体2の範囲内で重畳することにより、水位が車体2の何処まで上がってきたかを違和感なくユーザに認識させ易くすることができる。
5 to 7 are explanatory diagrams illustrating a state in which the “water level limit line L” is superimposed on an image based on the captured image data. The “water level limit line L” is a line that is set, for example, at a position of 600 mm in the vehicle height direction from the ground position of the
前述したように、広角レンズまたは魚眼レンズを有した撮像部15bおよび撮像部15dはドアミラー2gに固定されている。したがって、撮像部15bおよび撮像部15dは、車両1のボディ側面2mの一部(前輪3F、後輪3Rを含む)およびその側方の風景を撮像範囲とする。つまり、車両1が河川や沼、冠水路等の水中に進入した場合、車両1のボディ側面2mと水中に進入したことにより上昇した水面とを同一の画面内に収めた画像を得ることができる。そして、ECU14は、水面とともに表示される車両1のボディ側面2mに「水位限界線L」を重畳表示した画像を表示装置8で表示することにより、車両1の渡渉走行中の水没状態および水没状態の遷移を視覚的にユーザ(運転者等)に確認させることができる。また、その画面には、実画像として水面が表示されているので、ユーザに水位の変化を直感的に把握させ易くすることができる。この場合、表示する画像は実画像なので、水面が波打っている場合でも、その水面変化をリアルタイムでユーザに認識させることが可能になり、渡渉走行時の状況判断をより適切に行わせ易くすることができる。
As described above, the
なお、ECU14は、図6、図7に示すように「水位限界線L」と類似する指標として「水位限界線L」より車高方向の低い位置に「水位参照線K」を重畳することができる。この「水位参照線K」は、水位限界線Lと略平行に重畳されて、水位限界線Lには到達していないが水位の上昇を予告的にユーザに報知する指標線である。「水位参照線K」が例えば2本重畳される場合、1本は、「水位限界線L」の下方例えば400mm、すなわち車輪3の接地面から200mmの位置に「第1水位参照線K1」として重畳される。また、もう1本は、「水位限界線L」の下方例えば200mm、すなわち車輪3の接地面から400mmの位置に「第2水位参照線K2」として重畳される。このように、「水位参照線K」を設けることにより、車体2に対する水位の上昇の程度を段階的に示すことができるので、水位上昇に対する段階的な注意喚起を行うことができる。なお、「水位参照線K」の表示の有無は、ユーザによって選択できるようにしてもよい。また、「水位参照線K」の本数や重畳位置(車輪3の接地位置からの高さ)は適宜設定可能である。
The
ECU14に含まれるCPU14aは、上述したような渡渉走行時の「水位限界線L」を含む画像の提供を実現するために、図8に示されるように、画像取得部30、表示処理部32(制御部)、画像処理部34、出力部36を含む。また、表示処理部32は、歪み補正部38、視点変換部40、レイアウト調整部42を含み、画像処理部34は、水位限界線重畳部44および水位参照線重畳部46を含む。画像取得部30、表示処理部32、画像処理部34、出力部36、歪み補正部38、視点変換部40、レイアウト調整部42、水位限界線重畳部44、水位参照線重畳部46は、ROM14b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現可能である。
As shown in FIG. 8, the
画像取得部30は、車両1に設けられて当該車両1の周辺を撮像する撮像部15から出力された撮像画像データを表示制御部14dを介して取得する。なお、表示制御部14dは、CPU14aによる処理を介さずに、撮像部15で撮像した撮像画像データをそのままの状態で表示装置8や表示装置12に出力してもよい。また、CPU14aは、操作入力部10や操作部14g等の入力装置を用いてユーザに希望する表示内容を選択させるようにしてもよい。つまり、表示制御部14dは、操作入力部10や操作部14gの操作により選択された画像を選択的に表示装置8に表示することができる。例えば撮像部15aで撮像した車両1の後方画像を表示装置8に表示させたり、撮像部15dで撮像した左側方画像を表示装置8に表示させたりすることができる。
The
表示処理部32は、車両1の車体2の表面および当該表面の周辺を撮像範囲として撮像する撮像部15から出力された撮像画像データに種々の画像処理を施し、撮像画像データに基づく画像を「水位限界線L」や「水位参照線K」が認識し易い画像に変換して表示装置8に表示させる。
The display processing unit 32 performs various types of image processing on the captured image data output from the
例えば、歪み補正部38は、周知の歪み補正処理を撮像画像データまたは撮像画像データに基づく画像に施す。前述したように、撮像部15bおよび撮像部15dが広角レンズまたは魚眼レンズを備えている場合、撮像した撮像画像データに基づくオリジナル画像は図5に示すように湾曲した画像になる。この場合、湾曲した画像は、車両1および当該車両1の前方、後方、側方の広範囲の状況を撮像範囲に含む画像となる。つまり、車両1および車両1の周辺全体の状況をユーザに把握させ易い画像を提供できる。その一方で、この湾曲した画像に不慣れなユーザは、表示内容の理解に時間がかかってしまうことがある。また、本来直線に近いはずの「水位限界線L」が湾曲しているので、違和感を与えてしまう場合がある。そこで、歪み補正部38(CPU14a)は、例えば、ROM14bに保持された補正情報に基づき、車両1の側面が撮像された撮像画像データに対して画素位置に応じた変位量を与えて補正することで湾曲を緩和または取り除く処理を施す。その結果、表示装置8に表示される車両1の形状を実際の形状に近づけることが可能になり、ユーザに表示内容の理解をより容易に行わせ易くなる。
For example, the distortion correction unit 38 performs a known distortion correction process on captured image data or an image based on the captured image data. As described above, when the
視点変換部40は、周知の視点変換処理を撮像画像データまたは撮像画像データに基づく画像に施す。例えば車体2のボディ側面2mに重畳される「水位限界線L」や「水位参照線K」と水面W(水面線)との関係をユーザにより理解させや易くするためには、水位限界線Lや水位参照線Kが重畳された車体2の表面(例えばボディ側面2m)を視認し易い方向から視線を向けた画像で提供することが望ましい。例えば、図6、図7に示されるように、変換後の画像は、ボディ側面2mから離間した位置から当該ボディ側面2mに臨み、ボディ側面2mと水面Wとの接触部分(水面線)近傍を見下ろすような視線で得られる画像とする。その結果、変換後の画像は、ボディ側面2mと水面Wとの関係がより理解し易くなる。視点変換部40(CPU14a)は、車両1の側面が撮像された撮像画像データに対して例えばROM14b等に保持されたマッピングテーブルの変換情報を適用して、車両1から離間して当該車両1を臨む視点位置から見た場合の仮想画像データ(視点変換画像)を生成する。なお、図6、図7は、撮像画像データに基づく画像に歪み補正と視点変換処理を施した例を示すが、歪み補正処理を省略し視点変換処理を実行してもよい。この場合、図5に示すような画像をボディ側面2mから離間した位置から見た画像となる。また、視点変換部40は、視点変換処理中に歪み補正を行ってもよい。また、歪み補正部38と視点変換部40とは、画像変換部としてまとめて構成されてもよい。
The
視点変換部40は、視点の位置を適宜設定可能である。例えば、図6に示すように、ボディ側面2mの略中央部でボディ側面2mから離間した位置に視点を置き、車両1の前方側を臨むような視線変換画像にしてもよい。また、視点変換部40は、図7に示すように、ボディ側面2mの略中央部でボディ側面2mから離間した位置に視点を置き、車両1のボディ側面2mを臨むような視線変換画像にしてもよい。同様に、ボディ側面2mの略中央部から車両1の後方側を臨むような視線変換画像にしてもよい。この場合、撮像画像データに基づく画像の一部を適宜切出す切出し処理を施してもよい。このように視点位置を適宜変更可能にしたり、切出し処理により適宜拡大表示を可能にしたりすることで、ユーザに注意を払わせたい部分の水位限界線L(水位参照線K)と水面Wとの関係を示す画像が提供可能となり、より渡渉走行状態の把握を容易に認識させやすくなる。また、例えば図7に示すようなボディ側面2mを臨む画像を表示する場合、運転席側とは逆側のボディ側面2mを臨む画像を表示装置8に表示してもよい。この場合、運転席側のボディ側面2mは運転者自ら目視で行い、反対側のボディ側面2mを表示装置8で確認することができる。これらの視点切り替えは、例えば、操作入力部10や操作部14gからの入力で選択することができる。
The
レイアウト調整部42は、表示装置8に表示する画面のレイアウトを調整(変更)する。ECU14は、表示装置8に通常表示する走行支援画面として、図9に示すように、表示装置8の表示領域を複数に分割して種々の方向の画像や車両1の姿勢を示す傾斜計50等を表示する。図9は、車両1が陸上を走行しているときに表示される標準表示モード時の画像例である。この場合、レイアウト調整部42は、標準表示モードとして、例えば、表示装置8の表示領域の中央上部に前方表示領域FVを配置し、その左右に左側表示領域SVL、右側表示領域SVRを配置する。また、前方表示領域FVの下方に、傾斜計50を表示する姿勢表示領域PVを配置する。なお、陸上走行時、前方表示領域FVには、必要に応じて、車両1の進行推定方向を示す進路指標Rや車体2の前方側の端部2cからの距離の目安を示す前方参考線Qa、車体2の側方の端部2d,2fからの距離の目安を示す側方参考線Pa等が表示され走行支援を行うようにしてもよい。また、左側表示領域SVL、右側表示領域SVRには、歪み補正が行われて歪みが緩和された画像として、車体2と路面とが表示されている。なお、レイアウト調整部42は、陸上走行時に主に表示する標準表示モードの場合、左側表示領域SVLおよび右側表示領域SVRにおいて、車体2と路面の表示割合は、路面の方を多くしている。つまり、標準表示モードの場合、左側表示領域SVLおよび右側表示領域SVRには、前輪3Fの周囲の路面状況を把握しやすくした画像が表示される。なお、傾斜計50は、加速度センサ26(26a、26b)からの信号に基づき、車両1の左右方向の傾き(ロール角)や前後方向の傾き(ピッチ角)をシンボル52の姿勢で表示する。
The layout adjustment unit 42 adjusts (changes) the layout of the screen displayed on the
また、レイアウト調整部42は、渡渉走行時には、水位限界線Lや水位参照線Kと水面Wとの関係がより分かり易くなるように、表示内容の変更(レイアウト変更)を行うことができる。図10は、渡渉走行をしている場合に表示される特殊表示モード時の画像例である。なお、図10の場合、前方表示領域FV、左側表示領域SVL、右側表示領域SVR、姿勢表示領域PVのレイアウトは、図9の陸上走行時と同じであるが、左側表示領域SVL、右側表示領域SVRの内部のレイアウトが図9の場合と異なる。図10に示されるように、水位限界線L(水位参照線K)が表示される特殊表示モードの場合、左側表示領域SVL、右側表示領域SVRに表示される画像における車体2の表面の表示領域を水位限界線L(水位参照線K)が非表示の場合より大きくしている。特殊表示モードの場合、水面Wが水位限界線L(水位参照線K)に対してどの程度上昇したかを主として表示する。そのため、特殊表示モードの場合、左側表示領域SVLおよび右側表示領域SVRにおけるボディ側面2mの表示面積を増加させている。このように画像内のレイアウトを変更することで、水位限界線L(水位参照線K)と水面Wとの関係の視認性を向上することができる。また、表示装置8の画面が水位限界線Lの表示モードに切り替わっていることを認識させやすくすることができる。なお、撮像部15で撮像されている撮像画像データは、左側表示領域SVLや右側表示領域SVRで表示する領域より大きな領域を撮像範囲として、例えば、そこから切出し処理を行うことで左側表示領域SVLや右側表示領域SVRに表示している。したがって。車体2の表面の表示領域を大きくするには、例えば元画像からの切出し範囲を調整することで実行できる。また、別の実施形態のおいては、車体2の表面の表示領域を図9のままとして、水位限界線L(水位参照線K)を表示するようにしてもよい。
In addition, the layout adjustment unit 42 can change the display content (layout change) so that the relationship between the water level limit line L or the water level reference line K and the water surface W can be more easily understood during crossing traveling. FIG. 10 is an example of an image in the special display mode that is displayed when the vehicle is traveling with a driver. In the case of FIG. 10, the layout of the front display area FV, the left display area SVL, the right display area SVR, and the posture display area PV is the same as that during land running in FIG. 9, but the left display area SVL and the right display area The internal layout of the SVR is different from that of FIG. As shown in FIG. 10, in the special display mode in which the water level limit line L (water level reference line K) is displayed, the display area on the surface of the
また、レイアウト調整部42は、レイアウト変更により、表示装置8の表示領域全てを用いて、図6や図7のような水位限界線L(水位参照線K)と水面Wとの関係を示す画像を表示してもよい。このような表示を行うことで、水位限界線L(水位参照線K)と水面Wとの関係の視認性がより向上するとともに、ユーザに水位限界線L(水位参照線K)と水面Wとの関係に特に注意を払わせるように強調することができる。
Further, the layout adjustment unit 42 changes the layout and uses the entire display area of the
画像処理部34は、車両1の渡渉走行時の水位限界情報に基づく水位限界線Lや水位参照線Kを表示装置8に表示する画像上の車体2の表面の対応位置に重畳する処理を行う。水位限界情報は、例えば、水位限界線Lや水位参照線Kを画像に重畳するための情報であり、画像上の画像を指定する情報でもよいし、基準線、例えば車輪3の接地位置からの高さ情報等でもよい。CPU14aは、水位限界線Lを表示する条件が揃った場合に、水位限界線Lを車両1の設計段階で車高方向において定められた高さの位置に重畳する。前述したように各撮像部15は車体2に固定され撮像範囲が定められている。したがって、撮像画像データまたは撮像画像データに基づく画像において車体2が表示範囲内の何処に表示されるかは算出できるので、その位置に水位限界線Lを重畳する。同様に、水位参照線重畳部46は、水位参照線Kを車両1の設計段階で車高方向において定められた高さ位置に重畳する。なお、水位限界線重畳部44および水位参照線重畳部46は、水位限界線Lと水位参照線K(第1水位参照線K1、第2水位参照線K2)を識別し易いように、異なる表示態様で重畳してもよい。例えば、線種や線色を変えることができる。なお、線色を選択する場合、車体2の色に対して識別可能な色とすることが望ましい。例えば、水位限界線重畳部44、水位参照線重畳部46は、車体2の色情報を取得し自動で、識別可能な線色を選ぶようにしてもよいし、ユーザが選択できるようにしてもよい。また、水位限界線重畳部44は、水位限界線Lを重畳表示する場合に、図6、図7に示すように、水位限界線Lであることを示す情報、例えば矢印等の「マーク」やLimit等の「文字情報」を付加してもよい。なお、「マーク」や「文字情報」等を付加する場合、水位限界線Lの上側に重畳し、水面Wが上昇した場合でも、「マーク」や「文字情報」が視認し易いようにすることが望ましい。水位参照線重畳部46による水位参照線Kの重畳時も同様に「マーク」や「文字情報」を付加してもよい。また、図6、図7において、水位参照線Kは、水位限界線Lと平行に重畳する例を示したが、水位参照線Kは、水位限界線Lと直交する方向に重畳し、水深を示すスケールとともに表示してもよい。
The image processing unit 34 performs a process of superimposing the water level limit line L and the water level reference line K based on the water level limit information when the
CPU14aは、水位限界線L(水位参照線K)の表示の有無、例えば、図9の表示状態から図10の表示状態への切り替えおよびその逆の切り替えをユーザによる手動操作、例えば、操作入力部10や操作部14gによる入力操作によって行ってもよい。また、前述したように、測距部16、測距部17の動作状態(エラー信号の出力状態)によって切り替えてもよい。この他、音声認識やジェスチャ認識等による入力手段を用いて切り替え替え操作を行うようにしてもよい。
The
このように構成される周辺監視システム100の制御例を図11のフローチャートを用いて説明する。なお、図11に示すフローは、所定の処理周期で繰り返し実行されるものとする。
A control example of the
まず、CPU14aは、現在周辺監視中であるか判定し(S100)、周辺監視中ではない場合(S100のNo)、例えば車両1の電源がOFFの場合や表示装置8を他の用途(ナビゲーションやオーディオ等)で利用している場合には、一旦このフローを終了する。一方、CPU14aは、現在周辺監視中であると判定した場合(S100のYes)、渡渉走行モード切替条件が成立したか判定する(S102)。CPU14aは、上述したように、操作入力部10や操作部14gによる入力操作が行われた場合に渡渉走行モード切替条件が成立したと見なす。また、CPU14aは、測距部16や測距部17が所定のパターンでエラー信号を出力した場合、例えば測距部17e〜17hがほぼ同時(例えば2秒以内)にエラー信号を出力した場合に渡渉走行モード切替条件が成立したと見なす。
First, the
S102において、CPU14aは、渡渉走行モード切替条件が成立した場合(S102のYes)、画像取得部30を介して、撮像部15で現在撮像された撮像画像データ、例えば車両1の側方画像を取得する(S104)。続いて、CPU14aは、取得した側方画像に対して画像変換処理を施す(S106)。画像変換処理では、ユーザによる表示画像の態様設定に基づき歪み補正部38による歪み補正処理と視点変換部40による視点変換処理の少なくとも一方を実行する。なお、ユーザによる選択や設定により図5に示すオリジナル画像に水位限界線L等を重畳して表示する場合は、S106の処理をスキップしてもよい。
In S102, when the crossing traveling mode switching condition is satisfied (Yes in S102), the
続いて、CPU14aは、水位限界線重畳部44により「水位限界線L」を車体2のボディ側面2mに重畳するとともに、水位参照線重畳部46により「水位参照線K」を車体2のボディ側面2mに重畳する(S108)。なお、この場合、ユーザによる選択や設定により「水位参照線K」を非表示とすることもできる。「水位参照線K」を非表示とすることで、水位限界線Lを重畳する画像のシンプル化が可能となる。つまり、シンプルな表示を好むユーザに対応した表示ができる。
Subsequently, the
続いて、レイアウト調整部42は、周辺監視画面として表示されている図9の標準表示モードの画面から渡渉走行モードの画面に切り替える場合に、渡渉走行モードの画面が主画面に指定されているか否かを確認する(S110)。例えば、操作入力部10や操作部14gによる入力操作により、「主表示」が選択された場合(S110のYes)、レイアウト調整部42は、図9の標準表示モードの画面から図5〜図7で示すような水位限界線L(水位参照線K)と水面Wとの関係を強調するような画面に切り替えて、表示装置8の表示領域全体を用いた表示(主表示)とする処理を実行する(S112)。
Subsequently, when switching from the screen in the standard display mode of FIG. 9 displayed as the surroundings monitoring screen to the screen in the traveling mode, the layout adjustment unit 42 determines whether the screen in the traveling mode is designated as the main screen. Is checked (S110). For example, when “main display” is selected by an input operation using the
一方、主表示選択が行われていない場合(S110のNo)、レイアウト調整部42は、図10に示すように、左側表示領域SVLおよび右側表示領域SVRに表示される画像における車体2の表面の表示領域を水位限界線L(水位参照線K)が非表示の場合より大きくなる特殊表示モードに切り替えて表示装置8に表示する処理を実行する(S114)。
On the other hand, when the main display selection has not been performed (No in S110), the layout adjustment unit 42, as shown in FIG. 10, displays the surface of the
CPU14aは、水位限界線L(水位参照線K)と水面Wとの関係を示す渡渉走行モードによる表示が実行されている間、渡渉走行モードから陸上走行モードに復帰させるモード復帰条件が成立したか否か確認する(S116)。手動復帰の場合、CPU14aは、操作入力部10や操作部14g等を介した入力操作によりユーザから画面復帰要求(陸上走行モードの画面表示要求)があった場合にモード復帰条件が成立したと見なす。また、自動復帰の場合、CPU14aは、測距部16、測距部17が全て復帰した場合(上陸によりエラー信号が全て解消された場合)で、その後、所定期間、例えば5秒経過した場合にモード復帰条件が成立したと見なす。モード復帰条件が成立した場合(S116のYes)、レイアウト調整部42は、表示装置8に表示する画像を標準表示モードの画像(図9の画面)に復帰させて(S118)、一連の渡渉走行モードによる水位限界線L(水位参照線K)の表示処理を終了する。
The
なお、S116において、モード復帰条件が成立していない場合(S116のNo)、CPU14aは、S104に移行して、S104以降の処理を実行することにより、渡渉走行中の表示画像を順次更新して、水面Wの変化(水位の変化)と水位限界線L(水位参照線K)の関係の推移をリアルタイムで表示装置8を介して表示する。また、S102において、渡渉走行モード切替条件が成立していない場合(S102のNo)、つまり、水位限界線L(水位参照線K)の表示が不要な場合、S118に移行して標準表示モードの画面を表示装置8に表示する処理を継続する。
In S116, when the mode return condition is not satisfied (No in S116), the
このように、本実施形態の周辺監視システム100によれば、表示装置8には、撮像部15で撮像した撮像画像データに基づく実画像が表示され、車両1の実際の車体2の表面および渡渉走行時の周辺、つまり水面Wが表示される。また、水位限界線Lが画像上の車体2表面の対応位置に重畳される。その結果、実際の状況、つまり水面Wが車体2のどの辺りまできているのかとか水面の状態がどのようになっているか等の状況をより正確に伝え、ユーザには、それらの情報を直感的に把握させ易くすることができる。
As described above, according to the
なお、上述した実施形態の場合、水位限界線Lや水位参照線Kをドアミラー2gに設けられた撮像部15bや撮像部15dで撮像した撮像画像データに基づきボディ側面2mに重畳する例を示した。別の実施形態では、他の撮像部15で撮像した撮像画像データを用いてもよい。例えば、車体2の前部に設けた撮像部15cの撮像範囲に車体2の前部(ボディ前面)が含まれる場合、ボディ前面の画像に水位限界線Lや水位参照線Kを重畳して表示装置8の前方表示領域FVに表示してもよい。この場合、車両1を前進させる場合に、車体2に対する水位の変化が把握し易くなる。同様に、車体2の後部に設けた撮像部15aの撮像範囲に車体2の後部(ボディ後面)が含まれる場合、ボディ後面の画像に水位限界線Lや水位参照線Kを重畳して表示装置8に表示してもよい。この場合、変速操作部7(シフトレバー)のシフト位置に基づいて、前後の画像を切り替えてもよい。また、表示装置8の表示領域を四分割し、前後左右の画像にそれぞれ水位限界線L(水位参照線K)を重畳して表示してもよい。この場合、車両1の全周囲に対して水面Wと水位限界線L(水位参照線K)との関係を示すことができるので、例えば水底の凹凸が大きく車両1が大きく傾いているような場合でも、水位限界線L(水位参照線K)と水面Wとの関係をユーザに把握させやすくすることができる。
In the case of the above-described embodiment, an example is shown in which the water level limit line L and the water level reference line K are superimposed on the
また、本実施形態では、水位限界線Lや水位参照線Kをボディ側面2mに沿って重畳する例を示した。つまり、ボディ側面2mが曲面の場合、その曲面に対応するように水位限界線Lや水位参照線Kも曲線となるように重畳したが、これに限らない。例えば、撮像画像データや撮像画像データに基づく画像に歪み補正を施して、車両1の実際の形状に近づけている場合、水位限界線Lや水位参照線Kが重畳される車体2の前後方向の形状は、直線的な形状になるので、水位限界線Lや水位参照線Kを簡易的に直線で表現してもよい。この場合、ECU14による画像処理負荷を軽減することができる。また、水位限界線Lや水位参照線Kがシンプルな直線で表示されることにより、水面との関係を直感的に理解させやすくすることができる。
In the present embodiment, an example has been described in which the water level limit line L and the water level reference line K are superimposed along the
また、上述の実施形態では、いわゆるオフロード車について説明したが、本実施形態の周辺監視装置は、いわゆるオンロード車(乗用車等)にも適用可能であり、同様な効果を得ることができる。また、水位参照線Kや水位限界線Lが重畳された画像を画像処理することで、水位参照線Kや水位限界線Lに対する水面Wの位置を検出し、音声等による警告メッセージを出力するようにしてもよい。 In the above-described embodiment, a so-called off-road vehicle has been described. However, the periphery monitoring device according to the present embodiment can be applied to a so-called on-road vehicle (passenger car or the like), and similar effects can be obtained. Further, by processing the image on which the water level reference line K and the water level limit line L are superimposed, the position of the water surface W with respect to the water level reference line K and the water level limit line L is detected, and a warning message such as a voice is output. It may be.
また、上述した実施形態において、渡渉走行モード(水中走行モード)に自動的に切り替える場合、測距部16、測距部17からの信号を用いる例を示したが、これに限らず、他のセンサからの信号を用いて切り替えてもよい。また、撮像部15で撮像した画像に基づき、水面Wを検出し、切り替えるようにしてもよい。また、モード切替は、手動のみとしてもよい。
Further, in the above-described embodiment, an example in which the signals from the
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although the embodiment and the modification of the present invention have been described, the embodiment and the modification are presented as examples and are not intended to limit the scope of the invention. These new embodiments can be implemented in other various forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. These embodiments and their modifications are included in the scope and gist of the invention, and are also included in the invention described in the claims and their equivalents.
1…車両、2…車体、2m…ボディ側面、8…表示装置、14…ECU、14a…CPU、14b…ROM、14d…表示制御部、14g…操作部、15,15a,15b,15c,15d…撮像部、30…画像取得部、32…表示処理部、34…画像処理部、36…出力部、38…歪み補正部、40…視点変換部、42…レイアウト調整部、44…水位限界線重畳部、46…水位参照線重畳部、L…水位限界線、K…水位参照線、W…水面、100…周辺監視システム(周辺監視装置)。
DESCRIPTION OF
Claims (10)
前記車両の渡渉走行時の水位限界情報に基づく水位限界線を前記画像上の前記車体表面の対応位置に重畳する画像処理部と、
を備える周辺監視装置。 A control unit that causes a display device to display an image based on captured image data output from an imaging unit that captures an image of the vehicle body surface and the periphery of the vehicle body surface as an imaging range,
An image processing unit that superimposes a water level limit line based on the water level limit information at the time of cruising traveling of the vehicle at a corresponding position of the vehicle body surface on the image.
A peripheral monitoring device comprising:
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016129660A JP6642307B2 (en) | 2016-06-30 | 2016-06-30 | Perimeter monitoring device |
| DE112017003278.4T DE112017003278T5 (en) | 2016-06-30 | 2017-03-10 | Peripheral monitoring device |
| PCT/JP2017/009743 WO2018003188A1 (en) | 2016-06-30 | 2017-03-10 | Periphery monitoring device |
| CN201780038757.1A CN109314770B (en) | 2016-06-30 | 2017-03-10 | Peripheral monitoring device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016129660A JP6642307B2 (en) | 2016-06-30 | 2016-06-30 | Perimeter monitoring device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018001899A JP2018001899A (en) | 2018-01-11 |
| JP6642307B2 true JP6642307B2 (en) | 2020-02-05 |
Family
ID=60786804
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016129660A Active JP6642307B2 (en) | 2016-06-30 | 2016-06-30 | Perimeter monitoring device |
Country Status (4)
| Country | Link |
|---|---|
| JP (1) | JP6642307B2 (en) |
| CN (1) | CN109314770B (en) |
| DE (1) | DE112017003278T5 (en) |
| WO (1) | WO2018003188A1 (en) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108284925A (en) * | 2018-01-09 | 2018-07-17 | 燕山大学 | The recognition detection method of waterline |
| JP7358811B2 (en) * | 2019-07-16 | 2023-10-11 | 株式会社アイシン | Vehicle peripheral display device |
| JP7209652B2 (en) * | 2020-02-05 | 2023-01-20 | 三菱電機株式会社 | River management device, river management support system, river management support method, and river management support program |
| CN115171031B (en) * | 2022-07-19 | 2023-01-31 | 杭州开闳流体科技有限公司 | Vehicle reference object-based road surface water detection method and device and application |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006182108A (en) * | 2004-12-27 | 2006-07-13 | Nissan Motor Co Ltd | Vehicle periphery monitoring device |
| JP2009032513A (en) * | 2007-07-26 | 2009-02-12 | Toyota Motor Corp | Fuel cell vehicle |
| JP5444139B2 (en) * | 2010-06-29 | 2014-03-19 | クラリオン株式会社 | Image calibration method and apparatus |
| JP2012188058A (en) * | 2011-03-14 | 2012-10-04 | Panasonic Corp | Display device |
| GB201118623D0 (en) * | 2011-10-27 | 2011-12-07 | Land Rover Uk Ltd | Wading apparatus and method |
| GB201205653D0 (en) * | 2012-03-30 | 2012-05-16 | Jaguar Cars | Wade sensing display control system |
| GB2520250B (en) * | 2013-11-12 | 2016-05-25 | Jaguar Land Rover Ltd | Vehicle having wade sensing display and system therefor |
-
2016
- 2016-06-30 JP JP2016129660A patent/JP6642307B2/en active Active
-
2017
- 2017-03-10 DE DE112017003278.4T patent/DE112017003278T5/en active Pending
- 2017-03-10 CN CN201780038757.1A patent/CN109314770B/en active Active
- 2017-03-10 WO PCT/JP2017/009743 patent/WO2018003188A1/en not_active Ceased
Also Published As
| Publication number | Publication date |
|---|---|
| WO2018003188A1 (en) | 2018-01-04 |
| JP2018001899A (en) | 2018-01-11 |
| CN109314770A (en) | 2019-02-05 |
| CN109314770B (en) | 2021-03-19 |
| DE112017003278T5 (en) | 2019-03-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6096156B2 (en) | Parking assistance device | |
| JP6096157B2 (en) | Parking assistance device | |
| US9481368B2 (en) | Park exit assist system and park exit assist method | |
| JP6015314B2 (en) | Device for calculating parking target position, method and program for calculating parking target position | |
| US9884646B2 (en) | Parking assist system and path determination method | |
| JP6110349B2 (en) | Parking assistance device | |
| US10878253B2 (en) | Periphery monitoring device | |
| EP2910423B1 (en) | Surroundings monitoring apparatus and program thereof | |
| US20160075377A1 (en) | Parking assist system, parking assist method and parking assist control program | |
| WO2018061294A1 (en) | Periphery monitoring device | |
| US20170259831A1 (en) | Driving assistance device and driving assistance system | |
| JP2017154711A (en) | Parking assistance device | |
| US20190244324A1 (en) | Display control apparatus | |
| JP2016084094A (en) | Parking assist apparatus | |
| JP6555056B2 (en) | Perimeter monitoring device | |
| WO2018150642A1 (en) | Surroundings monitoring device | |
| JP6642307B2 (en) | Perimeter monitoring device | |
| JP2017094922A (en) | Perimeter monitoring device | |
| JP7009785B2 (en) | Peripheral monitoring device | |
| JP6227514B2 (en) | Parking assistance device | |
| WO2018025441A1 (en) | Periphery monitoring device | |
| JP2017069846A (en) | Display control device | |
| JP7114919B2 (en) | Driving support device | |
| JP7383973B2 (en) | parking assist device | |
| JP2017218008A (en) | Driving support device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190513 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191203 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191216 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 6642307 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |