[go: up one dir, main page]

JP6642307B2 - Perimeter monitoring device - Google Patents

Perimeter monitoring device Download PDF

Info

Publication number
JP6642307B2
JP6642307B2 JP2016129660A JP2016129660A JP6642307B2 JP 6642307 B2 JP6642307 B2 JP 6642307B2 JP 2016129660 A JP2016129660 A JP 2016129660A JP 2016129660 A JP2016129660 A JP 2016129660A JP 6642307 B2 JP6642307 B2 JP 6642307B2
Authority
JP
Japan
Prior art keywords
water level
vehicle
image
level limit
limit line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016129660A
Other languages
Japanese (ja)
Other versions
JP2018001899A (en
Inventor
渡邊 一矢
一矢 渡邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2016129660A priority Critical patent/JP6642307B2/en
Priority to DE112017003278.4T priority patent/DE112017003278T5/en
Priority to PCT/JP2017/009743 priority patent/WO2018003188A1/en
Priority to CN201780038757.1A priority patent/CN109314770B/en
Publication of JP2018001899A publication Critical patent/JP2018001899A/en
Application granted granted Critical
Publication of JP6642307B2 publication Critical patent/JP6642307B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、周辺監視装置に関する。   Embodiments of the present invention relate to a periphery monitoring device.

従来、渡渉(渡河)機能を備えた車両がある。例えば、オフロード車と称される車両は沼地や河川、冠水路等で渡渉走行(水中走行)が可能なように、防水対策が施されている場合がある。このような車両の中には、例えば超音波ソナー等のセンサを用いて水面までの距離を測定し、車室内に設けられた表示装置に水面と自車のグラフィック画像を表示して渡渉走行状態を擬似的に表示して運転者に提示するシステムを搭載するものがある。   2. Description of the Related Art Conventionally, there is a vehicle having a crossing (crossing) function. For example, a vehicle referred to as an off-road vehicle may be provided with a waterproofing measure so as to be able to run over water (underwater traveling) in swamps, rivers, flooded roads, and the like. In such vehicles, for example, the distance to the water surface is measured using a sensor such as an ultrasonic sonar, and a graphic image of the water surface and the own vehicle is displayed on a display device provided in the vehicle cabin, and the vehicle is in a traveling state. There is a system equipped with a system for displaying a simulation in a pseudo manner.

特表2015−512825号公報JP-T-2015-512825

しかしながら、車両が渡渉走行を行う場合、水面が波打っていることが多々ある。上述した技術のように水面までの距離を超音波ソナー等のセンサで検出して水面を示すグラフィック画像を表示する場合、波打ちにより水面が上下して水面までの測距を正確に行うことが難しい場合がある。この場合、波打ち状態や水面までの高さがグラフィック画像で正確に表現できず、水面状態の表示や渡渉走行の適否情報をユーザに適切に提供し難いという問題があった。   However, when the vehicle travels over the road, the water surface is often wavy. When detecting the distance to the water surface with a sensor such as an ultrasonic sonar and displaying a graphic image indicating the water surface as in the above-described technique, it is difficult to accurately measure the distance to the water surface due to the rising and falling of the water surface due to waving. There are cases. In this case, there is a problem that the wavy state and the height to the water surface cannot be accurately represented by the graphic image, and it is difficult to appropriately provide the user with the display of the water surface state and information on the suitability of the cruising.

そこで、本発明の課題の一つは、水面状態の表示や渡渉走行(水中走行)の適否情報をユーザに適切に提供することができる周辺監視装置を提供することである。   Therefore, one of the objects of the present invention is to provide a periphery monitoring device that can appropriately provide a user with a display of a water surface state and information on suitability of cruising (underwater traveling).

本発明の実施形態にかかる周辺監視装置は、例えば、車両の車体表面および当該車体表面の周辺を撮像範囲として撮像する撮像部から出力された撮像画像データに基づく画像を表示装置に表示させる制御部と、上記車両の渡渉走行時の水位限界情報に基づく水位限界線を上記画像上の上記車体表面の対応位置に重畳する画像処理部と、を備える。この構成によれば、例えば、表示装置には、撮像部で撮像した撮像画像データに基づく実画像が表示され、自車の実際の車体表面および渡渉走行(水中走行)時の周辺状況、つまり水面状況(水位や波打ち状況等)が表示される。また、水位限界線が画像上の車体表面の対応位置に重畳される。その結果、実際の状況、つまり水位が車体のどの辺りまできているのかという状況をより正確にユーザに伝え易く、ユーザに渡渉走行時の状況を直感的に把握させ易くすることができる。   A peripheral monitoring device according to an embodiment of the present invention includes, for example, a control unit that causes a display device to display an image based on captured image data output from an imaging unit that captures an image of a vehicle body surface and a periphery of the vehicle body surface as an imaging range. And an image processing unit for superimposing a water level limit line based on the water level limit information when the vehicle travels over the road, at a corresponding position on the vehicle body surface on the image. According to this configuration, for example, the display device displays an actual image based on the captured image data captured by the imaging unit, and the actual vehicle body surface of the own vehicle and the surrounding conditions during cruising (underwater traveling), that is, the water surface The status (water level, waving condition, etc.) is displayed. Further, the water level limit line is superimposed on a corresponding position on the vehicle body surface on the image. As a result, it is easier to more accurately convey to a user the actual situation, that is, the situation where the water level is located on the vehicle body, and to make it easier for the user to intuitively grasp the situation at the time of crossing traveling.

また、上記周辺監視装置において、例えば、上記制御部は、上記車両の側面が撮像された上記撮像画像データに補正を施した画像を表示させてもよい。この構成によれば、例えば、画面内容(車両側面およびそこに重畳された水位限界線)の視認性がより向上し、実際の状況、つまり水位が車体のどの辺りまできているのかという状況をさらに正確にユーザに理解させ易くなる。   In the peripheral monitoring device, for example, the control unit may display an image obtained by correcting the captured image data obtained by capturing the side surface of the vehicle. According to this configuration, for example, the visibility of the screen contents (vehicle side surface and the water level limit line superimposed thereon) is further improved, and the actual situation, that is, the situation where the water level is reached on the vehicle body is improved. Further, it is easy to make the user understand more accurately.

また、上記周辺監視装置において、例えば、上記制御部は、上記補正として、上記撮像画像データに視点変換処理を施してもよい。この構成によれば、例えば、車両の側方から車両の側面を見たような画像が提供可能となり、水位限界線と水面との関係、水面と車体との関係をより理解させやすい画像が提供できる。   In the peripheral monitoring device, for example, the control unit may perform a viewpoint conversion process on the captured image data as the correction. According to this configuration, for example, it is possible to provide an image as if the side of the vehicle is viewed from the side of the vehicle, and to provide an image that makes it easier to understand the relationship between the water level limit line and the water surface and the relationship between the water surface and the vehicle body. it can.

また、上記周辺監視装置において、例えば、上記制御部は、上記補正として、上記撮像画像データに歪み補正処理を施してもよい。この構成によれば、例えば、車両の形状がより認識し易い形となり、水位限界線と水面との関係、水面と車体との関係をさらに理解させやすい画像が提供できる。   In the peripheral monitoring device, for example, the control unit may perform a distortion correction process on the captured image data as the correction. According to this configuration, for example, it is possible to provide an image in which the shape of the vehicle is more easily recognizable and the relationship between the water level limit line and the water surface and the relationship between the water surface and the vehicle body can be more easily understood.

また、上記周辺監視装置において、例えば、上記制御部は、上記補正として、上記撮像画像データの一部を切出す切出し処理を施してもよい。この構成によれば、例えば、車両において、水位との関係に注意を払うべき特定部分の拡大表示が可能となり、車体と水位限界線との関係、水面と車体との関係をより理解させやすい画像が提供できる。   In the peripheral monitoring device, for example, the control unit may perform a cutout process of cutting out a part of the captured image data as the correction. According to this configuration, for example, in a vehicle, it is possible to enlarge and display a specific portion of the vehicle in which attention should be paid to the relationship with the water level, and to easily understand the relationship between the vehicle body and the water level limit line and the relationship between the water surface and the vehicle body. Can be provided.

また、上記周辺監視装置において、例えば、上記車両の表面形状に沿った形状の上記水位限界線を上記対応位置に重畳してもよい。この構成によれば、例えば、車両の表面と水位限界線とのズレが軽減され、水位限界線と水面との関係、水面と車体との関係をさらに理解させやすい画像が提供できる。   In the peripheral monitoring device, for example, the water level limit line having a shape along the surface shape of the vehicle may be superimposed on the corresponding position. According to this configuration, for example, a deviation between the surface of the vehicle and the water level limit line is reduced, and an image can be provided that makes it easier to understand the relationship between the water level limit line and the water surface and the relationship between the water surface and the vehicle body.

また、上記周辺監視装置において、例えば、上記画像処理部は、直線の上記水位限界線を上記対応位置に重畳してもよい。この構成によれば、例えば、水位限界線の重畳処理が容易になり、処理負荷を軽減できる。また、車両に対して水位限界線がシンプルに表示され、直感的に車両、水位限界線、水面との関係を理解させやすい表示ができる。   In the peripheral monitoring device, for example, the image processing unit may superimpose the linear water level limit line on the corresponding position. According to this configuration, for example, the process of superimposing the water level limit line is facilitated, and the processing load can be reduced. In addition, the water level limit line is simply displayed for the vehicle, and a display that makes it easy to intuitively understand the relationship between the vehicle, the water level limit line, and the water surface can be provided.

また、上記周辺監視装置において、例えば、上記制御部は、上記水位限界線が表示される場合、上記画像における上記車体表面の表示領域を上記水位限界線が非表示の場合より大きくするようにしてもよい。この構成によれば、例えば、車体に重畳された水位限界線を認識させ易くできるとともに、画面が水位限界線の表示モードに切り替わっていることを認識させやすくすることができる。   In the peripheral monitoring device, for example, when the water level limit line is displayed, the display area of the vehicle body surface in the image is set to be larger than when the water level limit line is not displayed. Is also good. According to this configuration, for example, the water level limit line superimposed on the vehicle body can be easily recognized, and the fact that the screen is switched to the display mode of the water level limit line can be easily recognized.

また、上記周辺監視装置において、例えば、上記画像処理部は、上記画像に重畳される上記水位限界線より車高方向の低い位置に水位参照線を重畳してもよい。この構成によれば、水位参照線は、車体に対する水位の上昇の程度を段階的に示すことができるので、水位上昇に対する段階的な注意喚起を行うことができる。   In the peripheral monitoring device, for example, the image processing unit may superimpose a water level reference line at a position lower in the vehicle height direction than the water level limit line superimposed on the image. According to this configuration, the water level reference line can indicate the degree of rise of the water level with respect to the vehicle body in a stepwise manner, so that the water level reference can be alerted stepwise.

また、上記周辺監視装置において、例えば、上記画像処理部は、上記水位参照線を上記水位限界線と異なる表示態様で重畳してもよい。この構成によれば、水位参照線による水位上昇に対する注意喚起をより明確に行うことができる。   In the peripheral monitoring device, for example, the image processing unit may superimpose the water level reference line in a display mode different from the water level limit line. According to this configuration, it is possible to more clearly alert the user to a rise in the water level by the water level reference line.

図1は、実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。FIG. 1 is an exemplary perspective view illustrating an example of a state in which a part of a cabin of a vehicle equipped with the periphery monitoring device according to the embodiment is seen through; 図2は、実施形態にかかる周辺監視装置を搭載する車両の一例が示された平面図である。FIG. 2 is an exemplary plan view illustrating an example of a vehicle equipped with the periphery monitoring device according to the embodiment. 図3は、実施形態にかかる周辺監視装置を搭載する車両のダッシュボードの一例であり、車両後方からの視野での図である。FIG. 3 is an example of a dashboard of a vehicle on which the periphery monitoring device according to the embodiment is mounted, and is a view from the rear of the vehicle. 図4は、実施形態にかかる周辺監視装置を含む画像制御システムの一例が示されたブロック図である。FIG. 4 is a block diagram illustrating an example of an image control system including the periphery monitoring device according to the embodiment. 図5は、実施形態にかかる周辺監視装置による水位限界線の表示例を示す説明図である。FIG. 5 is an explanatory diagram illustrating a display example of a water level limit line by the periphery monitoring device according to the embodiment. 図6は、実施形態にかかる周辺監視装置による表示例であり、歪み補正および視点変換後の画像に水位限界線と水位参照線を重畳した状態を示す説明図である。FIG. 6 is an example of display by the periphery monitoring device according to the embodiment, and is an explanatory diagram showing a state in which a water level limit line and a water level reference line are superimposed on an image after distortion correction and viewpoint conversion. 図7は、実施形態にかかる周辺監視装置による表示例であり、歪み補正および視点変換後の他の画像に水位限界線と水位参照線を重畳した状態を示す説明図である。FIG. 7 is an example of display by the periphery monitoring device according to the embodiment, and is an explanatory diagram showing a state where a water level limit line and a water level reference line are superimposed on another image after distortion correction and viewpoint conversion. 図8は、実施形態にかかる周辺監視装置のECU内に実現される水位限界線の表示を実現するためのCPUの構成の一例を示すブロック図である。FIG. 8 is a block diagram illustrating an example of a configuration of a CPU for realizing the display of the water level limit line realized in the ECU of the periphery monitoring device according to the embodiment. 図9は、実施形態にかかる周辺監視装置の表示装置の表示例であり、水位限界線の表示前である標準表示モード時の画面レイアウトおよび表示例である。FIG. 9 is a display example of a display device of the periphery monitoring device according to the embodiment, and is a screen layout and a display example in a standard display mode before displaying a water level limit line. 図10は、実施形態にかかる周辺監視装置の表示装置の表示例であり、水位限界線の表示後である特殊表示モード時の画面レイアウトおよび表示例である。FIG. 10 is a display example of the display device of the periphery monitoring device according to the embodiment, and is a screen layout and a display example in the special display mode after the display of the water level limit line. 図11は、実施形態にかかる周辺監視装置による水位限界線の表示を含む周辺監視画像の表示処理の一例を説明するフローチャートである。FIG. 11 is a flowchart illustrating an example of a process of displaying a peripheral monitoring image including a display of a water level limit line by the peripheral monitoring device according to the embodiment.

以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。   Hereinafter, exemplary embodiments of the present invention will be disclosed. The configurations of the embodiments described below, and the operations, results, and effects provided by the configurations are examples. The present invention can be realized by configurations other than those disclosed in the following embodiments, and can obtain at least one of various effects based on the basic configuration and derivative effects. .

本実施形態において、周辺監視装置(周辺監視システム)を搭載する車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよい。また、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。また、車両1は、例えば、いわゆる「オンロード」(主として舗装された道路やそれと同等の道路)の走行に加え、「オフロード」(主として舗装されていない不整地路等)の走行も好適に行える車両である。駆動方式としては、4つある車輪3すべてに駆動力を伝え、4輪すべてを駆動輪として用いる四輪駆動車両とすることができる。車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。例えば、「オンロード」の走行を主目的とする車両でもよい。また、駆動方式も四輪駆動方式に限定されず、例えば、前輪駆動方式や後輪駆動方式でもよい。   In the present embodiment, the vehicle 1 equipped with the peripheral monitoring device (peripheral monitoring system) may be, for example, an automobile driven by an unillustrated internal combustion engine, that is, an internal combustion engine automobile, or an unillustrated electric motor. The vehicle may be a driving source, that is, an electric vehicle or a fuel cell vehicle. Further, a hybrid vehicle using both of them as drive sources may be used, or a vehicle provided with another drive source may be used. Further, the vehicle 1 can be mounted with various transmissions, and can be mounted with various devices required for driving the internal combustion engine and the electric motor, such as systems and components. In addition, the vehicle 1 preferably travels on so-called “on-roads” (mainly paved roads or equivalent roads), as well as on “off-roads” (mainly unpaved rough roads). A vehicle that can be used. The driving system may be a four-wheel drive vehicle that transmits the driving force to all four wheels 3 and uses all four wheels as driving wheels. The type, number, layout, and the like of the devices related to the driving of the wheels 3 can be variously set. For example, the vehicle may be a vehicle whose main purpose is “on-road” traveling. Further, the drive system is not limited to the four-wheel drive system, and may be, for example, a front-wheel drive system or a rear-wheel drive system.

図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールであり、加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。   As illustrated in FIG. 1, the vehicle body 2 constitutes a vehicle compartment 2 a in which a passenger (not shown) rides. A steering unit 4, an acceleration operation unit 5, a braking operation unit 6, a shift operation unit 7, and the like are provided in the vehicle interior 2a in a state of facing a driver's seat 2b as an occupant. The steering unit 4 is, for example, a steering wheel protruding from the dashboard 24, the acceleration operation unit 5 is, for example, an accelerator pedal positioned below the driver's feet, and the braking operation unit 6 is, for example, a driver's The shift pedal 7 is, for example, a shift lever projecting from the center console. The steering unit 4, the acceleration operation unit 5, the braking operation unit 6, the shift operation unit 7, and the like are not limited to these.

また、車室2a内には、表示出力部としての表示装置8や、音声出力部としての音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等により操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8や、音声出力装置9、操作入力部10等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。   Further, a display device 8 as a display output unit and an audio output device 9 as an audio output unit are provided in the passenger compartment 2a. The display device 8 is, for example, an LCD (liquid crystal display), an OELD (organic electroluminescent display), or the like. The audio output device 9 is, for example, a speaker. The display device 8 is covered with, for example, a transparent operation input unit 10 such as a touch panel. The occupant can visually recognize an image displayed on the display screen of the display device 8 via the operation input unit 10. Further, the occupant can execute the operation input by operating the operation input unit 10 by touching, pushing, or moving the operation input unit 10 with a finger or the like at a position corresponding to the image displayed on the display screen of the display device 8. . The display device 8, the audio output device 9, the operation input unit 10, and the like are provided, for example, on the monitor device 11 located at the center of the dashboard 24 in the vehicle width direction, that is, in the left-right direction. The monitor device 11 can include an operation input unit (not shown) such as a switch, a dial, a joystick, and a push button. An audio output device (not shown) can be provided at another position in the passenger compartment 2a different from the monitor device 11, and audio is output from the audio output device 9 of the monitor device 11 and another audio output device. be able to. Note that the monitor device 11 can also be used, for example, as a navigation system or an audio system.

また、車室2a内には、表示装置8とは別の表示装置12が設けられている。図3に例示されるように、表示装置12は、例えば、ダッシュボード24の計器盤部25に設けられ、計器盤部25の略中央で、速度表示部25aと回転数表示部25bとの間に位置されている。表示装置12の画面12aの大きさは、表示装置8の画面8a(図3)の大きさよりも小さい。この表示装置12には、例えば車両1の周辺監視や他の機能が動作している場合に補助的な情報として、インジケータやマーク、文字情報を示す画像が表示されうる。表示装置12で表示される情報量は、表示装置8で表示される情報量より少なくてもよい。表示装置12は、例えば、LCDや、OELD等である。なお、表示装置8に、表示装置12で表示される情報が表示されてもよい。   Further, a display device 12 different from the display device 8 is provided in the passenger compartment 2a. As illustrated in FIG. 3, the display device 12 is provided on, for example, an instrument panel 25 of the dashboard 24, and is provided at a substantially center of the instrument panel 25 between a speed display unit 25 a and a rotation speed display unit 25 b. It is located in. The size of the screen 12a of the display device 12 is smaller than the size of the screen 8a (FIG. 3) of the display device 8. On the display device 12, for example, an indicator, a mark, or an image showing character information can be displayed as auxiliary information when peripheral monitoring of the vehicle 1 and other functions are operating. The amount of information displayed on the display device 12 may be smaller than the amount of information displayed on the display device 8. The display device 12 is, for example, an LCD, an OELD, or the like. The information displayed on the display device 12 may be displayed on the display device 8.

また、図1、図2に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図4に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。また、トルクセンサ13bは、例えば、運転者が操舵部4に与えるトルクを検出する。   Further, as exemplified in FIGS. 1 and 2, the vehicle 1 is, for example, a four-wheeled vehicle, and has two left and right front wheels 3F and two left and right rear wheels 3R. Each of these four wheels 3 can be configured to be steerable. As illustrated in FIG. 4, the vehicle 1 has a steering system 13 that steers at least two wheels 3. The steering system 13 has an actuator 13a and a torque sensor 13b. The steering system 13 is electrically controlled by an ECU 14 (electronic control unit) or the like to operate the actuator 13a. The steering system 13 is, for example, an electric power steering system, an SBW (steer by wire) system, or the like. Further, the torque sensor 13b detects, for example, a torque given to the steering unit 4 by the driver.

また、図2に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a〜15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部15は、車両1が移動可能な路面や渡渉走行時の水面、その周辺の状況(水の有無、水面の状態、水面までの高さ等)や物体(障害物として、例えば、岩、樹木、人間、自転車、車両等)を含む車両1の周辺の外部の環境を逐次撮影し、撮像画像データとして出力する。   Further, as illustrated in FIG. 2, the vehicle body 2 is provided with, for example, four imaging units 15 a to 15 d as the plurality of imaging units 15. The imaging unit 15 is, for example, a digital camera having a built-in imaging device such as a charge coupled device (CCD) or a CMOS image sensor (CIS). The imaging unit 15 can output moving image data (captured image data) at a predetermined frame rate. Each of the imaging units 15 has a wide-angle lens or a fisheye lens, and can capture, for example, a range of 140 ° to 220 ° in the horizontal direction. The optical axis of the imaging unit 15 may be set obliquely downward. Therefore, the image capturing unit 15 is capable of moving the vehicle 1 on a road surface, a water surface during cruising, surrounding conditions (the presence or absence of water, a state of the water surface, a height to the water surface, etc.) and an object (for example, as an obstacle, An external environment around the vehicle 1 including rocks, trees, people, bicycles, vehicles, etc.) is sequentially photographed and output as captured image data.

撮像部15aは、例えば、車体2の後側の端部2eに位置され、リアハッチのドア2hのリアウインドウの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパやフロントグリル等に設けられている。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側のドアミラー2gに設けられている。ECU14は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。また、ECU14は、撮像部15で得られた広角画像のデータ(湾曲した画像のデータ)に演算処理や画像処理を施し歪みを補正する歪み補正処理を実行したり、特定の領域を切り出した画像を生成したり、特定の領域のみを示す画像データを生成したりする切出し処理が実行できる。また、ECU14は、撮像画像データを撮像部15が撮像した視点とは異なる仮想視点から撮像したような仮想画像データに変換する視点変換処理が実行できる。例えば、車両1を上空から俯瞰したような俯瞰画像を示す仮想画像データに変換したり、車両1の側面を当該車両1から離れた位置から臨むような側視画像を示す仮想画像データに変換したりすることができる。ECU14は、取得した画像データを表示装置8に表示することで、例えば、車両1の右側方や左側方の安全確認や後述する渡渉走行時の水位の確認、車両1を俯瞰してその周囲の安全確認を実行できるような周辺監視情報を提供する。   The imaging unit 15a is located, for example, at the rear end 2e of the vehicle body 2, and is provided on a wall below the rear window of the door 2h of the rear hatch. The imaging unit 15b is located, for example, at the right end 2f of the vehicle body 2 and is provided on the right door mirror 2g. The imaging unit 15c is located, for example, at the front side of the vehicle body 2, that is, at the front end 2c in the front-rear direction of the vehicle, and is provided on a front bumper, a front grill, and the like. The imaging unit 15d is located, for example, on the left side of the vehicle body 2, that is, on the left end 2d in the vehicle width direction, and is provided on the left side door mirror 2g. The ECU 14 performs arithmetic processing and image processing based on the captured image data obtained by the plurality of imaging units 15 to generate an image with a wider viewing angle, or a virtual overhead image of the vehicle 1 viewed from above. Or can be generated. Further, the ECU 14 performs a distortion correction process for correcting distortion by performing arithmetic processing or image processing on the wide-angle image data (curved image data) obtained by the imaging unit 15 or an image obtained by cutting out a specific area. Or an extraction process for generating image data indicating only a specific area. In addition, the ECU 14 can execute a viewpoint conversion process of converting captured image data into virtual image data as if the image was captured from a virtual viewpoint different from the viewpoint captured by the imaging unit 15. For example, the image data is converted into virtual image data indicating an overhead view image of the vehicle 1 as viewed from above, or is converted into virtual image data indicating a side view image of the side of the vehicle 1 viewed from a position away from the vehicle 1. Or you can. The ECU 14 displays the acquired image data on the display device 8, for example, to confirm the safety of the right side and the left side of the vehicle 1, check the water level at the time of traversing running described later, look down at the vehicle 1, and Provide perimeter monitoring information so that safety checks can be performed.

また、ECU14は、渡渉走行時に、水面の状態とともに、車体2の一部を表示して渡渉走行時の車両1と水面の関係を表示して、渡渉走行支援(水中走行支援)を実行することもできる。この場合、ECU14は、後述するように、車両1の一部、例えば車体2の側面に水位限界線や水位参照線等を重畳した画像を表示させることができる。なお、ECU14は、撮像部15から提供される撮像画像データから車両1の周辺の路面に示された区画線等を識別して走行支援を実行したり、駐車区画を検出(抽出)して駐車支援を実行したりすることもできる。   In addition, the ECU 14 displays the state of the water surface and a part of the vehicle body 2 and displays the relationship between the vehicle 1 and the water surface during the cruising traveling, and performs the cruising traveling support (underwater traveling support). Can also. In this case, the ECU 14 can display an image in which a water level limit line, a water level reference line, and the like are superimposed on a part of the vehicle 1, for example, a side surface of the vehicle body 2, as described later. The ECU 14 identifies the lane markings and the like indicated on the road surface around the vehicle 1 from the captured image data provided by the imaging unit 15 and performs driving assistance, or detects (extracts) a parking lane to park the vehicle. Or provide assistance.

図1、図2に例示されるように、車体2には、複数の測距部16,17として、例えば四つの測距部16a〜16dと、八つの測距部17a〜17hとが設けられている。測距部16,17は、例えば、超音波を発射してその反射波を捉えるソナーである。ソナーは、ソナーセンサ、あるいは超音波探知器、超音波ソナーとも称されうる。本実施形態において、測距部16,17は、車両1の車高方向において低い位置、例えば前後のバンパに設けられ、車両1の周辺の例えば障害物を検出し、その障害物までの距離を測定することができる。また、測距部16,17は、車両1が水中進入(走行)状態か否かを判定するセンサとして利用することができる。上述したように、測距部16,17は、車両1の車高方向において低い位置である前後のバンパに設けられているので、渡渉走行を行う場合、水位が渡渉走行不能となる高さ(水位限界線が重畳される高さ)に達する前の比較的早期の段階で水没する。例えば、測距部16,17が水没した場合、反射波の受信状態が不安定になり動作エラーとなる。したがって、車両1が河川や沼に進入して水没した場合、複数の測距部16,17でほぼ同時にエラー信号を出力することができる。例えば、車両1が前進走行しながら河川や沼に進入していく場合、測距部17e,17f,17g,17hがほぼ同時に水没してエラー信号を出力し、続いて測距部16c,16dがエラー信号を出力する。同様に、車両1が後進走行しながら河川や沼に進入していく場合、測距部17a,17b,17c,17dがほぼ同時に水没してエラー信号を出力し、続いて測距部16a,16bがエラー信号を出力する。つまり、測距部16,17のエラー信号の出力態様に基づいて、車両1が渡渉走行状態か否かを判定するための情報を得ることができる。なお、車両1が渡渉走行を完了した場合(上陸した場合)は、車両1が前進走行しながら河川や沼から脱出した場合、測距部17e,17f,17g,17hがほぼ同時に復帰し、続いて測距部16c,16dが復帰する。さらに上陸が進むと、測距部16a,16bが復帰し、最後に測距部17a,17b,17c,17dがほぼ同時に復帰する。このように、全ての測距部16,17が復帰した場合に、車両1が渡渉走行から脱出(完全上陸)したと判定するための情報を得ることができる。なお、測距部16,17は、防水構造とし、水没による破損等は生じないように構成されている。   As illustrated in FIGS. 1 and 2, the vehicle body 2 is provided with a plurality of distance measuring units 16 and 17, for example, four distance measuring units 16 a to 16 d and eight distance measuring units 17 a to 17 h. ing. The distance measuring units 16 and 17 are, for example, sonars that emit ultrasonic waves and capture reflected waves. The sonar can also be called a sonar sensor, an ultrasonic detector, or an ultrasonic sonar. In the present embodiment, the distance measuring units 16 and 17 are provided at lower positions in the vehicle height direction of the vehicle 1, for example, front and rear bumpers, detect obstacles around the vehicle 1, for example, and determine the distance to the obstacle. Can be measured. Further, the distance measuring units 16 and 17 can be used as sensors for determining whether or not the vehicle 1 is in an underwater approach (running) state. As described above, since the distance measuring units 16 and 17 are provided on the front and rear bumpers which are low positions in the vehicle height direction of the vehicle 1, when performing crossing traveling, the water level is such that the water level becomes incapable of crossing traveling ( Submergence at a relatively early stage before reaching the height at which the water level limit line is superimposed). For example, when the distance measuring units 16 and 17 are submerged, the reception state of the reflected wave becomes unstable, and an operation error occurs. Therefore, when the vehicle 1 enters a river or swamp and is submerged, an error signal can be output from the plurality of distance measuring units 16 and 17 almost simultaneously. For example, when the vehicle 1 enters a river or swamp while traveling forward, the distance measuring units 17e, 17f, 17g, and 17h are submerged almost simultaneously and output an error signal, and subsequently, the distance measuring units 16c and 16d output an error signal. Outputs an error signal. Similarly, when the vehicle 1 enters a river or swamp while traveling backward, the distance measuring units 17a, 17b, 17c, and 17d are submerged almost simultaneously and output an error signal, and subsequently, the distance measuring units 16a and 16b Outputs an error signal. That is, it is possible to obtain information for determining whether or not the vehicle 1 is in the traveling mode based on the output mode of the error signal from the distance measuring units 16 and 17. When the vehicle 1 has completed the cruising run (when it has landed), when the vehicle 1 escapes from a river or swamp while traveling forward, the distance measuring units 17e, 17f, 17g, and 17h return almost simultaneously, and subsequently, Thus, the distance measuring units 16c and 16d return. When the landing further proceeds, the distance measuring units 16a and 16b return, and finally, the distance measuring units 17a, 17b, 17c, and 17d return almost simultaneously. Thus, when all the distance measuring units 16 and 17 return, information for determining that the vehicle 1 has escaped from the cruising traveling (complete landing) can be obtained. Note that the distance measuring units 16 and 17 have a waterproof structure, and are configured so as not to be damaged by water immersion.

また、図4に例示されるように、周辺監視システム100(周辺監視装置)では、ECU14や、モニタ装置11、操舵システム13、測距部16,17等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、測距部16、測距部17、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等の検出結果や、操作入力部10等の操作信号等を、受け取ることができる。   As illustrated in FIG. 4, in the periphery monitoring system 100 (perimeter monitoring device), in addition to the ECU 14, the monitor device 11, the steering system 13, the distance measuring units 16 and 17, a brake system 18, a steering angle sensor 19, an accelerator sensor 20, a shift sensor 21, a wheel speed sensor 22, an acceleration sensor 26 and the like are electrically connected via an in-vehicle network 23 as an electric communication line. The in-vehicle network 23 is configured as, for example, a CAN (controller area network). The ECU 14 can control the steering system 13, the brake system 18, and the like by sending a control signal through the in-vehicle network 23. The ECU 14 also controls the torque sensor 13b, the brake sensor 18b, the steering angle sensor 19, the distance measuring unit 16, the distance measuring unit 17, the accelerator sensor 20, the shift sensor 21, the wheel speed sensor 22, and the acceleration sensor via the in-vehicle network 23. It can receive a detection result such as 26, an operation signal from the operation input unit 10, and the like.

ECU14は、例えば、CPU14a(central processing unit)や、ROM14b(read only memory)、RAM14c(random access memory)、表示制御部14d、音声制御部14e、SSD14f(solid state drive、フラッシュメモリ)等を有している。CPU14aは、例えば、表示装置8,12で表示される画像に関連した画像処理の演算処理および制御を実行することができる。例えば、陸上走行時に表示する標準表示モードの画像や渡渉走行時に表示する特殊表示モードの画像等を表示するための処理や演算を実行する。このほか、CPU14aは、車両1の移動目標位置(駐車目標位置、目標位置)の決定、車両1の誘導経路(誘導経路、駐車経路、駐車誘導経路)の演算、物体との干渉の有無の判断、車両1の自動制御、自動制御の解除等の、各種の演算処理および制御を実行することができる。   The ECU 14 includes, for example, a CPU 14a (central processing unit), a ROM 14b (read only memory), a RAM 14c (random access memory), a display control unit 14d, a voice control unit 14e, an SSD 14f (solid state drive, flash memory), and the like. ing. The CPU 14a can execute, for example, arithmetic processing and control of image processing related to images displayed on the display devices 8 and 12. For example, it executes processing and calculation for displaying an image in the standard display mode displayed during land traveling, an image in the special display mode displayed during crossing traveling, and the like. In addition, the CPU 14a determines a movement target position (a parking target position, a target position) of the vehicle 1, calculates a guidance route (a guidance route, a parking route, a parking guidance route) of the vehicle 1, and determines whether or not there is interference with an object. Various types of arithmetic processing and control, such as automatic control of the vehicle 1 and release of the automatic control, can be performed.

CPU14aは、ROM14b等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。RAM14cは、CPU14aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、表示装置8で表示される画像データの合成等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合にあってもデータを記憶することができる。なお、CPU14aや、ROM14b、RAM14c等は、同一パッケージ内に集積されうる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、ECU14とは別に設けられてもよい。   The CPU 14a reads a program installed and stored in a non-volatile storage device such as the ROM 14b, and can execute arithmetic processing according to the program. The RAM 14c temporarily stores various data used in the calculation by the CPU 14a. In addition, the display control unit 14d mainly performs, for example, synthesis of image data displayed on the display device 8 in the arithmetic processing performed by the ECU 14. In addition, the voice control unit 14 e mainly performs processing of voice data output from the voice output device 9 in the arithmetic processing in the ECU 14. The SSD 14f is a rewritable nonvolatile storage unit, and can store data even when the power of the ECU 14 is turned off. Note that the CPU 14a, the ROM 14b, the RAM 14c, and the like can be integrated in the same package. Further, the ECU 14 may be configured to use another logical operation processor, a logical circuit, or the like, such as a DSP (digital signal processor), instead of the CPU 14a. Further, a hard disk drive (HDD) may be provided instead of the SSD 14f, and the SSD 14f and the HDD may be provided separately from the ECU 14.

ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部6の可動部の位置を検出するセンサである。   The brake system 18 includes, for example, an anti-lock brake system (ABS) that suppresses lock of the brake, an electronic stability control (ESC) that suppresses a side slip of the vehicle 1 at the time of cornering, and increases the braking force ( Electric brake system for executing brake assist), BBW (brake by wire) and the like. The brake system 18 applies a braking force to the wheels 3 and thus to the vehicle 1 via the actuator 18a. In addition, the brake system 18 can execute various controls by detecting a lock of a brake, an idling of the wheel 3, a sign of a skid, or the like based on a rotation difference between the left and right wheels 3 and the like. The brake sensor 18b is, for example, a sensor that detects the position of the movable part of the braking operation unit 6.

舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。ECU14は、運転者による操舵部4の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。アクセルセンサ20は、例えば、加速操作部5の可動部の位置を検出するセンサである。シフトセンサ21は、例えば、変速操作部7の可動部の位置を検出するセンサである。車輪速センサ22は、車輪3の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、検出した回転数を示す車輪速パルス数をセンサ値として出力する。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。本実施形態では、車両1に2個の加速度センサ26(26a、26b)が設けられているものとする。なお、車両1がESCを搭載する場合、ESCに従来から搭載されている加速度センサ26(26a、26b)を用いる。なお、本実施形態は、加速度センサを制限するものではなく、車両1の左右方向の加速度を検出可能なセンサであればよい。本実施形態では、前後方向の加速度及び左右方向の加速度を導出する。   The steering angle sensor 19 is, for example, a sensor that detects a steering amount of the steering unit 4 such as a steering wheel. The ECU 14 obtains, from the steering angle sensor 19, the amount of steering of the steering unit 4 by the driver, the amount of steering of each wheel 3 during automatic steering, and executes various controls. The accelerator sensor 20 is, for example, a sensor that detects the position of the movable part of the acceleration operation unit 5. The shift sensor 21 is, for example, a sensor that detects the position of the movable part of the speed change operation unit 7. The wheel speed sensor 22 is a sensor that detects the amount of rotation of the wheel 3 and the number of rotations per unit time. The wheel speed sensor 22 outputs a wheel speed pulse number indicating the detected rotation speed as a sensor value. The ECU 14 calculates the amount of movement of the vehicle 1 and the like based on the sensor values acquired from the wheel speed sensors 22 and executes various controls. In the present embodiment, it is assumed that the vehicle 1 is provided with two acceleration sensors 26 (26a, 26b). When the vehicle 1 is equipped with an ESC, the acceleration sensors 26 (26a, 26b) conventionally mounted on the ESC are used. In the present embodiment, the acceleration sensor is not limited, and may be any sensor that can detect the acceleration of the vehicle 1 in the left-right direction. In the present embodiment, the longitudinal acceleration and the lateral acceleration are derived.

なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。   The configuration, arrangement, electrical connection form, and the like of the various sensors and actuators described above are merely examples, and can be set (changed) in various ways.

周辺監視システム100を実現するECU14は、一例として、車両1の渡渉走行時に撮像部15が撮像した撮像画像データに基づく実画像を用いて、車両1の周囲の水面と、「水位限界線」が重畳された車体2との関係を表示装置8に表示する。この場合、撮像部15が撮像する撮像画像データは、車両1の車体2の表面および当該表面の周辺を撮像範囲として撮像したデータである。ここで、「水位限界線」とは、車両1が水没しても走行機能等車両1に備えられた機能を正常に動作させることができる水位および車室2a内への浸水を防ぐことが可能な水位の限界を示す指標である。   As an example, the ECU 14 that implements the periphery monitoring system 100 uses the real image based on the captured image data captured by the imaging unit 15 when the vehicle 1 crosses and travels to determine the water surface around the vehicle 1 and the “water level limit line”. The superimposed relationship with the vehicle body 2 is displayed on the display device 8. In this case, the captured image data captured by the imaging unit 15 is data obtained by capturing the surface of the vehicle body 2 of the vehicle 1 and the periphery of the surface as an imaging range. Here, the “water level limit line” refers to a water level at which a function provided in the vehicle 1 such as a running function can be normally operated even when the vehicle 1 is submerged, and a water level in the vehicle compartment 2a can be prevented. This is an index that indicates the limit of the water level.

図5〜図7は、撮像画像データに基づく画像に「水位限界線L」を重畳した状態を示す説明図である。「水位限界線L」は、車輪3の接地位置から車高方向に例えば、600mmの位置に設定される線であり、車両1の設計段階での防水処理や止水処理等が施される高さと車両1の駆動性能等によって予め設定される高さに設定される。「水位限界線L」は、撮像部15が撮像した撮像画像データに基づく画像に含まれる車体2のうち、例えばボディ側面2mに沿って(車体2の曲面に沿って)重畳表示することができる。例えばボディ側面2mが曲面の場合、水位限界線Lも車両1の表面形状(水平断面形状)に沿った形状(曲線)とすることが望ましい。また、水位限界線Lは、車体2の範囲内で重畳される。この場合、水位限界線Lは、車輪3部分も含んで重畳される。このように、水位限界線Lをボディ側面2mに沿わせかつ車体2の範囲内で重畳することにより、水位が車体2の何処まで上がってきたかを違和感なくユーザに認識させ易くすることができる。   5 to 7 are explanatory diagrams illustrating a state in which the “water level limit line L” is superimposed on an image based on the captured image data. The “water level limit line L” is a line that is set, for example, at a position of 600 mm in the vehicle height direction from the ground position of the wheel 3, and is a height at which a waterproofing process, a water stopping process, and the like are performed at the design stage of the vehicle 1. And the height set in advance according to the driving performance of the vehicle 1 and the like. The “water level limit line L” can be superimposed and displayed, for example, along the body side surface 2m (along the curved surface of the body 2) among the bodies 2 included in the image based on the captured image data captured by the imaging unit 15. . For example, when the body side surface 2m is a curved surface, it is desirable that the water level limit line L also be shaped (curved) along the surface shape (horizontal cross-sectional shape) of the vehicle 1. The water level limit line L is superimposed within the range of the vehicle body 2. In this case, the water level limit line L is superimposed including the wheel 3 portion. In this way, by making the water level limit line L overlap the body side surface 2m and within the range of the vehicle body 2, it is possible to make it easy for the user to recognize the position of the water level rising to the vehicle body 2 without a sense of incongruity.

前述したように、広角レンズまたは魚眼レンズを有した撮像部15bおよび撮像部15dはドアミラー2gに固定されている。したがって、撮像部15bおよび撮像部15dは、車両1のボディ側面2mの一部(前輪3F、後輪3Rを含む)およびその側方の風景を撮像範囲とする。つまり、車両1が河川や沼、冠水路等の水中に進入した場合、車両1のボディ側面2mと水中に進入したことにより上昇した水面とを同一の画面内に収めた画像を得ることができる。そして、ECU14は、水面とともに表示される車両1のボディ側面2mに「水位限界線L」を重畳表示した画像を表示装置8で表示することにより、車両1の渡渉走行中の水没状態および水没状態の遷移を視覚的にユーザ(運転者等)に確認させることができる。また、その画面には、実画像として水面が表示されているので、ユーザに水位の変化を直感的に把握させ易くすることができる。この場合、表示する画像は実画像なので、水面が波打っている場合でも、その水面変化をリアルタイムでユーザに認識させることが可能になり、渡渉走行時の状況判断をより適切に行わせ易くすることができる。   As described above, the imaging unit 15b and the imaging unit 15d having the wide-angle lens or the fisheye lens are fixed to the door mirror 2g. Therefore, the imaging unit 15b and the imaging unit 15d use a part of the body side surface 2m of the vehicle 1 (including the front wheel 3F and the rear wheel 3R) and a landscape on the side thereof as an imaging range. In other words, when the vehicle 1 enters underwater such as a river, a swamp, or a flooded channel, an image can be obtained in which the body side surface 2m of the vehicle 1 and the water surface that has risen due to entering the water are contained in the same screen. . Then, the ECU 14 displays, on the display device 8, an image in which the “water level limit line L” is superimposed and displayed on the body side surface 2 m of the vehicle 1 displayed together with the water surface, so that the vehicle 1 is in a submerged state and a submerged state while the vehicle 1 is traveling. Can be visually confirmed by the user (driver or the like). In addition, since the water surface is displayed as an actual image on the screen, it is possible to make it easy for the user to intuitively grasp the change in the water level. In this case, since the image to be displayed is a real image, even when the water surface is wavy, it is possible for the user to recognize the change in the water surface in real time, and it is easy to more appropriately determine the situation at the time of crossing traveling. be able to.

なお、ECU14は、図6、図7に示すように「水位限界線L」と類似する指標として「水位限界線L」より車高方向の低い位置に「水位参照線K」を重畳することができる。この「水位参照線K」は、水位限界線Lと略平行に重畳されて、水位限界線Lには到達していないが水位の上昇を予告的にユーザに報知する指標線である。「水位参照線K」が例えば2本重畳される場合、1本は、「水位限界線L」の下方例えば400mm、すなわち車輪3の接地面から200mmの位置に「第1水位参照線K1」として重畳される。また、もう1本は、「水位限界線L」の下方例えば200mm、すなわち車輪3の接地面から400mmの位置に「第2水位参照線K2」として重畳される。このように、「水位参照線K」を設けることにより、車体2に対する水位の上昇の程度を段階的に示すことができるので、水位上昇に対する段階的な注意喚起を行うことができる。なお、「水位参照線K」の表示の有無は、ユーザによって選択できるようにしてもよい。また、「水位参照線K」の本数や重畳位置(車輪3の接地位置からの高さ)は適宜設定可能である。   The ECU 14 may superimpose the “water level reference line K” at a position lower in the vehicle height direction than the “water level limit line L” as an index similar to the “water level limit line L” as shown in FIGS. it can. The “water level reference line K” is an index line superimposed substantially in parallel with the water level limit line L and not reaching the water level limit line L but notifying the user of a rise in water level in advance. When two “water level reference lines K” are superimposed, for example, one is “400 mm below the“ water level limit line L ”, that is, 200 mm from the ground contact surface of the wheel 3 as the“ first water level reference line K1 ”. Superimposed. The other is superimposed as a “second water level reference line K2” at, for example, 200 mm below the “water level limit line L”, that is, 400 mm from the ground surface of the wheel 3. By providing the “water level reference line K” in this manner, the degree of rise of the water level with respect to the vehicle body 2 can be indicated in a stepwise manner, so that a stepwise alert for the water level rise can be given. Note that whether or not the “water level reference line K” is displayed may be made selectable by the user. Further, the number of the “water level reference lines K” and the overlapping position (the height of the wheels 3 from the ground contact position) can be set as appropriate.

ECU14に含まれるCPU14aは、上述したような渡渉走行時の「水位限界線L」を含む画像の提供を実現するために、図8に示されるように、画像取得部30、表示処理部32(制御部)、画像処理部34、出力部36を含む。また、表示処理部32は、歪み補正部38、視点変換部40、レイアウト調整部42を含み、画像処理部34は、水位限界線重畳部44および水位参照線重畳部46を含む。画像取得部30、表示処理部32、画像処理部34、出力部36、歪み補正部38、視点変換部40、レイアウト調整部42、水位限界線重畳部44、水位参照線重畳部46は、ROM14b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現可能である。   As shown in FIG. 8, the CPU 14 a included in the ECU 14 includes the image acquisition unit 30 and the display processing unit 32 (FIG. 8) in order to provide an image including the “water level limit line L” during the cruising traveling as described above. Control unit), an image processing unit 34, and an output unit 36. The display processing unit 32 includes a distortion correction unit 38, a viewpoint conversion unit 40, and a layout adjustment unit 42, and the image processing unit 34 includes a water level limit line superimposition unit 44 and a water level reference line superimposition unit 46. The image acquisition unit 30, the display processing unit 32, the image processing unit 34, the output unit 36, the distortion correction unit 38, the viewpoint conversion unit 40, the layout adjustment unit 42, the water level limit line superimposition unit 44, and the water level reference line superimposition unit 46 are stored in the ROM 14b. It can be realized by reading out a program installed and stored in a storage device such as, and executing the program.

画像取得部30は、車両1に設けられて当該車両1の周辺を撮像する撮像部15から出力された撮像画像データを表示制御部14dを介して取得する。なお、表示制御部14dは、CPU14aによる処理を介さずに、撮像部15で撮像した撮像画像データをそのままの状態で表示装置8や表示装置12に出力してもよい。また、CPU14aは、操作入力部10や操作部14g等の入力装置を用いてユーザに希望する表示内容を選択させるようにしてもよい。つまり、表示制御部14dは、操作入力部10や操作部14gの操作により選択された画像を選択的に表示装置8に表示することができる。例えば撮像部15aで撮像した車両1の後方画像を表示装置8に表示させたり、撮像部15dで撮像した左側方画像を表示装置8に表示させたりすることができる。   The image acquisition unit 30 acquires the captured image data output from the imaging unit 15 that is provided in the vehicle 1 and captures the periphery of the vehicle 1 via the display control unit 14d. The display control unit 14d may output the captured image data captured by the image capturing unit 15 to the display device 8 or the display device 12 as it is, without going through the processing by the CPU 14a. Further, the CPU 14a may allow the user to select desired display content using an input device such as the operation input unit 10 or the operation unit 14g. That is, the display control unit 14d can selectively display the image selected by the operation of the operation input unit 10 or the operation unit 14g on the display device 8. For example, the rear image of the vehicle 1 captured by the imaging unit 15a can be displayed on the display device 8, and the left image captured by the imaging unit 15d can be displayed on the display device 8.

表示処理部32は、車両1の車体2の表面および当該表面の周辺を撮像範囲として撮像する撮像部15から出力された撮像画像データに種々の画像処理を施し、撮像画像データに基づく画像を「水位限界線L」や「水位参照線K」が認識し易い画像に変換して表示装置8に表示させる。   The display processing unit 32 performs various types of image processing on the captured image data output from the imaging unit 15 that captures the surface of the vehicle body 2 of the vehicle 1 and the periphery of the surface as an imaging range, and generates an image based on the captured image data. The image is converted into an image in which the water level limit line L and the “water level reference line K” are easily recognizable and displayed on the display device 8.

例えば、歪み補正部38は、周知の歪み補正処理を撮像画像データまたは撮像画像データに基づく画像に施す。前述したように、撮像部15bおよび撮像部15dが広角レンズまたは魚眼レンズを備えている場合、撮像した撮像画像データに基づくオリジナル画像は図5に示すように湾曲した画像になる。この場合、湾曲した画像は、車両1および当該車両1の前方、後方、側方の広範囲の状況を撮像範囲に含む画像となる。つまり、車両1および車両1の周辺全体の状況をユーザに把握させ易い画像を提供できる。その一方で、この湾曲した画像に不慣れなユーザは、表示内容の理解に時間がかかってしまうことがある。また、本来直線に近いはずの「水位限界線L」が湾曲しているので、違和感を与えてしまう場合がある。そこで、歪み補正部38(CPU14a)は、例えば、ROM14bに保持された補正情報に基づき、車両1の側面が撮像された撮像画像データに対して画素位置に応じた変位量を与えて補正することで湾曲を緩和または取り除く処理を施す。その結果、表示装置8に表示される車両1の形状を実際の形状に近づけることが可能になり、ユーザに表示内容の理解をより容易に行わせ易くなる。   For example, the distortion correction unit 38 performs a known distortion correction process on captured image data or an image based on the captured image data. As described above, when the imaging unit 15b and the imaging unit 15d include the wide-angle lens or the fisheye lens, the original image based on the captured image data is a curved image as illustrated in FIG. In this case, the curved image is an image including the vehicle 1 and a wide range of conditions in front, behind, and side of the vehicle 1 in the imaging range. That is, it is possible to provide an image that allows the user to easily grasp the situation of the vehicle 1 and the entire surroundings of the vehicle 1. On the other hand, a user unfamiliar with the curved image may take a long time to understand the displayed contents. Further, since the “water level limit line L”, which should be close to a straight line, is curved, it may give a sense of incongruity. Therefore, the distortion correction unit 38 (CPU 14a) corrects the image data obtained by imaging the side surface of the vehicle 1 by giving a displacement amount corresponding to the pixel position, based on the correction information stored in the ROM 14b, for example. A process for relaxing or removing the curvature is performed. As a result, the shape of the vehicle 1 displayed on the display device 8 can be approximated to the actual shape, and the user can more easily understand the display contents.

視点変換部40は、周知の視点変換処理を撮像画像データまたは撮像画像データに基づく画像に施す。例えば車体2のボディ側面2mに重畳される「水位限界線L」や「水位参照線K」と水面W(水面線)との関係をユーザにより理解させや易くするためには、水位限界線Lや水位参照線Kが重畳された車体2の表面(例えばボディ側面2m)を視認し易い方向から視線を向けた画像で提供することが望ましい。例えば、図6、図7に示されるように、変換後の画像は、ボディ側面2mから離間した位置から当該ボディ側面2mに臨み、ボディ側面2mと水面Wとの接触部分(水面線)近傍を見下ろすような視線で得られる画像とする。その結果、変換後の画像は、ボディ側面2mと水面Wとの関係がより理解し易くなる。視点変換部40(CPU14a)は、車両1の側面が撮像された撮像画像データに対して例えばROM14b等に保持されたマッピングテーブルの変換情報を適用して、車両1から離間して当該車両1を臨む視点位置から見た場合の仮想画像データ(視点変換画像)を生成する。なお、図6、図7は、撮像画像データに基づく画像に歪み補正と視点変換処理を施した例を示すが、歪み補正処理を省略し視点変換処理を実行してもよい。この場合、図5に示すような画像をボディ側面2mから離間した位置から見た画像となる。また、視点変換部40は、視点変換処理中に歪み補正を行ってもよい。また、歪み補正部38と視点変換部40とは、画像変換部としてまとめて構成されてもよい。   The viewpoint conversion unit 40 performs a known viewpoint conversion process on captured image data or an image based on the captured image data. For example, in order to make it easier for the user to understand the relationship between the “water level limit line L” or the “water level reference line K” superimposed on the body side surface 2m of the vehicle body 2 and the water surface W (water surface line), the water level limit line L It is desirable to provide an image in which the line of sight is directed from a direction in which the surface of the vehicle body 2 on which the water level reference line K is superimposed (for example, the body side surface 2m) is easily viewed. For example, as shown in FIGS. 6 and 7, the converted image faces the body side surface 2m from a position separated from the body side surface 2m, and shows the vicinity of a contact portion (water surface line) between the body side surface 2m and the water surface W. It is assumed that the image is obtained by looking down. As a result, in the converted image, the relationship between the body side surface 2m and the water surface W can be more easily understood. The viewpoint conversion unit 40 (CPU 14a) separates the vehicle 1 from the vehicle 1 by applying conversion information of a mapping table held in, for example, the ROM 14b to captured image data obtained by capturing the side surface of the vehicle 1. It generates virtual image data (viewpoint conversion image) when viewed from the viewpoint point of view. 6 and 7 show examples in which distortion correction and viewpoint conversion processing are performed on an image based on captured image data, but the distortion correction processing may be omitted and the viewpoint conversion processing may be executed. In this case, the image as shown in FIG. 5 is an image viewed from a position separated from the body side surface 2m. The viewpoint conversion unit 40 may perform distortion correction during the viewpoint conversion processing. Further, the distortion correction unit 38 and the viewpoint conversion unit 40 may be configured collectively as an image conversion unit.

視点変換部40は、視点の位置を適宜設定可能である。例えば、図6に示すように、ボディ側面2mの略中央部でボディ側面2mから離間した位置に視点を置き、車両1の前方側を臨むような視線変換画像にしてもよい。また、視点変換部40は、図7に示すように、ボディ側面2mの略中央部でボディ側面2mから離間した位置に視点を置き、車両1のボディ側面2mを臨むような視線変換画像にしてもよい。同様に、ボディ側面2mの略中央部から車両1の後方側を臨むような視線変換画像にしてもよい。この場合、撮像画像データに基づく画像の一部を適宜切出す切出し処理を施してもよい。このように視点位置を適宜変更可能にしたり、切出し処理により適宜拡大表示を可能にしたりすることで、ユーザに注意を払わせたい部分の水位限界線L(水位参照線K)と水面Wとの関係を示す画像が提供可能となり、より渡渉走行状態の把握を容易に認識させやすくなる。また、例えば図7に示すようなボディ側面2mを臨む画像を表示する場合、運転席側とは逆側のボディ側面2mを臨む画像を表示装置8に表示してもよい。この場合、運転席側のボディ側面2mは運転者自ら目視で行い、反対側のボディ側面2mを表示装置8で確認することができる。これらの視点切り替えは、例えば、操作入力部10や操作部14gからの入力で選択することができる。   The viewpoint conversion unit 40 can appropriately set the position of the viewpoint. For example, as shown in FIG. 6, the viewpoint may be set at a position separated from the body side surface 2m at a substantially central portion of the body side surface 2m, and may be a line-of-sight conversion image facing the front side of the vehicle 1. In addition, as shown in FIG. 7, the viewpoint conversion unit 40 sets the viewpoint at a position substantially apart from the body side surface 2m at a substantially central portion of the body side surface 2m, and converts the viewpoint conversion image to look at the body side surface 2m of the vehicle 1. Is also good. Similarly, the line-of-sight conversion image may be such that the rear side of the vehicle 1 is viewed from substantially the center of the side surface 2m of the body. In this case, a cutout process for appropriately cutting out a part of the image based on the captured image data may be performed. In this way, by making it possible to appropriately change the viewpoint position or to make it possible to appropriately enlarge the display by cutting out processing, the water level limit line L (water level reference line K) and the water surface W of the part that the user wants to pay attention to are displayed. It is possible to provide an image indicating the relationship, and it is easier to recognize the crossing traveling state. Further, for example, when displaying an image facing the body side surface 2m as shown in FIG. 7, an image facing the body side surface 2m opposite to the driver's seat side may be displayed on the display device 8. In this case, the driver can visually check the body side 2m on the driver's seat side, and can confirm the opposite body side 2m on the display device 8. These viewpoint switching can be selected by, for example, an input from the operation input unit 10 or the operation unit 14g.

レイアウト調整部42は、表示装置8に表示する画面のレイアウトを調整(変更)する。ECU14は、表示装置8に通常表示する走行支援画面として、図9に示すように、表示装置8の表示領域を複数に分割して種々の方向の画像や車両1の姿勢を示す傾斜計50等を表示する。図9は、車両1が陸上を走行しているときに表示される標準表示モード時の画像例である。この場合、レイアウト調整部42は、標準表示モードとして、例えば、表示装置8の表示領域の中央上部に前方表示領域FVを配置し、その左右に左側表示領域SVL、右側表示領域SVRを配置する。また、前方表示領域FVの下方に、傾斜計50を表示する姿勢表示領域PVを配置する。なお、陸上走行時、前方表示領域FVには、必要に応じて、車両1の進行推定方向を示す進路指標Rや車体2の前方側の端部2cからの距離の目安を示す前方参考線Qa、車体2の側方の端部2d,2fからの距離の目安を示す側方参考線Pa等が表示され走行支援を行うようにしてもよい。また、左側表示領域SVL、右側表示領域SVRには、歪み補正が行われて歪みが緩和された画像として、車体2と路面とが表示されている。なお、レイアウト調整部42は、陸上走行時に主に表示する標準表示モードの場合、左側表示領域SVLおよび右側表示領域SVRにおいて、車体2と路面の表示割合は、路面の方を多くしている。つまり、標準表示モードの場合、左側表示領域SVLおよび右側表示領域SVRには、前輪3Fの周囲の路面状況を把握しやすくした画像が表示される。なお、傾斜計50は、加速度センサ26(26a、26b)からの信号に基づき、車両1の左右方向の傾き(ロール角)や前後方向の傾き(ピッチ角)をシンボル52の姿勢で表示する。   The layout adjustment unit 42 adjusts (changes) the layout of the screen displayed on the display device 8. As shown in FIG. 9, the ECU 14 divides the display area of the display device 8 into a plurality of parts, and displays images in various directions, an inclinometer 50 indicating the attitude of the vehicle 1, and the like as a driving assistance screen normally displayed on the display device 8. Is displayed. FIG. 9 is an image example in the standard display mode displayed when the vehicle 1 is traveling on land. In this case, as a standard display mode, the layout adjustment unit 42 arranges, for example, a front display area FV in the upper center of the display area of the display device 8, and arranges a left display area SVL and a right display area SVR to the left and right thereof. Further, an attitude display area PV for displaying the inclinometer 50 is arranged below the front display area FV. When traveling on land, the front display area FV includes, as necessary, a course index R indicating the estimated traveling direction of the vehicle 1 and a front reference line Qa indicating a measure of the distance from the front end 2c of the vehicle body 2. Alternatively, a lateral reference line Pa or the like that indicates a measure of the distance from the lateral ends 2d and 2f of the vehicle body 2 may be displayed to provide driving assistance. In the left display area SVL and the right display area SVR, the vehicle body 2 and the road surface are displayed as images in which distortion has been corrected and distortion has been reduced. In the standard display mode in which the display is mainly performed during land running, the layout adjustment unit 42 displays the vehicle body 2 and the road surface more in the left display area SVL and the right display area SVR on the road surface. That is, in the case of the standard display mode, the left display area SVL and the right display area SVR display an image that makes it easier to grasp the road surface condition around the front wheel 3F. The inclinometer 50 displays the inclination of the vehicle 1 in the left-right direction (roll angle) and the inclination in the front-rear direction (pitch angle) based on the signal from the acceleration sensor 26 (26a, 26b) in the posture of the symbol 52.

また、レイアウト調整部42は、渡渉走行時には、水位限界線Lや水位参照線Kと水面Wとの関係がより分かり易くなるように、表示内容の変更(レイアウト変更)を行うことができる。図10は、渡渉走行をしている場合に表示される特殊表示モード時の画像例である。なお、図10の場合、前方表示領域FV、左側表示領域SVL、右側表示領域SVR、姿勢表示領域PVのレイアウトは、図9の陸上走行時と同じであるが、左側表示領域SVL、右側表示領域SVRの内部のレイアウトが図9の場合と異なる。図10に示されるように、水位限界線L(水位参照線K)が表示される特殊表示モードの場合、左側表示領域SVL、右側表示領域SVRに表示される画像における車体2の表面の表示領域を水位限界線L(水位参照線K)が非表示の場合より大きくしている。特殊表示モードの場合、水面Wが水位限界線L(水位参照線K)に対してどの程度上昇したかを主として表示する。そのため、特殊表示モードの場合、左側表示領域SVLおよび右側表示領域SVRにおけるボディ側面2mの表示面積を増加させている。このように画像内のレイアウトを変更することで、水位限界線L(水位参照線K)と水面Wとの関係の視認性を向上することができる。また、表示装置8の画面が水位限界線Lの表示モードに切り替わっていることを認識させやすくすることができる。なお、撮像部15で撮像されている撮像画像データは、左側表示領域SVLや右側表示領域SVRで表示する領域より大きな領域を撮像範囲として、例えば、そこから切出し処理を行うことで左側表示領域SVLや右側表示領域SVRに表示している。したがって。車体2の表面の表示領域を大きくするには、例えば元画像からの切出し範囲を調整することで実行できる。また、別の実施形態のおいては、車体2の表面の表示領域を図9のままとして、水位限界線L(水位参照線K)を表示するようにしてもよい。   In addition, the layout adjustment unit 42 can change the display content (layout change) so that the relationship between the water level limit line L or the water level reference line K and the water surface W can be more easily understood during crossing traveling. FIG. 10 is an example of an image in the special display mode that is displayed when the vehicle is traveling with a driver. In the case of FIG. 10, the layout of the front display area FV, the left display area SVL, the right display area SVR, and the posture display area PV is the same as that during land running in FIG. 9, but the left display area SVL and the right display area The internal layout of the SVR is different from that of FIG. As shown in FIG. 10, in the special display mode in which the water level limit line L (water level reference line K) is displayed, the display area on the surface of the vehicle body 2 in the image displayed in the left display area SVL and the right display area SVR. Is larger than when the water level limit line L (water level reference line K) is not displayed. In the special display mode, the display mainly shows how much the water surface W has risen with respect to the water level limit line L (the water level reference line K). Therefore, in the special display mode, the display area of the body side surface 2m in the left display area SVL and the right display area SVR is increased. By changing the layout in the image in this way, the visibility of the relationship between the water level limit line L (water level reference line K) and the water surface W can be improved. Further, it is possible to make it easy to recognize that the screen of the display device 8 has been switched to the display mode of the water level limit line L. Note that the captured image data captured by the image capturing unit 15 is set to an area larger than the area displayed in the left display area SVL or the right display area SVR as an imaging range, for example, by performing cutout processing therefrom to obtain the left display area SVL. And in the right display area SVR. Therefore. Enlarging the display area on the surface of the vehicle body 2 can be performed, for example, by adjusting the cutout range from the original image. Further, in another embodiment, the water level limit line L (water level reference line K) may be displayed while the display area on the surface of the vehicle body 2 is kept in FIG.

また、レイアウト調整部42は、レイアウト変更により、表示装置8の表示領域全てを用いて、図6や図7のような水位限界線L(水位参照線K)と水面Wとの関係を示す画像を表示してもよい。このような表示を行うことで、水位限界線L(水位参照線K)と水面Wとの関係の視認性がより向上するとともに、ユーザに水位限界線L(水位参照線K)と水面Wとの関係に特に注意を払わせるように強調することができる。   Further, the layout adjustment unit 42 changes the layout and uses the entire display area of the display device 8 to display an image showing the relationship between the water level limit line L (water level reference line K) and the water surface W as shown in FIGS. May be displayed. By performing such display, the visibility of the relationship between the water level limit line L (the water level reference line K) and the water surface W is further improved, and the water level limit line L (the water level reference line K) and the water surface W are displayed to the user. Can be emphasized to give particular attention to the relationship.

画像処理部34は、車両1の渡渉走行時の水位限界情報に基づく水位限界線Lや水位参照線Kを表示装置8に表示する画像上の車体2の表面の対応位置に重畳する処理を行う。水位限界情報は、例えば、水位限界線Lや水位参照線Kを画像に重畳するための情報であり、画像上の画像を指定する情報でもよいし、基準線、例えば車輪3の接地位置からの高さ情報等でもよい。CPU14aは、水位限界線Lを表示する条件が揃った場合に、水位限界線Lを車両1の設計段階で車高方向において定められた高さの位置に重畳する。前述したように各撮像部15は車体2に固定され撮像範囲が定められている。したがって、撮像画像データまたは撮像画像データに基づく画像において車体2が表示範囲内の何処に表示されるかは算出できるので、その位置に水位限界線Lを重畳する。同様に、水位参照線重畳部46は、水位参照線Kを車両1の設計段階で車高方向において定められた高さ位置に重畳する。なお、水位限界線重畳部44および水位参照線重畳部46は、水位限界線Lと水位参照線K(第1水位参照線K1、第2水位参照線K2)を識別し易いように、異なる表示態様で重畳してもよい。例えば、線種や線色を変えることができる。なお、線色を選択する場合、車体2の色に対して識別可能な色とすることが望ましい。例えば、水位限界線重畳部44、水位参照線重畳部46は、車体2の色情報を取得し自動で、識別可能な線色を選ぶようにしてもよいし、ユーザが選択できるようにしてもよい。また、水位限界線重畳部44は、水位限界線Lを重畳表示する場合に、図6、図7に示すように、水位限界線Lであることを示す情報、例えば矢印等の「マーク」やLimit等の「文字情報」を付加してもよい。なお、「マーク」や「文字情報」等を付加する場合、水位限界線Lの上側に重畳し、水面Wが上昇した場合でも、「マーク」や「文字情報」が視認し易いようにすることが望ましい。水位参照線重畳部46による水位参照線Kの重畳時も同様に「マーク」や「文字情報」を付加してもよい。また、図6、図7において、水位参照線Kは、水位限界線Lと平行に重畳する例を示したが、水位参照線Kは、水位限界線Lと直交する方向に重畳し、水深を示すスケールとともに表示してもよい。   The image processing unit 34 performs a process of superimposing the water level limit line L and the water level reference line K based on the water level limit information when the vehicle 1 crosses the road, at the corresponding position of the surface of the vehicle body 2 on the image displayed on the display device 8. . The water level limit information is, for example, information for superimposing a water level limit line L or a water level reference line K on an image, and may be information specifying an image on the image, or a reference line, for example, from a ground contact position of the wheel 3. Height information or the like may be used. When the conditions for displaying the water level limit line L are met, the CPU 14a superimposes the water level limit line L on the position of the height determined in the vehicle height direction at the stage of designing the vehicle 1. As described above, each imaging unit 15 is fixed to the vehicle body 2 and an imaging range is determined. Therefore, since it is possible to calculate where in the display range the vehicle body 2 is displayed in the captured image data or the image based on the captured image data, the water level limit line L is superimposed on the position. Similarly, the water level reference line superimposing unit 46 superimposes the water level reference line K at a height position determined in the vehicle height direction at the stage of designing the vehicle 1. It should be noted that the water level limit line superimposing section 44 and the water level reference line superimposing section 46 have different displays so that the water level limit line L and the water level reference line K (the first water level reference line K1 and the second water level reference line K2) can be easily identified. It may overlap in an aspect. For example, the line type and line color can be changed. When a line color is selected, it is desirable that the line color be a color that can be identified from the color of the vehicle body 2. For example, the water level limit line superimposing section 44 and the water level reference line superimposing section 46 may acquire color information of the vehicle body 2 and automatically select an identifiable line color, or may allow the user to select. Good. When the water level limit line superimposing section 44 superimposes and displays the water level limit line L, as shown in FIGS. 6 and 7, information indicating the water level limit line L, for example, a “mark” such as an arrow or the like. “Character information” such as Limit may be added. In addition, when adding “mark” or “text information”, it is superimposed on the upper side of the water level limit line L so that even when the water surface W rises, the “mark” or “text information” is easily visible. Is desirable. When the water level reference line K is superimposed by the water level reference line superimposing unit 46, “mark” and “character information” may be added in the same manner. 6 and 7, the water level reference line K has been described as an example in which the water level reference line K is superimposed in parallel with the water level limit line L. However, the water level reference line K is superimposed in a direction orthogonal to the water level limit line L, and the water depth is determined. It may be displayed together with the scale shown.

CPU14aは、水位限界線L(水位参照線K)の表示の有無、例えば、図9の表示状態から図10の表示状態への切り替えおよびその逆の切り替えをユーザによる手動操作、例えば、操作入力部10や操作部14gによる入力操作によって行ってもよい。また、前述したように、測距部16、測距部17の動作状態(エラー信号の出力状態)によって切り替えてもよい。この他、音声認識やジェスチャ認識等による入力手段を用いて切り替え替え操作を行うようにしてもよい。   The CPU 14a performs a manual operation by the user to determine whether or not the water level limit line L (the water level reference line K) is displayed, for example, switching from the display state of FIG. 9 to the display state of FIG. 10 and vice versa. It may be performed by an input operation by the user 10 or the operation unit 14g. Further, as described above, the switching may be performed according to the operation state (the output state of the error signal) of the distance measuring sections 16 and 17. In addition, the switching operation may be performed using input means such as voice recognition or gesture recognition.

このように構成される周辺監視システム100の制御例を図11のフローチャートを用いて説明する。なお、図11に示すフローは、所定の処理周期で繰り返し実行されるものとする。   A control example of the periphery monitoring system 100 thus configured will be described with reference to a flowchart of FIG. Note that the flow illustrated in FIG. 11 is repeatedly executed at a predetermined processing cycle.

まず、CPU14aは、現在周辺監視中であるか判定し(S100)、周辺監視中ではない場合(S100のNo)、例えば車両1の電源がOFFの場合や表示装置8を他の用途(ナビゲーションやオーディオ等)で利用している場合には、一旦このフローを終了する。一方、CPU14aは、現在周辺監視中であると判定した場合(S100のYes)、渡渉走行モード切替条件が成立したか判定する(S102)。CPU14aは、上述したように、操作入力部10や操作部14gによる入力操作が行われた場合に渡渉走行モード切替条件が成立したと見なす。また、CPU14aは、測距部16や測距部17が所定のパターンでエラー信号を出力した場合、例えば測距部17e〜17hがほぼ同時(例えば2秒以内)にエラー信号を出力した場合に渡渉走行モード切替条件が成立したと見なす。   First, the CPU 14a determines whether peripheral monitoring is currently being performed (S100), and if peripheral monitoring is not currently being performed (No in S100), for example, when the power of the vehicle 1 is OFF, or when the display device 8 is used for another purpose (navigation or If it is used for audio, etc., the flow is once ended. On the other hand, when the CPU 14a determines that the surrounding area is currently being monitored (Yes in S100), the CPU 14a determines whether the crossing traveling mode switching condition is satisfied (S102). As described above, the CPU 14a determines that the crossover traveling mode switching condition is satisfied when the input operation is performed by the operation input unit 10 or the operation unit 14g. Further, the CPU 14a determines whether the distance measuring unit 16 or the distance measuring unit 17 outputs an error signal in a predetermined pattern, for example, when the distance measuring units 17e to 17h output the error signal almost simultaneously (for example, within 2 seconds). It is considered that the traveling mode switching condition has been satisfied.

S102において、CPU14aは、渡渉走行モード切替条件が成立した場合(S102のYes)、画像取得部30を介して、撮像部15で現在撮像された撮像画像データ、例えば車両1の側方画像を取得する(S104)。続いて、CPU14aは、取得した側方画像に対して画像変換処理を施す(S106)。画像変換処理では、ユーザによる表示画像の態様設定に基づき歪み補正部38による歪み補正処理と視点変換部40による視点変換処理の少なくとも一方を実行する。なお、ユーザによる選択や設定により図5に示すオリジナル画像に水位限界線L等を重畳して表示する場合は、S106の処理をスキップしてもよい。   In S102, when the crossing traveling mode switching condition is satisfied (Yes in S102), the CPU 14a acquires the captured image data currently captured by the imaging unit 15, for example, the side image of the vehicle 1, via the image acquisition unit 30. (S104). Subsequently, the CPU 14a performs an image conversion process on the acquired side image (S106). In the image conversion processing, at least one of the distortion correction processing by the distortion correction unit 38 and the viewpoint conversion processing by the viewpoint conversion unit 40 is executed based on the setting of the mode of the display image by the user. In the case where the water level limit line L and the like are superimposed on the original image shown in FIG. 5 according to the selection or setting by the user, the process of S106 may be skipped.

続いて、CPU14aは、水位限界線重畳部44により「水位限界線L」を車体2のボディ側面2mに重畳するとともに、水位参照線重畳部46により「水位参照線K」を車体2のボディ側面2mに重畳する(S108)。なお、この場合、ユーザによる選択や設定により「水位参照線K」を非表示とすることもできる。「水位参照線K」を非表示とすることで、水位限界線Lを重畳する画像のシンプル化が可能となる。つまり、シンプルな表示を好むユーザに対応した表示ができる。   Subsequently, the CPU 14a superimposes the “water level limit line L” on the body side surface 2m of the vehicle body 2 by the water level limit line superimposing section 44, and the “water level reference line K” by the water level reference line superimposing section 46. It overlaps with 2m (S108). In this case, the “water level reference line K” may be hidden by selection or setting by the user. By hiding the “water level reference line K”, it is possible to simplify the image on which the water level limit line L is superimposed. That is, a display corresponding to a user who prefers a simple display can be performed.

続いて、レイアウト調整部42は、周辺監視画面として表示されている図9の標準表示モードの画面から渡渉走行モードの画面に切り替える場合に、渡渉走行モードの画面が主画面に指定されているか否かを確認する(S110)。例えば、操作入力部10や操作部14gによる入力操作により、「主表示」が選択された場合(S110のYes)、レイアウト調整部42は、図9の標準表示モードの画面から図5〜図7で示すような水位限界線L(水位参照線K)と水面Wとの関係を強調するような画面に切り替えて、表示装置8の表示領域全体を用いた表示(主表示)とする処理を実行する(S112)。   Subsequently, when switching from the screen in the standard display mode of FIG. 9 displayed as the surroundings monitoring screen to the screen in the traveling mode, the layout adjustment unit 42 determines whether the screen in the traveling mode is designated as the main screen. Is checked (S110). For example, when “main display” is selected by an input operation using the operation input unit 10 or the operation unit 14g (Yes in S110), the layout adjustment unit 42 switches from the standard display mode screen of FIG. Is switched to a screen that emphasizes the relationship between the water level limit line L (water level reference line K) and the water surface W as shown by, and a process of displaying (main display) using the entire display area of the display device 8 is executed. (S112).

一方、主表示選択が行われていない場合(S110のNo)、レイアウト調整部42は、図10に示すように、左側表示領域SVLおよび右側表示領域SVRに表示される画像における車体2の表面の表示領域を水位限界線L(水位参照線K)が非表示の場合より大きくなる特殊表示モードに切り替えて表示装置8に表示する処理を実行する(S114)。   On the other hand, when the main display selection has not been performed (No in S110), the layout adjustment unit 42, as shown in FIG. 10, displays the surface of the vehicle body 2 in the image displayed in the left display area SVL and the right display area SVR. The display area is switched to the special display mode in which the water level limit line L (the water level reference line K) is larger than the non-display state and the display area is displayed on the display device 8 (S114).

CPU14aは、水位限界線L(水位参照線K)と水面Wとの関係を示す渡渉走行モードによる表示が実行されている間、渡渉走行モードから陸上走行モードに復帰させるモード復帰条件が成立したか否か確認する(S116)。手動復帰の場合、CPU14aは、操作入力部10や操作部14g等を介した入力操作によりユーザから画面復帰要求(陸上走行モードの画面表示要求)があった場合にモード復帰条件が成立したと見なす。また、自動復帰の場合、CPU14aは、測距部16、測距部17が全て復帰した場合(上陸によりエラー信号が全て解消された場合)で、その後、所定期間、例えば5秒経過した場合にモード復帰条件が成立したと見なす。モード復帰条件が成立した場合(S116のYes)、レイアウト調整部42は、表示装置8に表示する画像を標準表示モードの画像(図9の画面)に復帰させて(S118)、一連の渡渉走行モードによる水位限界線L(水位参照線K)の表示処理を終了する。   The CPU 14a determines whether the mode return condition for returning from the cruising traveling mode to the land traveling mode is satisfied while the display in the cruising traveling mode indicating the relationship between the water level limit line L (the water level reference line K) and the water surface W is being performed. It is confirmed whether or not it is (S116). In the case of the manual return, the CPU 14a regards that the mode return condition is satisfied when a user requests a screen return (a screen display request in the land traveling mode) by an input operation via the operation input unit 10 or the operation unit 14g. . In the case of automatic return, the CPU 14a determines that the distance measuring unit 16 and the distance measuring unit 17 have all returned (when all error signals have been eliminated by landing) and that a predetermined period of time, for example, 5 seconds, has elapsed. It is assumed that the mode return condition has been satisfied. When the mode return condition is satisfied (Yes in S116), the layout adjustment unit 42 returns the image displayed on the display device 8 to the image in the standard display mode (the screen in FIG. 9) (S118), and performs a series of crossing traveling. The display process of the water level limit line L (water level reference line K) in the mode ends.

なお、S116において、モード復帰条件が成立していない場合(S116のNo)、CPU14aは、S104に移行して、S104以降の処理を実行することにより、渡渉走行中の表示画像を順次更新して、水面Wの変化(水位の変化)と水位限界線L(水位参照線K)の関係の推移をリアルタイムで表示装置8を介して表示する。また、S102において、渡渉走行モード切替条件が成立していない場合(S102のNo)、つまり、水位限界線L(水位参照線K)の表示が不要な場合、S118に移行して標準表示モードの画面を表示装置8に表示する処理を継続する。   In S116, when the mode return condition is not satisfied (No in S116), the CPU 14a shifts to S104 and executes the processing of S104 and thereafter to sequentially update the display images during the crossing travel. The change in the relationship between the change in the water surface W (change in the water level) and the water level limit line L (the water level reference line K) is displayed on the display device 8 in real time. Further, in S102, when the traveling mode switching condition is not satisfied (No in S102), that is, when the display of the water level limit line L (the water level reference line K) is unnecessary, the process proceeds to S118, and the standard display mode is set. The process of displaying the screen on the display device 8 is continued.

このように、本実施形態の周辺監視システム100によれば、表示装置8には、撮像部15で撮像した撮像画像データに基づく実画像が表示され、車両1の実際の車体2の表面および渡渉走行時の周辺、つまり水面Wが表示される。また、水位限界線Lが画像上の車体2表面の対応位置に重畳される。その結果、実際の状況、つまり水面Wが車体2のどの辺りまできているのかとか水面の状態がどのようになっているか等の状況をより正確に伝え、ユーザには、それらの情報を直感的に把握させ易くすることができる。   As described above, according to the periphery monitoring system 100 of the present embodiment, the display device 8 displays the actual image based on the image data captured by the imaging unit 15, and displays the actual surface of the vehicle body 2 of the vehicle 1 and the interference. The area around the vehicle, that is, the water surface W, is displayed. Further, the water level limit line L is superimposed on a corresponding position on the surface of the vehicle body 2 on the image. As a result, the actual situation, that is, about where the water surface W is formed on the vehicle body 2 and the state of the water surface are more accurately conveyed, and the user is intuitively informed of the information. It is possible to make it easier to grasp.

なお、上述した実施形態の場合、水位限界線Lや水位参照線Kをドアミラー2gに設けられた撮像部15bや撮像部15dで撮像した撮像画像データに基づきボディ側面2mに重畳する例を示した。別の実施形態では、他の撮像部15で撮像した撮像画像データを用いてもよい。例えば、車体2の前部に設けた撮像部15cの撮像範囲に車体2の前部(ボディ前面)が含まれる場合、ボディ前面の画像に水位限界線Lや水位参照線Kを重畳して表示装置8の前方表示領域FVに表示してもよい。この場合、車両1を前進させる場合に、車体2に対する水位の変化が把握し易くなる。同様に、車体2の後部に設けた撮像部15aの撮像範囲に車体2の後部(ボディ後面)が含まれる場合、ボディ後面の画像に水位限界線Lや水位参照線Kを重畳して表示装置8に表示してもよい。この場合、変速操作部7(シフトレバー)のシフト位置に基づいて、前後の画像を切り替えてもよい。また、表示装置8の表示領域を四分割し、前後左右の画像にそれぞれ水位限界線L(水位参照線K)を重畳して表示してもよい。この場合、車両1の全周囲に対して水面Wと水位限界線L(水位参照線K)との関係を示すことができるので、例えば水底の凹凸が大きく車両1が大きく傾いているような場合でも、水位限界線L(水位参照線K)と水面Wとの関係をユーザに把握させやすくすることができる。   In the case of the above-described embodiment, an example is shown in which the water level limit line L and the water level reference line K are superimposed on the body side surface 2m based on image data captured by the imaging unit 15b or the imaging unit 15d provided on the door mirror 2g. . In another embodiment, image data captured by another imaging unit 15 may be used. For example, when the imaging range of the imaging unit 15c provided at the front part of the vehicle body 2 includes the front part (the front surface of the body) of the vehicle body 2, the water level limit line L and the water level reference line K are superimposed and displayed on the image of the front surface of the body. The information may be displayed in the front display area FV of the device 8. In this case, when the vehicle 1 is moved forward, a change in the water level with respect to the vehicle body 2 can be easily grasped. Similarly, when the rear of the vehicle body 2 (rear surface of the body) is included in the imaging range of the imaging unit 15a provided at the rear of the vehicle body 2, the water level limit line L and the water level reference line K are superimposed on the image of the rear surface of the body. 8 may be displayed. In this case, the preceding and following images may be switched based on the shift position of the shift operation section 7 (shift lever). Alternatively, the display area of the display device 8 may be divided into four parts, and the water level limit line L (water level reference line K) may be superimposed and displayed on the front, rear, left, and right images. In this case, since the relationship between the water surface W and the water level limit line L (water level reference line K) can be shown with respect to the entire circumference of the vehicle 1, for example, in the case where the unevenness of the water bottom is large and the vehicle 1 is greatly inclined. However, the user can easily understand the relationship between the water level limit line L (water level reference line K) and the water surface W.

また、本実施形態では、水位限界線Lや水位参照線Kをボディ側面2mに沿って重畳する例を示した。つまり、ボディ側面2mが曲面の場合、その曲面に対応するように水位限界線Lや水位参照線Kも曲線となるように重畳したが、これに限らない。例えば、撮像画像データや撮像画像データに基づく画像に歪み補正を施して、車両1の実際の形状に近づけている場合、水位限界線Lや水位参照線Kが重畳される車体2の前後方向の形状は、直線的な形状になるので、水位限界線Lや水位参照線Kを簡易的に直線で表現してもよい。この場合、ECU14による画像処理負荷を軽減することができる。また、水位限界線Lや水位参照線Kがシンプルな直線で表示されることにより、水面との関係を直感的に理解させやすくすることができる。   In the present embodiment, an example has been described in which the water level limit line L and the water level reference line K are superimposed along the body side surface 2m. That is, when the body side surface 2m is a curved surface, the water level limit line L and the water level reference line K are also superimposed so as to correspond to the curved surface, but are not limited thereto. For example, when distortion correction is performed on the captured image data or an image based on the captured image data to approximate the actual shape of the vehicle 1, the water level limit line L and the water level reference line K are superimposed in the front-rear direction of the vehicle body 2. Since the shape is a linear shape, the water level limit line L and the water level reference line K may be simply represented by a straight line. In this case, the image processing load on the ECU 14 can be reduced. In addition, since the water level limit line L and the water level reference line K are displayed as simple straight lines, the relationship with the water surface can be easily understood intuitively.

また、上述の実施形態では、いわゆるオフロード車について説明したが、本実施形態の周辺監視装置は、いわゆるオンロード車(乗用車等)にも適用可能であり、同様な効果を得ることができる。また、水位参照線Kや水位限界線Lが重畳された画像を画像処理することで、水位参照線Kや水位限界線Lに対する水面Wの位置を検出し、音声等による警告メッセージを出力するようにしてもよい。   In the above-described embodiment, a so-called off-road vehicle has been described. However, the periphery monitoring device according to the present embodiment can be applied to a so-called on-road vehicle (passenger car or the like), and similar effects can be obtained. Further, by processing the image on which the water level reference line K and the water level limit line L are superimposed, the position of the water surface W with respect to the water level reference line K and the water level limit line L is detected, and a warning message such as a voice is output. It may be.

また、上述した実施形態において、渡渉走行モード(水中走行モード)に自動的に切り替える場合、測距部16、測距部17からの信号を用いる例を示したが、これに限らず、他のセンサからの信号を用いて切り替えてもよい。また、撮像部15で撮像した画像に基づき、水面Wを検出し、切り替えるようにしてもよい。また、モード切替は、手動のみとしてもよい。   Further, in the above-described embodiment, an example in which the signals from the distance measuring units 16 and 17 are used when automatically switching to the cruising traveling mode (underwater traveling mode) is used. Switching may be performed using a signal from a sensor. Further, the water surface W may be detected and switched based on the image captured by the imaging unit 15. Further, the mode switching may be performed only manually.

本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。   Although the embodiment and the modification of the present invention have been described, the embodiment and the modification are presented as examples and are not intended to limit the scope of the invention. These new embodiments can be implemented in other various forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. These embodiments and their modifications are included in the scope and gist of the invention, and are also included in the invention described in the claims and their equivalents.

1…車両、2…車体、2m…ボディ側面、8…表示装置、14…ECU、14a…CPU、14b…ROM、14d…表示制御部、14g…操作部、15,15a,15b,15c,15d…撮像部、30…画像取得部、32…表示処理部、34…画像処理部、36…出力部、38…歪み補正部、40…視点変換部、42…レイアウト調整部、44…水位限界線重畳部、46…水位参照線重畳部、L…水位限界線、K…水位参照線、W…水面、100…周辺監視システム(周辺監視装置)。   DESCRIPTION OF SYMBOLS 1 ... Vehicle, 2 ... Body, 2m ... Body side surface, 8 ... Display device, 14 ... ECU, 14a ... CPU, 14b ... ROM, 14d ... Display control part, 14g ... Operation part, 15, 15a, 15b, 15c, 15d ... Imaging unit, 30 ... Image acquisition unit, 32 ... Display processing unit, 34 ... Image processing unit, 36 ... Output unit, 38 ... Distortion correction unit, 40 ... Viewpoint conversion unit, 42 ... Layout adjustment unit, 44 ... Water level limit line Superposition unit, 46: water level reference line superposition unit, L: water level limit line, K: water level reference line, W: water surface, 100: peripheral monitoring system (peripheral monitoring device).

Claims (10)

車両の車体表面および当該車体表面の周辺を撮像範囲として撮像する撮像部から出力された撮像画像データに基づく画像を表示装置に表示させる制御部と、
前記車両の渡渉走行時の水位限界情報に基づく水位限界線を前記画像上の前記車体表面の対応位置に重畳する画像処理部と、
を備える周辺監視装置。
A control unit that causes a display device to display an image based on captured image data output from an imaging unit that captures an image of the vehicle body surface and the periphery of the vehicle body surface as an imaging range,
An image processing unit that superimposes a water level limit line based on the water level limit information at the time of cruising traveling of the vehicle at a corresponding position of the vehicle body surface on the image.
A peripheral monitoring device comprising:
前記制御部は、前記車両の側面が撮像された前記撮像画像データに補正を施した画像を表示させる請求項1に記載の周辺監視装置。   The periphery monitoring device according to claim 1, wherein the control unit displays an image obtained by correcting the captured image data obtained by capturing the side surface of the vehicle. 前記制御部は、前記補正として、前記撮像画像データに視点変換処理を施す請求項2に記載の周辺監視装置。   The peripheral monitoring device according to claim 2, wherein the control unit performs a viewpoint conversion process on the captured image data as the correction. 前記制御部は、前記補正として、前記撮像画像データに歪み補正処理を施す請求項2または請求項3に記載の周辺監視装置。   The periphery monitoring device according to claim 2, wherein the control unit performs a distortion correction process on the captured image data as the correction. 前記制御部は、前記補正として、前記撮像画像データの一部を切出す切出し処理を施す請求項2から請求項4のいずれか1項に記載の周辺監視装置。   5. The periphery monitoring device according to claim 2, wherein the control unit performs, as the correction, a cutout process of cutting out a part of the captured image data. 6. 前記画像処理部は、前記車両の表面形状に沿った形状の前記水位限界線を前記対応位置に重畳する請求項1から請求項5のいずれか1項に記載の周辺監視装置。   The surroundings monitoring device according to any one of claims 1 to 5, wherein the image processing unit superimposes the water level limit line having a shape along the surface shape of the vehicle at the corresponding position. 前記画像処理部は、直線の前記水位限界線を前記対応位置に重畳する請求項1から請求項5のいずれか1項に記載の周辺監視装置。   The peripheral monitoring device according to claim 1, wherein the image processing unit superimposes the straight water level limit line on the corresponding position. 前記制御部は、前記水位限界線が表示される場合、前記画像における前記車体表面の表示領域を前記水位限界線が非表示の場合より大きくする請求項1から請求項7のいずれか1項に記載の周辺監視装置。   The control unit according to any one of claims 1 to 7, wherein when the water level limit line is displayed, a display area of the vehicle body surface in the image is larger than when the water level limit line is not displayed. Perimeter monitoring device as described. 前記画像処理部は、前記画像に重畳される前記水位限界線より車高方向の低い位置に水位参照線を重畳する請求項1から請求項8のいずれか1項に記載の周辺監視装置。   The surroundings monitoring device according to any one of claims 1 to 8, wherein the image processing unit superimposes a water level reference line at a position lower in the vehicle height direction than the water level limit line superimposed on the image. 前記画像処理部は、前記水位参照線を前記水位限界線と異なる表示態様で重畳する請求項9に記載の周辺監視装置。   The periphery monitoring device according to claim 9, wherein the image processing unit superimposes the water level reference line in a display mode different from the water level limit line.
JP2016129660A 2016-06-30 2016-06-30 Perimeter monitoring device Active JP6642307B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016129660A JP6642307B2 (en) 2016-06-30 2016-06-30 Perimeter monitoring device
DE112017003278.4T DE112017003278T5 (en) 2016-06-30 2017-03-10 Peripheral monitoring device
PCT/JP2017/009743 WO2018003188A1 (en) 2016-06-30 2017-03-10 Periphery monitoring device
CN201780038757.1A CN109314770B (en) 2016-06-30 2017-03-10 Peripheral monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016129660A JP6642307B2 (en) 2016-06-30 2016-06-30 Perimeter monitoring device

Publications (2)

Publication Number Publication Date
JP2018001899A JP2018001899A (en) 2018-01-11
JP6642307B2 true JP6642307B2 (en) 2020-02-05

Family

ID=60786804

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016129660A Active JP6642307B2 (en) 2016-06-30 2016-06-30 Perimeter monitoring device

Country Status (4)

Country Link
JP (1) JP6642307B2 (en)
CN (1) CN109314770B (en)
DE (1) DE112017003278T5 (en)
WO (1) WO2018003188A1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108284925A (en) * 2018-01-09 2018-07-17 燕山大学 The recognition detection method of waterline
JP7358811B2 (en) * 2019-07-16 2023-10-11 株式会社アイシン Vehicle peripheral display device
JP7209652B2 (en) * 2020-02-05 2023-01-20 三菱電機株式会社 River management device, river management support system, river management support method, and river management support program
CN115171031B (en) * 2022-07-19 2023-01-31 杭州开闳流体科技有限公司 Vehicle reference object-based road surface water detection method and device and application

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006182108A (en) * 2004-12-27 2006-07-13 Nissan Motor Co Ltd Vehicle periphery monitoring device
JP2009032513A (en) * 2007-07-26 2009-02-12 Toyota Motor Corp Fuel cell vehicle
JP5444139B2 (en) * 2010-06-29 2014-03-19 クラリオン株式会社 Image calibration method and apparatus
JP2012188058A (en) * 2011-03-14 2012-10-04 Panasonic Corp Display device
GB201118623D0 (en) * 2011-10-27 2011-12-07 Land Rover Uk Ltd Wading apparatus and method
GB201205653D0 (en) * 2012-03-30 2012-05-16 Jaguar Cars Wade sensing display control system
GB2520250B (en) * 2013-11-12 2016-05-25 Jaguar Land Rover Ltd Vehicle having wade sensing display and system therefor

Also Published As

Publication number Publication date
WO2018003188A1 (en) 2018-01-04
JP2018001899A (en) 2018-01-11
CN109314770A (en) 2019-02-05
CN109314770B (en) 2021-03-19
DE112017003278T5 (en) 2019-03-14

Similar Documents

Publication Publication Date Title
JP6096156B2 (en) Parking assistance device
JP6096157B2 (en) Parking assistance device
US9481368B2 (en) Park exit assist system and park exit assist method
JP6015314B2 (en) Device for calculating parking target position, method and program for calculating parking target position
US9884646B2 (en) Parking assist system and path determination method
JP6110349B2 (en) Parking assistance device
US10878253B2 (en) Periphery monitoring device
EP2910423B1 (en) Surroundings monitoring apparatus and program thereof
US20160075377A1 (en) Parking assist system, parking assist method and parking assist control program
WO2018061294A1 (en) Periphery monitoring device
US20170259831A1 (en) Driving assistance device and driving assistance system
JP2017154711A (en) Parking assistance device
US20190244324A1 (en) Display control apparatus
JP2016084094A (en) Parking assist apparatus
JP6555056B2 (en) Perimeter monitoring device
WO2018150642A1 (en) Surroundings monitoring device
JP6642307B2 (en) Perimeter monitoring device
JP2017094922A (en) Perimeter monitoring device
JP7009785B2 (en) Peripheral monitoring device
JP6227514B2 (en) Parking assistance device
WO2018025441A1 (en) Periphery monitoring device
JP2017069846A (en) Display control device
JP7114919B2 (en) Driving support device
JP7383973B2 (en) parking assist device
JP2017218008A (en) Driving support device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191216

R151 Written notification of patent or utility model registration

Ref document number: 6642307

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151