[go: up one dir, main page]

JP7037413B2 - 撮像装置、移動体、および撮像方法 - Google Patents

撮像装置、移動体、および撮像方法 Download PDF

Info

Publication number
JP7037413B2
JP7037413B2 JP2018062998A JP2018062998A JP7037413B2 JP 7037413 B2 JP7037413 B2 JP 7037413B2 JP 2018062998 A JP2018062998 A JP 2018062998A JP 2018062998 A JP2018062998 A JP 2018062998A JP 7037413 B2 JP7037413 B2 JP 7037413B2
Authority
JP
Japan
Prior art keywords
image
index
captured image
calibration object
controller
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018062998A
Other languages
English (en)
Other versions
JP2019176340A (ja
Inventor
翔太 岩野
克美 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2018062998A priority Critical patent/JP7037413B2/ja
Priority to US16/977,746 priority patent/US11501464B2/en
Priority to PCT/JP2019/011269 priority patent/WO2019188521A1/ja
Publication of JP2019176340A publication Critical patent/JP2019176340A/ja
Application granted granted Critical
Publication of JP7037413B2 publication Critical patent/JP7037413B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/32Fiducial marks and measuring scales within the optical system
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • G02B7/04Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification
    • G02B7/08Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification adapted to co-operate with a remote control mechanism
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • G06T3/147Transformations for image registration, e.g. adjusting or mapping for alignment of images using affine transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/101Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using cameras with adjustable capturing direction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Lens Barrels (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Mechanical Engineering (AREA)

Description

本開示は、撮像装置、移動体、および撮像方法に関する。
従来、カメラを取り付ける位置および姿勢のずれに起因する画像のずれを補正することが知られている。例えば、該カメラによって指標となる被写体を撮像することによって生成された撮像画像における指標の像が較正用オブジェクトに一致するように撮像画像の領域を変更することが提案されている(例えば、特許文献1参照)。
特開2000-209577号公報
しかしながら、上述のように撮像画像の領域を変更しても、指標の像を較正用のオブジェクトに一致させることができないことがあり、画像のずれを高い精度で補正することが困難となる。
本開示は、カメラの取り付け位置および姿勢のずれに起因する画像のずれを高い精度で補正する撮像装置、移動体、および撮像方法を提供することを目的とする。
本開示の一実施形態に係る撮像装置は、カメラと、コントローラとを備える。前記カメラは、撮像画像を生成する。前記コントローラは、前記撮像画像内で平行移動または回転によって移動可能な、較正用オブジェクトを重畳し、前記カメラを搭載する移動体に対して定められた位置に配置された複数の指標が撮像された場合に、前記撮像画像に含まれる該複数の指標の中の第1指標の像に、該撮像画像に重畳された前記較正用オブジェクトの第1対応箇所が一致するように前記較正用オブジェクトを移動させるとともに、前記撮像画像における前記第1指標の像の位置および前記第1指標以外の第2指標の像の位置と、前記撮像画像での前記較正用オブジェクトが重畳された位置とに基づいて定まる撮像画像内の領域に、前記第2指標の像が前記較正用オブジェクトの第2対応箇所に一致するように前記較正用オブジェクトの前記第2対応箇所と前記第2指標の像とに基づいて前記第1対応箇所を中心に前記較正用オブジェクトを回転により移動させ、前記撮像画像内の所定方向における第1指標の像からの距離に応じた伸縮率で、前記撮像画像を前記所定方向に伸縮させる歪補正を行う。
本開示の一実施形態に係る移動体は、撮像装置を備える。前記撮像装置は、カメラと、コントローラとを含む。前記カメラは、撮像画像を生成する。前記コントローラは、前記撮像画像内で平行移動または回転によって移動可能な、較正用オブジェクトを重畳し、前記カメラを搭載する移動体に対して定められた位置に配置された複数の指標が撮像された場合に、前記撮像画像に含まれる該複数の指標の中の第1指標の像に、該撮像画像に重畳された前記較正用オブジェクトの第1対応箇所が一致するように前記較正用オブジェクトを移動させるとともに、前記撮像画像における前記第1指標の像の位置および前記第1指標以外の第2指標の像の位置と、前記撮像画像での前記較正用オブジェクトが重畳された位置とに基づいて定まる撮像画像内の領域に、前記第2指標の像が前記較正用オブジェクトの第2対応箇所に一致するように前記較正用オブジェクトの前記第2対応箇所と前記第2指標の像とに基づいて前記第1対応箇所を中心に前記較正用オブジェクトを回転により移動させ、前記撮像画像内の所定方向における第1指標の像からの距離に応じた伸縮率で、前記撮像画像を前記所定方向に伸縮させる歪補正を行う。
本開示の一実施形態に係る撮像方法は、撮像装置が、撮像画像を生成する。前記撮像装置が、前記撮像画像内で平行移動または回転によって移動可能な、較正用オブジェクトを重畳する。前記撮像装置が、前記撮像画像を生成するカメラを搭載する移動体に対して定められた位置に配置された複数の指標が撮像された場合に、前記撮像画像に含まれる該複数の指標の中の第1指標の像に、該撮像画像に重畳された前記較正用オブジェクトの第1対応箇所が一致するように前記較正用オブジェクトを移動させるとともに、前記撮像画像における前記第1指標の像の位置、および前記第1指標以外の第2指標の像の位置と、前記撮像画像での前記較正用オブジェクトが重畳された位置とに基づいて定まる撮像画像内の領域に、前記第2指標の像が前記較正用オブジェクトの第2対応箇所に一致するように前記較正用オブジェクトの前記第2対応箇所と前記第2指標の像とに基づいて前記第1対応箇所を中心に前記較正用オブジェクトを回転により移動させ、前記撮像画像内の所定方向における第1指標の像からの距離に応じた伸縮率で、前記撮像画像を前記所定方向に伸縮させる歪補正を行う。
本開示の一実施形態に係る撮像装置、移動体、および撮像方法によれば、カメラの取り付け位置および姿勢のずれに起因する画像のずれが高い精度で補正されうる。
第1実施形態に係る撮像装置および表示装置を備える移動体を示す概略図である。 図1に示す撮像装置の概略構成を示す機能ブロック図である。 図2に示す入力部が制御信号を生成するために、較正作業者によって操作される操作ボタンの例を示す図である。 図1に示す移動体および指標を上面視した概略図である。 図1に示す撮像装置の取付け位置および姿勢が設計値に合致した状態で撮像された撮像画像を示す概略図である。 図1に示す撮像装置によって撮像され、較正用オブジェクトが重畳された撮像画像の一例を示す概略図である。 図6に示す撮像画像における較正用オブジェクトおよび出力領域を平行移動によって移動させた状態を示す概略図である。 図7に示す撮像画像における較正用オブジェクトおよび出力領域を回転によって移動させた状態を示す概略図である。 第1補正方向の伸縮について説明するための概略図である。 光学歪補正が行われた撮像画像を第1補正方向に伸縮した状態を示す概略図である。 図10に示す撮像画像を第2補正方向に伸縮した状態を示す概略図である。 補正前の撮像画像において、図11に示す撮像画像に対応する出力領域が対応する領域を示す図である。 図2に示す撮像装置の較正処理のフローを示すフローチャートである。 第2実施形態に係る撮像装置の概略構成を示す機能ブロック図である。 図6に示す撮像画像における較正用オブジェクトを平行移動によって移動させた状態を示す概略図である。 図15に示す撮像画像における較正用オブジェクトを回転によって移動させた状態を示す概略図である。 図16に示す撮像画像に光学歪補正およびあおり歪補正を行った状態を示す概略図である。 図14に示す撮像装置の較正処理のフローを示すフローチャートである。
以下、本開示の第1実施形態に係る撮像装置10について、図面を参照して説明する。
図1に示すように、本開示の一実施形態に係る撮像装置10は、移動体20の、例えば後方の光景を撮像可能なように移動体20に搭載されている。なお、以下の記載において、鉛直上向き方向をY方向、移動体20の後方をZ方向、Y方向およびZ方向に垂直な方向をX方向とする。撮像装置10は、移動体20の後方の光景に限らず、移動体20の前方または側方の光景を撮像可能なように移動体20に取付けられてもよい。撮像装置10は、例えば、移動体20の近傍の路面を撮像可能なように移動体20に搭載されている。そのため、移動体20は、光軸OXが平地LGに対して例えば30°から60°の角度をなすように搭載されてよい。移動体20には、画像を表示する表示装置11が取付けられている。撮像装置10は、通信ネットワークを介して表示装置11に接続され、表示装置11に画像を送信する。
移動体20は、例えば車両、船舶、および航空機等を含んでよい。車両は、例えば自動車、産業車両、鉄道車両、生活車両、および滑走路を走行する固定翼機等を含んでよい。自動車は、例えば乗用車、トラック、バス、二輪車、およびトロリーバス等を含んでよい。産業車両は、例えば農業および建設向けの産業車両等を含んでよい。産業車両は、例えばフォークリフトおよびゴルフカート等を含んでよい。農業向けの産業車両は、例えばトラクター、耕耘機、移植機、バインダー、コンバイン、および芝刈り機等を含んでよい。建設向けの産業車両は、例えばブルドーザー、スクレーバー、ショベルカー、クレーン車、ダンプカー、およびロードローラ等を含んでよい。車両は、人力で走行するものを含んでよい。車両の分類は、上述した例に限られない。例えば、自動車は、道路を走行可能な産業車両を含んでよい。複数の分類に同じ車両が含まれてよい。船舶は、例えばマリンジェット、ボート、およびタンカー等を含んでよい。航空機は、例えば固定翼機および回転翼機等を含んでよい。
図2に示すように、撮像装置10は、カメラ12と、入力部13と、メモリ14と、コントローラ15と、出力部16とを備える。
カメラ12は、撮像光学系および撮像素子を有する。撮像光学系は、1つ以上のレンズによって構成されてよい。撮像素子は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサまたはCCD(Charge Coupled Device)等で構成されてよい。カメラ12は、撮像素子が撮像光学系に入射した被写体像を撮像することによって撮像画像CIを生成する。
入力部13は、較正作業者の操作に基づいて、後述する較正用オブジェクトJを撮像画像CI内で移動させるための制御信号を生成する。入力部13は、例えば、図3に示すような、上方向、下方向、左方向、および右方向を示す矢印が表記されたそれぞれ上移動ボタン13a、下移動ボタン13b、左移動ボタン13c、および右移動ボタン13dを含む移動操作ボタンを含んでよい。入力部13は、さらに、右回転方向および左回転方向をそれぞれ示す矢印が表記された右回転移動ボタン13eおよび左回転移動ボタン13fを含む回転操作ボタンを含んでよい。入力部13は、較正作業者によって移動操作ボタンおよび回転操作ボタンが操作されると、操作に基づいて、撮像画像CI内で出力領域OAを移動させる方向および量を示す制御信号を生成する。
入力部13は、較正用オブジェクトJの移動を確定するための確定ボタンを含んでよい。入力部13は、較正作業者によって撮像画像CI内で出力領域OAの移動を確定させる確定信号を生成する。
入力部13は、較正作業者の操作に基づいて、後述する機能モードを切替えるための切替信号を生成する。入力部13は、例えば、機能モードに含まれる通常モードおよび較正モードのいずれかを選択する操作スイッチによって構成されてよい。このような構成において、入力部13は、較正作業者の操作によって、操作スイッチが通常モードに切り替えられると、通常モードへの切替を指示する切替信号を生成する。入力部13は、較正作業者の操作によって、操作スイッチが較正モードに切り替えられると、較正モードへの切替を指示する切替信号を生成する。
入力部13は、較正作業者の操作に基づいて、後述する指標の像Imのいずれかの位置を示す位置情報を生成する。具体的には、入力部13は、較正作業者が任意のポインティングデバイスを用いて撮像画像CI内における、後述する指標の像Imの位置を示すための操作を行うと、当該操作に基づいて位置信号を生成する。
入力部13は、操作ボタン、操作スイッチ、ポインティングデバイスに限られず、タッチパネルディスプレイを適用した表示装置11によって構成されてもよい。
メモリ14は、プログラムおよびデータを記憶する。メモリ14は、半導体記憶デバイスおよび磁気記憶デバイス等の任意の記憶デバイスを含んでよい。メモリ14は、複数の種類の記憶デバイスを含んでもよい。メモリ14は、メモリカード等の可搬の記憶媒体と、記憶媒体の読み取り装置との組み合わせを含んでもよい。
メモリ14は、カメラ12の内部における光軸ずれの方向およびずれ量を記憶する。メモリ14は、撮像画像CIにおける、後述する通常モードで補正の対象となる一部の領域を画定するための対象領域情報を記憶する。また、メモリ14は、後述するように、撮像画像CIの一部の領域の画像を補正するための補正情報を記憶する。なお、対象領域情報および補正情報は、コントローラ15が実行する、後述する較正モードにより生成される。
メモリ14は、較正用オブジェクトJの撮像画像CI内での位置を画定するためのオブジェクト位置情報を記憶する。較正用オブジェクトJは、較正処理を行うために撮像画像CI内で指標となる仮想像である。オブジェクト位置情報が示す撮像画像CI内での位置は、撮像装置10が設計値に合致するように移動体20に取付けられた状態で、移動体20に対する特定の位置に、撮像画像CIにおいて対応する位置である。
較正用オブジェクトJは、撮像画像CI内で移動可能である。較正用オブジェクトJは任意の形状を有する。例えば、較正用オブジェクトJは、矩形、線、点、記号、またはこれらを組み合わせた形状であってよい。また、較正用オブジェクトJは、較正用オブジェクトJの一部である第1対応箇所J1、第2対応箇所J2、第3対応箇所J3、および第4対応箇所J4を含む複数の対応箇所を有する。複数の対応箇所は、それぞれ較正用オブジェクトJの特徴的な部分であってよい。特徴的な部分は、利用者の視認によって容易に一意に識別されえる部分である。特徴的な部分は、例えば、較正用オブジェクトJを構成する矩形の角、ならびに較正用オブジェクトJを構成する線の端部および交点等であってよい。例えば、較正用オブジェクトJは、2つ以上の任意の数の対応箇所を有することができる。本実施形態は、較正用オブジェクトJは、4つの対応箇所を有する。
メモリ14は、較正用オブジェクトJに対して特定の範囲である出力領域OAの位置を示す出力位置情報を記憶する。出力位置情報は、撮像画像CI内での、較正用オブジェクトJに対する相対的な位置を示す情報である。そのため、出力位置情報は、出力領域OAに対して特定の位置にある較正用オブジェクトJの位置を示す情報でもある。
コントローラ15は、1以上のプロセッサおよびメモリを含む。コントローラ15は、特定のプログラムを読み込ませて特定の機能を実行する汎用のプロセッサ、および特定の処理に特化した専用のプロセッサを含んでよい。専用のプロセッサは、特定用途向けIC(ASIC; Application Specific Integrated Circuit)を含んでよい。プロセッサは、プログラマブルロジックデバイス(PLD; Programmable Logic Device)を含んでよい。PLDは、FPGA(Field-Programmable Gate Array)を含んでよい。コントローラ15は、1つまたは複数のプロセッサが協働するSoC(System-on-a-Chip)、およびSiP(System In a Package)のいずれかであってもよい。コントローラ15についての詳細な説明は後述する。
出力部16は、コントローラ15によって、後述する、補正処理が行われた撮像画像のうちの一部である部分画像を表示装置11に出力する。
コントローラ15は、通常モードおよび較正モードを含むいずれかの機能モードで制御を実行する。コントローラ15は、入力部13によって通常モードへの切替を指示する切替信号が生成されると、通常モードで制御を実行する。コントローラ15は、入力部13によって較正モードへの切替を指示する切替信号が生成されると、較正モードで制御を実行する。
コントローラ15は、較正モードで歪補正を行った後に、通常モードでカメラ12によって生成された撮像画像CI内の少なくとも一部の領域に、較正モードでの歪補正と同一の歪補正を行う。具体的には、通常モードでは、コントローラ15は、較正モードで生成され、メモリ14に記憶されている対象領域情報に基づいて、撮像画像CIの少なくとも一部の領域を抽出する。コントローラ15は、抽出した一部の領域を、メモリ14に記憶されている補正情報を用いて補正する。対象領域情報および補正情報の詳細は後述する。
さらに、コントローラ15は、補正した画像に画像処理を施して、出力部16に表示装置11へ出力させる。コントローラ15は、補正情報を用いて撮像画像CIの一部の領域を補正した部分画像に、ガイドオブジェクトを重畳してよい。
ガイドオブジェクトは、例えば、移動体20のステアリングホイールが所定の状態にあるときに移動体20が移動した場合に移動体20が配置されると見込まれる撮像画像CI内の範囲を示す線であってよい。例えば、ガイドオブジェクトは、移動体20が移動したときに移動体20の両方の側面が通過する軌跡を示すガイド線を含んでよい。ガイドオブジェクトは、移動体20の後端から所定距離(例えば、2~5メートル)離れた位置を示すガイド線を含んでよい。ガイドオブジェクトは、移動体20を基準とする実空間の特定の位置に、撮像画像CIにおいて対応する位置に表示される仮想上の像であり較正用オブジェクトJとしての条件を満たしており、本実施形態においては、較正用オブジェクトJとしても用いられる。
コントローラ15は、前述のように、較正モードにおいて、対象領域情報および補正情報を生成する。
較正モードの実行前に、作業者によって、図4に示すように、第1指標I1、第2指標I2、第3指標I3、および第4指標I4を含む複数の指標Iが移動体20に対する特定の位置に配置される。特定の位置は、設計通りに撮像装置10が移動体20に固定された状態で、較正用オブジェクトJの対応箇所の、撮像画像CI内の位置に、実空間上で対応する位置である。特定の位置は、例えば、移動体20の後方であって、移動体20の両側面をそれぞれ延長した面上である。特定の位置は、例えば、移動体20の背面から所定距離(例えば、2~5メートル)、離れた位置である。
指標Iの配置は、移動体20を平地LGに停止させ、平地LG上の移動体20に対して定められた位置への載置であってよい。指標Iの配置は、指標Iが描かれた平地LG上の、指標Iに対して定められた位置への移動体20の停止であってよい。
較正モードにおいて、コントローラ15は、カメラ12によって撮像画像CIが生成されると、メモリ14に記憶されたオブジェクト位置情報が示す、撮像画像CI内の位置に較正用オブジェクトJを重畳する。コントローラ15は、メモリ14に記憶されている出力位置情報に基づく出力領域OA内の部分画像を出力部16に表示装置11へ出力させる。
撮像装置10が設計値に合致するように移動体20に取付けられた状態でカメラ12によって生成された撮像画像CIに較正用オブジェクトJが重畳されると、図5に示すように、較正用オブジェクトJにおける複数の対応箇所Jの位置は、指標の像Imのいずれかに一致する。具体的には、較正用オブジェクトJの第1対応箇所J1、第2対応箇所J2、第3対応箇所J3、および第4対応箇所J4は、それぞれ第1指標の像Im1、第2指標の像Im2、第3指標の像Im3、および第4指標の像Im4それぞれに一致する。
しかし、撮像装置10の移動体20に対する位置または姿勢が設計値に合致していない状態において、撮像画像CI内の被写体の像は、撮像装置10の位置および姿勢が設計値に合致している状態での被写体の像から変位または変形している。例えば、カメラ12が水平方向にずれている状態において、被写体の像は、撮像画像CI内の、水平方向に対応する方向にずれる。また、カメラ12が鉛直方向にずれている状態において、被写体の像は、撮像画像CI内の、鉛直方向に対応する方向にずれる。
さらに、図1に示したように、カメラ12の光軸OXの方向は、平地LGに対して傾いている。このような構成において、被写体が、光軸OXの、平地LGの面内方向の成分が向くZ方向においてカメラ12より遠くにあるほど、被写体の像は小さくなる。また、被写体の像の大きさは、カメラ12からの距離に応じて部分ごとに変わるため、被写体の像は全体として歪む。このため、指標Iの像は、指標Iがカメラ12より遠くにあるほど、撮像画像CI内のx方向にずれる。図5に示す撮像画像において、y方向は、図1に示す実空間のZ方向に対応する方向である。x方向は、y方向に直交する方向である。図1に示す例では、第1指標I1は、実空間のZ方向において第3指標I3よりカメラ12から離れている。したがって、図5に示すように撮像画像CI内のx方向において、第1指標の像Im1は、第3指標の像Im3より中心側に位置する。同じように、第2指標の像Im2は、第4指標の像Im4より中心側に位置する。このため、カメラ12の移動体20に対する姿勢が設計値と合致せず、チルト方向に傾いている状態において、被写体のカメラ12からの距離が変わるため、歪み具合は変わる。以降において、カメラ12がチルト方向に傾くことに起因して発生する被写体の像の歪みを「あおり歪」という。
このため、撮像装置10の移動体20に対する位置または姿勢が設計値と合致しない状態において、被写体の像である指標の像Imの位置は、設計値に合致している状態での指標の像Imの位置からずれる。したがって、較正用オブジェクトJにおける複数の対応箇所Jの位置の1つ以上は、対応する指標の像Imに一致しない。図6に示す例では、較正用オブジェクトJの第1対応箇所J1、第2対応箇所J2、第3対応箇所J3、および第4対応箇所J4の位置は、それぞれ第1指標の像Im1、第2指標の像Im2、第3指標の像Im3、および第4指標の像Im4の位置に一致しない。
このようなカメラ12の位置および姿勢のずれに起因する、撮像画像CI内の被写体の像のずれおよび歪を補正するために、較正モードでは、以下に説明する工程が実行される。
まず、第1の工程において、単一の対応箇所と対応する指標の像Imの位置合わせが実行される。第1の工程では、例えば、第1対応箇所J1の位置が第1指標の像Im1の位置に一致するように、出力領域OAを移動させる方向および量に応じて移動操作ボタンを操作するように、較正作業者は指示されている。以下の説明では、較正作業者が、第1対応箇所J1の位置を第1指標の像Im1の位置に一致させるように、入力部13に入力していると仮定して説明する。
コントローラ15は、較正作業者の操作によって入力部13が生成した制御信号に基づいて、撮像画像CI内で出力領域OAを平行移動により移動させることによって較正用オブジェクトJを平行移動により移動させる。具体的には、コントローラ15は、図7に示すように、第1対応箇所J1が第1指標の像Im1に一致するように、制御信号に基づいて、出力領域OAを平行移動によって移動させる。これと同時に、コントローラ15は、出力領域OAに対して特定の位置となるように、メモリ14に記憶されている出力領域情報に基づいて較正用オブジェクトJを平行移動により移動させる。これにより、撮像画像CIには、較正用オブジェクトJ’が重畳され、出力領域OA’内の部分画像が出力される。
コントローラ15は、出力領域OA’内の部分画像を出力部16に表示装置11へ出力させる。コントローラ15は、第1の工程において、入力部13が確定信号を生成すると、第1対応箇所J1と第1指標の像Im1とが一致しているとみなして、第1の工程を終了する。
第1の工程が実行された後、他の対応箇所と対応する他の指標とが一致しないとき、第2の工程が実行される。第2の工程において、第1の工程において位置合わせが行われた対応箇所と指標の像とを一致させたまま、他の対応箇所のうちの1つと対応する指標の像Imとの位置合わせが行われる。第2の工程では、第1線分L1の少なくとも一部が、第2線分L2の少なくとも一部に重なるように、出力領域OAを回転させる方向および量に応じて回転操作ボタンを操作するように、較正作業者は指導されている。
第1線分L1は、第1指標の像Im1と第2指標の像Im2とを端点とする線分である。第2線分L2は、第1対応箇所J1と第2対応箇所J2’とを端点とする線分である。以降の説明では、較正作業者が、第1線分L1の少なくとも一部が、第2線分L2の少なくとも一部に重なるように、入力部13に入力していると仮定して説明する。
コントローラ15は、較正作業者の操作によって入力部13が生成した制御信号に基づいて、撮像画像CI内で出力領域OA’を回転により移動させることによって較正用オブジェクトJ’を回転により移動させる。具体的には、図8に示すように、コントローラ15は、第1線分L1の少なくとも一部が、第2線分L2の少なくとも一部に重なるように、制御信号に基づいて、出力領域OA’を回転によって移動させる。これと同時に、コントローラ15は、出力領域OA’に対して特定の位置となるように、メモリ14に記憶されている出力領域情報に基づいて較正用オブジェクトJ’を回転により移動させる。これにより、撮像画像CIには、較正用オブジェクトJ’’が重畳され、出力領域OA’’内の部分画像が出力される。
コントローラ15は、出力領域OA’’内の部分画像を出力部16に表示装置11へ出力させる。コントローラ15は、第2の工程において、入力部13が確定信号を生成すると、第1線分L1の少なくとも一部が、第2線分L2の少なくとも一部に重なっているとみなして、第2の工程を終了する。
第2の工程が終了した後、第1線分L1の全てが、第2線分L2の全てと一致しないとき、第3の工程が実行される。第3の工程では、第2指標の像Im2の位置を指示するようにポインティングデバイスを操作するように、較正作業者は指示されている。以下の説明では、較正作業者が、第2指標の像Im2の位置を指示するように、入力部13に入力していると仮定して説明する。
コントローラ15は、較正作業者の操作によって入力部13が生成した、第2指標の像Im2の位置を示す位置信号に基づいて、第2対応箇所J2’’の位置が、第2指標の像Im2の位置に一致するか否かを判定する。コントローラ15は、第2対応箇所J2’’が第2指標の像Im2に一致しないと判定すると、撮像画像CIにおける光学歪補正を行う。具体的には、コントローラ15は、メモリ14に記憶されている光学歪データを用いて、公知の方法により撮像画像CIを変換することによって撮像画像CIの光学的な歪を低減するための光学歪補正を行う。コントローラ15は、光学歪み補正を行うと、第3の工程を終了する。
第3の工程が終了した後、第4の工程が実行される。
第4の工程では、コントローラ15は、第2対応箇所J2’’が第2指標の像Im2に一致するか否かを判定する。コントローラ15は、第2対応箇所J2’’が第2指標の像Im2に一致しないと判定すると、以下に説明する、あおり歪を低減するためのあおり歪補正(歪補正)を行う。
あおり歪補正では、コントローラ15は、第2対応箇所J2’’が第2指標の像Im2に一致するように、第1補正方向(所定方向)に撮像画像CIを伸縮させる。第1補正方向は、第2指標の像Im2から第1指標の像Im1に向かう方向である。較正用オブジェクトJは、上述したように回転により移動し、較正用オブジェクトJ’’として撮像画像に重畳されている。そのため、第1補正方向は、第2指標の像Im2から第2対応箇所J2’’に向かう方向でもある。
コントローラ15は、第1指標の像Im1の位置を保持しながら、第2指標の像Im2が第2対応箇所J2’’に一致するように、撮像画像の一部を圧縮させ、別の一部を伸長する。
まず、第2指標の像Im2が第1指標の像Im1に対して第2対応箇所J2’’より離れている場合の、撮像画像の一部の圧縮および別の一部の伸長について説明する。
コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2側の部分を、第1補正方向における第1指標の像Im1側に向けて圧縮させる。また、コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2とは反対側の部分を、第1補正方向における第1指標の像Im1から伸長する。
撮像画像の各部分の伸縮率は一定であってよい。撮像画像の各部分の伸縮率は、第1指標の像Im1の位置からの第1補正方向の距離に応じて変化してもよい。
伸縮率が変化する構成において、コントローラ15は、例えば、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1に近づくように圧縮させる。コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2とは反対側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1から離れるように伸長する。図9に示す例を用いて説明すると、コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2側の部分P1および部分P2をそれぞれ部分P1’および部分P2’に圧縮させる。コントローラ15は、第1指標の像Im1から遠くに位置する部分P1を、近くに位置する部分P2より大きく第1指標の像Im1に近づくように圧縮させる。また、コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2とは反対側の部分P3および部分P4をそれぞれ部分P3’および部分P4’に伸長する。コントローラ15は、第1指標の像Im1から遠くに位置する部分P3を、近くに位置する部分P4より大きく第1指標の像Im1から離れるように伸長する。
次に、第2指標の像Im2が第1指標の像Im1に対して第2対応箇所J2’’より近い場合の、撮像画像の一部の圧縮および別の一部の伸長について説明する。
コントローラ15は、撮像画像CIの第1補正方向における第1指標の像Im1に対して第2指標の像Im2側の部分を、第1補正方向における第1指標の像から伸長する。また、コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2の反対側の部分を、第1補正方向における第1指標の像Im1側に圧縮させる。
撮像画像CIの各部分の伸縮率は一定であってよい。撮像画像CIの各部分の伸縮率は、第1指標の像Im1の位置からの第1補正方向の距離に応じて変化してもよい。
伸縮率が変化する構成において、コントローラ15は、例えば、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1から離れるように伸長する。コントローラ15は、撮像画像の第1補正方向における第1指標の像Im1に対して第2指標の像Im2とは反対側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1に近づくように圧縮する。
この結果、図10に示すように、第1補正方向の歪補正前の撮像画像CIの全体は変形されて撮像画像CI’に補正される。第1補正方向の歪補正前の第2指標の像Im2は、第2対応箇所J2’’に一致する第2指標の像Im2’に補正される。また、第3指標の像Im3および第4指標の像Im4も、それぞれ第3指標の像Im3’および第4指標の像Im4’に補正される。コントローラ15は、第1補正方向の歪補正を行うと、第4の工程を終了する。
第4の工程が終了した後、第1の工程から第3の工程で指標の像Imの位置に一致させた2つの対応箇所以外の対応箇所が、対応する指標の像Imに一致しないとき、第5の工程が実行される。第5の工程では、第3指標の像Im3の位置を指示するようにポインティングデバイスを操作するように、較正作業者は指示されている。以下の説明では、較正作業者が、第3指標の像Im3’の位置を指示するように、入力部13に入力していると仮定して説明する。
コントローラ15は、較正作業者の操作によって入力部13が生成した、第3指標の像Im3’の位置を示す位置信号に基づいて、第3対応箇所J3’’の位置が、第3指標の像Im3’の位置に一致するか否かを判定する。コントローラ15は、第3対応箇所J3’’が第3指標の像Im3’に一致しないと判定すると、第1指標の像Im1の位置を保持したままで、第3指標の像Im3’が第3対応箇所J3’’に一致するように、第2補正方向に撮像画像CIを伸縮するあおり歪補正を行う。第2補正方向は、第1補正方向の直交方向であり、第3指標の像Im3から第3対応箇所J3に向かう方向である。
コントローラ15は、第1指標の像Im1の位置を保持しながら、第3指標の像Im3’が第3対応箇所J3’’に一致するように、第2補正方向に、撮像画像の一部を圧縮させ、別の一部を伸長する。コントローラ15は、第1指標の像Im1の位置を保持しながら第2補正方向に撮像画像を伸縮するため、第1指標の像Im1に対して第2補正方向と垂直な第1補正方向に位置する第2指標の像Im1の位置は変わらない。
まず、第3指標の像Im3’が第1指標の像Im1に対して第3対応箇所J3’’より離れている場合の、撮像画像の一部の圧縮および別の一部の伸長について説明する。コントローラ15は、撮像画像CI’の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’側の部分を、第1補正方向における第1指標の像Im1側に向けて圧縮させる。また、コントローラ15は、撮像画像CI’の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’とは反対側の部分を、第2補正方向における第1指標の像Im1から伸長する。
撮像画像CI’の各部分の伸縮率は一定であってよい。撮像画像CI’の各部分の伸縮率は、第1指標の像Im1の位置からの第2補正方向の距離に応じて変化してもよい。
伸縮率が変化する構成において、コントローラ15は、例えば、撮像画像CI’の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1に近づくように圧縮させる。コントローラ15は、撮像画像CI’の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’とは反対側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1から離れるように伸長する。
次に、第3指標の像Im3’が第1指標の像Im1に対して第3対応箇所J3’’より近い場合の、撮像画像の一部の圧縮および別の一部の伸長について説明する。コントローラ15は、撮像画像CI’の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’側の部分を、第2補正方向における第1指標の像Im1から伸長する。また、コントローラ15は、撮像画像CI’の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’の反対側の部分を、第2補正方向における第1指標の像Im1側に圧縮させる。
撮像画像の各部分の伸縮率は一定であってよい。撮像画像の各部分の伸縮率は、第1指標の像Im1の位置からの第1補正方向の距離に応じて変化してもよい。
各部分の伸縮率が変化する構成において、コントローラ15は、撮像画像の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’側の部分を、第1指標の像Im1から離れるほど、大きく第1指標から離れるように伸長する。コントローラ15は、撮像画像の第2補正方向における第1指標の像Im1に対して第3指標の像Im3’とは反対側の部分を、第1指標の像Im1から離れるほど、大きく第1指標の像Im1に近づくように圧縮させる。
この結果、図11に示すように、第2補正方向の歪補正前の撮像画像CI’の全体はさらに変形されて撮像画像CI’’に補正される。第2補正方向の歪補正前の第3指標の像Im3’は、第3対応箇所J3’’に一致する第3指標の像Im3’’に補正される。また、第4指標の像Im4’も、第4指標の像Im4’’に補正される。コントローラ15は、第2補正方向の歪補正を行うと、第5の工程を終了する。
第5の工程が終了した後、コントローラ15は、較正用オブジェクトJ’’、およびメモリ14に記憶された出力位置情報に基づく出力領域OA’’内の部分画像を出力部16に表示装置11へ出力させる。
なお、第1の工程が実行される前に、撮像画像CIにおいて、第1指標の像Im1の位置が第1対応箇所J1の位置に一致している場合、第1の工程は省略されてよい。第1の工程が実行されることにより、第2対応箇所J2’の位置が第2指標の像Im2の位置に一致した場合、第2の工程および第3の工程は省略されてよい。第2の工程が実行されることにより、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致した場合、第3の工程は省略されてよい。第4の工程が実行されることにより、第3対応箇所J3’’の位置が第3指標の像Im2’の位置に一致した場合、第5の工程は省略されてよい。
コントローラ15は、上述のような較正用オブジェクトJの移動および撮像画像CIの歪補正を行うと、対象領域情報を生成し、メモリ14に記憶させる。対象領域情報は、通常モードにおいて歪補正の対象なる、撮像画像内の一部の対象領域の位置を示す。対象領域は、歪補正が行われた撮像画像CI’’における出力領域OA’’(図11参照)の、歪補正が行われる前の撮像画像CIにおいて対応する出力領域OA(図12参照)である。なお、図12に示す出力領域OA’’は、第1補正方向のあおり歪補正が行われた後で、第2補正方向のあおり歪補正が行われる前の撮像画像CI’における出力領域OA’’の、撮像画像CIにおいて対応する位置である。図12に示す出力領域OA’’は、第1補正方向および第2補正方向のあおり歪補正が行われる前の撮像画像CIにおける出力領域OA’’の、撮像画像CIにおいて対応する位置である。
なお、上述したように、出力領域OA’’は、較正モードの各工程が終了した後の撮像画像CI’’内の較正用オブジェクトJ’’の位置に基づいて決定される。また、較正モードにおいて第1指標の像Im1、第2指標の像Im2、および第3指標の像Im3の位置と、較正用オブジェクトJの位置とに基づいて、撮像画像CIは、撮像画像CI’’に補正される。したがって、補正前の撮像画像CI内の出力領域OAである対象領域は、補正前の撮像画像CIにおける第1指標の像Im1、第2指標の像Im2、および第3指標の像Im3の位置と、較正用オブジェクトJの位置とに基づいて定まる。
また、コントローラ15は、較正モードにおいて上述したような補正処理を行うと、補正情報を生成し、メモリ14に記憶する。補正情報は、補正前の撮像画像CI内の出力領域OAである補正対象領域の各画素の位置と、補正後の撮像画像CI’’の出力領域OA’’の各画素の位置との対応を示す情報である。通常モードにおいて、コントローラ15は、メモリ14に記憶された補正情報を用いて、カメラ12によって生成された撮像画像CIを補正する。
なお、コントローラ15は、補正情報および対象領域情報を、以前の較正モードで生成した補正情報および対象領域情報に上書きしてメモリ14に記憶してもよい。コントローラ15は、補正情報および対象領域情報を、以前の較正モードで生成した補正情報および対象領域情報とともにメモリ14に記憶してもよい。
続いて、第1実施形態の撮像装置10が較正モードで実行する較正処理について、図13を参照して説明する。撮像装置10は、較正モードへの切替を指示する切替信号が生成された後に、カメラ12によって撮像画像CIが生成されると、較正処理を開始する。
ステップS11では、コントローラ15は、メモリ14に記憶されているオブジェクト位置情報に基づいて、撮像画像CIに較正用オブジェクトJを重畳する。また、コントローラ15は、較正用オブジェクトJの重畳位置およびメモリ14に記憶された出力位置情報に基づく出力領域OA内の部分画像を出力部16に表示装置11へ出力させる。コントローラ15が撮像画像CIに較正用オブジェクトJを重畳し、部分画像を出力させると、プロセスはステップS12に進む。
ステップS12では、コントローラ15は、入力部13が生成した制御信号に基づいて、撮像画像CI内の出力領域OAを平行移動により出力領域OA’に移動させる。同時に、コントローラ15は、較正用オブジェクトJを出力領域OA’に対して特定の位置に移動させることによって、撮像画像CIに較正用オブジェクトJ’を重畳させる。コントローラ15が出力領域OAおよび較正用オブジェクトJを平行移動により移動させ、入力部13が確定信号を生成すると、プロセスはステップS13に進む。
ステップS13では、コントローラ15は、入力部13が生成した制御信号に基づいて、撮像画像CI内の出力領域OA’を回転により出力領域OA’’に移動させる。同時に、コントローラ15は、較正用オブジェクトJ’を出力領域OA’’に対して特定の位置に移動させることによって、撮像画像CIに較正用オブジェクトJ’’を重畳させる。コントローラ15が出力領域OA’および較正用オブジェクトJ’を回転によって移動させ、入力部13が確定信号を生成すると、プロセスはステップS14に進む。
ステップS14では、コントローラ15は、入力部13が生成した第2指標の像Im2の位置を示す位置信号に基づいて、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致するか否かを判定する。コントローラ15が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致すると判定した場合、プロセスはステップS18に進む。コントローラ15が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致しないと判定した場合、プロセスはステップS15に進む。
ステップS15では、コントローラ15は、撮像画像CIに光学歪補正を行う。コントローラ15が撮像画像CIに光学歪補正を行うと、プロセスはステップS16に進む。
ステップS16では、コントローラ15は、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致するか否かを判定する。コントローラ15が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致すると判定した場合、プロセスはステップS18に進む。コントローラ15が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致しないと判定した場合、プロセスはステップS17に進む。
ステップS17では、コントローラ15は、入力部13が生成した第2指標の像Im2の位置を示す位置信号に基づいて、第1補正方向に撮像画像CIを伸縮して撮像画像CI’に補正する。コントローラ15が、第1補正方向に撮像画像CIを伸縮して撮像画像CI’に補正すると、プロセスはステップS18に進む。
ステップS18では、コントローラ15は、入力部13が生成した、撮像画像CI’内の第3指標の像Im3’の位置を示す位置信号に基づいて、第3対応箇所J3’’の位置が第3指標の像Im3’の位置に一致するか否かを判定する。コントローラ15が、第3対応箇所J3’’の位置が第3指標の像Im3’の位置に一致すると判定した場合、プロセスはステップS20に進む。コントローラ15が、第3対応箇所J3’’の位置が第3指標の像Im3’の位置に一致しないと判定した場合、プロセスは、ステップS19に進む。
ステップS19では、コントローラ15は、第2補正方向に撮像画像CI’を伸縮して撮像画像CI’’に補正する。コントローラ15が第2補正方向に撮像画像CI’を伸縮して撮像画像CI’’に補正すると、プロセスは、ステップS20に進む。
ステップS20では、撮像画像CI’’における、ステップS13で移動させた出力領域OA’’内の部分画像を出力部16に表示装置11へ出力させる。コントローラ150が部分画像を出力させると、プロセスは、ステップS21に進む。
ステップS21では、コントローラ15は、ステップS12からステップS19において実行された較正用オブジェクトJの移動、および撮像画像CIの歪補正に基づいて対象領域情報を生成し、メモリ14に記憶させる。コントローラ15が対象領域情報を生成し、メモリ14に記憶させると、プロセスは、ステップS22に進む。
ステップS22では、コントローラ15は、ステップS12からステップS19において実行された較正用オブジェクトJの移動、および撮像画像CIの歪補正に基づいて補正情報を生成し、メモリ14に記憶させる。コントローラ15は、補正情報を生成し、メモリ14に記憶させると、較正処理を終了する。
以上説明したように、第1実施形態によれば、撮像装置10は、第1指標の像Im1に第1対応箇所J1が一致するように較正用オブジェクトJを移動させる。さらに、撮像装置10は、撮像画像内の少なくとも一部の領域に、第2指標の像Im2が第2対応箇所J2に一致するように歪補正を行う。このため、撮像装置10は、カメラ12の取付け位置および姿勢の変化に起因して発生する撮像画像のずれおよびあおり歪を低減させうる。したがって、撮像装置10は、移動体20に対して設計値に合致して取付けられている状態での撮像画像内での被写体の像の位置と、実空間内での被写体の位置との関係を保持しうる。これにより、撮像装置10は、撮像画像CI内の被写体の像に基づいて実空間での被写体の位置を正確に推定しうる。
また、第1実施形態によれば、撮像装置10は、撮像画像CI内の所定方向における第1指標の像Im1からの位置に応じた伸縮率で撮像画像CIを第1補正方向に伸縮する。カメラ12の光軸OXの方向が平地LGに対して傾いている構成において、撮像画像CIは第1補正方向における位置に応じて、上述したあおり歪の度合いが異なる。第1補正方向は、上述したように、第2指標の像Im2から第1指標の像Im1に向かう方向である。そのため、第2指標I2から第1指標I1に向かう方向が、第1補正方向に対応する実空間の方向となる状態においては、撮像装置10は、第1補正方向の位置に応じて撮像画像を第1補正方向に伸縮することによってあおり歪を低減しうる。
また、第1実施形態によれば、撮像装置10は、第3対応箇所J3が第3指標の像Im3に一致するように、第2調整方向における第1指標の像Im1からの距離に応じた伸縮率で第2補正方向に撮像画像CIを伸縮する。このため、撮像装置10は、仮に第1補正方向とは異なる方向にあおり歪が発生していた場合、当該歪を低減しうる。
また、第1実施形態によれば、撮像装置10は、通常モードにおいてカメラ12によって生成された撮像画像内の少なくとも一部の領域に、較正モードで行った歪補正と同一の歪補正を行う。このため、撮像装置10は、較正処理が完了した後に生成された撮像画像に対して、撮像装置10の移動体20に対する取付け位置または姿勢のずれに応じて発生する歪を低減すべく適切な歪補正を行いうる。
また、第1実施形態によれば、較正用オブジェクトJは、例えば、ガイドオブジェクトのように、移動体20が操作されているときに表示されるオブジェクトである。撮像装置10は、移動体20が操作されているときに表示されるオブジェクトを較正用オブジェクトJとして適用することができる。この構成において、移動体20が操作されているときに表示されるオブジェクトとは別に、較正用のみに用いられるオブジェクト必要としない。したがって、撮像装置10は較正用のみに用いられるオブジェクトを記憶するためのメモリ容量を必要とせず、これにより記憶容量を低減しうる。
また、第1実施形態によれば、較正用オブジェクトJはガイドオブジェクトである。ガイドオブジェクトは、移動体20の運転を支援するためのオブジェクトであるため、表示装置11が表示する画像の中央付近の領域に重畳される。このため、撮像装置10は、撮像画像の中央付近に重畳される較正用オブジェクトJと、較正用オブジェクトJに対応する中央付近に含まれる指標の像Imとを用いて撮像画像を補正する。したがって、撮像装置10は、歪が多く発生する、撮像画像内の端部近傍の較正用オブジェクトJおよび指標の像Imを用いる場合に比べて、高い精度で撮像画像を補正しうる。
また、第1実施形態によれば、撮像装置10は、較正用オブジェクトJおよび出力領域OAを平行移動に移動させた後に、較正用オブジェクトJの回転による移動、および光学歪補正を行う。指標の像Imが撮像画像の中央近傍に含まれる場合、指標の像Imを含む領域に発生する光学的な歪は少ない。このような状態において、撮像装置10は、較正用オブジェクトJの位置を回転により移動させた後に、第2対応箇所J2が第2指標の像Im2に一致すると判定することがある。この場合、撮像装置10は、光学歪補正、および第1補正方向への伸縮の処理を省略することができ、これに伴い撮像装置10の処理負荷を軽減しうる。
次に、本発明の第2実施形態について説明する。第2実施形態では、較正モードにおける出力領域OAの移動が第1実施形態と異なっている。以下に、第1実施形態と異なる点を中心に第2実施形態について説明する。なお、第1実施形態と同じ構成を有する部位には同じ符号を付す。
第2実施形態の撮像装置100は、第1実施形態と同じく、移動体20に取付けられる。図14に示すように、撮像装置100は、カメラ12と、入力部13と、メモリ14と、コントローラ150と、出力部16とを備える。カメラ12、入力部13、メモリ14、および出力部16の機能は、第1実施形態と同じである。
コントローラ150は、通常モードおよび較正モードを含むいずれかの機能モードで制御を実行する。コントローラ150が通常モードで実行する制御は、第1実施形態と同じである。コントローラ150は、較正モードにおいて、較正用オブジェクトの移動に伴い出力領域OAを移動させない点で第1実施形態と異なる。以降において、コントローラ150の較正モードにおける制御について説明する。
コントローラ150は、第1実施形態と同じく、第1の工程において、図15に示すように撮像画像CI内で較正用オブジェクトJを平行移動により移動させる。これにより、撮像画像CIには、較正用オブジェクトJ’が重畳される。コントローラ150は、第1実施形態とは異なり、較正用オブジェクトJの平行移動に伴う出力領域OAの平行移動を行わない。したがって、コントローラ150は、平行移動により移動させた後の較正用オブジェクトJ’を重畳した撮像画像CI中の出力領域OA内の部分画像を出力する。
コントローラ150は、第1実施形態と同じく、第2の工程において、図16に示すように較正用オブジェクトJ’を回転によって移動させる。これにより、撮像画像CIには、較正用オブジェクトJ’’が重畳される。コントローラ150は、第1実施形態とは異なり、較正用オブジェクトJ’の回転に伴う出力領域OAの回転を行わない。したがって、コントローラ150は、回転により移動させた後の較正用オブジェクトJ’’を重畳した撮像画像CI中の出力領域OA内の部分画像を出力する。
さらに、コントローラ150は、第1の実施形態と同じく、第3の工程において撮像画像CIに光学歪補正を行う。コントローラ150は、第1の実施形態と同じく第4の工程および第5の工程において、あおり歪補正を行う。図17に示すように、歪補正後の撮像画像CIの全体の領域および各指標の像Imの位置は、第1実施形態の歪補正後の位置と同じである。ただし、第2実施形態において出力領域OAは移動されていないため、出力領域OAの位置は、撮像画像の較正用オブジェクトJの移動が行われる前の位置と同じである。ここで、コントローラ150は、メモリ14に記憶されている出力位置情報に基づいて、較正用オブジェクトJ’’に対しての予め定められた特定の範囲となるように出力領域OAを移動させた出力領域OA’’内の部分画像を出力部16に表示装置11へ出力させる。
続いて、第2実施形態の撮像装置100の較正処理について、図18を参照して説明する。撮像装置100は、入力部13によって較正モードへの切替を指示する切替信号が生成された後に、カメラ12が撮像画像CIを生成すると、較正処理を開始する。
ステップS31では、コントローラ150は、メモリ14に記憶されているオブジェクト位置情報に基づいて、撮像画像CIに較正用オブジェクトJを重畳する。また、コントローラ150は、較正用オブジェクトJに対しての予め定められた特定の範囲となる出力領域OA内の部分画像を出力部16に表示装置11へ出力させる。コントローラ150が部分画像を出力させると、プロセスはステップS32に進む。
ステップS32では、コントローラ150は、入力部13が入力した制御信号に基づいて、撮像画像CI内で較正用オブジェクトJを平行移動で移動させることにより、撮像画像CIに較正用オブジェクトJ’を重畳する。コントローラ150が較正用オブジェクトJを平行移動により移動させ、入力部13が確定信号を生成すると、プロセスはステップS33に進む。
ステップS33では、コントローラ150は、入力部13が入力した制御信号に基づいて、第1対応箇所J1を軸にして較正用オブジェクトJ’を回転で移動させることにより、撮像画像CIに較正用オブジェクトJ’’を重畳させる。コントローラ150が較正用オブジェクトJ’を回転によって移動させ、入力部13が確定信号を生成すると、プロセスはステップS34に進む。
ステップS34では、コントローラ150は、入力部13が生成した第2指標の像Im2の位置を示す位置信号に基づいて、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致するか否かを判定する。コントローラ150が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致すると判定した場合、プロセスはステップS38に進む。コントローラ150が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致しないと判定した場合、プロセスはステップS35に進む。
ステップS35では、コントローラ150は、撮像画像CIに光学歪補正を行う。コントローラ150が撮像画像CIに光学歪補正を行うと、プロセスはステップS36に進む。
ステップS36では、コントローラ150は、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致するか否かを判定する。コントローラ150が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致すると判定した場合、プロセスはステップS38に進む。コントローラ150が、第2対応箇所J2’’の位置が第2指標の像Im2の位置に一致しないと判定した場合、プロセスはステップS37に進む。
ステップS37では、コントローラ150は、第1補正方向に撮像画像CIを伸縮する歪補正を行う。コントローラ150が、第1補正方向に撮像画像CIを伸縮して撮像画像CI’に補正すると、プロセスはステップS38に進む。
ステップS38では、コントローラ150は、入力部13が生成した、撮像画像CI’内の第3指標の像Im3’の位置を示す位置信号に基づいて、第3対応箇所J3’’の位置が第3指標の像Im3’の位置に一致するか否かを判定する。コントローラ150が、第3対応箇所J3’’の位置が第3指標の像Im3’の位置に一致すると判定した場合、プロセスはステップS40に進む。コントローラ150が、第3対応箇所J3’’の位置が第3指標の像Im3’の位置に一致しないと判定した場合、プロセスは、ステップS39に進む。
ステップS39では、コントローラ150は、第2補正方向に撮像画像CI’を伸縮して撮像画像CI’’に補正する。コントローラ150が第2補正方向に撮像画像CI’を伸縮して撮像画像CI’’に補正すると、プロセスは、ステップS40に進む。
ステップS40では、コントローラ150は、較正用オブジェクトJ’’に対して特定の範囲となるように出力領域OAを移動させた出力領域OA’’内の部分画像を出力部16に表示装置11へ出力させる。コントローラ150が部分画像を出力させると、プロセスは、ステップS41に進む。
ステップS41では、コントローラ150は、ステップS32からステップS39において実行された較正用オブジェクトJの移動、および撮像画像CIの歪補正に基づいて対象領域情報を生成し、メモリ14に記憶させる。コントローラ150が対象領域情報を生成し、メモリ14に記憶させると、プロセスは、ステップS42に進む。
ステップS42では、コントローラ150は、ステップS32からステップS39において実行された較正用オブジェクトJの移動、および撮像画像CIの歪補正に基づいて補正情報を生成し、メモリ14に記憶させる。コントローラ150は、補正情報を生成し、メモリ14に記憶させると、較正処理を終了する。
以上説明したように、第2実施形態によれば、撮像装置100は、第1実施形態と同じく、カメラ12の取付け位置および姿勢の変化に起因して発生する撮像画像のずれを低減させるとともに、当該変化に伴って発生する撮像画像の歪を低減させることができる。
上述の実施形態は代表的な例として説明したが、本発明の趣旨および範囲内で、多くの変更および置換ができることは当業者に明らかである。したがって、本発明は、上述実施形態によって制限されるものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形または変更が可能である。例えば、実施形態および実施例に記載の複数の構成ブロックを1つに組合せたり、あるいは1つの構成ブロックを分割したりすることが可能である。
例えば、上述の実施形態において、コントローラ15およびコントローラ150は、較正用オブジェクトJを平行移動または回転によって移動させた後に、光学歪補正を行ったが、これに限られない。例えば、コントローラ15およびコントローラ150は、カメラ12によって生成された撮像画像CIに光学歪補正を行った後に、較正用オブジェクトJを平行移動または回転によって移動させてもよい。
10,100 撮像装置
11 表示装置
12 カメラ
13 入力部
13a 上移動ボタン
13b 下移動ボタン
13c 左移動ボタン
13d 右移動ボタン
13e 右回転移動ボタン
13f 左回転移動ボタン
14 メモリ
15,150 コントローラ
16 出力部
20 移動体

Claims (7)

  1. 撮像画像を生成するカメラと、
    前記撮像画像内で平行移動または回転によって移動可能な、較正用オブジェクトを重畳し、前記カメラを搭載する移動体に対して定められた位置に配置された複数の指標が撮像された場合に、前記撮像画像に含まれる該複数の指標の中の第1指標の像に、該撮像画像に重畳された前記較正用オブジェクトの第1対応箇所が一致するように前記較正用オブジェクトを移動させるとともに、前記撮像画像における前記第1指標の像の位置および前記第1指標以外の第2指標の像の位置と、前記撮像画像での前記較正用オブジェクトが重畳された位置とに基づいて定まる撮像画像内の領域に、前記第2指標の像が前記較正用オブジェクトの第2対応箇所に一致するように前記較正用オブジェクトの前記第2対応箇所と前記第2指標の像とに基づいて前記第1対応箇所を中心に前記較正用オブジェクトを回転により移動させ、前記撮像画像内の所定方向における第1指標の像からの距離に応じた伸縮率で、前記撮像画像を前記所定方向に伸縮させる歪補正を行うコントローラとを備える、
    撮像装置。
  2. 請求項に記載の撮像装置において、
    前記歪補正は、さらに、前記撮像画像の前記較正用オブジェクトの前記第1対応箇所および前記第2対応箇所とは異なる第3対応箇所が、前記複数の指標の中の前記第1指標および前記第2指標とは異なる第3指標の像に一致するように、前記所定方向の直交方向における第1指標の像からの位置に応じた伸縮率で前記直交方向に前記撮像画像を伸縮する補正である
    撮像装置。
  3. 請求項1または2に記載の撮像装置において、
    前記コントローラは、前記歪補正を行った後に前記カメラによって生成された撮像画像内の少なくとも前記領域に前記歪補正と同一の歪補正を行う、
    撮像装置。
  4. 請求項1からのいずれか一項に記載の撮像装置において、
    前記較正用オブジェクトは、前記移動体が操作されているときに表示されるオブジェクトである
    撮像装置。
  5. 請求項に記載の撮像装置において、
    前記較正用オブジェクトは、前記移動体の運転を支援するためのガイド線である
    撮像装置。
  6. 撮像画像を生成するカメラと、
    前記撮像画像内で平行移動または回転によって移動可能な、較正用オブジェクトを重畳し、前記カメラを搭載する移動体に対して定められた位置に配置された複数の指標が撮像された場合に、前記撮像画像に含まれる該複数の指標の中の第1指標の像に、該撮像画像に重畳された前記較正用オブジェクトの第1対応箇所が一致するように前記較正用オブジェクトを移動させるとともに、前記撮像画像における前記第1指標の像の位置、および前記第1指標以外の第2指標の像の位置と、前記撮像画像での前記較正用オブジェクトが重畳された位置とに基づいて定まる撮像画像内の領域に、前記第2指標の像が前記較正用オブジェクトの第2対応箇所に一致するように前記較正用オブジェクトの前記第2対応箇所と前記第2指標の像とに基づいて前記第1対応箇所を中心に前記較正用オブジェクトを回転により移動させ、前記撮像画像内の所定方向における第1指標の像からの距離に応じた伸縮率で、前記撮像画像を前記所定方向に伸縮させる歪補正を行うコントローラと、を含む撮像装置を備える
    移動体。
  7. 撮像装置が実行する撮像方法であって、
    前記撮像装置が、
    撮像画像を生成し、
    前記撮像画像内で平行移動または回転によって移動可能な、較正用オブジェクトを重畳し、
    前記撮像画像を生成するカメラを搭載する移動体に対して定められた位置に配置された複数の指標が撮像された場合に、前記撮像画像に含まれる該複数の指標の中の第1指標の像に、該撮像画像に重畳された前記較正用オブジェクトの第1対応箇所が一致するように前記較正用オブジェクトを移動させるとともに、前記撮像画像における前記第1指標の像の位置、および前記第1指標以外の第2指標の像の位置と、前記撮像画像での前記較正用オブジェクトが重畳された位置とに基づいて定まる撮像画像内の領域に、前記第2指標の像が前記較正用オブジェクトの第2対応箇所に一致するように前記較正用オブジェクトの前記第2対応箇所と前記第2指標の像とに基づいて前記第1対応箇所を中心に前記較正用オブジェクトを回転により移動させ、前記撮像画像内の所定方向における第1指標の像からの距離に応じた伸縮率で、前記撮像画像を前記所定方向に伸縮させる歪補正を行う
    撮像方法。
JP2018062998A 2018-03-28 2018-03-28 撮像装置、移動体、および撮像方法 Active JP7037413B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018062998A JP7037413B2 (ja) 2018-03-28 2018-03-28 撮像装置、移動体、および撮像方法
US16/977,746 US11501464B2 (en) 2018-03-28 2019-03-18 Imaging apparatus, moveable body, and imaging method
PCT/JP2019/011269 WO2019188521A1 (ja) 2018-03-28 2019-03-18 撮像装置、移動体、および撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018062998A JP7037413B2 (ja) 2018-03-28 2018-03-28 撮像装置、移動体、および撮像方法

Publications (2)

Publication Number Publication Date
JP2019176340A JP2019176340A (ja) 2019-10-10
JP7037413B2 true JP7037413B2 (ja) 2022-03-16

Family

ID=68058897

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018062998A Active JP7037413B2 (ja) 2018-03-28 2018-03-28 撮像装置、移動体、および撮像方法

Country Status (3)

Country Link
US (1) US11501464B2 (ja)
JP (1) JP7037413B2 (ja)
WO (1) WO2019188521A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113902814B (zh) * 2021-12-07 2022-03-15 武汉港迪智能技术有限公司 自动化起重机吊具上多相机的统一标定方法
US12397712B2 (en) 2023-01-19 2025-08-26 Panasonic Automotive Systems Co., Ltd. Vehicular camera
JP7751360B2 (ja) * 2023-03-28 2025-10-08 パナソニックオートモーティブシステムズ株式会社 車載用カメラ

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010239412A (ja) 2009-03-31 2010-10-21 Aisin Seiki Co Ltd 車載カメラの校正装置、方法、及びプログラム
JP2011185753A (ja) 2010-03-09 2011-09-22 Mitsubishi Electric Corp 車載カメラのカメラキャリブレーション装置
JP2013062692A (ja) 2011-09-13 2013-04-04 Kyocera Corp 車載カメラの較正装置及び方法
JP2013173452A (ja) 2012-02-24 2013-09-05 Kyocera Corp 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP2013173453A (ja) 2012-02-24 2013-09-05 Kyocera Corp 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP2016010142A (ja) 2014-06-26 2016-01-18 京セラ株式会社 撮像装置及び撮像装置を設置した移動体

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3649428B2 (ja) 1999-01-18 2005-05-18 矢崎総業株式会社 車両用周辺監視装置及び車両用周辺監視装置のパラメータ調整方法
JP5339124B2 (ja) * 2008-09-30 2013-11-13 アイシン精機株式会社 車載カメラの校正装置
US20130215280A1 (en) * 2011-09-13 2013-08-22 Kyocera Corporation Camera calibration device, camera and camera calibration method
US11039121B2 (en) * 2017-06-20 2021-06-15 Sony Interactive Entertainment Inc. Calibration apparatus, chart for calibration, chart pattern generation apparatus, and calibration method

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010239412A (ja) 2009-03-31 2010-10-21 Aisin Seiki Co Ltd 車載カメラの校正装置、方法、及びプログラム
JP2011185753A (ja) 2010-03-09 2011-09-22 Mitsubishi Electric Corp 車載カメラのカメラキャリブレーション装置
JP2013062692A (ja) 2011-09-13 2013-04-04 Kyocera Corp 車載カメラの較正装置及び方法
JP2013173452A (ja) 2012-02-24 2013-09-05 Kyocera Corp 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP2013173453A (ja) 2012-02-24 2013-09-05 Kyocera Corp 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP2016010142A (ja) 2014-06-26 2016-01-18 京セラ株式会社 撮像装置及び撮像装置を設置した移動体

Also Published As

Publication number Publication date
WO2019188521A1 (ja) 2019-10-03
JP2019176340A (ja) 2019-10-10
US11501464B2 (en) 2022-11-15
US20210056727A1 (en) 2021-02-25

Similar Documents

Publication Publication Date Title
JP5316805B2 (ja) 車載カメラ装置の画像調整装置及び車載カメラ装置
EP1850595B1 (en) Periphery supervising device, and periphery supervising method
US20190255999A1 (en) Vehicle control apparatus and program
US9734413B2 (en) Image generation apparatus and paver operation assistance system
US10434877B2 (en) Driver-assistance method and a driver-assistance apparatus
US9990543B2 (en) Vehicle exterior moving object detection system
EP2009590B1 (en) Drive assistance device
JP7037413B2 (ja) 撮像装置、移動体、および撮像方法
CN108367714B (zh) 填充由镜子或其他车辆部件遮挡的周围视野区域
US20180141496A1 (en) Method and device for displaying an image of the surroundings of a vehicle combination
JP2021533507A (ja) 画像繋ぎ合わせ方法及び装置、車載画像処理装置、電子機器、記憶媒体
CN109792482B (zh) 摄像机模块、选择器、控制器、摄像机监视系统以及移动体
JP2013054720A (ja) 運転支援装置
US11044395B2 (en) Method for generating a representation of an environment by shifting a virtual camera towards an interior mirror of a motor vehicle; as well as camera device
US11521395B2 (en) Image processing device, image processing method, and program
JP2020502640A (ja) 乗物用サラウンドビューシステム
WO2013118705A1 (ja) 運搬車両の周囲監視装置
JP4710653B2 (ja) 車載画像処理装置及び車両用画像処理方法
WO2019082628A1 (ja) 画像処理装置、撮像装置、運転支援装置、移動体、および画像処理方法
JP5752631B2 (ja) 画像生成方法、画像生成装置、及び操作支援システム
KR101469717B1 (ko) 광각 카메라를 이용한 영상 시스템 및 그 방법
JP6234335B2 (ja) 撮像装置及び撮像装置を設置した移動体
JP3585098B2 (ja) 車両用後側方監視装置
US20230339349A1 (en) Method and apparatus for displaying ego-vehicle surroundings within an ego-vehicle with support of electrical charging
JP2018201169A (ja) 撮像装置、撮像方法、プログラム、車載カメラ、及び車両

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220304

R150 Certificate of patent or registration of utility model

Ref document number: 7037413

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150