[go: up one dir, main page]

JP6565071B2 - 制御装置、撮像装置、飛行体、制御方法、及びプログラム - Google Patents

制御装置、撮像装置、飛行体、制御方法、及びプログラム Download PDF

Info

Publication number
JP6565071B2
JP6565071B2 JP2017207554A JP2017207554A JP6565071B2 JP 6565071 B2 JP6565071 B2 JP 6565071B2 JP 2017207554 A JP2017207554 A JP 2017207554A JP 2017207554 A JP2017207554 A JP 2017207554A JP 6565071 B2 JP6565071 B2 JP 6565071B2
Authority
JP
Japan
Prior art keywords
range
imaging device
driving
distance
focus lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017207554A
Other languages
English (en)
Other versions
JP2019078953A (ja
Inventor
本庄 謙一
謙一 本庄
佳範 永山
佳範 永山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2017207554A priority Critical patent/JP6565071B2/ja
Priority to PCT/CN2018/111258 priority patent/WO2019080805A1/zh
Priority to CN201880014622.6A priority patent/CN110382359A/zh
Publication of JP2019078953A publication Critical patent/JP2019078953A/ja
Application granted granted Critical
Publication of JP6565071B2 publication Critical patent/JP6565071B2/ja
Priority to US16/726,510 priority patent/US11066182B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U20/00Constructional aspects of UAVs
    • B64U20/80Arrangement of on-board electronics, e.g. avionics systems or wiring
    • B64U20/87Mounting of imaging devices, e.g. mounting of gimbals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/04Control of altitude or depth
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Mechanical Engineering (AREA)
  • Optics & Photonics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Automation & Control Theory (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Description

本発明は、制御装置、撮像装置、飛行体、制御方法、及びプログラムに関する。
特許文献1には、交換レンズの特性の判別結果に基づいてフォーカスレンズの駆動可能範囲を変更することが記載されている。
特許文献1 特開2008−275890号公報
撮像装置が撮影する環境によっては、フォーカスレンズの駆動可能範囲全体に亘ってフォーカスレンズを駆動する必要がない場合がある。
本発明の一態様に係る制御装置は、撮像装置が備えるフォーカスレンズの駆動を制御する。制御装置は、基準位置からの撮像装置の高さに基づいて、フォーカスレンズの駆動範囲を設定する設定部を備えてよい。制御装置は、駆動範囲内で、フォーカスレンズの駆動を制御する制御部を備えてよい。
設定部は、基準位置からの撮像装置の高さが閾値より大きい場合、フォーカスレンズの駆動範囲を制限すべく、駆動範囲を第1駆動範囲に設定してよい。
設定部は、基準位置からの撮像装置の高さが閾値以下である場合、駆動範囲を第1駆動範囲より広い第2駆動範囲に設定してよい。
第1駆動範囲は、撮像装置からの距離が第1の距離から、第1の距離より遠い第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲でよい。第2駆動範囲は、撮像装置からの距離が、第1の距離より近い第3の距離から第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲でよい。
設定部は、撮像装置が飛行体に搭載され、かつ基準位置からの撮像装置の高さが閾値より大きい場合、駆動範囲を第1駆動範囲に設定してよい。
設定部は、撮像装置が飛行体に搭載され、かつ基準位置からの撮像装置の高さが閾値以下の場合、駆動範囲を第2駆動範囲に設定してよい。
制御部は、設定部により設定された駆動範囲内で、オートフォーカスにおけるフォーカスレンズの駆動を制御してよい。
設定部は、撮像装置が飛行体に搭載されていない場合、駆動範囲を第2駆動範囲に設定してよい。
本発明の一態様に係る撮像装置は、上記制御装置を備えてよい。撮像装置は、フォーカスレンズを介して結像された像を電気信号に変換するイメージセンサを備えてよい。
本発明の一態様に係る飛行体は、上記制御装置とフォーカスレンズを介して結像された像を電気信号に変換するイメージセンサとを有する撮像装置を備えて飛行する。
本発明の一態様に係る制御方法は、撮像装置が備えるフォーカスレンズの駆動を制御する。制御方法は、基準位置からの撮像装置の高さに基づいて、フォーカスレンズの駆動範囲を設定する段階を備えてよい。制御方法は、駆動範囲内で、フォーカスレンズの駆動を制御する段階を備えてよい。
本発明の一態様に係るプログラムは、撮像装置が備えるフォーカスレンズの駆動をコンピュータに制御させるためのプログラムである。プログラムは、基準位置からの撮像装置の高さに基づいて、フォーカスレンズの駆動範囲を設定する段階をコンピュータに実行させてよい。プログラムは、駆動範囲内で、フォーカスレンズの駆動を制御する段階をコンピュータに実行させてよい。
本発明の一態様によれば、フォーカスレンズの駆動可能範囲をより適切に制御できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
無人航空機及び遠隔操作装置の外観の一例を示す図である。 無人航空機の機能ブロックの一例を示す図である。 駆動範囲を決定するために参照されるテーブルの一例を示す図である。 フォーカスレンズの駆動範囲の設定の手順の一例を示すフローチャートである。 ハードウェア構成の一例について説明するための図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等のようなメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(RTM)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図1は、無人航空機(UAV)10及び遠隔操作装置300の外観の一例を示す。UAV10は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備える。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV10は、空中を移動する飛行体の一例である。飛行体とは、UAVの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV10を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV10を飛行させる。回転翼の数は、4つには限定されない。また、UAV10は、回転翼を有さない固定翼機でもよい。
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
複数の撮像装置60は、UAV10の飛行を制御するためにUAV10の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV10の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV10の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV10の周囲の3次元空間データが生成されてよい。UAV10が備える撮像装置60の数は4つには限定されない。UAV10は、少なくとも1つの撮像装置60を備えていればよい。UAV10は、UAV10の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置300は、UAV10と通信して、UAV10を遠隔操作する。遠隔操作装置300は、UAV10と無線で通信してよい。遠隔操作装置300は、UAV10に上昇、下降、加速、減速、前進、後進、回転などのUAV10の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV10の高度を上昇させる指示情報を含む。指示情報は、UAV10が位置すべき高度を示してよい。UAV10は、遠隔操作装置300から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV10を上昇させる上昇命令を含んでよい。UAV10は、上昇命令を受け付けている間、上昇する。UAV10は、上昇命令を受け付けても、UAV10の高度が上限高度に達している場合には、上昇を制限してよい。
図2は、UAV10の機能ブロックの一例を示す。UAV10は、UAV制御部30、メモリ32、通信インタフェース36、推進部40、GPS受信機41、慣性計測装置42、磁気コンパス43、気圧高度計44、温度センサ45、湿度センサ46、ジンバル50、撮像装置60及び撮像装置100を備える。
通信インタフェース36は、遠隔操作装置300などの他の装置と通信する。通信インタフェース36は、遠隔操作装置300からUAV制御部30に対する各種の命令を含む指示情報を受信してよい。メモリ32は、UAV制御部30が、推進部40、GPS受信機41、慣性計測装置(IMU)42、磁気コンパス43、気圧高度計44、温度センサ45、湿度センサ46、ジンバル50、撮像装置60、及び撮像装置100を制御するのに必要なプログラム等を格納する。メモリ32は、コンピュータ読み取り可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ32は、UAV本体20の内部に設けられてよい。UAV本体20から取り外し可能に設けられてよい。
UAV制御部30は、メモリ32に格納されたプログラムに従ってUAV10の飛行及び撮像を制御する。UAV制御部30は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。UAV制御部30は、通信インタフェース36を介して遠隔操作装置300から受信した命令に従って、UAV10の飛行及び撮像を制御する。推進部40は、UAV10を推進させる。推進部40は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部40は、UAV制御部30からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、UAV10を飛行させる。
GPS受信機41は、複数のGPS衛星から発信された時刻を示す複数の信号を受信する。GPS受信機41は、受信された複数の信号に基づいてGPS受信機41の位置(緯度及び経度)、つまりUAV10の位置(緯度及び経度)を算出する。IMU42は、UAV10の姿勢を検出する。IMU42は、UAV10の姿勢として、UAV10の前後、左右、及び上下の3軸方向の加速度と、ピッチ、ロール、及びヨーの3軸方向の角速度とを検出する。磁気コンパス43は、UAV10の機首の方位を検出する。気圧高度計44は、UAV10が飛行する高度を検出する。気圧高度計44は、UAV10の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ45は、UAV10の周囲の温度を検出する。湿度センサ46は、UAV10の周囲の湿度を検出する。
撮像装置100は、撮像部102及びレンズ部200を備える。撮像部102は、イメージセンサ120、撮像制御部110、及びメモリ130を有する。イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、複数のレンズ210を介して結像された光を電気信号に変換する。言い換えれば、イメージセンサ120は、複数のレンズ210を介して結像された光学像の画像データを撮像制御部110に出力する。撮像制御部110は、CPUまたはMPUなどのマイクロプロセッサ、MCUなどのマイクロコントローラなどにより構成されてよい。撮像制御部110は、UAV制御部30からの撮像装置100の動作命令に応じて、撮像装置100を制御してよい。メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120などを制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。メモリ130は、撮像装置100の筐体から取り外し可能に設けられてよい。
レンズ部200は、複数のレンズ210、複数のレンズ駆動部212、及びレンズ制御部220を有する。複数のレンズ210は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ210の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部200は、撮像部102に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部212は、カム環などの機構部材を介して、複数のレンズ210の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部212は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部220は、撮像部102からのレンズ制御命令に従って、レンズ駆動部212を駆動して、機構部材を介して1または複数のレンズ210を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。
レンズ部200は、メモリ222、位置センサ214をさらに有する。レンズ制御部220は、撮像部102からのレンズ動作命令に応じてレンズ駆動部212を介して、レンズ210の光軸方向への移動を制御する。レンズ制御部220は、撮像部102からのレンズ動作命令に応じてレンズ駆動部212を介して、レンズ210の光軸方向への移動を制御する。レンズ210の一部または全部は、光軸に沿って移動する。レンズ制御部220は、レンズ210の少なくとも1つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ214は、レンズ210の位置を検出する。位置センサ214は、現在のズーム位置またはフォーカス位置を検出してよい。
レンズ駆動部212は、振れ補正機構を含んでよい。レンズ制御部220は、振れ補正機構を介して、レンズ210を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部212は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ120を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。
メモリ222は、レンズ駆動部212を介して移動する複数のレンズ210の制御値を記憶する。メモリ222は、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。
このように構成された撮像装置100は、UAV10が飛行中に撮影する場合がある。UAV10が飛行中に撮像装置100が撮像する対象は、風景など撮像装置100から比較的遠くにある被写体の場合が多い。よって、撮像装置100が、オートフォーカスにおいて、フォーカスレンズの駆動可能範囲全体に亘ってフォーカスレンズの駆動を制御する必要がない場合がある。最至近側までフォーカスレンズを駆動する場合、被写体までの距離が短すぎて、UAV10が被写体などに衝突する可能性がある。また、無限遠から最至近までの駆動範囲でフォーカスレンズを駆動する場合、フォーカスレンズの合焦処理に時間がかかる場合がある。UAV10に搭載されるバッテリの容量は限られており、UAV10の飛行時間も制限される。したがって、フォーカスレンズの合焦処理の時間はできるだけ短いほうが好ましい。
UAV10は、飛行中に物体に衝突するのを回避するために、UAV10の比較的に近くに物体が存在しないほうが好ましい。UAV10は、例えば、予め定められた距離範囲に障害物が存在する場合には、その障害物を回避して飛行したり、その場にホバリングしたりする場合もある。したがって、UAV10が飛行中の場合、UAV10の近くに合焦させるべき被写体が存在する可能性は高くない。一方、撮像装置100を搭載したUAV10を利用して、ポートレート撮影するような場合もある。このような場合には、UAV10の比較的近くに被写体が存在する可能性もある。
そこで、本実施形態に係る撮像装置100によれば、撮像装置100がUAV10に搭載されている場合、UAV10の高度、すなわち、撮像装置100の基準位置からの高さに基づいて、フォーカスレンズの駆動範囲を制御する。基準位置は、予め定められた基準面上の位置でよい。基準位置は、撮像装置100またはUAV10から鉛直方向に延びる直線と基準面との交点でよい。基準位置は、撮像装置100またはUAV10の重心などの予め定められた点から鉛直方向に延びる直線と基準面との交点でよい。基準面は、例えば、地面、海面、床面、屋上面などUAV10の離陸面または撮像装置100により撮像される被写体が存在する面でよい。より具体的には、撮像装置100を搭載するUAV10が比較的低い高度を飛行中の場合、フォーカスレンズの駆動範囲を制限することなく、フォーカスレンズの駆動を制御する。一方、撮像装置100を搭載するUAV10が比較的高い高度を飛行中の場合、フォーカスレンズの駆動範囲を制限して、フォーカスレンズの駆動を制御する。
撮像制御部110は、取得部112、設定部114、及びAF制御部116を有する。取得部112は、基準位置からの撮像装置100の高さを示す高さ情報を取得する。取得部112は、地面からの撮像装置100の高さを示す高さ情報を取得してよい。UAV10は、地面までの距離を検出する赤外線センサを有してよい。赤外線センサは、鉛直方向下向きにUAV10に設けられる。赤外線センサは、延長方向下向きに赤外光を放射して、その反射光を受信することで、UAV10から地面までの距離を検出する。取得部112は、その赤外線センサにより検出されたUAV10から地面までの距離を示す情報を、基準位置からの撮像装置100の高さを示す高さ情報として取得してよい。
設定部114は、取得部112により取得された高さ情報に示される高さに基づいて、フォーカスレンズの駆動範囲を設定する。設定部114は、高さ情報に示される高さが予め定められた閾値より大きい場合、フォーカスレンズの駆動範囲を制限すべく、駆動範囲を第1駆動範囲に設定する。設定部114は、高さ情報に示される高さが閾値以下である場合、フォーカスレンズの駆動範囲を第1駆動範囲より広い第2駆動範囲に設定する。第1駆動範囲は、撮像装置100からの距離が第1の距離から、第1の距離より遠い第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲である。第2駆動範囲は、撮像装置からの距離が、第1の距離より近い第3の距離から第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲である。第1駆動範囲は、例えば、無限遠〜3.3mの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲である。第2駆動範囲は、例えば無限遠〜1.0mの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲である。
撮像装置100は、UAV10に搭載されずに利用される場合がある。そこで、設定部114は、撮像装置100がUAV10に搭載され、かつ高さ情報に示される高さが閾値より大きい場合、フォーカスレンズの駆動範囲を第1駆動範囲に設定してよい。設定部114は、撮像装置100がUAV10に搭載され、かつ高さ上に示される高さが閾値以下の場合、フォーカスレンズの駆動範囲を第2駆動範囲に設定してよい。一方、設定部114は、撮像装置100がUAV10に搭載されていない場合、フォーカスレンズの駆動範囲を第2駆動範囲に設定してよい。
設定部114は、例えば、メモリ130などに記憶された図3に示すようなテーブルを参照することで、撮像装置100の接続先及び撮像装置100の高さに基づいて、フォーカスレンズの駆動範囲を設定してよい。
AF制御部116は、設定部114により設定された駆動範囲内で、フォーカスレンズの駆動を制御する。AF制御部116は、設定部114により設定された駆動範囲内で、オートフォーカスにおけるフォーカスレンズの駆動を制御する。AF制御部116は、コントラストAFにおけるフォーカスレンズの駆動範囲を、設定部114により設定された駆動範囲として、フォーカスレンズの駆動を制御してよい。
図4は、フォーカスレンズの駆動範囲の設定の手順の一例を示すフローチャートである。設定部114は、例えば、オートフォーカスを実行する前に、撮像装置100がUAV10に搭載されているか否かを判定する(S100)。設定部114は、UAV制御部30と通信できるか否かに基づいて、撮像装置100がUAV10に搭載されているか否かを判定してよい。撮像装置100がUAV10に搭載されていない場合、設定部114は、フォーカスレンズの駆動範囲を通常通りの第2駆動範囲(例えば、合焦可能な被写体の距離の範囲が無限遠〜1.0mである駆動範囲)に設定する(S102)。
一方、撮像装置100がUAV10に搭載されている場合、設定部114は、取得部112を介して、基準位置からの撮像装置100の高さを示す高さ情報を取得する(S104)。設定部114は、撮像装置100の高さが閾値より大きい場合、撮像装置100の近傍に合焦させるべき被写体が存在する可能性は低いと判断して、フォーカスレンズの駆動範囲を制限すべく、フォーカスレンズの駆動範囲を第2駆動範囲より狭い第1駆動範囲(例えば、合焦可能な被写体の距離の範囲が無限遠〜3.0mである駆動範囲)に設定する。設定部114は、撮像装置100の高さが閾値以下である場合、例えばUAV10に搭載された撮像装置100を利用したポートレート撮影などで、撮像装置100の近傍に合焦させるべき被写体が存在する可能性もあると判断する。そして、設定部114は、フォーカスレンズの駆動範囲を制限せずに、フォーカスレンズの駆動範囲を第1駆動範囲より広い第2駆動範囲に設定する(S102)。
以上の通り、本実施形態に係る撮像装置100によれば、撮像装置100の基準位置からの高さに基づいて、フォーカスレンズの駆動範囲を制御する。これにより、UAV10に搭載された撮像装置100のフォーカスレンズの無駄な駆動を防止でき、効率的にフォーカスレンズの駆動を制御できる。フォーカスレンズの駆動による電力消費を抑えることができる。フォーカスレンズの無駄な駆動によりUAV10の飛行時間が短縮されることを防止できる。UAV10の飛行中での撮像装置100の撮影時間が短縮されることを防止できる。
図5は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 UAV
20 UAV本体
30 UAV制御部
32 メモリ
36 通信インタフェース
40 推進部
41 GPS受信機
42 慣性計測装置
43 磁気コンパス
44 気圧高度計
45 温度センサ
46 湿度センサ
50 ジンバル
60 撮像装置
100 撮像装置
102 撮像部
110 撮像制御部
112 取得部
114 設定部
116 制御部
120 イメージセンサ
130 メモリ
200 レンズ部
210 レンズ
212 レンズ駆動部
214 位置センサ
220 レンズ制御部
222 メモリ
300 遠隔操作装置
1200 コンピュータ
1210 ホストコントローラ
1212 CPU
1214 RAM
1220 入力/出力コントローラ
1222 通信インタフェース
1230 ROM

Claims (8)

  1. 撮像装置が備えるフォーカスレンズの駆動を制御する制御装置であって、
    基準位置からの前記撮像装置の高さに基づいて、前記フォーカスレンズの駆動範囲を設定する設定部と、
    前記駆動範囲内で、前記フォーカスレンズの駆動を制御する制御部と
    を備え
    前記設定部は、前記撮像装置が飛行体に搭載され、かつ前記基準位置からの前記撮像装置の高さが閾値より大きい場合、前記フォーカスレンズの駆動範囲を制限すべく、前記駆動範囲を第1駆動範囲に設定し、
    前記設定部は、前記撮像装置が飛行体に搭載され、かつ前記基準位置からの前記撮像装置の高さが前記閾値以下である場合、前記駆動範囲を前記第1駆動範囲より広い第2駆動範囲に設定し、
    前記第1駆動範囲は、前記撮像装置からの距離が第1の距離から、前記第1の距離より遠い第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲であり、
    前記第2駆動範囲は、前記撮像装置からの距離が、前記第1の距離より近い第3の距離から前記第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲であり、
    前記第2の距離は、無限遠である、制御装置。
  2. 前記制御部は、前記設定部により設定された前記駆動範囲内で、オートフォーカスにおける前記フォーカスレンズの駆動を制御する、請求項1に記載の制御装置。
  3. 前記設定部は、前記撮像装置が前記飛行体に搭載されていない場合、前記駆動範囲を前記第2駆動範囲に設定する、請求項1または2に記載の制御装置。
  4. 前記設定部は、前記撮像装置の接続先が前記飛行体以外である場合、または前記撮像装置の接続先がない場合、前記駆動範囲を前記第2駆動範囲に設定する、請求項1から3の何れか1つに記載の制御装置。
  5. 請求項1からの何れか1つに記載の制御装置と、
    前記フォーカスレンズを介して結像された結像された光学像を撮像するイメージセンサと
    を備える撮像装置。
  6. 請求項1または2に記載の制御装置と、前記フォーカスレンズを介して結像された像を電気信号に変換するイメージセンサとを有する撮像装置を備えて飛行する飛行体。
  7. 撮像装置が備えるフォーカスレンズの駆動を制御する制御方法であって、
    基準位置からの前記撮像装置の高さに基づいて、前記フォーカスレンズの駆動範囲を設定する段階と、
    前記駆動範囲内で、前記フォーカスレンズの駆動を制御する段階と
    を備え
    前記設定する段階は、
    前記撮像装置が飛行体に搭載され、かつ前記基準位置からの前記撮像装置の高さが閾値より大きい場合、前記フォーカスレンズの駆動範囲を制限すべく、前記駆動範囲を第1駆動範囲に設定する段階と、
    前記撮像装置が飛行体に搭載され、かつ前記基準位置からの前記撮像装置の高さが前記閾値以下である場合、前記駆動範囲を前記第1駆動範囲より広い第2駆動範囲に設定する段階とを含み、
    前記第1駆動範囲は、前記撮像装置からの距離が第1の距離から、前記第1の距離より遠い第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲であり、
    前記第2駆動範囲は、前記撮像装置からの距離が、前記第1の距離より近い第3の距離から前記第2の距離までの範囲にいる被写体のいずれかに焦点を合わせることが可能な駆動範囲であり、
    前記第2の距離は、無限遠である、制御方法。
  8. 請求項1から4の何れか1つに記載の制御装置としてコンピュータを機能させるためのプログラム。
JP2017207554A 2017-10-26 2017-10-26 制御装置、撮像装置、飛行体、制御方法、及びプログラム Expired - Fee Related JP6565071B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017207554A JP6565071B2 (ja) 2017-10-26 2017-10-26 制御装置、撮像装置、飛行体、制御方法、及びプログラム
PCT/CN2018/111258 WO2019080805A1 (zh) 2017-10-26 2018-10-22 控制装置、摄像装置、飞行体、控制方法以及程序
CN201880014622.6A CN110382359A (zh) 2017-10-26 2018-10-22 控制装置、摄像装置、飞行体、控制方法以及程序
US16/726,510 US11066182B2 (en) 2017-10-26 2019-12-24 Control apparatus, camera apparatus, flying object, control method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017207554A JP6565071B2 (ja) 2017-10-26 2017-10-26 制御装置、撮像装置、飛行体、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019078953A JP2019078953A (ja) 2019-05-23
JP6565071B2 true JP6565071B2 (ja) 2019-08-28

Family

ID=66247761

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017207554A Expired - Fee Related JP6565071B2 (ja) 2017-10-26 2017-10-26 制御装置、撮像装置、飛行体、制御方法、及びプログラム

Country Status (4)

Country Link
US (1) US11066182B2 (ja)
JP (1) JP6565071B2 (ja)
CN (1) CN110382359A (ja)
WO (1) WO2019080805A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6798073B2 (ja) * 2019-06-04 2020-12-09 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 移動体、及びセンサユニット
CN114987779A (zh) * 2019-11-05 2022-09-02 深圳市道通智能航空技术股份有限公司 镜头模组的控制方法、装置、飞行器、飞行系统及介质
CN113438414B (zh) * 2021-06-11 2022-10-11 深圳市道通智能航空技术股份有限公司 一种对焦方法、对焦装置与无人飞行器

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006317593A (ja) * 2005-05-11 2006-11-24 Fuji Photo Film Co Ltd 撮像装置
JP2008275890A (ja) 2007-04-27 2008-11-13 Olympus Imaging Corp レンズ交換式デジタルカメラ
JP5595074B2 (ja) * 2010-03-04 2014-09-24 中国電力株式会社 空中撮影システム
US9654680B2 (en) * 2013-10-17 2017-05-16 Canon Kabushiki Kaisha Image capturing apparatus and control method therefor
JP6273803B2 (ja) * 2013-11-29 2018-02-07 キヤノンマーケティングジャパン株式会社 撮像システム、撮像システムの撮像方法、およびプログラム
US10230887B2 (en) * 2014-03-12 2019-03-12 Nikon Corporation Lens barrel, replacement lens, imaging device, and control program
JP2015200737A (ja) * 2014-04-07 2015-11-12 キヤノン株式会社 撮像装置
US20170101178A1 (en) * 2015-10-07 2017-04-13 Hoi Hung Herbert LEE Flying apparatus with multiple sensors and gesture-based operation
CN205311921U (zh) * 2015-11-25 2016-06-15 深圳市大疆创新科技有限公司 航拍跟焦控制系统及飞行器
JP6755755B2 (ja) * 2016-01-28 2020-09-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 飛行高度制御装置、無人飛行体、飛行高度制御方法及び飛行高度制御プログラム
CN205507553U (zh) * 2016-04-07 2016-08-24 吉林禾熙科技开发有限公司 一种无人机三维场景数据采集控制装置
JP6739242B2 (ja) * 2016-06-01 2020-08-12 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
CN106290246A (zh) * 2016-08-09 2017-01-04 上海禾赛光电科技有限公司 无需gps的无人机的地面定位装置及气体遥测系统
JP6565072B2 (ja) * 2017-10-30 2019-08-28 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、レンズ装置、飛行体、制御方法、及びプログラム

Also Published As

Publication number Publication date
CN110382359A (zh) 2019-10-25
US20200130862A1 (en) 2020-04-30
US11066182B2 (en) 2021-07-20
WO2019080805A1 (zh) 2019-05-02
JP2019078953A (ja) 2019-05-23

Similar Documents

Publication Publication Date Title
JP6496955B1 (ja) 制御装置、システム、制御方法、及びプログラム
CN111567032B (zh) 确定装置、移动体、确定方法以及计算机可读记录介质
JP6565072B2 (ja) 制御装置、レンズ装置、飛行体、制御方法、及びプログラム
JP6630939B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6565071B2 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP6543875B2 (ja) 制御装置、撮像装置、飛行体、制御方法、プログラム
JP6496953B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
CN110785997B (zh) 控制装置、摄像装置、移动体以及控制方法
JP6587006B2 (ja) 動体検出装置、制御装置、移動体、動体検出方法、及びプログラム
JP6714802B2 (ja) 制御装置、飛行体、制御方法、及びプログラム
JP6481228B1 (ja) 決定装置、制御装置、撮像システム、飛行体、決定方法、及びプログラム
JP6501091B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6459012B1 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JPWO2018207366A1 (ja) 制御装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム
CN111615663A (zh) 控制装置、摄像装置、摄像系统、移动体、控制方法以及程序
CN111213369B (zh) 控制装置、方法、摄像装置、移动体以及计算机可读存储介质
JP6878738B1 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP7003357B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6710863B2 (ja) 飛行体、制御方法、及びプログラム
JP6569157B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6707790B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6413170B1 (ja) 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム
WO2018163300A1 (ja) 制御装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190709

R150 Certificate of patent or registration of utility model

Ref document number: 6565071

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees