[go: up one dir, main page]

JP2014096107A - 車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ - Google Patents

車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ Download PDF

Info

Publication number
JP2014096107A
JP2014096107A JP2012248597A JP2012248597A JP2014096107A JP 2014096107 A JP2014096107 A JP 2014096107A JP 2012248597 A JP2012248597 A JP 2012248597A JP 2012248597 A JP2012248597 A JP 2012248597A JP 2014096107 A JP2014096107 A JP 2014096107A
Authority
JP
Japan
Prior art keywords
image data
driver
camera
seat
vehicle interior
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012248597A
Other languages
English (en)
Other versions
JP6027406B2 (ja
Inventor
Akihiko Sugikawa
明彦 杉川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Alpine Automotive Technology Inc
Original Assignee
Toshiba Alpine Automotive Technology Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Alpine Automotive Technology Inc filed Critical Toshiba Alpine Automotive Technology Inc
Priority to JP2012248597A priority Critical patent/JP6027406B2/ja
Publication of JP2014096107A publication Critical patent/JP2014096107A/ja
Application granted granted Critical
Publication of JP6027406B2 publication Critical patent/JP6027406B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】運転手の対象物を早く検出して、運転手の挙動に沿った信号の通知や情報処理を行わせることができる車室内カメラのスキャン方法を提供する。
【解決手段】車室内カメラのスキャン方法は、車室内の運転席に設けられた操作パネル部を撮影カメラで撮影する撮影ステップS001と、操作パネル部が撮影された画像データを取得する画像データ取得ステップS003と、取得した画像データにおける所定の検出範囲を、運転席側であって、かつその画像データの上側から下方向に向かって走査を行い、運転席に位置する運転手の対象物がその画像データにあるか否かを判定する対象物判定ステップS005、S007と、対象物判定ステップにおいて画像データに対象物があると判定された場合には、判定されたことを通知する判定結果通知ステップS009と、を含む。
【選択図】図7

Description

本発明の実施形態は、車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラに関する。
近年、カメラやナビゲーション装置を車両に搭載して利用する画像処理装置が普及している。その一例として、車両にカメラを搭載して車外の風景を撮影するドライブレコーダが知られている。
このドライブレコーダは、カメラで撮影した風景の画像データを処理することにより、車両の動きに関する情報を取得したり、ある時点における画像データを一時的に記憶することができるようになっている(例えば、特許文献1参照)。
特開2006−347493号公報
ところで、撮影画像内において対象物の検出を行う場合、カメラやスキャナで対象画像を撮影して画像データを取得し、その画像データの左上の位置から右端まで右方向に走査した後、一旦左端に戻り、走査した1つ下の走査線を再び右端まで右方向に走査する。そして、順番に1つの下の走査線を右方向に走査することにより画像データにおける対象物の検出を行うことが、一般的な対象物の検出方法となっている。
したがって、通常の画像処理装置では、画像データの左上の位置から右方向に走査するため、例えば、画像データの右下から対象物が出現する場合には、その対象物が検出されるまでに時間を要するという問題がある。
すなわち、カメラで風景を撮影し、その撮影した画像データに検出対象となる対象物が画像データの右下から出てくる場合には、画像データの左上から対象物を検出する方法では、その対象物を検出するまでに時間を要する、という問題があった。
本実施形態によれば、本実施形態に係る車室内カメラのスキャン方法は、車室内の運転席に設けられた操作パネル部を撮影カメラで撮影する撮影ステップと、操作パネル部が撮影された画像データを取得する画像データ取得ステップと、取得した画像データにおける所定の検出範囲を、運転席側であって、かつ画像データの上側から下方向に向かって走査を行い、運転席に位置する運転手の対象物が画像データにあるか否かを判定する対象物判定ステップと、対象物判定ステップにおいて画像データに対象物があると判定された場合には、判定されたことを通知する判定結果通知ステップと、を含む。
本実施形態に係る車室内カメラの概略の構成を示した概略構成図。 本実施形態に係る車室内カメラのハードウエアの構成を示すハードウエアブロック図。 本実施形態に係る車室内カメラが、操作パネル周辺を撮影している場所を示した説明図。 本実施形態に係る車室内カメラが、車内の天井に設置された一例を示した説明図。 本実施形態に係る車室内カメラが、撮影された画像データをスキャンする方向を示した説明図。 従来から行われていた対象物の存在の有無を検出するためのスキャンの方法を示した比較例。 本実施形態に係る車室内カメラが、撮影範囲の所定の検出範囲に対してスキャンを行い、運転手の手を検出した場合に、運転手の手を検出したことを通知する対象物検出処理手順を示したフローチャート。
以下、本実施形態に係る車室内カメラ100について、添付図面を参照して説明する。
図1は、本実施形態に係る車室内カメラ100の概略の構成を示した概略構成図である。
図1に示すように、車室内カメラ100は、撮影カメラ110、画像データ取得部120、対象物判定部130、判定結果通知部140などを備えて構成されている。
車室内カメラ100は、運転席の前部に設けられたダッシュボードの操作パネル周辺を撮影するようになっている。本実施形態では、少なくとも操作パネルを含んで撮影するようになっている。また、車室内カメラ100は、車室内の天井に設置されている。詳細については、後述する。
画像データ取得部120は、撮影カメラ110により操作パネル周辺が撮影された画像データを取得するようになっている。
対象物判定部130は、取得した画像データの運転席側であって、その画像データの上側から下方向に向かって走査(スキャン)を行い、運転席に位置する運転手の手(対象物)が、その画像データにあるか否かを判定するようになっている。
判定結果通知部140は、対象物判定部130が画像データに運転手の手があると判定した場合に、運転手の手があると判定された結果を外部機器などに通知するようになっている。この場合、例えば、音楽再生中に操作パネルに運転手の手が近づいたと判定された場合には、操作パネルのコントロールボタンを表示させたり、再生中のアーティストの曲名一覧を表示させることができる。
なお、画像データ取得部120、対象物判定部130、判定結果通知部140は、後述するCPU(Central Processing Unit)がプログラムを実行することにより、実現されるようになっている。
図2は、本実施形態に係る車室内カメラ100のハードウエアの構成を示すハードウエアブロック図である。
図2に示すように、車室内カメラ100は、図1で示した撮影カメラ110の他に、CPU150、ROM(Read Only Memory)160、RAM(Random Access Memory)170、記憶部180、内部バス190などを備えて構成されている。
CPU150は、ROM160に格納されている各種プログラムをRAM170にロードして、そのプログラムを展開することにより、各種プログラムの機能を実現することできる。RAM170は、ワークエリア(作業用メモリ)として利用されるようになっている。ROM160は、各種プログラムを格納するようになっている。ROM160に格納されている各種プログラムには、図1で示した各種機能を実現するためのプログラムが含まれる。
記憶部180は、記憶メモリを構成する記憶部であり、RAMやハードディスクなどにより構成されている。記憶部180は、例えば、画像データ取得部120で取得した画像データを一時的に記憶するようになっている。
内部バス190は、CPU150が車室内カメラ100全体を統括制御するように、各構成要素に接続されている。
次に、本実施形態に係る車室内カメラ100が、車内を撮影する際の撮影の位置について説明する。
図3は、本実施形態に係る車室内カメラ100が、操作パネル周辺を撮影している場所を示した説明図である。
図3に示すように、車室内カメラ100は、運転席の前面に設けられたダッシュボードに位置する操作パネル周辺を撮影するようになっている。また、車室内カメラ100は、車内の天井に設置されている。
撮影範囲200は、車室内カメラ100によって撮影される範囲を示している。なお、撮影範囲200は、例えば、カーナビゲーションシステムやオーディオ、またはエアコンディショナーなどの操作部を含む操作パネル周辺を含んでいるものとする。
運転手の手300は、この車両を運転する運転手の手を示している。
次に、本実施形態に係る車室内カメラ100が、車内に設けられる位置(場所)について説明する。
図4は、本実施形態に係る車室内カメラ100が、車内の天井に設置された一例を示した説明図である。
図4に示すように、車室内カメラ100は、車内の天井に設置されている。設置位置は、運転手の頭上で、やや前方に設けられている。なお、車室内カメラ100の設置位置は例示であり、図4で示した位置に限定されるものではない。すなわち、図2で示した撮影範囲200を撮影できる位置であれば、天井の中央でも後方であってもよい。
また、図4では、運転手の手300は、運転手の手の位置を示しており、ハンドルを握っている状態を示している。
次に、本実施形態に係る車室内カメラ100が、撮影された画像データをスキャンする方向について説明する。
図5は、本実施形態に係る車室内カメラ100が、撮影された画像データをスキャンする方向を示した説明図である。
図5に示すように、車室内カメラ100は、撮影された画像データの撮影範囲200のうち、所定の検出範囲に対して対象物(運転手の手)の存在の有無を検出するためのスキャンを実施するようになっている。また、撮影範囲200の画面解像度は、640×480(VGA)で表示されているが、本実施形態における一例であり、画面解像度に限定されるものではない。
また、撮影範囲200における所定の検出範囲は、3ラインで示されているが、これに限定されるものではなく、1ラインであっても、または5ラインであってもよい。
ここで、従来から行われていた対象物の存在の有無を検出するためのスキャンの方法について説明する。
図6は、従来から行われていた対象物の存在の有無を検出するためのスキャンの方法を示した比較例である。
図6に示すように、従来では、画像のメモリへの格納と計算速度の都合により、左上部から右上部に決められたブロックを移動して、対象物の存在の有無を検出するためのスキャンが行われていた。
この場合、撮影範囲200において対象物が右下から出てくる場合には、対象物が検出されるまでに時間を要していた。また、撮影範囲200において対象物が現れない場所においても繰り返し検出処理が実行されていたため、対象物が撮影範囲200に現れるまで不要な検出処理が実行されていた。
これに対し、本実施形態に係る車室内カメラ100は、対象物判定部130が、画像データの運転席側であって、その画像データの上側から下方向に向かって、所定の検出範囲において対象物の存在の有無を検出するための走査(スキャン)を行い、運転席に位置する運転手の手(対象物)が、その画像データにあるか否かを判定する。
これにより、判定結果通知部140は、対象物判定部130が撮影範囲200において所定の検出範囲に運転手の手があると判定した場合には、運転手の手300があると判定された結果を外部機器などに即座に通知することができる。
なお、図5に示したように、操作パネルのある撮影範囲200に対し、運転手が右側の運転席に位置している場合には、運転手の手300は、撮影範囲200の右側から左方向に出現するようになっている。
すなわち、日本製の車両の場合は、車内の右側に運転席が設けられることが多いので、操作パネルを含む撮影範囲200に対して右側に運転手が位置するようになっている。そのため、車室内カメラ100は、撮影範囲200において、右側から運転手の手300が出現するか否かを判断する。
一方、外国製の車両の場合は、運転席が車内の左側に設けられることが多いので、その場合は、撮影範囲200において左側から運転手の手300が出現するか否かを判定するようになっている。
次に、本実施形態に係る車室内カメラ100が、対象物である運転手の手300に対し対象物検出判定を行い、運転手の手300を検出した場合には、検出したことを通知する対象物検出処理手順について説明する。
(対象物検出処理手順)
図7は、本実施形態に係る車室内カメラ100が、撮影範囲200の所定の検出範囲に対してスキャンを行い、運転手の手300を検出した場合に、運転手の手300を検出したことを通知する対象物検出処理手順を示したフローチャートである。
まず、車室内カメラ100に設けられた撮影カメラ110は、操作パネル周辺を撮影する(ステップS001)。
次に、画像データ取得部120は、撮影カメラ110で撮影された操作パネル周辺の画像データを取得する(ステップS003)。
次に、対象物判定部130は、撮影された撮影範囲200のうち、所定の検出範囲の画像データに対して、運転席側であって、かつ、画像データの上側から下方向(縦方向)に向かってスキャンを実施する(ステップS005)。
対象物判定部130は、撮影範囲200における所定の検出範囲の画像データにおいて運転席に位置する運転手の手300があると判定した場合には(ステップS007のYes)、その旨を判定結果通知部140に通知する。
判定結果通知部140は、運転手の手300が撮影範囲200にあると判定された通知を取得すると、外部機器である操作パネルを制御する制御部に通知して、その操作パネルを明るく表示させる(ステップS009)。
一方、撮影範囲200における所定の検出範囲の画像データにおいて運転席に位置する運転手の手300がない場合には(ステップS007のNo)、対象物判定部130は、縦方向のスキャンを中止して、再び撮影カメラ110に操作パネル周辺を撮影させ、ステップS001以降の処理を繰り返す。
以上説明したように、本実施形態に係る車室内カメラ100は、撮影カメラ110で撮影した操作パネルを含む撮影範囲200の画像データを取得して、所定の検出範囲の画像データに対して縦方向にスキャンを行い、その画像データに運転手の手300があったか否かを判定する。そして、その撮影範囲200に運転手の手300があった場合、車室内カメラ100は、判定結果通知部140を介して外部機器である操作パネルを制御する制御部にその旨を通知して、操作パネルを明るく表示させる。
これにより、本実施形態に係る車室内カメラ100は、撮影範囲200に運転手の手300があった場合に、即座に操作パネルを明るく表示させることができるので、ユーザの車両の運転を妨げることなく、スムーズに操作パネルを操作させることができる。
なお、上述した対象物検出処理手順では、操作パネルを明るく表示するようになっていたが、本実施形態は、これに限定されるものではない。例えば、本実施形態に係る車室内カメラ100は、操作パネルのオーディオ機器における再生や停止を示すボタンをライトアップさせたり、再生する音楽を変更するアイコン画像(アルバム画像)などを表示させるようにしてもよい。
このように、本実施形態に係る車室内カメラ100は、操作パネル周辺を撮影する撮影カメラ110を車内の天井に設け、操作パネル周辺が撮影された撮影範囲200を運転席側から縦方向にスキャンすることにより、運転手の手300を早期に検出することができる。これにより、車室内カメラ100は、従来よりも運転手の手300を早く検出することができるので、運転手の挙動に沿った信号の通知や情報処理を行わせることができる。
また、本実施形態に係る車室内カメラ100は、例えば、運転席が車両の左側にある場合は(いわゆる左ハンドルの車両の場合)、撮影された撮影範囲200において左側から縦方向にスキャンを実施する。したがって、運転席が左側にある場合でも、ユーザの車両の運転を妨げることなく、スムーズに操作パネルを操作させることができる。
また、本実施形態では、車室内カメラ100は、車室内の天井に設けることを特徴としていたが、例えば、オープンカーなどのように、天井に撮影カメラ110を設置することが難しい場合には、運転席と助手席を隔てるセンターコンソール部に撮影カメラ110を設けるようにしてもよい。
(変形例)
上述した実施形態では、CPU150がプログラムを実行することにより、画像データ取得部120、対象物判定部130、判定結果通知部140などを実現するようになっていた。
ここで、上述した機能を実行するプログラムを変更することにより、車室内カメラ100における対象物の探索方法として、移動体の車室内に設けられた撮影カメラ110で撮影する運転席の付近を、撮影エリア(撮影範囲200)として設定する設定ステップと、撮影カメラ110が撮影した撮影エリアに対応する画像データを、その画像データの上側から下方向に向かって順次走査を行い、その画像データ内に運転手の手または指に相当する対象物があるか否かを判定する対象物探索ステップ(対象物判定部130)と、を含む対象物の探索方法とすることもできる。
この場合、設定ステップでは、撮影エリアの運転席に近い側が画像データの上側となり、撮影エリアの運転席とは離れた側が画像データの下側となるように、撮影エリアを設定するようにする。
これにより、車室内カメラ100における対象物の探索方法として、運転手の手または指(対象物)があるか否かの判定を、画像データの運転席側であって、その画像データの上側から下方向に向かって対象物の存在の有無を検出するための走査(スキャン)を行うことができるので、短時間で運転手の手(対象物)がその画像データにあるか否かの判定を行うことができる。
したがって、このような車室内カメラ100における対象物の検索方法によれば、対象物の存在の有無の判定に要する時間を短縮することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
また、本発明の実施形態では、フローチャートの各ステップは、記載された順序に沿って時系列的に行われる処理の例を示したが、必ずしも時系列的に処理されなくとも、並列的あるいは個別実行される処理をも含むものである。
100 車室内カメラ
110 撮影カメラ
120 画像データ取得部
130 対象物判定部
140 判定結果通知部
150 CPU
160 ROM
170 RAM
180 記憶部
190 内部バス
200 撮影範囲
300 運転手の手

Claims (4)

  1. 車室内の運転席に設けられた操作パネル部を撮影カメラで撮影する撮影ステップと、
    前記操作パネル部が撮影された画像データを取得する画像データ取得ステップと、
    前記取得した画像データにおける所定の検出範囲を、前記運転席側であって、かつ当該画像データの上側から下方向に向かって走査を行い、当該運転席に位置する運転手の対象物が当該画像データにあるか否かを判定する対象物判定ステップと、
    前記対象物判定ステップにおいて前記画像データに前記対象物があると判定された場合には、当該判定されたことを通知する判定結果通知ステップと、
    を含む車室内カメラのスキャン方法。
  2. 前記撮影ステップにおいて、前記撮影カメラは前記車室内の天井部に設けられた状態で前記操作パネル部を撮影する
    請求項1に記載の車室内カメラのスキャン方法。
  3. 移動体の車室内に設けられた撮影カメラで撮影する運転席の付近を、撮影エリアとして設定する設定ステップと、
    前記撮影カメラが撮影した前記撮影エリアに対応する画像データを、当該画像データの上側から下方向に向かって順次走査を行い、当該画像データ内に運転手の手または指に相当する対象物があるか否かを判定する対象物探索ステップと、を含み、
    前記設定ステップにおいて、前記撮影エリアの前記運転席に近い側が画像データの上側となり、前記撮影エリアの前記運転席とは離れた側が画像データの下側となるように、前記撮影エリアを設定する
    車室内カメラにおける対象物の探索方法。
  4. 車室内の運転席に設けられた操作パネル部を撮影する撮影カメラと、
    前記操作パネル部が撮影された画像データを取得する画像データ取得部と、
    前記取得した画像データにおける所定の検出範囲を、前記運転席側であって、かつ当該画像データの上側から下方向に向かって走査を行い、当該運転席に位置する運転手の対象物が当該画像データにあるか否かを判定する対象物判定部と、
    前記対象物判定部において前記画像データに前記対象物があると判定された場合には、当該判定されたことを通知する判定結果通知部と、
    を備える車室内カメラ。
JP2012248597A 2012-11-12 2012-11-12 車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ Expired - Fee Related JP6027406B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012248597A JP6027406B2 (ja) 2012-11-12 2012-11-12 車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012248597A JP6027406B2 (ja) 2012-11-12 2012-11-12 車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ

Publications (2)

Publication Number Publication Date
JP2014096107A true JP2014096107A (ja) 2014-05-22
JP6027406B2 JP6027406B2 (ja) 2016-11-16

Family

ID=50939109

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012248597A Expired - Fee Related JP6027406B2 (ja) 2012-11-12 2012-11-12 車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ

Country Status (1)

Country Link
JP (1) JP6027406B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63232760A (ja) * 1987-03-20 1988-09-28 Matsushita Electric Ind Co Ltd テレビカメラ装置
JP2006047534A (ja) * 2004-08-03 2006-02-16 Alpine Electronics Inc 表示制御システム
WO2006104132A1 (ja) * 2005-03-28 2006-10-05 Matsushita Electric Industrial Co., Ltd. ユーザインタフェイスシステム
WO2007088942A1 (ja) * 2006-02-03 2007-08-09 Matsushita Electric Industrial Co., Ltd. 入力装置、及びその方法
JP2010183209A (ja) * 2009-02-03 2010-08-19 Yoshiro Nakamatsu 縦走査線撮影方式

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63232760A (ja) * 1987-03-20 1988-09-28 Matsushita Electric Ind Co Ltd テレビカメラ装置
JP2006047534A (ja) * 2004-08-03 2006-02-16 Alpine Electronics Inc 表示制御システム
WO2006104132A1 (ja) * 2005-03-28 2006-10-05 Matsushita Electric Industrial Co., Ltd. ユーザインタフェイスシステム
WO2007088942A1 (ja) * 2006-02-03 2007-08-09 Matsushita Electric Industrial Co., Ltd. 入力装置、及びその方法
JP2010183209A (ja) * 2009-02-03 2010-08-19 Yoshiro Nakamatsu 縦走査線撮影方式

Also Published As

Publication number Publication date
JP6027406B2 (ja) 2016-11-16

Similar Documents

Publication Publication Date Title
US11508165B2 (en) Digital mirror systems for vehicles and methods of operating the same
JP6073497B2 (ja) 表示制御装置、情報表示方法および情報表示システム
JP5143235B2 (ja) 制御装置および車両周囲監視装置
JP4302764B2 (ja) 車両用表示装置及び車両
CN105282499B (zh) 周边监视装置及程序
CN104627094B (zh) 识别用户手势的车辆和用于控制该车辆的方法
JP6515028B2 (ja) 車両用操作装置
WO2019016936A1 (ja) 操作支援装置および操作支援方法
CN110606029B (zh) 车辆用操作系统以及车辆用操作方法
JP6589796B2 (ja) ジェスチャ検出装置
JP2017090614A (ja) 音声認識制御システム
JP5067576B2 (ja) 表示制御システム、表示制御方法、及び表示制御プログラム
JP2010188744A (ja) 駐車支援装置、駐車支援方法及び駐車支援プログラム
US10647260B2 (en) Vehicle surroundings display device
JP2018093427A (ja) 車載用投影装置
JP2017191496A (ja) ジェスチャ判定装置
JP6027406B2 (ja) 車室内カメラのスキャン方法、車室内カメラにおける対象物の探索方法及び車室内カメラ
JP2005142657A (ja) 車両周辺表示制御装置
US11838654B2 (en) Remote driving system
JP2009113599A (ja) 車載用入力装置
JP2020032830A5 (ja) 車両用表示装置、表示方法及びプログラム
JP6787422B2 (ja) 記録再生制御装置、再生制御装置、記録再生制御方法およびプログラム
JP2018157257A (ja) 車載機器の制御装置及び車載機器制御用のアプリケーションソフトウェア
CN112262414B (zh) 记录再现控制装置、再现控制装置、记录再现控制方法及存储介质
US20240092268A1 (en) Vehicle display control device, vehicle display control method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160823

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160902

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161014

R150 Certificate of patent or registration of utility model

Ref document number: 6027406

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees