JP6559535B2 - 障害物マップ生成装置、その方法、及び、そのプログラム - Google Patents
障害物マップ生成装置、その方法、及び、そのプログラム Download PDFInfo
- Publication number
- JP6559535B2 JP6559535B2 JP2015208195A JP2015208195A JP6559535B2 JP 6559535 B2 JP6559535 B2 JP 6559535B2 JP 2015208195 A JP2015208195 A JP 2015208195A JP 2015208195 A JP2015208195 A JP 2015208195A JP 6559535 B2 JP6559535 B2 JP 6559535B2
- Authority
- JP
- Japan
- Prior art keywords
- coordinate system
- obstacle
- moving body
- axis
- operation mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
- G05D1/024—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0257—Control of position or course in two dimensions specially adapted to land vehicles using a radar
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/285—Analysis of motion using a sequence of stereo image pairs
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/25—Image signal generators using stereoscopic image cameras using two or more image sensors with different characteristics other than in their location or field of view, e.g. having different resolutions or colour pickup characteristics; using image signals from one sensor to control the characteristics of another sensor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0248—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means in combination with a laser
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0085—Motion estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Signal Processing (AREA)
- Remote Sensing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Optics & Photonics (AREA)
- Traffic Control Systems (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Image Analysis (AREA)
Description
カメラ座標系は、前記ピクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ピクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得部と、前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測部と、前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定部と、前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定部と、前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成部と、を有する障害物マップ生成装置である。
動作モード2は、自車2が停止、かつ、右折ウィンカーの点滅の状態である、
動作モード3は、自車2が停止、かつ、左折ウィンカーの点滅の状態である、
動作モード4は、自車2が前進の状態である、
動作モード5は、自車2が前進、かつ、右折ウィンカーの点滅の状態である、
動作モード6は、自車2が前進、かつ、左折ウィンカーの点滅の状態である、
動作モード7は、自車2が後退の状態である。
Claims (12)
- 2次元のグリッドで構成されたピクセル直交座標系上の第1移動体を中心とした障害物マップを所定時刻毎に生成する障害物マップ生成装置であって、
前記ピクセル直交座標系は、2次元平面の前記障害物マップに時刻T毎に設定される2次元直交座標系であってp軸とq軸からなり、前記ピクセル直交座標系の原点は、第1移動体に設定し、p軸方向は、ある時刻における第1移動体の走行方向に設定され、
カメラ座標系は、前記ピクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ピクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、
前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得部と、
前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測部と、
前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定部と、
前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定部と、
前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成部と、
を有する障害物マップ生成装置。 - 前記第1移動体の前記現時刻における動きを算出する動き算出部をさらに有し、
前記生成部は、前記第1移動体の動きに基づいて、前記現在時刻における前記障害物マップと前記注目範囲を前記次の時刻における前記障害物マップと前記注目範囲に更新する、
請求項1に記載の障害物マップ生成装置。 - 前記第1移動体の経路の環境情報を取得する環境取得部をさらに有し、
前記生成部は、前記距離データにより表現された前記障害物に加えて、前記障害物マップの前記グリッドと前記注目範囲の前記グリッドに、前記環境情報で示された環境物体を前記障害物マップ上に生成する、
請求項1又は2に記載の障害物マップ生成装置。 - 前記予測部は、第1移動体の周辺を移動している第2移動体である前記障害物の次の時刻の移動先を予測する、
請求項1乃至3のいずれか一項に記載の障害物マップ生成装置。 - 前記決定部が決定する動作モードが、前記第1移動体の停止状態の動作モード、右折のための停止状態の動作モード、左折のための停止状態の動作モード、前方直進の動作モード、右折のための前方直進の動作モード、左折のための前方直進の動作モード、又は、後方直進の動作モードである、
請求項1乃至4のいずれか一項に記載の障害物マップ生成装置。 - 前記決定部が決定する動作モードが、前記第1移動体の停止状態の動作モード、右折のための停止状態の動作モード、左折のための停止状態の動作モード、前方直進の動作モード、右折のための前方直進の動作モード、左折のための前方直進の動作モード、又は、後方直進の動作モードであり、
前記範囲設定部は、前記動作モードを用いて、前記第1移動体が移動する範囲の候補である経路候補を生成し、前記経路候補に前記環境情報で示された前記環境物体を含めて前記注目範囲を設定する、
ことを特徴とする請求項3に記載の障害物マップ生成装置。 - 前記決定部が決定する動作モードが、前記第1移動体の停止状態の動作モード、右折のための停止状態の動作モード、左折のための停止状態の動作モード、前方直進の動作モード、右折のための前方直進の動作モード、左折のための前方直進の動作モード、又は、後方直進の動作モードであり、
前記範囲設定部は、前記動作モードを用いて、前記第1移動体が移動する範囲の候補である経路候補を生成し、前記経路候補に前記移動先を含めて前記注目範囲を設定する、
ことを特徴とする請求項4に記載の障害物マップ生成装置。 - 2次元のグリッドで構成されたピクセル直交座標系上の第1移動体を中心とした障害物マップを所定時刻毎に生成する障害物マップ生成方法であって、
前記ピクセル直交座標系は、2次元平面の前記障害物マップに時刻T毎に設定される2次元直交座標系であってp軸とq軸からなり、前記ピクセル直交座標系の原点は、第1移動体に設定し、p軸方向は、ある時刻における第1移動体の走行方向に設定され、
カメラ座標系は、前記ピクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ピクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、
前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得ステップと、
前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測ステップと、
前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定ステップと、
前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定ステップと、
前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成ステップと、
を有する障害物マップ生成方法。 - 2次元のグリッドで構成されたピクセル直交座標系上の第1移動体を中心とした障害物マップを所定時刻毎に生成する障害物マップ生成プログラムであって、
前記ピクセル直交座標系は、2次元平面の前記障害物マップに時刻T毎に設定される2次元直交座標系であってp軸とq軸からなり、前記ピクセル直交座標系の原点は、第1移動体に設定し、p軸方向は、ある時刻における第1移動体の走行方向に設定され、
カメラ座標系は、前記ピクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ピクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、
前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得機能と、
前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測機能と、
前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定機能と、
前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定機能と、
前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成機能と、
をコンピュータによって実現させるための障害物マップ生成プログラム。 - 3次元のグリッドで構成されたボクセル直交座標系上の第1移動体を中心とした障害物マップを所定時刻毎に生成する障害物マップ生成装置であって、
前記ボクセル直交座標系は、3次元平面の前記障害物マップに時刻T毎に設定される3次元直交座標系であってp軸とq軸とr軸からなり、前記ボクセル直交座標系の原点は、第1移動体に設定し、p軸方向は、ある時刻における第1移動体の移動方向に設定され、
カメラ座標系は、前記ボクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ボクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、
前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得部と、
前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測部と、
前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定部と、
前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定部と、
前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成部と、
を有する障害物マップ生成装置。 - 3次元のグリッドで構成されたボクセル直交座標系上の第1移動体を中心とした障害物マップを所定時刻毎に生成する障害物マップ生成方法であって、
前記ボクセル直交座標系は、3次元平面の前記障害物マップに時刻T毎に設定される3次元直交座標系であってp軸とq軸とr軸からなり、前記ボクセル直交座標系の原点は、第1移動体に設定し、p軸方向は、ある時刻における第1移動体の移動方向に設定され、
カメラ座標系は、前記ボクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ボクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、
前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得ステップと、
前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測ステップと、
前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定ステップと、
前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定ステップと、
前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成ステップと、
を有する障害物マップ生成方法。 - 3次元のグリッドで構成されたボクセル直交座標系上の第1移動体を中心とした障害物マップを所定時刻毎に生成する障害物マップ生成プログラムであって、
前記ボクセル直交座標系は、3次元平面の前記障害物マップに時刻T毎に設定される3次元直交座標系であってp軸とq軸とr軸からなり、前記ボクセル直交座標系の原点は、第1移動体に設定し、p軸方向は、ある時刻における第1移動体の移動方向に設定され、
カメラ座標系は、前記ボクセル直交座標系の解像度より解像度が高い3次元直交座標系であって、横方向のX軸、縦方向のY軸、奥行き方向のZ軸からなり、前記カメラ座標系の原点の位置が、前記第1移動体に設定し、また、前記ボクセル直交座標系の前記p軸と前記Z軸が一致するように設定され、
前記カメラ座標系上において、前記第1移動体から障害物までの現時刻の距離データを取得する距離データ取得機能と、
前記距離データから前記障害物の前記現時刻の次の時刻における位置を予測する予測機能と、
前記現時刻における前記第1移動体の移動状態を示す第1情報を取得し、前記第1情報から、前記現時刻における前記第1移動体の動作モードを決定する決定機能と、
前記動作モードから、前記第1移動体の前記次の時刻における移動範囲を求め、前記次の時刻における前記移動範囲と、前記次の時刻における前記障害物の予測した位置を含む注目範囲を、前記カメラ座標系の前記解像度と同じ解像度で設定する範囲設定機能と、
前記障害物マップと前記注目範囲とを位置合わせし、前記次の時刻の前記障害物マップにおける前記距離データに対応した前記グリッドと、前記次の時刻の前記注目範囲における前記距離データに対応した前記グリッドとに、前記障害物が存在するように生成する生成機能と、
をコンピュータによって実現させるための障害物マップ生成プログラム。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015208195A JP6559535B2 (ja) | 2015-10-22 | 2015-10-22 | 障害物マップ生成装置、その方法、及び、そのプログラム |
| US15/259,108 US10354150B2 (en) | 2015-10-22 | 2016-09-08 | Apparatus, method and program for generating occupancy grid map |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015208195A JP6559535B2 (ja) | 2015-10-22 | 2015-10-22 | 障害物マップ生成装置、その方法、及び、そのプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017083919A JP2017083919A (ja) | 2017-05-18 |
| JP6559535B2 true JP6559535B2 (ja) | 2019-08-14 |
Family
ID=58561714
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015208195A Expired - Fee Related JP6559535B2 (ja) | 2015-10-22 | 2015-10-22 | 障害物マップ生成装置、その方法、及び、そのプログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US10354150B2 (ja) |
| JP (1) | JP6559535B2 (ja) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102441103B1 (ko) * | 2021-03-18 | 2022-09-07 | 순천향대학교 산학협력단 | 객체 식별 무인 항공기 및 무인 항공기의 객체 식별 방법 |
| KR20230151136A (ko) * | 2022-04-22 | 2023-11-01 | 한밭대학교 산학협력단 | 실내환경 모니터링을 위한 드론 운용 시스템 및 그 방법 |
| KR20240039730A (ko) * | 2022-09-20 | 2024-03-27 | 주식회사 웨이브쓰리디 | 디지털 트윈 생성을 위한 데이터 수집용 드론과 이를 이용한 디지털 트윈 생성 방법 |
| KR102853832B1 (ko) * | 2024-12-31 | 2025-09-03 | 주식회사 에이디시스템 | 정찰용 무인 비행 장치를 이용한 객체 추적 방법 및 이를 실행시키기 위하여 기록매체에 기록된 컴퓨터 프로그램 |
Families Citing this family (88)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2015072002A1 (ja) * | 2013-11-15 | 2015-05-21 | 株式会社日立製作所 | 移動ロボットシステム |
| ES2675363T3 (es) * | 2014-06-05 | 2018-07-10 | Softbank Robotics Europe | Procedimiento de construcción de un mapa de probabilidad entre la ausencia y la presencia de obstáculos para un robot autónomo |
| JP6511406B2 (ja) * | 2016-02-10 | 2019-05-15 | クラリオン株式会社 | キャリブレーションシステム、キャリブレーション装置 |
| JP6718715B2 (ja) | 2016-03-28 | 2020-07-08 | アイシン・エィ・ダブリュ株式会社 | 通信端末、サーバ装置、移動案内システム及びコンピュータプログラム |
| CN108885116B (zh) * | 2016-03-28 | 2022-04-29 | 爱信艾达株式会社 | 通信终端、服务器装置、移动引导系统以及计算机程序 |
| US11222438B2 (en) | 2016-05-27 | 2022-01-11 | Kabushiki Kaisha Toshiba | Information processing apparatus, vehicle, and information processing method for presence probability of object |
| US11132611B2 (en) | 2016-05-27 | 2021-09-28 | Kabushiki Kaisha Toshiba | Information processing apparatus and information processing method for determining presence probability of object |
| EP3252658B1 (en) | 2016-05-30 | 2021-08-11 | Kabushiki Kaisha Toshiba | Information processing apparatus and information processing method |
| US11204610B2 (en) | 2016-05-30 | 2021-12-21 | Kabushiki Kaisha Toshiba | Information processing apparatus, vehicle, and information processing method using correlation between attributes |
| EP3264212B1 (en) * | 2016-06-30 | 2019-01-02 | Advanced Digital Broadcast S.A. | System and method for determining an energy-efficient path of an autonomous device |
| US10066946B2 (en) | 2016-08-26 | 2018-09-04 | Here Global B.V. | Automatic localization geometry detection |
| JP6813347B2 (ja) | 2016-12-12 | 2021-01-13 | アイシン・エィ・ダブリュ株式会社 | 通信端末、移動案内システム及びコンピュータプログラム |
| JP6685941B2 (ja) | 2017-01-05 | 2020-04-22 | 株式会社東芝 | 情報処理装置、情報処理方法、および情報処理プログラム |
| US10298912B2 (en) * | 2017-03-31 | 2019-05-21 | Google Llc | Generating a three-dimensional object localization lookup table |
| JP6673293B2 (ja) * | 2017-05-24 | 2020-03-25 | トヨタ自動車株式会社 | 車両システム |
| US11537134B1 (en) * | 2017-05-25 | 2022-12-27 | Apple Inc. | Generating environmental input encoding for training neural networks |
| JP6870574B2 (ja) * | 2017-06-30 | 2021-05-12 | カシオ計算機株式会社 | 自律移動装置、自律移動方法及びプログラム |
| CN110997488A (zh) * | 2017-07-28 | 2020-04-10 | 高通股份有限公司 | 动态控制用于处理传感器输出数据的参数的系统和方法 |
| JP6808590B2 (ja) * | 2017-08-08 | 2021-01-06 | 株式会社東芝 | 情報処理装置、情報処理方法、プログラムおよび移動体 |
| JPWO2019065218A1 (ja) * | 2017-09-28 | 2020-10-22 | 株式会社小糸製作所 | センサシステム |
| JP6967417B2 (ja) * | 2017-10-03 | 2021-11-17 | 株式会社 ミックウェア | 経路生成装置、及びプログラム |
| JP7138758B2 (ja) * | 2017-10-03 | 2022-09-16 | 株式会社 ミックウェア | 移動体、及びプログラム |
| JP6753383B2 (ja) * | 2017-10-23 | 2020-09-09 | 株式会社Soken | 物体検知装置 |
| CN107831765B (zh) * | 2017-10-23 | 2021-07-13 | 广州视源电子科技股份有限公司 | 定位方法、装置、设备及存储介质 |
| US10267889B1 (en) * | 2017-11-15 | 2019-04-23 | Avalex Technologies Corporation | Laser source location system |
| KR102463720B1 (ko) * | 2017-12-18 | 2022-11-07 | 현대자동차주식회사 | 차량의 경로 생성 시스템 및 방법 |
| US11093759B2 (en) | 2018-03-06 | 2021-08-17 | Here Global B.V. | Automatic identification of roadside objects for localization |
| JP6847885B2 (ja) * | 2018-03-20 | 2021-03-24 | 株式会社東芝 | 情報処理装置、情報処理方法及びプログラム |
| US11340630B2 (en) * | 2018-03-30 | 2022-05-24 | Brain Corporation | Systems and methods for robust robotic mapping |
| US11126199B2 (en) * | 2018-04-16 | 2021-09-21 | Baidu Usa Llc | Learning based speed planner for autonomous driving vehicles |
| US10899006B2 (en) | 2018-05-01 | 2021-01-26 | X Development Llc | Robot navigation using 2D and 3D path planning |
| CN110570691B (zh) * | 2018-06-06 | 2021-12-17 | 杭州海康机器人技术有限公司 | 一种无人机航线确定方法及装置 |
| KR102485554B1 (ko) * | 2018-06-29 | 2023-01-05 | 현대오토에버 주식회사 | 무인 항공기용 경로 탐색을 위한 3차원 공간지도 구축 장치 및 방법 |
| DE102018210814A1 (de) * | 2018-06-30 | 2020-01-02 | Robert Bosch Gmbh | Verfahren zur Erkennung statischer Radarziele mit einem Radarsensor für Kraftfahrzeuge |
| JP7384159B2 (ja) * | 2018-07-11 | 2023-11-21 | ソニーグループ株式会社 | 画像処理装置および方法 |
| CN108873908B (zh) * | 2018-07-12 | 2020-01-24 | 重庆大学 | 基于视觉slam和网络地图结合的机器人城市导航系统 |
| WO2020035902A1 (ja) * | 2018-08-14 | 2020-02-20 | 学校法人 千葉工業大学 | 移動ロボット |
| CN109144097B (zh) | 2018-08-15 | 2021-04-06 | 广州极飞科技有限公司 | 障碍物或地面识别及飞行控制方法、装置、设备及介质 |
| CA3110522A1 (en) * | 2018-08-24 | 2020-02-27 | Lutron Technology Company Llc | Occupant counting device |
| CN109085608A (zh) * | 2018-09-12 | 2018-12-25 | 奇瑞汽车股份有限公司 | 车辆周围障碍物检测方法及装置 |
| WO2020103034A1 (zh) * | 2018-11-21 | 2020-05-28 | 深圳市道通智能航空技术有限公司 | 一种无人机路径规划方法、装置及无人机 |
| JP7351079B2 (ja) | 2018-11-30 | 2023-09-27 | ソニーグループ株式会社 | 制御装置、制御方法及びプログラム |
| CN111381585B (zh) * | 2018-12-11 | 2023-06-16 | 北京图森智途科技有限公司 | 一种构建占据栅格地图的方法及其装置、相关设备 |
| CN111307166B (zh) | 2018-12-11 | 2023-10-03 | 北京图森智途科技有限公司 | 一种构建占据栅格地图的方法及其装置、处理设备 |
| CN111476879B (zh) * | 2019-01-24 | 2025-01-14 | 北京京东乾石科技有限公司 | 一种点云数据的处理方法、终端及存储介质 |
| US20220090938A1 (en) * | 2019-03-06 | 2022-03-24 | Sony Group Corporation | Map creation device, map creation method, and program |
| WO2020196962A1 (ko) * | 2019-03-28 | 2020-10-01 | 엘지전자 주식회사 | 인공 지능 청소기 및 그의 동작 방법 |
| CN111829531A (zh) * | 2019-04-15 | 2020-10-27 | 北京京东尚科信息技术有限公司 | 二维地图构建方法、装置、机器人定位系统和存储介质 |
| CN112179360B (zh) * | 2019-06-14 | 2022-12-02 | 北京京东乾石科技有限公司 | 地图生成方法、装置、系统及介质 |
| CN110969102B (zh) * | 2019-11-21 | 2023-06-20 | 大连理工大学 | 一种基于生长的栅格地图障碍物检测方法 |
| JP7342697B2 (ja) * | 2019-12-26 | 2023-09-12 | 株式会社豊田自動織機 | 経路生成装置 |
| CN111381245B (zh) * | 2020-02-29 | 2023-06-06 | 天津大学 | 激光slam自适应分辨率栅格地图构建方法 |
| KR102173239B1 (ko) * | 2020-03-05 | 2020-11-03 | (주)디투이노베이션 | 3차원 통제 수단의 4차원 충돌 검사 방법 및 시스템 |
| US11524701B2 (en) * | 2020-03-30 | 2022-12-13 | Toyota Research Institute, Inc. | Methods and systems of predicting road agent behavior using voxel grids |
| US11727690B2 (en) | 2020-04-03 | 2023-08-15 | Waymo Llc | Behavior prediction of surrounding agents |
| CN111443717B (zh) * | 2020-04-24 | 2021-07-06 | 南京硅基智能科技有限公司 | 一种基于语音识别控制的巡检机器人系统 |
| CN111208839B (zh) * | 2020-04-24 | 2020-08-04 | 清华大学 | 一种实时感知信息与自动驾驶地图的融合方法及系统 |
| WO2021217646A1 (zh) * | 2020-04-30 | 2021-11-04 | 华为技术有限公司 | 检测车辆可通行区域的方法及装置 |
| US11815897B2 (en) * | 2020-05-11 | 2023-11-14 | Huawei Technologies Co., Ltd. | Method and system for generating an importance occupancy grid map |
| US11753006B2 (en) | 2020-06-08 | 2023-09-12 | Robert Bosch Gmbh | Representing objects in a surrounding environment of a vehicle using a frenet coordinate system |
| CN111683203B (zh) | 2020-06-12 | 2021-11-09 | 达闼机器人有限公司 | 栅格地图生成方法、装置及计算机可读存储介质 |
| CN111765884B (zh) * | 2020-06-18 | 2023-06-23 | 京东科技信息技术有限公司 | 机器人重定位方法、装置、电子设备及存储介质 |
| US20210405197A1 (en) * | 2020-06-25 | 2021-12-30 | Electronics And Telecommunications Research Institute | GLOBAL LOCALIZATION APPARATUS AND METHOD IN DYNAMIC ENVIRONMENTS USING 3D LiDAR SCANNER |
| CN113865598B (zh) * | 2020-06-30 | 2025-07-22 | 华为技术有限公司 | 一种定位地图生成方法、定位方法及装置 |
| CN111881827B (zh) * | 2020-07-28 | 2022-04-26 | 浙江商汤科技开发有限公司 | 目标检测方法及装置、电子设备和存储介质 |
| US11519743B2 (en) | 2020-09-17 | 2022-12-06 | International Business Machines Corporation | Stalled self-driving vehicle rescue system |
| CN112543938B (zh) * | 2020-09-29 | 2022-02-08 | 华为技术有限公司 | 占据栅格地图的生成方法和装置 |
| CN112433529B (zh) * | 2020-11-30 | 2024-02-27 | 东软睿驰汽车技术(沈阳)有限公司 | 运动物体确定方法、装置及设备 |
| DE102020216196A1 (de) * | 2020-12-17 | 2022-06-23 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zur Detektion zumindest eines Objektes einer Umgebung mittels Reflexionssignalen eines Radar-Sensorsystems |
| CN113160398B (zh) * | 2020-12-25 | 2023-03-28 | 中国人民解放军国防科技大学 | 一种快速三维栅格构建系统、方法、介质、设备、无人车 |
| CN114764238A (zh) * | 2020-12-30 | 2022-07-19 | 广东美的白色家电技术创新中心有限公司 | 自主移动设备的建图方法、电子设备及存储介质 |
| JP7511504B2 (ja) * | 2021-02-16 | 2024-07-05 | 三菱重工業株式会社 | 移動体、移動制御システム、移動体の制御方法及びプログラム |
| JP7465234B2 (ja) * | 2021-03-11 | 2024-04-10 | Kddi株式会社 | 3dモデル生成装置、方法及びプログラム |
| CN113225090B (zh) * | 2021-05-19 | 2024-03-22 | 上海高仙自动化科技发展有限公司 | 一种压缩方法、装置、电子设备和存储介质 |
| CN113296514B (zh) * | 2021-05-24 | 2022-09-27 | 南开大学 | 一种基于稀疏带状结构的局部路径优化方法及系统 |
| EP4095741A1 (en) * | 2021-05-25 | 2022-11-30 | Aptiv Technologies Limited | Method, device, system, and computer-readable medium for arranging a grid structure with respect to a vehicle position |
| US12112645B2 (en) * | 2021-05-28 | 2024-10-08 | Tongji University | Unmanned aerial vehicle positioning method based on millimeter-wave radar |
| JP2022182277A (ja) * | 2021-05-28 | 2022-12-08 | ソニーグループ株式会社 | 情報処理装置、情報処理方法および自律移動体 |
| CN113590674A (zh) * | 2021-06-29 | 2021-11-02 | 北京百度网讯科技有限公司 | 出行目的识别方法、装置、设备及存储介质 |
| JP7609285B2 (ja) * | 2021-08-31 | 2025-01-07 | 日本電気株式会社 | 情報処理装置、通信システム、特定方法、及びプログラム |
| JP7567738B2 (ja) * | 2021-09-28 | 2024-10-16 | 株式会社豊田自動織機 | 障害物検出装置 |
| CN113848943B (zh) * | 2021-10-18 | 2023-08-08 | 追觅创新科技(苏州)有限公司 | 栅格地图的修正方法及装置、存储介质及电子装置 |
| CN113997286A (zh) * | 2021-10-28 | 2022-02-01 | 深圳优地科技有限公司 | 一种机器人避障方法、机器人及计算机可读存储介质 |
| CN115077540B (zh) * | 2022-06-02 | 2025-03-21 | 中国电信股份有限公司 | 一种地图构建方法及装置 |
| CN115542897B (zh) * | 2022-09-19 | 2025-05-27 | 之江实验室 | 一种基于牛耕式运动的全覆盖路径规划方法 |
| DE102022210634A1 (de) * | 2022-10-07 | 2024-04-18 | Airbus Defence and Space GmbH | Navigationsverfahren und computerlesbares speichermedium |
| CN115420296B (zh) * | 2022-11-07 | 2023-04-11 | 山东大学 | 基于多分辨率拓扑地图的路径搜索方法及系统 |
| KR102689544B1 (ko) * | 2023-10-27 | 2024-07-29 | 국방과학연구소 | 장애물 거리변환 지도의 계산 장치 및 그 방법 |
Family Cites Families (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3738719B2 (ja) | 2001-09-26 | 2006-01-25 | 日産自動車株式会社 | 車両用障害物地図作成装置 |
| US7805220B2 (en) * | 2003-03-14 | 2010-09-28 | Sharper Image Acquisition Llc | Robot vacuum with internal mapping system |
| JP4533659B2 (ja) | 2004-05-12 | 2010-09-01 | 株式会社日立製作所 | レーザー計測により地図画像を生成する装置及び方法 |
| US9250081B2 (en) * | 2005-03-25 | 2016-02-02 | Irobot Corporation | Management of resources for SLAM in large environments |
| US7266477B2 (en) * | 2005-06-22 | 2007-09-04 | Deere & Company | Method and system for sensor signal fusion |
| WO2007069721A1 (ja) | 2005-12-16 | 2007-06-21 | Ihi Corporation | 三次元形状データの記憶・表示方法と装置および三次元形状の計測方法と装置 |
| JP2008191157A (ja) * | 2008-02-04 | 2008-08-21 | Toshio Tsukishiro | ナビゲーション装置 |
| JP5147129B2 (ja) | 2008-10-23 | 2013-02-20 | 株式会社Ihiエアロスペース | 自律型移動体 |
| JP5614055B2 (ja) * | 2010-02-22 | 2014-10-29 | トヨタ自動車株式会社 | 運転支援装置 |
| CN103026396B (zh) * | 2010-07-27 | 2015-09-23 | 丰田自动车株式会社 | 驾驶辅助装置 |
| JP5535816B2 (ja) * | 2010-08-04 | 2014-07-02 | 株式会社豊田中央研究所 | 移動物予測装置及びプログラム |
| JP5631834B2 (ja) * | 2011-09-28 | 2014-11-26 | 住友重機械工業株式会社 | 物体検出装置を搭載する移動体 |
| JP2014010111A (ja) * | 2012-07-02 | 2014-01-20 | Toshiba Corp | 計測装置、方法、及びプログラム |
| US9037396B2 (en) * | 2013-05-23 | 2015-05-19 | Irobot Corporation | Simultaneous localization and mapping for a mobile robot |
| EP2853916A1 (en) * | 2013-09-25 | 2015-04-01 | Application Solutions (Electronics and Vision) Limited | A method and apparatus for providing a 3-dimensional ground surface model used for mapping |
| JP2015184874A (ja) * | 2014-03-24 | 2015-10-22 | 株式会社東芝 | 移動体操作支援装置、移動体操作支援方法、および移動体操作支援プログラム |
| EP3175200A4 (en) * | 2014-07-31 | 2018-04-04 | Hewlett-Packard Development Company, L.P. | Three dimensional scanning system and framework |
| JP6786264B2 (ja) * | 2016-05-27 | 2020-11-18 | 株式会社東芝 | 情報処理装置、情報処理方法、および車両 |
| US11222438B2 (en) * | 2016-05-27 | 2022-01-11 | Kabushiki Kaisha Toshiba | Information processing apparatus, vehicle, and information processing method for presence probability of object |
-
2015
- 2015-10-22 JP JP2015208195A patent/JP6559535B2/ja not_active Expired - Fee Related
-
2016
- 2016-09-08 US US15/259,108 patent/US10354150B2/en not_active Expired - Fee Related
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102441103B1 (ko) * | 2021-03-18 | 2022-09-07 | 순천향대학교 산학협력단 | 객체 식별 무인 항공기 및 무인 항공기의 객체 식별 방법 |
| KR20230151136A (ko) * | 2022-04-22 | 2023-11-01 | 한밭대학교 산학협력단 | 실내환경 모니터링을 위한 드론 운용 시스템 및 그 방법 |
| KR102693476B1 (ko) | 2022-04-22 | 2024-08-08 | 국립한밭대학교 산학협력단 | 실내환경 모니터링을 위한 드론 운용 시스템 및 그 방법 |
| KR20240039730A (ko) * | 2022-09-20 | 2024-03-27 | 주식회사 웨이브쓰리디 | 디지털 트윈 생성을 위한 데이터 수집용 드론과 이를 이용한 디지털 트윈 생성 방법 |
| KR102773752B1 (ko) | 2022-09-20 | 2025-02-27 | 주식회사 웨이브쓰리디 | 디지털 트윈 생성을 위한 데이터 수집용 드론 |
| KR102853832B1 (ko) * | 2024-12-31 | 2025-09-03 | 주식회사 에이디시스템 | 정찰용 무인 비행 장치를 이용한 객체 추적 방법 및 이를 실행시키기 위하여 기록매체에 기록된 컴퓨터 프로그램 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2017083919A (ja) | 2017-05-18 |
| US10354150B2 (en) | 2019-07-16 |
| US20170116487A1 (en) | 2017-04-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6559535B2 (ja) | 障害物マップ生成装置、その方法、及び、そのプログラム | |
| CN112105893B (zh) | 用于自动驾驶车辆的实时地图生成系统 | |
| EP3245614B1 (en) | Object detection using location data and scale space representations of image data | |
| CN111771207B (zh) | 增强的车辆跟踪 | |
| CN111670468B (zh) | 移动体行为预测装置以及移动体行为预测方法 | |
| US20210101616A1 (en) | Systems and methods for vehicle navigation | |
| CN113525382B (zh) | 车辆控制装置及存储介质 | |
| US12344240B2 (en) | Systems and methods for selectively decelerating a vehicle | |
| EP3283843B1 (en) | Generating 3-dimensional maps of a scene using passive and active measurements | |
| JP2023106536A (ja) | 画像分析に基づく車両ナビゲーションのためのシステム | |
| WO2021053390A1 (en) | Systems and methods for predicting blind spot incursions | |
| CN112055805A (zh) | 用于自动驾驶车辆的点云登记系统 | |
| WO2020168464A1 (en) | Local sensing based autonomous navigation, and associated systems and methods | |
| CN111771229A (zh) | 用于自动驾驶车辆的点云重影效果检测系统 | |
| JP2019527832A (ja) | 正確な位置特定およびマッピングのためのシステムおよび方法 | |
| WO2022147274A1 (en) | Systems and methods for road segment mapping | |
| US20170263129A1 (en) | Object detecting device, object detecting method, and computer program product | |
| KR101934297B1 (ko) | 3차원 LiDAR를 이용한 선분추출 기반의 교차로 인식 방법 | |
| US12468306B2 (en) | Detection and mapping of generalized retroreflective surfaces | |
| US20250052581A1 (en) | Localizing vehicles using retroreflective surfaces | |
| US20250225740A1 (en) | Multi-view augmented reality | |
| Mathew | Radar and Vision Sensor Fusion for Vehicle Tracking | |
| Borraz Morón et al. | Cloud incubator car: a reliable platform for autonomous driving | |
| KR20250114550A (ko) | 자율 주행 차량들에 대한 다중 프레임 시간 집계 및 밀집 움직임 추정 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180220 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190213 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190402 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190524 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190618 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190717 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 6559535 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| LAPS | Cancellation because of no payment of annual fees |