JP6948325B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP6948325B2 JP6948325B2 JP2018531770A JP2018531770A JP6948325B2 JP 6948325 B2 JP6948325 B2 JP 6948325B2 JP 2018531770 A JP2018531770 A JP 2018531770A JP 2018531770 A JP2018531770 A JP 2018531770A JP 6948325 B2 JP6948325 B2 JP 6948325B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- information processing
- person
- information
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H3/00—Appliances for aiding patients or disabled persons to walk about
- A61H3/06—Walking aids for blind persons
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61F—FILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
- A61F9/00—Methods or devices for treatment of the eyes; Devices for putting in contact-lenses; Devices to correct squinting; Apparatus to guide the blind; Protective devices for the eyes, carried on the body or in the hand
- A61F9/08—Devices or methods enabling eye-patients to replace direct visual perception by another kind of perception
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H3/00—Appliances for aiding patients or disabled persons to walk about
- A61H3/06—Walking aids for blind persons
- A61H3/061—Walking aids for blind persons with electronic detecting or guiding means
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/757—Matching configurations of points or features
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/005—Traffic control systems for road vehicles including pedestrian guidance indicator
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B21/00—Teaching, or communicating with, the blind, deaf or mute
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
- G10L13/02—Methods for producing synthetic speech; Speech synthesisers
- G10L13/027—Concept to speech synthesisers; Generation of natural phrases from machine-based concepts
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/50—Control means thereof
- A61H2201/5007—Control means thereof computer controlled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/50—Control means thereof
- A61H2201/5023—Interfaces to the user
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/50—Control means thereof
- A61H2201/5023—Interfaces to the user
- A61H2201/5048—Audio interfaces, e.g. voice or music controlled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/50—Control means thereof
- A61H2201/5058—Sensors or detectors
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/50—Control means thereof
- A61H2201/5097—Control means thereof wireless
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Life Sciences & Earth Sciences (AREA)
- Public Health (AREA)
- Pain & Pain Management (AREA)
- Rehabilitation Therapy (AREA)
- Physical Education & Sports Medicine (AREA)
- Epidemiology (AREA)
- Acoustics & Sound (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Educational Technology (AREA)
- Educational Administration (AREA)
- Business, Economics & Management (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Vascular Medicine (AREA)
- Ophthalmology & Optometry (AREA)
- Navigation (AREA)
- Traffic Control Systems (AREA)
- Rehabilitation Tools (AREA)
Description
1.1 第1の視覚障害者歩行支援システムの概要
1.2 情報処理装置の構成例
1.3 横断方向決定処理の基本原理
1.4 スマートフォンを用いた使用例
1.5 処理部の機能ブロック図
1.6 Ref画像登録処理
1.7 横断歩道ガイド処理
1.8 Ref画像登録処理及び横断歩道ガイド処理の変形例2.全経路ガイド機能
2.1 全経路ガイド機能の概要
2.2 情報処理装置の構成例
2.3 処理部の機能ブロック図
2.4 音声登録処理
2.5 通過点ガイド再生処理3.第2の視覚障害者歩行支援システム
3.1 第2の視覚障害者歩行支援システムの概要
3.2 第2の視覚障害者歩行支援システムの構成例
3.3 処理部の機能ブロック図
3.4 登録モード時のドローンの画像送信処理
3.5 登録モード時の情報処理装置の画像受信処理
3.6 ガイドモード時のドローンの画像送信処理
3.7 ガイドモード時の情報処理装置の画像受信処理
3.8 第2の視覚障害者歩行支援システムの変形例4.スマートフォンカバー
4.1 スマートフォンカバーの外観例
4.2 ブロック図
4.3 カバークローズ検出処理
4.4 カバーオープン検出処理
4.5 登録アプリ実行操作検出処理
4.6 登録アプリ実行操作検出処理の他の例
4.7 小窓に貼り付けられるシールの他の例
4.8 小窓に割り当てられるUIアプリ配置の他の例5.情報処理装置のハードウェア構成例
<1.1 第1の視覚障害者歩行支援システムの概要>
初めに、図1を参照して、本開示の第1の視覚障害者歩行支援システムの概要について説明する。
図2は、本開示の第1の視覚障害者歩行支援システムを実現する情報処理装置の構成例を示すブロック図である。
例えば、Bluetooth(登録商標)などの近距離無線通信機能と操作ボタンを備えるリストバンド型のリモートコントローラなどで構成される外部の入力装置14Aと、近距離無線通信により連携して動作することも可能である。
図3を参照して、情報処理装置1が行う横断方向決定処理の基本原理について説明する。
図4は、情報処理装置1としてスマートフォンを用いた場合の、視覚障害者による第1の視覚障害者歩行支援システムの使用例を示している。
4の撮影方向が進行方向を向くように配置されている。
図5は、情報処理装置1の処理部16の機能ブロック図である。
次に、図6のフローチャートを参照して、登録モードにおいてRef画像登録部51により実行されるRef画像登録処理について説明する。この処理は、例えば、視覚障害者が同行援護者を伴って出発地から所定の目的地までの移動を開始するタイミングにおいて登録アプリを実行したときに開始される。
次に、図8のフローチャートを参照して、ガイドモードにおいて方向決定部61とガイド情報生成部62によって実行される横断歩道ガイド処理について説明する。この処理は、例えば、登録モードで登録した移動経路を視覚障害者が単独で歩行する場合に、出発地において移動を開始するタイミングでガイドアプリを実行したときに開始される。方向決定部61とガイド情報生成部62は、必要な情報を必要なタイミングで互いにやりとりして実行することができる。
置情報によって検索され、時刻情報は参考とされる。
上述したRef画像登録処理及び横断歩道ガイド処理の変形例について説明する。
分が多い現画像の下側の領域を探索領域から除外するとともに、歩行者用信号の色が青のときと赤のときとで異なる領域を設定することができる。歩行者用信号の色が赤のときの現画像については、特徴点抽出やマッチング処理自体を停止してもよい。
が検出できると考えられるので、現画像に映る歩行者用信号の色が青である現画像の重みを大きくし、歩行者用信号の色が赤である現画像の重みを小さくして、複数の現画像それぞれで検出された複数の方向を統合した方向を決定することができる。
<2.1 全経路ガイド機能の概要>
次に、情報処理装置1が、上述した横断歩道の歩行ガイド機能の他にさらに備える全経路ガイド機能について説明する。
降の歩行において、この音声メッセージが再生されることにより、マンホールの蓋と点字ブロックを基準にして横断歩道に容易に到達することができる。
図22は、上述した全経路ガイド機能を実行する場合の情報処理装置の構成例を示すブロック図である。
図23は、上述した全経路ガイド機能を実行する場合の処理部16の機能ブロック図である。
図24のフローチャートを参照して、登録モードにおいて音声登録部141によって実
行される音声登録処理について説明する。この処理は、例えば、視覚障害者が同行援護者を伴って出発地から所定の目的地までの移動を開始するタイミングにおいて登録アプリを実行したときに開始される。
次に、図25のフローチャートを参照して、ガイドモードにおいて通過点通知部142によって実行される通過点ガイド再生処理について説明する。この処理は、例えば、登録モードで登録した移動経路を単独で歩行する場合に、出発地において移動を開始するタイミングでガイドアプリを実行したときに開始される。
<3.1 第2の視覚障害者歩行支援システムの概要>
次に、本開示の第2の視覚障害者歩行支援システムについて説明する。
図28は、第2の視覚障害者歩行支援システムの構成例を示すブロック図である。
図29は、第2の視覚障害者歩行支援システムにおける情報処理装置1の処理部16の機能ブロック図である。
次に、図30のフローチャートを参照して、登録モードにおいてドローン171によって実行される画像送信処理について説明する。
次に、図31のフローチャートを参照して、登録モードにおいて情報処理装置1よって実行される画像受信処理について説明する。この処理は、例えば、登録モードにおいてRef画像登録部211のアプリが実行されたときに開始される。
次に、図32のフローチャートを参照して、ガイドモードにおいてドローン171によって実行される画像送信処理について説明する。
次に、図33のフローチャートを参照して、ガイドモードにおいて情報処理装置1よって実行される画像受信処理について説明する。この処理は、例えば、ガイドモードにおいてガイド情報生成部212のアプリが実行されたときに開始される。
なお、上述した第2の視覚障害者歩行支援システムの実施の形態では、図34の上段に示されるように、ドローン171が視覚障害者の真上に移動して、カメラ181が真下の
視覚障害者を撮影するようにした。
<4.1 スマートフォンカバーの外観例>
次に、スマートフォンカバーの実施の形態について説明する。
図37は、スマートフォンカバー231と、スマートフォン31としての情報処理装置1のUI操作に関するブロック図である。
次に、図38のフローチャートを参照して、スマートフォン31としての情報処理装置1が、前面カバー241が閉じられたことを検出して所定の処理を実行する処理であるカバークローズ検出処理について説明する。この処理は、例えば、情報処理装置1が電源オンされたときに開始される。
次に、図39のフローチャートを参照して、スマートフォン31としての情報処理装置1が、前面カバー241が開けられたことを検出して所定の処理を実行する処理であるカバーオープン検出処理について説明する。この処理は、例えば、図38のカバークローズ検出処理が実行されたときに開始され、カバークローズ検出処理と並行して実行される。
次に、図40のフローチャートを参照して、図38のステップS205で実行される登録アプリ実行操作検出処理の詳細について説明する。
視覚障害者によるタッチ操作の誤操作を防止する登録アプリ実行操作検出処理の他の例について説明する。
害者によるタッチ操作の誤操作を防止して、所望の登録アプリを起動させることができる。
図36に示したスマートフォンカバー231では、3x3の9個のUIボタンの配置を視覚障害者が認識するために、前面カバー241の小窓251の中央部分に、突起252を有するシール253が貼り付けられていた。
図36に示したスマートフォンカバー231では、情報処理装置1は、スマートフォンカバー231の小窓251の開口領域に対して、3x3の9個のUIアプリを割り当てるようにしたが、図44に示されるように、2x2の4個のUIアプリを割り当てるようにしてもよい。あるいはまた、その他の任意の個数のUIアプリを割り当ててもよい。
次に、図45を参照して、情報処理装置1のハードウェア構成について説明する。
ス313、入力装置315、出力装置317、ストレージ装置319、ドライブ321、接続ポート323、通信装置325を含んでもよい。さらに、情報処理装置1は、撮像装置333、およびセンサ335を含んでもよい。情報処理装置1は、CPU301に代えて、またはこれとともに、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、またはFPGA(Field-Programmable Gate Array)などの処理回路を有してもよい。
Crystal Display)または有機EL(Electro-Luminescence)ディスプレイなどの表示装置、スピーカまたはヘッドフォンなどの音声出力装置、もしくはバイブレータなどでありうる。出力装置317は、情報処理装置1の処理により得られた結果を、テキストもしくは画像などの映像、音声もしくは音響などの音声、または振動などとして出力する。
うる。
とができる。
(1)
視覚を用いずに行動する者が歩く方向を決定する方向決定部と、
決定された方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成する第1のガイド情報生成部と
を備える情報処理装置。
(2)
前記方向決定部は、予め記憶されているリファレンス画像と、現時点で撮影された静止画像とをマッチングしたマッチング結果に基づいて、前記視覚を用いずに行動する者が歩く方向を決定する
前記(1)に記載の情報処理装置。
(3)
前記方向決定部は、前記リファレンス画像の特徴点と対応する特徴点を前記静止画像から抽出し、対応する特徴点どうしをマッチングしたマッチング結果に基づいて、前記視覚を用いずに行動する者が歩く方向を決定する
前記(2)に記載の情報処理装置。
(4)
前記方向決定部は、対応する特徴点どうしをマッチングする前記静止画像の領域を、前記静止画像に映る信号の色で変化させる
前記(3)に記載の情報処理装置。
(5)
前記方向決定部は、前記静止画像を二値化してから、前記リファレンス画像と前記静止画像とをマッチングする
前記(2)乃至(4)のいずれかに記載の情報処理装置。
(6)
前記方向決定部は、前記静止画像内の方位と、前記静止画像を撮影したときの撮影部の方位との演算により、前記視覚を用いずに行動する者が向いている方向を推定して、前記視覚を用いずに行動する者が歩く方向を決定する
前記(2)乃至(5)のいずれかに記載の情報処理装置。
(7)
前記方向決定部は、複数の前記静止画像それぞれで推定された方向情報を統合して、前記視覚を用いずに行動する者が向いている方向を推定して、前記視覚を用いずに行動する者が歩く方向を決定する
前記(2)乃至(6)のいずれかに記載の情報処理装置。
(8)
前記方向決定部は、複数の前記静止画像それぞれで推定された方向を重み付け平均化して、前記視覚を用いずに行動する者が向いている方向を推定して、前記視覚を用いずに行動する者が歩く方向を決定する
前記(7)に記載の情報処理装置。
(9)
前記リファレンス画像を登録する登録部をさらに備える
前記(2)乃至(8)のいずれかに記載の情報処理装置。
(10)
前記第1のガイド情報生成部は、歩行者自律航法に基づいて、前記決定された方向からのずれ量を演算する演算部を有し、
前記演算部は、前記決定された方向からの横方向のずれ量と、前記決定された方向に対する体の向きのずれを算出する
前記(1)乃至(9)のいずれかに記載の情報処理装置。
(11)
前記方向決定部は、横断歩道の手前で、前記視覚を用いずに行動する者が歩く方向を決定し、
前記第1のガイド情報生成部は、横断歩道を歩行中に、決定された方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成する
前記(1)乃至(10)のいずれかに記載の情報処理装置。
(12)
生成した前記ガイド情報を出力する出力部をさらに備え、
前記ガイド情報は、音声メッセージまたは電子音である
前記(1)乃至(11)のいずれかに記載の情報処理装置。
(13)
前記視覚を用いずに行動する者が歩く通過点に関するガイド情報を生成する第2のガイド情報生成部をさらに備える
前記(1)乃至(12)のいずれかに記載の情報処理装置。
(14)
前記第2のガイド情報生成部は、現在地に近い通過点に対応づけて記憶されている音声を、前記通過点に関するガイド情報として生成する
前記(13)に記載の情報処理装置。
(15)
前記視覚を用いずに行動する者と、その者を追尾する無人航空機との位置関係を認識し、前記視覚を用いずに行動する者を正しい位置へガイドするガイド情報を生成する第3のガイド情報生成部をさらに備える
前記(1)乃至(14)のいずれかに記載の情報処理装置。
(16)
無人航空機が撮影した画像と、前記視覚を用いずに行動する者の現在地を撮影した現在地画像とを比較して、前記視覚を用いずに行動する者を正しい位置へガイドするガイド情報を生成する第3のガイド情報生成部をさらに備える
前記(1)乃至(14)のいずれかに記載の情報処理装置。
(17)
前記情報処理装置は、スマートフォンであり、
スマートフォンカバーが閉じられたかどうかを検出する検出部と、
前記スマートフォンカバーが閉じられた場合に、ディスプレイの表示を切り替える表示制御部と
をさらに備える
前記(1)乃至(16)のいずれかに記載の情報処理装置。
(18)
前記スマートフォンカバーと近接通信を行う近接通信部をさらに備え、
前記表示制御部は、前記スマートフォンカバーが閉じられた場合に、近接通信により取得した情報に基づいて、ディスプレイの表示を切り替える
前記(17)に記載の情報処理装置。
(19)
情報処理装置が、
視覚を用いずに行動する者が歩く方向を決定し、
決定した方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成する
ステップを含む情報処理方法。
(20)
コンピュータを、
視覚を用いずに行動する者が歩く方向を決定する方向決定部と、
決定した方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成するガイド情報生成部
として機能させるためのプログラム。
マイクロホン, 141 音声登録部, 142 通過点通知部, 191 近距離無線通信部, 211 Ref画像登録部, 212 ガイド情報生成部, 231 スマートフォンカバー, 241 前面カバー, 254 磁石, 255 NFCタグ, 271 磁力検出部, 272 NFC通信部, 301 CPU, 303 ROM, 305 RAM, 315 入力装置, 317 出力装置, 319 ストレージ装置, 333 撮像装置, 335 センサ
Claims (17)
- 現時点で撮影された静止画像における、対応する特徴点どうしをマッチングする領域を、前記静止画像に映る信号の色に基づいて変化させ、
予め記憶されているリファレンス画像の特徴点と対応する特徴点を前記静止画像から抽出し、対応する特徴点どうしをマッチングしたマッチング結果に基づいて、視覚を用いずに行動する者が歩く方向を決定する方向決定部と、
決定された方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成する第1のガイド情報生成部と
を備える情報処理装置。 - 前記方向決定部は、前記静止画像を二値化してから、前記リファレンス画像と前記静止画像とをマッチングする
請求項1に記載の情報処理装置。 - 前記方向決定部は、前記静止画像内の方位と、前記静止画像を撮影したときの撮影部の方位との演算により、前記視覚を用いずに行動する者が向いている方向を推定して、前記視覚を用いずに行動する者が歩く方向を決定する
請求項1に記載の情報処理装置。 - 前記方向決定部は、複数の前記静止画像それぞれで推定された方向情報を統合して、前記視覚を用いずに行動する者が向いている方向を推定して、前記視覚を用いずに行動する者が歩く方向を決定する
請求項1に記載の情報処理装置。 - 前記方向決定部は、複数の前記静止画像それぞれで推定された方向を重み付け平均化して、前記視覚を用いずに行動する者が向いている方向を推定して、前記視覚を用いずに行動する者が歩く方向を決定する
請求項4に記載の情報処理装置。 - 前記リファレンス画像を登録する登録部をさらに備える
請求項1に記載の情報処理装置。 - 前記第1のガイド情報生成部は、歩行者自律航法に基づいて、前記決定された方向からのずれ量を演算する演算部を有し、
前記演算部は、前記決定された方向からの横方向のずれ量と、前記決定された方向に対する体の向きのずれを算出する
請求項1に記載の情報処理装置。 - 前記方向決定部は、横断歩道の手前で、前記視覚を用いずに行動する者が歩く方向を決定し、
前記第1のガイド情報生成部は、横断歩道を歩行中に、決定された方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成する
請求項1に記載の情報処理装置。 - 生成した前記ガイド情報を出力する出力部をさらに備え、
前記ガイド情報は、音声メッセージまたは電子音である
請求項1に記載の情報処理装置。 - 前記視覚を用いずに行動する者が歩く通過点に関するガイド情報を生成する第2のガイド情報生成部をさらに備える
請求項1に記載の情報処理装置。 - 前記第2のガイド情報生成部は、現在地に近い通過点に対応づけて記憶されている音声を、前記通過点に関するガイド情報として生成する
請求項10に記載の情報処理装置。 - 前記視覚を用いずに行動する者と、その者を追尾する無人航空機との位置関係を認識し、前記視覚を用いずに行動する者を正しい位置へガイドするガイド情報を生成する第3のガイド情報生成部をさらに備える
請求項1に記載の情報処理装置。 - 無人航空機が撮影した画像と、前記視覚を用いずに行動する者の現在地を撮影した現在地画像とを比較して、前記視覚を用いずに行動する者を正しい位置へガイドするガイド情報を生成する第3のガイド情報生成部をさらに備える
請求項1に記載の情報処理装置。 - 前記情報処理装置は、スマートフォンであり、
スマートフォンカバーが閉じられたかどうかを検出する検出部と、
前記スマートフォンカバーが閉じられた場合に、ディスプレイの表示を切り替える表示制御部と
をさらに備える
請求項1に記載の情報処理装置。 - 前記スマートフォンカバーと近接通信を行う近接通信部をさらに備え、
前記表示制御部は、前記スマートフォンカバーが閉じられた場合に、近接通信により取得した情報に基づいて、ディスプレイの表示を切り替える
請求項14に記載の情報処理装置。 - 情報処理装置が、
現時点で撮影された静止画像における、対応する特徴点どうしをマッチングする領域を、前記静止画像に映る信号の色に基づいて変化させ、
予め記憶されているリファレンス画像の特徴点と対応する特徴点を前記静止画像から抽出し、対応する特徴点どうしをマッチングしたマッチング結果に基づいて、視覚を用いずに行動する者が歩く方向を決定し、
決定した方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成する
ステップを含む情報処理方法。 - コンピュータを、
現時点で撮影された静止画像における、対応する特徴点どうしをマッチングする領域を、前記静止画像に映る信号の色に基づいて変化させ、
予め記憶されているリファレンス画像の特徴点と対応する特徴点を前記静止画像から抽出し、対応する特徴点どうしをマッチングしたマッチング結果に基づいて、視覚を用いずに行動する者が歩く方向を決定する方向決定部と、
決定した方向へ前記視覚を用いずに行動する者が歩くためのガイド情報を生成するガイド情報生成部
として機能させるためのプログラム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016154480 | 2016-08-05 | ||
| JP2016154480 | 2016-08-05 | ||
| PCT/JP2017/023239 WO2018025531A1 (ja) | 2016-08-05 | 2017-06-23 | 情報処理装置、情報処理方法、およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2018025531A1 JPWO2018025531A1 (ja) | 2019-05-30 |
| JP6948325B2 true JP6948325B2 (ja) | 2021-10-13 |
Family
ID=61073858
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018531770A Active JP6948325B2 (ja) | 2016-08-05 | 2017-06-23 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (2) | US10765588B2 (ja) |
| JP (1) | JP6948325B2 (ja) |
| WO (1) | WO2018025531A1 (ja) |
Families Citing this family (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10827949B2 (en) | 2016-04-06 | 2020-11-10 | Cianna Medical, Inc. | Reflector markers and systems and methods for identifying and locating them |
| WO2018025531A1 (ja) * | 2016-08-05 | 2018-02-08 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
| JP6869841B2 (ja) * | 2017-07-20 | 2021-05-12 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法、およびプログラム |
| US10909372B2 (en) * | 2018-05-28 | 2021-02-02 | Microsoft Technology Licensing, Llc | Assistive device for the visually-impaired |
| US11883150B2 (en) | 2018-09-06 | 2024-01-30 | Cianna Medical, Inc. | Systems for identifying and locating reflectors using orthogonal sequences of reflector switching |
| US10639228B1 (en) * | 2019-02-26 | 2020-05-05 | Stria Labs, Inc. | Wearable computing system for assisting a visually impaired user |
| AT522549B1 (de) * | 2019-04-18 | 2022-09-15 | Dreamwaves Gmbh | Verfahren zum Leiten von Verkehrsteilnehmern |
| EP3985354B1 (en) * | 2019-06-12 | 2025-12-03 | NTT, Inc. | Direction presentation apparatus, direction presentation method, and program |
| JP7303522B2 (ja) * | 2019-08-01 | 2023-07-05 | 株式会社Nttドコモ | 歩行制御装置 |
| WO2021092032A1 (en) | 2019-11-05 | 2021-05-14 | Cianna Medical, Inc. | Systems and methods for imaging a body region using implanted markers |
| KR102240820B1 (ko) * | 2020-04-22 | 2021-04-15 | 김명란 | 스마트기기 수납용 서적 |
| JP2021174467A (ja) * | 2020-04-30 | 2021-11-01 | トヨタ自動車株式会社 | 情報処理装置 |
| CN112135026B (zh) * | 2020-09-23 | 2022-02-25 | 北京一华明升科技有限公司 | 基于激光方向传感器和人工智能云台的识路装置及方法 |
| JP7415909B2 (ja) * | 2020-12-15 | 2024-01-17 | トヨタ自動車株式会社 | 歩行支援システム |
| JP2022107967A (ja) | 2021-01-12 | 2022-07-25 | トヨタ自動車株式会社 | 歩行支援システム |
| JP2022112897A (ja) * | 2021-01-22 | 2022-08-03 | トヨタ自動車株式会社 | 情報処理装置及び情報処理方法 |
| JP2022172511A (ja) | 2021-05-06 | 2022-11-17 | トヨタ自動車株式会社 | 歩行支援システム |
| JP2022175230A (ja) | 2021-05-13 | 2022-11-25 | トヨタ自動車株式会社 | 歩行支援システム |
| JP7611774B2 (ja) * | 2021-06-04 | 2025-01-10 | 綜合警備保障株式会社 | 遠隔支援装置、遠隔支援方法、遠隔支援プログラム及び遠隔支援システム |
| JP2023027581A (ja) | 2021-08-17 | 2023-03-02 | トヨタ自動車株式会社 | 移動支援装置、情報処理方法及びプログラム |
| JP2023034404A (ja) * | 2021-08-31 | 2023-03-13 | トヨタ自動車株式会社 | 歩行情報提供システム |
| CN116959228A (zh) * | 2022-04-13 | 2023-10-27 | 华为技术有限公司 | 一种图像处理方法及相关设备 |
| CN114973028B (zh) * | 2022-05-17 | 2023-02-03 | 中国电子科技集团公司第十研究所 | 一种航拍视频图像实时变化检测方法及系统 |
| US20230414441A1 (en) * | 2022-06-25 | 2023-12-28 | Alan Paine | Line Tracking Cane for the Vision Impaired |
| JP7617644B2 (ja) * | 2022-07-05 | 2025-01-20 | 株式会社コンピュータサイエンス研究所 | 歩行者進行方向判定システム及び歩行者進行方向判定ソフトウェア |
| CN115628745B (zh) * | 2022-11-11 | 2025-09-26 | 北京字跳网络技术有限公司 | 语音导航方法、装置、电子设备及存储介质 |
| JP7651232B1 (ja) * | 2023-07-05 | 2025-03-26 | Loovic株式会社 | 情報処理システム、情報処理方法、及びプログラム |
Family Cites Families (64)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2914424B2 (ja) | 1994-08-29 | 1999-06-28 | ソニー株式会社 | 誘導システム |
| EP1476846B1 (en) * | 2002-02-18 | 2007-07-18 | Precise Biometrics AB | Method and device for recognizing fingerprint data |
| JP2006127055A (ja) * | 2004-10-27 | 2006-05-18 | Denso Corp | 車両用情報提示装置 |
| JP4632793B2 (ja) * | 2005-01-12 | 2011-02-16 | 京セラ株式会社 | ナビゲーション機能付き携帯型端末機 |
| US20060183516A1 (en) * | 2005-02-16 | 2006-08-17 | Ham Byung I | Light therapy element incorporated mobile communication device |
| JP2006251596A (ja) * | 2005-03-14 | 2006-09-21 | Kyoto Institute Of Technology | 視覚障害者支援装置 |
| JP4513740B2 (ja) * | 2005-12-28 | 2010-07-28 | アイシン・エィ・ダブリュ株式会社 | 経路案内システム及び経路案内方法 |
| JP2008117206A (ja) | 2006-11-06 | 2008-05-22 | Seiwa Electric Mfg Co Ltd | 受信器 |
| JP2008177206A (ja) | 2007-01-16 | 2008-07-31 | Dainippon Screen Mfg Co Ltd | 基板保持装置、表面形状測定装置および応力測定装置 |
| US8532328B2 (en) * | 2007-08-16 | 2013-09-10 | The Boeing Company | Methods and apparatus for planetary navigation |
| CA2707912C (en) * | 2007-12-03 | 2016-01-05 | Shimane Prefectural Government | Image recognition device and image recognition method |
| DE112009002024B4 (de) * | 2008-09-03 | 2016-07-28 | Mitsubishi Electric Corp. | Fahrzeug-Bilderfassungssystem |
| JPWO2011068184A1 (ja) * | 2009-12-03 | 2013-04-18 | 独立行政法人産業技術総合研究所 | 移動体の測位装置 |
| US8366054B2 (en) * | 2009-12-17 | 2013-02-05 | The United States Of America As Represented By The Secretary Of The Navy | Hand launchable unmanned aerial vehicle |
| KR20130066579A (ko) * | 2010-03-25 | 2013-06-20 | 레자 타가비 | 목을 이용한 촉각 커뮤니케이션 장치 |
| US9508269B2 (en) * | 2010-08-27 | 2016-11-29 | Echo-Sense Inc. | Remote guidance system |
| KR101641513B1 (ko) * | 2010-10-22 | 2016-07-21 | 엘지전자 주식회사 | 이동 단말기의 영상 촬영 장치 및 그 방법 |
| GB2485390A (en) * | 2010-11-12 | 2012-05-16 | Sony Corp | Video Surveillance System that Detects Changes by Comparing a Current Image with a Reference Image |
| CA2769788C (en) * | 2011-03-23 | 2019-08-13 | Trusted Positioning Inc. | Methods of attitude and misalignment estimation for constraint free portable navigation |
| KR20120140486A (ko) * | 2011-06-21 | 2012-12-31 | 삼성전자주식회사 | 휴대용 단말기에서 보행 안내 서비스를 제공하기 위한 장치 및 방법 |
| JP2013038623A (ja) * | 2011-08-09 | 2013-02-21 | Sony Corp | 画像符号化装置と画像符号化方法およびプログラム |
| US8917902B2 (en) * | 2011-08-24 | 2014-12-23 | The Nielsen Company (Us), Llc | Image overlaying and comparison for inventory display auditing |
| US9155675B2 (en) * | 2011-10-12 | 2015-10-13 | Board Of Trustees Of The University Of Arkansas | Portable robotic device |
| US20130250078A1 (en) * | 2012-03-26 | 2013-09-26 | Technology Dynamics Inc. | Visual aid |
| TWI538668B (zh) * | 2012-03-27 | 2016-06-21 | 鴻海精密工業股份有限公司 | 電子導盲裝置 |
| US9420286B2 (en) * | 2012-06-15 | 2016-08-16 | Qualcomm Incorporated | Temporal motion vector prediction in HEVC and its extensions |
| US9154888B2 (en) * | 2012-06-26 | 2015-10-06 | Eastern Ontario Audiology Consultants | System and method for hearing aid appraisal and selection |
| WO2014039552A1 (en) * | 2012-09-04 | 2014-03-13 | Sensor Platforms, Inc. | System and method for estimating the direction of motion of an entity associated with a device |
| US9411824B2 (en) * | 2012-10-26 | 2016-08-09 | Lida Huang | Method and apparatus for image retrieval |
| ITTO20121070A1 (it) * | 2012-12-13 | 2014-06-14 | Istituto Superiore Mario Boella Sul Le Tecnologie | Sistema di comunicazione senza fili a corto raggio comprendente un sensore a corto raggio di comunicazione e un terminale mobile avente funzionalita' migliorate, e relativo metodo |
| JP2014137752A (ja) * | 2013-01-17 | 2014-07-28 | Jb Craft:Kk | 視覚障害者用の歩行誘導システム、視覚障害者用の歩行誘導方法、サーバ及び該サーバで実行することが可能なコンピュータプログラム |
| US9723251B2 (en) * | 2013-04-23 | 2017-08-01 | Jaacob I. SLOTKY | Technique for image acquisition and management |
| US20150095071A1 (en) * | 2013-09-29 | 2015-04-02 | Donan Engineering Co., Inc. | Systems and Methods for Identifying a Subrogation Opportunity for a Potential Subrogation Claim |
| US9426365B2 (en) * | 2013-11-01 | 2016-08-23 | The Lightco Inc. | Image stabilization related methods and apparatus |
| US10024679B2 (en) * | 2014-01-14 | 2018-07-17 | Toyota Motor Engineering & Manufacturing North America, Inc. | Smart necklace with stereo vision and onboard processing |
| US9629774B2 (en) * | 2014-01-14 | 2017-04-25 | Toyota Motor Engineering & Manufacturing North America, Inc. | Smart necklace with stereo vision and onboard processing |
| US9915545B2 (en) * | 2014-01-14 | 2018-03-13 | Toyota Motor Engineering & Manufacturing North America, Inc. | Smart necklace with stereo vision and onboard processing |
| KR102161059B1 (ko) * | 2014-03-04 | 2020-10-20 | 삼성전자주식회사 | 모바일 전자장치, 그를 위한 액세서리 디바이스 및 그 액세서리 디바이스를 구비한 전자장치 |
| WO2015165004A1 (en) * | 2014-04-28 | 2015-11-05 | Intel Corporation | Heading estimation for determining a user's location |
| US20150324646A1 (en) * | 2014-05-08 | 2015-11-12 | Brown University | Navigation methods and apparatus for the visually impaired |
| EP3140783A4 (en) * | 2014-05-09 | 2017-12-13 | Fio Corporation | Discrete edge binning template matching system, method and computer readable medium |
| JP2015213620A (ja) | 2014-05-09 | 2015-12-03 | 享司 大塚 | 歩行補助器具 |
| KR102293482B1 (ko) * | 2014-05-30 | 2021-08-26 | 삼성전자주식회사 | 전자 장치 및 전자 장치에서의 사용자 인터페이스 방법과 전자 장치의 커버 |
| TW201603791A (zh) * | 2014-07-31 | 2016-02-01 | Richplay Information Co Ltd | 導盲行動裝置定位系統及其運作方法 |
| US9838846B1 (en) * | 2014-08-01 | 2017-12-05 | Google Llc | Extraction of walking direction from device orientation and reconstruction of device orientation during optimization of walking direction |
| US9170117B1 (en) * | 2014-08-21 | 2015-10-27 | International Business Machines Corporation | Unmanned aerial vehicle navigation assistance |
| EP2992778A3 (en) * | 2014-09-08 | 2016-04-27 | Utility Associates, Inc. | Video recording device holster |
| JP2016067855A (ja) * | 2014-09-22 | 2016-05-09 | 達鋭 橋本 | 視覚障害者用歩行案内装置 |
| US9305353B1 (en) * | 2014-09-23 | 2016-04-05 | Qualcomm Incorporated | Landmark based positioning |
| US10404950B2 (en) * | 2014-11-04 | 2019-09-03 | iMerciv Inc. | Apparatus and method for detecting objects |
| KR102335738B1 (ko) * | 2014-12-10 | 2021-12-06 | 삼성전자주식회사 | 디바이스의 회전각 결정 방법 및 이를 위한 장치 |
| US9536452B2 (en) * | 2015-05-13 | 2017-01-03 | Abl Ip Holding Llc | System and method to assist users having reduced visual capability utilizing lighting device provided information |
| US9677888B2 (en) * | 2015-06-11 | 2017-06-13 | SenionLab AB | Determining sensor orientation in indoor navigation |
| US20180185232A1 (en) * | 2015-06-19 | 2018-07-05 | Ashkon Namdar | Wearable navigation system for blind or visually impaired persons with wireless assistance |
| WO2017002240A1 (ja) * | 2015-07-01 | 2017-01-05 | 株式会社日立国際電気 | 監視システム、撮影側装置、及び照合側装置 |
| US10497132B2 (en) * | 2015-07-17 | 2019-12-03 | Nec Corporation | Irradiation system, irradiation method, and program storage medium |
| US10912281B2 (en) * | 2016-02-24 | 2021-02-09 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for communicating with a guide animal |
| US10667981B2 (en) * | 2016-02-29 | 2020-06-02 | Mentor Acquisition One, Llc | Reading assistance system for visually impaired |
| US10188580B2 (en) * | 2016-05-09 | 2019-01-29 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for providing environment information using an unmanned vehicle |
| US10091414B2 (en) * | 2016-06-24 | 2018-10-02 | International Business Machines Corporation | Methods and systems to obtain desired self-pictures with an image capture device |
| US20180012377A1 (en) * | 2016-07-08 | 2018-01-11 | Toyota Motor Engineering & Manufacturing North America, Inc. | Vision-assist devices and methods of calibrating vision-assist devices |
| US20180017393A1 (en) * | 2016-07-14 | 2018-01-18 | Robert Willson | Handicap assist apparatus |
| WO2018025030A2 (en) * | 2016-08-01 | 2018-02-08 | Zone V Ltd | Smartphone accessory for visually impaired or elderly users |
| WO2018025531A1 (ja) * | 2016-08-05 | 2018-02-08 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
-
2017
- 2017-06-23 WO PCT/JP2017/023239 patent/WO2018025531A1/ja not_active Ceased
- 2017-06-23 JP JP2018531770A patent/JP6948325B2/ja active Active
- 2017-06-23 US US16/315,019 patent/US10765588B2/en active Active
-
2020
- 2020-08-10 US US16/989,230 patent/US11744766B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| US11744766B2 (en) | 2023-09-05 |
| US20190307632A1 (en) | 2019-10-10 |
| US20200368098A1 (en) | 2020-11-26 |
| WO2018025531A1 (ja) | 2018-02-08 |
| US10765588B2 (en) | 2020-09-08 |
| JPWO2018025531A1 (ja) | 2019-05-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6948325B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
| US10636150B2 (en) | Subject tracking systems for a movable imaging system | |
| US11340072B2 (en) | Information processing apparatus, information processing method, and recording medium | |
| US9084068B2 (en) | Sensor-based placement of sound in video recording | |
| Khairnar et al. | Partha: A visually impaired assistance system | |
| JP2008227877A (ja) | 映像情報処理装置 | |
| JP2017129904A (ja) | 情報処理装置、情報処理方法、及び記録媒体 | |
| CN110686694A (zh) | 导航方法、装置、可穿戴电子设备及计算机可读存储介质 | |
| EP3848674A1 (en) | Location signaling with respect to an autonomous vehicle and a rider | |
| JP2016045874A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
| US20210154827A1 (en) | System and Method for Assisting a Visually Impaired Individual | |
| CN113678171A (zh) | 信息处理装置、信息处理方法和记录介质 | |
| KR102190743B1 (ko) | 로봇과 인터랙션하는 증강현실 서비스 제공 장치 및 방법 | |
| WO2015197908A1 (en) | A method and technical equipment for determining a pose of a device | |
| JP2014137752A (ja) | 視覚障害者用の歩行誘導システム、視覚障害者用の歩行誘導方法、サーバ及び該サーバで実行することが可能なコンピュータプログラム | |
| JP7245363B2 (ja) | 測位方法及び装置、電子機器並びに記憶媒体 | |
| JP6822571B2 (ja) | 端末装置、危険予測方法、プログラム | |
| JP7652078B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
| JP2021103410A (ja) | 移動体及び撮像システム | |
| JP2022186346A (ja) | 遠隔支援装置、遠隔支援方法、遠隔支援プログラム及び遠隔支援システム | |
| JP2013179614A (ja) | 撮像装置 | |
| CN114071003B (zh) | 一种基于光通信装置的拍摄方法和系统 | |
| WO2020137685A1 (ja) | 制御装置、制御方法、プログラム、及び制御システム | |
| KR20240105548A (ko) | 도로 이벤트의 위치 정보 도출 방법 및 그 장치 | |
| Tenze et al. | QuidEst: Real-Time Monocular Depth Map to Audio Signal Conversion Algorithm |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190208 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190214 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200617 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210608 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210805 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210824 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210917 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6948325 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |