JP2008006519A - ロボット装置及びロボット装置の制御方法 - Google Patents
ロボット装置及びロボット装置の制御方法 Download PDFInfo
- Publication number
- JP2008006519A JP2008006519A JP2006177361A JP2006177361A JP2008006519A JP 2008006519 A JP2008006519 A JP 2008006519A JP 2006177361 A JP2006177361 A JP 2006177361A JP 2006177361 A JP2006177361 A JP 2006177361A JP 2008006519 A JP2008006519 A JP 2008006519A
- Authority
- JP
- Japan
- Prior art keywords
- dimensional data
- robot apparatus
- robot
- image
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/021—Optical sensing devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Manipulator (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
【解決手段】ロボット1は、外部環境を視覚的に認識する視覚センサ101と、視覚センサ101による取得情報に基づいて、外部環境の3次元データを作成する環境復元部102と、3次元データの中に、ロボット1の身体の像が含まれるか否かを判定し、3次元データの中にロボット1の身体の像が含まれると判定された場合に、3次元データ中におけるロボット1の身体の像が占める領域を特定する身体推定部104とを備える。
【選択図】図2
Description
本実施の形態にかかるロボット1の外観を図1に示す。ロボット1の頭部10には、外界の3次元の点群データ(以下、距離画像データと呼ぶ)を取得する視覚センサ101が設けられている。頭部10は、胴体部11に連結されている。また、胴体部11には、腕部12が連結されている。より詳細には、腕部12に含まれる上腕部121が胴体部11と肩関節機構(不図示)を介して連結され、上腕部121と前腕部123とが肘関節部122を介して連結され、前腕部123の先端に手部124が設けられている。さらに、胴体部11にはロボット1の移動機構である車輪131及び132が設けられている。
発明の実施の形態1では、身体推定部104が、視覚センサ101によって取得した距離画像データをポリゴン化した環境データの中から、腕部12が存在する領域を検出する構成を説明した。しかしながら、身体推定部104は、視覚センサ101によって取得した点群データである距離画像データの中から腕部12が存在する領域を検出してもよい。
10 頭部
101 視覚センサ
102 環境復元部
103 環境データ記憶部
104 身体推定部
105 補正部
106 経路計画部
107 制御部
108 アーム駆動部
11 胴体部
12 腕部
121 上腕部
122 肘関節機構
123 前腕部
124 手部
50 物体
Claims (8)
- 外部環境に応じて動作を実行するロボット装置であって、
外部環境を視覚的に認識する視覚センサと、
前記視覚センサによる取得情報に基づいて、前記外部環境の3次元データを作成する3次元データ作成部と、
前記3次元データの中に、当該ロボット装置の身体の像が含まれるか否かを判定する判定部と、
前記判定部により前記3次元データの中に当該ロボット装置の身体の像が含まれると判定された場合に、前記3次元データ中における当該ロボット装置の身体の像が占める領域を特定する領域特定部と、
を備えるロボット装置。 - 前記領域特定部による特定は、前記3次元データと当該ロボット装置の身体モデルとを照合することにより行う請求項1に記載のロボット装置。
- 当該ロボット装置の身体の位置及び姿勢を算出する算出部をさらに備え、
前記領域特定部は、前記算出部により算出された位置及び姿勢に基づいて、前記身体モデルと照合される前記3次元データの領域を特定する請求項2に記載のロボット装置。 - 前記領域特定部による特定結果と、前記3次元データとに基づいて前記ロボット装置の動作内容を決定する動作計画部を備える請求項1乃至3のいずれかに記載のロボット装置。
- 前記ロボット装置の身体の像を前記3次元データから除去する補正部と、
前記補正部によって補正された3次元データに基づいて、前記ロボット装置の動作内容を決定する動作計画部とをさらに備える請求項1乃至3のいずれかに記載のロボット装置。 - 外部環境に応じて動作を実行するロボット装置の制御方法であって、
外部環境の3次元データの中に、当該ロボット装置の身体の像が含まれるか否かを判定し、
前記3次元データの中に当該ロボット装置の身体の像が含まれると判定された場合に、前記3次元データ中における当該ロボット装置の身体の像が占める領域を特定し、
前記領域の特定結果と、前記3次元データとに基づいて前記ロボット装置の動作内容を決定することとした制御方法。 - 外部環境に応じて動作を実行するロボット装置の制御方法であって、
外部環境の3次元データを取得し、
前記ロボット装置の身体の位置及び姿勢を算出し、
算出した前記ロボット装置の身体の位置及び姿勢に基づいて、前記3次元データから処理対象領域を選択し、
選択した前記処理対象領域と当該ロボット装置の身体モデルとの照合により、前記3次元データの中で前記ロボット装置の身体の像が含まれる身体領域を検出することとした制御方法。 - 前記身体領域の検出結果に応じて前記3次元データを補正し、
補正後の3次元データに基づいて前記ロボット装置の動作内容を決定することとした請求項7に記載の制御方法。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2006177361A JP4961860B2 (ja) | 2006-06-27 | 2006-06-27 | ロボット装置及びロボット装置の制御方法 |
| EP07767653A EP2033748A1 (en) | 2006-06-27 | 2007-06-27 | Robot device and robot device control method |
| US12/305,040 US20090208094A1 (en) | 2006-06-27 | 2007-06-27 | Robot apparatus and method of controlling same |
| PCT/JP2007/062850 WO2008001793A1 (fr) | 2006-06-27 | 2007-06-27 | Dispositif de robot et son procédé de commande |
| CN2007800240821A CN101479082B (zh) | 2006-06-27 | 2007-06-27 | 机器人装置和机器人装置的控制方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2006177361A JP4961860B2 (ja) | 2006-06-27 | 2006-06-27 | ロボット装置及びロボット装置の制御方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2008006519A true JP2008006519A (ja) | 2008-01-17 |
| JP4961860B2 JP4961860B2 (ja) | 2012-06-27 |
Family
ID=38845557
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2006177361A Expired - Fee Related JP4961860B2 (ja) | 2006-06-27 | 2006-06-27 | ロボット装置及びロボット装置の制御方法 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20090208094A1 (ja) |
| EP (1) | EP2033748A1 (ja) |
| JP (1) | JP4961860B2 (ja) |
| CN (1) | CN101479082B (ja) |
| WO (1) | WO2008001793A1 (ja) |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010092343A (ja) * | 2008-10-09 | 2010-04-22 | Sharp Corp | 自走式移動体の制御システム |
| KR20100081588A (ko) * | 2009-01-06 | 2010-07-15 | 삼성전자주식회사 | 로봇 및 그 제어방법 |
| JP2010172992A (ja) * | 2009-01-28 | 2010-08-12 | Toyota Motor Corp | ロボット制御装置及び方法 |
| WO2012093473A1 (ja) * | 2011-01-05 | 2012-07-12 | 財団法人機械振興協会 | 工具衝突防止システム及び工具衝突防止方法 |
| JP2014197403A (ja) * | 2010-05-20 | 2014-10-16 | アイロボット コーポレイション | 自動推進式テレビ会議プラットホーム |
| JP2015147256A (ja) * | 2014-02-04 | 2015-08-20 | セイコーエプソン株式会社 | ロボット、ロボットシステム、制御装置、及び制御方法 |
| WO2020110574A1 (ja) * | 2018-11-27 | 2020-06-04 | ソニー株式会社 | 制御装置、制御方法及びプログラム |
| JP2020194253A (ja) * | 2019-05-27 | 2020-12-03 | ヤンマーパワーテクノロジー株式会社 | 障害物判定システム及び自律走行システム |
| JP2021526081A (ja) * | 2018-05-30 | 2021-09-30 | ソニーグループ株式会社 | 制御装置、制御方法、ロボット装置、およびプログラム |
| WO2022091895A1 (ja) * | 2020-10-30 | 2022-05-05 | パナソニックIpマネジメント株式会社 | ロボット制御方法 |
| WO2023042464A1 (ja) * | 2021-09-15 | 2023-03-23 | ソニーグループ株式会社 | ロボット装置、およびロボット制御方法 |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101619076B1 (ko) * | 2009-08-25 | 2016-05-10 | 삼성전자 주식회사 | 모바일 플랫폼의 동적 물체 검출 및 추적 방법 |
| CN103620341B (zh) * | 2011-06-20 | 2016-01-20 | 株式会社安川电机 | 3维形状测量装置和机器人系统 |
| CN102608351B (zh) * | 2012-02-14 | 2014-12-17 | 三一重工股份有限公司 | 机械臂三维姿态的检测方法和系统、及控制其运行的系统 |
| JP2014024162A (ja) * | 2012-07-27 | 2014-02-06 | Seiko Epson Corp | ロボットシステム、ロボット制御装置、ロボット制御方法及びロボット制御プログラム |
| JP2015056057A (ja) * | 2013-09-12 | 2015-03-23 | トヨタ自動車株式会社 | 姿勢推定方法及びロボット |
| CN104608125B (zh) * | 2013-11-01 | 2019-12-17 | 精工爱普生株式会社 | 机器人、控制装置以及机器人系统 |
| CN104827457B (zh) * | 2014-02-07 | 2016-09-14 | 广明光电股份有限公司 | 机器手臂的教导装置及方法 |
| US9625582B2 (en) | 2015-03-25 | 2017-04-18 | Google Inc. | Vehicle with multiple light detection and ranging devices (LIDARs) |
| JP6481635B2 (ja) * | 2016-02-15 | 2019-03-13 | オムロン株式会社 | 接触判定装置、制御装置、接触判定システム、接触判定方法及び接触判定プログラム |
| CA3022383A1 (en) * | 2016-04-29 | 2017-11-02 | Softbank Robotics Europe | A mobile robot with enhanced balanced motion and behavior capabilities |
| US10534962B2 (en) | 2017-06-17 | 2020-01-14 | Matterport, Inc. | Automated classification based on photo-realistic image/model mappings |
| TWI650626B (zh) * | 2017-08-15 | 2019-02-11 | 由田新技股份有限公司 | 基於三維影像之機械手臂加工方法及系統 |
| JP2019185664A (ja) * | 2018-04-17 | 2019-10-24 | トヨタ自動車株式会社 | 制御装置、物体検出システム、物体検出方法及びプログラム |
| CN110782982B (zh) * | 2019-12-05 | 2022-05-31 | 中科尚易健康科技(北京)有限公司 | 一种基于二维码的人体经络路径方法 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002362302A (ja) * | 2001-06-01 | 2002-12-18 | Sogo Jidosha Anzen Kogai Gijutsu Kenkyu Kumiai | 歩行者検出装置 |
| JP2003141546A (ja) * | 2001-11-07 | 2003-05-16 | Japan Science & Technology Corp | 画像処理方法 |
| JP2003302470A (ja) * | 2002-04-05 | 2003-10-24 | Sogo Jidosha Anzen Kogai Gijutsu Kenkyu Kumiai | 歩行者検出装置および歩行者検出方法 |
| JP2004001122A (ja) * | 2002-05-31 | 2004-01-08 | Suzuki Motor Corp | ピッキング装置 |
| JP2004276165A (ja) * | 2003-03-14 | 2004-10-07 | Sony Corp | ロボット装置及びロボット装置における画像信号処理方法 |
| JP2005001022A (ja) * | 2003-06-10 | 2005-01-06 | Yaskawa Electric Corp | 物体モデル作成装置及びロボット制御装置 |
| JP2005078445A (ja) * | 2003-09-01 | 2005-03-24 | Matsushita Electric Works Ltd | 画像処理装置 |
| JP2005140603A (ja) * | 2003-11-06 | 2005-06-02 | Shigeki Kobayashi | 実装基板検査装置 |
| JP2005144606A (ja) * | 2003-11-17 | 2005-06-09 | Yaskawa Electric Corp | 移動ロボット |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101531216B (zh) * | 2003-03-27 | 2011-01-05 | 索尼株式会社 | 机器人设备及其控制方法 |
| JP3994950B2 (ja) * | 2003-09-19 | 2007-10-24 | ソニー株式会社 | 環境認識装置及び方法、経路計画装置及び方法、並びにロボット装置 |
| JP2006021300A (ja) * | 2004-07-09 | 2006-01-26 | Sharp Corp | 推定装置および把持装置 |
| JP4137862B2 (ja) * | 2004-10-05 | 2008-08-20 | ファナック株式会社 | 計測装置及びロボット制御装置 |
-
2006
- 2006-06-27 JP JP2006177361A patent/JP4961860B2/ja not_active Expired - Fee Related
-
2007
- 2007-06-27 US US12/305,040 patent/US20090208094A1/en not_active Abandoned
- 2007-06-27 WO PCT/JP2007/062850 patent/WO2008001793A1/ja not_active Ceased
- 2007-06-27 EP EP07767653A patent/EP2033748A1/en not_active Withdrawn
- 2007-06-27 CN CN2007800240821A patent/CN101479082B/zh not_active Expired - Fee Related
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002362302A (ja) * | 2001-06-01 | 2002-12-18 | Sogo Jidosha Anzen Kogai Gijutsu Kenkyu Kumiai | 歩行者検出装置 |
| JP2003141546A (ja) * | 2001-11-07 | 2003-05-16 | Japan Science & Technology Corp | 画像処理方法 |
| JP2003302470A (ja) * | 2002-04-05 | 2003-10-24 | Sogo Jidosha Anzen Kogai Gijutsu Kenkyu Kumiai | 歩行者検出装置および歩行者検出方法 |
| JP2004001122A (ja) * | 2002-05-31 | 2004-01-08 | Suzuki Motor Corp | ピッキング装置 |
| JP2004276165A (ja) * | 2003-03-14 | 2004-10-07 | Sony Corp | ロボット装置及びロボット装置における画像信号処理方法 |
| JP2005001022A (ja) * | 2003-06-10 | 2005-01-06 | Yaskawa Electric Corp | 物体モデル作成装置及びロボット制御装置 |
| JP2005078445A (ja) * | 2003-09-01 | 2005-03-24 | Matsushita Electric Works Ltd | 画像処理装置 |
| JP2005140603A (ja) * | 2003-11-06 | 2005-06-02 | Shigeki Kobayashi | 実装基板検査装置 |
| JP2005144606A (ja) * | 2003-11-17 | 2005-06-09 | Yaskawa Electric Corp | 移動ロボット |
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010092343A (ja) * | 2008-10-09 | 2010-04-22 | Sharp Corp | 自走式移動体の制御システム |
| KR20100081588A (ko) * | 2009-01-06 | 2010-07-15 | 삼성전자주식회사 | 로봇 및 그 제어방법 |
| KR101581197B1 (ko) * | 2009-01-06 | 2015-12-30 | 삼성전자주식회사 | 로봇 및 그 제어방법 |
| JP2010172992A (ja) * | 2009-01-28 | 2010-08-12 | Toyota Motor Corp | ロボット制御装置及び方法 |
| JP2014197403A (ja) * | 2010-05-20 | 2014-10-16 | アイロボット コーポレイション | 自動推進式テレビ会議プラットホーム |
| WO2012093473A1 (ja) * | 2011-01-05 | 2012-07-12 | 財団法人機械振興協会 | 工具衝突防止システム及び工具衝突防止方法 |
| JP5161373B2 (ja) * | 2011-01-05 | 2013-03-13 | 一般財団法人機械振興協会 | 工具衝突防止システム及び工具衝突防止方法 |
| JP2015147256A (ja) * | 2014-02-04 | 2015-08-20 | セイコーエプソン株式会社 | ロボット、ロボットシステム、制御装置、及び制御方法 |
| JP2021526081A (ja) * | 2018-05-30 | 2021-09-30 | ソニーグループ株式会社 | 制御装置、制御方法、ロボット装置、およびプログラム |
| US11803189B2 (en) | 2018-05-30 | 2023-10-31 | Sony Corporation | Control apparatus, control method, robot apparatus and program |
| WO2020110574A1 (ja) * | 2018-11-27 | 2020-06-04 | ソニー株式会社 | 制御装置、制御方法及びプログラム |
| WO2020240983A1 (ja) * | 2019-05-27 | 2020-12-03 | ヤンマー株式会社 | 障害物判定システム及び自律走行システム |
| JP2020194253A (ja) * | 2019-05-27 | 2020-12-03 | ヤンマーパワーテクノロジー株式会社 | 障害物判定システム及び自律走行システム |
| WO2022091895A1 (ja) * | 2020-10-30 | 2022-05-05 | パナソニックIpマネジメント株式会社 | ロボット制御方法 |
| JPWO2022091895A1 (ja) * | 2020-10-30 | 2022-05-05 | ||
| WO2023042464A1 (ja) * | 2021-09-15 | 2023-03-23 | ソニーグループ株式会社 | ロボット装置、およびロボット制御方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2008001793A1 (fr) | 2008-01-03 |
| EP2033748A1 (en) | 2009-03-11 |
| JP4961860B2 (ja) | 2012-06-27 |
| CN101479082A (zh) | 2009-07-08 |
| CN101479082B (zh) | 2011-07-13 |
| US20090208094A1 (en) | 2009-08-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4961860B2 (ja) | ロボット装置及びロボット装置の制御方法 | |
| JP4645601B2 (ja) | 環境地図の生成方法及び移動ロボット | |
| JP6180087B2 (ja) | 情報処理装置及び情報処理方法 | |
| JP6855492B2 (ja) | ロボットシステム、ロボットシステム制御装置、およびロボットシステム制御方法 | |
| JP6816070B2 (ja) | 干渉回避装置およびロボットシステム | |
| KR101913332B1 (ko) | 이동 장치 및 이동 장치의 위치 인식 방법 | |
| JP7111114B2 (ja) | 情報処理装置、情報処理方法及び情報処理システム | |
| WO2007094420A1 (ja) | 移動型ロボット | |
| US9905016B2 (en) | Robot identification system | |
| JP6777670B2 (ja) | 画像処理を利用してロボットの教示を補正するロボットシステム | |
| JP2020160594A (ja) | 自己位置推定方法 | |
| JP2008168372A (ja) | ロボット装置及び形状認識方法 | |
| JP2007011978A (ja) | ロボットの運動制御装置 | |
| CN119458364A (zh) | 一种基于三维视觉的人形机器人抓取方法 | |
| JP4849178B2 (ja) | 移動型ロボット | |
| JP2007319938A (ja) | ロボット装置及び物体の三次元形状の取得方法 | |
| US9193070B2 (en) | Robot, control system for controlling motion of a controlled object, and recording medium for control program for controlling motion of a controlled object | |
| JP2006224291A (ja) | ロボットシステム | |
| CN116100562B (zh) | 多机器人协同上下料的视觉引导方法及系统 | |
| CN115023588A (zh) | 用于估计系统状态的方法和装置 | |
| EP4370286B1 (en) | Teaching a robot system using hand gesture control and visual-inertial-odometry | |
| JP7448884B2 (ja) | 計測システム、計測装置、計測方法、及び計測プログラム | |
| WO2023013698A1 (ja) | ロボット制御装置、ロボット制御システム、及びロボット制御方法 | |
| CN120941408A (zh) | 机器人控制方法及系统 | |
| US20250249594A1 (en) | Universal manipulation interface |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100413 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100610 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101207 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110607 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110629 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111101 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111117 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120228 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120312 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 4961860 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150406 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |