[go: up one dir, main page]

JP6381998B2 - 医用画像処理装置及び医用画像処理方法 - Google Patents

医用画像処理装置及び医用画像処理方法 Download PDF

Info

Publication number
JP6381998B2
JP6381998B2 JP2014137147A JP2014137147A JP6381998B2 JP 6381998 B2 JP6381998 B2 JP 6381998B2 JP 2014137147 A JP2014137147 A JP 2014137147A JP 2014137147 A JP2014137147 A JP 2014137147A JP 6381998 B2 JP6381998 B2 JP 6381998B2
Authority
JP
Japan
Prior art keywords
volume data
model
marker
subject
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014137147A
Other languages
English (en)
Other versions
JP2016014792A (ja
Inventor
健治 松江
健治 松江
陽介 柳田
陽介 柳田
泰介 三善
泰介 三善
理 猪狩
理 猪狩
照彦 蛯名
照彦 蛯名
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2014137147A priority Critical patent/JP6381998B2/ja
Publication of JP2016014792A publication Critical patent/JP2016014792A/ja
Application granted granted Critical
Publication of JP6381998B2 publication Critical patent/JP6381998B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明の実施形態は、医用画像処理装置及び医用画像処理方法に関する。
近年、被検体の3次元画像データ(ボリュームデータ)に基づいて臓器などの模型を作製し、その模型を用いて手術シミュレーションを行うことが考えられている。このような模型を作製する装置として、例えば、高速造形法(ラピッドプロトタイピング)を用いた立体造形装置(いわゆる3Dプリンタ)が知られている。立体造形装置は、3次元画像データに対応した形状の模型を作製する。それにより、被検体の手術対象の臓器形状を表す模型が作製される。例えば、医師は、模型に対して、臓器の部分切除手術等の加工を手術シミュレーションとして行う。医師は、加工が施された模型を検討することによって、手術シミュレーションの結果を評価する。
この様に用いられる模型は、被検体の一部分を表すものである。したがって、加工が施された後の模型形状、すなわち手術シミュレーションによる臓器形状と、その周辺部位との関係性を確認しながら手術シミュレーションの結果を評価することが困難であった。
特開2005−148578号公報
本発明が解決しようとする課題は、手術シミュレーションの結果の評価を支援することができる医用画像処理装置及び医用画像処理方法を提供することである。
実施形態の医用画像処理装置は、付加部と、付加済情報記憶部と、出力部と、検出部と、位置合わせ処理部と、表示制御部とを有する。付加部は、被検体を表す被検体ボリュームデータのうち、被検体ボリュームデータの部分データであり且つ対象部位を表す部位ボリュームデータに、識別可能なマーカを表す識別マーカボリュームデータを付加する。付加済情報記憶部は、付加された識別マーカボリュームデータが識別されるための識別情報及び識別マーカボリュームデータが付加された位置を表す座標情報を記憶する。出力部は、マーカを含む対象部位の模型を造形するために、識別マーカボリュームデータが付加された部位ボリュームデータを立体造形装置へ出力する。検出部は、識別情報に基づいて、マーカを含んで造形され加工を施された手術シミュレーションの後の模型を撮影装置によって撮影することで模型ボリュームデータを取得し、模型ボリュームデータから、マーカに相当する模型マーカボリュームデータを検出する。位置合わせ処理部は、座標情報と模型マーカボリュームデータとに基づいて、被検体ボリュームデータと模型ボリュームデータとの位置合わせを行う。表示制御部は、手術シミュレーションの結果の評価を支援するための、位置合わせ処理部によって位置合わせされた被検体ボリュームデータと模型ボリュームデータとを合成した画像を表示デバイスに表示させる。
実施形態の医用画像処理装置の機能構成を表すブロック図。 実施形態の被検体ボリュームデータ及びそれに含まれる部位ボリュームデータの概略を表す模式図。 実施形態の部位ボリュームデータ及び識別マーカボリュームデータの概略を表す模式図。 実施形態の模型ボリュームデータ及び模型マーカボリュームデータの概略を表す模式図。 実施形態の部位ボリュームデータの部分が非表示となった被検体ボリュームデータの画像と模型ボリュームデータの画像とが位置合わせされ且つ重畳されて表示された画像の概略を表す模式図。 実施形態の模型マーカボリュームデータの部分が非表示となった画像の概略を表す模式図。 実施形態の医用画像処理装置の動作を表すフローチャート。
[構成]
実施形態の医用画像処理装置について図面を参照しながら説明する。
図1は、実施形態の医用画像処理装置1の構成を表すブロック図である。医用画像処理装置1は、医用画像データベース2及び立体造形装置3と通信可能に接続される。医用画像処理装置1及び医用画像データベース2は、例えば、DICOM(Digital Imaging and Communication in Medicine)規格に準拠したシステムを形成する。
医用画像データベース2は、X線CT(Computed Tomography)装置等の医用画像診断装置により撮影された医用3次元画像の画像データ(被検体を表す被検体ボリュームデータ)を格納するハードディスクドライブ等の記憶装置と、この記憶装置に記憶される画像データを管理するシステムとを含んで構成される。このシステムとしては、例えば、PACS(Picture Archiving and Communication System)が適用される。
画像データ読出部101は、医用画像データベース2から、被検体ボリュームデータを読み出す。画像データ読出部101は、一般的な通信インターフェースを含んで構成される。画像データ読出部101が読み出す被検体ボリュームデータには、付帯情報が付帯されている。付帯情報は、患者情報、座標情報、縮尺情報及びデータ識別情報を含む。患者情報は、被検体である患者の氏名や患者IDを表す情報である。座標情報は、各種ボリュームデータに定義された座標系及び座標を表す情報である。縮尺情報は、実体の被検体の大きさと被検体ボリュームデータに描出された被検体の大きさとの縮尺を表す情報である。データ識別情報は、被検体ボリュームデータを一意に識別可能な検査UID(Unique Identifier)や画像UIDを表す情報である。画像データ読出部101は、読み出した被検体ボリュームデータを画像データ記憶部102へ出力する。
画像データ記憶部102は、メモリ領域を有する記憶装置を含んで構成される。画像データ記憶部102は、画像データ読出部101から受けた被検体ボリュームデータを記憶する。
セグメンテーション処理部103は、画像データ記憶部102から被検体ボリュームデータを読み出す。セグメンテーション処理部103は、被検体ボリュームデータを、複数の部位に分解する。この部位の例としては、骨、臓器、血管などが挙げられる。例えば、セグメンテーション処理部103は、一般的なリージョングローイング法を用いてこの分解を行う。このとき、セグメンテーション処理部103は、操作部6を介して、対象部位の内部点の指定を受ける。セグメンテーション処理部103は、指定された内部点をリージョングローイングの開始点として、対象部位を表す3次元領域を抽出する。抽出された領域に含まれるボリュームデータは、被検体ボリュームデータの部分データであり、且つ、対象部位を表すボリュームデータである。以下、該ボリュームデータを部位ボリュームデータと称する。
図2は、被検体ボリュームデータV1及びそれに含まれる部位ボリュームデータV2の概略を表す模式図である。ここでは、被検体ボリュームデータV1の一例として、被検体の腹部を撮影して得られたボリュームデータを模式的に示す。また、部位ボリュームデータV2の一例として、対象部位としての肝臓を表すボリュームデータを模式的に示す。但し、部位ボリュームデータV2に表される対象部位は、1つの部位であってもよく、複数の部位の組み合わせであってもよい。操作者は、操作部6を介して、手術シミュレーションに応じた1つ又は複数の部位を選択する。セグメンテーション処理部103は、選択された1つ又は複数の部位について領域を抽出する。
セグメンテーション処理部103は、抽出された部位ボリュームデータV2を表示制御部110に出力する。表示制御部110は、該部位ボリュームデータV2の画像を表示デバイス5に表示させる。それにより、操作者は、所望の対象部位について抽出された領域を視認しながら確認することができる。操作者は、該抽出をやり直させたい場合、リージョングローイング法の拡張条件などを適宜再設定し、再度、対象部位の領域を抽出させてもよい。
セグメンテーション処理部103は、部位ボリュームデータV2を画像データ記憶部102へ出力する。画像データ記憶部102は、セグメンテーション処理部103から受けた部位ボリュームデータV2を記憶する。なお、セグメンテーション処理部103は、被検体ボリュームデータV1のうち、部位ボリュームデータV2の領域とその他の領域とを分解するための情報を画像データ記憶部102へ出力してもよい。例えば、セグメンテーション処理部103は、被検体ボリュームデータV1のうち、部位ボリュームデータV2の領域とその他の領域との境界面の座標を表す境界面情報を画像データ記憶部102へ出力する。この場合、画像データ記憶部102は、セグメンテーション処理部103から受けた境界面情報を記憶する。
付加部104は、被検体を表す被検体ボリュームデータV1のうち、被検体ボリュームデータV1の部分データであり且つ対象部位を表す部位ボリュームデータV2に、識別可能なマーカを表す識別マーカボリュームデータを付加する。図3は、部位ボリュームデータV2及び識別マーカボリュームデータV3の概略を表す模式図である。例えば、付加部104は、画像データ記憶部102から部位ボリュームデータV2を読み出す。なお、付加部104は、画像データ記憶部102に記憶された境界面情報を読み、該境界面情報に表される境界面の内側のボリュームデータを部位ボリュームデータV2として読み出してもよい。なお、図3の例では、部位ボリュームデータV2の表面の3箇所に識別マーカボリュームデータV3が付加された場合を示したが、この場合に限定されず、4箇所以上の位置に識別マーカボリュームデータV3が付加されてもよい。
付加部104は、部位ボリュームデータV2を表示制御部110へ出力する。表示制御部110は、該部位ボリュームデータV2の画像を表示デバイス5に表示させる。操作者は、表示された画像を視認しながら、操作部6を介して、関心領域を指定する。例えば、操作者は、手術シミュレーションによって行われる切除加工後に残る領域を関心領域として指定する。なお、操作者は、手術シミュレーションによって行われる切除加工によって切除される領域を関心領域として指定してもよい。操作者は、指定した関心領域に応じて、関心領域の内側と外側とのどちらに識別マーカボリュームデータV3を付加させるか指定する。例えば、操作者は、切除加工後に残る領域を関心領域として指定した場合など関心領域の内側に識別マーカボリュームデータV3を付加させたい場合、関心領域の内側に識別マーカボリュームデータV3を付加させる指定を行う。また、操作者は、切除加工によって切除される領域を関心領域として指定した場合など関心領域の外側に識別マーカボリュームデータV3を付加させたい場合、関心領域の外側に識別マーカボリュームデータV3を付加させる指定を行う。
付加部104は、付加予定情報記憶部1041を含む。付加予定情報記憶部1041は、付加する識別マーカボリュームデータV3の数を表す数情報と前記識別マーカボリュームデータV3同士の間隔を表す間隔情報とを予め記憶する。例えば、識別マーカボリュームデータV3が互いに辺の長さが異なる三角形を形成するように、数「3」を表す数情報、及び、間隔「d1」「d2」「d3」を表す間隔情報が付加予定情報記憶部1041に予め記憶されてもよい。数情報に表される数及び間隔情報に表される間隔は適宜設定されてもよい。識別マーカボリュームデータV3は、後述する位置合わせ処理部109が位置合わせ処理を行うための標識となる。そのために、付加部104は、少なくとも3つ以上の識別マーカボリュームデータV3を付加する。
なお、識別マーカボリュームデータV3は、操作者による位置の指定を受けて、手動によって付加されてもよい。この場合、操作者は、表示された部位ボリュームデータV2の画像を視認しながら、操作部6を介して、識別マーカボリュームデータV3を付加する位置を指定する。付加部104は、このように指定された位置に識別マーカボリュームデータV3を付加する。
識別マーカボリュームデータV3は、部位ボリュームデータV2すなわち対象部位に相当する部分に対して識別可能な識別情報を表すボリュームデータである。識別情報は、対象部位に相当する部分に対して識別可能な形状を表す形状情報、材質を表す材質情報、又は色(無色を含む)を表す色情報を含む。識別情報は、付加予定情報記憶部1041に予め記憶される。この識別情報により、識別マーカボリュームデータV3に相当するマーカは、部位ボリュームデータV2と識別される。識別マーカボリュームデータV3は、後述する立体造形装置3によって、部位ボリュームデータV2とともに模型の一部に識別情報を有するマーカとして造形される。このように造形されたマーカは、模型において、対象部位を表す部分に対して識別される標識の役割を担う。
付加部104は、部位ボリュームデータV2に対する関心領域の指定を受け、数情報及び間隔情報に基づいて、関心領域の内側又は外側に識別マーカボリュームデータV3を付加する。例えば、付加部104は、操作者による、関心領域の内側と外側とのどちらに識別マーカボリュームデータV3を付加させるか指定を受ける。この指定された領域(内側又は外側)が識別マーカボリュームデータV3を付加する領域である。付加部104は、付加予定情報記憶部1041に予め記憶された数情報及び間隔情報を読む。付加部104は、間隔情報に表される間隔ごとに、数情報に表される数の識別マーカボリュームデータV3を部位ボリュームデータV2に付加する。このとき、付加部104は、部位ボリュームデータV2に表される対象部位の表面を検出し、検出した表面に識別マーカボリュームデータV3を付加する。なお、識別情報が材質情報を含む場合、付加部104は、部位ボリュームデータV2の内部に識別マーカボリュームデータV3を付加してもよい。
付加部104は、付加した識別マーカボリュームデータV3が識別されるための識別情報及び識別マーカボリュームデータV3が付加された位置を表す座標情報を付加済情報記憶部105へ出力する。なお、付加部104は、識別情報及び座標情報に、当該部位ボリュームデータV2及び当該被検体ボリュームデータV1を一意に特定する付帯情報を付帯して、これら識別情報及び座標情報を付加済情報記憶部105へ出力する。付加部104は、識別マーカボリュームデータV3が付加された部位ボリュームデータV2を出力部106へ出力する。
なお、付加部104は、全ての識別マーカボリュームデータV3が同じ識別情報(形状方法、材質情報、色情報)を有するように付加してもよく、それぞれの識別マーカボリュームデータV3が個別の識別情報を有するように付加してもよい。
付加済情報記憶部105は、付加部104から受けた識別情報及び座標情報を記憶する。該座標情報は、各種ボリュームデータにおける所定の絶対座標系によって表されてもよく、部位ボリュームデータV2に対する相対座標によって表されてもよい。
出力部106は、一般的な通信インターフェースを含んで構成され、立体造形装置3と通信可能に接続される。出力部106は、マーカを含む対象部位の模型を造形するために、識別マーカボリュームデータV3が付加された部位ボリュームデータV2を立体造形装置3へ出力する。
立体造形装置3は、マーカを含む対象部位の模型を造形する。立体造形装置3は、いわゆる3Dプリンタである。立体造形装置3は、出力部106からの識別マーカボリュームデータV3が付加された部位ボリュームデータV2に基づいて、この模型を造形する。立体造形装置3が用いる造形法の例としては、光硬化法、熱溶解積層法、粉末固着法などが挙げられる。立体造形装置3により作製された模型は、識別マーカボリュームデータV3及び部位ボリュームデータV2を一体的に表す模型である。模型において、識別マーカボリュームデータV3はマーカとして造形され、部位ボリュームデータV2は対象部位として造形される。
医師は、立体造形装置3により作製された模型を用いて手術シミュレーションを行う。例えば、対象部位の一部を切除する手術シミュレーションが行われる場合、医師は、模型を対象部位として想定し、切除部分に相当する模型の部分を切除する加工を行う。手術シミュレーションにおける加工よって、模型は、手術シミュレーションの前後で、形状が異なる。
撮影装置4は、手術シミュレーション後の模型すなわち造形されたマーカを含み加工が施された模型の3次元画像を撮影する。撮影装置4は、X線CT装置などの医用画像診断装置又は3次元スキャナなどの3次元画像撮影装置によって構成される。撮影装置4は、模型ボリュームデータ読出部107と通信可能に接続される。
模型ボリュームデータ読出部107は、撮影装置4から模型ボリュームデータを読み出す。例えば、模型ボリュームデータ読出部107は、操作部6を介して、読み出した模型ボリュームデータと画像データ記憶部102に記憶された被検体ボリュームデータV1との関連付け指示を受ける。模型ボリュームデータ読出部107は、関連付けられた被検体ボリュームデータV1を表す付帯情報を模型ボリュームデータに付帯して、該模型ボリュームデータを画像データ記憶部102へ出力する。画像データ記憶部102は、模型ボリュームデータ読出部107から出力された模型ボリュームデータを記憶する。
また、付加部104は、識別マーカボリュームデータV3が患者IDを表すように付加してよい。例えばこの場合、付加部104は、バーコード化技術等の所定の符号化技術によって患者IDを表す符号の配列で識別マーカボリュームデータV3を付加する。模型ボリュームデータ読出部107は、バーコード抽出及びバーコード解読技術等の所定の符号抽出及び符号解読技術よって、模型ボリュームデータに付加された符号を抽出及び解読することによって患者IDを特定する。模型ボリュームデータ読出部107は、特定された患者IDを含む被検体ボリュームデータV1を画像データ記憶部102から検索し、検索された被検体ボリュームデータV1と模型ボリュームデータとを関連付けてもよい。
検出部108は、画像データ記憶部102から模型ボリュームデータを読み出す。図4は、模型ボリュームデータV4及び模型マーカボリュームデータV5の概略を表す模式図である。検出部108は、読み出した模型ボリュームデータV4の付帯情報に基づいて、該模型ボリュームデータV4に関連付けられた被検体ボリュームデータV1を画像データ記憶部102から読み出す。検出部108は、読み出した被検体ボリュームデータV1を一意に特定する付帯情報が付帯された識別情報を付加済情報記憶部105から読み出す。
検出部108は、付加部104により付加された識別マーカボリュームデータの識別情報に基づいて、造形されたマーカを含み加工が施された模型の模型ボリュームデータから、マーカに相当する模型マーカボリュームデータV4を検出する。このとき、検出部108は、識別情報と模型ボリュームデータV4とに基づいて、模型ボリュームデータV4のうち、形状情報、材質情報、又は色情報に相当する部分データを模型マーカボリュームデータV5として検出する。
識別情報が形状情報を含む場合、検出部108は、模型ボリュームデータV4の形状を解析し、形状情報に表される形状の領域を模型マーカボリュームデータV5として検出する。識別情報が材質情報を含む場合、検出部108は、材質情報に表される材質のCT値に対応した画素値の画素の集合領域を模型マーカボリュームデータV5として検出する。識別情報が色情報を含む場合、検出部108は、色情報に表される色に対応した画素値の画素の集合領域を模型マーカボリュームデータV5として検出する。検出部108は、検出した模型マーカボリュームデータV5の座標情報を位置合わせ処理部109へ出力する。
位置合わせ処理部109は、識別マーカボリュームデータV3の座標情報と模型マーカボリュームデータV5の座標情報とに基づいて、被検体ボリュームデータV1と模型ボリュームデータV4との位置合わせを行う。位置合わせ処理部109は、模型マーカボリュームデータV5の配列に対する識別マーカボリュームデータV3の配列の平行移動関係、回転移動関係若しくは拡大縮小関係又はこれらの複数を求めることによって、位置合わせを行う。
ここで、識別マーカボリュームデータV3の配列は、被検体ボリュームデータV1の座標系にて定められる。したがって、識別マーカボリュームデータV3の配列は、該座標系における3次元配列を表す点群に相当する。一方、模型マーカボリュームデータV5の配列は、模型ボリュームデータV4の座標系にて定められる。したがって、模型ボリュームデータV4の配列は、該座標系における3次元配列を表す点群に相当する。
位置合わせ処理部109は、模型ボリュームデータV4の縮尺情報と被検体ボリュームデータV1の縮尺情報とを参照して識別マーカボリュームデータV3の配列と模型マーカボリュームデータV5の配列との拡大縮小関係を求める。位置合わせ処理部109は、求めた拡大縮小関係に基づいて、模型マーカボリュームデータV5の配列のサイズを識別マーカボリュームデータV3の配列のサイズに合わせる。
そして、例えば、位置合わせ処理部109は、3次元位置合わせ法によって、識別マーカボリュームデータV3の配列と模型マーカボリュームデータV5の配列との平行移動関係及び回転移動関係を求める。3次元位置合わせ方法の具体的なアルゴリズムは、例えば、一般的な3次元ICP(Iterative Closest Point)法などによって適宜設計されてよい。位置合わせ処理部109は、求めた拡大縮小関係、平行移動関係及び回転移動関係を模型ボリュームデータV4の各画素の座標に適用する。それにより、模型ボリュームデータV4が被検体ボリュームデータV1の座標系において位置合わせされる。位置合わせ処理部109は、位置合わせされた模型ボリュームデータV4及び被検体ボリュームデータV1を表示制御部110へ出力する。このように、位置合わせ処理部109は、識別マーカボリュームデータV3の配列と模型マーカボリュームデータV5の配列とに対して位置合わせを行う。それにより、部位ボリュームデータV2が表す形状と模型ボリュームデータV4が表す形状とが異なっていても、上記位置合わせを行うことができる。
表示制御部110は、位置合わせ処理部109によって位置合わせされた被検体ボリュームデータV1と模型ボリュームデータV4とを合成した画像を表示デバイス5に表示させる。このとき、例えば、表示制御部110は、被検体ボリュームデータV1及び部位ボリュームデータV2に基づいて、被検体ボリュームデータV1から部位ボリュームデータV2を除外する除外処理を行う。この除外処理は、被検体ボリュームデータV1及び部位ボリュームデータV2の座標情報に基づいて、被検体ボリュームデータV1に含まれる部位ボリュームデータV2の座標を特定することにより行われる。そして、表示制御部110は、部位ボリュームデータV2が除外された被検体ボリュームデータV1と模型ボリュームデータV4とを合成する。被検体ボリュームデータV1と模型ボリュームデータV4とは、位置合わせ処理部109によって位置合わせされている。従って、このように合成されたボリュームデータの画像は、手術後の対象部位を含む被検体を想定した画像となる。
また、例えば、表示制御部110は、被検体ボリュームデータV1及び部位ボリュームデータV2に基づいて、被検体ボリュームデータV1のうち部位ボリュームデータV2の画素値を低減した画像を表示させる。
表示制御部110は、セグメンテーション処理部103から、部位ボリュームデータV2の座標情報を読み出し、該座標情報に基づいて、被検体ボリュームデータV1に含まれる部位ボリュームデータV2の領域を求める。表示制御部110は、求めた該領域内の画素の画素値を低減する。この低減率は、操作者によって指定されてもよく、プリセットされてもよい。例えば、低減率が100%である場合、被検体ボリュームデータV1の画像のうち、部位ボリュームデータV2の部分が非表示となる。また、この場合に操作者が視認する画像は、その見え方が、被検体ボリュームデータV1から部位ボリュームデータV2が除外されたボリュームデータと模型ボリュームデータV4とが合成された画像と同様である。
図5は、部位ボリュームデータV2の部分が非表示となった被検体ボリュームデータV1の画像と模型ボリュームデータV4の画像とが位置合わせされ且つ重畳されて表示された画像の概略を表す模式図である。この画像は、手術後の対象部位を含む被検体を想定した画像となる。医師は、この画像によって、手術後を想定した対象部位とその周辺部位との関係を視認することができる。このように、医師は、手術シミュレーションの結果を評価することができる。それにより、医用画像処理装置1は、手術シミュレーションの結果の評価を支援することができる。
なお、表示制御部110は、部位ボリュームデータV2の画素値と模型ボリュームデータV4の画素値とに異なるRGB(Red−Green−Blue)情報を付与し、これらRGB情報を所定の比率で加算した画像を表示させてもよい。このように表示された画像は、部位ボリュームデータV2に表される画像すなわち手術前の対象部位の画像と、模型ボリュームデータV4に表される画像すなわち手術後を想定した対象部位の画像とが透かし表示された画像となる。この画像によっても、医師は、手術後を想定した対象部位とその周辺部位との関係を視認することができる。さらに、透かし表示により、医師は、手術前の対象部位の形状と手術後を想定した対象部位の形状との関係を視認することができる。このように、医師は、手術シミュレーションの結果を手術前後の対象部位の形状の比較をしながら評価することができる。それにより、医用画像処理装置1は、手術シミュレーションの結果の評価を支援することができる。
また、表示制御部110は、模型ボリュームデータV4及び模型マーカボリュームデータV5に基づいて、模型ボリュームデータV4から模型マーカボリュームデータV5を除外する除外処理を行う。この除外処理は、模型ボリュームデータV4及び模型マーカボリュームデータV5の座標情報に基づいて、模型ボリュームデータV4に含まれる模型マーカボリュームデータV5の座標を特定することにより行われる。そして、表示制御部110は、模型マーカボリュームデータV5が除外された模型ボリュームデータV4と被検体ボリュームデータV1とを合成した画像を表示デバイス5に表示させる。
なお、表示制御部110は、模型ボリュームデータV4及び模型マーカボリュームデータV5に基づいて、模型ボリュームデータV4のうち模型マーカボリュームデータV5の画素値を低減した画像を表示させてもよい。このとき、表示制御部110は、検出部108から模型マーカボリュームデータV5の座標情報を読み出し、該座標情報に基づいて、模型ボリュームデータV4に含まれる模型マーカボリュームデータV5の領域を求める。表示制御部110は、求めた該領域内の画素の画素値を低減する。この低減率は、操作者によって指定されてもよく、プリセットされてもよい。例えば、低減率が100%であるとき、模型ボリュームデータV4のうち、模型マーカボリュームデータV5の部分が非表示となる。また、この場合に操作者が視認する画像は、その見え方が、模型ボリュームデータV4から模型マーカボリュームデータV5が除外されたボリュームデータと被検体ボリュームデータV1とが合成された画像と同様である。
模型マーカボリュームデータV5は、被検体ボリュームデータV1との位置合わせのために付加されたデータであるので、手術後の対象部位の形状とは異なる形状である。模型マーカボリュームデータV5を非表示にせずに、被検体ボリュームデータV1の画像と重畳させると、模型マーカボリュームデータV5の部分とその周辺部位との関係を視認し難い場合がある。図6は、模型マーカボリュームデータV5の部分が非表示となった画像の概略を表す模式図である。この画像は、手術後の対象部位の形状を模型マーカボリュームデータV5の部分についても表した画像となる。したがって、模型マーカボリュームデータV5の部分が非表示となった模型ボリュームデータV4の画像と被検体ボリュームデータV1の画像とが位置合され且つ重畳されて表示された画像は、手術後を想定した対象部位とその周辺部位との関係をさらに視認しやすい画像となる。
表示デバイス5は、表示制御部110からの制御信号に基づいて各種画像を表示する。表示デバイス5は、LCD(Liquid Crystal Display)や有機EL(Electro−Luminescence)ディスプレイ等の表示装置によって構成される。
操作部6は、医用画像処理装置1に対する各種の指示入力や情報入力に用いられる。操作部6は、キーボード、マウス、トラックボール、ジョイスティック等により構成される。操作部6は、表示デバイス5に表示されたGUI(Graphical User Interface)を含んでもよい。
システム制御部111は、医用画像処理装置1の各部を制御する。システム制御部111は、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disc Drive)等の一般的な記憶デバイスを含み、医用画像処理装置1の各部を制御するためのコンピュータプログラムを記憶する。システム制御部111は、CPU(Central Processing Unit)、GPU(Graphic Processing Unit)、又はASIC(Application Specific Integrated Circuit)等の一般的な処理デバイスを含み、記憶されたコンピュータプログラムを実行することにより、医用画像処理装置1の各部を制御する。例えば、システム制御部111は、以下に示す動作を表すコンピュータプログラムを記憶し且つ実行する。
なお、立体造形装置3、撮影装置4、表示デバイス5及び操作部6と医用画像処理装置1とは、使用時に通信可能に接続されればよい。例えば、立体造形装置3、撮影装置4、表示デバイス5及び操作部6と医用画像処理装置1とのハードウエア構成は、個別の装置として構成され、使用時に通信可能に接続される構成でもよく、一体の装置として構成されてもよい。
[動作]
図7は、実施形態の医用画像処理装置1の動作を表すフローチャートである。
ステップS101:画像データ読出部101は、医用画像データベース2から、被検体ボリュームデータV1を読み出す。画像データ読出部101は、読み出した被検体ボリュームデータV1を画像データ記憶部102へ出力する。
ステップS102:セグメンテーション処理部103は、画像データ記憶部102から被検体ボリュームデータV1を読み出す。セグメンテーション処理部103は、対象部位を表す3次元領域を抽出する。セグメンテーション処理部103は、抽出された領域に含まれるボリュームデータを部位ボリュームデータV2として画像データ記憶部102へ出力する。
ステップS103:付加部104は、被検体を表す被検体ボリュームデータV1のうち、被検体ボリュームデータV1の部分データであり且つ対象部位を表す部位ボリュームデータV2に、識別可能なマーカを表す識別マーカボリュームデータV3を付加する。
なお、ステップS103は、医用画像処理方法の実施形態における「付加ステップ」の一例に相当する。
ステップS104:付加部104は、付加した識別マーカボリュームデータV3が識別されるための識別情報及び識別マーカボリュームデータV3が付加された位置を表す座標情報を付加済情報記憶部105へ出力する。付加済情報記憶部105は、付加部104から受けた識別情報及び座標情報を記憶する。
なお、ステップS104は、医用画像処理方法の実施形態における「付加済情報記憶ステップ」の一例に相当する。
ステップS105:付加部104は、識別マーカボリュームデータV3が付加された部位ボリュームデータV2を出力部106へ出力する。出力部106は、マーカを含む対象部位の模型を造形するために、識別マーカボリュームデータV3が付加された部位ボリュームデータV2を立体造形装置3へ出力する。
なお、ステップS105は、医用画像処理方法の実施形態における「出力ステップ」の一例に相当する。
ステップS106:模型ボリュームデータV4読込処理部は、撮影装置4から模型ボリュームデータV4を読み込む。模型ボリュームデータV4読込処理部は、該模型ボリュームデータV4を画像データ記憶部102へ出力する。
ステップS107:検出部108は、付加部104により付加された識別マーカボリュームデータの識別情報に基づいて、造形されたマーカを含み加工が施された模型の模型ボリュームデータV4から、マーカに相当する模型マーカボリュームデータV5を検出する。検出部108は、検出した模型マーカボリュームデータV5の座標情報を位置合わせ処理部109へ出力する。
なお、ステップS107は、医用画像処理方法の実施形態における「検出ステップ」の一例に相当する。
ステップS108:位置合わせ処理部109は、識別マーカボリュームデータV3の座標情報と模型マーカボリュームデータV5の座標情報とに基づいて、被検体ボリュームデータV1と模型ボリュームデータV4との位置合わせを行う。位置合わせ処理部109は、位置合わせされた模型ボリュームデータV4及び被検体ボリュームデータV1を表示制御部110へ出力する。
なお、ステップS108は、医用画像処理方法の実施形態における「位置合わせ処理ステップ」の一例に相当する。
ステップS109:表示制御部110は、位置合わせ処理部109によって位置合わせされた被検体ボリュームデータV1と模型ボリュームデータV4とを合成した画像を表示デバイス5に表示させる。
なお、ステップS109は、医用画像処理方法の実施形態における「表示制御ステップ」の一例に相当する。
[効果]
実施形態の医用画像処理装置1の効果について説明する。
医用画像処理装置1は、付加部104と、付加済情報記憶部105と、出力部106と、検出部108と、位置合わせ処理部109と、表示制御部110とを有する。付加部104は、被検体を表す被検体ボリュームデータV1のうち、被検体ボリュームデータV1の部分データであり且つ対象部位を表す部位ボリュームデータV2に、識別可能なマーカを表す識別マーカボリュームデータV3を付加する。付加済情報記憶部105は、付加された識別マーカボリュームデータV3が識別されるための識別情報及び識別マーカボリュームデータV3が付加された位置を表す座標情報を記憶する。出力部106は、マーカを含む対象部位の模型を造形するために、識別マーカボリュームデータV3が付加された部位ボリュームデータV2を立体造形装置3へ出力する。検出部108は、識別情報に基づいて、造形されたマーカを含み加工が施された模型の模型ボリュームデータV4から、マーカに相当する模型マーカボリュームデータV5を検出する。位置合わせ処理部109は、座標情報と模型マーカボリュームデータV5とに基づいて、被検体ボリュームデータV1と模型ボリュームデータV4との位置合わせを行う。表示制御部110は、位置合わせ処理部109によって位置合わせされた被検体ボリュームデータV1と模型ボリュームデータV4とを合成した画像を表示デバイス5に表示させる。このように、医用画像処理装置1は、対象部位に付加した識別マーカボリュームデータV3の座標情報と、識別マーカボリュームデータV3とともに造形された模型の模型ボリュームデータV4から検出した模型マーカボリュームデータV5とを位置合わせする。それにより、互いに独立関係にある被検体ボリュームデータV1と部位ボリュームデータV2とが位置合わせされる。
医用画像処理装置1は、識別マーカボリュームデータV3及び模型マーカボリュームデータV5に基づいて位置合わせを行うので、部位ボリュームデータV2と模型ボリュームデータV4との形状が変化していても位置合わせが可能である。それにより、手術シミュレーションの加工によって形状が変化した模型の模型ボリュームデータV4であっても、医用画像処理装置1は、該模型ボリュームデータV4と被検体ボリュームデータV1との位置合わせを行うことができる。したがって、手術シミュレーションの結果の評価を支援することができる医用画像処理装置1を提供することができる。
なお、付加部104は、付加予定情報記憶部1041を含む。付加予定情報記憶部1041は、付加する識別マーカボリュームデータV3の数を表す数情報と識別マーカボリュームデータV3同士の間隔を表す間隔情報とを予め記憶する。付加部104は、部位ボリュームデータV2に対する関心領域の指定を受け、数情報及び間隔情報に基づいて、関心領域の内側又は外側に識別マーカボリュームデータV3を付加する。それにより、例えば、操作者が、手術シミュレーションにより切除されずに残る模型部分を関心領域として指定したとき、医用画像処理装置1は、この関心領域の内側に自動的に識別マーカボリュームデータV3を付加することができる。また、操作者が、手術シミュレーションにより切除される模型部分を関心領域として指定したとき、医用画像処理装置1は、この関心領域の外側に自動的に識別マーカボリュームデータV3を付加することができる。したがって、医用画像処理装置1は、手術シミュレーション後の模型において残る範囲に識別マーカボリュームデータV3を簡便に付加することができる。
なお、識別情報は、対象部位に相当する部分に対して識別可能な形状を表す形状情報、材質を表す材質情報、又は色を表す色情報を含む。検出部108は、付加された識別マーカボリュームデータV3の識別情報と模型ボリュームデータV4とに基づいて、模型ボリュームデータV4のうち、マーカに相当する部分データを模型マーカボリュームデータV5として検出する。それにより、医用画像処理装置1は、識別マーカボリュームデータV3の部分が造形されたマーカを表すボリュームデータを模型ボリュームデータV4から検出することができる。ここで、模型は、手術シミュレーションによって加工が施され、形状が変化する場合がある。それにより、部位ボリュームデータV2と模型ボリュームデータV4とは互いにその表す形状が異なる場合がある。この場合においても医用画像処理装置1は、医用画像処理装置1は、識別マーカボリュームデータV3の部分が造形されたマーカを表すボリュームデータを模型ボリュームデータV4から検出することができる。
なお、位置合わせ処理部109は、模型マーカボリュームデータV5の配列に対する識別マーカボリュームデータV3の配列の平行移動関係、回転移動関係及び拡大縮小関係を求めることによって、位置合わせを行う。このように、医用画像処理装置1は、模型マーカボリュームデータV5の配列と識別マーカボリュームデータV3の配列との位置合わせを行う。それにより、医用画像処理装置1は、模型ボリュームデータV4の形状と部位ボリュームデータV2の形状とが互いに異なる場合であっても、模型ボリュームデータV4と被検体ボリュームデータV1との位置合わせを行うことができる。
なお、表示制御部110は、被検体ボリュームデータV1及び部位ボリュームデータV2に基づいて、被検体ボリュームデータV1のうち部位ボリュームデータV2の画素値を低減した画像を表示させる。このように表示された画像は、手術後の対象部位を含む被検体を想定した画像となる。医師は、この画像によって、手術後を想定した対象部位とその周辺部位との関係を視認することができる。それにより、医用画像処理装置1は、手術シミュレーションの結果の評価を支援することができる。
なお、表示制御部110は、模型ボリュームデータV4及び模型マーカボリュームデータV5に基づいて、模型ボリュームデータV4のうち模型マーカボリュームデータV5の画素値を低減した画像を重畳して表示させる。模型マーカボリュームデータV5の部分が非表示となった模型ボリュームデータV4の画像と被検体ボリュームデータV1の画像とが位置合され且つ重畳されて表示された画像は、手術後を想定した対象部位とその周辺部位との関係をさらに視認しやすい画像となる。医師は、この画像によって、手術後を想定した対象部位とその周辺部位との関係をさらに容易に視認することできる。それにより、医用画像処理装置1は、手術シミュレーションの結果の評価をさらに支援することができる。
上記のいずれかの実施形態を実現するための医用画像処理方法を表すコンピュータプログラムを、コンピュータによって読み取り可能な任意の記録媒体に記憶させることができる。この記録媒体としては、たとえば、半導体メモリ、光ディスク、光磁気ディスク、磁気記憶媒体などを用いることが可能である。また、インターネットやLAN(Local Area Network)等のネットワークを通じてこのプログラムを送受信することも可能である。
本発明のいくつかの実施形態を説明したが、これら実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 医用画像処理装置
2 医用画像データベース
3 立体造形装置
4 撮影装置
5 表示デバイス
6 操作部
101 画像データ読出部
102 画像データ記憶部
103 セグメンテーション処理部
104 付加部
105 付加済情報記憶部
106 出力部
107 模型ボリュームデータ読出部
108 検出部
109 位置合わせ処理部
110 表示制御部
111 システム制御部
1041 付加予定情報記憶部

Claims (9)

  1. 被検体を表す被検体ボリュームデータのうち、前記被検体ボリュームデータの部分データであり且つ対象部位を表す部位ボリュームデータに、識別可能なマーカを表す識別マーカボリュームデータを付加する付加部と、
    付加された前記識別マーカボリュームデータが識別されるための識別情報及び前記識別マーカボリュームデータが付加された位置を表す座標情報を記憶する付加済情報記憶部と、
    前記マーカを含む前記対象部位の模型を造形するために、前記識別マーカボリュームデータが付加された前記部位ボリュームデータを立体造形装置へ出力する出力部と、
    前記識別情報に基づいて、前記マーカを含んで造形され加工を施された手術シミュレーションの後の模型を撮影装置によって撮影することで模型ボリュームデータを取得し、前記模型ボリュームデータから、前記マーカに相当する模型マーカボリュームデータを検出する検出部と、
    前記座標情報と前記模型マーカボリュームデータとに基づいて、前記被検体ボリュームデータと前記模型ボリュームデータとの位置合わせを行う位置合わせ処理部と、
    前記手術シミュレーションの結果の評価を支援するための、前記位置合わせ処理部によって位置合わせされた前記被検体ボリュームデータと前記模型ボリュームデータとを合成した画像を表示デバイスに表示させる表示制御部と
    を有する医用画像処理装置。
  2. 前記付加部は、
    付加する前記識別マーカボリュームデータの数を表す数情報と前記識別マーカボリュームデータ同士の間隔を表す間隔情報とを予め記憶する付加予定情報記憶部を含み、
    前記部位ボリュームデータに対する関心領域の指定を受け、前記数情報及び間隔情報に基づいて、前記関心領域の内側又は外側に前記識別マーカボリュームデータを付加する
    ことを特徴とする請求項1に記載の医用画像処理装置。
  3. 前記識別情報は、前記対象部位に相当する部分に対して識別可能な形状を表す形状情報、材質を表す材質情報、又は色を表す色情報を含み、
    前記検出部は、付加された前記識別マーカボリュームデータの前記識別情報と前記模型ボリュームデータとに基づいて、前記模型ボリュームデータのうち、前記マーカに相当する部分データを前記模型マーカボリュームデータとして検出する
    ことを特徴とする請求項1に記載の医用画像処理装置。
  4. 前記位置合わせ処理部は、前記模型マーカボリュームデータの配列に対する前記識別マーカボリュームデータの配列の平行移動関係、回転移動関係及び拡大縮小関係を求めることによって、前記位置合わせを行うことを特徴とする請求項1に記載の医用画像処理装置。
  5. 前記表示制御部は、前記被検体ボリュームデータ及び前記部位ボリュームデータに基づいて前記被検体ボリュームデータから前記部位ボリュームデータを除外し、前記部位ボリュームデータが除外された前記被検体ボリュームデータと前記模型ボリュームデータとを合成した画像を表示させることを特徴とする請求項1に記載の医用画像処理装置。
  6. 前記表示制御部は、前記模型ボリュームデータ及び前記模型マーカボリュームデータに基づいて前記模型ボリュームデータから前記模型マーカボリュームデータを除外し、前記模型マーカボリュームデータが除外された前記模型ボリュームデータと前記被検体ボリュームデータとを合成した画像を表示させることを特徴とする請求項1又は請求項5に記載の医用画像処理装置。
  7. 前記表示制御部は、前記被検体ボリュームデータ及び前記部位ボリュームデータに基づいて、前記被検体ボリュームデータのうち前記部位ボリュームデータの画素値を低減した画像を表示させることを特徴とする請求項1に記載の医用画像処理装置。
  8. 前記表示制御部は、前記模型ボリュームデータ及び前記模型マーカボリュームデータに基づいて、前記模型ボリュームデータのうち前記模型マーカボリュームデータの画素値を低減した画像を表示させることを特徴とする請求項1又は請求項7に記載の医用画像処理装置。
  9. 被検体を表す被検体ボリュームデータのうち、前記被検体ボリュームデータの部分データであり且つ対象部位を表す部位ボリュームデータに、識別可能なマーカを表す識別マーカボリュームデータを付加する付加ステップと、
    付加された前記識別マーカボリュームデータが識別されるための識別情報及び前記識別マーカボリュームデータが付加された位置を表す座標情報を記憶する付加済情報記憶ステップと、
    前記マーカを含む前記対象部位の模型を造形するために、前記識別マーカボリュームデータが付加された前記部位ボリュームデータを立体造形装置へ出力する出力ステップと、
    前記識別情報に基づいて、前記マーカを含んで造形され加工を施された手術シミュレーションの後の模型を撮影装置によって撮影することで模型ボリュームデータを取得し、前記模型ボリュームデータから、前記マーカに相当する模型マーカボリュームデータを検出する検出ステップと、
    前記座標情報と前記模型マーカボリュームデータとに基づいて、前記被検体ボリュームデータと前記模型ボリュームデータとの位置合わせを行う位置合わせ処理ステップと、
    前記手術シミュレーションの結果の評価を支援するための、前記位置合わせ処理ステップによって位置合わせされた前記被検体ボリュームデータと前記模型ボリュームデータとを合成した画像を表示デバイスに表示させる表示制御ステップと
    を有する医用画像処理方法。
JP2014137147A 2014-07-02 2014-07-02 医用画像処理装置及び医用画像処理方法 Expired - Fee Related JP6381998B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014137147A JP6381998B2 (ja) 2014-07-02 2014-07-02 医用画像処理装置及び医用画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014137147A JP6381998B2 (ja) 2014-07-02 2014-07-02 医用画像処理装置及び医用画像処理方法

Publications (2)

Publication Number Publication Date
JP2016014792A JP2016014792A (ja) 2016-01-28
JP6381998B2 true JP6381998B2 (ja) 2018-08-29

Family

ID=55231009

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014137147A Expired - Fee Related JP6381998B2 (ja) 2014-07-02 2014-07-02 医用画像処理装置及び医用画像処理方法

Country Status (1)

Country Link
JP (1) JP6381998B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6918443B2 (ja) * 2016-05-09 2021-08-11 キヤノンメディカルシステムズ株式会社 医用情報処理装置
JP7107505B2 (ja) * 2017-02-01 2022-07-27 国立研究開発法人国立循環器病研究センター 体内器官モデルの検証方法及び検証システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005128354A (ja) * 2003-10-24 2005-05-19 Matsushita Electric Ind Co Ltd 臓器の模型製造方法
EP2160135B1 (en) * 2007-06-21 2012-08-15 Koninklijke Philips Electronics N.V. Adjusting acquisition protocols for dynamic medical imaging using dynamic models
JP5283949B2 (ja) * 2008-03-28 2013-09-04 和田精密歯研株式会社 Ct撮影用マーカーおよび3次元断層撮影像の作成方法
JP5814853B2 (ja) * 2012-04-18 2015-11-17 富士フイルム株式会社 立体モデルデータ生成装置および方法並びにプログラム

Also Published As

Publication number Publication date
JP2016014792A (ja) 2016-01-28

Similar Documents

Publication Publication Date Title
JP6827706B2 (ja) 情報処理装置及びその方法、情報処理システム、コンピュータプログラム
US9990744B2 (en) Image registration device, image registration method, and image registration program
US9466117B2 (en) Segmentation highlighter
CN106232010B (zh) 用于检测气管的系统和方法
EP2724294B1 (en) Image display apparatus
EP2707690B1 (en) Generating a slicing scheme for slicing a specimen
CN106232011B (zh) 气管标记
JP2011160882A (ja) 医用画像表示装置及び医用画像表示方法並びにプログラム
US10181187B2 (en) Information processing apparatus, method thereof, information processing system, and computer-readable storage medium that display a medical image with comment information
JPWO2014196069A1 (ja) 画像処理装置および画像処理方法
JP2007307205A (ja) 医用画像部位認識装置、及び、医用画像部位認識プログラム
JP6489709B2 (ja) 画像視覚化
US9123163B2 (en) Medical image display apparatus, method and program
JP6381998B2 (ja) 医用画像処理装置及び医用画像処理方法
JP2017204041A (ja) 所見情報作成装置及びシステム
JP2010110544A (ja) 画像処理装置および方法並びにプログラム
JP6066197B2 (ja) 手術支援装置、方法およびプログラム
US20110242096A1 (en) Anatomy diagram generation method and apparatus, and medium storing program
US20180350141A1 (en) Three-dimensional image processing device, three-dimensional image processing method, and three-dimensional image processing program
JP6393538B2 (ja) 医用画像処理装置、医用画像処理システム、医用画像処理方法、及び医用画像処理プログラム
JP6656207B2 (ja) 情報処理装置、その制御方法、及びプログラム
JP5366622B2 (ja) 医用画像観察システム
JP7182363B2 (ja) 医用画像表示装置及び医用画像表示方法
JP2019088577A (ja) 情報処理装置、情報処理システム、情報処理方法、及びプログラム
US10226199B2 (en) Medical-image processing apparatus, method for controlling the same, and storage medium

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160527

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180801

R150 Certificate of patent or registration of utility model

Ref document number: 6381998

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees