JP7058425B1 - Simulation equipment, simulation method and program - Google Patents
Simulation equipment, simulation method and program Download PDFInfo
- Publication number
- JP7058425B1 JP7058425B1 JP2020177224A JP2020177224A JP7058425B1 JP 7058425 B1 JP7058425 B1 JP 7058425B1 JP 2020177224 A JP2020177224 A JP 2020177224A JP 2020177224 A JP2020177224 A JP 2020177224A JP 7058425 B1 JP7058425 B1 JP 7058425B1
- Authority
- JP
- Japan
- Prior art keywords
- external force
- sphere
- unit
- images
- force acting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
【課題】外力の作用によって変形した対象物の形状を画面上で再現する精度を向上させることが可能であるシミュレーション装置、シミュレーション方法及びプログラムを提供する。
【解決手段】シミュレーション装置は、外力の作用によって変形した球の写像変換の結果を表す画像であって互いに交差している複数の写像変換画像を、球に作用した外力ごとに、超楕円関数を用いて導出し、複数の写像変換画像と球に作用した外力とを対応付けて記憶部に記録する導出部と、外力を作用させる手動操作を受け付ける操作部と、対象物に作用した外力と球に作用した外力との対応付けに基づいて、球に作用した外力ごとに記録された複数の写像変換画像のうちから、再生される複数の写像変換画像を選択する選択部と、選択された複数の写像変換画像を再生し、再生された複数の写像変換画像を、変形した対象物の形状として画面上に表示させる画像再生部とを備える。
【選択図】図1
PROBLEM TO BE SOLVED: To provide a simulation device, a simulation method and a program capable of improving the accuracy of reproducing the shape of an object deformed by the action of an external force on a screen.
SOLUTION: A simulation device is an image showing the result of mapping conversion of a sphere deformed by the action of an external force, and a plurality of mapping conversion images intersecting each other are subjected to a super-elliptic function for each external force acting on the sphere. A derivation unit that derives using and records a plurality of mapping conversion images and an external force acting on a sphere in a storage unit, an operation unit that accepts a manual operation that applies an external force, and an external force and a sphere that act on an object. A selection unit that selects a plurality of map-converted images to be reproduced from a plurality of map-converted images recorded for each external force acting on the sphere based on the correspondence with the external force acting on the sphere, and a plurality of selected images. It is provided with an image reproduction unit that reproduces the map conversion image of the above and displays the reproduced plurality of map conversion images as the shape of the deformed object on the screen.
[Selection diagram] Fig. 1
Description
本発明は、シミュレーション装置、シミュレーション方法及びプログラムに関する。 The present invention relates to a simulation apparatus, a simulation method and a program.
術前の手術シミュレーションとしてではなく、手術のターゲットとされた臓器を医師や医学生などに触診させ、経験の少ない医師や医学生などに手術プロセスを理解させるための医療教育用のシミュレーション装置(シミュレータ)が求められている。実際の手術では手術用器具が臓器に接触した際に、手術用器具からの外力の作用によって臓器が変形する。シミュレーション装置は、変形した臓器の形状を仮想空間において再現するため、コンピュータグラフィックスで表された臓器を含む仮想空間を画面上に表示する。シミュレーション装置を操作する医師や医学生などの手の動きに応じて、画面上に表示された仮想空間内で手術用器具が移動する。ここで、手術用器具による外力の作用によって変形した臓器の形状を画面上で精度よく再現することが求められている。 A simulation device (simulator) for medical education that allows inexperienced doctors and medical students to understand the surgical process by palpating the target organ of the surgery with doctors and medical students, not as a preoperative surgical simulation. ) Is required. In actual surgery, when a surgical instrument comes into contact with an organ, the organ is deformed by the action of an external force from the surgical instrument. The simulation device displays a virtual space including an organ represented by computer graphics on the screen in order to reproduce the shape of the deformed organ in the virtual space. The surgical instruments move in the virtual space displayed on the screen according to the movements of the hands of doctors and medical students who operate the simulation device. Here, it is required to accurately reproduce the shape of an organ deformed by the action of an external force by a surgical instrument on a screen.
しかしながら、臓器の構造は複雑であり、また臓器は常に動いているので、外力の作用によって臓器は複雑に変形する。このため、変形した臓器の形状を画面上で精度よく再現することが難しいという問題がある。このような問題は、臓器に限られた問題ではなく、複雑な構造を有する対象物に関して、外力の作用によって変形した対象物の形状を画面上で精度よく再現するという用途に共通する問題である。このように従来では、外力の作用によって変形した対象物の形状を画面上で精度よく再現することができなかった。 However, since the structure of an organ is complicated and the organ is constantly moving, the organ is deformed in a complicated manner by the action of an external force. Therefore, there is a problem that it is difficult to accurately reproduce the shape of the deformed organ on the screen. Such a problem is not limited to organs, but is a problem common to applications in which the shape of an object deformed by the action of an external force is accurately reproduced on a screen for an object having a complicated structure. .. As described above, conventionally, it has not been possible to accurately reproduce the shape of an object deformed by the action of an external force on the screen.
上記事情に鑑み、本発明は、外力の作用によって変形した対象物の形状を画面上で再現する精度を向上させることが可能であるシミュレーション装置、シミュレーション方法及びプログラムを提供することを目的としている。 In view of the above circumstances, it is an object of the present invention to provide a simulation device, a simulation method, and a program capable of improving the accuracy of reproducing the shape of an object deformed by the action of an external force on a screen.
本発明の一態様は、外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出部と、表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作部と、前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択部と、選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生部とを備えるシミュレーション装置である。 One aspect of the present invention is to derive and derive a set of mapping conversion images, which are images showing the result of mapping conversion of a sphere deformed by the action of an external force, for each external force acting on the sphere by using a super-elliptic function. An operation that accepts a manual operation of applying an external force to an object displayed on the screen of the display unit and a derivation unit that records the set of the map-converted images and the external force acting on the sphere in the storage unit in association with each other. A plurality of mapping conversions from a set of the mapping conversion images recorded for each external force acting on the sphere based on the correspondence between the unit and the external force acting on the object and the external force acting on the sphere. It is a simulation apparatus including a selection unit for selecting an image and an image reproduction unit for displaying the selected plurality of map conversion images on the screen as the shape of the object deformed by the action of an external force.
本発明の一態様は、上記のシミュレーション装置であって、前記導出部は、前記球に作用した外力を入力として、外力の作用を受けた前記球の形状を出力とする伝達関数の複数のパラメータのうちの少なくとも一つを変更して、前記写像変換画像の集合を導出する。 One aspect of the present invention is the above-mentioned simulation apparatus, in which the derivation unit receives a plurality of parameters of a transfer function that receives an external force acting on the sphere as an input and outputs the shape of the sphere subjected to the action of the external force. At least one of them is modified to derive the set of mapping-transformed images.
本発明の一態様は、上記のシミュレーション装置であって、前記複数のパラメータのうちの一つは、外力の作用を受ける前記対象物の硬さを表すパラメータである。 One aspect of the present invention is the above-mentioned simulation apparatus, and one of the plurality of parameters is a parameter representing the hardness of the object subject to the action of an external force.
本発明の一態様は、上記のシミュレーション装置であって、前記操作部は、外力の作用を受けた前記対象物の反力をユーザに作用させる。 One aspect of the present invention is the simulation device, wherein the operation unit causes the user to act on the reaction force of the object subjected to the action of an external force.
本発明の一態様は、上記のシミュレーション装置であって、前記対象物は臓器である。 One aspect of the present invention is the simulation apparatus described above, wherein the object is an organ.
本発明の一態様は、上記のシミュレーション装置が実行するシミュレーション方法であって、外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出ステップと、表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作ステップと、前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択ステップと、選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生ステップとを含むシミュレーション方法である。 One aspect of the present invention is a simulation method executed by the above simulation apparatus, in which a set of mapping conversion images, which is an image showing the result of mapping conversion of a sphere deformed by the action of an external force, is subjected to an external force acting on the sphere. Each time, a derivation step of deriving by using a super-elliptic function and recording the set of the derived map-transformed images in association with the external force acting on the sphere is recorded in the storage unit, and the derivation step is displayed on the screen of the display unit. The above-mentioned recorded for each external force acting on the sphere based on the correspondence between the operation step of accepting the manual operation of applying the external force on the object and the external force acting on the object and the external force acting on the sphere. A selection step of selecting a plurality of map-converted images from a set of map-converted images, and displaying the selected plurality of map-converted images on the screen as the shape of the object deformed by the action of an external force. This is a simulation method including an image reproduction step.
本発明の一態様は、上記のシミュレーション装置としてコンピュータを機能させるためのプログラムである。 One aspect of the present invention is a program for operating a computer as the above-mentioned simulation device.
本発明により、外力の作用によって変形した対象物の形状を画面上で再現する精度を向上させることが可能である。 INDUSTRIAL APPLICABILITY According to the present invention, it is possible to improve the accuracy of reproducing the shape of an object deformed by the action of an external force on the screen.
本発明の実施形態について、図面を参照して詳細に説明する。
図1は、シミュレーション装置1(シミュレータ)の構成例を示す図である。シミュレーション装置1は、変形した対象物の形状を画面上で模擬する装置である。シミュレーション装置1は、外力の作用によって変形した対象物の形状を、画面上で精度よく再現することが可能である。対象物は、例えば、前立腺等の臓器である。変形は、塑性変形に限られる必要はなく、弾性変形でもよい。
Embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a diagram showing a configuration example of the simulation device 1 (simulator). The
シミュレーション装置1は、画像導出装置10と、画像再生装置20と、通信回線30とを備える。画像導出装置10と画像再生装置20とは、通信回線30を経由して互いに通信可能である。画像導出装置10は、導出部100と、第1記憶部110と、第1通信部120とを備える。画像再生装置20は、第2通信部200と、第2記憶部210と、操作部220と、選択部230と、画像再生部240と、表示部250とを備える。表示部250は、液晶ディスプレイ、スマートグラス又はヘッドマウントディスプレイ等の表示デバイスを画面として備える。
The
シミュレーション装置1の各機能部のうちの少なくとも一部は、サーバ等のコンピュータにおける、GPGPU/GPU(General Purpose Computing on Graphics Processing Unit)、CPU(Central Processing Unit)等のプロセッサが、記憶部に記憶されたプログラムを実行することにより実現される。記憶部は、例えばフラッシュメモリ、HDD(Hard Disk Drive)などの不揮発性の記録媒体(非一時的な記録媒体)が好ましい。記憶部は、RAM(Random Access Memory)などの揮発性の記録媒体を備えてもよい。シミュレーション装置1の各機能部のうちの少なくとも一部は、例えば、LSI(Large Scale Integrated circuit)やASIC(Application Specific Integrated Circuit)等のハードウェア(電子回路)を用いて実現されてもよい。
At least a part of each functional unit of the
以下、外力の作用によって変形した球の写像変換の結果を表す画像を「写像変換画像」という。以下では、対象物は、一例として前立腺である。前立腺は複雑な構造及び形状を有しているが、シミュレーション装置1は外力の作用によって変形した前立腺の形状を、画面上で精度よく再現することが可能である。
Hereinafter, an image showing the result of mapping conversion of a sphere deformed by the action of an external force is referred to as a "mapping conversion image". In the following, the object is, for example, the prostate. Although the prostate has a complicated structure and shape, the
次に、画像導出装置10について説明する。画像導出装置10において、球と外力とは、記憶部におけるデータとしてそれぞれ扱われる。すなわち、球と外力とは、仮想空間における球と外力としてそれぞれ扱われる。球に作用する外力には、力の大きさと力の方向とに関して複数のパターンが予め定められる。
Next, the
導出部100は、写像変換画像の集合を、球に作用した外力ごとに形状を近似する手法としてよく使われる超楕円関数を用いて導出する。すなわち、導出部100は、球に作用した外力ごとに、超楕円関数の近似精度を上げるための多数パラメータを変更して写像変換画像の集合を導出する。導出部100は、導出された写像変換画像の集合と、球に作用した外力とを対応付けて、写像変換画像の集合と外力とを第1記憶部110に記録する。
The derivation unit 100 derives a set of map-transformed images by using a hyperelliptic function that is often used as a method of approximating the shape for each external force acting on the sphere. That is, the derivation unit 100 derives a set of mapping-transformed images by changing a large number of parameters for increasing the approximation accuracy of the superellipse function for each external force acting on the sphere. The derivation unit 100 records the set of the map-converted images and the external force in the
第1記憶部110は、導出部100によって導出された写像変換画像の集合と、球に作用した外力とを対応付けて記憶する。第1通信部120は、通信回線30を経由して第2通信部200と通信する。第1通信部120は、導出部100によって導出された写像変換画像の集合と、球に作用した外力のデータとを、第2通信部200からの要求に応じて第2通信部200に送信する。導出部100及び第1記憶部110は、データを一括して画像再生装置20に予め転送してもよい。
The
次に、画像再生装置20について説明する。画像再生装置20において、対象物と外力とは、記憶部におけるデータとしてそれぞれ扱われる。すなわち、対象物と外力とは、仮想空間における対象物と外力としてそれぞれ扱われる。
Next, the
第2通信部200は、通信回線30を経由して第1通信部120と通信する。第2通信部200は、第1記憶部110から通信回線30を経由してダウンロードされた写像変換画像の集合と、球に作用した外力データとを、互いに対応付けて第2記憶部210に記録する。第2記憶部210は、ダウンロードされた写像変換画像の集合と、球に作用した外力データとを、互いに対応付けて記憶する。なお、第2記憶部210は、シミュレーション装置1におけるシミュレーション処理が終了した場合、写像変換画像の集合と球に作用した外力データとを、第2記憶部210から消去する。
The
操作部220は、表示部250の画面上に表示された対象物に外力を作用させる手動操作を受け付ける。操作部220は、例えば、力覚デバイス(力触覚デバイス)である。操作部220は、仮想空間において外力の作用を受けた対象物の反力を、物理的な反力としてユーザに作用させてもよい。これによって、操作部220は、臓器等の患部の触感をユーザに与えることができる。
The
選択部230は、表示部250の画面上に表示された対象物に作用した外力と、画像導出装置10において球に作用した外力との対応付けに基づいて、球に作用した外力ごとに記録された写像変換画像の集合のうちから、コンピュータグラフィックスを用いて3次元画像として再生される複数の写像変換画像を選択する。
The
例えば、選択部230は、球に作用した外力のパターンのうちから、対象物に作用した外力と等しい外力を選択する。この選択の結果に基づいて、選択部230は、第2記憶部210に記録されている写像変換画像の集合のうちから、対象物に作用した外力に対応付けられている複数の写像変換画像を選択する。なお、選択部230は、導出部100によって遠隔操作されてもよい。
For example, the
画像再生部240は、選択された複数の写像変換画像を、互いに交差している第1スライス(sq平面)及び第2スライス(r平面)を用いて、コンピュータグラフィックスを用いて3次元画像として再生する。画像再生部240は、再生された複数の写像変換画像を、手動操作に応じた外力の作用によって変形した対象物(変形対象物)の形状として、表示部250の画面上に表示させる。この画面上では、操作部220を操作する医師などの操作者の手の動きに応じて、手術用器具が移動する。表示部250は、再生された複数の写像変換画像を、手動操作に応じて移動した手術用器具による外力の作用によって変形した対象物の形状として、表示部250の画面上に表示する。操作者による操作によって変形対象物に加えられた外力の反力が、画面上に表示されている変形対象物から操作部220を通して操作者に返送される。
The
次に、写像変換画像の導出方法を説明する。
図2は、対象物の輪郭を表す写像変換画像としての楕円300の例を示す図である。写像変換画像には、第1領域310(i=1)と、第2領域320(i=2)と、第3領域330(i=3)と、第4領域340(i=4)と、第5領域350(j=1)と、第6領域360(j=2)とが定められている。
Next, a method of deriving the map-converted image will be described.
FIG. 2 is a diagram showing an example of an
第1領域310は、写像変換画像における第1象限の領域である。第2領域320は、写像変換画像における第2象限の領域である。第3領域330は、写像変換画像における第3象限の領域である。第4領域340は、写像変換画像における第4象限の領域である。第5領域350は、写像変換画像における第1象限及び第4象限の領域である。第6領域360は、写像変換画像における第2象限及び第3象限の領域である。なお、各領域は更に細分化されてもよい。
The
図3は、変形後又は移動後の楕円300の各例を示す図である。導出部100は、球に作用した外力ごとに、楕円300に対してジューコフスキー変換を実行する。すなわち、導出部100は、球に作用した外力ごとに超楕円関数の各パラメータを変更して、楕円300を変形又は移動させる。導出部100は、変形後又は移動後の楕円300を、写像変換画像として導出する。変形後又は移動後の楕円(超楕円関数を用いた変形等の結果)を表現する関数「Vi」は、式(1)のように表される。
FIG. 3 is a diagram showing each example of the
ここで、「lx」は、楕円300をx軸方向に移動させるためのパラメータである。「ly」は、楕円300をy軸方向に移動させるためのパラメータである。「r」は、楕円300を回転(変形)させるためのパラメータである。「sy」は、楕円300をy軸方向に変形させるためのパラメータである。「xy」は、楕円300をx軸方向に変形させるためのパラメータである。
Here, "lx" is a parameter for moving the
超楕円関数のパラメータのうちの「sqi」と「ti」と「bi」と「shi」とは、領域「i」ごとに用意される。「sqi」は、楕円300を点対称に変形させるためのパラメータである。「ti」は、楕円300をy軸対称に第1態様で変形させるためのパラメータである。「bi」は、楕円300をy軸対称に第2態様で変形させるためのパラメータである。「shi」は、楕円300の変形し難さを変更するためのパラメータであり、例えば0から1までの範囲の値である。楕円300の変形し難さは、対象物の硬さに相当する。対象物の硬さは、対象物の材質に応じて変わる。
Among the parameters of the hyperelliptic function, "sq i ", "ti", "bi", and "sh i " are prepared for each area " i ". "Sq i " is a parameter for deforming the
図2及び図3に示された例では、式(1)における複数のパラメータの個数(超楕円関数を用いて楕円300を変形又は移動させるためのパラメータの個数)は、「lx」と「ly」と「r」と「sy」と「xy」との5個と、「sq1」から「sq4」までの4個と、「t1」から「t4」までの4個と、「b1」から「b4」までの4個と、「sh1」から「sh4」までの4個との合計21個である。「i」及び「j」の各値は、領域の個数に対応した値であり、領域の細分化に応じて大きくなる。
In the example shown in FIGS. 2 and 3, the number of a plurality of parameters in the equation (1) (the number of parameters for deforming or moving the
なお、式(1)における複数のパラメータのうちの例えば「b」は、領域「j」ごとに用意されてもよい。すなわち、「bi」(「b1」から「b4」まで)の代わりに、「bj」(「b1」から「b2」まで)が、式(1)における複数のパラメータの一部として用意されていてもよい。この場合、超楕円関数を用いて楕円300を変形又は移動させるためのパラメータの個数は、合計19個である。
For example, "b" among the plurality of parameters in the equation (1) may be prepared for each area "j". That is, instead of " bi " (from "b 1 " to "b 4 "), "b j " (from "b 1 " to "b 2 ") is one of the plurality of parameters in equation (1). It may be prepared as a department. In this case, the total number of parameters for deforming or moving the
図4は、第1スライス400(sq平面)と、第2スライス410(r平面)との例を示す図である。第1スライス400と第2スライス410とは、角度「θ」を成すように交差している。例えば、第1スライス400と第2スライス410とは、互いに直交している。
FIG. 4 is a diagram showing an example of the first slice 400 (sq plane) and the second slice 410 (r plane). The
第1スライス400-1から第1スライス400-P(Pは2以上の整数)までのように、第1スライス400の枚数は複数でもよい。それぞれの第1スライス400-p(pは、1からPまでの整数)は、互いに平行である。同様に、第2スライス410-1から第2スライス410-R(Rは2以上の整数)までのように、第2スライス410の枚数は複数でもよい。それぞれの第2スライス410-r(rは、1からRまでの整数)は、互いに平行である。
The number of the
図5は、変形前の球500と、変形後の球500と、写像変換画像420との例を示す図である。球500は、外力510の作用によって変形又は移動する。外力510の方向は、球500に対して様々なパターンで変更される。また、外力510のベクトル量は、所定範囲で様々なパターンで変更される。導出部100は、変形した球500の輪郭を例えば有限要素法を用いて導出する。
FIG. 5 is a diagram showing an example of a
導出部100は、球500の輪郭が第1スライス400に写像変換された結果を近似するように、球500に作用した外力510ごとに、式(1)における超楕円関数の各パラメータを変更して写像変換画像420を導出する。同様に、導出部100は、球500の輪郭が第2スライス410に写像変換された結果を近似するように、球500に作用した外力510ごとに、式(1)における超楕円関数の各パラメータを変更して写像変換画像420を導出する。
The derivation unit 100 changes each parameter of the superellipse function in the equation (1) for each
図6は、写像変換画像420の集合の例を示す図である。導出部100は、導出された写像変換画像420の集合と、球500に作用した外力510とを対応付けて、写像変換画像420手術用器具と外力510のデータ(大きさ及び方向)とを、第1記憶部110に記録する。領域「i」における外力を表現する関数「Fi」は、式(2)のように表される。
FIG. 6 is a diagram showing an example of a set of
ここで、「fx」は、外力510のx軸成分である。「fy」は、外力510のy軸成分である。「fz」は、外力510のz軸成分である。
Here, "f x " is an x-axis component of the
領域「i」における伝達関数「Hi」と、領域「i」における外力を表現する関数「Fi」と、変形後又は移動後の楕円(超楕円関数を用いた変形等の結果)を表現する関数「Vi」との関係は、式(3)のような行列式で表される。なお、式(3)は、転置行列を用いて、「tHi・tFi=tVi」と変形表現されてもよい。 The transfer function "Hi" in the region "i", the function "Fi" that expresses the external force in the region "i", and the function that expresses the deformed or moved elliptic (result of deformation using the super-elliptic function). The relationship with "Vi" is expressed by a determinant like the equation (3). The equation (3) may be modified and expressed as " tHi · t Fi = t Vi" using a transposed matrix.
図7は、変形後の前立腺620の輪郭630の例を臓器変形例として示す図である。前立腺620の輪郭630は、例えば、磁気共鳴画像(Magnetic Resonance Imaging : MRI)装置等によって予め撮影される。図7には、膀胱600と、尿道610と、前立腺620とが表されている。外力510の作用によって、前立腺620の形状は輪郭630のように変形している。式(3)に示された伝達関数「Hi」は、式(4)のように表される。伝達関数「Hi」は、球に作用した外力を入力とし、外力の作用を受けた球の形状を決定して、決定された形状を出力するための関数である。なお、式(4)は、転置行列を用いて、「tHi=tVi・Fi」と変形表現されてもよい。
FIG. 7 is a diagram showing an example of the
ここで、「tFi」は、「Fi」の転置行列であり、操作部220(力覚デバイス)を通して領域「i」に伝達される外力を表す。「tFi」の物理的な意味と「Fi」の物理的な意味とは同じであり、転置行列「tFi」は伝達関数「Hi」の導出に用いられる変形表現の一例である。行列の形式で表現される伝達関数(ベクトル型の伝達関数)「Hi」の列の数は、式(1)における複数のパラメータの個数に等しい。すなわち、伝達関数「Hi」において「n」は、式(1)における複数のパラメータの個数から1を減算した結果の数である。磁気共鳴画像等を用いて近似変形が予め決定されたパラメータと外力とに基づいて伝達関数「Hi」が予め決定されることで、前立腺620に加えられた外力「Fi」に対する輪郭630の変形が決定できる。
Here, " tFi " is a transposed matrix of "Fi" and represents an external force transmitted to the region "i" through the operation unit 220 (force sense device). The physical meaning of " t Fi" and the physical meaning of "Fi" are the same, and the transposed matrix " t Fi" is an example of a modified expression used to derive the transfer function "Hi". The number of columns of the transfer function (vector type transfer function) "Hi" expressed in the form of a matrix is equal to the number of a plurality of parameters in the equation (1). That is, in the transfer function "Hi", "n" is the number of results obtained by subtracting 1 from the number of a plurality of parameters in the equation (1). By predetermining the transfer function "Hi" based on the parameters and the external force whose approximate deformation is predetermined using a magnetic resonance image or the like, the deformation of the
係数「a0」から係数「an」までは、x軸方向の各変形成分を表す。係数「b0」から係数「bn」までは、y軸方向の各変形成分を表す。係数「c0」から係数「cn」までは、z軸方向の各変形成分を表す。変形成分は、仮想空間内に臓器が表現される際に、拡大又は縮小のパラメータとなる。 The coefficient "a 0 " to the coefficient "an" represent each deformation component in the x-axis direction. The coefficient "b 0 " to the coefficient "b n " represent each deformation component in the y-axis direction. The coefficient " c 0 " to the coefficient "cn" represent each deformation component in the z-axis direction. The deformation component becomes a parameter for enlargement or contraction when an organ is represented in the virtual space.
仮想空間のx軸方向に関して、操作部220による外力「Fi」が前立腺620に加えられた場合に、又は、操作部220による外力「Fi」で前立腺620が引っ張られた場合に、変形後又は移動後の楕円300を表現する関数「Vi」が輪郭630を近似するように、「h0」から「hn」までの各値は、伝達関数におけるx軸方向の各成分に関して予め定められる。仮想空間のy軸方向に関して、操作部220による外力「Fi」が前立腺620に加えられた場合に、又は、操作部220による外力「Fi」で前立腺620が引っ張られた場合に、変形後又は移動後の楕円300を表現する関数「Vi」が輪郭630を近似するように、「h’0」から「h’n」までの各値は、伝達関数におけるy軸方向の各成分に関して予め定められる。仮想空間のz軸方向に関して、操作部220による外力「Fi」が前立腺620に加えられた場合に、又は、操作部220による外力「Fi」で前立腺620が引っ張られた場合に、変形後又は移動後の楕円300を表現する関数「Vi」が輪郭630を近似するように、「h’’0」から「h’’0」までの各値は、伝達関数におけるz軸方向の各成分に関して予め定められる。
After deformation or movement in the x-axis direction of the virtual space, when the external force "Fi" by the
次に、写像変換画像420の選択方法について説明する。
図8は、写像変換画像420の選択の例を示す図である。選択部230は、例えば、輪郭630と写像変換画像420との画素値の差分を導出することによって、変形後の前立腺620の輪郭630と写像変換画像420との近似度を導出する。選択部230は、球500に外力510が作用している場合について、変形後の前立腺620の輪郭630を近似する写像変換画像420を、第2記憶部210に記憶されている写像変換画像420の集合のうちから選択する。
Next, a method of selecting the
FIG. 8 is a diagram showing an example of selection of the
図9は、変形後の対象物の3次元画像の例を示す図である。画像再生部240は、前立腺620の輪郭630を近似する写像変換画像として選択された写像変換画像420-sを、第1スライス400-pに配置する。画像再生部240は、前立腺620の輪郭630を近似する写像変換画像として選択された写像変換画像420-nを、第2スライス410-rに配置する。画像再生部240は、複数の第1スライス400と複数の第2スライス410とについて、写像変換画像420の配置処理を実行する。このようにして、画像再生部240は、選択された複数の写像変換画像を、互いに交差している第1スライス400(sq平面)及び第2スライス410(r平面)を用いて、コンピュータグラフィックスを用いて3次元画像として再生する。
FIG. 9 is a diagram showing an example of a three-dimensional image of the deformed object. The
次に、シミュレーション装置1の動作を説明する。
図10は、画像導出装置10の構成例を示すフローチャートである。導出部100は、球500に作用した外力510ごとに、式(1)に示された超楕円関数のパラメータを図2の各領域「i」について図3のように変更して、図6に示されたような写像変換画像420の集合を導出する(ステップS101)。導出部100は、導出された写像変換画像420の集合と、球500に作用した外力510とを対応付けて、写像変換画像420の集合を第1記憶部110に記録する(ステップS102)。
Next, the operation of the
FIG. 10 is a flowchart showing a configuration example of the
図11は、画像再生装置20の構成例を示すフローチャートである。第2通信部200は、第1記憶部110から通信回線30を経由してダウンロードされた写像変換画像420の集合と、球に作用した外力データとを、互いに対応付けて第2記憶部210に記録する(ステップS201)。
FIG. 11 is a flowchart showing a configuration example of the
操作部220は、表示部250の画面上に表示された対象物(例えば、前立腺)に外力510「Fi」を作用させる手動操作を受け付ける(ステップS202)。選択部230は、表示部250の画面上に表示された対象物に作用した外力510と、球500に作用した外力510との対応付けに基づいて、球500に作用した外力510ごとに記録された写像変換画像420の集合のうちから、再生される写像変換画像420-n及び写像変換画像420-mを選択する(ステップS203)。
The
画像再生部240は、選択された写像変換画像420-n及び写像変換画像420-mを、互いに交差している第1スライス400及び第2スライス410を用いて、図9のように再生する。写像変換画像420-n及び写像変換画像420-mは、第1スライス400及び第2スライス410による前立腺620の各断面の輪郭を近似する(ステップS204)。画像再生部240は、前立腺620の輪郭を近似するように再生された複数の写像変換画像420を、外力510の作用によって変形した対象物の形状として、表示部250の画面上に表示させる(ステップS205)。
The
以上のように、導出部100は、球500に作用した外力510ごとに、式(1)に示された超楕円関数のパラメータを図2の各領域「i」について図3のように変更して、図6に示されたような写像変換画像420の集合を導出する。写像変換画像420は、外力510の作用によって変形した球500の写像変換の結果を表す画像である。導出部100は、複数の写像変換画像420の集合と、球500に作用した外力510とを対応付けて、写像変換画像420の集合を第1記憶部110に記録する。
As described above, the derivation unit 100 changes the parameters of the hyperelliptic function shown in the equation (1) for each region “i” in FIG. 2 as shown in FIG. 3 for each
第2記憶部210は、第1記憶部110から通信回線30を経由してダウンロードされた写像変換画像420の集合を記憶する。操作部220は、表示部250の画面上に表示された対象物に外力510を作用させる手動操作を受け付ける。選択部230は、対象物に作用した外力510と球500に作用した外力510との対応付けに基づいて、球500に作用した外力510ごとに記録された写像変換画像420の集合のうちから、コンピュータグラフィックで再生される対象の3次元画像として、例えば図8のように写像変換画像420-n及び写像変換画像420-mを選択する。
The
画像再生部240は、選択された写像変換画像420-n及び写像変換画像420-mを、互いに交差している第1スライス400及び第2スライス410を用いて、例えば図9のように再生する。複数の写像変換画像420は、対象物の輪郭(例えば、磁気共鳴画像装置等によって予め撮影された前立腺620の輪郭630)を3次元で近似するように、図9のように互いに交差している。画像再生部240は、例えば図9のように再生された複数の写像変換画像420を、外力510の作用によって変形した対象物の形状として、表示部250の画面上に表示させる。写像変換画像420-n及び写像変換画像420-mは、対象物の輪郭を図9のように3次元で近似する。操作部220(力覚デバイス)は、外力510の作用を受けた対象物の反力を、ユーザに作用させてもよい。
The
このように、導出部100は、写像変換画像420の集合を、球500に作用した外力ごとに、超楕円関数を用いて導出する。これによって、外力の作用によって変形した対象物(例えば、前立腺等の臓器)の形状を画面上で再現する精度を向上させることが可能である。医療分野において、手術用器具による患部の触診と臓器の変形とを伴う手術のプロセスをユーザに確認させるように、操作部220は臓器等の患部の触感をユーザに与えることができる。また、医学部生及び医師等は、例えば腹腔鏡手術におけるプロセスを、医療技術学習又は手術前触診として疑似体験することができる。
In this way, the derivation unit 100 derives a set of the map-transformed
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 Although the embodiments of the present invention have been described in detail with reference to the drawings, the specific configuration is not limited to this embodiment, and includes designs and the like within a range that does not deviate from the gist of the present invention.
例えば、画像再生部240は、選択された複数の写像変換画像420を、互いに交差している第1スライス(sq平面)及び第2スライス(r平面)のいずれかを用いて、コンピュータグラフィックスを用いて2次元画像として再生してもよい。
For example, the
例えば、導出部100は、写像変換画像420の集合を、ディープラーニングによって導出してもよい。
For example, the derivation unit 100 may derive a set of mapping-converted
例えば、上述の各数式では様々な変形表現が可能であり、各数式の表現は特定の表現(型)に限定されない。 For example, various modified expressions are possible in each of the above-mentioned mathematical expressions, and the expression of each mathematical expression is not limited to a specific expression (type).
1…シミュレーション装置、20…画像再生装置、30…通信回線、100…導出部、110…第1記憶部、120…第1通信部、200…第2通信部、210…第2記憶部、220…操作部、230…選択部、240…画像再生部、250…表示部、300…楕円、310…第1領域、320…第2領域、330…第3領域、340…第4領域、350…第5領域、360…第6領域、400…第1スライス、410…第2スライス、420…写像変換画像、500…球、510…外力、600…膀胱、610…尿道、620…前立腺、630…輪郭 1 ... Simulation device, 20 ... Image reproduction device, 30 ... Communication line, 100 ... Derivation unit, 110 ... First storage unit, 120 ... First communication unit, 200 ... Second communication unit, 210 ... Second storage unit, 220 ... operation unit, 230 ... selection unit, 240 ... image reproduction unit, 250 ... display unit, 300 ... ellipse, 310 ... first area, 320 ... second area, 330 ... third area, 340 ... fourth area, 350 ... 5th region, 360 ... 6th region, 400 ... 1st slice, 410 ... 2nd slice, 420 ... mapping conversion image, 500 ... sphere, 510 ... external force, 600 ... bladder, 610 ... urethra, 620 ... prostate, 630 ... Contour
Claims (7)
表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作部と、
前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択部と、
選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生部と
を備えるシミュレーション装置。 A set of mapping transformation images, which are images showing the result of mapping transformation of a sphere deformed by the action of an external force, is derived for each external force acting on the sphere using a super-elliptic function, and the derived mapping conversion image is derived. A derivation unit that records the set and the external force acting on the sphere in the storage unit in association with each other.
An operation unit that accepts manual operations that apply an external force to the object displayed on the screen of the display unit,
Based on the correspondence between the external force acting on the object and the external force acting on the sphere, a plurality of mapping conversion images are selected from the set of the mapping conversion images recorded for each external force acting on the sphere. Selection part to do,
A simulation device including an image reproduction unit that displays the plurality of selected mapping conversion images on the screen as the shape of the object deformed by the action of an external force.
外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出ステップと、
表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作ステップと、
前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択ステップと、
選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生ステップと
を含むシミュレーション方法。 It is a simulation method executed by a simulation device.
A set of mapping transformation images, which are images showing the result of mapping transformation of a sphere deformed by the action of an external force, is derived for each external force acting on the sphere using a super-elliptic function, and the derived mapping conversion image is derived. A derivation step of associating the set with the external force acting on the sphere and recording it in the storage unit, and
An operation step that accepts a manual operation that applies an external force to the object displayed on the screen of the display unit, and
Based on the correspondence between the external force acting on the object and the external force acting on the sphere, a plurality of mapping conversion images are selected from the set of the mapping conversion images recorded for each external force acting on the sphere. Selection steps to do and
A simulation method including an image reproduction step of displaying the plurality of selected mapping conversion images on the screen as the shape of the object deformed by the action of an external force.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020177224A JP7058425B1 (en) | 2020-10-22 | 2020-10-22 | Simulation equipment, simulation method and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020177224A JP7058425B1 (en) | 2020-10-22 | 2020-10-22 | Simulation equipment, simulation method and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP7058425B1 true JP7058425B1 (en) | 2022-04-22 |
| JP2022068497A JP2022068497A (en) | 2022-05-10 |
Family
ID=81291858
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020177224A Active JP7058425B1 (en) | 2020-10-22 | 2020-10-22 | Simulation equipment, simulation method and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7058425B1 (en) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190362651A1 (en) | 2018-05-24 | 2019-11-28 | Verily Life Sciences Llc | System for simulation of soft bodies |
| JP2020000649A (en) | 2018-06-29 | 2020-01-09 | 富士通株式会社 | Visualization device, visualization method, and visualization program |
-
2020
- 2020-10-22 JP JP2020177224A patent/JP7058425B1/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190362651A1 (en) | 2018-05-24 | 2019-11-28 | Verily Life Sciences Llc | System for simulation of soft bodies |
| JP2020000649A (en) | 2018-06-29 | 2020-01-09 | 富士通株式会社 | Visualization device, visualization method, and visualization program |
Non-Patent Citations (1)
| Title |
|---|
| 重成佑香,ほか,"超楕円を用いた前立腺輪郭の形状抽出・モデリング手法に関する研究",ロボティクスメカトロニクス講演会2018講演会論文集,一般社団法人日本機械学会,2018年06月01日,1A1-G01 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022068497A (en) | 2022-05-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Courtecuisse et al. | GPU-based real-time soft tissue deformation with cutting and haptic feedback | |
| Berkley et al. | Real-time finite element modeling for surgery simulation: An application to virtual suturing | |
| Lloyd et al. | Identification of spring parameters for deformable object simulation | |
| JP5567502B2 (en) | Medical training method and apparatus | |
| Zhan et al. | A finite element simulator for spine orthopaedics with haptic interface | |
| CN101147172B (en) | Image processing system and image processing method | |
| Wu et al. | A hybrid condensed finite element model with GPU acceleration for interactive 3D soft tissue cutting | |
| Lim et al. | Real time simulation of nonlinear tissue response in virtual surgery using the point collocation-based method of finite spheres | |
| Mahvash et al. | High-fidelity haptic synthesis of contact with deformable bodies | |
| Wang et al. | A virtual reality surgery simulation of cutting and retraction in neurosurgery with force-feedback | |
| Wu et al. | An improved scheme of an interactive finite element model for 3D soft-tissue cutting and deformation | |
| US11250726B2 (en) | System for simulation of soft bodies | |
| Wang et al. | Haptic simulation of organ deformation and hybrid contacts in dental operations | |
| Kuroda et al. | Interaction model between elastic objects for haptic feedback considering collisions of soft tissue | |
| Hou et al. | A new model of soft tissue with constraints for interactive surgical simulation | |
| Pan et al. | Graphic and haptic simulation system for virtual laparoscopic rectum surgery | |
| Zhang et al. | Ellipsoid bounding region-based ChainMail algorithm for soft tissue deformation in surgical simulation | |
| US20250156602A1 (en) | Simulator, simulation data generation method, and simulator system | |
| JP7058425B1 (en) | Simulation equipment, simulation method and program | |
| Abdulali et al. | Realistic haptic rendering of hyper-elastic material via measurement-based FEM model identification and real-time simulation | |
| Nakao et al. | Haptic reproduction and interactive visualization of a beating heart for cardiovascular surgery simulation | |
| Costa | A novel deformation method for fast simulation of biological tissue formed by fibers and fluid | |
| Starkov et al. | Ultrasound simulation with deformable and patient-specific scatterer maps | |
| Zhang et al. | Vascular deformation for vascular interventional surgery simulation | |
| Zhong et al. | An autowave based methodology for deformable object simulation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201022 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20201126 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20201126 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20201217 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20201217 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211207 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220117 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220308 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220331 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7058425 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |