[go: up one dir, main page]

JP7058425B1 - Simulation equipment, simulation method and program - Google Patents

Simulation equipment, simulation method and program Download PDF

Info

Publication number
JP7058425B1
JP7058425B1 JP2020177224A JP2020177224A JP7058425B1 JP 7058425 B1 JP7058425 B1 JP 7058425B1 JP 2020177224 A JP2020177224 A JP 2020177224A JP 2020177224 A JP2020177224 A JP 2020177224A JP 7058425 B1 JP7058425 B1 JP 7058425B1
Authority
JP
Japan
Prior art keywords
external force
sphere
unit
images
force acting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020177224A
Other languages
Japanese (ja)
Other versions
JP2022068497A (en
Inventor
幸保 矢部
敏明 今井
憲裕 小泉
佑香 重成
直 小路
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Tokai University Educational System
Original Assignee
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Tokai University Educational System
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by THE UNIVERSITY OF ELECTRO-COMUNICATINS, Tokai University Educational System filed Critical THE UNIVERSITY OF ELECTRO-COMUNICATINS
Priority to JP2020177224A priority Critical patent/JP7058425B1/en
Application granted granted Critical
Publication of JP7058425B1 publication Critical patent/JP7058425B1/en
Publication of JP2022068497A publication Critical patent/JP2022068497A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

Figure 0007058425000001

【課題】外力の作用によって変形した対象物の形状を画面上で再現する精度を向上させることが可能であるシミュレーション装置、シミュレーション方法及びプログラムを提供する。
【解決手段】シミュレーション装置は、外力の作用によって変形した球の写像変換の結果を表す画像であって互いに交差している複数の写像変換画像を、球に作用した外力ごとに、超楕円関数を用いて導出し、複数の写像変換画像と球に作用した外力とを対応付けて記憶部に記録する導出部と、外力を作用させる手動操作を受け付ける操作部と、対象物に作用した外力と球に作用した外力との対応付けに基づいて、球に作用した外力ごとに記録された複数の写像変換画像のうちから、再生される複数の写像変換画像を選択する選択部と、選択された複数の写像変換画像を再生し、再生された複数の写像変換画像を、変形した対象物の形状として画面上に表示させる画像再生部とを備える。
【選択図】図1

Figure 0007058425000001

PROBLEM TO BE SOLVED: To provide a simulation device, a simulation method and a program capable of improving the accuracy of reproducing the shape of an object deformed by the action of an external force on a screen.
SOLUTION: A simulation device is an image showing the result of mapping conversion of a sphere deformed by the action of an external force, and a plurality of mapping conversion images intersecting each other are subjected to a super-elliptic function for each external force acting on the sphere. A derivation unit that derives using and records a plurality of mapping conversion images and an external force acting on a sphere in a storage unit, an operation unit that accepts a manual operation that applies an external force, and an external force and a sphere that act on an object. A selection unit that selects a plurality of map-converted images to be reproduced from a plurality of map-converted images recorded for each external force acting on the sphere based on the correspondence with the external force acting on the sphere, and a plurality of selected images. It is provided with an image reproduction unit that reproduces the map conversion image of the above and displays the reproduced plurality of map conversion images as the shape of the deformed object on the screen.
[Selection diagram] Fig. 1

Description

本発明は、シミュレーション装置、シミュレーション方法及びプログラムに関する。 The present invention relates to a simulation apparatus, a simulation method and a program.

術前の手術シミュレーションとしてではなく、手術のターゲットとされた臓器を医師や医学生などに触診させ、経験の少ない医師や医学生などに手術プロセスを理解させるための医療教育用のシミュレーション装置(シミュレータ)が求められている。実際の手術では手術用器具が臓器に接触した際に、手術用器具からの外力の作用によって臓器が変形する。シミュレーション装置は、変形した臓器の形状を仮想空間において再現するため、コンピュータグラフィックスで表された臓器を含む仮想空間を画面上に表示する。シミュレーション装置を操作する医師や医学生などの手の動きに応じて、画面上に表示された仮想空間内で手術用器具が移動する。ここで、手術用器具による外力の作用によって変形した臓器の形状を画面上で精度よく再現することが求められている。 A simulation device (simulator) for medical education that allows inexperienced doctors and medical students to understand the surgical process by palpating the target organ of the surgery with doctors and medical students, not as a preoperative surgical simulation. ) Is required. In actual surgery, when a surgical instrument comes into contact with an organ, the organ is deformed by the action of an external force from the surgical instrument. The simulation device displays a virtual space including an organ represented by computer graphics on the screen in order to reproduce the shape of the deformed organ in the virtual space. The surgical instruments move in the virtual space displayed on the screen according to the movements of the hands of doctors and medical students who operate the simulation device. Here, it is required to accurately reproduce the shape of an organ deformed by the action of an external force by a surgical instrument on a screen.

特許第4129527号公報Japanese Patent No. 4129527 特許第5762321号公報Japanese Patent No. 5762321

しかしながら、臓器の構造は複雑であり、また臓器は常に動いているので、外力の作用によって臓器は複雑に変形する。このため、変形した臓器の形状を画面上で精度よく再現することが難しいという問題がある。このような問題は、臓器に限られた問題ではなく、複雑な構造を有する対象物に関して、外力の作用によって変形した対象物の形状を画面上で精度よく再現するという用途に共通する問題である。このように従来では、外力の作用によって変形した対象物の形状を画面上で精度よく再現することができなかった。 However, since the structure of an organ is complicated and the organ is constantly moving, the organ is deformed in a complicated manner by the action of an external force. Therefore, there is a problem that it is difficult to accurately reproduce the shape of the deformed organ on the screen. Such a problem is not limited to organs, but is a problem common to applications in which the shape of an object deformed by the action of an external force is accurately reproduced on a screen for an object having a complicated structure. .. As described above, conventionally, it has not been possible to accurately reproduce the shape of an object deformed by the action of an external force on the screen.

上記事情に鑑み、本発明は、外力の作用によって変形した対象物の形状を画面上で再現する精度を向上させることが可能であるシミュレーション装置、シミュレーション方法及びプログラムを提供することを目的としている。 In view of the above circumstances, it is an object of the present invention to provide a simulation device, a simulation method, and a program capable of improving the accuracy of reproducing the shape of an object deformed by the action of an external force on a screen.

本発明の一態様は、外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出部と、表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作部と、前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択部と、選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生部とを備えるシミュレーション装置である。 One aspect of the present invention is to derive and derive a set of mapping conversion images, which are images showing the result of mapping conversion of a sphere deformed by the action of an external force, for each external force acting on the sphere by using a super-elliptic function. An operation that accepts a manual operation of applying an external force to an object displayed on the screen of the display unit and a derivation unit that records the set of the map-converted images and the external force acting on the sphere in the storage unit in association with each other. A plurality of mapping conversions from a set of the mapping conversion images recorded for each external force acting on the sphere based on the correspondence between the unit and the external force acting on the object and the external force acting on the sphere. It is a simulation apparatus including a selection unit for selecting an image and an image reproduction unit for displaying the selected plurality of map conversion images on the screen as the shape of the object deformed by the action of an external force.

本発明の一態様は、上記のシミュレーション装置であって、前記導出部は、前記球に作用した外力を入力として、外力の作用を受けた前記球の形状を出力とする伝達関数の複数のパラメータのうちの少なくとも一つを変更して、前記写像変換画像の集合を導出する。 One aspect of the present invention is the above-mentioned simulation apparatus, in which the derivation unit receives a plurality of parameters of a transfer function that receives an external force acting on the sphere as an input and outputs the shape of the sphere subjected to the action of the external force. At least one of them is modified to derive the set of mapping-transformed images.

本発明の一態様は、上記のシミュレーション装置であって、前記複数のパラメータのうちの一つは、外力の作用を受ける前記対象物の硬さを表すパラメータである。 One aspect of the present invention is the above-mentioned simulation apparatus, and one of the plurality of parameters is a parameter representing the hardness of the object subject to the action of an external force.

本発明の一態様は、上記のシミュレーション装置であって、前記操作部は、外力の作用を受けた前記対象物の反力をユーザに作用させる。 One aspect of the present invention is the simulation device, wherein the operation unit causes the user to act on the reaction force of the object subjected to the action of an external force.

本発明の一態様は、上記のシミュレーション装置であって、前記対象物は臓器である。 One aspect of the present invention is the simulation apparatus described above, wherein the object is an organ.

本発明の一態様は、上記のシミュレーション装置が実行するシミュレーション方法であって、外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出ステップと、表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作ステップと、前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択ステップと、選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生ステップとを含むシミュレーション方法である。 One aspect of the present invention is a simulation method executed by the above simulation apparatus, in which a set of mapping conversion images, which is an image showing the result of mapping conversion of a sphere deformed by the action of an external force, is subjected to an external force acting on the sphere. Each time, a derivation step of deriving by using a super-elliptic function and recording the set of the derived map-transformed images in association with the external force acting on the sphere is recorded in the storage unit, and the derivation step is displayed on the screen of the display unit. The above-mentioned recorded for each external force acting on the sphere based on the correspondence between the operation step of accepting the manual operation of applying the external force on the object and the external force acting on the object and the external force acting on the sphere. A selection step of selecting a plurality of map-converted images from a set of map-converted images, and displaying the selected plurality of map-converted images on the screen as the shape of the object deformed by the action of an external force. This is a simulation method including an image reproduction step.

本発明の一態様は、上記のシミュレーション装置としてコンピュータを機能させるためのプログラムである。 One aspect of the present invention is a program for operating a computer as the above-mentioned simulation device.

本発明により、外力の作用によって変形した対象物の形状を画面上で再現する精度を向上させることが可能である。 INDUSTRIAL APPLICABILITY According to the present invention, it is possible to improve the accuracy of reproducing the shape of an object deformed by the action of an external force on the screen.

実施形態における、シミュレーション装置の構成例を示す図である。It is a figure which shows the configuration example of the simulation apparatus in embodiment. 実施形態における、対象物の輪郭を表す写像変換画像としての楕円の例を示す図である。It is a figure which shows the example of the ellipse as a mapping transformation image which shows the contour of an object in embodiment. 実施形態における、変形後又は移動後の楕円の各例を示す図である。It is a figure which shows each example of the ellipse after deformation or movement in an embodiment. 実施形態における、第1スライスと第2スライスとの例を示す図である。It is a figure which shows the example of the 1st slice and the 2nd slice in an embodiment. 実施形態における、変形前の球と、変形後の球と、写像変換画像との例を示す図である。It is a figure which shows the example of the sphere before deformation, the sphere after deformation, and the mapping conversion image in an embodiment. 実施形態における、写像変換画像の集合の例を示す図である。It is a figure which shows the example of the set of the mapping transformation image in an embodiment. 実施形態における、変形後の前立腺の輪郭の例を臓器変形例として示す図である。It is a figure which shows the example of the contour of the prostate after deformation as the example of organ deformation in an embodiment. 実施形態における、写像変換画像の選択の例を示す図である。It is a figure which shows the example of selection of the mapping transformation image in an embodiment. 実施形態における、変形後の対象物の3次元画像の例を示す図である。It is a figure which shows the example of the 3D image of the object after transformation in an embodiment. 実施形態における、画像導出装置の構成例を示すフローチャートである。It is a flowchart which shows the structural example of the image derivation apparatus in embodiment. 実施形態における、画像再生装置の構成例を示すフローチャートである。It is a flowchart which shows the structural example of the image reproduction apparatus in embodiment.

本発明の実施形態について、図面を参照して詳細に説明する。
図1は、シミュレーション装置1(シミュレータ)の構成例を示す図である。シミュレーション装置1は、変形した対象物の形状を画面上で模擬する装置である。シミュレーション装置1は、外力の作用によって変形した対象物の形状を、画面上で精度よく再現することが可能である。対象物は、例えば、前立腺等の臓器である。変形は、塑性変形に限られる必要はなく、弾性変形でもよい。
Embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a diagram showing a configuration example of the simulation device 1 (simulator). The simulation device 1 is a device that simulates the shape of a deformed object on a screen. The simulation device 1 can accurately reproduce the shape of an object deformed by the action of an external force on the screen. The object is, for example, an organ such as the prostate. The deformation is not limited to plastic deformation, and may be elastic deformation.

シミュレーション装置1は、画像導出装置10と、画像再生装置20と、通信回線30とを備える。画像導出装置10と画像再生装置20とは、通信回線30を経由して互いに通信可能である。画像導出装置10は、導出部100と、第1記憶部110と、第1通信部120とを備える。画像再生装置20は、第2通信部200と、第2記憶部210と、操作部220と、選択部230と、画像再生部240と、表示部250とを備える。表示部250は、液晶ディスプレイ、スマートグラス又はヘッドマウントディスプレイ等の表示デバイスを画面として備える。 The simulation device 1 includes an image derivation device 10, an image reproduction device 20, and a communication line 30. The image derivation device 10 and the image reproduction device 20 can communicate with each other via the communication line 30. The image derivation device 10 includes a derivation unit 100, a first storage unit 110, and a first communication unit 120. The image reproduction device 20 includes a second communication unit 200, a second storage unit 210, an operation unit 220, a selection unit 230, an image reproduction unit 240, and a display unit 250. The display unit 250 includes a display device such as a liquid crystal display, smart glasses, or a head-mounted display as a screen.

シミュレーション装置1の各機能部のうちの少なくとも一部は、サーバ等のコンピュータにおける、GPGPU/GPU(General Purpose Computing on Graphics Processing Unit)、CPU(Central Processing Unit)等のプロセッサが、記憶部に記憶されたプログラムを実行することにより実現される。記憶部は、例えばフラッシュメモリ、HDD(Hard Disk Drive)などの不揮発性の記録媒体(非一時的な記録媒体)が好ましい。記憶部は、RAM(Random Access Memory)などの揮発性の記録媒体を備えてもよい。シミュレーション装置1の各機能部のうちの少なくとも一部は、例えば、LSI(Large Scale Integrated circuit)やASIC(Application Specific Integrated Circuit)等のハードウェア(電子回路)を用いて実現されてもよい。 At least a part of each functional unit of the simulation device 1 stores processors such as GPGPU / GPU (General Purpose Computing on Graphics Processing Unit) and CPU (Central Processing Unit) in a computer such as a server in a storage unit. It is realized by executing the program. The storage unit is preferably a non-volatile recording medium (non-temporary recording medium) such as a flash memory or an HDD (Hard Disk Drive). The storage unit may include a volatile recording medium such as a RAM (Random Access Memory). At least a part of each functional unit of the simulation device 1 may be realized by using hardware (electronic circuit) such as LSI (Large Scale Integrated circuit) or ASIC (Application Specific Integrated Circuit), for example.

以下、外力の作用によって変形した球の写像変換の結果を表す画像を「写像変換画像」という。以下では、対象物は、一例として前立腺である。前立腺は複雑な構造及び形状を有しているが、シミュレーション装置1は外力の作用によって変形した前立腺の形状を、画面上で精度よく再現することが可能である。 Hereinafter, an image showing the result of mapping conversion of a sphere deformed by the action of an external force is referred to as a "mapping conversion image". In the following, the object is, for example, the prostate. Although the prostate has a complicated structure and shape, the simulation device 1 can accurately reproduce the shape of the prostate deformed by the action of an external force on the screen.

次に、画像導出装置10について説明する。画像導出装置10において、球と外力とは、記憶部におけるデータとしてそれぞれ扱われる。すなわち、球と外力とは、仮想空間における球と外力としてそれぞれ扱われる。球に作用する外力には、力の大きさと力の方向とに関して複数のパターンが予め定められる。 Next, the image derivation device 10 will be described. In the image derivation device 10, the sphere and the external force are treated as data in the storage unit, respectively. That is, the sphere and the external force are treated as the sphere and the external force in the virtual space, respectively. For the external force acting on the sphere, a plurality of patterns are predetermined with respect to the magnitude of the force and the direction of the force.

導出部100は、写像変換画像の集合を、球に作用した外力ごとに形状を近似する手法としてよく使われる超楕円関数を用いて導出する。すなわち、導出部100は、球に作用した外力ごとに、超楕円関数の近似精度を上げるための多数パラメータを変更して写像変換画像の集合を導出する。導出部100は、導出された写像変換画像の集合と、球に作用した外力とを対応付けて、写像変換画像の集合と外力とを第1記憶部110に記録する。 The derivation unit 100 derives a set of map-transformed images by using a hyperelliptic function that is often used as a method of approximating the shape for each external force acting on the sphere. That is, the derivation unit 100 derives a set of mapping-transformed images by changing a large number of parameters for increasing the approximation accuracy of the superellipse function for each external force acting on the sphere. The derivation unit 100 records the set of the map-converted images and the external force in the first storage unit 110 in association with the set of the derived map-converted images and the external force acting on the sphere.

第1記憶部110は、導出部100によって導出された写像変換画像の集合と、球に作用した外力とを対応付けて記憶する。第1通信部120は、通信回線30を経由して第2通信部200と通信する。第1通信部120は、導出部100によって導出された写像変換画像の集合と、球に作用した外力のデータとを、第2通信部200からの要求に応じて第2通信部200に送信する。導出部100及び第1記憶部110は、データを一括して画像再生装置20に予め転送してもよい。 The first storage unit 110 stores a set of map-transformed images derived by the derivation unit 100 in association with an external force acting on the sphere. The first communication unit 120 communicates with the second communication unit 200 via the communication line 30. The first communication unit 120 transmits the set of the map conversion images derived by the derivation unit 100 and the data of the external force acting on the sphere to the second communication unit 200 in response to the request from the second communication unit 200. .. The derivation unit 100 and the first storage unit 110 may collectively transfer the data to the image reproduction device 20 in advance.

次に、画像再生装置20について説明する。画像再生装置20において、対象物と外力とは、記憶部におけるデータとしてそれぞれ扱われる。すなわち、対象物と外力とは、仮想空間における対象物と外力としてそれぞれ扱われる。 Next, the image reproduction device 20 will be described. In the image reproduction device 20, the object and the external force are treated as data in the storage unit, respectively. That is, the object and the external force are treated as the object and the external force in the virtual space, respectively.

第2通信部200は、通信回線30を経由して第1通信部120と通信する。第2通信部200は、第1記憶部110から通信回線30を経由してダウンロードされた写像変換画像の集合と、球に作用した外力データとを、互いに対応付けて第2記憶部210に記録する。第2記憶部210は、ダウンロードされた写像変換画像の集合と、球に作用した外力データとを、互いに対応付けて記憶する。なお、第2記憶部210は、シミュレーション装置1におけるシミュレーション処理が終了した場合、写像変換画像の集合と球に作用した外力データとを、第2記憶部210から消去する。 The second communication unit 200 communicates with the first communication unit 120 via the communication line 30. The second communication unit 200 records in the second storage unit 210 a set of mapping conversion images downloaded from the first storage unit 110 via the communication line 30 and external force data acting on the sphere in association with each other. do. The second storage unit 210 stores the set of downloaded mapping conversion images and the external force data acting on the sphere in association with each other. When the simulation process in the simulation device 1 is completed, the second storage unit 210 erases the set of mapping conversion images and the external force data acting on the sphere from the second storage unit 210.

操作部220は、表示部250の画面上に表示された対象物に外力を作用させる手動操作を受け付ける。操作部220は、例えば、力覚デバイス(力触覚デバイス)である。操作部220は、仮想空間において外力の作用を受けた対象物の反力を、物理的な反力としてユーザに作用させてもよい。これによって、操作部220は、臓器等の患部の触感をユーザに与えることができる。 The operation unit 220 accepts a manual operation in which an external force is applied to an object displayed on the screen of the display unit 250. The operation unit 220 is, for example, a force sense device (force tactile sense device). The operation unit 220 may cause the user to act on the reaction force of the object subjected to the action of the external force in the virtual space as a physical reaction force. As a result, the operation unit 220 can give the user a tactile sensation of an affected part such as an organ.

選択部230は、表示部250の画面上に表示された対象物に作用した外力と、画像導出装置10において球に作用した外力との対応付けに基づいて、球に作用した外力ごとに記録された写像変換画像の集合のうちから、コンピュータグラフィックスを用いて3次元画像として再生される複数の写像変換画像を選択する。 The selection unit 230 records each external force acting on the sphere based on the correspondence between the external force acting on the object displayed on the screen of the display unit 250 and the external force acting on the sphere in the image deriving device 10. From the set of map-converted images, a plurality of map-converted images to be reproduced as a three-dimensional image are selected using computer graphics.

例えば、選択部230は、球に作用した外力のパターンのうちから、対象物に作用した外力と等しい外力を選択する。この選択の結果に基づいて、選択部230は、第2記憶部210に記録されている写像変換画像の集合のうちから、対象物に作用した外力に対応付けられている複数の写像変換画像を選択する。なお、選択部230は、導出部100によって遠隔操作されてもよい。 For example, the selection unit 230 selects an external force equal to the external force acting on the object from the patterns of the external force acting on the sphere. Based on the result of this selection, the selection unit 230 selects a plurality of mapping conversion images associated with the external force acting on the object from the set of mapping conversion images recorded in the second storage unit 210. select. The selection unit 230 may be remotely controlled by the derivation unit 100.

画像再生部240は、選択された複数の写像変換画像を、互いに交差している第1スライス(sq平面)及び第2スライス(r平面)を用いて、コンピュータグラフィックスを用いて3次元画像として再生する。画像再生部240は、再生された複数の写像変換画像を、手動操作に応じた外力の作用によって変形した対象物(変形対象物)の形状として、表示部250の画面上に表示させる。この画面上では、操作部220を操作する医師などの操作者の手の動きに応じて、手術用器具が移動する。表示部250は、再生された複数の写像変換画像を、手動操作に応じて移動した手術用器具による外力の作用によって変形した対象物の形状として、表示部250の画面上に表示する。操作者による操作によって変形対象物に加えられた外力の反力が、画面上に表示されている変形対象物から操作部220を通して操作者に返送される。 The image reproduction unit 240 uses computer graphics to convert a plurality of selected mapping conversion images into three-dimensional images using the first slice (sq plane) and the second slice (r plane) that intersect each other. Reproduce. The image reproduction unit 240 displays the reproduced plurality of map-converted images on the screen of the display unit 250 as the shape of the object (deformation object) deformed by the action of an external force corresponding to the manual operation. On this screen, the surgical instrument moves according to the movement of the hand of an operator such as a doctor who operates the operation unit 220. The display unit 250 displays the reproduced plurality of map-converted images on the screen of the display unit 250 as the shape of the object deformed by the action of the external force of the surgical instrument moved in response to the manual operation. The reaction force of the external force applied to the deformable object by the operation by the operator is returned to the operator from the deformable object displayed on the screen through the operation unit 220.

次に、写像変換画像の導出方法を説明する。
図2は、対象物の輪郭を表す写像変換画像としての楕円300の例を示す図である。写像変換画像には、第1領域310(i=1)と、第2領域320(i=2)と、第3領域330(i=3)と、第4領域340(i=4)と、第5領域350(j=1)と、第6領域360(j=2)とが定められている。
Next, a method of deriving the map-converted image will be described.
FIG. 2 is a diagram showing an example of an ellipse 300 as a mapping conversion image showing the outline of an object. The map-converted image includes a first region 310 (i = 1), a second region 320 (i = 2), a third region 330 (i = 3), and a fourth region 340 (i = 4). A fifth region 350 (j = 1) and a sixth region 360 (j = 2) are defined.

第1領域310は、写像変換画像における第1象限の領域である。第2領域320は、写像変換画像における第2象限の領域である。第3領域330は、写像変換画像における第3象限の領域である。第4領域340は、写像変換画像における第4象限の領域である。第5領域350は、写像変換画像における第1象限及び第4象限の領域である。第6領域360は、写像変換画像における第2象限及び第3象限の領域である。なお、各領域は更に細分化されてもよい。 The first region 310 is a region of the first quadrant in the map conversion image. The second region 320 is a region of the second quadrant in the map conversion image. The third region 330 is a region of the third quadrant in the map conversion image. The fourth region 340 is a region of the fourth quadrant in the map conversion image. The fifth region 350 is a region of the first quadrant and the fourth quadrant in the map conversion image. The sixth region 360 is a region of the second quadrant and the third quadrant in the map conversion image. In addition, each region may be further subdivided.

図3は、変形後又は移動後の楕円300の各例を示す図である。導出部100は、球に作用した外力ごとに、楕円300に対してジューコフスキー変換を実行する。すなわち、導出部100は、球に作用した外力ごとに超楕円関数の各パラメータを変更して、楕円300を変形又は移動させる。導出部100は、変形後又は移動後の楕円300を、写像変換画像として導出する。変形後又は移動後の楕円(超楕円関数を用いた変形等の結果)を表現する関数「Vi」は、式(1)のように表される。 FIG. 3 is a diagram showing each example of the ellipse 300 after deformation or movement. The derivation unit 100 performs a Zhukovskiy transformation on the ellipse 300 for each external force acting on the sphere. That is, the derivation unit 100 changes each parameter of the superellipse function for each external force acting on the sphere to deform or move the ellipse 300. The derivation unit 100 derives the deformed or moved ellipse 300 as a mapping conversion image. The function "Vi" that expresses the deformed or moved ellipse (result of deformation using the hyperelliptic function) is expressed by the equation (1).

Figure 0007058425000002
Figure 0007058425000002

ここで、「lx」は、楕円300をx軸方向に移動させるためのパラメータである。「ly」は、楕円300をy軸方向に移動させるためのパラメータである。「r」は、楕円300を回転(変形)させるためのパラメータである。「sy」は、楕円300をy軸方向に変形させるためのパラメータである。「xy」は、楕円300をx軸方向に変形させるためのパラメータである。 Here, "lx" is a parameter for moving the ellipse 300 in the x-axis direction. "Ly" is a parameter for moving the ellipse 300 in the y-axis direction. "R" is a parameter for rotating (deforming) the ellipse 300. “Sy” is a parameter for deforming the ellipse 300 in the y-axis direction. "Xy" is a parameter for deforming the ellipse 300 in the x-axis direction.

超楕円関数のパラメータのうちの「sq」と「t」と「b」と「sh」とは、領域「i」ごとに用意される。「sq」は、楕円300を点対称に変形させるためのパラメータである。「t」は、楕円300をy軸対称に第1態様で変形させるためのパラメータである。「b」は、楕円300をy軸対称に第2態様で変形させるためのパラメータである。「sh」は、楕円300の変形し難さを変更するためのパラメータであり、例えば0から1までの範囲の値である。楕円300の変形し難さは、対象物の硬さに相当する。対象物の硬さは、対象物の材質に応じて変わる。 Among the parameters of the hyperelliptic function, "sq i ", "ti", "bi", and "sh i " are prepared for each area " i ". "Sq i " is a parameter for deforming the ellipse 300 in a point symmetry. “Ti” is a parameter for deforming the ellipse 300 in the y -axis symmetry in the first aspect. “B i ” is a parameter for deforming the ellipse 300 in a y-axis symmetry in the second aspect. “Sh i ” is a parameter for changing the deformation difficulty of the ellipse 300, and is, for example, a value in the range of 0 to 1. The difficulty of deforming the ellipse 300 corresponds to the hardness of the object. The hardness of the object varies depending on the material of the object.

図2及び図3に示された例では、式(1)における複数のパラメータの個数(超楕円関数を用いて楕円300を変形又は移動させるためのパラメータの個数)は、「lx」と「ly」と「r」と「sy」と「xy」との5個と、「sq」から「sq」までの4個と、「t」から「t」までの4個と、「b」から「b」までの4個と、「sh」から「sh」までの4個との合計21個である。「i」及び「j」の各値は、領域の個数に対応した値であり、領域の細分化に応じて大きくなる。 In the example shown in FIGS. 2 and 3, the number of a plurality of parameters in the equation (1) (the number of parameters for deforming or moving the ellipse 300 using the superellipse function) is "lx" and "ly". , "R", "sy", and "xy", four from "sq 1 " to "sq 4 ", four from "t 1 " to "t 4 ", and "t 4". There are a total of 21 pieces, 4 pieces from "b 1 " to "b 4 " and 4 pieces from "sh 1 " to "sh 4 ". Each value of "i" and "j" is a value corresponding to the number of regions, and increases as the region is subdivided.

なお、式(1)における複数のパラメータのうちの例えば「b」は、領域「j」ごとに用意されてもよい。すなわち、「b」(「b」から「b」まで)の代わりに、「b」(「b」から「b」まで)が、式(1)における複数のパラメータの一部として用意されていてもよい。この場合、超楕円関数を用いて楕円300を変形又は移動させるためのパラメータの個数は、合計19個である。 For example, "b" among the plurality of parameters in the equation (1) may be prepared for each area "j". That is, instead of " bi " (from "b 1 " to "b 4 "), "b j " (from "b 1 " to "b 2 ") is one of the plurality of parameters in equation (1). It may be prepared as a department. In this case, the total number of parameters for deforming or moving the ellipse 300 using the hyperelliptic function is 19.

図4は、第1スライス400(sq平面)と、第2スライス410(r平面)との例を示す図である。第1スライス400と第2スライス410とは、角度「θ」を成すように交差している。例えば、第1スライス400と第2スライス410とは、互いに直交している。 FIG. 4 is a diagram showing an example of the first slice 400 (sq plane) and the second slice 410 (r plane). The first slice 400 and the second slice 410 intersect so as to form an angle "θ". For example, the first slice 400 and the second slice 410 are orthogonal to each other.

第1スライス400-1から第1スライス400-P(Pは2以上の整数)までのように、第1スライス400の枚数は複数でもよい。それぞれの第1スライス400-p(pは、1からPまでの整数)は、互いに平行である。同様に、第2スライス410-1から第2スライス410-R(Rは2以上の整数)までのように、第2スライス410の枚数は複数でもよい。それぞれの第2スライス410-r(rは、1からRまでの整数)は、互いに平行である。 The number of the first slice 400 may be plural, such as from the first slice 400-1 to the first slice 400-P (P is an integer of 2 or more). Each first slice 400-p (p is an integer from 1 to P) is parallel to each other. Similarly, the number of the second slice 410 may be plural, such as from the second slice 410-1 to the second slice 410-R (R is an integer of 2 or more). Each second slice 410-r (r is an integer from 1 to R) is parallel to each other.

図5は、変形前の球500と、変形後の球500と、写像変換画像420との例を示す図である。球500は、外力510の作用によって変形又は移動する。外力510の方向は、球500に対して様々なパターンで変更される。また、外力510のベクトル量は、所定範囲で様々なパターンで変更される。導出部100は、変形した球500の輪郭を例えば有限要素法を用いて導出する。 FIG. 5 is a diagram showing an example of a sphere 500 before deformation, a sphere 500 after deformation, and a mapping conversion image 420. The sphere 500 is deformed or moved by the action of an external force 510. The direction of the external force 510 is changed in various patterns with respect to the sphere 500. Further, the vector quantity of the external force 510 is changed in various patterns within a predetermined range. The derivation unit 100 derives the contour of the deformed sphere 500 by using, for example, the finite element method.

導出部100は、球500の輪郭が第1スライス400に写像変換された結果を近似するように、球500に作用した外力510ごとに、式(1)における超楕円関数の各パラメータを変更して写像変換画像420を導出する。同様に、導出部100は、球500の輪郭が第2スライス410に写像変換された結果を近似するように、球500に作用した外力510ごとに、式(1)における超楕円関数の各パラメータを変更して写像変換画像420を導出する。 The derivation unit 100 changes each parameter of the superellipse function in the equation (1) for each external force 510 acting on the sphere 500 so that the contour of the sphere 500 is mapped to the first slice 400. The mapping conversion image 420 is derived. Similarly, the derivation unit 100 determines each parameter of the superelliptic function in the equation (1) for each external force 510 acting on the sphere 500 so that the contour of the sphere 500 is mapped to the second slice 410. Is changed to derive the mapping conversion image 420.

図6は、写像変換画像420の集合の例を示す図である。導出部100は、導出された写像変換画像420の集合と、球500に作用した外力510とを対応付けて、写像変換画像420手術用器具と外力510のデータ(大きさ及び方向)とを、第1記憶部110に記録する。領域「i」における外力を表現する関数「Fi」は、式(2)のように表される。 FIG. 6 is a diagram showing an example of a set of mapping conversion images 420. The derivation unit 100 associates the set of the derived map conversion images 420 with the external force 510 acting on the sphere 500, and obtains the data (size and direction) of the map conversion image 420 surgical instrument and the external force 510. Record in the first storage unit 110. The function "Fi" expressing the external force in the region "i" is expressed by the equation (2).

Figure 0007058425000003
Figure 0007058425000003

ここで、「f」は、外力510のx軸成分である。「f」は、外力510のy軸成分である。「f」は、外力510のz軸成分である。 Here, "f x " is an x-axis component of the external force 510. “F y ” is a y-axis component of the external force 510. “Fz” is a z -axis component of the external force 510.

領域「i」における伝達関数「Hi」と、領域「i」における外力を表現する関数「Fi」と、変形後又は移動後の楕円(超楕円関数を用いた変形等の結果)を表現する関数「Vi」との関係は、式(3)のような行列式で表される。なお、式(3)は、転置行列を用いて、「Hi・Fi=Vi」と変形表現されてもよい。 The transfer function "Hi" in the region "i", the function "Fi" that expresses the external force in the region "i", and the function that expresses the deformed or moved elliptic (result of deformation using the super-elliptic function). The relationship with "Vi" is expressed by a determinant like the equation (3). The equation (3) may be modified and expressed as " tHi · t Fi = t Vi" using a transposed matrix.

Figure 0007058425000004
Figure 0007058425000004

図7は、変形後の前立腺620の輪郭630の例を臓器変形例として示す図である。前立腺620の輪郭630は、例えば、磁気共鳴画像(Magnetic Resonance Imaging : MRI)装置等によって予め撮影される。図7には、膀胱600と、尿道610と、前立腺620とが表されている。外力510の作用によって、前立腺620の形状は輪郭630のように変形している。式(3)に示された伝達関数「Hi」は、式(4)のように表される。伝達関数「Hi」は、球に作用した外力を入力とし、外力の作用を受けた球の形状を決定して、決定された形状を出力するための関数である。なお、式(4)は、転置行列を用いて、「Hi=Vi・Fi」と変形表現されてもよい。 FIG. 7 is a diagram showing an example of the contour 630 of the prostate 620 after deformation as an example of organ deformation. The contour 630 of the prostate 620 is preliminarily imaged by, for example, a Magnetic Resonance Imaging (MRI) device or the like. FIG. 7 shows the bladder 600, the urethra 610, and the prostate 620. Due to the action of the external force 510, the shape of the prostate 620 is deformed like the contour 630. The transfer function "Hi" shown in the equation (3) is expressed as in the equation (4). The transfer function "Hi" is a function for inputting an external force acting on a sphere, determining the shape of the sphere affected by the external force, and outputting the determined shape. The equation (4) may be modified and expressed as " tHi = tVi · Fi" using a transposed matrix.

Figure 0007058425000005
Figure 0007058425000005

ここで、「tFi」は、「Fi」の転置行列であり、操作部220(力覚デバイス)を通して領域「i」に伝達される外力を表す。「tFi」の物理的な意味と「Fi」の物理的な意味とは同じであり、転置行列「tFi」は伝達関数「Hi」の導出に用いられる変形表現の一例である。行列の形式で表現される伝達関数(ベクトル型の伝達関数)「Hi」の列の数は、式(1)における複数のパラメータの個数に等しい。すなわち、伝達関数「Hi」において「n」は、式(1)における複数のパラメータの個数から1を減算した結果の数である。磁気共鳴画像等を用いて近似変形が予め決定されたパラメータと外力とに基づいて伝達関数「Hi」が予め決定されることで、前立腺620に加えられた外力「Fi」に対する輪郭630の変形が決定できる。 Here, " tFi " is a transposed matrix of "Fi" and represents an external force transmitted to the region "i" through the operation unit 220 (force sense device). The physical meaning of " t Fi" and the physical meaning of "Fi" are the same, and the transposed matrix " t Fi" is an example of a modified expression used to derive the transfer function "Hi". The number of columns of the transfer function (vector type transfer function) "Hi" expressed in the form of a matrix is equal to the number of a plurality of parameters in the equation (1). That is, in the transfer function "Hi", "n" is the number of results obtained by subtracting 1 from the number of a plurality of parameters in the equation (1). By predetermining the transfer function "Hi" based on the parameters and the external force whose approximate deformation is predetermined using a magnetic resonance image or the like, the deformation of the contour 630 with respect to the external force "Fi" applied to the prostate 620 is generated. I can decide.

係数「a」から係数「a」までは、x軸方向の各変形成分を表す。係数「b」から係数「b」までは、y軸方向の各変形成分を表す。係数「c」から係数「c」までは、z軸方向の各変形成分を表す。変形成分は、仮想空間内に臓器が表現される際に、拡大又は縮小のパラメータとなる。 The coefficient "a 0 " to the coefficient "an" represent each deformation component in the x-axis direction. The coefficient "b 0 " to the coefficient "b n " represent each deformation component in the y-axis direction. The coefficient " c 0 " to the coefficient "cn" represent each deformation component in the z-axis direction. The deformation component becomes a parameter for enlargement or contraction when an organ is represented in the virtual space.

仮想空間のx軸方向に関して、操作部220による外力「Fi」が前立腺620に加えられた場合に、又は、操作部220による外力「Fi」で前立腺620が引っ張られた場合に、変形後又は移動後の楕円300を表現する関数「Vi」が輪郭630を近似するように、「h」から「h」までの各値は、伝達関数におけるx軸方向の各成分に関して予め定められる。仮想空間のy軸方向に関して、操作部220による外力「Fi」が前立腺620に加えられた場合に、又は、操作部220による外力「Fi」で前立腺620が引っ張られた場合に、変形後又は移動後の楕円300を表現する関数「Vi」が輪郭630を近似するように、「h’」から「h’」までの各値は、伝達関数におけるy軸方向の各成分に関して予め定められる。仮想空間のz軸方向に関して、操作部220による外力「Fi」が前立腺620に加えられた場合に、又は、操作部220による外力「Fi」で前立腺620が引っ張られた場合に、変形後又は移動後の楕円300を表現する関数「Vi」が輪郭630を近似するように、「h’’」から「h’’」までの各値は、伝達関数におけるz軸方向の各成分に関して予め定められる。 After deformation or movement in the x-axis direction of the virtual space, when the external force "Fi" by the operation unit 220 is applied to the prostate 620, or when the prostate 620 is pulled by the external force "Fi" by the operation unit 220. Each value from "h 0 " to " hn " is predetermined for each component in the x-axis direction in the transfer function so that the function "Vi" representing the later ellipse 300 approximates the contour 630. After deformation or movement in the y-axis direction of the virtual space, when the external force "Fi" by the operation unit 220 is applied to the prostate 620, or when the prostate 620 is pulled by the external force "Fi" by the operation unit 220. Each value from "h'0" to "h'n" is predetermined for each component in the y-axis direction in the transfer function so that the function "Vi" representing the later ellipse 300 approximates the contour 630. .. After deformation or movement in the z-axis direction of the virtual space, when the external force "Fi" by the operation unit 220 is applied to the prostate 620, or when the prostate 620 is pulled by the external force "Fi" by the operation unit 220. Each value from "h" 0 "to" h " 0 " is preliminarily for each component in the z-axis direction in the transfer function, so that the function "Vi" representing the later ellipse 300 approximates contour 630. It is decided.

次に、写像変換画像420の選択方法について説明する。
図8は、写像変換画像420の選択の例を示す図である。選択部230は、例えば、輪郭630と写像変換画像420との画素値の差分を導出することによって、変形後の前立腺620の輪郭630と写像変換画像420との近似度を導出する。選択部230は、球500に外力510が作用している場合について、変形後の前立腺620の輪郭630を近似する写像変換画像420を、第2記憶部210に記憶されている写像変換画像420の集合のうちから選択する。
Next, a method of selecting the mapping conversion image 420 will be described.
FIG. 8 is a diagram showing an example of selection of the mapping conversion image 420. The selection unit 230 derives the degree of approximation between the contour 630 of the deformed prostate 620 and the mapping conversion image 420 by, for example, deriving the difference in pixel values between the contour 630 and the mapping conversion image 420. The selection unit 230 stores the map conversion image 420 that approximates the contour 630 of the deformed prostate 620 in the case where the external force 510 acts on the sphere 500, and the map conversion image 420 stored in the second storage unit 210. Choose from a set.

図9は、変形後の対象物の3次元画像の例を示す図である。画像再生部240は、前立腺620の輪郭630を近似する写像変換画像として選択された写像変換画像420-sを、第1スライス400-pに配置する。画像再生部240は、前立腺620の輪郭630を近似する写像変換画像として選択された写像変換画像420-nを、第2スライス410-rに配置する。画像再生部240は、複数の第1スライス400と複数の第2スライス410とについて、写像変換画像420の配置処理を実行する。このようにして、画像再生部240は、選択された複数の写像変換画像を、互いに交差している第1スライス400(sq平面)及び第2スライス410(r平面)を用いて、コンピュータグラフィックスを用いて3次元画像として再生する。 FIG. 9 is a diagram showing an example of a three-dimensional image of the deformed object. The image reproduction unit 240 arranges the mapping conversion image 420-s selected as the mapping conversion image that approximates the contour 630 of the prostate 620 on the first slice 400-p. The image reproduction unit 240 arranges the mapping conversion image 420-n selected as the mapping conversion image that approximates the contour 630 of the prostate 620 on the second slice 410-r. The image reproduction unit 240 executes an arrangement process of the map conversion image 420 for the plurality of first slices 400 and the plurality of second slices 410. In this way, the image reproduction unit 240 uses computer graphics of the selected plurality of mapping conversion images using the first slice 400 (sq plane) and the second slice 410 (r plane) that intersect each other. Is reproduced as a three-dimensional image using.

次に、シミュレーション装置1の動作を説明する。
図10は、画像導出装置10の構成例を示すフローチャートである。導出部100は、球500に作用した外力510ごとに、式(1)に示された超楕円関数のパラメータを図2の各領域「i」について図3のように変更して、図6に示されたような写像変換画像420の集合を導出する(ステップS101)。導出部100は、導出された写像変換画像420の集合と、球500に作用した外力510とを対応付けて、写像変換画像420の集合を第1記憶部110に記録する(ステップS102)。
Next, the operation of the simulation device 1 will be described.
FIG. 10 is a flowchart showing a configuration example of the image derivation device 10. The derivation unit 100 changes the parameters of the hyperelliptic function shown in the equation (1) for each region “i” in FIG. 2 as shown in FIG. 6 for each external force 510 acting on the sphere 500, and shows FIG. A set of mapping-converted images 420 as shown is derived (step S101). The derivation unit 100 records the set of the map conversion images 420 in the first storage unit 110 in association with the set of the derived map conversion images 420 and the external force 510 acting on the sphere 500 (step S102).

図11は、画像再生装置20の構成例を示すフローチャートである。第2通信部200は、第1記憶部110から通信回線30を経由してダウンロードされた写像変換画像420の集合と、球に作用した外力データとを、互いに対応付けて第2記憶部210に記録する(ステップS201)。 FIG. 11 is a flowchart showing a configuration example of the image reproduction device 20. The second communication unit 200 associates the set of the map conversion images 420 downloaded from the first storage unit 110 via the communication line 30 with the external force data acting on the sphere to the second storage unit 210. Record (step S201).

操作部220は、表示部250の画面上に表示された対象物(例えば、前立腺)に外力510「Fi」を作用させる手動操作を受け付ける(ステップS202)。選択部230は、表示部250の画面上に表示された対象物に作用した外力510と、球500に作用した外力510との対応付けに基づいて、球500に作用した外力510ごとに記録された写像変換画像420の集合のうちから、再生される写像変換画像420-n及び写像変換画像420-mを選択する(ステップS203)。 The operation unit 220 accepts a manual operation of applying an external force 510 “Fi” to an object (for example, the prostate) displayed on the screen of the display unit 250 (step S202). The selection unit 230 records each external force 510 acting on the sphere 500 based on the correspondence between the external force 510 acting on the object displayed on the screen of the display unit 250 and the external force 510 acting on the sphere 500. From the set of the map-converted images 420, the map-converted image 420-n and the map-converted image 420-m to be reproduced are selected (step S203).

画像再生部240は、選択された写像変換画像420-n及び写像変換画像420-mを、互いに交差している第1スライス400及び第2スライス410を用いて、図9のように再生する。写像変換画像420-n及び写像変換画像420-mは、第1スライス400及び第2スライス410による前立腺620の各断面の輪郭を近似する(ステップS204)。画像再生部240は、前立腺620の輪郭を近似するように再生された複数の写像変換画像420を、外力510の作用によって変形した対象物の形状として、表示部250の画面上に表示させる(ステップS205)。 The image reproduction unit 240 reproduces the selected mapping conversion image 420-n and the mapping conversion image 420-m as shown in FIG. 9 by using the first slice 400 and the second slice 410 that intersect each other. The map-converted image 420-n and the map-converted image 420-m approximate the contour of each cross section of the prostate 620 by the first slice 400 and the second slice 410 (step S204). The image reproduction unit 240 displays a plurality of map conversion images 420 reproduced so as to approximate the contour of the prostate 620 on the screen of the display unit 250 as the shape of the object deformed by the action of the external force 510 (step). S205).

以上のように、導出部100は、球500に作用した外力510ごとに、式(1)に示された超楕円関数のパラメータを図2の各領域「i」について図3のように変更して、図6に示されたような写像変換画像420の集合を導出する。写像変換画像420は、外力510の作用によって変形した球500の写像変換の結果を表す画像である。導出部100は、複数の写像変換画像420の集合と、球500に作用した外力510とを対応付けて、写像変換画像420の集合を第1記憶部110に記録する。 As described above, the derivation unit 100 changes the parameters of the hyperelliptic function shown in the equation (1) for each region “i” in FIG. 2 as shown in FIG. 3 for each external force 510 acting on the sphere 500. Then, a set of mapping-converted images 420 as shown in FIG. 6 is derived. The mapping conversion image 420 is an image showing the result of mapping conversion of the sphere 500 deformed by the action of the external force 510. The derivation unit 100 records the set of the map-converted images 420 in the first storage unit 110 in association with the set of the plurality of map-converted images 420 and the external force 510 acting on the sphere 500.

第2記憶部210は、第1記憶部110から通信回線30を経由してダウンロードされた写像変換画像420の集合を記憶する。操作部220は、表示部250の画面上に表示された対象物に外力510を作用させる手動操作を受け付ける。選択部230は、対象物に作用した外力510と球500に作用した外力510との対応付けに基づいて、球500に作用した外力510ごとに記録された写像変換画像420の集合のうちから、コンピュータグラフィックで再生される対象の3次元画像として、例えば図8のように写像変換画像420-n及び写像変換画像420-mを選択する。 The second storage unit 210 stores a set of map conversion images 420 downloaded from the first storage unit 110 via the communication line 30. The operation unit 220 accepts a manual operation in which an external force 510 is applied to an object displayed on the screen of the display unit 250. The selection unit 230 is selected from a set of mapping conversion images 420 recorded for each external force 510 acting on the sphere 500 based on the correspondence between the external force 510 acting on the object and the external force 510 acting on the sphere 500. As a three-dimensional image to be reproduced by computer graphics, for example, a mapping conversion image 420-n and a mapping conversion image 420-m are selected as shown in FIG.

画像再生部240は、選択された写像変換画像420-n及び写像変換画像420-mを、互いに交差している第1スライス400及び第2スライス410を用いて、例えば図9のように再生する。複数の写像変換画像420は、対象物の輪郭(例えば、磁気共鳴画像装置等によって予め撮影された前立腺620の輪郭630)を3次元で近似するように、図9のように互いに交差している。画像再生部240は、例えば図9のように再生された複数の写像変換画像420を、外力510の作用によって変形した対象物の形状として、表示部250の画面上に表示させる。写像変換画像420-n及び写像変換画像420-mは、対象物の輪郭を図9のように3次元で近似する。操作部220(力覚デバイス)は、外力510の作用を受けた対象物の反力を、ユーザに作用させてもよい。 The image reproduction unit 240 reproduces the selected mapping conversion image 420-n and the mapping conversion image 420-m using the first slice 400 and the second slice 410 intersecting each other, for example, as shown in FIG. .. The plurality of map-converted images 420 intersect each other as shown in FIG. 9 so as to approximate the contour of the object (for example, the contour 630 of the prostate 620 previously captured by a magnetic resonance imaging device or the like) in three dimensions. .. The image reproduction unit 240 displays, for example, a plurality of map conversion images 420 reproduced as shown in FIG. 9 on the screen of the display unit 250 as the shape of the object deformed by the action of the external force 510. The map-converted image 420-n and the map-converted image 420-m approximate the contour of the object in three dimensions as shown in FIG. The operation unit 220 (force sense device) may cause the user to act on the reaction force of the object subjected to the action of the external force 510.

このように、導出部100は、写像変換画像420の集合を、球500に作用した外力ごとに、超楕円関数を用いて導出する。これによって、外力の作用によって変形した対象物(例えば、前立腺等の臓器)の形状を画面上で再現する精度を向上させることが可能である。医療分野において、手術用器具による患部の触診と臓器の変形とを伴う手術のプロセスをユーザに確認させるように、操作部220は臓器等の患部の触感をユーザに与えることができる。また、医学部生及び医師等は、例えば腹腔鏡手術におけるプロセスを、医療技術学習又は手術前触診として疑似体験することができる。 In this way, the derivation unit 100 derives a set of the map-transformed images 420 using a super-elliptic function for each external force acting on the sphere 500. This makes it possible to improve the accuracy of reproducing the shape of an object (for example, an organ such as the prostate) deformed by the action of an external force on the screen. In the medical field, the operation unit 220 can give the user a tactile sensation of an affected part such as an organ so that the user can confirm the surgical process involving palpation of the affected part by a surgical instrument and deformation of the organ. In addition, medical students and doctors can experience the process in laparoscopic surgery, for example, as medical technique learning or preoperative palpation.

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 Although the embodiments of the present invention have been described in detail with reference to the drawings, the specific configuration is not limited to this embodiment, and includes designs and the like within a range that does not deviate from the gist of the present invention.

例えば、画像再生部240は、選択された複数の写像変換画像420を、互いに交差している第1スライス(sq平面)及び第2スライス(r平面)のいずれかを用いて、コンピュータグラフィックスを用いて2次元画像として再生してもよい。 For example, the image reproduction unit 240 uses one of the first slice (sq plane) and the second slice (r plane) intersecting each other with the selected plurality of mapping conversion images 420 for computer graphics. It may be used and reproduced as a two-dimensional image.

例えば、導出部100は、写像変換画像420の集合を、ディープラーニングによって導出してもよい。 For example, the derivation unit 100 may derive a set of mapping-converted images 420 by deep learning.

例えば、上述の各数式では様々な変形表現が可能であり、各数式の表現は特定の表現(型)に限定されない。 For example, various modified expressions are possible in each of the above-mentioned mathematical expressions, and the expression of each mathematical expression is not limited to a specific expression (type).

1…シミュレーション装置、20…画像再生装置、30…通信回線、100…導出部、110…第1記憶部、120…第1通信部、200…第2通信部、210…第2記憶部、220…操作部、230…選択部、240…画像再生部、250…表示部、300…楕円、310…第1領域、320…第2領域、330…第3領域、340…第4領域、350…第5領域、360…第6領域、400…第1スライス、410…第2スライス、420…写像変換画像、500…球、510…外力、600…膀胱、610…尿道、620…前立腺、630…輪郭 1 ... Simulation device, 20 ... Image reproduction device, 30 ... Communication line, 100 ... Derivation unit, 110 ... First storage unit, 120 ... First communication unit, 200 ... Second communication unit, 210 ... Second storage unit, 220 ... operation unit, 230 ... selection unit, 240 ... image reproduction unit, 250 ... display unit, 300 ... ellipse, 310 ... first area, 320 ... second area, 330 ... third area, 340 ... fourth area, 350 ... 5th region, 360 ... 6th region, 400 ... 1st slice, 410 ... 2nd slice, 420 ... mapping conversion image, 500 ... sphere, 510 ... external force, 600 ... bladder, 610 ... urethra, 620 ... prostate, 630 ... Contour

Claims (7)

外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出部と、
表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作部と、
前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択部と、
選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生部と
を備えるシミュレーション装置。
A set of mapping transformation images, which are images showing the result of mapping transformation of a sphere deformed by the action of an external force, is derived for each external force acting on the sphere using a super-elliptic function, and the derived mapping conversion image is derived. A derivation unit that records the set and the external force acting on the sphere in the storage unit in association with each other.
An operation unit that accepts manual operations that apply an external force to the object displayed on the screen of the display unit,
Based on the correspondence between the external force acting on the object and the external force acting on the sphere, a plurality of mapping conversion images are selected from the set of the mapping conversion images recorded for each external force acting on the sphere. Selection part to do,
A simulation device including an image reproduction unit that displays the plurality of selected mapping conversion images on the screen as the shape of the object deformed by the action of an external force.
前記導出部は、前記球に作用した外力を入力として、外力の作用を受けた前記球の形状を出力とする伝達関数の複数のパラメータのうちの少なくとも一つを変更して、前記写像変換画像の集合を導出する、請求項1に記載のシミュレーション装置。 The derivation unit changes at least one of a plurality of parameters of the transfer function that inputs the external force acting on the sphere and outputs the shape of the sphere affected by the external force, and changes the mapping-converted image. The simulation apparatus according to claim 1, wherein a set of the above is derived. 前記複数のパラメータのうちの一つは、外力の作用を受ける前記対象物の硬さを表すパラメータである、請求項2に記載のシミュレーション装置。 The simulation apparatus according to claim 2, wherein one of the plurality of parameters is a parameter representing the hardness of the object subject to the action of an external force. 前記操作部は、外力の作用を受けた前記対象物の反力をユーザに作用させる、請求項1から請求項3のいずれか一項に記載のシミュレーション装置。 The simulation device according to any one of claims 1 to 3, wherein the operation unit causes a user to act on the reaction force of the object subjected to the action of an external force. 前記対象物は臓器である、請求項1から請求項4のいずれか一項に記載のシミュレーション装置。 The simulation apparatus according to any one of claims 1 to 4, wherein the object is an organ. シミュレーション装置が実行するシミュレーション方法であって、
外力の作用によって変形した球の写像変換の結果を表す画像である写像変換画像の集合を、前記球に作用した外力ごとに、超楕円関数を用いて導出し、導出された前記写像変換画像の集合と前記球に作用した外力とを対応付けて記憶部に記録する導出ステップと、
表示部の画面上に表示された対象物に外力を作用させる手動操作を受け付ける操作ステップと、
前記対象物に作用した外力と前記球に作用した外力との対応付けに基づいて、前記球に作用した外力ごとに記録された前記写像変換画像の集合のうちから、複数の写像変換画像を選択する選択ステップと、
選択された前記複数の写像変換画像を、外力の作用によって変形した前記対象物の形状として前記画面上に表示させる画像再生ステップと
を含むシミュレーション方法。
It is a simulation method executed by a simulation device.
A set of mapping transformation images, which are images showing the result of mapping transformation of a sphere deformed by the action of an external force, is derived for each external force acting on the sphere using a super-elliptic function, and the derived mapping conversion image is derived. A derivation step of associating the set with the external force acting on the sphere and recording it in the storage unit, and
An operation step that accepts a manual operation that applies an external force to the object displayed on the screen of the display unit, and
Based on the correspondence between the external force acting on the object and the external force acting on the sphere, a plurality of mapping conversion images are selected from the set of the mapping conversion images recorded for each external force acting on the sphere. Selection steps to do and
A simulation method including an image reproduction step of displaying the plurality of selected mapping conversion images on the screen as the shape of the object deformed by the action of an external force.
請求項1から請求項5のいずれか一項に記載のシミュレーション装置としてコンピュータを機能させるためのプログラム。 A program for operating a computer as the simulation apparatus according to any one of claims 1 to 5.
JP2020177224A 2020-10-22 2020-10-22 Simulation equipment, simulation method and program Active JP7058425B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020177224A JP7058425B1 (en) 2020-10-22 2020-10-22 Simulation equipment, simulation method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020177224A JP7058425B1 (en) 2020-10-22 2020-10-22 Simulation equipment, simulation method and program

Publications (2)

Publication Number Publication Date
JP7058425B1 true JP7058425B1 (en) 2022-04-22
JP2022068497A JP2022068497A (en) 2022-05-10

Family

ID=81291858

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020177224A Active JP7058425B1 (en) 2020-10-22 2020-10-22 Simulation equipment, simulation method and program

Country Status (1)

Country Link
JP (1) JP7058425B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190362651A1 (en) 2018-05-24 2019-11-28 Verily Life Sciences Llc System for simulation of soft bodies
JP2020000649A (en) 2018-06-29 2020-01-09 富士通株式会社 Visualization device, visualization method, and visualization program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190362651A1 (en) 2018-05-24 2019-11-28 Verily Life Sciences Llc System for simulation of soft bodies
JP2020000649A (en) 2018-06-29 2020-01-09 富士通株式会社 Visualization device, visualization method, and visualization program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
重成佑香,ほか,"超楕円を用いた前立腺輪郭の形状抽出・モデリング手法に関する研究",ロボティクスメカトロニクス講演会2018講演会論文集,一般社団法人日本機械学会,2018年06月01日,1A1-G01

Also Published As

Publication number Publication date
JP2022068497A (en) 2022-05-10

Similar Documents

Publication Publication Date Title
Courtecuisse et al. GPU-based real-time soft tissue deformation with cutting and haptic feedback
Berkley et al. Real-time finite element modeling for surgery simulation: An application to virtual suturing
Lloyd et al. Identification of spring parameters for deformable object simulation
JP5567502B2 (en) Medical training method and apparatus
Zhan et al. A finite element simulator for spine orthopaedics with haptic interface
CN101147172B (en) Image processing system and image processing method
Wu et al. A hybrid condensed finite element model with GPU acceleration for interactive 3D soft tissue cutting
Lim et al. Real time simulation of nonlinear tissue response in virtual surgery using the point collocation-based method of finite spheres
Mahvash et al. High-fidelity haptic synthesis of contact with deformable bodies
Wang et al. A virtual reality surgery simulation of cutting and retraction in neurosurgery with force-feedback
Wu et al. An improved scheme of an interactive finite element model for 3D soft-tissue cutting and deformation
US11250726B2 (en) System for simulation of soft bodies
Wang et al. Haptic simulation of organ deformation and hybrid contacts in dental operations
Kuroda et al. Interaction model between elastic objects for haptic feedback considering collisions of soft tissue
Hou et al. A new model of soft tissue with constraints for interactive surgical simulation
Pan et al. Graphic and haptic simulation system for virtual laparoscopic rectum surgery
Zhang et al. Ellipsoid bounding region-based ChainMail algorithm for soft tissue deformation in surgical simulation
US20250156602A1 (en) Simulator, simulation data generation method, and simulator system
JP7058425B1 (en) Simulation equipment, simulation method and program
Abdulali et al. Realistic haptic rendering of hyper-elastic material via measurement-based FEM model identification and real-time simulation
Nakao et al. Haptic reproduction and interactive visualization of a beating heart for cardiovascular surgery simulation
Costa A novel deformation method for fast simulation of biological tissue formed by fibers and fluid
Starkov et al. Ultrasound simulation with deformable and patient-specific scatterer maps
Zhang et al. Vascular deformation for vascular interventional surgery simulation
Zhong et al. An autowave based methodology for deformable object simulation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201022

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20201126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20201126

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20201217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20201217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220331

R150 Certificate of patent or registration of utility model

Ref document number: 7058425

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250