JP7535587B2 - 医療システムおよび医療システムの作動方法 - Google Patents
医療システムおよび医療システムの作動方法 Download PDFInfo
- Publication number
- JP7535587B2 JP7535587B2 JP2022547429A JP2022547429A JP7535587B2 JP 7535587 B2 JP7535587 B2 JP 7535587B2 JP 2022547429 A JP2022547429 A JP 2022547429A JP 2022547429 A JP2022547429 A JP 2022547429A JP 7535587 B2 JP7535587 B2 JP 7535587B2
- Authority
- JP
- Japan
- Prior art keywords
- endoscope
- tip
- control device
- medical system
- treatment tool
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
- A61B1/0004—Operational features of endoscopes provided with input arrangements for the user for electronic operation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
- A61B1/00042—Operational features of endoscopes provided with input arrangements for the user for mechanical operation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/00149—Holding or positioning arrangements using articulated arms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/0016—Holding or positioning arrangements using motor drive units
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/32—Surgical robots operating autonomously
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/06—Devices, other than using radiation, for detecting or locating foreign bodies ; Determining position of diagnostic devices within or on the body of the patient
- A61B5/065—Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000096—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00193—Optical arrangements adapted for stereoscopic vision
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2055—Optical tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2068—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis using pointers, e.g. pointers having reference marks for determining coordinates of body points
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B2034/301—Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B2034/305—Details of wrist mechanisms at distal ends of robotic arms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/363—Use of fiducial points
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6846—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive
- A61B5/6847—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive mounted on an invasive device
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Heart & Thoracic Surgery (AREA)
- Veterinary Medicine (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Optics & Photonics (AREA)
- Radiology & Medical Imaging (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Robotics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mechanical Engineering (AREA)
- Astronomy & Astrophysics (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Description
術者にとって使い勝手の良い追従を実現するためには、内視鏡の過度な追従を抑制し視野の過度な移動を防ぐことが望ましい。すなわち、対象物の全ての動きに内視鏡が追従する場合、視野が不安定になり、術者がストレスを感じることがある。また、鈍的剥離等の処置の際には視野が静止していることが望ましく、視野の移動は処置の妨げとなり得る。
特許文献1の許容領域は、内視鏡画像に対して設定された2次元の領域である。すなわち、特許文献1は、内視鏡を画像の奥行方向も含む3次元方向に処置具に追従させることを考慮していない。したがって、良好な使い勝手を実現することが困難である。
図1に示されるように、本実施形態に係る医療システム10は、患者の体内に挿入される内視鏡1および処置具2と、内視鏡1を保持し内視鏡1を体内で移動させる移動装置3と、内視鏡1および移動装置3と接続され移動装置3を制御する制御装置4と、内視鏡画像を表示する表示装置5とを備える。
内視鏡1から送信された内視鏡画像Dは、入力インタフェース4dを経由して制御装置4に逐次入力され、出力インタフェース4eを経由して表示装置5に逐次出力され、表示装置5に表示される。術者は、表示装置5に表示される内視鏡画像Dを観察しながら体内に挿入された処置具2を操作し、処置具2によって体内の患部の処置を行う。
制御装置4は、操作者からの指示に基づいてマニュアルモードと追従モードとを切り替える。例えば、制御装置4は、人間の音声を認識することができる人工知能を備え、「マニュアルモード」の音声を認識したときにマニュアルモードへ切り替え、「追従モード」の音声を認識したときに追従モードへ切り替える。制御装置4は、内視鏡1に設けられたマニュアル操作スイッチ(図示略)のオンオフに従ってマニュアルモードと追従モードとを切り替えてもよい。
追従モードにおいて、制御装置4は、処置具2の先端2aの3次元位置に基づいて移動装置3を制御することによって、内視鏡画像Dの中心に向かって、かつ、内視鏡画像Dの所定の深さに向かって先端2aが移動するように、先端2aに内視鏡1を3次元的に追従させる。具体的には、制御装置4は、内視鏡画像D内の処置具2を認識し、内視鏡画像Dを用いて先端2aの3次元位置を算出する。次に、制御装置4は、内視鏡1の光軸Aが先端2aに向かって光軸Aに交差する方向に移動し、かつ、内視鏡1の先端が先端2aから所定の観察距離だけ離れた位置へ向かって光軸Aに沿う奥行方向に移動するように、各関節3bを動作させる。
図6に示されるように、処置具2の先端2aが追従領域B2の外側に配置されているとき、制御装置4は、例えばロボットアーム3aをY軸回りおよびZ軸回りに回転させることによって、先端2aに内視鏡1を第1速度V1で追従させる。
先端2aが追従領域B2内に配置されているとき、制御装置4は、1つ前の制御サイクルにおける内視鏡1の動作を継続する。すなわち、1つ前の制御サイクルにおいて内視鏡1の位置を維持していた場合、制御装置4は、現在の制御サイクルにおいても内視鏡1の位置を維持する。一方、1つ前の制御サイクルにおいて内視鏡1を先端2aに追従させていた場合、制御装置4は、現在の制御サイクルにおいても内視鏡1を先端2aに追従させる。このときの追従速度は、ゼロよりも大きい第2速度V2である。
あるいは、第1速度V1および第2速度V2は、内視鏡画像Dの中心から先端2aまでの距離に応じて変化してもよい。例えば、制御装置4は、内視鏡1の光軸Aから先端2aまでのY方向およびZ方向の距離を算出し、距離が大きい程、各速度V1,V2を速くしてもよい。この場合、内視鏡1の追従速度V1,V2が、外側領域Cから非追従領域B1まで連続的に低下してもよい。
図7Aに示されるように、制御装置4は、処置具2の先端2aを通り光軸Aに垂直なYZ平面Pと光軸Aとの交点を基準点Eに設定する。次に、制御装置4は、基準点Eを中心とする直方体または球形の領域を特定領域Bとして定義する。
図7Bから図7Cは、特定領域Bの実サイズ[mm]の算出方法を説明している。
観察距離di(i=1,2,…)における内視鏡画像DのZ方向(縦方向)のサイズ(Z方向の視野Fのサイズ)Lmax_dz[mm]は、図7Cの幾何学的関係から下式で表される。α[deg]は、内視鏡1の視野角(半画角)である。
Lmax_dz=di*tanα
また、内視鏡画像DのZ方向のピクセルサイズLmax_dz_pixel[px]は、既知であり、例えば下式の通りである。
Lmax_dz_pixel=1080/2[pixel]
したがって、特定領域BのZ方向の実サイズL_dz[mm]は、特定領域BのZ方向のピクセルサイズ[px]を用いて下式から算出される。
L_dz=Lmax_dz*(dz/Lmax_dz_pixel)
特定領域BのX方向の実サイズL_dxも設定される。例えば、実サイズL_dxは、観察距離diによらずに一定値に設定されてもよい。あるいは、図7Dに示されるように、基準となる観察距離di(例えば、d1)における実サイズL_dxが予め設定され、その他の観察距離di(例えば、d2)におけるL_dxは、観察距離の変化に比例した値に設定されてもよい。
術者は、表示装置5に表示される内視鏡画像Dを観察しながら、体内に挿入された処置具2を操作することによって処置を行う。処置中、術者は、例えば音声によって、マニュアルモードから追従モードへ、または、追従モードからマニュアルモードへ切り替える。
図8Aに示されるように、ステップS1において追従モードに切り替えられたとき、制御装置4は、ステップS2~S8の制御方法を実行し、追従モードで移動装置3を制御する。
制御方法は、処置具2の先端2aの位置が特定領域B内であるか否かを判定するステップS2と、先端2aの位置が特定領域B外である場合、処置具2の先端2aが非追従領域B1内に到達するまで内視鏡1を処置具2に追従させるステップS3~S8とを含む。
処置具2の先端2aが非追従領域B1内に入ったとき(ステップS6のYES)、制御装置4は、処置具2に対する内視鏡1の追従を終了する(ステップS8)。
追従モードが継続している間(ステップS9のNO)、制御装置4は、ステップS1~S8を繰り返す。
本実施形態によれば、特定領域Bが視野F内に設定された3次元領域であるので、内視鏡1の先端と特定領域Bとの間のX方向の距離およびX方向の各位置における特定領域Bの横断面のサイズ等、上記の3つの条件を満たすように特定領域Bを適切に設計することができる。これにより、使い勝手の良い処置具2に対する内視鏡1の追従を実現することができる。
また、特定領域B’の横断面のサイズが一定となるので、X方向の位置に応じて内視鏡画像D上で特定領域Bの見かけのサイズが異なり、処置具2に対する内視鏡1の過度な追従の抑制と先端2aの中央配置との両立が困難になる。具体的には、内視鏡1の先端からX方向に離れた位置X3では特定領域Bの見かけのサイズが小さくなるので、先端2aの中央配置は実現されるが、内視鏡1の過度な追従を抑制することができない。一方、内視鏡1の先端にX方向に近い位置X1では特定領域Bの見かけのサイズが大きくなるので、内視鏡1の過度な追従を抑制することはできるが、先端2aの中央配置を実現することが困難になる。
この場合、図8Bに示されるように、制御装置4は、先端2aが非追従領域B1内であるか否かを判定し(ステップS2’)、先端2aが非追従領域B1から追従領域B2へ出たときに(ステップS2’のNO)、処置具2に対する内視鏡1の追従を開始する(ステップS3)。
第2制御モードでの内視鏡1の追従に関わらず先端2aが特定領域Bの外側へ出た場合(ステップS4のNO)、制御装置4は、第2制御モードから第1制御モードへ切り替え(ステップS5)、先端2aが特定領域B内に戻るまで、移動装置3を第1制御モードで制御する。
例えば、記憶部4cに、各型式の内視鏡1の視野角αの値が記憶されている。制御装置4は、ロボットアーム3aに保持されている内視鏡1の型式を認識し、認識された型式の視野角αの値を記憶部4cから読み出し、特定領域Bの頂角βを視野角αの所定の比率に設定する。例えば、視野角αの値に25%~55%から選択される所定の比率kを乗算することによって、頂角βを算出する。これにより、視野角αに比例して特定領域Bの横断面のサイズが大きくなる。
この構成によれば、使用する内視鏡1の視野角αの差異に関わらず、視野Fの横断面に対する特定領域Bの横断面の面積比が一定となる。したがって、表示装置5に表示される内視鏡画像Dにおける特定領域Bの見かけのサイズを、内視鏡1の視野角αに関わらず同一にすることができる。
図6の場合、先端2aが、内視鏡画像Dの中心から離れた追従領域B2の端に到達したときに追従が終了する。これに対し、図10の場合、先端2aが内視鏡画像Dの中心に到達するまで内視鏡1が追従するので、内視鏡画像Dの中心に先端2aを配置した状態で処置を行うことができる。
この構成によれば、特定領域Bの横断面の形状およびサイズを、術式、処置内容または術者の好み等に応じて設定することができる。
特定領域Bの適切な形状、サイズおよび位置は、処置具2または処置の種類に応じて異なる。上記構成によれば、特定領域Bの形状、サイズおよび位置を、処置具2または処置の種類に適したものに自動的に設定することができる。
他の例において、処置具2の種類がエネルギ処置具である場合、精緻な処置を行うために、内視鏡1の先端により近い位置に特定領域Bが設定される。例えば、内視鏡1の先端から60mm~90mmの範囲が特定領域Bに設定される。さらに、鈍的剥離操作中の視野Fの移動を防ぐために、特定領域Bの横断面のサイズを大きくしたり、第2速度を低下させたりしてもよい。
さらに他の例において、制御装置4が、処置中の先端2aの動きを学習し、処置中の先端2aの動作範囲が特定領域B内に含まれるように特定領域Bの形状およびサイズを変更してもよい。
例えば、制御装置4は、下式に基づいてY軸回りの回転の角速度VpおよびZ軸回りの回転の角速度Vyを算出し、ロボットアーム3aを算出された角速度Vp,Vyでそれぞれ回転させてもよい。pyは内視鏡画像Dの中心から先端2aまでのY方向の距離であり、pzは内視鏡画像Dの中心から先端2aまでのZ方向の距離であり、GyおよびGzは所定の比例係数である。
Vp=Gz*pz
Vy=Gy*py
1a 撮像部
2 処置具(対象物)
3 移動装置
3a ロボットアーム
3b 関節
4 制御装置
5 表示装置
10 医療システム
A 光軸
B 特定領域(所定の3次元領域)
B1 非追従領域(特定領域)
B2 追従領域(特定領域)
C 外側の領域
D 内視鏡画像
F 視野
α 視野角
Claims (9)
- 対象物を含む画像を取得する内視鏡と、
該内視鏡を移動させる移動装置と、
前記対象物の位置に基づいて前記移動装置を制御する制御装置と、を備え、
該制御装置は、
前記内視鏡を第1速度で前記対象物に追従させる第1制御モードおよび前記内視鏡を前記第1速度よりも遅い第2速度で前記対象物に追従させる第2制御モードで前記移動装置を制御可能であり、
前記対象物が前記内視鏡の視野内に設定された所定の3次元領域の外側に位置する場合、前記第1制御モードで前記移動装置を制御し、
前記対象物が前記所定の3次元領域の内側に位置する場合、前記第2制御モードで前記移動装置を制御する、医療システム。 - 前記3次元領域は、前記内視鏡の光軸に直交する前記3次元領域の横断面が前記内視鏡の先端に近付く程小さくなる形状を有する、請求項1に記載の医療システム。
- 前記内視鏡が、ステレオ画像を取得可能であり、
前記制御装置が、前記ステレオ画像を用いて前記対象物の3次元位置を算出する、請求項1に記載の医療システム。 - 前記対象物が、処置具であり、
前記制御装置が、
前記処置具の種類を認識し、
前記処置具の前記種類に応じて、前記内視鏡の光軸に直交する前記3次元領域の横断面のサイズおよび形状の少なくとも一方を変更する、請求項1に記載の医療システム。 - 前記制御装置は、前記画像の中心に前記対象物が向かうように前記移動装置を前記第1制御モードおよび前記第2制御モードで制御する、請求項1に記載の医療システム。
- 前記制御装置は、前記対象物が前記3次元領域内に入るまで前記移動装置を前記第1制御モードで制御する、請求項1に記載の医療システム。
- 前記制御装置が、
処置の種類を認識し、
前記処置の種類に応じて前記3次元領域のサイズおよび形状の少なくとも一方を変更する、請求項1に記載の医療システム。 - 前記制御装置が、前記内視鏡の視野角に応じて、前記内視鏡の光軸に直交する前記3次元領域の横断面のサイズを変更する、請求項1に記載の医療システム。
- 対象物を含む画像を取得する内視鏡を移動させる移動装置を前記対象物の位置に基づいて制御する制御装置を備える医療システムの作動方法であって、
前記制御装置が、
前記対象物が前記内視鏡の視野内に設定された所定の3次元領域の外側に位置する場合、前記内視鏡を第1速度で前記対象物に追従させる第1制御モードで前記移動装置を制御し、
前記対象物が前記所定の3次元領域の内側に位置する場合、前記第1速度よりも遅い第2速度で前記対象物に追従させる第2制御モードで前記移動装置を制御する、医療システムの作動方法。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063076408P | 2020-09-10 | 2020-09-10 | |
| US63/076,408 | 2020-09-10 | ||
| PCT/JP2021/027564 WO2022054428A1 (ja) | 2020-09-10 | 2021-07-26 | 医療システムおよび制御方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2022054428A1 JPWO2022054428A1 (ja) | 2022-03-17 |
| JP7535587B2 true JP7535587B2 (ja) | 2024-08-16 |
Family
ID=80629721
Family Applications (3)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022547429A Active JP7535587B2 (ja) | 2020-09-10 | 2021-07-26 | 医療システムおよび医療システムの作動方法 |
| JP2022547657A Active JP7522840B2 (ja) | 2020-09-10 | 2021-09-09 | 制御装置 |
| JP2022547659A Active JP7534423B2 (ja) | 2020-09-10 | 2021-09-09 | 内視鏡システム、制御装置および記録媒体 |
Family Applications After (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022547657A Active JP7522840B2 (ja) | 2020-09-10 | 2021-09-09 | 制御装置 |
| JP2022547659A Active JP7534423B2 (ja) | 2020-09-10 | 2021-09-09 | 内視鏡システム、制御装置および記録媒体 |
Country Status (4)
| Country | Link |
|---|---|
| US (4) | US20230172675A1 (ja) |
| JP (3) | JP7535587B2 (ja) |
| CN (3) | CN116171122A (ja) |
| WO (4) | WO2022054428A1 (ja) |
Families Citing this family (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9204939B2 (en) * | 2011-08-21 | 2015-12-08 | M.S.T. Medical Surgery Technologies Ltd. | Device and method for assisting laparoscopic surgery—rule based approach |
| EP3337419B1 (en) * | 2015-08-19 | 2020-08-12 | Brainlab AG | Reference array holder |
| TWI782409B (zh) * | 2020-03-09 | 2022-11-01 | 陳階曉 | 內視鏡影像校正系統及其方法 |
| US20230255442A1 (en) * | 2022-02-11 | 2023-08-17 | Canon U.S.A., Inc. | Continuum robot apparatuses, methods, and storage mediums |
| WO2023195326A1 (ja) * | 2022-04-05 | 2023-10-12 | オリンパス株式会社 | 内視鏡システム、手技支援方法および手技支援プログラム |
| WO2024009901A1 (ja) * | 2022-07-08 | 2024-01-11 | オリンパス株式会社 | 内視鏡システム、制御方法および制御プログラム |
| WO2024157360A1 (ja) * | 2023-01-24 | 2024-08-02 | 国立研究開発法人国立がん研究センター | 内視鏡画像の処置具検出装置、内視鏡画像の処置具検出方法、及び内視鏡画像の処置具検出装置プログラム |
| US20240349985A1 (en) * | 2023-04-24 | 2024-10-24 | Karl Storz Se & Co. Kg | Corrective adjustment of image parameters using artificial intelligence |
| CN118319430A (zh) * | 2023-12-29 | 2024-07-12 | 北京智愈医疗科技有限公司 | 一种基于内窥镜的水刀运动轨迹的监测装置 |
| WO2025163471A1 (en) * | 2024-01-29 | 2025-08-07 | Covidien Lp | Hysteroscopic surgical systems for use with surgical robotic systems and surgical robotic systems incorporating the same |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006229322A (ja) | 2005-02-15 | 2006-08-31 | Matsushita Electric Ind Co Ltd | 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム |
| JP2007222239A (ja) | 2006-02-21 | 2007-09-06 | Fujinon Corp | 体腔内観察装置 |
| US20130331644A1 (en) | 2010-12-10 | 2013-12-12 | Abhilash Pandya | Intelligent autonomous camera control for robotics with medical, military, and space applications |
| US20140005475A1 (en) | 2012-06-27 | 2014-01-02 | National Chiao Tung University | Image Tracking System and Image Tracking Method Thereof |
| WO2018235255A1 (ja) | 2017-06-23 | 2018-12-27 | オリンパス株式会社 | 医療システムとその作動方法 |
| WO2020070883A1 (ja) | 2018-10-05 | 2020-04-09 | オリンパス株式会社 | 内視鏡システム |
Family Cites Families (41)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2797830B2 (ja) * | 1992-03-31 | 1998-09-17 | 日本ビクター株式会社 | ビデオカメラにおける被写体追尾方法 |
| JP3348933B2 (ja) * | 1993-03-19 | 2002-11-20 | オリンパス光学工業株式会社 | 電子式内視鏡装置 |
| JP2833425B2 (ja) * | 1993-06-30 | 1998-12-09 | 日本ビクター株式会社 | ビデオカメラにおける被写体追尾装置 |
| JP3419869B2 (ja) * | 1993-12-28 | 2003-06-23 | オリンパス光学工業株式会社 | 医療器具 |
| JPH0938030A (ja) * | 1995-07-28 | 1997-02-10 | Shimadzu Corp | 内視鏡装置 |
| JPH09266882A (ja) * | 1996-04-02 | 1997-10-14 | Olympus Optical Co Ltd | 内視鏡装置 |
| US7037258B2 (en) | 1999-09-24 | 2006-05-02 | Karl Storz Imaging, Inc. | Image orientation for endoscopic video displays |
| JP2001112704A (ja) * | 1999-10-20 | 2001-04-24 | Olympus Optical Co Ltd | 内視鏡システム |
| JP2003088532A (ja) * | 2001-09-19 | 2003-03-25 | Olympus Optical Co Ltd | 手術装置 |
| JP4331541B2 (ja) | 2003-08-06 | 2009-09-16 | オリンパス株式会社 | 内視鏡装置 |
| US20050123179A1 (en) * | 2003-12-05 | 2005-06-09 | Eastman Kodak Company | Method and system for automatic axial rotation correction in vivo images |
| US7654997B2 (en) * | 2004-04-21 | 2010-02-02 | Acclarent, Inc. | Devices, systems and methods for diagnosing and treating sinusitus and other disorders of the ears, nose and/or throat |
| JP4377745B2 (ja) * | 2004-05-14 | 2009-12-02 | オリンパス株式会社 | 電子内視鏡 |
| JP4785127B2 (ja) * | 2005-12-08 | 2011-10-05 | 学校法人早稲田大学 | 内視鏡視野拡張システム、内視鏡視野拡張装置及び内視鏡視野拡張用プログラム |
| US7841980B2 (en) * | 2006-05-11 | 2010-11-30 | Olympus Medical Systems Corp. | Treatment system, trocar, treatment method and calibration method |
| JP5030639B2 (ja) * | 2007-03-29 | 2012-09-19 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置の処置具位置制御装置 |
| US8083669B2 (en) * | 2007-06-22 | 2011-12-27 | Olympus Medical Systems Corp. | Medical device for maintaining state of treatment portion |
| JP5192898B2 (ja) * | 2008-04-25 | 2013-05-08 | オリンパスメディカルシステムズ株式会社 | マニピュレータシステム |
| JP6021369B2 (ja) * | 2012-03-21 | 2016-11-09 | Hoya株式会社 | 内視鏡システム |
| JP6218634B2 (ja) * | 2014-02-20 | 2017-10-25 | オリンパス株式会社 | 内視鏡システム及び内視鏡の作動方法 |
| EP3125806B1 (en) * | 2014-03-28 | 2023-06-14 | Intuitive Surgical Operations, Inc. | Quantitative three-dimensional imaging of surgical scenes |
| CN106456267B (zh) * | 2014-03-28 | 2020-04-03 | 直观外科手术操作公司 | 器械在视野中的定量三维可视化 |
| JP6177488B2 (ja) * | 2015-07-23 | 2017-08-09 | オリンパス株式会社 | マニピュレータ及び医療システム |
| WO2017082047A1 (ja) * | 2015-11-13 | 2017-05-18 | オリンパス株式会社 | 内視鏡システム |
| JPWO2017130567A1 (ja) * | 2016-01-25 | 2018-11-22 | ソニー株式会社 | 医療用安全制御装置、医療用安全制御方法、及び医療用支援システム |
| JP6150968B1 (ja) * | 2016-02-10 | 2017-06-21 | オリンパス株式会社 | 内視鏡システム |
| CN107456278B (zh) * | 2016-06-06 | 2021-03-05 | 北京理工大学 | 一种内窥镜手术导航方法和系统 |
| JP2019165270A (ja) * | 2016-08-03 | 2019-09-26 | シャープ株式会社 | 映像出力システム、映像出力方法および制御装置 |
| WO2018051565A1 (ja) * | 2016-09-15 | 2018-03-22 | オリンパス株式会社 | 超音波内視鏡および超音波内視鏡システム |
| WO2018159328A1 (ja) * | 2017-02-28 | 2018-09-07 | ソニー株式会社 | 医療用アームシステム、制御装置及び制御方法 |
| EP3603562B1 (en) * | 2017-03-28 | 2022-06-29 | Sony Olympus Medical Solutions Inc. | Medical observation apparatus and observation field correction method |
| WO2019035206A1 (ja) * | 2017-08-18 | 2019-02-21 | オリンパス株式会社 | 医療システムおよび画像生成方法 |
| US12262866B2 (en) * | 2017-09-22 | 2025-04-01 | Carl Zeiss Meditec Ag | Visualization system comprising an observation apparatus and an endoscope |
| DE102017219621B4 (de) * | 2017-09-22 | 2025-11-13 | Carl Zeiss Meditec Ag | Visualisierungssystem mit einem Beobachtungsgerät und einem Endoskop |
| WO2019116592A1 (ja) * | 2017-12-14 | 2019-06-20 | オリンパス株式会社 | 内視鏡の表示画像の調整装置及び手術システム |
| JP7151109B2 (ja) * | 2018-03-19 | 2022-10-12 | ソニーグループ株式会社 | 医療用撮像装置及び医療用観察システム |
| JP7596269B2 (ja) * | 2019-02-21 | 2024-12-09 | シアター・インコーポレイテッド | 手術ビデオの解析のためのシステム及び方法 |
| JP2020151044A (ja) * | 2019-03-18 | 2020-09-24 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用観察装置 |
| JP7480477B2 (ja) * | 2019-07-10 | 2024-05-10 | ソニーグループ株式会社 | 医療用観察システム、制御装置及び制御方法 |
| IL290896B2 (en) * | 2019-08-30 | 2025-07-01 | Brainlab Ag | Image-based motion control fix |
| JP2021040987A (ja) * | 2019-09-12 | 2021-03-18 | ソニー株式会社 | 医療用支持アーム、及び医療用システム |
-
2021
- 2021-07-26 CN CN202180053633.7A patent/CN116171122A/zh active Pending
- 2021-07-26 JP JP2022547429A patent/JP7535587B2/ja active Active
- 2021-07-26 WO PCT/JP2021/027564 patent/WO2022054428A1/ja not_active Ceased
- 2021-09-09 WO PCT/JP2021/033205 patent/WO2022054882A1/ja not_active Ceased
- 2021-09-09 CN CN202180053602.1A patent/CN116018538A/zh active Pending
- 2021-09-09 JP JP2022547657A patent/JP7522840B2/ja active Active
- 2021-09-09 CN CN202180053634.1A patent/CN115996662B/zh active Active
- 2021-09-09 WO PCT/JP2021/033209 patent/WO2022054883A1/ja not_active Ceased
- 2021-09-09 WO PCT/JP2021/033210 patent/WO2022054884A1/ja not_active Ceased
- 2021-09-09 JP JP2022547659A patent/JP7534423B2/ja active Active
-
2023
- 2023-02-03 US US18/105,305 patent/US20230172675A1/en active Pending
- 2023-02-03 US US18/105,314 patent/US20230180996A1/en active Pending
- 2023-02-03 US US18/105,300 patent/US20230180998A1/en active Pending
- 2023-02-03 US US18/105,291 patent/US20230180995A1/en not_active Abandoned
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006229322A (ja) | 2005-02-15 | 2006-08-31 | Matsushita Electric Ind Co Ltd | 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム |
| JP2007222239A (ja) | 2006-02-21 | 2007-09-06 | Fujinon Corp | 体腔内観察装置 |
| US20130331644A1 (en) | 2010-12-10 | 2013-12-12 | Abhilash Pandya | Intelligent autonomous camera control for robotics with medical, military, and space applications |
| US20140005475A1 (en) | 2012-06-27 | 2014-01-02 | National Chiao Tung University | Image Tracking System and Image Tracking Method Thereof |
| WO2018235255A1 (ja) | 2017-06-23 | 2018-12-27 | オリンパス株式会社 | 医療システムとその作動方法 |
| WO2020070883A1 (ja) | 2018-10-05 | 2020-04-09 | オリンパス株式会社 | 内視鏡システム |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116018538A (zh) | 2023-04-25 |
| US20230180996A1 (en) | 2023-06-15 |
| CN115996662B (zh) | 2025-11-18 |
| JP7522840B2 (ja) | 2024-07-25 |
| JPWO2022054884A1 (ja) | 2022-03-17 |
| US20230172675A1 (en) | 2023-06-08 |
| WO2022054883A1 (ja) | 2022-03-17 |
| JP7534423B2 (ja) | 2024-08-14 |
| WO2022054882A1 (ja) | 2022-03-17 |
| US20230180998A1 (en) | 2023-06-15 |
| WO2022054428A1 (ja) | 2022-03-17 |
| US20230180995A1 (en) | 2023-06-15 |
| JPWO2022054428A1 (ja) | 2022-03-17 |
| CN116171122A (zh) | 2023-05-26 |
| WO2022054884A1 (ja) | 2022-03-17 |
| CN115996662A (zh) | 2023-04-21 |
| JPWO2022054882A1 (ja) | 2022-03-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7535587B2 (ja) | 医療システムおよび医療システムの作動方法 | |
| US11406460B2 (en) | Surgery assisting apparatus, method of controlling the same, storage medium, and surgery assisting system | |
| CN109288591B (zh) | 手术机器人系统 | |
| JP5814938B2 (ja) | リアルタイム速度最適化を使用した校正不要のビジュアルサーボ | |
| CN110049742B (zh) | 用于机器人控制的图像引导的运动缩放 | |
| US12357392B2 (en) | Navigational aid | |
| US20200397515A1 (en) | Interface for Laparoscopic Surgeries - Movement Gestures | |
| US20210315645A1 (en) | Feature identification | |
| US10638915B2 (en) | System for moving first insertable instrument and second insertable instrument, controller, and computer-readable storage device | |
| JP2013516264A5 (ja) | ||
| CN113613538B (zh) | 用于视图恢复的系统和方法 | |
| EP3414737A1 (en) | Autonomic system for determining critical points during laparoscopic surgery | |
| Zhang et al. | Image-guided control of an endoscopic robot for OCT path scanning | |
| US12011236B2 (en) | Systems and methods for rendering alerts in a display of a teleoperational system | |
| CN118021446A (zh) | 用于光学硬镜手术的导航方法、电子设备、导航系统及机器人系统 | |
| US20240341568A1 (en) | Systems and methods for depth-based measurement in a three-dimensional view | |
| US20250302273A1 (en) | Medical system, control device, control method, and control program | |
| US12383126B2 (en) | Surgery system and control method for surgery system to adjust position and orientation of imager | |
| JP7674528B2 (ja) | 内視鏡システム、内視鏡システムの制御方法および記録媒体 | |
| WO2023195326A1 (ja) | 内視鏡システム、手技支援方法および手技支援プログラム | |
| CN120351848A (zh) | 外科手术空间中的计算机辅助距离测量 | |
| GB2611972A (en) | Feature identification |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230206 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230216 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240326 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240517 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240730 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240805 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7535587 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |