[go: up one dir, main page]

JP7596365B2 - 画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システム - Google Patents

画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システム Download PDF

Info

Publication number
JP7596365B2
JP7596365B2 JP2022513820A JP2022513820A JP7596365B2 JP 7596365 B2 JP7596365 B2 JP 7596365B2 JP 2022513820 A JP2022513820 A JP 2022513820A JP 2022513820 A JP2022513820 A JP 2022513820A JP 7596365 B2 JP7596365 B2 JP 7596365B2
Authority
JP
Japan
Prior art keywords
image
acquisition
analysis
acquisition condition
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022513820A
Other languages
English (en)
Other versions
JPWO2021205624A5 (ja
JPWO2021205624A1 (ja
Inventor
俊行 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2021205624A1 publication Critical patent/JPWO2021205624A1/ja
Publication of JPWO2021205624A5 publication Critical patent/JPWO2021205624A5/ja
Application granted granted Critical
Publication of JP7596365B2 publication Critical patent/JP7596365B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3132Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for laparoscopy
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)

Description

本発明は、画像を観察する際におけるナビゲーションを行うための画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システムに関する。
従来、画像処理技術を用いて、各種作業の支援を行うナビゲーション技術が開発されている。例えば、医療分野においては、画像処理技術を用いて、内視鏡の挿入を支援する挿入支援や病状の推定結果の診断支援等が可能となっている。例えば、定量的な判断尺度の提供・診断の際に着目すべき微細構造の特定・画像解析による病状の推定結果などの支援情報を提供するコンピュータ診断支援(Computer Aided Diagnosis:CAD)も開発されている。このようなCADや挿入支援等を実現する画像処理装置においては、術者に適切な支援を与えるための工夫がなされている。
例えば、日本国特開2019-42156号公報には、第1及び第2の医療画像についての2つの解析結果を、位置または範囲(大きさ)等を比較し得るように表示可能にして、解析結果の確認を容易にする技術が開示されている。
ところで、内視鏡等によって取得されるリアルタイムの医療画像は、画像解析のために画像処理されるだけでなくモニタ等に画像表示させることで、手術や検査等において、患部等の極めて有用な画像情報を術者に提供することができる。しかしながら、日本国特開2019-42156号公報では、取得する画像が手術や検査等時の目視に最適化されておらず、術者にとって必ずしも最適な支援が行われていない。
本発明は、画像の取得条件を最適化することにより、術者に対して極めて効果的な支援を行うことができる画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システムを提供することを目的とする。
本発明の一態様の画像処理装置は、表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な画像取得部に対して、上記表示用取得条件を含む第1取得条件と、上記表示用取得条件及び解析用取得条件を含む第2取得条件と、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件と、を設定する取得条件指定部と、上記画像取得部により取得された上記第1から画像に対する画像解析を行う画像解析部と、上記画像解析部の画像解析結果に基づいて支援情報を生成する支援情報生成部と、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする制御部と、を具備する。
本発明の一態様の画像処理方法は、取得条件指定部と、画像解析部と、支援情報生成部と、制御部とを備えた画像処理装置における画像処理方法であって、上記取得条件指定部が、表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な画像取得部に対して、上記表示用取得条件を含む第1取得条件と、上記表示用取得条件及び解析用取得条件を含む第2取得条件と、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件と、を設定し、上記画像解析部が、上記画像取得部により取得された上記第1から画像に対する画像解析を行って画像解析結果を得、上記支援情報生成部が、上記画像解析結果に基づいて支援情報を生成し、上記制御部が、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする。
本発明の一態様のナビゲーション方法は、取得条件指定部、画像解析部及び制御部を具備する画像処理装置によるナビゲーション方法であって、上記取得条件指定部が、表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な画像取得部に対して、上記表示用取得条件を含む第1取得条件を設定し、上記画像取得部に対して上記表示用取得条件及び解析用取得条件を含む第2取得条件を設定し、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件を設定し、上記画像解析部が、上記画像取得部により取得された上記第1から画像に対する画像解析を行って画像解析結果を得、上記制御部が、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする。
本発明の一態様の内視鏡システムは、表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な照明部と撮像部を有する内視鏡と、上記表示用取得条件と上記解析用取得条件との少なくとも一方に基づいて、上記内視鏡に上記第1画像から画像を取得させるビデオプロセッサと、上記表示用取得条件を含む第1取得条件と、上記表示用取得条件及び解析用取得条件を含む第2取得条件と、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件と、を設定する取得条件指定部と、上記ビデオプロセッサにより取得された上記第1から画像に対する画像解析を行う画像解析部と、上記画像解析部の画像解析結果に基づいて支援情報を生成する支援情報生成部と、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする制御部と、を備えた画像処理装置と、を具備する。
本発明の第1の実施形態に係る画像処理装置を含む内視鏡システムの構成を示すブロック図である。 表示用画像と解析用画像とのニーズを説明するための図表である。 図1の内視鏡システムの利用形態の一例を示す説明図である。 第1の実施形態に係る内視鏡から照射されるWLI光およびNBI光と被検体の粘膜における血管との関係を説明するための図である。 DRI光と被検体の粘膜における血管との関係を説明するための図である。 ビデオプロセッサ3によって取得される撮像画像の一例を示す説明図である。 モニタ5に出力される画像の一例を示す説明図である。 画像解析部32に供給される画像の一例を示す説明図である。 表示用取得条件及び解析用取得条件に基づく画像処理部12の画像処理の一例を説明するための図表である。 第1の実施形態の動作を説明するためのフローチャートである。 特定のユースケースにおいて取得する画像を説明するための説明図である。 判定部34による判定に基づく取得条件I3の一例を説明するための図表である。 支援表示を説明するための説明図である。 複数の要求に対する取得条件の優先順位を説明するための図表である。 第2の実施形態に採用される動作フローを示すフローチャートである。 第3の実施形態を示すブロック図である。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施形態)
図1は本発明の第1の実施形態に係る画像処理装置を含む内視鏡システムの構成を示すブロック図である。
例えば内視鏡においては、ナビゲーションのための画像解析に用いる画像とモニタに表示する表示用の画像とを別々の撮像装置によって取得しようとすると、内視鏡先端部の大型化が避けられない。このような理由から、一般的には、ナビゲーションのための画像解析に用いる画像としては、表示用の画像が流用される。しかしながら、表示用の画像は、表示に適した取得条件で取得されており、画像解析に必要な情報が欠落している可能性がある。なお、画像解析用の画像は、視認性に劣る可能性があり、画像解析用の画像を表示用の画像として用いることは好ましくない。以上から、見やすい内視鏡画像を表示しながら高精度の解析結果に基づく支援を行うことは困難であった。なお、本明細書において、高精度の解析結果とは、術者に対してより有効な支援を可能にする解析結果のことであり、正確な解析結果を意味するだけでなく、各種解析結果のうち支援に必要な種類の解析結果が得られることを意味するものとする。
そこで、本実施形態においては、取得条件が異なる複数種類の画像であって、視認性に優れた画像表示のための画像と解析性に優れた画像とを含む複数種類の画像を取得可能にすることにより、術者に対して極めて効果的な支援を可能にするものである。なお、解析性に優れた画像とは、高精度の解析結果を得ることを可能にする画像のことである。
更に、本実施形態においては、視認性に優れた画像表示を維持しながら、解析性に一層優れた画像を取得するために、画像の取得条件を適応的に変化させることも可能である。なお、図1では内視鏡システムを例に説明するが、これに限定されるものではなく、観察を伴う各種作業を実施するための各種装置に適用可能である。
図2は表示用画像と解析用画像とのニーズを説明するための図表である。
表示用の画像(表示用画像)は、人が画面上に表示された画像を視認することで必要な情報を取得するための画像である。一方、解析用の画像(解析用画像)は、ナビゲーション装置において解析対象となる画像である。人とコンピュータとの情報処理の質を考慮すると、表示用画像と解析用画像とにそれぞれ相応しい特性は相互に異なる。
図2に示すように、表示用画像は、人が認識し易いように、なるべく有用な情報のみを含む視認性に優れた画像であることが好ましい。例えば、表示用画像の画質は、ノイズが少なく、人の目の特性に近いガンマ処理が施され、見たい周波数帯域が強調された画像であることが好ましい。
一方、解析用画像は、コンピュータ等により処理されることから、解析のための画像情報に含まれる情報量は多いほど有用な解析結果(高精度の解析結果)が得られる。例えば、解析用画像は、画質について、注目部位以外が目立つような画像情報であっても、解析結果に与える悪影響は小さい。また、画像にノイズリダクション、ガンマ処理、画像強調処理等が施されると、解析に必要な情報が欠落することがあるので、解析用画像については、これらの画像処理は施さない方がよい。
また、例えば、粘膜における血管の観察等に有効なNBI(狭帯域光観察(Narrow Band Imaging))等の特殊光観察の場面においては、人の画像認識能力を考えると、モニタ画面に表示される画像としては、1種類だけの特殊光観察画像が表示されるか、または、せめて通常光観察画像に特集光観察画像を重畳する表示に留める方がよい。
一方、ナビゲーション装置に複数種類の特殊光観察画像信号が連続的に入力されたとしても画像解析処理に与える悪影響は無く、むしろ複数種類の画像情報により有用な解析結果が得られる可能性が高くなる。
また、表示用画像のフレームレートは、人が視認する上で30FPS以上であることが好ましいが、解析用画像については、相対的に低いフレームレート、例えば、1FPS以下のフレームレートであったとしても、有用な情報を得ることが可能である。
(構成)
図3は図1の内視鏡システムの利用形態の一例を示す説明図である。図3を参照して、内視鏡システムの利用形態の一例について説明する。
図3は内視鏡システム1を用いて、被検体Pの腹腔内に対する処置を行う例を示している。内視鏡システム1が腹腔鏡手術システムの例である。内視鏡システム1は、被検体Pの体腔内を撮像し撮像信号を出力する内視鏡2(腹腔鏡)と、内視鏡2を接続し当該内視鏡2の駆動を制御すると共に、当該内視鏡2において撮像した被検体に係る撮像信号を取得し当該撮像信号に対して所定の画像処理を施すビデオプロセッサ3と、ビデオプロセッサ3に内設され、被検体に照射するための所定の照明光を供給する光源装置4と、撮像信号に応じた観察画像を表示するモニタ5と、ビデオプロセッサ3に接続され、診断支援等を行うための画像処理装置であるナビゲーション装置30と、を主に備える。
図3では、被検体Pの腹部に内視鏡2及び処置具7がトラカールを介して挿入されている様子を示している。内視鏡2は、ユニバーサルコードを介してビデオプロセッサ3に接続される。ビデオプロセッサ3には、光源装置4が内蔵されており、光源装置4によって腹腔内が照明されるように構成されている。内視鏡2は、ビデオプロセッサ3により駆動されて、被検体Pの腹腔内を撮像する。内視鏡2によって取得された撮像画像はビデオプロセッサ3によって信号処理された後、ナビゲーション装置30に供給される。
ナビゲーション装置30は、入力された撮像画像をモニタ5に与えて表示すると共に、撮像画像に対する解析処理によって支援情報を生成する。ナビゲーション装置30は、生成した支援情報を、必要に応じてモニタ5に出力して表示させることで、術者に対する支援を行う。
本実施形態においては、ナビゲーション装置30は、ビデオプロセッサ3に指示を与えて、内視鏡2の撮像における撮像条件及びビデオプロセッサ3の画像処理における画像処理条件の少なくとも一方を含む画像の取得条件を設定することにより、視認性に優れた画像表示のための画像を取得すると同時に、支援のための画像解析に有効な画像を取得するようになっている。
(内視鏡)
図1において、内視鏡2としては、消化器内視鏡や腹腔鏡等の各種内視鏡を採用することができる。内視鏡2は、被検体の体腔内等に挿入される細長の挿入部、挿入部の基端側に配設され術者が把持して操作を行う操作部を有する。操作部の基端部からはユニバーサルコードが延設されており、このユニバーサルコードにより、内視鏡2は、光源装置4を含むビデオプロセッサ3に着脱自在に接続されるようになっている。
挿入部の例えば先端には、撮像装置20が配設される。撮像装置20は、光学系21、撮像素子22及び照明部23を備える。照明部23は、光源装置4により制御されて照明光を発生し、発生した照明光を被写体に照射する。照明部23は、例えばLED(発光ダイオード)等の図示しない所定の光源を有する構成であってもよい。本実施形態においては、照明部23は、通常観察用の白色光を発生する光源及び狭帯域観察用の狭帯域光を発生する光源、所定波長の赤外光を発生する光源等の複数の光源を有していてもよい。照明部23は、様々な照射モードを有しており、光源装置4に制御されて、照明光の波長の切り替えや照射強度、照射の時間的なパターン制御などが可能である。
なお、図1では撮像装置20内に照明部23を設ける例について示したが、光源装置4が照明光を発生し、この照明光を図示しないライトガイドにより内視鏡2の先端に導いて、被写体に照射する構成であってもよい。
光学系21は、ズームやフォーカシングのための図示しないレンズや絞り等を備えて、これらのレンズを駆動する図示しないズーム(変倍)機構、ピント及び絞り機構を備えていてもよい。照明部23からの照明光は被検体に照射され、被検体からの戻り光が光学系21を通過して撮像素子22の撮像面に導かれる。
撮像素子22は、CCDやCMOSセンサ等によって構成されており、光学系21からの被写体光学像を光電変換して被写体の撮像画像(撮像信号)を取得する。撮像装置20は、取得した撮像画像をビデオプロセッサ3に出力する。
ビデオプロセッサ3は、ビデオプロセッサ3の各部、撮像装置20及び光源装置4を制御する制御部11を備えている。制御部11及び制御部11内の各部は、CPU(Central Processing Unit)やFPGA(Field Programmable Gate Array)等を用いたプロセッサによって構成されていてもよく、図示しないメモリに記憶されたプログラムに従って動作して各部を制御するものであってもよいし、ハードウェアの電子回路で機能の一部又は全部を実現するものであってもよい。
(光源装置)
光源装置4は、照明部23を制御して、白色光及び各種特殊観察用光を発生させる。例えば、光源装置4は、照明部23に、白色光、NBI(狭帯域光観察(Narrow Band Imaging)光、DRI(長波長狭帯域光観察(Dual Red Imaging)光、AFI(蛍光観察(Auto Fluorescence Imaging)のための励起光(以下、AFI光)を発生させてもよい。白色光は、いわゆるWLI(white light imaging)観察(通常観察)用の照明光(以下、WLI光)として利用され、NBI光は、狭帯域光観察に用いられ、DRI光は、長波長狭帯域光観察に用いられ、AIF光は蛍光観察に用いられる。
なお、照明部23は、複数種類のLEDやレーザーダイオードやキセノンランプ等によって構成されてこれらの照明光を発生してもよく、白色光と、NBIフィルタ、DRIフィルタ、AFIフィルタなどを利用して、これらの照明光を生成するようになっていてもよい。照明部23が光量を増減させることで、撮像装置20の撮像時の露出値を変更することができ、飽和や低輝度ノイズの影響を排除した露出制御を可能としている。なお、NBI光として、波長λ=415nmの青色光と、波長λ=540nmの緑色光を発生してもよい。
(ビデオプロセッサ)
ビデオプロセッサ3の制御部11は、画像処理部12、撮像パラメータ設定部13、画像処理パラメータ設定部14及び表示制御部15を備えている。撮像パラメータ設定部13は、光源装置4を制御して、照明部23が発生する照明光の状態を設定することできる。また、撮像パラメータ設定部13は、撮像装置20を制御して、光学系21による光学系の状態及び撮像素子22の駆動状態を設定することができる。
即ち、撮像パラメータ設定部13は、撮像装置20の撮像時における光学的な条件及び撮像素子23の駆動条件を含む撮像条件の設定が可能である。例えば、撮像パラメータ設定部13の設定により、照明光として、NBI光、DRI光、AFI光等を発生させると共に、発生させる照明光の波長や強度等を制御することができる。また、撮像パラメータ設定部13の設定により、撮像装置20は、様々なモードでの撮像信号出力が可能であり、例えば、フレームレート、画素数、画素加算、読み出し領域の変更、感度切換、色信号の弁別出力等を制御することができる。
なお、撮像素子22から出力される撮像信号はRAWデータと呼ばれることがあり、これは画像処理前のオリジナルなデータとして使われる場合がある。
(画像処理部)
画像処理部12は、撮像装置20から取り込まれた撮像画像(動画像及び静止画像)が与えられ、取り込まれた撮像画像に対して、所定の信号処理、例えば、色調整処理、マトリックス変換処理、ノイズ除去処理、画像の合成、適応型処理、その他各種の信号処理を行う。画像処理パラメータ設定部14は、画像処理部12における画像処理の処理パラメータを設定するようになっている。
画像処理部12の画像処理によって、撮像画像の視認性を向上させることが可能である。また、画像処理部12の画像処理によって、撮像画像に対する画像解析処理の解析特性を向上させることも可能である。また、画像処理部12は、撮像素子からのいわゆるRAWデータを特定の形式のデータに変換することも可能である。
表示制御部15は、画像処理部12によって信号処理された撮像画像が与えられる。表示制御部15は、撮像装置20によって取得された撮像画像を、モニタ5において処理可能な観察画像に変換して出力する。
また、ビデオプロセッサ3には操作部16が設けられている。操作部16は、例えば各種ボタンやダイヤルやタッチパネルにより構成されていてもよく、ユーザ操作を受け付け、ユーザ操作に基づく操作信号を制御部11に出力する。なお、操作部16は、ハンズフリーに対応し、ジェスチャー入力、音声入力等を受け付けて操作信号を発生するように構成されていてもよい。制御部11は、操作信号に応じて各部を制御することができるようになっている。
本実施形態においては、撮像パラメータ設定部13及び画像処理パラメータ設定部14による設定は、ナビゲーション装置30により制御されるようになっている。
(ナビゲーション装置)
ナビゲーション装置30は、制御部31、画像解析部32、取得条件記憶部33、判定部34、取得条件指定部35及び支援情報生成部36を備えている。制御部31は、CPUやFPGA等を用いたプロセッサによって構成されていてもよく、図示しないメモリに記憶されたプログラムに従って動作して各部を制御するものであってもよいし、ハードウェアの電子回路で機能の一部又は全部を実現するものであってもよい。また、ナビゲーション装置30の全体又はナビゲーション装置30の各構成部についても、CPUやFPGA等を用いたプロセッサによって構成されていてもよく、図示しないメモリに記憶されたプログラムに従って動作して各部を制御するものであってもよいし、ハードウェアの電子回路で機能の一部又は全部を実現するものであってもよい。
取得条件記憶部33には、ビデオプロセッサ3の撮像パラメータ設定部13及び画像処理パラメータ設定部14の設定内容を決定するための取得条件が記憶されている。例えば、取得条件記憶部33には、光源装置4が照明部23に発光させる照明光の種類や設定に関する情報(以下、光源設定情報という)、光学系21の駆動に関する情報(以下、光学系設定情報という)及び撮像素子22の駆動に関する情報(以下、撮像設定情報という)が記憶されていてもよい。更に、取得条件記憶部33は、画像処理部12の画像処理内容を決定するための情報(以下、画像処理設定情報という)が記憶されていてもよい。
また、取得条件記憶部33には、これらの光源設定情報、光学系設定情報、撮像設定情報及び画像処理設定情報(以下、これらを取得条件設定情報ともいう)が組として記憶されていてもよい。例えば、初期状態における取得条件設定情報や所定の観察モードにおける取得条件設定情報や所定の解析条件に対応した取得条件設定情報等が予め記憶されていてもよい。
取得条件指定部35は、制御部31に制御されて、取得条件記憶部33から読み出した取得条件設定情報を撮像パラメータ設定部13及び画像処理パラメータ設定部14に指定するようになっている。取得条件指定部35の指定に応じて、内視鏡2における観察モードや、照明光の種類や、撮像に関する制御や、ビデオプロセッサ3における画像処理の処理等が行われる。なお、取得条件指定部35は、取得条件記憶部33に記憶されていない取得条件設定情報についても、制御部31の制御により発生してビデオプロセッサ3に出力するように構成されていてもよい。また、取得条件記憶部33を省略して、取得条件指定部35が必要に応じて取得条件設定情報を生成するようになっていてもよい。
例えば、取得条件指定部35が、光源設定情報を指定することで、光源装置4によって、WLI光、NBI光、DRI光、AFI光等のいずれの照明光を用いるかが指定される。
(WLI光,NBI光,DRI光,AFI光)
ここで、本実施形態において採用するWLI光,NBI光,DRI,AFI光について図4、図5を参照して説明する。図4は、第1の実施形態に係る内視鏡から照射されるWLI光およびNBI光と被検体の粘膜における血管との関係を説明するための図であり、図5は、DRI光と被検体の粘膜における血管との関係を説明するための図である。
WLI光(白色光)を粘膜表面に照射することにより、粘膜に存在する血管等を、人(医師)にとっては自然な色によってモニタ上に再現することができる。一方で、WLI光(白色光)を用いた場合、粘膜表層部の毛細血管および粘膜微細模様については、人の認識にとっては必ずしも明確に再現できるものではない。
本実施形態では、血液中のヘモグロビンに吸収されやすい狭帯域化された2つの波長(青色光:390~445nm(本実施形態においては415nm)/緑色光:530~550nm(本実施形態においては540nm))によるNBI(Narrow Band Imaging)光を採用し、粘膜を観察してもよい。
このNBI光を照射することにより、図4に示すように、粘膜表層部61における毛細血管64においてはNBI光における青色光(415nm)が吸収されることにより結果として当該毛細血管64が明確に描出され、また、同様に、緑色光(540nm)により、表層部よりやや深部の層62における血管65が描出されることとなる。これにより、粘膜表層部61における毛細血管および粘膜微細模様が強調して表示されることとなる。
なお、上述したように、本実施形態においては、狭帯域光であるNBI光の波長を異なる他の波長に設定して特殊光観察を行うようにしてもよい。
一方、本実施形態においては、2つの長波長(600nm/630nm)に狭帯域化された光によるDRI(Dual Red Imaging)光を採用し、被検体に当該DRI光を照射することにより、通常光観察では視認が難しい粘膜深層から粘膜下層(図5における層63)の血管66または血流情報を強調表示するようになっていてもよい。
さらに本実施形態においては、被検体に対して蛍光観察のための所定の励起光を照射し、腫瘍性病変と正常粘膜を異なる色調で強調表示する、いわゆる蛍光観察AFI(Auto Fluorescence Imaging)も可能となっている。
また、このような光源制御だけでなく、取得条件設定情報によって、光学系21及び撮像素子22の制御が可能であり、例えば、取得条件の設定により撮像素子の露出時間等を変更することも可能である。露出制御によって、飽和や低輝度ノイズの影響を排除することもできる。
(複数種類の画像の取得方法の一例)
本実施形態においては、取得条件指定部35は、視認性に優れた表示用の画像を取得するための条件である表示用取得条件を規定する取得条件設定情報(以下、表示用取得条件設定情報という)と画像解析処理の解析性に優れた解析用の画像を取得するための条件である解析用取得条件を規定する取得条件設定情報(以下、解析用取得条件設定情報という)とを、混在させて発生させてもよい。例えば、所定の第1期間において表示用取得条件設定情報のみを出力し、所定の第2期間において、表示用取得条件設定情報と解析用取得条件設定情報とを混在させて出力してもよい。
表示用取得条件設定情報がビデオプロセッサ3に与えられると、ビデオプロセッサ3は、視認性に優れた表示用の画像を出力可能なように、表示用取得条件設定情報に基づいて、光源装置4(照明部23)、光学系21、撮像素子22及び画像処理部12の少なくとも1つを制御する。また、ビデオプロセッサ3は、表示用取得条件設定情報と解析用取得条件設定情報とが混在して入力されると、視認性に優れた表示用の画像と解析性に優れた画像が出力されるように、表示用取得条件設定情報と解析用取得条件設定情報とに基づいて、光源装置4(照明部23)、光学系21、撮像素子22及び画像処理部12の少なくとも1つを制御する。
このように表示用取得条件は、医師が自然光で患部を探したり、患部(主に表面)を照らして観察したりする時に自然に感じられるように、光源の波長を自然光(昼光)に近づけ、撮像結果に対して視認性重視の画像処理を行い、フレームレートなども連続性を重視した設定にするための撮像や照明の条件である。また、解析用取得条件は、医師の視認性というより画像判定のための有効情報量を増やした撮像や照明の条件で、光源の波長を患部表面のみならず患部内部に届くものとし、撮像結果に対して解析のための有効情報量重視の画像処理を行い、フレームレートなども連続性より特定のパターンや画像の特徴を判定しやすいように、解析性を重視した設定にしている。
図6から図8は表示用取得条件設定情報と解析用取得条件設定情報とが混在してビデオプロセッサ3に入力された場合において、それぞれビデオプロセッサ3によって取得される撮像画像、モニタ5に出力される画像又は画像解析部32に供給される画像の一例を示す説明図である。
図6は撮像素子22の撮像によって得られる一連のフレームを示している。図6において、WLI<Raw>は、高光量のWLI光を照明光として用いた撮像により得られた高フレームレート(例えば30FPS以上)の撮像画像を示している。また、図6のNBI<Raw>は、NBI光を照明光として用いた撮像(狭帯域光観察)により得られた低フレームレート(例えば1FPS程度)の撮像画像を示している。また、低光量WLI<Raw>は、低光量のWLI光を照明光として用いた撮像により得られた低フレームレート(例えば1FPS)の撮像画像を示している。
WLI<Raw>フレームは、表示用画像の生成に用いられる。NBI<Raw>フレーム、低光量WLI<Raw>フレームは、解析用画像の生成に用いられる。なお、WLI<Raw>フレームを、解析用画像の生成に用いてもよい。また、図6では記載されていないが、画像解析用の撮像画像として、DRI光を照明光として用いて撮像して得たDRI<Raw>フレームを低フレームレート(1FPS程度)で取得してもよく、AFI観察用励起光による撮像画像を取得してもよい。このように、対象物を撮像する同じ位置にて、撮像した結果を取得する条件を変更するので、単純な構成で、複雑な操作なく有用な情報取得を行うことが出来る。
例えば、高光量のWLI光を照明光として用いた撮像により得られた高フレームレート(例えば30FPS以上)の撮像画像からは視認性に優れた表示画像が得られるものと期待することができ、このような画像を得るための光源の設定条件、光学系の設定条件、撮像設定条件等が、表示用取得条件となる。
また、例えば、NBI<Raw>フレーム等の特殊光観察によって得られる画像からは、画像解析の解析性に優れた画像が得られるものと期待することができ、このような画像を得るための光源の設定条件、光学系の設定条件、撮像設定条件等が、解析用取得条件となる。また、視認性に優れた画像を得るための画像処理の条件は表示用取得条件であり、解析性に優れた画像を得るための画像処理の条件は解析用取得条件である。
図9は画像処理に関して表示用取得条件及び解析用取得条件の具体例を示す図表であり、画像処理部12の画像処理によって実現可能な条件の一例を説明するためのものである。図9に示すように、ビデオプロセッサ3は、例えば、撮像信号に施す画像処理のうちガンマ処理に関しては、表示用取得条件に従って、人の目の特性に合わせたガンマ処理を施す。また、ビデオプロセッサ3は、解析用取得条件に従って、解析処理に不要なガンマ処理は行わない。同様に、表示用取得条件及び解析用取得条件に従って、ビデオプロセッサ3は、その他のホワイトバランス、色補正、ノイズリダクション、画像強調等の画像処理に関して、図9に示すように、表示用画像を得るための画像処理と解析用画像を得るための画像処理とを区別する。
ビデオプロセッサ3の画像処理部12は、表示用取得条件設定情報に従って信号処理することで、WLI<Raw>の撮像画像から視認性に優れた表示用のWLI画像を取得する。ナビゲーション装置30は、ビデオプロセッサ3からの撮像画像のうち、視認性に優れたWLI画像については、表示用画像としてモニタ5に出力する。
図7はこれを示しており、ナビゲーション装置30の制御部31は、ビデオプロセッサ3から出力された画像のうち、WLI画像を抽出してモニタ5に出力する。図7の例では、図6の一連のフレームのうち、WLI<Raw>に対する画像処理によって得られたWLI画像が抽出されてモニタ5に供給されることを示している。なお、モニタ5に供給されるWLI画像のフレームレートが例えば30FPS以上となるように、撮像が行われている。視認確認用の画像はこれを見て操作が行われるので、時間当たりの画像コマ欠落が極力ないようにしているが、例えば、画像が変化しないような状況であれば、その限りではない。
こうして、モニタ5の表示画面上において、内視鏡2の撮像装置20により得られた撮像画像が表示される。モニタ5に表示される画像は、視認性に優れたWLI画像であり、術者は撮像装置20の視野範囲の画像をモニタ5の表示画面上において見やすい画像として確認することができる。
視認性に優れたWLI画像は、画像処理部12における信号処理によって、ナビゲーションのための画像解析のために有用な情報が欠落している可能性がある。そこで、図9に示すように、ビデオプロセッサ3は、解析用取得条件に従って、解析用画像に対する多くの画像処理を停止させると共に、画像解析に有用な情報を付加する。こうして、解析用取得条件設定情報によって、画像解析に有用な解析用画像の出力が可能となる。
例えば、上述した粘膜表層部の毛細血管および粘膜微細模様等については、WLI画像による判別は困難であり、NBI光等を用いた撮像により得られたNBI画像を用いた画像解析によって比較的容易に判別可能である。そこで、制御部31は、例えば、NBI画像を含むビデオプロセッサ3の出力画像の全てを画像解析部32に与えて画像解析を実施させるようになっている。図8は画像解析部32に供給される画像を示している。なお、制御部31は、ビデオプロセッサ3の出力画像のうちWLI画像を除く画像のみを画像解析部32に与えるようになっていてもよい。
画像解析部32は、術者を支援するために各種画像解析を行う。画像解析部32は、ビデオプロセッサ3から入力された撮像画像に対して画像解析を行い、画像解析結果を得る。画像解析部32は、例えば、内視鏡2の挿入部の進行方向についての画像解析結果を取得したり、病変部の鑑別結果についての画像解析結果を取得したりする。画像解析部32の画像解析結果は支援情報生成部36に与えられる。
支援情報生成部36は、画像解析部32の画像解析結果に基づいて、支援情報を生成する。例えば、支援情報生成部36は、画像解析結果により挿入部を挿入すべき方向が得られた場合には、当該挿入方向を示す支援情報を生成する。また、例えば、支援情報生成部36は、画像解析結果により病変部の鑑別結果が得られた場合には、当該鑑別結果を術者に提示するための支援情報を生成する。支援情報生成部36は、支援情報として、モニタ5に表示するための画像(支援画像)やテキスト(支援テキスト)等の支援表示データを生成してもよい。また、支援情報生成部36は、支援情報として、図示しないスピーカから音声出力するための音声データを生成してもよい。
(取得条件の変更)
更に、本実施形態においては、ナビゲーション装置30は、解析に用いる画像の特性や画像から取得される各種情報を含む画像解析結果に基づいて、画像の取得条件を変更することができるようになっている。判定部34は、画像の取得条件を変更すべきか否か、どのように画像の取得条件を変更すべきかについて判定を行う。例えば、判定部34は、画像解析結果によって、十分な解析結果が得られない場合や更に詳細な画像解析が必要と判定した場合には、所望の画像解析を行うために必要な取得条件への変更を取得条件指定部35に指示する。
例えば、判定部34は、特定の基準に基づいて特定の取得条件への変更を決定してもよい。例えば、判定部34は、解析に用いる画像から取得したコントラスト情報やヒストグラム情報等の画像解析結果に含まれる値を所定の基準値と比較することで、変更すべき取得条件を決定してもよい。また、判定部34は、解析に用いる画像が特定の画像特徴やパターンを含んでいるか否かをパターンマッチング等により判定し、その結果に基づいて設定すべき取得条件を決定してもよい。
また、判定部34は、画像解析結果だけでなく、観察モードや手技の内容等に応じて、所望の解析結果を得るために必要な取得条件への変更を取得条件指定部35に指示するようになっていてもよい。
(作用)
次に、このように構成された実施形態の動作について図10から図14を参照して説明する。図10は第1の実施形態の動作を説明するためのフローチャートであり、図11は特定のユースケースにおいて取得する画像を説明するための説明図である。
図11の例は図3と同様の利用シーンを示しており、内視鏡2(硬性鏡)を体腔内に挿入して、内部組織、器官を観察する様子を示したものである。
例えば、電源投入直後においては、ナビゲーション装置30の取得条件指定部35は、取得条件記憶部33から初期設定における表示用取得条件設定情報を読み出して、ビデオプロセッサ3に供給する。表示用取得条件設定情報は、表示用画像を取得するための取得条件の設定を可能にするものであり、ビデオプロセッサ3の制御部11中の撮像パラメータ設定部13は、表示用取得条件設定情報に基づいて、光源装置4、光学系21及び撮像素子22のパラメータを設定する。
これにより、図10のステップS1において、通常観察が行われる。なお、図10中の取得条件I1は、例えば初期設定における表示用取得条件設定情報に対応した取得条件であり、予め決まった条件である。取得条件I1に従って、例えば、光源装置4は、高光量のWLI光を照明部23から出射させ、制御部11が高フレームレート(例えば30FPS以上)で撮像素子22を駆動することにより、撮像装置20からWLI<Raw>の撮像画像を出力させる。
また、制御部11中の画像処理パラメータ設定部14は、表示用取得条件設定情報に基づいて、画像処理部12の画像処理パラメータを設定する。これにより、画像処理部12は、例えば図9に示したように、撮像装置20からの撮像画像に対して、人の目の特性に合わせたガンマ処理、ホワイトバランス処理、人の目の特性に合わせた色補正、ノイズリダクション処理及び画像強調処理等を施すと共に、表示に適したWLI画像を生成する。
画像処理部12によって取得されたWLI画像はナビゲーション装置30に供給される。制御部31は、入力されたWLI画像を表示用画像としてモニタ5に出力する。こうして、モニタ5の表示画面上において、視認性に優れたWLI画像が表示される。術者は、モニタ5の表示画面上の視認性の良いWLI画像によって、体腔内の内部組織や器官等を確実に観察することができる。
図10の例では、制御部31は、ステップS2において、取得条件I1から取得条件I2に変更すべき特定タイミングになったか否かを判定する。手術や検査の開始時から終了までの全期間に亘ってナビゲーション装置30による支援が必要であるとは限らない。ナビゲーション装置30における画像解析の処理量を考慮すると、支援が必要な場合にのみナビゲーション装置30による支援を行った方が好ましいことが考えられる。そこで、制御部31は、表示用取得条件設定情報による取得条件I1から解析用取得条件設定情報を含む取得条件I2への移行タイミングを、術者により指示があった場合や、所定の医療シーンに到達したことを判定して切換える。取得条件I2は予め定められた条件である。なお、取得条件I1,I2は、ユーザ設定により、適宜の内容に設定することができるようになっている。
制御部31は、例えば術者の操作に応じて特定タイミングに到達したことを判定すると、処理をステップS3に移行して、取得条件I2への移行を取得条件指定部35に指示する。なお、制御部31は、特定タイミングに到達していないと判定した場合には、処理をステップS4に移行する。
取得条件指定部35は、ステップS3において、表示用取得条件設定情報及び解析用取得条件設定情報を含む取得条件設定情報を読み出して、ビデオプロセッサ3に出力することにより、取得条件I2に移行する。即ち、取得条件I2は、表示用取得条件設定情報及び解析用取得条件設定情報を用いることで、表示用画像だけでなく、解析用画像も取得するための条件である。
この場合には、光源装置4、光学系21及び撮像素子22は、撮像パラメータ設定部13及び画像処理パラメータ設定部14に制御されて、例えば、30FPS以上のフレームレートでWLI<Raw>を取得すると共に、画像解析に適した画像を取得する。例えば、撮像装置20は、図11に示すように、WLI<Raw>、WLI<Raw>、NBI<Raw>、WLI<Raw>、低光量WLI<Raw>、WLI<Raw>フレームを繰り返し取得する。図11の例では、一連の6フレーム中の4フレームが表示用取得条件設定情報に基づいて取得されたWLI<Raw>フレームであり、2フレームが解析用取得条件設定情報に基づいて取得されたNBI<Raw>、低光量WLI<Raw>フレームである。
画像処理パラメータ設定部14は、表示用取得条件設定情報及び解析用取得条件設定情報に基づいて画像処理部12を制御する。これにより、画像処理部12は、WLI<Raw>フレームについては、表示用取得条件設定情報に基づいて信号処理を行って、WLI画像を取得する。また、画像処理部12は、NBI<Raw>、低光量WLI<Raw>フレームについては、解析用取得条件設定情報に基づいて、例えば表示用の信号処理を施さない。なお、画像処理部12は、NBI<Raw>フレーム、低光量WLI<Raw>フレームをそれぞれNBI画像、低光量WLI画像に変換する。画像処理部12は、これらの画像をナビゲーション装置30に出力する。
ナビゲーション装置30の制御部31は、図11に示すように、WLI画像についてはモニタ5に表示用画像として出力すると共に、NBI画像及び低光量WLI画像を画像解析部32に出力する。なお、WLI画像については画像解析部32にも与えられる。画像解析部32は、WLI画像、NBI画像及び低光量WLI画像を用いて画像解析を行って、所定の解析結果を得る。例えば、診断支援を行う場合には、画像解析部32によって、病変部候補の有無や病変部の鑑別等の所望の解析結果が得られる。
画像解析部32において解析された画像は、解析に適したNBI画像等の特殊光観察によって得られた画像を含んでおり、また、情報の欠落を伴う画像処理も施されていないことから、画像解析に十分な情報量を有しており、画像解析部32において高精度の解析結果を得ることができる。この情報量は、画像から何かを導き出すための画素それぞれの持つ情報であったり、画素の並びにおける変化などが顕著に表れるようなもので、コントラストや空間周波数、階調特性や色変化やその波長の差異の識別性など、解析されるそれぞれの画像が持つ対象物の特徴を識別するのに必要な情報量を想定している。
本実施形態においては、ステップS2又はS3の次にステップS4の処理及びステップS5の判定が行われるが、ステップS5においてNO判定の場合には、ステップS7に処理が移行する。ステップS7では、支援表示が必要か否かが判定される。制御部31は、例えば、画像解析部32の画像解析結果によって病変部候補が発見された場合には、支援表示が必要であるものと判定して、支援情報生成部36に支援情報を生成させる。支援情報生成部36は、画像解析部32の解析結果に基づいて支援情報を生成する。
支援情報生成部36は、例えば病変部候補が発見された場合の支援情報として、モニタ5の表示画面に表示されている表示用画像上に、病変部候補の位置を示すマーク(支援表示)を表示させるための表示データを生成してもよい。制御部31は、支援情報生成部36が生成した表示データをモニタ5に与える。こうして、モニタ5に表示された表示用画像(内視鏡2による観察画像)上に、、病変部候補の位置を示すマークが表示される(ステップS8)。
このように、本実施形態においては、視認性に優れたWLI画像をモニタ5に表示することで患部等の確認が容易であると共に、画像解析に適したNBI画像等を利用して支援のための画像解析を行っており、高精度の解析結果を得ることを可能にして、術者にとって極めて有効な支援が可能である。また、支援が必要な場合にのみ解析用画像を取得するようになっており、表示用画像のフレームレートを不必要に低下させることなく高画質での表示を可能にすると共に、画像解析の処理量が不必要に増大することを防止することができる。また、撮像装置20の撮像信号に基づいて、これらの表示用画像と解析用画像とを取得しており、複数の撮像装置を内視鏡挿入部の先端部に配置する必要はなく、先端部の大型化を招来することもなく、また、処理すべき情報処理量が著しく増大して、高性能のハードウェアが必要となることもない。
(適応的に変化する取得条件)
更に、本実施形態においては、状況に応じて変化する取得条件I3を設定することで、一層高精度の解析を可能にすることができる。判定部34は、ステップS4において、解析用画像や画像解析部32の画像解析結果に基づいて、より高精度の解析結果を取得するために取得条件を変更すべきか否か、変更する場合の取得条件について判定する。判定部34は、更に一層高精度の解析結果を得ることができるか否かを判定し(ステップS5)、得られる場合にはそのための取得条件I3を取得条件指定部35に設定させる(ステップS6)。なお、判定部34は、更に一層高精度の解析結果を得ることはできないと判定した場合には、処理をステップS7に移行する。
ステップS6では、取得条件指定部35は、判定部34の判定結果に従って、取得条件記憶部33から表示用取得条件設定情報及び解析用取得条件設定情報を読み出し、取得条件I3として撮像パラメータ設定部13及び画像処理パラメータ設定部14に出力する。即ち、ビデオプロセッサ3の出力に応じて適応的に変化した取得条件I3がビデオプロセッサ3にフィードバックされる。なお、取得条件指定部35は、取得条件記憶部33に記憶された情報ではなく、判定部34の判定結果に従って、表示用取得条件設定情報及び解析用取得条件設定情報を生成して出力してもよい。
図12は判定部34による判定に基づく取得条件I3の一例を説明するための図表である。図12の状況の欄は画像解析部32の解析結果により得られる情報を示し、フィードバック内容は判定部34の判定結果に基づいて取得条件指定部35により指定される取得条件I3を示している。
取得条件I1に基づいて取得された表示用画像が出力されている場合においても、画像解析部32はこの表示用画像(WLI画像)を用いて画像解析を行うことが可能である。判定部34は、ステップS2からステップS4に移行した場合には、画像解析部32のWLI画像に対する解析結果を用いた判定を行う。例えば、画像解析部32は、WLI画像に対する解析結果により、粘膜に係る血管情報を得るものとする。判定部34は、粘膜表層部における血管が多く見える状態であるものと判定した場合には、取得条件I3として、長波長の照明光を利用したNBI画像等の解析用画像を取得するために取得条件を設定する。
短波長の照明光を用いた表示用画像(短波長画像)は、組織表層の微細血管を確認しやすい。そこで、微細血管が多く見える場合には、粘膜表層部における血管情報により何らかの悪性腫瘍が潜んでいる可能性があるものと判定し、当該粘膜表層部における微細血管構造をより明確に把握するために、解析用画像としてNBI画像等を取得させるための取得条件I3を設定するのである。
また、例えば、判定部34は、取得条件I2に基づく解析用画像(WLI画像及びNBI画像等)が取得されている場合において、当該解析用画像に基づく解析結果により、粘膜表層部の微細血管の情報が少ないことが示されたときには、粘膜のさらに深部の血管情報(例えば、粘膜のさらなる深層から粘膜下層の血管情報)が得られるように、短波長によるDRI特殊光観察によるDRI画像を取得するための取得情報I3を設定する。
また、例えば、判定部34は、画像解析部32が解析した画像中の被検体患部の画像の動きの大小に応じて、表示用画像のフレームレートを増減すると共に、解析用画像の画像の種類を増減するための取得情報I3を設定する。
また、例えば、判定部34は、画像解析部32が解析した画像中の被検体患部の周辺の輝度情報に応じて、解析用画像の輝度を変更するための取得情報I3を設定する。例えば、被検体患部の周辺の画像が暗い場合には、解析用画像の輝度を明るくするための取得情報I3を設定し、被検体患部の周辺の画像が明るい場合には、解析用画像の輝度を暗くするための取得情報I3を設定する。なお、このような制御は、光源の光量または撮像素子に係る露光時間等を適宜修正することで可能である。こうして、取得条件I3に基づいて取得された画像を利用してステップS8における支援表示が行われる。
なお、図10のフローチャートでは、1回のみ取得条件I3の変更が行われる例を示したが、判定部34は、必要に応じて、取得条件I3の設定内容を繰り返し変更するようになっていてもよい。
また、図10の説明では、所定の第1期間において表示用画像を取得するための表示用取得条件設定情報のみを出力し、例えば、術者等の操作に対応した所定の第2期間において、表示用取得条件設定情報と解析用取得条件設定情報とを混在させて、表示用画像と解析用画像とを取得する例について説明した。例えば、術者は、内視鏡2の挿入部を観察対象部位まで移動させる途中においては第1期間とし、内視鏡2の先端部が観察対象部位に到達した後、病変部候補の検出を開始する時点で第2期間を設定するようにしてもよい。
また、取得条件I1は、先ず、表示用画像を取得するための表示用取得条件設定情報のみを用いて生成される例を示したが、電源投入後から表示用取得条件と解析用取得条件とを常時設定してもよい。例えば、取得条件I1として、WLI<Raw>フレームの所定フレーム数毎に1枚の例えばNBI<Raw>フレームが取得されるように設定し、WLI<Raw>に基づくWLI画像を表示用画像として用い、WLI画像とNBI<Raw>に基づくNBI画像とを解析用画像として用いてもよい。この場合には、比較的高いフレームレートのWLI画像により高画質の画像を表示することができると共に、ナビゲーション装置30の処理の負荷を十分に小さくした状態で支援に必要な解析を実施することも可能である。そして、解析結果に基づき、あるいは術者の操作によって、解析用画像の取得の割合を高くした取得条件I2を設定することで、術者が要求した支援に応じた高精度の解析を実施することが可能となる。
即ち、このような画像取得制御は、術者による特段の留意を必要とせずに、あたかもバックグランドでの処理の如く進行する。したがって、例えば、術者がNBI光等による特殊観察を要するタイミングであるか否か等の判断に注力することなく、的確なナビゲーションが可能であり、術者に有効な支援を瞬時に提供することが可能となる。
図13は支援表示を説明するための説明図である。図13は内視鏡2を体腔P内に挿入して、内部組織、器官を観察する様子を示したもので、矢印は、硬性鏡先端から出射した照明光とその反射光とを示しており、反射光は内視鏡2の撮像装置20に入射される。
(取得条件I1による表示用画像)
取得条件I1によって得られた表示用画像(Im1)は、白色光観察により得られたもので、人が慣れている自然光で見た結果に近い。つまり、この例では取得条件I1は、視認性を重視した表示用画像を得るための条件である。しかし、この取得条件I1による撮像では、対象物表面からの反射成分が勝り、組織内部の情報が相対的に減るので、破線で囲った部分において何かしらの異常があっても、それを見出すことは困難である場合がある。
(取得条件I2による解析用画像)
取得条件I2による解析用画像は、組織内部を観察可能とする観察光の条件を含む撮像条件及び画像処理条件によって取得された画像(Im2)であるので、体組織表面に現れない組織内部の異変を検出することができる。図13においてハッチングによって画像中の検出された病変部を示している。図4及び図5で説明したように、通常の白色光観察による画像(取得条件I1により取得した画像)に比べて、特殊光観察による画像(取得条件I2により取得した画像)を用いことで、高精度の解析結果が得られる。
(取得条件I3による解析用画像)
取得条件I3による解析用画像は、更に高精度の解析結果を得るために取得条件I2から変更された取得条件を用いて得られた画像(Im3)である。この場合には、図13のハッチングに示すように、病変部の形状が画像Im2よりも明瞭である。この結果、画像(Im3)を用いた解析結果は画像(Im2)を用いた解析結果よりも高精度であることが多い。
(支援表示)
支援情報生成部36は、より高精度の解析結果に基づいて、支援情報を生成する。図13の例では、支援情報は、病変部の形状を示す表示データである。制御部31は、支援情報に基づく表示を表示用画像(Im1)に重畳して表示する。更に、支援情報生成部36は、破線部の位置近傍に、「病変部を発見」等のテキスト表示を表示させるための表示データを支援情報として生成してもよい。こうして、観察者は、人の目に自然な表示用画像上において、画像解析部32において検出された病変部の存在を示す表示を確認することができ、観察者は、この部分を他の方法で再検査する等の処置を講ずることも出来る。
なお、支援情報生成部36による支援表示方法は、様々な改良やカスタマイズが可能である。例えば、図13では、取得条件I3に基づく解析用画像に基づく支援表示を表示する例を説明したが、取得条件I2に基づく解析用画像に基づく支援表示を表示するようにしてもよい。また、支援情報生成部36は、支援表示として、解析用画像をそのまま表示してもよく、解析結果に基づく合成画像を表示してもよい。
(取得条件決定の優先順位)
判定部34は、状況に応じて取得条件を変化させる場合において、複数の要求(取得条件)を考慮する必要がある場合がある。図14はこのような複数の要求に対する優先順位を説明するための図表である。
例えば、画像解析部32が解析に用いたWLI画像又はNBI画像からは、検出される微細血管が少なく、周辺画像が暗く、かつ、画像上の動きが大きい状況であるとする。この場合には、判定部34は、可能ならば、表示用画像のフレームレートを低下させることなく、解析用画像として長波長を用いたDRI画像等であって、明るめの画像を取得することを可能にするための取得条件I3を発生させる。
しかしながら、全ての要求を満足させることができない場合がある。そこで、判定部34は、各要求(条件)に優先順位を付して、取得条件I3を決定する。例えば、判定部34は、優先順位1として、表示用画像のフレームレートを低下させないことを条件とする。また、判定部34は、優先順位2として、解析用画像として長波長を用いたDRI画像等を取得することを条件とする。また、判定部34は、優先順位3として、明るめの画像を取得することを条件とする。
判定部34は、このような優先順位を考慮して、取得条件指定部35に取得条件I3の生成を指示する。例えば、取得条件指定部35は、表示用画像として用いるWLI<Raw>フレームのフレームレートを30FPS以上に維持するための表示用取得条件設定情報を生成する。また、例えば、取得条件指定部35は、解析用画像であるDRI画像を生成するためのDRI<Raw>フレームによるDRI画像を2FPSで取得するための解析用取得条件設定情報を生成する。また、例えば、取得条件指定部35は、撮像可能な最大のフレームレートの制限を考慮して、優先順位3の要求については非対応とする。
このように、ビデオプロセッサ3に対する要求に優先順位を付けて生成した取得条件をフィードバックするので、ビデオプロセッサ3において、表示及び解析の両方に有用な画像を効率良く取得することができる。また、性能や機能が異なる様々な種類の内視鏡及びビデオプロセッサにおいて、取得条件に応じた画像を確実に取得可能である。
このように本実施形態においては、視認性に優れた画像表示のための画像と解析性に優れた画像とを取得可能であり、視認性に優れた画像表示を維持しながら、各種作業について極めて有効な支援が可能である。また、画像の取得条件を適応的に変化させることも可能であり、状況に応じて適切な支援を行うことができる。
なお、図1では、ビデオプロセッサ3とナビゲーション装置30とを別体に構成した例を示したが、ナビゲーション装置30がビデオプロセッサ3に内蔵された構成であってもよいことは明らかである。また、内視鏡システムとしては、腹腔鏡手術システムに限らず通常の軟性内視鏡を用いる内視鏡システムに適用してもよい。
また、ナビゲーション装置30における画像解析部32の解析、判定部34の判定、取得条件指定部35の取得条件設定情報の生成等は、AI(人工知能)装置によって実現してもよい。
(第2の実施形態)
図15は第2の実施形態に採用される動作フローを示すフローチャートである。本実施形態におけるハードウェア構成は図1と同様であり説明を省略する。
第1の実施形態においては、取得条件I1,I2よりも高精度の解析結果が得られる場合に、適応的に取得条件I3を設定する例を説明した。本実施形態は、取得条件I1から取得条件I2に変更した場合において、これらの解析結果のいずれがより高精度であるかを判定する。なお、解析結果がより高精度であるとは、上述したように、支援のために、より適した解析結果が得られることを意味し、例えば、画像から得られる情報量が多くなった場合等を含む。本実施形態では、条件変更によってより高精度の解析結果が得られるとの判定結果を得た場合には、取得条件の変更内容と同種の更なる変更を行い、そうでない場合には、取得条件の変更内容と異なる種類の変更を行うことにより、最適な取得条件の設定を可能にするものである。
取得条件の変更内容と同種の更なる変更とは、例えば、通常光観察画像を取得するための取得条件I1からNBI画像を取得するための取得条件I2に変更した場合においては、NBI光の波長を変化させる変更等のことである。また、取得条件の変更内容と異なる種類の変更とは、例えば、通常光観察画像を取得するための取得条件I1からNBI画像を取得するための取得条件I2に変更した場合においては、NBI画像に代えてDRI画像を取得するための取得条件の変更を行うこと等を意味する。
例えば、取得条件記憶部33に、取得条件I1とI2の組み合わせに対して、より高精度の解析結果が得られた場合の取得条件I3と、解析結果の精度が低下した場合の取得条件I3とを予め登録しておいてもよい。この場合には、判定部34は、解析結果が高精度になったか精度が低下したかの判定結果に応じて、取得条件指定部35に、取得条件記憶部33のいずれの記憶内容を読み出せばよいかを指示するようになっていてもよい。
図15のステップS11においては、予め決められた取得条件I1に基づいて画像取込みが行われる。例えば図13に示したように、被検体体腔内の検査が開始され、ビデオプロセッサ3の制御部11の制御下に、内視鏡2により画像が取得され、ナビゲーション装置30を経由して撮像画像がモニタ5に供給される。取得条件I1としては、例えば、表示用取得条件設定情報が採用されて、WLI<Raw>フレームが取得されるものとする。画像処理部12は、WLI<Raw>フレームに基づくWLI画像をナビゲーション装置30に出力し、制御部31はWLI画像をモニタ5に供給して画面上に表示させる。こうして、モニタ5の表示画面上において、視認性に優れたWLI画像が表示される。
なお、ビデオプロセッサ3は、図示しない記録装置に対して、取得条件I1に基づいて取得したWLI画像を撮像画像Im1として仮記録する(ステップS12)。また、ナビゲーション装置30の画像解析部32は、取得条件I1に基づいて取得したWLI画像に対する画像解析により、解析結果を得る。
制御部31は、ステップS13において、取得条件の変更指示があったか否かを判定する。第1の実施形態と同様に、例えば、術者の指示によって取得条件の変更指示を発生することが可能であり、また、画像解析部32の解析結果に基づいて、判定部34が取得条件の変更指示を発生することも可能である。
取得条件の変更指示が発生すると、制御部31は、取得条件指定部35に、予め決められた取得条件I2を生成させる。取得条件指定部35は、取得条件記憶部33から取得条件I2の情報を読み出すようにしてもよい。いま、取得条件I2は、所定フレームレート以上のWLI画像と例えばNBI画像等を取得するための条件であるものとする。これにより、例えば図6等に示すように、WLI<Raw>フレーム及びNBI<Raw>フレームを含む取得画像が内視鏡2によって取得される(ステップS14)。画像処理部12は、撮像装置20からの撮像画像に基づいて、WLI画像及びNBI画像を生成してナビゲーション装置30に出力する。
画像解析部32は、取得条件I2に基づいて取得したWLI画像及びNBI画像に対する画像解析により、解析結果を得る。支援情報生成部36は、解析結果に基づく支援情報を生成する。なお、ビデオプロセッサ3は、図示しない記録装置に対して、取得条件I2に基づいて取得したWLI画像及びNBI画像を撮像画像Im2として仮記録する(ステップS15)。
判定部34は、ステップS16において、同一観察部位について、取得条件I1,I2に基づく画像が取得されたか否かを判定する。例えば、判定部34は、画像解析部32の解析結果に基づいて、同一観察部位に基づく画像であるか否かの判定が可能である。
判定部34は、取得条件I1,I2に基づく各画像が同一観察部位についてのものであると判定した場合には、次のステップS17において、情報量(以下、情報量と書いた部分は、何らかの支援、補助に使うための画像が含む対象物の特徴を表す情報量)が増加したか否かを判定する。即ち、判定部34は、被検体のある領域に対してWLI光を照射することによって得られた取得条件I1に基づく画像Im1の情報量と、同じ領域に対してWLI光及びNBI光を照射することによって得られた取得条件I2に基づく画像Im2の情報量との多寡を比較する。判定部34により、画像Im1の情報量(有効な支援を得るために必要な情報量)と、画像Im2の情報量(有効な支援を得るために必要な情報量)とのうち相対的に情報量の多い画像はいずれであるかが判定される。
判定部34は、取得条件I1に基づく画像に比して取得条件I2に基づく画像の情報量が増加している場合には、同種の取得条件によってさらに有効な画像が取得できるものと判定して、ステップS18において、取得条件指定部35に同種の取得条件I3の設定を指示する。なお、図中、同種の変更内容の画像条件と記載した部分は、十分な情報量の画像が得られた場合、画像取得、加工などの変更をそれ以上行わなくてもよい。
取得条件指定部35は、例えば、取得条件I2と同種の取得条件I3として、取得条件I2で指定した波長帯域とは異なる波長帯域のNBI光による画像を取得するための情報に変更する。こうして、この場合には、例えば所定フレームレート以上のWLI<Raw>フレームと前回とは異なる波長のNBI光に基づくNBI<Raw>フレームを含む取得画像が内視鏡2によって取得される。画像処理部12は、撮像装置20からの撮像画像に基づいて、WLI画像及びNBI画像を生成してナビゲーション装置30に出力する。
画像解析部32は、取得条件I2に基づいて取得したWLI画像及びNBI画像に対する画像解析により、解析結果を得る。支援情報生成部36は、解析結果に基づく支援情報を生成する。また、ビデオプロセッサ3は、図示しない記録装置に対して、取得条件I3に基づいて取得したWLI画像及びNBI画像を撮像画像Im3として仮記録する(ステップS19)。
一方、判定部34は、ステップS17において、情報量が増加していないと判定した場合には、処理をステップS20に移行して、情報量が低下したか否かを判定する。即ち、判定部34は、被検体のある領域に対してWLI光を照射することによって得られた取得条件I1に基づく画像Im1の情報量よりも、同じ領域に対してWLI光及びNBI光を照射することによって得られた取得条件I2に基づく画像Im2の情報量が低下したか否かを判定する。
判定部34は、取得条件I1に基づく画像に比して取得条件I2に基づく画像の情報量が低下している場合には、取得条件I2とは異種の取得条件によって有効な画像が取得できるものと判定して、ステップS21において、取得条件指定部35に異種の取得条件I3の設定を指示する。
取得条件指定部35は、例えば、取得条件I2と異種の取得条件I3として、取得条件I2で指定したNBI光に代えて、DRI光による画像を取得するための情報に変更する。なお、取得条件指定部35は、取得条件I2と異種の取得条件I3として、取得条件I2により指定したNBI光の波長帯域とは異なる他の波長帯域のNBI光を含み、DRI光、AFI光を用いた画像を取得するための条件に変更するものであってもよい。更に、取得条件指定部35は、撮像素子22のフレームレートの変更や、画像処理部12による各種画像処理の変更を伴うものであってもよい。
画像解析部32は、取得条件I2と異種の取得条件I3に基づいて取得した各画像に対する画像解析により、解析結果を得る。支援情報生成部36は、解析結果に基づく支援情報を生成する。また、ビデオプロセッサ3は、図示しない記録装置に対して、取得条件I2と異種の取得条件I3に基づいて取得した各画像を画像Im4として仮記録する(ステップS22)。
制御部31は、ステップS16,S20においてNO判定の場合又はステップS22の処理が終了した場合には、次のステップS23に移行し、取得条件I1~I3に基づいて取得した画像が同一観察部位についてのものである場合には、モニタ5に表示された画像Im1上に、画像Im2~Im4の画像解析結果に基づく支援情報生成部36からの支援情報による表示を重畳表示する。
なお、図15では、ステップS18,S21による取得条件I3の設定は、いずれかのステップにおいて1回のみ行われる例を示したが、情報量が増加もせず低下もしない状態となるまで、ステップS16~S22までを繰り返し実行するようになっていてもよい。ただし、このような繰り返しは非常に時間がかかる可能性があり、迅速な条件決定が出来ないので、特定の状況で終わりにしてもよい。二つの条件のうち、良い方でもよい。このように、複数の異なる撮像条件で撮像して撮像結果を取得する撮像ステップを有し、この異なる撮像条件での複数の撮像結果を比較する比較ステップによって、上記比較結果で得られた情報量の差異から、第3の撮像条件を変更する撮像条件変更ステップからなる画像処理方法を実行することで、良好な条件で得た画像での高精度の支援情報提起が可能となる。
このように本実施形態においても、第1の実施形態と同様の効果を得ることができる。
(第3の実施形態)
図16は第3の実施形態を示すブロック図である。
第3の実施形態に係る内視鏡システムは、例えば、大腸内視鏡のような検査用内視鏡を用いたシステム他、腹腔鏡のような外科手術用内視鏡を用いたシステム等、多くの内視鏡システムを適用できるが、図16においては、腹腔鏡手術システムを想定した内視鏡システム1を図示する。
図16に示すように、被検体Pの体腔内を撮像し撮像信号を出力する内視鏡2(腹腔鏡)と、内視鏡2を接続し当該内視鏡2の駆動を制御すると共に、当該内視鏡2において撮像した被検体に係る撮像信号を取得し当該撮像信号に対して所定の画像処理を施すビデオプロセッサ3と、ビデオプロセッサ3に内設され、被検体に照射するための所定の照明光を供給する光源装置4と、撮像信号に応じた観察画像を表示するモニタ5と、ビデオプロセッサ3に接続されたナビゲーション装置30と、を主に備えるが、検査用内視鏡を用いたシステムにおいても、内視鏡2の種別が異なるものの、他の構成要素は、図16に示す例と同様である。
また、第3の実施形態の内視鏡システム1における各構成要素、すなわち、内視鏡2、ビデオプロセッサ3、光源装置4、モニタ(ディスプレイ)5、ナビゲーション装置30のそれぞれの構成は、第1の実施形態と同様であるので、ここでの詳しい説明は省略する。
本第3の実施形態の内視鏡システム1は、例えば、検査用内視鏡を用いたシステムの場合、ナビゲーション装置30が病変部位を高精度にマーキングした画像をモニタ(ディスプレイ)5に出力するようになっている。
具体的には、大腸内視鏡を用いた検査用内視鏡システムにおけるナビゲーション装置30の場合、図16に示すように、ビデオプロセッサ3から上述の如き提供された欠落の無い各画像情報(表示用画像情報+解析用画像情報)に基づいて、例えば、病変部位と考えられる領域を高精度にマーキングした画像をモニタ(ディスプレイ)5に出力し、ナビゲーション情報として術者に提供する。
一方、外科手術用内視鏡を用いたシステムの場合、ナビゲーション装置30が手技に有用な情報を提示した画像をモニタ(ディスプレイ)5に出力するようになっている。
具体的には、腹腔鏡を用いた外科手術用内視鏡システムにおけるナビゲーション装置30の場合、図16に示すように、ビデオプロセッサ3から上述の如き提供された欠落の無い各画像情報(表示用画像情報+解析用画像情報)に基づいて、例えば、腫瘍の位置、切除領域、主要血管位置等の情報をモニタ(ディスプレイ)5に出力し、ナビゲーション情報として術者に提供する。
この第3の実施形態の内視鏡システムのように、本発明は、種々の内視鏡を用いた内視鏡システム1において、上述の如きビデオプロセッサ3からナビゲーション装置30に提供する画像情報として、表示用の画像情報の他にナビゲーション装置30向けの解析用の画像情報を用意し、欠落の無い画像情報を用いてナビゲーション装置30において認識処理を行うので、あらゆる内視鏡システム1においても、有用なナビゲーション情報(支援情報)を術者に提供することができる。
また、本第3の実施形態の内視鏡システムは、上述したように検査用内視鏡システム、外科手術用内視鏡システムを例に挙げたが、これに限らず、本第3の実施形態に係る内視鏡システムは、他の種類の内視鏡を用いた内視鏡システムに適用されるものであってもよい。
また、ここで説明した技術のうち、主にフローチャートで説明した制御や機能は、多くがプログラムにより設定可能であり、そのプログラムをコンピュータが読み取り実行することで上述した制御や機能を実現することができる。そのプログラムは、コンピュータプログラム製品として、フレキシブルディスク、CD-ROM等、不揮発性メモリ等の可搬媒体や、ハードディスク、揮発性メモリ等の記憶媒体に、その全体あるいは一部を記録又は記憶することができ、製品出荷時又は可搬媒体或いは通信回線を経由して流通又は提供可能である。利用者は、通信ネットワークを経由してそのプログラムをダウンロードしてコンピュータにインストールしたり、あるいは記録媒体からコンピュータにインストールしたりすることにより、容易に本実施の形態の画像処理装置を実現することができる。
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。ここでは、医療用途での例で説明したが、民生用、工業用、産業用の機器にも適用が可能な発明となっていることは言うまでもない。例えば、ナビゲーション装置は、医療分野以外でも産業分野や警備の分野でも何かの異常を検知する装置、支援情報は、気づきを促す情報と書き直すことができ、産業用応用では、工場のラインで流れてくるものや作業中の品質を工程内カメラで判定する時の補助に、あるいは、ウェアラブルカメラ、あるいはロボットカメラで監視しているときの気づき誘発ガイドや、同様に車載カメラでの障害物判定などにも応用が可能である。民生用カメラでも、様々なガイドの用途があり得る。顕微鏡でも、光源や画像処理の切り替えによる観察は知られており、本願の応用が有効となる。

Claims (13)

  1. 表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な画像取得部に対して、上記表示用取得条件を含む第1取得条件と、上記表示用取得条件及び解析用取得条件を含む第2取得条件と、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件と、を設定する取得条件指定部と、
    上記画像取得部により取得された上記第1から画像に対する画像解析を行う画像解析部と、
    上記画像解析部の画像解析結果に基づいて支援情報を生成する支援情報生成部と、
    上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする制御部と、
    を具備することを特徴とする画像処理装置。
  2. 上記制御部は、上記第2取得条件から、第1取得条件への切換を所定のタイミングで制御する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 上記画像取得部は、撮像装置の光学系及び撮像素子の少なくとも一方に対する制御のための第1パラメータと上記撮像装置の撮像対象に対する照明光の制御のための第2パラメータと上記第1から画像に対する信号処理のための第3パラメータのうちの少なくとも1つのパラメータを、上記表示用取得条件及び解析用取得条件の少なくとも一方に基づいて設定する、
    ことを特徴とする請求項1に記載の画像処理装置。
  4. 取得条件指定部と、画像解析部と、支援情報生成部と、制御部とを備えた画像処理装置における画像処理方法であって、
    上記取得条件指定部が、表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な画像取得部に対して、上記表示用取得条件を含む第1取得条件と、上記表示用取得条件及び解析用取得条件を含む第2取得条件と、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件と、を設定し、
    上記画像解析部が、上記画像取得部により取得された上記第1から画像に対する画像解析を行って画像解析結果を得、
    上記支援情報生成部が、上記画像解析結果に基づいて支援情報を生成し、
    上記制御部が、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする
    ことを特徴とする画像処理方法。
  5. 上記表示用取得条件は、所定のフレームレート以上のレートで上記表示に適した画像を取得することを可能にする情報を含む、
    ことを特徴とする請求項1に記載の画像処理装置。
  6. 上記解析用取得条件は、上記照明光の波長帯域を所定の帯域に制限することを可能にする情報を含む、
    ことを特徴とする請求項3に記載の画像処理装置。
  7. 上記表示用取得条件は、上記画像取得部が取得した上記第1画像に信号処理を施す画像処理部に対して、表示のための信号処理を実施させるための情報を含み、
    上記解析用取得条件は、上記画像処理部に対して、上記画像取得部が取得した上記第2画像又は第3画像には表示のための信号処理を実施させないための情報を含む、
    ことを特徴とする請求項1に記載の画像処理装置。
  8. 上記制御部は、上記第1取得条件に基づいて取得した上記第1画像に対する上記画像解析部の画像解析結果の精度と上記第2取得条件に基づいて取得した上記第2画像に対する上記画像解析部の画像解析結果の精度との比較に基づいて、上記第3取得条件を決定する、
    ことを特徴とする請求項1に記載の画像処理装置。
  9. 上記第1及び第2取得条件は、規定の条件であり、
    上記第3取得条件は、適応的に変化する条件である、
    ことを特徴とする請求項8に記載の画像処理装置。
  10. 上記制御部は、上記画像解析部の画像解析結果に含まれる値と、所定の基準値との比較に基づいて、上記第3取得条件を決定する、
    ことを特徴とする請求項8に記載の画像処理装置。
  11. 上記第1及び第2取得条件を記憶すると共に、上記第2取得条件に対応する上記画像解析部による画像解析結果の精度が上記第1取得条件に対応する上記画像解析部による画像解析結果の精度に対して、高くなった場合の上記第3取得条件及び低くなった場合の上記第3取得条件を記憶する取得条件記憶部、を更に具備し、
    上記制御部は、上記画像解析結果の精度が高くなったか低くなったかに応じて、上記取得条件記憶部から読出す上記第3取得条件を決定する、
    ことを特徴とする請求項1に記載の画像処理装置。
  12. 取得条件指定部、画像解析部及び制御部を具備する画像処理装置によるナビゲーション方法であって、
    上記取得条件指定部が、
    表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な画像取得部に対して、上記表示用取得条件を含む第1取得条件を設定し、
    上記画像取得部に対して上記表示用取得条件及び解析用取得条件を含む第2取得条件を設定し、
    上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件を設定し、
    上記画像解析部が、
    上記画像取得部により取得された上記第1から画像に対する画像解析を行って画像解析結果を得、
    上記制御部が、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする
    ことを特徴とするナビゲーション方法。
  13. 表示に適した画像を取得するための表示用取得条件に従ったフレームレートで上記表示用取得条件に基づく第1画像を取得すると共に、上記第1画像と上記表示用取得条件に従ったフレームレートより低いフレームレートで画像解析に適した画像を取得するための解析用取得条件に基づく第2画像又は第3画像とを混在させて取得することが可能な照明部と撮像部を有する内視鏡と、
    上記表示用取得条件と上記解析用取得条件との少なくとも一方に基づいて、上記内視鏡に上記第1画像から画像を取得させるビデオプロセッサと、
    上記表示用取得条件を含む第1取得条件と、上記表示用取得条件及び解析用取得条件を含む第2取得条件と、上記表示用取得条件及び上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件であって、撮像対象に対する照明光の波長が上記第2取得条件の上記解析用取得条件とは異なる解析用取得条件を含む第3取得条件と、を設定する取得条件指定部と、上記ビデオプロセッサにより取得された上記第1から画像に対する画像解析を行う画像解析部と、上記画像解析部の画像解析結果に基づいて支援情報を生成する支援情報生成部と、上記第1取得条件から、上記第2取得条件への切換を上記画像解析結果に従って制御すると共に、上記第2取得条件から上記第3取得条件への切換を上記画像解析部における上記画像解析結果の精度に基づいて制御することで、上記第2取得条件に含まれる上記解析用取得条件に応じて取得された上記第2画像に対する画像解析結果の精度よりも上記第3取得条件に含まれる上記解析用取得条件に応じて取得される上記第画像に対する画像解析結果の精度を高くする制御部と、を備えた画像処理装置と、
    を具備することを特徴とする内視鏡システム。
JP2022513820A 2020-04-09 2020-04-09 画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システム Active JP7596365B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/016037 WO2021205624A1 (ja) 2020-04-09 2020-04-09 画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システム

Publications (3)

Publication Number Publication Date
JPWO2021205624A1 JPWO2021205624A1 (ja) 2021-10-14
JPWO2021205624A5 JPWO2021205624A5 (ja) 2022-09-15
JP7596365B2 true JP7596365B2 (ja) 2024-12-09

Family

ID=78023126

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022513820A Active JP7596365B2 (ja) 2020-04-09 2020-04-09 画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システム

Country Status (4)

Country Link
US (1) US20230039047A1 (ja)
JP (1) JP7596365B2 (ja)
CN (1) CN115315210A (ja)
WO (1) WO2021205624A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7702294B2 (ja) * 2021-07-27 2025-07-03 富士フイルム株式会社 内視鏡システム及びその作動方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012161244A1 (ja) 2011-05-24 2012-11-29 オリンパス株式会社 内視鏡装置および計測方法
JP2013000466A (ja) 2011-06-20 2013-01-07 Fujifilm Corp 電子内視鏡装置及び内視鏡画像の生成方法、並びに電子内視鏡システム
JP2016019569A (ja) 2014-07-11 2016-02-04 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム、及び内視鏡システム
WO2018163644A1 (ja) 2017-03-07 2018-09-13 ソニー株式会社 情報処理装置、支援システム及び情報処理方法
JP2019042156A (ja) 2017-09-01 2019-03-22 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置
WO2019078204A1 (ja) 2017-10-17 2019-04-25 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5035987B2 (ja) * 2008-01-28 2012-09-26 富士フイルム株式会社 カプセル内視鏡、およびカプセル内視鏡の動作制御方法
JP5452300B2 (ja) * 2010-03-19 2014-03-26 富士フイルム株式会社 電子内視鏡システム、電子内視鏡用のプロセッサ装置、電子内視鏡システムの作動方法、病理観察装置および病理顕微鏡装置
JP2011229603A (ja) * 2010-04-26 2011-11-17 Fujifilm Corp 内視鏡装置
JP5331863B2 (ja) * 2011-10-17 2013-10-30 オリンパスメディカルシステムズ株式会社 内視鏡装置
JP5568196B1 (ja) * 2012-10-18 2014-08-06 オリンパスメディカルシステムズ株式会社 画像処理装置及び画像処理方法
US20140275996A1 (en) * 2013-03-12 2014-09-18 Volcano Corporation Systems and methods for constructing an image of a body structure
EP3141178A4 (en) * 2014-11-26 2018-02-21 Olympus Corporation Diagnosis assistance device and diagnosis assistance information display method
CN112105284B (zh) * 2018-05-14 2024-02-13 富士胶片株式会社 图像处理装置、内窥镜系统及图像处理方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012161244A1 (ja) 2011-05-24 2012-11-29 オリンパス株式会社 内視鏡装置および計測方法
JP2013000466A (ja) 2011-06-20 2013-01-07 Fujifilm Corp 電子内視鏡装置及び内視鏡画像の生成方法、並びに電子内視鏡システム
JP2016019569A (ja) 2014-07-11 2016-02-04 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム、及び内視鏡システム
WO2018163644A1 (ja) 2017-03-07 2018-09-13 ソニー株式会社 情報処理装置、支援システム及び情報処理方法
JP2019042156A (ja) 2017-09-01 2019-03-22 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置
WO2019078204A1 (ja) 2017-10-17 2019-04-25 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置

Also Published As

Publication number Publication date
CN115315210A (zh) 2022-11-08
US20230039047A1 (en) 2023-02-09
JPWO2021205624A1 (ja) 2021-10-14
WO2021205624A1 (ja) 2021-10-14

Similar Documents

Publication Publication Date Title
JP7074065B2 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7135082B2 (ja) 内視鏡装置、内視鏡装置の作動方法、及びプログラム
US20100240953A1 (en) Endoscope system, endoscope video processor and method of driving endoscope system
WO2018034075A1 (ja) 撮像システム
JP7337073B2 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JP2003215469A (ja) 内視鏡装置
JP2010172673A (ja) 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
JP2003334162A (ja) 内視鏡画像処理装置
JP7335399B2 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JPWO2018211885A1 (ja) 画像取得システム、制御装置及び画像取得方法
RU2391894C2 (ru) Устройство для считывания изображения живого организма и система формирования изображения живого организма
US20230101620A1 (en) Medical image processing apparatus, endoscope system, method of operating medical image processing apparatus, and non-transitory computer readable medium
WO2020066941A1 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
CN116133572A (zh) 图像分析处理装置、内窥镜系统、图像分析处理装置的工作方法及图像分析处理装置用程序
CN112991367A (zh) 成像系统及生成可见光视频和彩色光视频的方法
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
WO2021199910A1 (ja) 医用画像処理システム、医用画像処理システムの作動方法
JP2002345739A (ja) 画像表示装置
JP7596365B2 (ja) 画像処理装置、画像処理方法、ナビゲーション方法及び内視鏡システム
CN116322465A (zh) 图像处理装置、内窥镜系统、图像处理装置的工作方法及图像处理装置用程序
JP2006192058A (ja) 画像処理装置
JP7123247B2 (ja) 内視鏡制御装置、内視鏡制御装置による照明光の波長特性の変更方法及びプログラム
JP7750938B2 (ja) プロセッサ装置、医療画像処理装置、及び医療画像処理システム、並びに内視鏡システム
JP2020171599A (ja) 画像生成装置、コンピュータプログラム及び画像生成方法
CN113557462B (zh) 医疗控制装置和医疗观察装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220725

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240322

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20240607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241127

R150 Certificate of patent or registration of utility model

Ref document number: 7596365

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150