[go: up one dir, main page]

JP6684005B1 - 高精細撮像とスペクトル解析が可能な内視鏡装置 - Google Patents

高精細撮像とスペクトル解析が可能な内視鏡装置 Download PDF

Info

Publication number
JP6684005B1
JP6684005B1 JP2019087128A JP2019087128A JP6684005B1 JP 6684005 B1 JP6684005 B1 JP 6684005B1 JP 2019087128 A JP2019087128 A JP 2019087128A JP 2019087128 A JP2019087128 A JP 2019087128A JP 6684005 B1 JP6684005 B1 JP 6684005B1
Authority
JP
Japan
Prior art keywords
light
image
subject
endoscope apparatus
optical fiber
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019087128A
Other languages
English (en)
Other versions
JP2020182604A (ja
Inventor
のりこ 安間
のりこ 安間
聡美 森久保
聡美 森久保
達夫 長▲崎▼
達夫 長▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2019087128A priority Critical patent/JP6684005B1/ja
Application granted granted Critical
Publication of JP6684005B1 publication Critical patent/JP6684005B1/ja
Priority to PCT/JP2020/018103 priority patent/WO2020222307A1/ja
Publication of JP2020182604A publication Critical patent/JP2020182604A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/26Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes using light guides

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Astronomy & Astrophysics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

【課題】高精細に被写体を観察でき、反射スペクトルの解析により被写体の質的な情報を取得でき、かつ、小型化を実現できる小型の内視鏡装置を提供すること。
【解決手段】光源209から供給される照明光を出射し、被写体3から戻る反射光を受光する光ファイバー1と、光ファイバー1から出射される照明光を一次元方向の走査線4に生成し、被写体3を照射する光学系2と、一次元方向と交差する方向Yに走査線4を走査する走査機構8と、を備える内視鏡装置。
【選択図】図1

Description

本発明は、小型・細径にも拘らず、高精細な撮像と反射スペクトルの解析が可能な内視鏡装置に関するものである。
・ イメージファイバー束を使用した2mmφの細径内視鏡が存在するが、イメージファイバー径の波動光学的な限界から、画素数は7万画素程度に留まっている。
・ また、最先端のデザインルールによって製造されたイメージセンサーを内装した2mmφの細径内視鏡が存在するが、画素数は14万画素程度に留まっている。
・ そして、上記の内視鏡装置は、いずれも反射スペクトルを解析する機能を持ち合わせていない。
・ 3mm以下の癌などの疾患を、HDや4Kや8Kなどの高精細画像によって拡大観察したいというニーズが強い。加えて、そのような高精細な観察と同時に、反射スペクトルの解析によって被写体の質的な情報を画素レベルで取得したいというニーズが強い。ところが、これらの機能を提供できる細径内視鏡装置は存在しない。
・ その理由は、2mmφの細径内視鏡の先端にHDのイメージセンサーを内装しようとすると、イメージセンサーの撮像面の対角寸法を1.5mm以下に抑えなければならず、その際の画素ピッチは0.65μm以下が必要になるため、現状の半導体のデザインルール、イメージセンサーの感度、光学系の分解能において限界を超えてしまう。4K、8Kになれば更にその難しさが増す。
・ また、スペクトルを検出する機能をイメージセンサーに搭載しようとすると、RGB以外に、スペクトル検出用の光フィルタを搭載した画素を別途用意しなければならず、イメージセンサーの小型化がはるかに難しくなる。
本発明は、かかる事情に鑑みてなされたものである。すなわち、本発明は、従来の内視鏡のライトガイドおよびイメージセンサーの構成を、光ファイバー1本と1次元の走査機構に置き換え、光ファイバーで受光した反射光を、撮像部外にて解像およびスペクトル解析に必要な光処理を行なうことで、イメージセンサーに関わる課題を解決し、人体に挿入される部分の小型・細径化できる内視鏡装置を実現する。
上述した課題を解決し、目的を達成するために、本発明の内視鏡装置の第1の態様は、光源から供給される照明光を出射し、被写体から戻る反射光を受光する光ファイバーと、前記光ファイバーから出射される照明光を一次元方向の走査線に生成し、被写体を照射する光学系と、前記一次元方向と交差する方向に前記走査線を走査する走査機構と、を備える。
本発明の内視鏡装置の第2の態様は、第1の態様に係る内視鏡装置であって、前記光ファイバーから出射される照明光は、前記被写体の表面に対し斜め方向から照射される。
本発明の内視鏡装置の第3の態様は、第1又は第2の態様に係る内視鏡装置であって、前記交差する方向は、前記一次元方向に直交する。
本発明の内視鏡装置の第4の態様は、第1乃至第3の態様の一に係る内視鏡装置であって、前記光源は、広帯域光又は広帯域の波長掃引光を生成する。
本発明の内視鏡装置の第5の態様は、第4の態様に係る内視鏡装置であって、前記光源が、前記被写体を蛍光させるための励起光を生成する。
本発明の内視鏡装置の第6の態様は、第1〜5の態様の何れかに係る内視鏡装置であって、前記光学系は、前記被写体を合焦又はズームする機構を有することを特徴とする
本発明の内視鏡装置の第7の態様は、第1〜6の態様の何れかに係る内視鏡装置であって、前記光源が、前記被写体からラマン散乱光を発生させるための励起光を生成する。
本発明の内視鏡装置の第8の態様は、第1〜7の態様の何れかに係る内視鏡装置であって、前記光源が、前記被写体を蛍光させるための誘導放出光を生成する。
本発明の内視鏡装置の第9の態様は、第1〜8の態様の何れかに係る内視鏡装置であって、前記光ファイバーにより受光される前記反射光に対し参照光を干渉させる干渉カプラと、前記参照光を生成するための反射板と、を備える。
本発明の内視鏡装置の第10の態様は、第1〜9の態様の何れかに係る内視鏡装置であって、前記反射板は、ラマン散乱光による参照光を生成する。
本発明の内視鏡装置の第11の態様は、第1〜10の態様の何れかに係る内視鏡装置であって、前記光ファイバーにより受光される前記反射光に関し、前記参照光を干渉させて、所定の波長帯域成分を取り出し、フーリエ変換を行い、所定の波長帯域成分における画像を生成する。
本発明の内視鏡装置の第12の態様は、第11の態様に係る内視鏡装置であって、前記光ファイバーにより受光される前記反射光に関し、前記参照光を干渉させて、3原色に対応した波長帯域成分を取り出し、フーリエ変換を行い、3原色の画像信号を生成し、前記3原色の画像信号に基づき、RGB画像信号を生成する手段と、を備える。
本発明の内視鏡装置の第13の態様は、第12の態様に係る内視鏡装置であって、前記3原色の画像信号の輝度信号成分は、近赤外領域の信号をフーリエ変換し得られる信号を含む。
本発明の内視鏡装置の第14の態様は、第1〜13の態様の何れかに係る内視鏡装置であって、クラスタが既知の被写体の反射スペクトルからフィッシャー・レシオが大きい順に複数のスペクトル成分を算出し、前記スペクトル成分を用い、クラスタが未知の被写体の反射スペクトルから識別を行う識別手段を備える。
本発明の内視鏡装置の第15の態様は、第14に係る内視鏡装置であって、前記識別手段は、ディープラーニングを実行するAIを用いる。
本発明の内視鏡装置の第16の態様は、第1〜15の態様の何れかに係る内視鏡装置であって、前フレームの画像と現フレームの画像との相関を取ることにより、前記現フレームの画像のブレ量が検出され、前記現フレームの画像が補正される。
本発明の内視鏡装置の第17の態様は、第1〜16の態様の何れかに係る内視鏡装置であって、互いに隣り合う複数の前記一次元方向の走査線の信号の差分を取得し累積することにより、前記被写体の動きのある画像が描出される。
・ 本発明の内視鏡装置は、撮像部が光学系と光ファイバーと1次元方向の走査機構とを備える簡素な構成となるため、小型・細径化が可能である。
・ 本発明の内視鏡装置は、小型・細径でありながら、HD、4K、8Kの高精細撮像が可能で、そのような画素数による顕微鏡的な拡大観察が可能である。
・ 本発明の内視鏡装置は、高速繰返し走査が可能なため、動きの速い被写体を抽出することが可能で、造影剤なしで表層粘膜の血管を描出することが可能である。
・ 本発明の内視鏡装置は、小型・細径でありながら、スペクトル解析による物質の特定が画素レベルで可能である。
本発明の内視鏡装置は、熱に弱いイメージセンサーを使用しないため、オートクレーブ滅菌が可能である。
本発明の内視鏡装置の撮像方式の原理を説明するための図である。 観察画像を説明するための図である。 撮像部の構成を示す構成図である。 MEMSミラー駆動の撮像部の構成を示す構成図である。 内視鏡に撮像部を内装した構成を示す構成図である。 走査方向の解像度を説明するための図である。 走査方向の解像度および焦点深度を説明するための説明図である。 広帯域光源のOCI処理を示すブロック図である。 波長掃引光源のOCI処理を示すブロック図である。 内視鏡の使用例−1を示す構成図である。 内視鏡の使用例−2を示す構成図である。 内視鏡の使用例−3を示す構成図である。 内視鏡の使用例−4を示す構成図である。 ブレ補正を示すブロック図である。 接触型細径内視鏡の撮像部の構成を示す構成図である。 接触型細径内視鏡の撮像部の構成を示す構成図である。 接触型細径内視鏡の使用例の構成を示す構成図である。 接触型細径内視鏡の使用方法を説明する図である。 RGBとスペクトル画像の検出を示すブロック図である。 広帯域受光ラインディテクタを示すブロック図である。 フーリエ変換の範囲を説明する図である。 FS(Foley Sammon)変換を説明する図である。 クラスタ識別フローを説明する図である。 ラマンスペクトルのストークスシフトを説明する図である。 ラマンスペクトル用OCI処理−1を示すブロック図である。 RGBとラマンスペクトル画像の検出を示すブロック図である。 可変フィルタによるラマンスペクトル検出を示すブロック図である。 蛍光誘導放出用OCI処理を示すブロック図である。 血管内スコープの構成を示す構成図である。 血管内スコープの構成を示す構成図である。 血管内スコープの構成を示す構成図である。 穿刺針用スコープの構成を示す構成図である。
以下に、本発明の実施例に係る内視鏡装置について図面を参照しつつ説明する。尚、図面において同一部分は同一符号で示されている。
以下に本発明の撮像方式の原理を説明する。
1-1. 撮像方式の原理
・ 本発明の内視鏡装置の撮像方式の原理は、図1に示すように、光ファイバー1からの照明光を、光学系2を通じて、斜め方向から被写体の表面3上にライン4状に収束させて照明を行ない、ライン4から反射してきた光を同じ光ファイバー1で受け、撮像部外に設置したOCI(Optical Coherence Imaging:以下、本明細書においてOCIと称す。)処理部にて、マイケルソン干渉法の原理を応用した処理を行って、ライン4方向の解像を行ない1次元画像データを取得する。そして、走査機構8によって、図1のライン4と直角な方向(矢印Y)へライン4を走査させながらOCI処理を繰り返すことで、2次元画像データを取得する撮像方式である。なお、図1中において、参照符号201は、先端撮像部、203は光サーキュレータ、205は表示部、207はOCI処理部、209は光源を示す。
・ OCI処理は、2.項の実施例で述べるように、OCT(Optical Coherence Tomography)の処理をベースとしている。マイケルソン干渉法とフーリエ変換処理によって、あたかもレーダーのように、ミクロンオーダーの短い光パルスを斜めから照射して、被写体表面から順次反射してくる光パルスを受光して1次元の画像を得るのと同等の効果を生み出す処理である。
・ 本発明の撮像方式で得られる画像は、図2に示すように、被写体を斜めに照明しておいて、被写体上のライン4と照明光の波面5が交わる反射点6を波面5の接線方向7から観察した画像と同じになる。また、被写体が半透明の場合、図2の左下の拡大図2Aに示すように、被写体内部の同一波面からの反射信号が重畳され、接線方向7から透過像を観察したのと同じ画像が得られる。生体の透過性が高い近赤外光(0.68μm〜1.5μm)を照明に用いれば、生体表面から数mmの深さについて透過像を得ることができる。また、斜めから照明を行うため、粘膜表面の正反射が前方に逃げ、血管などの組織Tの影が出やすくなり、立体感のある良質な画像が得られる。例えば、内視鏡に応用して臓器の表層粘膜の浅い部分にある血管を観察するとき、正反射に邪魔されること無く、影によって血管が強調され、血管の構造を把握しやすくなる。ちなみに、血管構造の観察から癌の悪性度や進行状況が診断されている。
・ OCIは、OCTのように生体内部からの大きく減衰した反射光を検出する処理ではなく、被写体表面の反射光を検出して RGB画像の取得や反射スペクトルの解析を行う処理であるため、OCTに比べると感度の余裕が十分にあり、光ファイバー1の開口をスリットやピンホールで調整することで、光学系2の焦点深度を浅く設定することができ、走査方向の解像度(NA)を顕微鏡並みに高く設定することができる。
また、ライン4方向の解像度も、照明の波長帯域幅を広く設定し、光ファイバー1の開口をスリットやピンホールで調整することで、解像度を波動光学的な限界に設定することができる。そのため、HD、4K、8Kなどの高精細画像による拡大観察が可能になる。その数値的な検証について3.項で述べる。
・ 背景技術で述べたように、従来の内視鏡の小型・細径化を制限するクリティカルな要素は、イメージセンサーとライトガイドファイバーの大きさであるが、本発明の内視鏡装置は、照明と受光を兼ねる光ファイバー1本と1次元の簡素な走査機構によって、それらを代替するため、撮像部の小型・細径化が可能になる。1次元の走査機構は、微細加工技術の進歩により、0.9mmφのOCT用マイクロモーターや、ガルバノモーター、ボイスコイル、MEMSミラーなどの小型走査機構が市販されており、走査機構の大きさ関する懸念はない。むしろ、クリティカルな要素は、解像度とワークディスタンスから決まるレンズの開口寸法となる。その数値的な検証について3.項で述べる。
1-2. 本発明の応用
・ 本発明の内視鏡装置の撮像方式は、高精細な拡大撮像が可能になるのと、ライン走査の繰返し時間が露光時間となるため、フレーム露光のイメージセンサーと比べて露光時間が短く、ライン間で画像のブレが起きない。これを利用して、ライン4方向のOCI処理を2回繰返して、画像同士の差分を取る(すなわち、互いに隣り合う複数の一次元方向の走査線の信号の差分を取得し累積する)と、動きのある血液のみの画像を抽出することができる。このようにして得た画像を、複数回に渡って重畳的に累積すれば、造影剤なしにコントラストの高い血管画像を細部にわたって描出することができる。前述したようにOCTに比べて感度の余裕が充分にあるため、ライン4方向の繰り返し処理の高速化が可能であって、累積を行なうために繰り返し処理の回数を増やしても、フレームレートを落とさずに高精細な血管画像を描出することが可能である。
この検出方法に血管と表層粘膜の反射率の差が大きくなるNBI(Narrow Band Imaging)処理を併用すれば、血管画像の描出効果を更に上げることができる。また、生体透過率の高い近赤外線を照明に使用すれば、1-1.項で述べたように深部の血管構造の透過象を描出することが可能になる。
・ 本発明の内視鏡装置は、受光信号を光ファイバーによって撮像部外に取り出して、干渉や分光などの光処理を行うことが可能なため、実施例の4-5.項で述べるように、高精細の撮像と同時に、物質を特定するスペクトル解析を画素レベルで行なうことができる。具体的にいうと、多変量解析のために大量のマルチスペクトルデータをin vivoにて取得することができる。そして、オフラインのコンピュータによって、その大量のマルチスペクトルデータの多変量解析を行って特定する物質ごとに最適なスペクトル成分軸を抽出しておいて、そのスペクトル成分軸へ射影するためのマトリクス変換係数を本発明の内視鏡装置に記憶させ、特定する物質ごとにその係数切り換えて使用することで、精度の良いリアルタイムな物質特定を画素レベルで行うことが可能である。
2.撮像部の実施例
・ 本発明の内視鏡装置の先端撮像部の実施例を図3-1に示す。
光ファイバー11の端面51から放出された照明光を、光学系12とミラー13によって被写体上にライン15状に収束させ、このライン15からの反射光を、同じミラー13と光学系12を経て光ファイバー11の端面に結像させ、撮像部外へ光信号として取り出す。その際に、図3-1の紙面と垂直方向(走査方向)の解像度を得るために、ライン15上のどの位置においても、紙面と垂直方向の解像度(NA)が一定になるように、光学系12の紙面と垂直方向の開口を、ライン15上の収束位置が光ファイバー11の端面51から遠くなるにつれて、漸次大きくなるようにしてある。そして、ライン15の方向については、ライン15上に、斜めに、かつ、均一に照明が当たるように、光学系12とミラー13によって適切な拡散度が設定されている。ゆえに、光学系12はシリンドリカル的な自由曲面レンズとなる。なお、図3−1において、参照符号18は回転走査軸、525は軸受、527は鏡枠、529は磁石、531は電動コイル、533はコイル状バネを示す。
図3-1においては、照明の原理を説明するために、ミラー13と光学系12を分けて説明してあるが、自由曲面プリズムとして一体成型することが望ましい。それにより先端構造を小型化し、製造工程の削減と光学的な精度を高めることができる。また、自由曲面プリズムとGRINレンズ(Graded-Index Lenses)を組み合わせてもよい。また、光学系12は、オートフォーカスやズーム機構を組み合わせてもよい。
・ また、光学系12と光ファイバー11の端面51の距離を外部から可変することで、光学系2の焦点距離と開口角を変更することができるため、通常の撮像から顕微鏡観察までの可変を可能にすることができる。このときのライン15方向の解像度は、ファイバー端面の開口をピンホールで調整して光学的な限界(分解能の限界)に近づけておく。
・ 図3-1の実施例における走査機構16は、ライン15を紙面と垂直な方向に30Hzで往復走査するマイクロガルバノモーター(マイクロガルバノスキャナまたは、60Hzで回転走査するマイクロモーター)と光学系12とミラー13で構成されている。ガルバノモーターの場合、30Hzという低周波で往復走査をさせるため、非共振型が使用される。前述した血管造影の際に、ライン画像の累積加算を行うために、走査速度を可変する必要があり、そのためにも非共振型のほうがよい。
・ 図3-2(a)に、走査機構16にMEMSミラー131を使用して先端部を小型化した例を示す。この実施例の場合、回転走査軸18がライン15に対して傾くため、図3-2(b)に示すように走査エリアSAが扇状となる。複数ラインメモリと補間回路を使用して、TV走査に走査変換を行って表示を行う。なお、図3−2中の参照符号121は光学系、r1、r2は回転走査半径、Sは被写体を示し、図3−3中の参照符号124は光学系、18は回転走査軸、Fは焦点可変方向、Iは撮像範囲可変方向を示す。
・ 図3-3に、内視鏡装置に本発明の撮像装置を組み込んだときの実施例を示す。光学系に合焦とズームの機構をもたせることで、撮像の位置と範囲を変更することが可能になる。扇上の画像は、複数ラインメモリと補間回路を使用して、TV走査に走査変換を行って表示を行う。
・ ライン15の紙面と垂直な方向における解像度(図4の(3)参照。)は、光学系12のPSF(Point Spread Function)(図4の(1)参照。)とライン15上に投影された光ファイバー11の端面51(開口)のPSF(投影像の光強度分布:図4の(2)参照。)との畳み込み積分になるため、光ファイバー11の端面51にスリットやピンホールを設置して点光源性を高めることで、解像度を光学系12のPSFに近づけることが出来る。図4に示されるように、幅Wが広くなるので、総合の解像度が落ちる。ただし、感度やパーシャルコヒーレンス化とのトレードオフがあるため、目的に応じて、光学系12と光ファイバー11の端面51の開口形状を適宜設定する。
・ また、照明と受光の総合的な解像度(もしくは焦点深度)は、紙面と垂直の方向においては、図5に示すように、照明のPSF(もしくは照明の焦点深度)(1)と受光のPSF(もしくは受光の焦点深度)(2)の掛け合わせとなる。ようするに、光学系12のPSF(もしくは焦点深度)の自乗となる。ゆえに、図5(3)の幅W5が1/1.4になり、カメラ撮像に比べて解像度は約1.4倍になり、焦点深度は1/1.4になる。このとき、周辺サイドローブ(SL)が大きく抑えられるため、解像感は向上する。そして、この解像度δは、矩形開口と円形開口の違いはあるが、δ=0.37×λ/NA(=sinα)という式で近似することができる。焦点深度γも同じく自乗となるため浅くなり、γ=0.565×λc/sin2(α/2)という式で近似することができる。
・ ライン15方向の解像度は、マイケルソン干渉法の原理を応用したOCI処理によって解像度を得る。図6-1に示すように、広帯域光源21の照明光が、光ファイバーの分岐カプラ22に入力される。分岐カプラ22によって2つに分けられ、照明光の1つは、光サーキュレータ23を通じて反射板24によって参照光25が得られる。もう一方の照明光は、光サーキュレータ26によって、図3で示した撮像部の光ファイバー11に導かれ、被写体表面を斜めから照明する。斜め方向から照明するため、図3-1に示したライン15からの反射光は、光ファイバー11の端面からライン15上の各反射点までの往復距離の違いに比例して(ライン15上の反射点が離れるに従い)位相がずれ、それらが重畳された信号として光ファイバー11で受光される。このように重畳された反射光が、サーキュレータ26を経て、干渉カプラ27によって参照光25と干渉させられる。干渉が行われると、位相ずれに比例した周波数で干渉縞が発生し、それらが重畳された信号へと変る。干渉縞の周波数は、反射板24より光路長が遠い反射点ほど高い周波数となる。
次に、干渉カプラ27の出力光は、グレーティング分光器28で波長成分に分光され、受光ラインディテクタ29によって時系列の電気信号へと変換される。電気信号に変換されることで、光の波長(周波数)のキャリアが消え、反射光の包絡線である干渉縞が重畳された電気信号へと変わる。次に、FFT 30によって、この電気信号についてフーリエ変換が行われる。上記したように、ライン上15の各反射点の位置に比例した周波数の干渉縞が重畳されているため、FFT30 によって周波数成分に変換すると、周波数成分軸がライン15上の各反射点の位置に対応することになり、各周波数成分の振幅軸がライン15上の各反射点における反射率に対応することになる。結果として、図6-1の右下の図に示すように、ライン15上の画像が検出されたことになる。
・ 次に、広帯域光源21の代わりに、広帯域の波長掃引光源31を使用したときのOCI処理を図6-2に示す。図6-2の右上の図に示すように、波長掃引光源31によって1ラインの繰り返し走査時間内に照明光の波長が直線的に変調され、分岐カプラ32に入力される。また、分岐カプラ33からの出力光は、受光ディテクタ34によって電気信号に変換される。その他の処理は、図6-1に示した広帯域光源方式のOCI処理と同じである。波長掃引光源を使用すると、図6-1に示したグレーティング分光器28や受光ラインディテクタ29が必要なくなり、波長帯域の受光に最適な受光ディテクタ34を使用することができる。ただし、可視光のような広帯域の波長掃引光源を用意するには複数の波長掃引光源を使用して合成するなど、波長掃引光源の構造が複雑化することが想定される。そのため、採択する方式におけるメリットとデメリットがあるため、後述するマルチスペクトル解析などの用途も含めて、目的に応じた光源方式とOCI処理の選択および組合せを適宜行う。
・ 上述した照明光源である広帯域光源21(図6−1参照。)および波長掃引光源31(図6−2参照。)の波長帯域幅を広くすると、それに比例して干渉縞の周数帯域が広くなり、FFT30によるフーリエ変換後の周波数成分の帯域が増えるので(ライン15方向の画素数に対応する周波数成分の数が増えるので)、ライン15方向の解像度が上がる。図3-1の反射点17におけるライン15方向の解像度σは、光ファイバー11の端面51を点光源とみなして、波長帯域の形状がガウス状の場合、σ=〔0.44・(λc)/Δλ〕/sinθで表される。Δλは、波長の帯域幅を示し、λcは、その中心波長を示す。θは、反射点17において照明光の波面の進行方向とライン15がなす角度である。実際の解像度は、σと光ファイバー11の端面51のPSFの畳み込み積分となる。
・ また、OCI処理の感度は、波長掃引時間(=走査の繰返し時間)が長くなるほど、波長成分の単位時間当たりの波数が増えるため(または、受光ディテクタの出力が大きくなるため)、FFTによるフーリエ変換後の周波数成分の振幅が大きくなり、感度が上がることになる。
・ OCI処理は、OCTのように生体内の断層像を得るために指数関数的に大きく減衰した生体内部の反射光を検出する処理ではなく、減衰が無い被写体表面からの反射光を検出するため、OCTに比べると感度的な余裕がはるかに大きい。そのため、光ファイバー11の端面51(図3−1参照。)にスリットやピンホールを設置して図1の紙面と垂直の方向の解像度を上げたり、繰返し周波数を上げて走査方向のライン数を増やしたりすることがOCTに比べると容易である。
3.撮像部の小型化と高精細化の数値的な検証
・ 撮像部の小型化と高精細化の可能性について、数値的な検証を以下に述べる。
細径内視鏡の径寸法を決定する要素の一つとして、走査機構の大きさが懸念されるが、近年の微細加工の進歩により、0.9mmφのマイクロモーター(OCT用)や、ガルバノモーター、ボイスコイル、MEMSミラーなどが概に存在し、更なる小型化が進んでいる状況をみると、細径化におけるクリティカルな要素は、細径内視鏡の用途に応じた解像度とワークディスタンス(焦点距離)から決まる光学系の開口寸法になる。用途に即した光学系の開口寸法を以下に説明する。
・ いま、本発明の実施形態における内視鏡装置1において、ライン15と直角方向における解像度20μmが得られ、OCI処理によるライン15方向において、解像度が、平均(θ=45度のライン中央の解像度)20μmが得られるとき、標本化定理に従うと、20×10mmの被写体領域において、画素数2000×1000のHD撮像が可能になる。また、40×20mmの被写体領域については、画素数4000×2000の4K撮像が可能になる。この20μmの解像度に必要とされる光学系の開口角を求め、細径内視鏡の径で制限される光学系の開口寸法から、その開口角における焦点距離(ワークディスタンス)と焦点深度の値が内視鏡装置に適用可能であるか否かの検証を行う。
・ いま、図3−1の紙面と垂直な方向の光ファイバー11の開口を、スリットを使用して6μmに狭め、光学系12の解像度を14μmに設定すると、図3−1の紙面と垂直な方向の解像度は、それぞれのPSFの畳込み積分となるため、約20μmが得られる。そして、このときの照明(照明光)と受光における総合の解像度δは、δ=0.37×λ/NA(=sinα)という式で近似できる(円形と矩形の開口の違いを近似する)ため、光学系12の解像度14μmを実現するには、中心波長λを550nmとすると、開口角αは0.83度が必要になる。この開口角0.83度を踏まえて以下の検証を行う。
3-1.1.5mmφのHD内視鏡の検証
・ いま、1.5mmφの細径を有する内視鏡301では、図3-1の自由曲面光学系12の開口が最も大きい部分の寸法は、1mmまでが許されるので、焦点距離が最も長い部分(図3−1のa+b)の値は、開口角が0.83度のとき35mmとなる。焦点深度γは、γ=0.565・λc/sin2(α/2)の式から5.9mmとなるが、画面の中央に焦点が合うように撮像の位置と方向を定めて回転走査を行なったとき、走査方向の画面の端が焦点位置からずれる量は0.35mmであるため、被写界深度の範囲に収まる。
・ この焦点距離35mmは、図7〜10に示すように、親内視鏡307の鉗子口303(2〜3mmφ)を通じて細径内視鏡301を使用する場合、ワークディスタンス(位置決めや、治療機器を使用するうえでの空間)上の問題はない。内視鏡301の通常観察でモニタリングしながら、鉗子口303を通じて本実施例の細径内視鏡301を拡大観察したい部分に、図7〜10に示すように、向けることで、20×10mmの領域についてHD画像による拡大観察が可能になる。なお、図中の符号305は、可撓部を示す。
・ ワークディスタンスを2倍の70mmにするときは、光学系の開口角を0.4度にして、被写体上の解像度を40μにすれば、40×20mmの領域についてHD画像による拡大観察が可能になる。
3-2.2mmφの4K内視鏡の検証
・ 次に、2mmφの細径内視鏡に4K画像を適用する場合の例について説明する。光学系の開口を1.5mmとし、開口角を同じく0.83度としたとき、その焦点距離fは52mmとなり、40×20mmの被写体領域において4Kの撮像が可能になる。焦点深度は、開口角が同じなので5.9mmとなる。画像の中央に焦点を合わせて回転走査を行なうとき、走査方向の画面の端が焦点位置からずれる量は1.0mmとなるため、被写界深度5.9mmの範囲内に収まる。
3-3. 4mmφの8K内視鏡の検証
・ 次に、腹腔鏡のように径寸法に余裕がある内視鏡に適用する場合の実施例について説明する。いま、4mmφの腹腔鏡において、光学系の開口を3mmとし、開口角を同じく0.83度としたとき、その焦点距離fは104mmとなり、80×40mmの被写体領域において8Kの撮像が可能になる。焦点深度は、開口角が同じなので5.9mmとなる。画像の中央に焦点を合わせて回転走査を行なうとき、走査方向の画面の端が焦点位置からずれる量は2.0mmとなるため、被写界深度5.9mmの範囲内に収まる。
この焦点距離104mmは、親内視鏡の鉗子口(2〜3mmφ)を通じて細径内視鏡を使用する場合、ワークディスタンス(位置決めや、治療機器を使用するうえでの空間)上での問題は起きない。
以上に、内視鏡の撮像部の小型化と高精細化について適用例をいくつか挙げ、数値的な検証を示したが、他にも内視鏡の用途に応じた適用例が多数考えられることは言うまでもない。また、上記の3-1〜3-3、および、後述する3-7に示した適用例は、オートフォーカス、絞り、ズームなどの光学機構と組み合わせることで、一つの内視鏡で実現することが可能であり、用途に応じて解像度、焦点距離、撮像範囲を可変設定することが可能になる。
3-4. OCI処理の繰返し周波数
本実施例の撮像方式の走査方向における画素数は、光学系の解像度だけで決まらず、走査の際に行うOCI処理の繰返し周波数によって制限される。繰返し周波数は、感度とのトレードオフで決まる。現在のOCTの繰返し周波数は100kHz程度が上限となっているが、本発明をHD画像に適用する場合、HD画像の水平走査周波数は67.5kHzなので繰返し周波数による制限は起きない。4K画像の場合は、水平走査周波数が135kHzとなるが、前述したように、OCI処理は、OCTに比べて感度の余裕が十分にあるため、繰返し周波数を135kHzに上げることが十分可能である。
3-5.細径内視鏡の合焦
以上に述べた実施例は高精細な拡大撮像ため、全画面に焦点を合わせようとすると、撮像部の3次元位置(x、y、z)と撮像方向(Xθ、Yθ)のアライメントが難しくなる。以下にアライメントの方法を述べる。
・ 図3−2の光ファイバー11の端面51を回転走査軸18の方向に往復走査させたり、撮像部と被写体Sまでの距離を往復走査で変えたりすることで焦点距離を可変させ、この焦点距離の可変を行ないながら、画面内3箇所以上における走査方向のラインブロックについてハイパスフィルターによる高周波成分のピーク値を検出する。そのピークの位置が3箇所の合焦位置となるため、その3箇所のピーク位置のデータから、被写体面に対する撮像部の最適な3次元位置(x、y、z)と撮像方向(xθ、yθ)を算出することが出来る。このx、y、z、xθ、yθのデータから、合焦を行なう操作のナビゲーション情報をモニタ上に表示することが出来る。または、細径内視鏡の可撓部をロボットマニュピュレータと同様な構造にすれば、被写体Sに対する撮像部のアライメントを自動で行うことが可能になり、また、被写体Sのゆるい動きに対して合焦のトラッキングが可能になる。
3-6.細径内視鏡のブレ補正
高精細な拡大撮像を行うと、観察上、微小な振動による解像度の劣化(ボケ)が問題になる。本発明の内視鏡装置の撮像方式は、イメージセンサーのようにフレームの繰返し時間での露光ではなく、ラインの繰返し走査時間での露光であるため、振動のような微小で速い動きを検出して補正することが可能である。以下にブレを補正する手段を述べる。
・ 図11に示すように、画像が8×8程度の画素のブロック41に分割され、ブロックごとに、フレームメモリ551に蓄積した前フレームとの2次元相関が2次元相関器43で行われる。前フレームの2次元相関を行なう範囲のブロック42は、ブレの範囲を想定して予め設定されている。現フレームの8×8画素のブロック41は、画面351内におけるブレが一様でない状況(被写体の部分的な動きや撮像部の動きによる一様でないブレ)を考慮して、その画素数や必要数がフレーム内に設定されている。
この2次元相関器43により、ブロック41のブレの動ベクトルが検出され、画面351内における縦のブロック数だけ用意された複数ラインメモリ44に記憶される。次に、前フレームの画素ごとに動ベクトルを算出するために、注目画素周辺の動ベクトルが複数ラインメモリ44から読み出され、補間回路45によって補間が行われ、画素ごとの動ベクトルが算出され、所定の読み出しアドレスが付与され(49)複数ラインメモリ44内に保存される。この動ベクトルから、ブレによって画素が移動した位置に対応した輝度値が、現フレームの周辺画素から補間回路46によって算出され、前フレームの画素の位置に戻して表示がなされることで、ブレの無い画像が生成される。これにより、被写体の追尾(トラッキング)も可能になる。
3-7.細径内視鏡による顕微鏡観察
次に、本発明の内視鏡装置による顕微鏡的な拡大観察について実施例を説明する。
・ 3×2mmの小領域をHD画像で撮像する実施例について、図12-1、12-2、13、14を用いて説明する。図12は、顕微鏡的な拡大観察が可能な2mmφ細径内視鏡の構成を示している。自由曲面光学系52とミラー53を使用して、照明および受光の光路を撮像部56内で折り返すことで、収束ライン55が細径内視鏡の外周径に近くなるように設定されている。図12-1では、照明の原理を示すために、ミラー53と光学系52を分けて説明しているが、自由曲面プリズムとして一体成型加工が可能である。それにより先端構造を更に小型化できる。また、図12-2に示すように、自由曲面プリズム521とGRINレンズ523を組み合わせても良い。
・ この構造により、図13、14に示すように、被写体に接触させて撮像することが可能になり、全画面に渡って焦点を合わせることが可能になる。また、顕微鏡的な拡大撮像でもブレの無い観察が可能になる。ブレが生じたとしても、3-6.項に示したブレ補正で取り除くことができる。被写体に押し付けたときの走査角が120度のとき、被写体に接触している円周長が2mmになるので、3×2mmの撮像領域を検出することが可能になる。図13中の参照符号301は2mmφ細径内視鏡であり、305aはばね状の可撓部であり、305bはワイヤー制御の可撓部を示す。図14中の参照符号301は2mmφ細径内視鏡であり、341は表層粘膜であり、343は2mmの接触部分、βは120度の走査角を示す。
前述したように、OCI処理は感度に余裕があるため、光ファイバーの端面に2μmのスリットを設置し、光学系52(図12-1参照。)の紙面と垂直な方向の平均解像度を2μmにすると、図14の紙面と垂直方向の解像度は、畳み込み積分により約2μmとなる。ライン55(図12-1参照。)方向の解像度は、照明光が可視光帯域(λc=550nm、Δλ=250nm)の場合、光学系の解像度が2μmになるが、光学系の解像度とピンホールの開口との畳み込み積分によって総合的な解像度が4μmとなるので、3×2mmの小領域を1500×1000の画素数を以って撮像することが可能になる。このときの光学系52の解像度を2μmにするには、光学系52の紙面(図12-1参照。)と垂直方向の開口角を5.8度に設定する必要がある。図12-1の光学系52の紙面と垂直方向の開口が一番大きい部分の寸法を1.5mmにすると、焦点距離は7.4mmとなり、図12-1に示される構成における焦点距離a+b(7.4mm)と一致させることができる。
4.本発明の内視鏡装置によるスペクトル解析
次に、本発明の内視鏡装置を活用したスペクトル解析について説明する。先ず、(4-1.)光のスペクトルに対する人の目の認識能力からマルチスペクトル解析の有意性を述べ、次に、(4-2.)生体の反射スペクトルの性質と応用の可能性を述べ、次に(4-3.)マルチスペクトル解析を診断に応用するときの課題を述べ、最後に、(4-4.)本発明の内視鏡装置によるマルチスペクトル解析の実施例を述べる。
4-1. マルチスペクトル解析の有意性
・ 大脳皮質の70%が視覚機能に関わっており、目と脳が一体となって動くことで人の視覚機能は高い能力を発揮する。例えば、人の目の高精細視野(中心窩)は、わずか2度の範囲しかなく、それ以外の視野は外側にいくに従い急速に解像度が落ちる。眼球が注視する部分を高速に走査し、得た像を脳内で合成することで、あたかも、視野全体を高精細に観察しているように捉えている。その際、2度の高精細視野の平均輝度に応じて瞳孔を高速に調整することで、視野全体にわたって高ダイナミックレンジの画像を得ている。人の視覚機能は既存の撮像装置に比べると、解像度とダイナミックレンジがはるかに高く、また、被写体の形態やテクスチャー、被写体の動きを認識するうえで、高い能力を持っている。まさに、人の視覚機能は視ると覚るが一体となった機能である。
・ ところが、光のスペクトルについて、人の視覚は、X、Y、Zの3原色の分解能しか持たず、光のスペクトル成分を認識して物質を特定するというような能力は決して高くない。被写体の分光特性を主成分分析してみると、XYZ軸の累積寄与率が高く、ウィナー推定で分光特性をある程度再現ができるが、様々な組成や物質を特定するには、急激に変化するスペクトル成分(例えば、赤外分光やラマン分光の輝線スペクトル)を検知しなくてはならない。人の目の進化の過程はXYZ軸の分解能でよかったのであろうが、現代では、撮像と同時に被写体の組成を特定するリモートセンシングのニーズが、医療などを筆頭に高く、その手段の一つとして人の色覚を超えるマルチスペクトル解析が期待される。
マルチスペクトル解析によって、特定する物質ごとに最適なスペクトル成分軸を抽出し、それで検出した情報を、人の視覚が認識できる色やテクスチャーの情報に変換して提供することで、診断などを支援することができる。その際のマルチスペクトル解析は可視光帯に留まらず、人の目に見えない赤外やテラヘルツ領域を含めた解析が必要になる。
・ 上述したように、人の視覚機能は、脳と目が一体となって高い能力が発揮されるわけであるが、AI(人工知能)が人の脳に比べて得意とする部分があり、それをマルチスペクトル解析に有効活用することで、物質の識別力を高めることができる。AIは、多種・大量のデータを短時間で学習し、多種・大量のデータを用いて短時間で判断することが人より得意である。その主な理由は、AIは疲れが無く電気のスピードで昼夜を問わず短時間で学習することが可能であって、また、学習した結果を忘れることが無いため(もっとも、忘却は人の脳をデバックする重要な手段といわれているが)、適用する場と範囲を狭めれば、多種・大量のデータを使用した学習や解析や判断において人に優るケースが多くなる。
4-5.項のマルチスペクトル解析の実施例で述べるように、大量データの学習と識別が必要になるマルチスペクトル解析において、AIを有効活用することで、物質の識別能力を向上させることができる。撮像装置は、人の目に近い高精細・高ダイナミックレンジを目指すのと同時に、人の目を超えるスペクトル解析をAIと一体となって実現することで、新たな有用性が開かれる。
4-2.生体の反射スペクトルの特性と応用の可能性
次に、生体の反射スペクトルの特性と応用の可能性について述べる。
・ 反射光のスペクトル成分は、反射と吸収によって形成される。生体組織は、粒状や層状や繊維状の組織によって屈折率が不均一に分布しているため、生体内に入った光は、反射と回折が重畳的に繰返され、その際の後方散乱が反射光となる。レイリー散乱が、それの主なものである。
波長に対して粒状径が十分小さい場合、波長の4乗に反比例してレイリー散乱が強くなる。これらの要因でレイリー散乱のスペクトル成分は変化するが、生体組織の屈折率分布は、組織の種類(例えば、癌や正常組織)と相関性が高いとはいえず、照明の方向が変ってもスペクトル成分が変化するため、レイリー散乱のスペクトル成分は、被写体物質を特定するうえで安定性がよくない(定量性がよくない)。レイリー散乱は、その後方散乱を検出することで、被写体の形状やテクスチャーの撮像に活用される。人の視覚脳が、長年培ったの学習知識によって、この不安定な情報をカバーし、意識することなく被写体の形状やテクスチャーの高度な認識を行なっている。
・ ところが、可視光帯の光は、生体内で散乱を繰り返す中で、光の電場の振動によって生体有機分子中の電子分布を共鳴振動させてエネルギーを励起するため、一部のスペクトルが吸収される。また、そのエネルギーの一部が分子振動に変わり、残りのエネルギーが、波長シフトが起きた蛍光(自発蛍光)として放出される。これにより反射スペクトルの成分比が変わる。これらの変化は、有機分子の構造を強く反映していて、物質を特定するうえで安定性とSNが高い。ただし、生体からの反射光は、吸収スペクトルに不安定なレイリー散乱が背景光として加わるため、結果的に物質を特定するうえで安定性とSNが高くならず、過去、積極的に利用されて来ていない。
・ 人の目のXYZ特性のように帯域幅が広いと、照明や観察条件によって変化するレイリー散乱の不安定なスペクトルがある程度均一化され、色としての安定度とSN比が向上する。人の目のスペクトル分解能が低い理由の一つにもなっていると考えられる。
後述するように、多変量解析によって特定する物質ごとに検出帯域の最適化を行い、それにAIによる識別を組み合わせると、レイリー散乱の背景光が抑えられ、物質を特定するうえで安定度と精度の向上が図れる。
・ 可視光を吸収してスペクトル成分を変化させる生体物質は、コラーゲン(吸収して自家蛍光を発する)、酸素飽和濃度が異なる血液ヘモグロビンや、メラニン色素、血液中に含まれる成分、例えばグルコースなどと多数あるが、これらの吸収スペクトル成分をマルチスペクトル解析することによって組織の性状を特定できる可能性がある。
癌は組織が乱れていてコラーゲンよる吸収や蛍光が少ない、増殖の旺盛さから酸素飽和濃度が異なるといわれている。また、癌などの組織に取り付いて可視光帯の吸収や蛍光を強く示す色素(プローブ)が数多く開発されており、その色素によるスペクトル変化をマルチスペクトル解析によって効率よく表現することで、精度の高い組織の識別を行なうことができる。
例えば、組織を染色するICG(インドシアニングリーン)色素は、可視光よりも近赤外の帯域のほうが、吸収が強く起きるため、多変量解析による最適な帯域を検出してカラー表示することで、弱毒性のあるICGの使用量を抑えて、精度の高い物質の特定や染色を可能にすることができる。
・ 中赤外から遠赤外の光は、可視光に比べて波長が長いので散乱が少なく透過しやすいが、透過する途中で共振周波数の低い分子振動やスピンを励起することで強い吸収が起き、実際の透過率が落ちる。特に、生体に多く含まれる水やヘモグロビンの吸収が大きいため、透過率が落ちる。ただし、有機分子への吸収が強い分、有機物質を特定するうえでスペクトルの安定性が高い。指紋領域といわれる帯域があって、赤外分光法が確立されている。
ただし、赤外分光は、薄い被検体を透過させる顕微鏡などの検出に向いており、in vivoの検出に用いられる反射方式になると、可視光帯と同じくレイリー散乱が混合され、物質を特定するうえで安定性とSNがさほど高くならない。
・ 近赤外領域も同じ状況であるが、散乱や電子や分子のエネルギー励起による吸収が、ヘモグロビンや水において、ともに少ない谷間の波長領域(生体透過の窓)があり、OCTによる断層像検出や血液の酸素飽和濃度の検出、ICG(インドシアニングリーン)の蛍光を使った血管検出などと、様々な応用がなされている。
・ また、前述したように、特定の生体分子に、特定の色素が強く結合する性質(プローブ)を利用した染色や蛍光、特定の酵素と反応して発色する基質を用いた染色や蛍光がある。染色は吸収スペクトルによるもので、反射光にはレイリー散乱光が混じるが、吸収が強いため安定性とSNが高い。蛍光は、励起光によって分子のエネルギーが励起され、励起光の一部が分子間振動として吸収され、残りのエネルギーが光として放出される。その吸収エネルギーの分の波長シフトが起き、これを利用して分光フィルタによって励起光のレイリー散乱を除去することができる。
蛍光は、微弱であるが、後述するラマン散乱光に比べるとずっと大きく、物質を特定するための安定性とSNが高い。反射方式の検出に適した分光法である。前述したICG(インドシアニングリーン)や5-ALA、BBG、トリアムシノロンアセトニド、フルオレセインなど、染色や蛍光色素が数多くあり、また、癌に取り付く蛍光プローブや、近赤外線を当てると取り付いた癌が死滅する光線力学療法を蛍光プローブに加えたものや、光線力学療法で死滅した癌の残骸に対する免疫効果で転位した癌を死滅させる光免疫療法を加えたものなど、様々な新しい試薬の開発が進められている。
・ その他にも、励起光に比べると信号エネルギーが極めて小さい(10−6)が、ラマン効果による光の吸収と放出が起きる。これは、光が分子によって散乱される際に、その光子のエネルギーの一部が分子の振動エネルギー(回転/電子エネルギーのこともある)に奪われたり、分子の振動エネルギーが光波のエネルギーに加算されたりすることで起きる。加減算される分のエネルギーの量は、エネルギー準位により一定となるため、励起光の波長に関係なく、励起光から一定の波数シフト(ストークスシフト)したラマンスペクトルが発生する。ラマンスペクトルは、分子構造などを特定するラマン分光法として顕微鏡などで活用されている。ラマンスペクトルは、励起光からシフトした分、波長が異なるため、分光フィルタによって励起光のレイリー散乱を除去することができ、反射方式の検出に適した分光法である。ただし、信号エネルギーが極めて小さいため、完像時間などが犠牲になる。
4-3. マルチスペクトルから生体物質を特定する手段
・ 4-2.項で述べたように、可視光から赤外に渡って、生体からの反射スペクトルは、レイリー散乱を除去できる蛍光やラマン光を除いて、電子や分子の吸収によるスペクトル成分の変化にレイリー散乱が背景光(雑音)として混じるため、物質を特定するうえで、安定性とSNが総じて高くない。ゆえに、スペクトル解析には統計的な手法や曖昧判定の手法が必要になる。
スペクトル成分の大量データを取得して、スペクトル成分を多次元直交軸とした空間で多変量解析を行ってみると、例えば、正常細胞と癌細胞のクラスタを切り分けて認識できるケースが多いことが分かっている。そこで、スペクトル成分を独立変量とした多変量解析によって、識別に最適なスペクトル成分軸を抽出し、そのスペクトル成分軸上に形成されるクラスタの識別を、更に、非線形な切り分けと曖昧判定が得意なAI(Deep Learning)によって識別することで、物質特定の精度を向上させることが可能である。
4-4.マルチスペクトル解析を行なう手順と必要な機能
以上の背景を踏まえ、本発明の内視鏡装置によって、マルチスペクトル解析を行う際の手順を以下に説明する。
・ 先ず、多変量解析を行うために、目的物質の特定に必要なマルチスペクトルデータを、本発明の内視鏡装置によって出来るだけ数多く取得し、確定診断(病理検査など)と整合したタグや正規化のための(クラスタの分散を小さくするための)前処理に必要な情報を付加して蓄積を行う。
・ 次に、オフラインのコンピュータによって、蓄積した大量のマルチスペクトルデータの前処理を行った後に、多変量解析を行い、目的物質の特定に最適なスペクトル成分軸を算出し、絞り込む。寄与率の高い順に軸が算出されるので、データ圧縮と同様、寄与率の高い軸を絞り込む。
・ 次に、絞り込んだスペクトル成分軸へマルチスペクトルデータの射影変換を行い、そのデータを使用して、二つのクラスタの識別をコンピュータ上でAIに学習(教師あり)させる。AIは、本発明の内視鏡装置に内装してあるのと同じ構成である。
・ 次に、コンピュータによって絞り込んだスペクトル成分軸の成分値(基底ベクトルの成分値)と、AIが学習した知識データ(AIを構成する階層型ニューラルネットワークのニューロンの係数)を、本発明の内視鏡装置に送って記憶させる。
多変量解析によって絞り込んだスペクトル成分軸の数は、多くても5〜6になるので、本発明の内視鏡装置の回路規模が簡素化され、また、AIの規模を小さくすることができる。AIの判定スピードが向上し、物質特定をin vivoにてリアルタイムに行なうことが可能になる。
・ 以上から、本発明の内視鏡装置は、マルチスペクトルデータをin vivoで多数取得して蓄積できる機能と、多変量解析によって決定したスペクトル成分をin vivoにて検出し、リアルタイムに物質特定を行なえる2つの機能を併せ持つことが必要になる。この2つの機能の実施例を4-5.項で説明する。
4-5.RGB画像の生成とマルチスペクトル解析の実施例
本発明の内視鏡装置によって、RGB画像を生成する実施例と、上述のマルチスペクトル解析の手順についての実施例を、図15-1、15-2、16、17を用いて説明する。
・ 最初に、RGB画像を生成する実施例について説明する。図15-1に示す受光ラインディテクタ67の出力はFFT61に入力され、図16に示す可視光帯域80についてのフーリエ変換が行われ、図16に示すW信号81が生成される。生体表面からある程度深い部分を描出する場合は、図16に示した生体透過性のよい近赤外領域85を含めた範囲についてフーリエ変換を行い、W信号81として生成する。
・ 並行して、FFT62によって、図16に示すR帯域のフーリエ変換が先ず行われ、R信号82が生成される。R信号82は、図15-1に示す補間メモリ部63によって画素の補間が行われ、W信号81と時間軸(画素位置)の同期がなされる。続いて、図15-1に示すFFT62によって、図16に示すB帯域のフーリエ変換が行なわれ、B信号83が生成される。B信号83も同じく図15-1に示す補間メモリ部64によって画素の補間が行われ、W信号81と画素位置の同期がなされる。
・ 次に、これらのW、R、Bの信号をマトリクス変換器65でマトリクス変換を行い、RGBの映像信号が生成される。
・ R信号82とB信号83の解像度は、波長帯域幅と中心波長が変わるのとサンプル数が変るため、W信号81に比べてB信号83とR信号82は約1/3となるが、人の目の解像度が同じく1/3であるため、問題は生じない。
・ このように、波長帯域が図16に示されるように、3分の1に分割され、分割されたR 帯域とB帯域に対応した範囲のフーリエ変換を行うことで、R信号82とB信号83を生成することができる。その原理は、広帯域光源は、R、G、Bと赤外を含めて、波長帯域を分割した複数の光源の線形和から成り立っていると考えることができ、照明、反射、参照光との干渉、分光、フーリエ変換の各信号処理のすべてが、線形処理であるため、線形な系における重ね合わせの原理から、受光ラインディテクタ67の出力のRやBの帯域に相当する部分の時系列信号を抜き出して、フーリエ変換を行うことで、RやBの単独光源を用いてOCI処理を行ったのと同じ画像が得られることになる。同様な考え方で、図16の参照符号84に示したマルチスペクトルMS1〜MSnや固有スペクトルEU1〜EUnについても、それぞれの帯域の範囲を抜き出してフーリエ変換を行うことで、それぞれのスペクトル軸における画像を得ることができる。
次に、マルチスペクトル解析の手順と実施例について説明する。癌と正常組織とか、血管と表層粘膜のように2つの組織を識別する例を用いて説明する。
・ 最初に、2つの組織の識別に最適なスペクトル成分軸を、可視光帯から遠赤外領域までの広い帯域の中から多変量解析によって見つけるために、図6-1、6-2の広帯域光源21および波長掃引光源31は、可視光帯から遠赤外領域までをカバーできる広帯域光源が用意される。広い帯域を分割し、それに対応した複数の光源、または、複数の波長掃引光源を用意して、それらの出力を光カップラーなどによって合成して広帯域光源を実現してもよい。または、ライン走査ごとに上記の光源を切り換えて照明を行ってもよい。
・ このとき、図3−1〜3−3の光ファイバー11は、可視光から遠赤外までの広い帯域の光を通すために、多結晶型ファイバーなどの広帯域の光ファイバーが使用される。または、波長帯域を分割してそれぞれの帯域に対応した複数のファイバーを俵積みにして使用してもよい。その際は、回転走査によって起きる画像の位置ずれを、複数のラインメモリと画素補間によって補正する。
・ また、図15-1の受光ラインディテクタ67を可視光から遠赤外までの広い波長帯域に対応させるために、図15-2(a)に示すように、その波長帯域を多板分光プリズム91で分割し、その分割した帯域を分光器92、93、94で分光した後に、それぞれの帯域に最適な感度を持つ受光ラインディテクタ95、96、97の出力に適切な係数k1、k2、k3を乗じて合成してもよい。分割した帯域に対応した波長掃引光源を用意できれば、図15-2(a)の分光器92、93、94とラインディテクタ95、96、97は不要になり、分割したそれぞれの波長帯域に感度を持つ受光ディテクタを複数用意して、その出力に適切な係数k1、k2、k3を乗じて合成してもよい。
分割帯域を合成するための倍率調整と感度の補正は、受光ラインディテクタ95、96、97の出力に合わせて、図15-2(b)に示すように、時系列に変化する係数k1、k2、k3を図15-1のコントロール部71内のメモリから読み出し、乗算器98、99、100によって乗じ、加算器301によって加算することで合成および補正を行う。係数k1、k2、k3の値には、照明の分光特性やラインディテクタの受光特性についての補正値が含まれている。これらの値を常時測定、もしくは事前に測定し、k1、k2、k3の値に反映させる。図15-2(b)中において、参照符号601はCMOSラインディテクタ、603はInGaAsラインディテクタ、605はボロメータラインディテクタ、607は合成後の帯域、609は可視光から遠赤外線領域、611は中赤外線領域、613は遠赤外線領域を示す。
・ 多変量解析用のマルチスペクトルデータMS1〜MSn(図16の参照符号84)を取得するには、先ず、モニタに表示されたRGB画像上で取得する部位をマウスなどの入力手段で指定する。指定領域に対応したラインごとのゲート信号76(図15-1参照。)をパーソナルコンピュータによって生成し、コントロール部71に送り、記憶させる。次に、受光ラインディテクタ67の出力であるマルチスペクトルMS1〜MSn84を、図15-1のFFT68 によって、ライン画像に変換してメモリ部69に記憶させる。そして、そのライン画像からコントロール部71 から送られてくるゲート信号76に従って、目的部位についてのマルチスペクトルMS1〜MSn84の画像を抜き出す。
・ 次に、データフォーマット作成部70において、確定診断(病理検査などによる)と整合した癌と正常組織を示すタグ、癌の種類、悪性度、進行度などを示すタグ、照明の分光特性のデータなど前処理に必要な情報を、マルチスペクトルMS1〜MSn84の画像に添付して蓄積する。正常組織についても同様な手順を行う。このように、癌と正常部のマルチスペクトルMS1〜MSn84のデータを、症例ごとに出来るだけ数多く取得して蓄積する。
・ マルチスペクトル解析おいて、スペクトルの分解能とスペクトル画像の解像度は、トレードオフの関係になる。本発明の撮像方式に限らず、如何なる検出方法においても、完像時間を含めてトレードオフの関係が成り立つ。マルチスペクトルの解析を、テクスチャーの強調や輪郭の見極めに応用するのであれば、スペクトル画像の解像度に重きを置き、物質特定の精度に重きを置くのであれば、スペクトルの分解能、ようするに取得するマルチスペクトルの数を増やすことになる。このように、応用目的に応じてマルチスペクトルMS1〜MSnの数と中心波長と各帯域幅を適宜設定する。
多変量解析に使用するマルチスペクトルMS1〜MSnは、帯域幅がなるべく細かく分割されていたほうが良いので、スペクトルの分解能に重きを置くことになるが、画像から目的部位を指定して抜き出すためには、スペクトル画像の解像度がある程度必要になるので、応用目的に応じて設定のバランスをとる。
・ 次に上記によって検出し、蓄積した癌と正常細胞のマルチスペクトルMS1〜MSn84の大量データを、図15-1に記載のないオフラインの外部コンピュータに送り、照明の分光特性や装置の感度、スペクトルの平均輝度などの必要な正規化を行なう。正規化の前処理は、クラスタの分散を抑えて識別精度を上げるために重要である。
・ 次に、正規化を行なったデータを使用して多変量解析を行なう。マルチスペクトル成分を多次元直交軸とした空間に、癌と正常細胞のスペクトルを表示すると、例えば、図17に示すように、癌と正常細胞のスペクトル成分の座標は、2つのクラスタで表される。照明の分光特性や装置の感度などが前処理によって正規化されていれば、クラスタの分散は、主に重畳されているレイリー散乱の不安定さによって生じることになる。その2つのクラスタを切り分けて識別できるように、それぞれのクラスタの分散が最も小さく、クラスタ間の距離が最も大きくなる(フィッシャー・レシオが最も大きくなる)射影空間を直交変換によって求める。図17中、参照符号361は癌のクラスタ、362は正常組織のクラスタと、363は癌のクラスタの射影、364は正常組織のクラスタ群の射影、ZはAIによる非線形な切り分けを示す。
例えば、FS(Foley-Sammon)変換によって射影空間を求めると、フィッシャー・レシオの大きい順に射影軸(固有ベクトル)が算出される。その上位軸への射影や上位軸を組み合わせた平面への射影結果をみて、2つのクラスタを分離して認識できるかどうかの把握を行い、寄与率の大きい上位軸EU1〜EUnを選別する。経験上、EU1〜EUnの数は、応用目的によらず、多くても5〜6以下に絞ることができる。
・ 次に、2つのクラスタをEU1〜EUnの軸に射影し直した大量のデータを使用してコンピュータ上のAI(図15-1のAI75と同じ構成)に、クラスタを識別するための教師あり学習を行わせる。AIは、Deep Learning方式による学習が可能な多階層ニューラルネットワークで構成されている。そして、そこで得た知識データ(ニューロンの係数)を図15-1のAI75のメモリに送って記憶させる。そして、識別の精度向上(ローカルミニマムの排除)とAI75の規模(層数)削減のために、識別目的ごとに学習が行われ、その知識データ(ニューロンの係数)は、コントロール部71からの切換信号77によって、識別目的ごとに切り替えられて使用される。
・ 併せて、EU1〜EUnの基底ベクトル成分を、外部コンピュータからコントロール部71に送り、乗算器73-1〜73-nの係数72-1〜72-nとして、コントロール部71内のメモリに記憶させる。そして、同様の手順を経て、識別目的に対応した係数72-1〜72-nをコントロール部71内のメモリに記憶させる。係数72-1〜72-nの値には、照明光の分光特性のモニタリングなどが常時行われていて、その補正値が含まれている。
・ そして、受光ラインディテクタ67の出力である時系列になったスペクトル成分に合わせて、係数72-1〜72-nをコントロール部71のメモリから読み出し、乗算器73-1〜73-nによって乗じることで、反射スペクトルをEU1〜EUnの軸に射影したスペクトル成分を時系列に発生することができる。その時系列信号をFFT 74-1〜74-nによってフーリエ変換を行うことで、EU1〜EUnについての画像信号をそれぞれ得ることができる。このEU1〜EUnの画像に、癌と正常細胞を識別しやすい疑似カラーを割りあて、表示することで、診断の支援を行ってもよい。
・ または、以上に述べた手順を経て、EU1〜EUnの画像信号を学習済みのAI75に入力し、癌と正常細胞の識別を、画素レベルにて、リアルタイムに実施することが可能になる。そして、AI75で識別した出力信号の発火度に応じて、癌の部分のRGB画像の色相を変えて識別結果を表現したり、癌の輪郭を表示したりするなど、視覚的に識別能力が高い表現へ変換することで効率の良い診断支援を行ってもよい。識別に最適なスペクトル空間に射影したにも拘らず、2つのクラスタが一部重なってしまう場合でも、例えば、AI75の発火度に応じて色相を変えて表現したりすると、色相変化の密度の濃い部分が癌の中心部位の可能性が高いことを観察者は一目で判断することができる。
・ 以上に、癌と正常組織のように2つのクラスタの識別について、スペクトル解析を述べたが、複数のクラスタをAIで一括して識別(等級判別)することも可能である。ただし、多変量解析による特徴軸の絞り込みが複雑化するのと、AIを含めたハードウエアの規模が大きくなる。
そこで、図18の1.に示すように、先ず、検出したスペクトル成分を使用して、画像の領域ごとに正常か癌かの2つのクラスタの識別を行い(スクリーニングを行い)、次に、癌の判定が出た部位について、図18の2.に示すように、2つのクラスタの識別の組合せから癌の種類や悪性度の判定を行い、次に、図18の3.に示すように、2つのクラスタの識別の組合せから進行度合いを判定するというように、2つのクラスタを組み合わせによる識別を順次行なうことで、複数のクラスタの識別が可能にすることができる。識別を順次行なう際に、概に記憶してあるEU1〜EUnに対応する係数66-1〜66-nをコントロール部71から読みだして使用することで、図15-1、15-2の実施例に示した簡素なシステムによって、複数のクラスタの識別が時間の犠牲が少ないまま可能になる。
次に、実際に医療に活用されているスペクトル診断の例に、本発明の撮像方式を適用したときのスペクトル画像の解像度について、数値的な検証を述べる。
・ 例えば、内視鏡のNBI(Narrow Band Imaging)診断の場合、表層粘膜と血管のクラスタを切り分ける有効なスペクトルとして、415nmと540nmの狭帯域のスペクトルが使用されている。FS変換によって、この2つの狭帯域のスペクトルが識別に最適な固有軸を表す帯域として抽出されたとして、本発明の撮像方式によってこのスペクトル画像を検出した場合の解像度を、中心波長λcを415nmと520nmとし、波長帯域幅Δλをそれぞれ40nmとして、フーリエ変換を行って求めると、2.4μmとなり、前述した実施例の検証の際に設定した10μmと比べて解像度的に十分であることが分かる。
・ また、正常粘膜に多く存在するコラーゲンなどの物質が450〜500nmの光を吸収して500〜550nmの自家蛍光を発するが、組織が乱れている癌組織はその吸収と蛍光が起きない。この吸収スペクトルの違いを検出して癌を診断する方法がある。いま、FS変換によると、中心波長λcを475nm、波長帯域幅Δλを50nmのスペクトル成分が識別に最適となり、本発明の撮像方式で、そのスペクトル画像を検出すると、ライン方向の解像度は2.8μmとなり、このスペクトル診断においても解像度的に問題がないことが分かる。
・ また、安定性とSNが高い染色のスペクトル成分について、多変量解析により、効果的なスペクトル成分を抽出して擬似カラー表示することで、より鮮明な染色効果を出すことができる。それにより、ICGのような弱毒性の試薬の使用量を削減することもできる。ICGの場合は、700〜780nmに吸収の大きい帯域があり、FS変換によると、中心波長λcを740nm、波長帯域幅Δλを80nmのスペクトル成分が識別に最適となるため、そのときのライン方向の解像度を計算すると4.3μmとなり、これについても解像度的に問題がないことが分かる。
5.ラマンスペクトル解析の実施例
次に、本発明の内視鏡装置を応用したラマンスペクトル解析の実施例を説明する。
・ ラマンスペクトルは、図19(a)に示すように、励起光の波長によらず励起光の波長から一定の波数だけシフト(ストークスシフト)したところに、被検体の分子構造に対応したスペクトルが出現する。5-2.項で述べたように、ラマン分光は、波数シフトを利用して背景光となる励起光の散乱を光学フィルタで除去できるため、赤外分光と並んで物質を特定するうえで安定した分光法であって、in vivoの反射方式に向いている。
・ ラマン分光の課題は、励起光の強度に対して10−6とラマン分光の強度が小さいことである。ところが、被検体を金などの金属薄膜に接して励起光を当てると、SERS(Surface Enhanced Raman Scattering)効果によって、ラマンスペクトルの放出が大きく増幅される。SERS効果は、金属粒子をナノメーターレベルの大きさと粗さで分布させた金属薄膜に光を当てると、金属粒子間の最も近い先端部に光の電場が集中し、大変強力な電場の振動が起き、表面プラズモン(LSP:Localized Surface Plasmon)が局在的に発生する。その金属粒子に被検体が接すると、光の電場に共鳴して被検体との間で電子相互移動が起き、その際に、被検体からラマンスペクトルの強い増幅放出が起きる。薄膜の粒子の形状と励起光の波長にもよるが、自然放出に対して10〜10程度の増幅が可能になる。金属薄膜と粒子には、電気抵抗(エネルギーロス)の少ない金や銀が共鳴振動を起こしやすく使用される。
・ 3-7.項で説明した接触型の細径内視鏡にSERSを応用したときの実施例を、以下に説明する。図12-1に示すように、細径内視鏡の透明カバー57の外側に、金の薄膜がコーティングされている。この金薄膜の被写体に接する面には、SERS効果が強く出るように、適切な大きさと配列を以って金の微粒子がコーティングされている。金の薄膜が形成される透明カバーは、耐久性や感染防止のために交換できるようになっている。この金薄膜は可視光に対して透明になるような粒子配列がなされている。
・ 図20-1に示すように、照明光源は、RGB画像を得るための可視光帯のRGB光源101と、ラマン光励起のための狭帯域光源(ラマン励起光源)102が使用される。狭帯域光源102は、生体からの自発蛍光(背景光になる)が少なく、RGB画像と分離して処理できる近赤外光が使用される。
・ ラマン光励起にレーザー光源でなく狭帯域光源を使用する理由を次に述べる。励起光がレーザーのように単色光に近くなるとラマンスペクトルは輝線スペクトルに近づき、物質特定の精度が上がる。励起光に帯域幅を持たせると、ラマンスペクトルの線幅は、励起光の波数帯域との畳み込みになるため線幅が広くなる。その結果、スペクトルの分解能、ようするに物質特定の精度が落ちるが、逆にラマンスペクトル自体の帯域が増えるので、スペクトル画像としての解像度が上がる。識別する2つの物質の輝線スペクトルの間が離れていれば、励起光の帯域幅を適宜増やすことでラマンスペクトルの画像の解像度を上げることができる。ラマンスペクトルの解析結果を、テクスチャーの強調や輪郭抽出のために使用する場合は、スペクトル画像の解像度に重きを置き、物質特定の精度を重視する場合は、スペクトルの分解能に重きを置くというように、目的に応じて励起光の帯域幅を適宜設定する。
・ いま、中心波長を780nmで帯域幅4nmの狭帯域光源を使用してラマンスペクトルの励起を行ったとき、スペクトルの分解能はレーザー光源を使用した場合の分解能に比べて1/4程度となるが、スペクトルの総合の帯域幅が平均16nm程度になり、ラマン光の画像の解像度は、平均17μm程度になる。3-7.項の実施例に当てはめてみると、HDのRGB画像に対し、ラマンスペクトル画像は、88万画素で、XGA(Extended Graphics Array)の解像度を上回る画像が得られる。
・ 次に、ラマン分光用のOCI処理について説明する。図20-1に示すように、RGB光源101の照明光は、分岐カプラ103によって分岐され、サーキュレータ104と合波カプラ105に入力される。合波カプラ105によって、RGB画像用の照明光とラマンスペクトル用の励起光が合成され、サーキュレータ106を経て、図3で示した光ファイバー11へ供給がなされる。
・ 被写体からの反射光は、光ファイバー11からサーキュレータ106を経て、分波カプラ107によって可視光とラマンスペクトルに分けられ、可視光の信号は干渉カプラ108に入力され、ラマン光の信号は干渉カプラ109に入力される。
・ 干渉カプラ108に入力された可視光は、RGB用参照光110との干渉がなされ、RGB通過フィルタ111によってラマン光の励起光が除去された後、図20-2のグレーティング分光器120に入力され、その後4-5.項で述べたのと同じ処理が施され、RGB画像が検出される。
・ 一方、干渉カプラ109に入力されたラマン光は、反射板112からのラマン参照光113と干渉がなされ、ラマン光通過フィルタ114によって励起光が除去された後、図20-2に示すグレーティング分光器122に入力される。ここで、ラマンスペクトルは励起光から一定波数だけシフトしているため、ラマンスペクトル画像を得るOCI処理において励起光を参照光として使うことができない。そこで、反射板112には、透明カバーの金薄膜と同じ金薄膜115がコーティングされていて、更にその上に被検体と同じラマンスペクトルを発する物質116がコーティングされている。この物質116に励起光を当てることで、SERS(表面増強ラマン散乱)効果によってラマン参照光113を発生させる。反射板112は、特定する物質に応じて入れ替えて設定することができるようになっている。
・ 図20-2に示すように、受光ラインディテクタ123によって電気信号に変換された後、4-5.項で述べたマルチスペクトルの解析と同じく、時系列になったラマンスペクトルの信号に合わせて、ラマンスペクトル用の係数124-1〜124-nをコントロール部125内のメモリから時系列に読み出し、乗算器125-1〜125-nによって乗じることで、ラマンスペクトル用のEU1〜EUn軸に射影した時系列信号が生成される。その時系列信号をFFT 126-1〜126-nによってフーリエ変換することで、EU1〜EUnに射影したときのラマンスペクトルの画像がそれぞれ得られる。
・ ちなみに、ラマンスペクトルは、分光のデータベースが揃っていて、2つの物質を識別するためのEU1〜EUnを、多変量解析にて算出することが比較的容易である。
・ 以上に述べた手順を経て、EU1〜EUnの画像信号を学習済みのAI 127に入力することで、二つの物質の識別を、画素レベルでリアルタイムに実施することが可能になる。
その他の処理は、4-5.項のマルチスペクトルの解析処理と同じなので説明を省略する。
・ SERS効果の安定性を確保するには、金属薄膜上の粒子の大きさと配列を均一に揃えなくてはならない。ナノテクノロジーの進歩で向上してきているが、まだ万全とはいえない。このような製造上のゆらぎ(クラスタの分散が大きくなる)を、前述したマルチスペクトル解析と同様に、多変量解析とAIの識別を組合せることで抑えることができる。
・ 次に、ラマンスペクトルの物質特定の精度と画像の解像度の両方が得られる実施例を説明する。図20-1のラマン励起光源102に波長掃引光源を使用する。いま、生体の透過率が高い780〜820nmの波長掃引69を行うと、波数シフトが最も小さい生体物質のラマンスペクトルは、図19(b)に示すように、863〜910nmの掃引68がなされて放出される。この波長帯域におけるラマンスペクトルの画像の解像度は平均11μとなる。他の生体物質のラマンスペクトルは、これよりも波数の多い長波長側にシフトするため、ラマン光通過フィルタ114で励起光を取り除くことができる。
・ ラマン参照光113と干渉がなされたラマン光は、ラマン光通過フィルタ114で励起光が除去された後、図20-3に示すように、音響光学チューナブルフィルタや液晶チューナブルフィルタなどで構成される帯域可変バンドパスフィルタ(可変BPF)131-1〜131-nによって、掃引されたラマンスペクトルが各々分別される。
その後、受光ディテクタ132-1〜132-nによって電気信号に変換され、FFT133-1〜133-nによって画像信号に変換された後、マトリクス変換部134によって、EU1〜EUnの軸に射影した画像信号に変換される。マトリクス変換用の係数(n×n個)136は、図20-2のコントロール部125内のメモリから特定する物質に対応したものが読み出され、マトリクス変換部134内のメモリに設定され使用される。そして、マトリクス変換がなされたEU1〜EUnの画像は、RGB画像との同期と画素の補間が、複数の補間メモリ135-1〜135-nによって行われる。以上に述べた手順を経て、EU1〜EUnの画像信号を学習済みのAI 137に入力することで、二つの物質の識別を、画素レベルでリアルタイムに実施することが可能になる。その他の処理は、4-5.項のマルチスペクトルの解析処理と同じなので説明を省略する。
6. 蛍光誘導放出によるマルチスペクトル解析
・ 次に、誘導放出光を使用して蛍光色素の蛍光を誘導放出させ、そのときに起きる強い吸収スペクトルを活用して、物質特定を行なう実施例について説明する。生体に注入した蛍光色素やプローブに励起光を当てると蛍光の自然放出が起きるが、これに強い誘導光を加えると、誘導光に位相と波長が合った蛍光が強く放出され、その分、励起光において強い吸収が起きる。励起光にはレイリー散乱が含まれるが、吸収によるスペクトル成分が大きいため、物質を特定するうえで安定性とSNが高くなる。
・ 図21に示すように、RGB光源141と蛍光励起光源142の励起光は合波カプラ143によって合成された後、分岐カプラ144によって分岐され、一方はサーキュレータ145を経て、反射板146によって参照光147が得られる。もう一方は、合波カプラ148によって蛍光誘導放出光源157と合成され、サーキュレータ149を経て、図3の光ファイバー11に供給される。RGB光源141と蛍光励起光源142を分けてあるのは、RGB用の照明光とは別に、蛍光励起用と蛍光誘導放出用の光の強度と帯域を調整するためである。
・ 光ファイバー11(図3-1参照。)で受光した生体からの反射光は、干渉カプラ150(図21参照。)によって参照光147と干渉がなされ、蛍光除去フィルタ151によって蛍光が除去され、図15-1のグレーティング分光器66に入力される。
・ 蛍光の誘導放出によって増幅された吸収スペクトルを検出する処理は、4-5.項のマルチスペクトルの解析処理と同じなので説明を省略する。
7. 本発明のその他の適用例
以上に、消化器系内視鏡と腹腔鏡への適用について述べたが、本発明の内視鏡装置は、1mm以下の高精細な細径内視鏡を実現することができるため、様々なスコープへの適用が可能である。以下にその例を示し、その一部について説明を行なう。
(ア) 血管内スコープ
図22-1と22-2に、血管内壁の観察と断層像の観察を同時に行なう例を示す。
・ OCIによる血管内壁の観察175は可視光帯を使用し、OCTによる断層像の観察177は近赤外帯を使用する。ミラー161は、使用する波長帯域を分離するダイクロイックミラーである。近赤外帯域を含めたマルチスペクトル解析を行う際は、ミラー161に液晶ミラーなどを使用して、照明光を切り換えて、マルチスペクトル解析を実施する。図22-1、図22-2、図22-3中、参照符号171は血管、173はプラークを示す。
・ 前方視が必要な場合は、図22-3に示すように、光ファイバー211を2段にして、その受光信号の位相差を検出することにより、図22-3に示した照明光の波面162上の位置163を検出し、CG画像合成と同様の手法にて前方視の画像を生成することができる。OCI画像の3D表示も可能になる。位相差の検出は、2つのファイバーの出力光を干渉させて干渉縞の周波数から検出しても良いし、2つのファイバーの受光信号から生成した画像のブロック相関を行なうことで検出してもよい。相関を行なう場合、斜め照明で生じる影により精度を上げることができる。2つの光ファイバー211で受光した信号は、2つの光ロータリージョイントを介してスコープ外に取り出される。
(イ) 穿刺針用スコープ
・ 図23に、細胞診を行うスコープの例を示す。穿刺針(本実施例では透明穿刺針401)の内径は0.5〜1mm程度であるため、これに挿入するスコープの径は、製造上問題はない。細胞検査用スコープ403等の回転走査機構は穿刺針の手元のハブ内に設置される。穿刺針の一部を透明部材にして穿刺針の強度を保ってもよいが、プラスチック製の透明な穿刺針が市販されており、全周を撮像範囲にするときは、透明な穿刺針を使用する。穿刺針の被写体に接する撮像面には、SERS効果が出るように、適切な大きさと配列を以って金の微粒子がコーティングされていてもよい。また、図22に示すように、断層像を得るために、OCTを併用できるようにしてもよい。なお、図23中、参照符号405は検出ライン、407は患部を示す。
・ 以上に説明した細径スコープや穿刺針用スコープは、以下に例示するように、経皮による血管スコープや関節スコープなど、複数の細径スコープに応用できるものである。
(ウ)気管支スコープ、(エ)関節スコープ、(オ)顎間接スコープ、
(カ)脊髄スコープ、(キ)脳室スコープ、
(ク)嗅裂部・鼻咽腔・副鼻腔入口部スコープ、(ケ) 中耳スコープ、
(コ)耳道スコープ、(サ)眼内スコープ、(シ)涙道スコープ、
(ス)膀胱・尿道スコープ、(セ)腎盂スコープ(経皮的)、(ソ)乳管スコープ、
(タ)クルドスコープ、(チ)ヒステロスコープ、(ツ)胸腔スコープ、
(テ)縦隔スコープ、(ト)胆道・膵管用子スコープ(上部消化管スコープ経由)、
(ナ)手術ロボット用の小型・高精細先端カメラ
1 光ファイバー; 4 ライン; 8 走査機構;
11 光ファイバー; 12 光学系; 13 ミラー;
15 ライン; 16 走査機構; 17 反射点; 18 回転走査軸;
21 広帯域光源; 22 分岐カプラ; 23,26 サーキュレータ;
24 反射板; 27 干渉カプラ; 28 グレーティング分光器;
29 受光ラインディテクタ; 31 波長掃引光源; 32,33 分岐カプラ;
34 受光ディテクタ; 41,42 ブロック; 43 次元相関器;
44 ラインメモリ; 45,46 補間回路; 51 端面; 52 光学系;
53 ミラー; 55 ライン; 56 撮像部; 57 透明カバー;
63,64 補間メモリ部; 65 マトリクス変換器;
66 グレーティング分光器; 67 受光ラインディテクタ; 69 メモリ部;
70 データフォーマット作成部; 71 コントロール部 73 乗算器;
76 ゲート信号; 77 切換信号; 80 可視光帯域; 81 W信号;
82 R信号; 83 B信号; 85 近赤外領域; 91 多板分光プリズム;
92,93,94 分光器
100 乗算器; 101 光源; 301 加算器; 102 ラマン励起光源;
103 分岐カプラ; 104 サーキュレータ; 105 合波カプラ;
106 サーキュレー; 107 分波カプラ; 108,109 干渉カプラ;
111 通過フィルタ; 112 反射板; 113 ラマン参照光113;
114 ラマン光通過フィルタ; 115 金薄膜; 116 参照用サンプル
120,122 グレーティング分光器
123 受光ラインディテクタ; 125 コントロール部;
125-1〜125-n 乗算器; 131 ミラー; 132 受光ディテクタ;
134 マトリクス変換部; 135 補間メモリ; 141 光源;
142 蛍光励起光源; 143 合波カプラ; 144 分岐カプラ;
145,149 サーキュレータ; 146 反射板; 147 参照光;
148 合波カプラ; 150 干渉カプラ; 151 蛍光除去フィルタ;
157 蛍光誘導放出光源; 161 ミラー; 162 波面;
211 光ファイバー;
401 透明穿刺針; 403 細胞検査用スコープ;
551 フレームメモリ; 521 自由曲面プリズム; 523 レンズ

Claims (21)

  1. 光源から供給される光を出射し、被写体から戻る反射光を受光する光ファイバーと、
    前記光ファイバーから出射される光から、前記被写体上で線状に集光される集光線を有する照明光を生成するシリンドリカル面を有する光学系であって、前記シリンドリカル面により生成される前記照明光は、前記集光線の長手方向におけるどの集光位置においても同一の波長帯域を有し、前記光ファイバーの一端面から前記集光位置までの光路長は、前記集光線の長手方向における一端部から遠くなるにつれ、漸次長くなる前記光学系と、
    前記集光線に交差する走査方向に前記照明光を走査する走査機構と、を備えることを特徴とする内視鏡装置。
  2. 前記走査方向は、前記集光線に直交することを特徴とする請求項1に記載の内視鏡装置。
  3. 前記光源は、広帯域光又は広帯域の波長掃引光を生成することを特徴とする請求項1又は2に記載の内視鏡装置。
  4. 前記光源が、前記被写体を蛍光させるための励起光を生成することを特徴とする請求項に記載の内視鏡装置。
  5. 前記光学系は、前記光路長が漸次長くなるにつれ、焦点距離が長くなる前記シリンドリカル面であって、前記照明光が前記集光線上で一定に収束するように、前記焦点距離が長くなるにつれ、開口が大きくなる前記シリンドリカル面を有することを特徴とする請求項1〜の何れか一項に記載の内視鏡装置。
  6. 前記光源が、前記被写体からラマン散乱光を発生させるための励起光を生成することを特徴とする請求項1〜の何れか一項に記載の内視鏡装置。
  7. 前記光源が、前記被写体を蛍光させるための誘導放出光を生成することを特徴とする請求項1〜の何れか一項に記載の内視鏡装置。
  8. 前記光ファイバーにより受光される前記反射光に対し参照光を干渉させる干渉カプラと、前記参照光を生成するための反射板と、を備えることを特徴とする請求項1〜の何れか一項に記載の内視鏡装置。
  9. 前記反射板は、ラマン散乱光による参照光を生成することを特徴とする請求項に記載の内視鏡装置。
  10. 前記光ファイバーにより受光される前記反射光に関し、前記参照光を干渉させて、所定の波長帯域成分を取り出し、フーリエ変換を行い、所定の波長帯域成分における画像を生成することを特徴とする請求項8又は9に記載の内視鏡装置。
  11. 前記光ファイバーにより受光される前記反射光に関し、前記参照光を干渉させて、3原色に対応した波長帯域成分を取り出し、フーリエ変換を行い、3原色の画像信号を生成し、前記3原色の画像信号に基づき、RGB画像信号を生成する手段と、を備えることを特徴とする請求項1に記載の内視鏡装置。
  12. 前記3原色の画像信号の輝度信号成分は、近赤外領域を含む波長帯域の信号をフーリエ変換し得られることを特徴とする請求項1に記載の内視鏡装置。
  13. クラスタが既知の被写体の反射スペクトルからフィッシャー・レシオが大きい順に複数のスペクトル成分を算出し、前記スペクトル成分を用い、クラスタが未知の被写体の反射スペクトルから識別を行う識別手段を備えることを特徴とする請求項1〜1の何れか一項に記載の内視鏡装置。
  14. 前記識別手段は、ディープラーニングを実行するAIを用いることを特徴とする請求項1に記載の内視鏡装置。
  15. 前フレームの画像と現フレームの画像との相関を取ることにより、前記現フレームの画像のブレ量が検出され、前記現フレームの画像が補正されることを特徴とする請求項1〜1の何れか一項に記載の内視鏡装置。
  16. 前記照明光による前記被写体からの反射光から得られる画像信号に関し、前記走査方向に隣り合う前記画像信号の差分を取得し累積することにより、前記被写体の動きのある部分の画像が描出されることを特徴とする請求項1〜1の何れか一項に記載の内視鏡装置。
  17. 前記反射光は、前記光学系を介し前記光ファイバーに受光されることを特徴とする請求項1〜1の何れか一項に記載の内視鏡装置。
  18. 前記光学系により、前記照明光は直線状に集光されることを特徴とする請求項1〜1の何れか一項に記載の内視鏡装置。
  19. 前記光ファイバーから出射される光から、近赤外光を分光し前記被写体の断層像を生成するための第2の光学系を備えることを特徴とする請求項1〜18の何れか一項に記載の内視鏡装置。
  20. 広帯域光を生成する光源から供給される光を出射し、被写体から戻る反射光を受光する光ファイバーと、
    前記光ファイバーから出射される光から、前記被写体上で線状に集光される集光線を有する照明光を生成する自由曲面形状のシリンドリカル面を有する光学系であって、前記シリンドリカル面により生成される前記照明光は、前記集光線の長手方向におけるどの集光位置においても同一の波長帯域で収束し、前記光ファイバーの一端面から前記集光位置までの光路長は、前記集光線の長手方向における一端部から遠くなるにつれ、漸次長くなる前記光学系と、
    前記集光線の前記反射光に参照光を干渉させる干渉カプラと、
    前記干渉カプラの出力光を波長成分に分光し、分光した波長帯域に渡って、前記参照光と前記反射光の光路長の差に比例した周波数の干渉縞を発生させる分光器と、
    前記干渉縞を電気信号へ変換する受光ラインディテクターと、
    前記受光ラインディテクターにより変換される前記干渉縞の電気信号をフーリエ変換し、前記干渉縞の周波数成分ごとの振幅を算出し、前記被写体の一次元方向の画像を検出するフーリエ変換回路と、
    前記フーリエ変換回路により前記一次元方向の画像の検出を繰り返しながら、前記集光線に交差する走査方向に前記照明光を走査し、二次元方向の画像を生成する走査機構と、を備えることを特徴とする内視鏡装置。
  21. 広帯域の波長掃引光を生成する光源から供給される光を出射し、被写体から戻る反射光を受光する光ファイバーと、
    前記光ファイバーから出射される光から、前記被写体上で線状に集光される集光線を有する照明光を生成する自由曲面形状のシリンドリカル面を有する光学系であって、前記シリンドリカル面により生成される前記照明光は、前記集光線の長手方向におけるどの集光位置においても同一の波長帯域で収束し、前記光ファイバーの一端面から前記集光位置までの光路長は、前記集光線の長手方向における一端部から遠くなるにつれ、漸次長くなる前記光学系と、
    前記集光線の前記反射光に参照光を干渉させることで、前記参照光と前記反射光との光路長の差に比例した周波数の干渉縞を発生させる干渉カプラと、
    前記干渉縞を電気信号へ変換する受光ディテクターと、
    前記受光ディテクターにより変換される前記干渉縞の電気信号をフーリエ変換し、前記干渉縞の周波数成分ごとの振幅を算出し、前記被写体の一次元方向の画像を検出するフーリエ変換回路と、
    前記フーリエ変換回路により前記一次元方向の画像の検出を繰り返しながら、前記集光線に交差する走査方向に前記照明光を走査し、二次元方向の画像を生成する走査機構と、を備えることを特徴とする内視鏡装置。
JP2019087128A 2019-04-30 2019-04-30 高精細撮像とスペクトル解析が可能な内視鏡装置 Active JP6684005B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019087128A JP6684005B1 (ja) 2019-04-30 2019-04-30 高精細撮像とスペクトル解析が可能な内視鏡装置
PCT/JP2020/018103 WO2020222307A1 (ja) 2019-04-30 2020-04-28 高精細撮像とスペクトル解析が可能な内視鏡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019087128A JP6684005B1 (ja) 2019-04-30 2019-04-30 高精細撮像とスペクトル解析が可能な内視鏡装置

Publications (2)

Publication Number Publication Date
JP6684005B1 true JP6684005B1 (ja) 2020-04-22
JP2020182604A JP2020182604A (ja) 2020-11-12

Family

ID=70286872

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019087128A Active JP6684005B1 (ja) 2019-04-30 2019-04-30 高精細撮像とスペクトル解析が可能な内視鏡装置

Country Status (2)

Country Link
JP (1) JP6684005B1 (ja)
WO (1) WO2020222307A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022224917A1 (ja) * 2021-04-19 2022-10-27 のりこ 安間 3次元撮像装置
JP6918395B1 (ja) * 2021-04-19 2021-08-11 のりこ 安間 撮像装置
CN114469276A (zh) * 2022-01-18 2022-05-13 蓝线铂立生命科技(苏州)有限公司 可视穿刺冷冻消融系统
JP7687245B2 (ja) * 2022-03-01 2025-06-03 トヨタ自動車株式会社 画像解析装置および画像解析方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007135989A (ja) * 2005-11-21 2007-06-07 Olympus Corp 分光内視鏡
JP6792450B2 (ja) * 2014-01-31 2020-11-25 ザ ジェネラル ホスピタル コーポレイション 前方視の内視鏡プローブ、当該プローブの制御方法、及び撮像装置
JP2017170006A (ja) * 2016-03-25 2017-09-28 キヤノン株式会社 断層撮像システム、画像処理方法及びプログラム

Also Published As

Publication number Publication date
JP2020182604A (ja) 2020-11-12
WO2020222307A1 (ja) 2020-11-05

Similar Documents

Publication Publication Date Title
US8078265B2 (en) Systems and methods for generating fluorescent light images
JP6684005B1 (ja) 高精細撮像とスペクトル解析が可能な内視鏡装置
JP6393683B2 (ja) プローブヘッド及び診断用機器
JP4870356B2 (ja) 組織を測定するための高波数ラマン分光法の使用
US20150087902A1 (en) Phase Contrast Microscopy With Oblique Back-Illumination
CN101304683A (zh) 以渐进增加的分辨率观察和分析一个或多个生物样品的方法和用于该方法的设备
JP7069072B2 (ja) 涙液層厚み測定装置及び方法
Zhao et al. Real-time Raman spectroscopy for noninvasive in vivo skin analysis and diagnosis
CN114795120A (zh) 一种多模态成像装置
Guay-Lord et al. Combined optical coherence tomography and hyperspectral imaging using a double-clad fiber coupler
JP7058901B1 (ja) 3次元撮像装置
CN115553694A (zh) 一种与标准内窥镜联合使用的高光谱显微内窥系统
US20180271368A1 (en) Device for determining a condition of an organ and method of operating the same
WO2017070146A1 (en) High resolution microendoscope employing differential structured illumination and method of using same
EP3824799A1 (en) Device, apparatus and method for imaging an object
JP2019181292A (ja) 涙液層厚み測定装置及び方法
JP6748932B1 (ja) 内視鏡装置
JP2019154764A (ja) 涙液層厚み測定装置及び方法
Qiu et al. Spectral imaging with scattered light: from early cancer detection to cell biology
JP2000506982A (ja) 可動物の、干渉計に基づくスペクトル結像方法
Arnold et al. Hyper-spectral video endoscopy system for intra-surgery tissue classification
Zhang et al. A rapid multispectral endoscopic imaging system for in vivo assessment of the morphological and physiological characteristics of mouse intestines
Ba New implementations of phase-contrast imaging
CN120514306A (zh) 内窥镜系统以及光谱分析方法
JP2021032708A (ja) 生体組織の識別方法、生体組織識別装置、生体組織識別プログラムおよび記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190505

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190505

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190505

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200204

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200319

R150 Certificate of patent or registration of utility model

Ref document number: 6684005

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250