JP2013066648A - 内視鏡用画像処理装置及び内視鏡装置 - Google Patents
内視鏡用画像処理装置及び内視鏡装置 Download PDFInfo
- Publication number
- JP2013066648A JP2013066648A JP2011208765A JP2011208765A JP2013066648A JP 2013066648 A JP2013066648 A JP 2013066648A JP 2011208765 A JP2011208765 A JP 2011208765A JP 2011208765 A JP2011208765 A JP 2011208765A JP 2013066648 A JP2013066648 A JP 2013066648A
- Authority
- JP
- Japan
- Prior art keywords
- image
- chromatic aberration
- unit
- aberration correction
- magnification chromatic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 134
- 238000012937 correction Methods 0.000 claims abstract description 275
- 230000003287 optical effect Effects 0.000 claims abstract description 132
- 238000000034 method Methods 0.000 claims abstract description 111
- 230000008569 process Effects 0.000 claims abstract description 91
- 230000004075 alteration Effects 0.000 claims description 163
- 230000000007 visual effect Effects 0.000 claims description 82
- 238000003860 storage Methods 0.000 claims description 70
- 230000008859 change Effects 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 claims description 6
- 238000006243 chemical reaction Methods 0.000 abstract description 24
- 230000015572 biosynthetic process Effects 0.000 description 21
- 238000003786 synthesis reaction Methods 0.000 description 21
- 239000000203 mixture Substances 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 230000004048 modification Effects 0.000 description 9
- 238000003780 insertion Methods 0.000 description 7
- 230000037431 insertion Effects 0.000 description 7
- 238000013461 design Methods 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 3
- 210000002429 large intestine Anatomy 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 235000012489 doughnuts Nutrition 0.000 description 2
- 230000003902 lesion Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000004040 coloring Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001727 in vivo Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
- G02B23/2407—Optical details
- G02B23/2423—Optical details of the distal end
- G02B23/243—Objectives for endoscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B9/00—Optical objectives characterised both by the number of the components and their arrangements according to their sign, i.e. + or -
- G02B9/34—Optical objectives characterised both by the number of the components and their arrangements according to their sign, i.e. + or - having four components only
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00174—Optical arrangements characterised by the viewing angles
- A61B1/00177—Optical arrangements characterised by the viewing angles for 90 degrees side-viewing
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00174—Optical arrangements characterised by the viewing angles
- A61B1/00181—Optical arrangements characterised by the viewing angles for multiple fixed viewing angles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Astronomy & Astrophysics (AREA)
- Signal Processing (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
Abstract
【課題】 処理対象画像信号が前方視野に対応する前方領域及び側方視野に対応する側方領域のいずれに対応するかを判定し、前方領域と判定された場合に前方領域に対応した倍率色収差補正処理を行う内視鏡用画像処理装置及び内視鏡装置等を提供すること。
【解決手段】 内視鏡用画像処理装置は、前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部(AD変換部204)と、観察光学系についての倍率色収差補正処理を行う倍率色収差補正部206とを含み、倍率色収差補正部206は、処理対象画像信号が前方視野及び側方視野のいずれに対応するかの判定処理を行うとともに、処理対象画像信号が前方視野に対応すると判定された場合には、倍率色収差補正処理として、倍率色収差補正処理を行う。
【選択図】 図3
【解決手段】 内視鏡用画像処理装置は、前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部(AD変換部204)と、観察光学系についての倍率色収差補正処理を行う倍率色収差補正部206とを含み、倍率色収差補正部206は、処理対象画像信号が前方視野及び側方視野のいずれに対応するかの判定処理を行うとともに、処理対象画像信号が前方視野に対応すると判定された場合には、倍率色収差補正処理として、倍率色収差補正処理を行う。
【選択図】 図3
Description
本発明は、内視鏡用画像処理装置及び内視鏡装置等に関する。
特許文献1では、前方視野と側方視野の両方を同時に観察できる状態と前方視野のみ観察できる状態を可変絞りで切換えるようにした光学系が示されている。前方視野と側方視野の両方を観察できる状態は内視鏡に用いる場合に特に大腸のヒダ裏観察に有効であり、今まで見落としていた病変の発見が期待できる。図1は、前方視野と側方視野の両方を同時に観察できる状態と前方視野のみ観察できる状態を可変絞りで切換えるようにした光学系の一例を示している。
光学系レンズを通って来た光がイメージセンサーに当たるまでに、それぞれの色の波長ごとにレンズを通るときの屈折率が異なり、結像する像の大きさが異なってしまうため色つき現象が生じる。これを倍率色収差という。この現象は、特に広角レンズの画面の隅のほうに強く出て目立つ。また、前記のように前方と側方に対応する2系統の対物レンズ光学系の場合、光学レンズ構成の違い及び光学レンズを通ってきた光がイメージセンサーに当たるまでの経路が異なるため、形成した画像信号に発生する倍率色収差の度合いも異なる。
本発明の幾つかの態様によれば、処理対象画像信号が前方視野に対応する前方領域及び側方視野に対応する側方領域のいずれに対応するかを判定し、前方領域と判定された場合に前方領域に対応した倍率色収差補正処理を行う内視鏡用画像処理装置及び内視鏡装置等を提供することができる。
本発明の一態様は、前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部と、観察光学系についての倍率色収差補正処理を行う倍率色収差補正部と、を含み、前記倍率色収差補正部は、処理対象画像信号が前記前方視野及び前記側方視野のいずれに対応するかの判定処理を行うとともに、前記処理対象画像信号が前記前方視野に対応すると判定された場合には、前記倍率色収差補正処理として、前方倍率色収差補正処理を行う内視鏡用画像処理装置に関係する。
本発明の一態様では、処理対象画像信号が前方視野及び側方視野のいずれに対応するかを判定し、前方視野に対応すると判定された場合に、前方倍率色収差補正処理を行う。よって、前方視野を観察する光学系と側方視野を観察する光学系の条件が異なる場合にも、前方視野に対しては前方視野用の適切な倍率色収差補正処理を行うことができる。
また、本発明の他の態様は、前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部と、前記前方画像に対する倍率色収差補正処理である第1の倍率色収差補正処理と、前記側方視野に対する倍率色収差補正処理である第2の倍率色収差補正処理を行う倍率色収差補正部と、を含む内視鏡用画像処理装置に関係する。
本発明の他の態様では、前方画像に対しては前方画像用の倍率色収差補正処理を行い、側方画像に対しては側方画像用の倍率色収差補正処理を行う内視鏡用画像処理装置を実現することができる。
また、本発明の他の態様は、前記の内視鏡用画像処理装置を含む内視鏡装置に関係する。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
まず本実施形態の手法について説明する。光学系におけるレンズの屈折率は波長によって異なる。そのため、同じレンズを用いても波長によって焦点距離が異なることになり、像の大きさが異なる。これを倍率色収差という。倍率色収差により色ずれが発生してしまうと画像がぼけたようになり好ましくない。そのため、倍率色収差に対しては補正処理が行われる。
まず本実施形態の手法について説明する。光学系におけるレンズの屈折率は波長によって異なる。そのため、同じレンズを用いても波長によって焦点距離が異なることになり、像の大きさが異なる。これを倍率色収差という。倍率色収差により色ずれが発生してしまうと画像がぼけたようになり好ましくない。そのため、倍率色収差に対しては補正処理が行われる。
本実施形態においては、前方視野と側方視野の両方を観察可能な光学系を用いる。これは例えば前方観察光学系と側方観察光学系の2つの光学系を用いることにより実現できる。あるいは1つの光学系を用いて時系列的に観察領域を切り替えてもよい。このような場合には、前方視野の観察時と、側方視野の観察時で光学系の条件が変わるため、1通りのパラメータのみでは倍率色収差補正を行うことができない。
また、前方視野と側方視野の両方を同時に結像する光学系を用いて撮像する場合、取得された撮像画像には、図2のように、前方視野に対応する前方領域と側方視野に対応する側方領域の間に暗い境界領域が生じることがある。特に、前方領域の周辺は屈折系のレンズにより周辺視野の光量が低下(グラデーションが発生)し、境界領域はグラデーション領域と連結した状態の黒い帯状の領域となる。これは、図1に示したように前方視野と側方視野の間に死角が生じることや、前方視野の周縁部では光量が足らず、画像が暗くなってしまうことによる。例えば内視鏡装置による大腸の観察時には、境界領域が存在すると、境界領域に本来のヒダが無い状態でも当該境界領域を生体のヒダと誤認する可能性等があり好ましくない。
そこで本出願人は以下の手法を提案する。まず、倍率色収差補正処理は、前方領域と側方領域とで異なるパラメータを用いて処理を行う。このようにすることで、前方視野観察時と側方視野観察時とでの光学系の条件の違いに対応することが可能になる。さらに付加的な処理として、倍率色収差補正処理が行われた後の前方領域及び側方領域の少なくとも一方に対して変倍処理を行った上で合成処理を行うことで、境界領域を縮小する。これは例えば、前方領域を外側に拡大した上で側方領域と合成すればよい。このようにすることで、境界領域を縮小することができ、観察をスムーズにすること等が可能になる。
以下、第1の実施形態では、3板の撮像素子を用いた場合における、倍率色収差補正処理について説明する。ここでは、付加的な処理である境界領域補正処理についても説明する。また、第2の実施形態では、単板或いは2板の撮像素子を用いた場合、或いは面順次方式を用いた場合の倍率色収差補正処理について説明する(境界領域補正処理については第1の実施形態と同様であるため省略する)。また、変形例として、光学系の光軸中心のずれの補正についても述べる。
2.第1の実施形態
図3は、本実施形態の内視鏡用画像処理装置を含む内視鏡装置の構成例である。内視鏡装置は、挿入部102、ライトガイド103、光源部104、前方観察光学系201、側方観察光学系202、撮像素子203、AD変換部204、画像処理部205、倍率色収差補正部206、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212を備えている。また、光源部104、AD変換部204、画像処理部205、倍率色収差補正部206、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212は、プロセッサ部1000を構成している。ただしプロセッサ部1000は、図3の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
図3は、本実施形態の内視鏡用画像処理装置を含む内視鏡装置の構成例である。内視鏡装置は、挿入部102、ライトガイド103、光源部104、前方観察光学系201、側方観察光学系202、撮像素子203、AD変換部204、画像処理部205、倍率色収差補正部206、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212を備えている。また、光源部104、AD変換部204、画像処理部205、倍率色収差補正部206、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212は、プロセッサ部1000を構成している。ただしプロセッサ部1000は、図3の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
この内視鏡装置は内視鏡診察や治療に適用するため、挿入部102は体内に挿入できるように湾曲が可能で細長い形状になっており、光源部104が出射する光は湾曲可能なライトガイド103を経由して、被写体101へ照射される。挿入部102の先端部には、前方観察光学系201および側方観察光学系202が配置されている。本内視鏡装置は、前方視野を観察する前方観察光学系201及び側方視野を観察する側方観察光学系202を備え、前方視野と側方視野の両方を同時に観察できる光学系となっている。ただし、光学系の構成はこれに限定されるものではない。例えば、1つの光学系を用い、観察対象を時系列的に切り替える(あるタイミングでは前方視野を観察し、別のタイミングでは側方視野を観察する)ようにしてもよい。被写体101からの前方視野の反射光は前方観察光学系201を、側方視野の反射光は側方観察光学系202を介して、撮像素子203に結像する。撮像素子203により出力されたアナログ画像信号はAD変換部204へ転送される。
挿入部102は、プロセッサ部1000と着脱可能となっている。医者は、診察目的に応じて複数種類のスコープ(挿入部102)から必要なスコープを選択し、このプロセッサ部1000に装着して診察或いは治療を行う。
AD変換部204(画像取得部)は、画像処理部205、倍率色収差補正部206及び合成部304を介して表示部207へ接続している。制御部210は、AD変換部204、画像処理部205、倍率色収差補正部206、合成部304、表示部207及び外部I/F部211と双方向に接続している。
AD変換部204は、撮像素子203からのアナログ画像信号をデジタル化してデジタル画像信号(以下画像信号と略称)として画像処理部205へ転送する。
画像処理部205は、制御部210の制御に基づき、AD変換部204からの画像信号に対して公知の画像信号処理を行う。ホワイトバランス処理、カラーマネージメント処理、階調変換処理などを行う。処理後のRGB信号を倍率色収差補正部206へ転送する。
図4は、倍率色収差補正部206の構成の一例であり、倍率色収差補正部206は切替部301、前方倍率色収差補正部302、側方倍率色収差補正部303を含む。また、図4では明示されていないが、前方補正係数保存部305、及び側方補正係数保存部306は補正係数保存部212に含まれるものとする。画像処理部205は、切替部301を介して前方倍率色収差補正部302、側方倍率色収差補正部303及び合成部304へ接続している。前方倍率色収差補正部302は、合成部304を介して表示部207へ接続している。側方倍率色収差補正部303は、合成部304へ接続している。前方補正係数保存部305は、前方倍率色収差補正部302へ接続している。側方補正係数保存部306は、側方倍率色収差補正部303へ接続している。制御部210は、切替部301、前方倍率色収差補正部302、側方倍率色収差補正部303、合成部304、前方補正係数保存部305、及び側方補正係数保存部306と双方向に接続している。
画像処理部205からのRGB信号は、制御部210の制御に基づき切替部301へ転送される。
図5は、切替部301の構成の一例であり、切替部301は領域判定部401及び判定情報保存部402を備えている。画像処理部205は、領域判定部401を介して前方倍率色収差補正部302へ接続している。判定情報保存部402は、領域判定部401へ接続している。制御部210は、領域判定部401及び判定情報保存部402と双方向に接続している。
領域判定部401は、制御部210の制御に基づき、画像処理部205からの画像信号(RGB3板)に対して前方領域か或いは側方領域かを判定する。図2に示されているように、画像信号は、中央部円形部分が前方領域、その周辺にドーナッツ状に側方領域、2つの領域の間の死角となる境界領域、及び側方領域外側の対象外領域(撮像された画像信号以外の部分)から構成されている。図6に示されているように、事前に前方領域、側方領域、境界領域及び対象外領域を分けるマスクデータを判定情報保存部402に保存する。領域判定部401は、判定情報保存部402からマスクデータを抽出し、画像処理部205からの画像信号に対して画素単位で領域判定を行う。領域判定により前方領域であると判定された場合には、画像信号を前方倍率色収差補正部302へ転送する。側方領域であると判定された場合、画像信号を側方倍率色収差補正部303へ転送する。他の領域に属する場合、画像信号を合成部304へ転送する。また、マスクデータも合成部304へ転送する。
図7は、前方倍率色収差補正部302の構成の一例であり、前方倍率色収差補正部302は前方像高算出部501及び前方補間部502を備えている。切替部301は、前方像高算出部501及び前方補間部502を介して合成部304に接続している。切替部301は、前方補間部502に接続している。前方補正係数保存部305は、前方像高算出部501及び前方補間部502に接続している。制御部210は、前方像高算出部501及び前方補間部502と双方向に接続している。
本実施形態では、画素ごとにG画像信号の像高に対するR画像信号及びB画像信号の像高比に基づき、R画像信号とB画像信号の実際の像高を算出して補間処理により倍率ズレ量を補正する。図8に示されているように、事前に前方領域の中心点(前方対物レンズ光学系の光軸中心に対応する画素)座標(Xf,Yf)及び前方領域に対応する円形の半径Rfを前方補正係数保存部305に保存しておく。また、側方領域の中心点(側方対物レンズ光学系の光軸中心に対応する画素)座標(Xs,Ys)、及び側方領域に対応するドーナッツ状円形の内側半径Rs1と外側半径Rs2を側方補正係数保存部306に保存する。以降の説明では、前方領域の中心点と側方領域の中心点を同じ画素にあることとし、同じ座標をもつものとするが、これに限定されるものではない。
図9は、G画像信号の像高に対するR画像信号及びB画像信号の像高比のグラフ例を示している。横軸はG画像信号の像高自乗Qに対応し、縦軸はRとB画像信号の像高比Yに対応している。具体的には、G画像信号の像高自乗は下式(1)のようになり、R画像信号の像高比Y(R)は下式(2)、B画像信号の像高比Y(B)は下式(3)のようになる。
Q=Xg2/Xmax2 ・・・・・(1)
Y(R)=Xr/Xg ・・・・・(2)
Y(B)=Xb/Xg ・・・・・(3)
ただし、XrはR画像信号の像高、XbはB画像信号の像高、XgはG画像信号の像高、XmaxはG信号の最大像高に対応している。本実施形態では、Xmaxは図8に示されている前方領域に対応する円形の半径Rfに対応している。
Y(R)=Xr/Xg ・・・・・(2)
Y(B)=Xb/Xg ・・・・・(3)
ただし、XrはR画像信号の像高、XbはB画像信号の像高、XgはG画像信号の像高、XmaxはG信号の最大像高に対応している。本実施形態では、Xmaxは図8に示されている前方領域に対応する円形の半径Rfに対応している。
また、G画像信号の像高自乗Qに対して、R画像信号の像高比Y(R)とB画像信号の像高比Y(B)は下式(4)及び(5)に表わされているような対応関係を持っている。
Y(R)=αrQ2+βrQ+γr ・・・・・(4)
Y(B)=αbQ2+βbQ+γb ・・・・・(5)
ただし、αr、βr、γrはR画像信号に対応する像高比係数であり、αb、βb、γbはB画像信号に対応する像高比係数である。これらの係数は前方領域を撮像する前方観察光学系の倍率色収差状況を調べて設計されたものであり、事前に前方補正係数保存部305に保存されている。
Y(B)=αbQ2+βbQ+γb ・・・・・(5)
ただし、αr、βr、γrはR画像信号に対応する像高比係数であり、αb、βb、γbはB画像信号に対応する像高比係数である。これらの係数は前方領域を撮像する前方観察光学系の倍率色収差状況を調べて設計されたものであり、事前に前方補正係数保存部305に保存されている。
前方像高算出部501は、制御部210の制御に基づき、画素ごとに前方領域に対応する画像信号の画素位置情報を用いて、前方補正係数保存部305からの像高比係数を検出して像高比を換算し、像高比からR画像信号とB画像信号の実像高(換算座標値)を算出する。図10は、前方像高算出部501の構成の一例であり、前方像高算出部501は相対位置算出部601、像高自乗算出部602、像高比算出部603、実像高算出部604を備えている。切替部301は、相対位置算出部601、像高自乗算出部602、像高比算出部603及び実像高算出部604を介して前方補間部502に接続している。切替部301は、前方補間部502へ接続している。前方補正係数保存部305は、相対位置算出部601、像高自乗算出部602、像高比算出部603及び実像高算出部604に接続している。制御部210は、相対位置算出部601、像高自乗算出部602、像高比算出部603及び実像高算出部604と双方向に接続している。
本実施形態では、まず、相対位置算出部601は、制御部210の制御に基づき、前方補正係数保存部305から前方領域の中心点(前方対物レンズ光学系の光軸中心に対応する画素)座標(Xf,Yf)を抽出して、下式(6)により光軸中心に対する注目画素の相対位置(posX,posY)を算出し、像高自乗算出部602へ転送する。
posX=i−Xf
posY=j−Yf ・・・・・(6)
ただし、iは注目画素の横軸座標であり、jは注目座標の縦軸座標である。
posY=j−Yf ・・・・・(6)
ただし、iは注目画素の横軸座標であり、jは注目座標の縦軸座標である。
続いて像高自乗算出部602は、制御部210の制御に基づき、注目画素の相対位置(posX,posY)と、前方補正係数保存部305に保存されている前方領域に対応する円形の半径Rfとから、上式(1)によりG画像信号の像高自乗Qを算出し、像高比算出部603へ転送する。次に、像高比算出部603は、制御部210の制御に基づき、前方補正係数保存部305から像高比係数を抽出し、上式(4)によりR画像信号の像高比Y(R)を算出するとともに、式(5)によりB画像信号の像高比Y(B)を算出し、実像高算出部604へ転送する。さらに、実像高算出部604は、制御部210の制御に基づき、前方補正係数保存部305から前方領域の中心点(前方対物レンズ光学系の光軸中心に対応する画素)座標(Xf,Yf)を抽出して、下式(7)及び(8)により注目画素のR画像信号とB画像信号の換算座標値を算出する。
RealX(R)=Y(R)×posX+Xf
RealY(R)=Y(R)×posY+Yf ・・・・・(7)
RealX(B)=Y(B)×posX+Xf
RealY(B)=Y(B)×posY+Yf ・・・・・(8)
ただし、RealX(R)は注目画素のR画像信号の換算横軸座標値であり、RealY(R)は注目画素のR画像信号の換算縦軸座標値である。また、RealX(B)は注目画素のB画像信号の換算横軸座標値であり、RealY(B)注目画素のB画像信号の換算縦軸座標値である。
RealY(R)=Y(R)×posY+Yf ・・・・・(7)
RealX(B)=Y(B)×posX+Xf
RealY(B)=Y(B)×posY+Yf ・・・・・(8)
ただし、RealX(R)は注目画素のR画像信号の換算横軸座標値であり、RealY(R)は注目画素のR画像信号の換算縦軸座標値である。また、RealX(B)は注目画素のB画像信号の換算横軸座標値であり、RealY(B)注目画素のB画像信号の換算縦軸座標値である。
ここで、上式(2)及び(3)に示したように、Y(R)はR画像信号の像高とG画像信号の像高の比であり、Y(B)はB画像信号の像高とG画像信号の像高の比である。posX、posYは光軸中心に対応する座標を原点としたときのG画像信号の座標であるから、G画像信号の像高に対応する。よって、上式(7)及び(8)の右辺第1項はY(R)或いはY(B)に対してG画像信号の像高値が乗算されていることになるため、R画像信号或いはB画像信号の像高値に対応した値となる。さらに右辺第2項により座標変換が行われ、原点が光軸中心に対応する座標系から基準座標系(例えば画像の左上の点を原点とした座標系等)に戻されることになる。つまり換算座標値とは、基準座標を原点とした場合の、R画像信号或いはB画像信号の像高値に対応する座標値のことである。
算出した注目画素のR画像信号とB画像信号の換算座標値情報を前方補間部502へ転送する。
前方補間部502は、制御部210の制御に基づき、画素ごとに前方像高算出部501からの注目画素のR画像信号及びB画像信号の換算座標値情報を用いて公知のバイキュービック補間方法で補間処理を行う。具体的には、図11に示されているように、求めたい位置(xx,yy)(R画像信号の場合は(RealX(R),RealY(R))、B画像信号の場合は(RealX(B),RealY(B)))の画素値Vを周り16点の画素値f11,f12,…,f44(R画像信号の場合は注目画素周り16点のR画像信号の画素値、B画像信号の場合は注目画素周り16点のB画像信号の画素値)を用いて下式(9)により求める。
ただし[xx]をxxを超えない最大の整数とした場合に式(9)の各値は下式(10)、(11)のようになる。
x1=1+xx−[xx]
x2=xx−[xx]
x3=[xx]+1−xx
x4=[xx]+2−xx
y1=1+yy−[yy]
y2=yy−[yy]
y3=[yy]+1−yy
y4=[yy]+2−yy ・・・・・(10)
h(t)=sin(πt)/πt ・・・・・(11)
補間後のR画像信号とB画像信号を合成部304へ転送する。
x1=1+xx−[xx]
x2=xx−[xx]
x3=[xx]+1−xx
x4=[xx]+2−xx
y1=1+yy−[yy]
y2=yy−[yy]
y3=[yy]+1−yy
y4=[yy]+2−yy ・・・・・(10)
h(t)=sin(πt)/πt ・・・・・(11)
補間後のR画像信号とB画像信号を合成部304へ転送する。
一方、図12は側方倍率色収差補正部303の構成の一例であり、図13は側方像高算出部511の構成の一例である。これらは、図2に示されている側方領域の倍率色収差の補正を行う。側方倍率色収差補正部303は、図7に示した前方倍率色収差補正部302と同様の構成であり、側方像高算出部511は、図10に示した前方像高算出部501と同様の構成である。行われる処理も、前方倍率色収差補正部302及び前方像高算出部501と同様である。
上述した式(1)〜(3)については前方の場合と同様である。ただし、式(1)におけるXmaxが前方の場合は図8におけるRfに対応したのに対して、側方の場合は図8におけるRs2に対応する点が異なる。これはXmaxとして像高の最大値を用いることによる。また、式(4)及び(5)における補正係数αr、βr、γr及びαb、βb、γbは前方の場合と異なる値を用いる。前方視野の観察に用いられる光学系と、側方視野の観察に用いられる光学系は異なるものであることが想定されるところ、補正係数は光学系の設計により決定されるものであるから、前方と側方で同じ値を用いることはできないためである。さらに、式(6)〜(8)についてはXf,Yfではなく、Xs,Ysを用いることになる。像高は光学系の光軸中心に対応する座標を基準点(例えば原点)として求める必要があるが、前方視野を観察する光学系と側方視野を観察する光学系とでは、光軸中心に対応する座標が異なることが一般的だからである。
合成部304は、制御部210の制御に基づき、切替部301からのマスクデータを用いて、前方倍率色収差補正部302から取得された補正後の前方領域に対応する画像信号と、側方倍率収差補正部303から取得された補正後の側方領域に対応する画像信号を合成し、表示部207へ転送する。
本実施形態では、AD変換部204からの画像信号に対して公知の画像信号処理を実施してから倍率色収差補正を実現しているが、このような構成に限定される必要がない。例えば、AD変換部204からのRGB3板の画像信号に対して倍率色収差補正を実施してから公知の画像信号を行う構成にしてもよい。
さらに、以上説明した本実施形態における画像信号処理は、ハードウェアにより実現しているが、このような構成に限定される必要がない。例えば、AD変換処理後の画像信号を未処理のままのロー(RAW)データとしてメモリカードなどの記録媒体に記録するとともに、制御部210からの撮像時の情報(AGC感度やホワイトバランス係数など)をヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像信号処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の転送は、上述と同様に、記録媒体を介して行うに限らず、通信回線などを介して行うようにしても構わない。
以上の本実施形態では、内視鏡用画像処理装置は、図3に示したように前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部(AD変換部204)と、観察光学系についての倍率色収差補正処理を行う倍率色収差補正部206とを含む。そして、倍率色収差補正部206は、処理対象画像信号が前方視野及び側方視野のいずれに対応するかの判定処理を行う。判定処理の結果、処理対象画像信号が前方視野に対応すると判定された場合には、倍率色収差補正処理として前方倍率色収差補正処理を行う。
ここで、光学系としては図1に示したように、前方視野を観察する前方観察光学系と、側方視野を観察する側方観察光学系の2系統の光学系を有するものとするが、これに限定されるものではない。1つの光学系で時系列的に前方画像と側方画像を取得してもよい。
これにより、処理対象画像信号が前方視野に対応するのか、側方視野に対応するのかの判定を行った上で、前方視野に対応する場合に前方倍率色収差補正処理を行うことが可能になる。前方観察光学系と側方観察光学系の2系統の光学系を持つ場合であっても、1つの光学系を時系列的に切り替える場合であっても、前方視野を観察する際と側方視野を観察する際とでは光学系の条件が異なる。倍率色収差は光学系の設計により、その色ずれの程度が決定されるものであるから、光学系の条件が変われば当然用いるパラメータを変更する必要がある。よって、適切なパラメータを用いた倍率色収差補正処理を行うためには、上述した本実施形態の手法のように、処理対象画像信号が前方視野及び側方視野のいずれに対応するのかを判定した上で、前方視野に対応した場合に、前方視野用のパラメータを用いて前方倍率色収差補正処理を行うとよい。
また、倍率色収差補正部は、処理対象画像信号が側方視野に対応すると判定された場合には、倍率色収差補正処理として側方倍率色収差補正処理を行ってもよい。
これにより、前方領域に対してだけでなく、側方領域に対しても適切な倍率色収差補正処理を行うことが可能になる。上述したように、側方倍率色収差補正処理を行う場合には、前方倍率色収差補正処理を行う場合とは異なる補正係数を用いることになる。具体的には、式(4)及び(5)における補正係数αr、βr、γr及びαb、βb、γbが異なる他、式(6)〜(8)についてはXf,Yfではなく、Xs,Ysを用いることになる。
また、画像取得部(例えばAD変換部204)は、前方画像及び側方画像が1枚の画像として形成された画像信号を取得してもよい。そして、倍率色収差補正部206は、取得した1枚の画像の中で、処理対象画像信号が前方視野及び側方視野のいずれに対応するかの判定処理を行うための判定情報を保存する判定情報保存部402(図5に示す)を含んでもよい。
ここで、前方画像及び側方画像が1枚の画像として形成された画像信号とは、例えば図2に示すような画像に対応する画像信号であってもよい。
これにより、例えば図2に示すような画像を取得した上で、判定情報を用いて処理対象画像信号が前方視野及び側方視野のいずれに対応するのかを判定することが可能になる。前方画像と側方画像をどのように1枚の画像として形成するかは、光学系等の設計により決定されるものであるから、判定情報は事前に決定しておくことが可能である。よって、判定情報保存部402を設けて事前に決定した判定情報を保存しておくことで、判定処理を容易に行うことができる。
また、1枚の画像における前方視野に対応する領域を前方領域とし、1枚の画像における側方視野に対応する領域を側方領域とした場合に、内視鏡用画像処理装置は、前方領域と側方領域の境界となる領域である境界領域を縮小する補正を行う境界領域補正部を含んでもよい。
ここで、境界領域補正部は図3に示す合成部304に対応する。合成部304は、倍率色収差補正が行われた前方画像と側方画像を合成する合成処理を行うものである。この合成処理は、境界領域を縮小する補正処理を含むものであってもよい。つまり、境界領域補正部は、境界領域を縮小する補正処理が付加された合成部304として実現されてもよく、その場合の構成は例えば図14に示すようになる。
これにより、境界領域を縮小することが可能になる。ここで、境界領域を縮小する補正は、境界領域の面積を減少させる処理と、境界領域を完全に無くす(ゼロにする)処理を含みうる。境界領域は、前方視野と側方視野の間の死角が生じたり、前方視野の周縁部で光量が足りなくなることに起因して生じるものである。境界領域は観察に支障をきたすものであり、特に内視鏡装置での大腸等の観察においては、境界領域を生体のヒダと誤認するおそれもある。よって、境界領域を縮小することで、観察を円滑に進めることが可能になる。
ここで、合成部304に境界領域補正処理を付加した場合について説明する。図14は、合成部304に境界補正処理を付加した場合の構成の一例であり、合成部304は前方バッファー部701、側方バッファー部702、画像倍率調整部703、変倍画像合成部704及び係数保存部705を備えている。前方倍率色収差補正部302は、前方バッファー部701、画像倍率調整部703、変倍画像合成部704を介して、表示部207へ接続している。側方倍率色収差補正部303は側方バッファー部702へ接続している。切替部301は、画像倍率調整部703及び変倍画像合成部704へ接続している。前方バッファー部701は、変倍画像合成部704へ接続している。制御部210は、前方バッファー部701、側方バッファー部702、画像倍率調整部703及び変倍画像合成部704と双方向に接続している。
前方倍率色収差補正部302から取得された補正後の前方領域に対応する画像信号を、前方バッファー部701へ保存する。また、側方倍率色収差補正部303から取得された補正後の側方領域に対応する画像信号を、側方バッファー部702へ保存する。前記のように、前方視野と側方視野の両方を同時に観察できる状態とした撮像画像は、中央部が前方視野、その周辺にドーナッツ状に側方視野が配置されて、2つの視野の間の死角となる境界領域が形成される。特に前方視野の周辺は屈折系のレンズにより周辺視野の光量が低下(グラデーションが発生)し、境界領域はグラデーション領域と連結した状態の黒い帯状の領域となる。医者により診断が行われる際、この黒い帯状領域は邪魔になるため、なるべく小さく縮小する必要がある。
本実施形態では、図15に示されているように前方領域に対して、光軸を中心に外側に拡大する処理を行い、黒い帯状領域の表示面積を縮小させる。この場合、制御部210の制御に基づき、前方バッファー部701から前方領域に対応する画像信号を画像倍率調整部703へ転送する。画像倍率調整部703は、制御部210の制御に基づき、切替部301からのマスクデータ及び係数保存部705から所定の調整倍率係数を抽出して公知の拡大縮小処理で前方領域に対応する画像信号を拡大して変倍画像合成部704へ転送する。調整倍率係数は、前方視野と側方視野の間の死角となる境界領域及びグラデーションの特性に基づき事前に設計し、係数保存部705へ保存する。一方、側方バッファー部702は、制御部210の制御に基づき、側方領域に対応する画像信号を変倍画像合成部704へ転送する。変倍画像合成部704は、制御部210の制御に基づき、切替部301からのマスクデータを用いて、画像倍率調整部703からの前方領域に対応する拡大後の画像信号と側方バッファー部702からの側方領域に対応する画像信号を合成する。このような処理を行うことで図15に示したように、前方領域に対応する画像信号の拡大により、黒い帯状領域の表示面積が小さくなっている。
なお、図16に示されているように側方領域に対応する画像信号を所定の調整倍率係数で拡大して、前方領域に対応する画像信号をそのままで合成する構成にしてもよい。或いは、制御部210の制御に基づき、ユーザーが外部I/F部211を介して拡大領域を選定する構成にしてもよい。
このようにすることによって、診断時に医者に与える可能性がある黒い帯状領域によるストレスを軽減する効果が得られる。
また、境界領域補正処理が付加された合成部304(境界領域補正部)は、図2に示したように観察光学系の光軸を中心とした円形状(ただし真円に限定されるものではない)の領域となる境界領域において、前方領域及び側方領域の少なくとも一方の変倍処理を行うことで、境界領域を縮小する補正を行ってもよい。
これにより、図2のような形状の境界領域を縮小する補正が可能になる。前方領域及び側方領域の少なくとも一方の変倍処理とは、図15に示したように前方領域を外側に拡大する処理であってもよいし、図16に示したように側方領域を内側に拡大する処理であってもよい。また、これらに限定されず、前方領域と側方領域の両方の変倍処理を行ってもよい。境界領域を縮小することで観察を円滑に進めることが可能になる。
また、境界領域補正処理が付加された合成部304(境界領域補正部)は、倍率色収差補正部206により前方倍率色収差補正処理が行われた後の前方領域に対して変倍処理を行ってもよいし、倍率色収差補正部206により側方倍率色収差補正処理が行われた後の側方領域に対して変倍処理を行ってもよい。
これにより、合成部304による変倍処理は倍率色収差補正部206による倍率色収差補正処理後に行うことが可能になる。倍率色収差補正前は、本来同一の座標に存在するべきR画像信号、G画像信号、B画像信号が異なる座標に存在してしまっている。よって、倍率色収差補正処理の前に変倍処理を行ってしまうと、各画像信号のずれ量(本実施形態では例えばG画像信号に対するR画像信号とB画像信号のずれ量)が変化してしまうため、倍率色収差補正処理に用いるパラメータを変更する必要が生じてしまう。よって、合成部304による変倍処理は、倍率色収差補正処理後に行うことが望ましい。
また、判定情報保存部402は、前方領域及び側方領域を規定するデータであるマスクデータを判定情報として保存してもよい。
これにより、マスクデータを用いた領域判定が可能になる。マスクデータとしては、図6に示したようなデータを用いればよい。判定情報であるマスクデータは上述したように事前計算が可能であり、実際に判定処理を行う際の負荷を軽減することができる。
また、倍率色収差補正部206は、側方視野を観察する側方観察光学系の光軸を中心とした円形状(ただし真円に限定されるものではない)の領域に対して、側方倍率色収差補正処理を行ってもよい。
これにより、図2に示したような円形状(厳密には中心部分が抜けたドーナツ形状)の側方領域に対して、側方倍率色収差補正処理を行うことが可能になる。
また、内視鏡用画像処理装置は、図3に示したように、倍率色収差補正処理に用いられる補正係数を保存する補正係数保存部212を含んでもよい。
これにより、倍率色収差補正処理に用いられるパラメータを補正係数として保存しておくことが可能になる。補正係数保存部212に保存される補正係数も光学系の設計により決定されるため、判定情報保存部402に保存される判定情報と同様に事前計算が可能である。そのため、補正係数保存部212を設け補正係数を保存しておくことで、倍率色収差補正処理時の処理負荷を軽減することができる。
また、第1〜第N(Nは2以上の整数)の色信号における第i(iは1≦i≦Nの整数)の色信号の像高の自乗値を像高自乗とし、前記第iの色信号の像高と第k(kはk≠i、1≦k≦Nの整数)の色信号の像高の比を像高比とした場合に、補正係数保存部212は、像高自乗と像高比との対応関係を決定する係数を、補正係数として保存してもよい。
これにより、式(4)及び(5)におけるαr、βr、γr及びαb、βb、γbを補正係数として保存しておくことが可能になる。本実施形態においては、色信号はRGBの3つであり、第iの色信号がG画像信号に対応し、第kの色信号がR画像信号及びB画像信号に対応する。また、第iの色信号の像高の自乗値である像高自乗とは式(1)のQに対応し(Qは厳密には像高Xgの自乗値と、像高最大値Xmaxの自乗値の比)、像高比とは式(2)のY(R)及び式(3)のY(B)に対応する。
また、補正係数保存部212は、前方倍率色収差補正処理に用いられる前方補正係数を補正係数として保存してもよいし、側方倍率色収差補正処理に用いられる側方補正係数を補正係数として保存してもよい。
これにより、前方倍率色収差補正処理に用いられる前方補正係数と、側方倍率色収差補正処理に用いられる側方補正係数とを異なる値として保存しておくことが可能になる(光学系の設計次第では同じ値になることを妨げるものではない)。一般的に前方観察光学系と側方観察光学系では、光学系の条件が異なる。これは前方観察光学系と側方観察光学系が異なる2系統の光学系である場合はもちろん、1つの光学系を時系列的に切り替える場合も同様である。よって、前方視野と側方視野のどちらを観察しているかに応じて、倍率色収差補正処理に用いられる補正係数を切り替える必要があるため、補正係数保存部212は、前方補正係数と側方補正係数を保存しておくとよい。具体的には、補正係数保存部212は、図4に示したように前方補正係数保存部305と側方補正係数保存部306とを含んでもよい。
また、画像取得部(例えばAD変換部204)は、撮像素子により取得された画像信号に基づいて前方画像及び側方画像を取得する。そして、当該撮像素子は、ベイヤ方式、2板方式、3板方式、面順次方式のうちの少なくとも1つの撮像方式に対応する方式を用いて画像信号を取得してもよい。
これにより、本実施形態において上述してきた3板方式の撮像素子に限定されず、第2の実施形態において述べるように、単板(ベイヤ)方式や2板方式、面順次方式を用いて前方画像及び側方画像を取得することが可能になる。
また、倍率色収差補正部206は、前方視野を観察する前方観察光学系の光軸を中心とした円形状(ただし真円に限定されるものではない)の領域に対して、前方倍率色収差補正処理を行ってもよい。
これにより、図2に示したような円形状の前方領域に対して、前方倍率色収差補正処理を行うことが可能になる。
また、以上の本実施形態は、前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部(例えばAD変換部204)と、前方画像に対する倍率色収差補正処理である第1の倍率色収差補正処理と、側方画像に対する倍率色収差補正処理である第2の倍率色収差補正処理とを行う倍率色収差補正部206とを含む内視鏡用画像処理装置に関係する。
これにより、前方画像と側方画像を取得した上で、前方画像に対しては前方画像用の倍率色収差補正処理を行い、側方画像に対しては側方画像用の倍率色収差補正処理を行う内視鏡用画像処理装置を実現することが可能になる。前方画像と側方画像とで光学系の条件が異なるため、異なる倍率色収差補正処理が必要になることは上述してきたとおりである。
また、以上の本実施形態は、上述してきた内視鏡用画像処理装置を含む内視鏡装置に関係する。
これにより、本実施形態の内視鏡用画像処理装置を含む内視鏡装置を実現することが可能になる。前方視野と側方視野の両方を観察可能な広角の光学系を用いることで視野範囲を広くすることができる。そのため、内視鏡装置においては、生体のヒダの裏側のような、通常の光学系では観察が困難な領域を観察することが可能になり、病変の発見等が容易になる。そのような広角の光学系を用いることで、前方領域と側方領域とで倍率色収差補正処理を変化させなくてはならないという問題が生じるところ、本実施形態の手法を用いることで、それぞれの領域に対して適切に倍率色収差補正処理を行うことが可能になる。また、合成部304が境界領域補正処理を含む構成であれば、生体内の観察においてヒダ等と誤認する可能性のある境界領域を縮小することが可能になり、観察をよりスムーズにすることができる。
3.第2の実施形態
図17は、本実施形態の内視鏡用画像処理装置を含む内視鏡装置の構成例である。内視鏡装置は、挿入部102、ライトガイド103、光源部104、前方観察光学系201、側方観察光学系202、撮像素子203、AD変換部204、倍率色収差補正部215、画像処理部216、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212を備えている。また、光源部104、AD変換部204、倍率色収差補正部215、画像処理部216、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212は、プロセッサ部1000を構成している。本実施形態では、図18に示されているように撮像素子203は原色単板とする。
図17は、本実施形態の内視鏡用画像処理装置を含む内視鏡装置の構成例である。内視鏡装置は、挿入部102、ライトガイド103、光源部104、前方観察光学系201、側方観察光学系202、撮像素子203、AD変換部204、倍率色収差補正部215、画像処理部216、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212を備えている。また、光源部104、AD変換部204、倍率色収差補正部215、画像処理部216、表示部207、制御部210、外部I/F部211、合成部304及び補正係数保存部212は、プロセッサ部1000を構成している。本実施形態では、図18に示されているように撮像素子203は原色単板とする。
本実施形態において、第1の実施形態と同じ構成に関する内容を省略し、異なる部分のみを説明する。
AD変換部204は、倍率色収差補正部215、画像処理部216、合成部304を介して表示部207へ接続している。制御部210は、AD変換部204、倍率色収差補正部215、画像処理部216、表示部207、外部I/F部211及び合成部304と双方向に接続している。
AD変換部204は、撮像素子203からのアナログ画像信号をデジタル化して原色単板デジタル画像信号(以下画像信号と略称)として倍率色収差補正部215へ転送する。
第1の実施形態では、RGB3板の画像信号に対して倍率色収差補正を行うため、画素ごとにR画像信号とB画像信号に対してそれぞれ補正処理を行う。これに対して、本実施例では、原色単板の画像信号に対して倍率色収差を行うため、1画素には1種類の色画像信号しか対応していない。前方倍率色収差補正部302は、制御部210の制御に基づき、画素ごとに画像信号の色種類を判定する。R画像信号の場合には、G画像信号の像高対するR画像信号の像高比に基づき、R画像信号の像高を算出して補間処理により倍率ズレ量を補正する。B画像信号の場合には、G画像信号の像高対するB画像信号の像高比に基づき、B画像信号の像高を算出して補間処理により倍率ズレ量を補正する。G画像信号の場合には、倍率色補正処理を行わない。
なお、本実施形態の1つの変形例として、図19に示されているように撮像素子203は原色2板の構成であってもよい。R画像信号とB画像信号から構成するチャンネルにおいて、前方倍率色収差補正部302は、制御部210の制御に基づき、画素ごとに画像信号の色種類を判定する。R画像信号の場合には、G画像信号の像高対するR画像信号の像高比に基づき、R画像信号の像高を算出して補間処理により倍率ズレ量を補正する。B画像信号の場合には、G画像信号の像高対するB画像信号の像高比に基づき、B画像信号の像高を算出して補間処理により倍率ズレ量を補正する。一方、G画像信号から構成するチャンネルの画像信号に対して倍率色補正処理を行わない。
さらに、図20に示されているように撮像素子203が面順次方式の場合には、時系列方向にR画像信号から構成するRチャンネル画像信号、G画像信号から構成するGチャンネル画像信号、B画像信号から構成するBチャンネル画像信号が順次に入力される。その場合、Rチャンネル画像信号の場合には、画素ごとにG画像信号の像高対するR画像信号の像高比に基づき、R画像信号の像高を算出して補間処理により倍率ズレ量を補正する。Bチャンネル画像信号の場合には、画素ごとにG画像信号の像高対するB画像信号の像高比に基づき、B画像信号の像高を算出して補間処理により倍率ズレ量を補正する。一方、Gチャンネル画像信号に対して倍率色補正処理を行わない。
また、本実施形態では、前方観察光学系の光軸のずれ(例えば製造工程において発生するずれ)を補正してから倍率色収差補正を行ってもよい。前方観察光学系の光軸のずれ量(px,py)を事前に測定し前方補正係数保存部305に保存する。
本実施形態では、前方像高算出部501の相対位置算出部601は、制御部210の制御に基づき、前方補正係数保存部305から前方領域の中心点(前方対物レンズ光学系の光軸中心に対応する画素)座標(Xf,Yf)及び前方観察光学系の光軸のずれ量(px,py)を抽出する。そして、下式(12)により光軸中心に対する注目画素の相対位置(posX,posY)を算出し、像高自乗算出部602へ転送する。
posX=i−Xf−px
posY=j−Yf−py ・・・・・(12)
ただし、iは注目画素の横軸座標であり、jは注目座標の縦軸座標である。
posY=j−Yf−py ・・・・・(12)
ただし、iは注目画素の横軸座標であり、jは注目座標の縦軸座標である。
続いて、像高自乗算出部602は、制御部210の制御に基づき、注目画素の相対位置(posX,posY)と、前方補正係数保存部305に保存されている前方領域に対応する円形の半径Rfとから、上式(1)によりG画像信号の像高自乗Qを算出し、像高比算出部603へ転送する。次に、像高比算出部603は、制御部210の制御に基づき、前方補正係数保存部305から像高比係数を抽出し、上式(4)によりR画像信号の像高比Y(R)を算出するとともに、上式(5)によりB画像信号の像高比Y(B)を算出し、実像高算出部604へ転送する。さらに、実像高算出部604は、制御部210の制御に基づき、前方補正係数保存部305から前方領域の中心点(前方対物レンズ光学系の光軸中心に対応する画素)座標(Xf,Yf)を抽出して、下式(13)及び(14)により注目画素のR画像信号とB画像信号の換算座標値を算出する。
RealX(R)=Y(R)×posX+Xf+px
RealY(R)=Y(R)×posY+Yf+py ・・・・・(13)
RealX(B)=Y(B)×posX+Xf+px
RealY(B)=Y(B)×posY+Yf+py ・・・・・(14)
ただし、RealX(R)は注目画素のR画像信号の換算横軸座標値であり、RealY(R)は注目画素のR画像信号の換算縦軸座標値である。また、RealX(B)は注目画素のB画像信号の換算横軸座標値であり、RealY(B)は注目画素のB画像信号の換算縦軸座標値である。算出した注目画素のR画像信号とB画像信号の換算座標値情報を前方補間部502へ転送する。
RealY(R)=Y(R)×posY+Yf+py ・・・・・(13)
RealX(B)=Y(B)×posX+Xf+px
RealY(B)=Y(B)×posY+Yf+py ・・・・・(14)
ただし、RealX(R)は注目画素のR画像信号の換算横軸座標値であり、RealY(R)は注目画素のR画像信号の換算縦軸座標値である。また、RealX(B)は注目画素のB画像信号の換算横軸座標値であり、RealY(B)は注目画素のB画像信号の換算縦軸座標値である。算出した注目画素のR画像信号とB画像信号の換算座標値情報を前方補間部502へ転送する。
画像処理部216は、制御部210の制御に基づき、倍率色収差補正部215からの原色単板画像信号に対して公知の画像信号処理を行う。原色単板から原色3板補間処理、ホワイトバランス処理、カラーマネージメント処理、階調変換処理などを行う。処理後のRGB信号を表示部207へ転送する。
なお、側方観察光学系の光軸のずれについて、前方観察光学系の場合と同様に補正してもよい。その場合、上式(12)〜(14)におけるXf,YfをXs,Ysに変更する必要がある。また、側方観察光学系の光軸のずれ量(px’,py’)を事前に測定しておき、上式(12)〜(14)におけるpx,pyをpx’,py’に変更する。
以上の本実施形態では、補正係数保存部212は、前方観察光学系の光軸のずれの補正に用いられる前方光軸ずれ補正係数を保存してもよいし、側方観察光学系の光軸のずれの補正に用いられる側方光軸ずれ補正係数を保存してもよい。
これにより、観察光学系の光軸のずれを補正した上で倍率色収差補正処理を行うことが可能になる。上式(6)〜(8)或いは上式(12)〜(14)で示したように、像高は光軸中心に対応する座標値を基準として算出する。よって、光軸にずれが生じている場合には適切な補正を行わないと倍率色収差補正処理に影響が及んでしまう。そこで本実施形態では、光軸のずれ(例えば製造時等に生じることが考えられる)を補正係数保存部212に保存しておき、倍率色収差補正処理の際に光軸のずれを補正している。具体的には上式(12)〜(14)におけるpx、pyである(側方の場合は異なる値px’、py’となる)。図4に示したように、補正係数保存部212が前方補正係数保存部305と側方補正係数保存部306を含む場合には、前方補正係数保存部305において前方光軸ずれ補正係数を保存し、側方補正係数保存部306において側方光軸ずれ補正係数を保存してもよい。
以上、本発明を適用した2つの実施の形態1〜2およびその変形例について説明したが、本発明は、各実施の形態1〜2やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜2や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜2や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
101 被写体、102 挿入部、103 ライトガイド、104 光源部、201 前方観察光学系、202 側方観察光学系、203 撮像素子、204 AD変換部、205 画像処理部、206 倍率色収差補正部、207 表示部、210 制御部、211 外部I/F部、212 補正係数保存部、215 倍率色収差補正部、216 画像処理部、301 切替部、302 前方倍率色収差補正部、303 側方倍率色収差補正部、304 合成部、305 前方補正係数保存部、306 側方補正係数保存部、401 領域判定部、402 判定情報保存部、501 前方像高算出部、502 前方補間部、511 側方像高算出部、601 相対位置算出部、602 像高自乗算出部、603 像高比算出部、604 実像高算出部、701 前方バッファー部、702 側方バッファー部、703 画像倍率調整部、704 変倍画像合成部、705 係数保存部、1000 プロセッサ部
Claims (19)
- 前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部と、
観察光学系により生じた倍率色収差を補正する倍率色収差補正部と、
を含み、
前記倍率色収差補正部は、
処理対象画像信号が前記前方視野及び前記側方視野のいずれに対応するかの判定処理を行うとともに、前記処理対象画像信号が前記前方視野に対応すると判定された場合には、前記倍率色収差補正処理として、前方倍率色収差補正処理を行うことを特徴とする内視鏡用画像処理装置。 - 請求項1において、
前記倍率色収差補正部は、
前記処理対象画像信号が前記側方視野に対応すると判定された場合には、前記倍率色収差補正処理として、側方倍率色収差補正処理を行うことを特徴とする内視鏡用画像処理装置。 - 請求項2において、
前記画像取得部は、
前記前方画像及び前記側方画像が1枚の画像として形成された画像信号を取得し、
前記倍率色収差補正部は、
取得した前記1枚の画像の中で、前記処理対象画像信号が前記前方視野及び前記側方視野のいずれに対応するかの前記判定処理を行うための判定情報を保存する判定情報保存部を含むことを特徴とする内視鏡用画像処理装置。 - 請求項3において、
前記1枚の画像における前記前方視野に対応する領域を前方領域とし、前記1枚の画像における前記側方視野に対応する領域を側方領域とした場合に、
前記前方領域と前記側方領域の境界となる領域である境界領域を縮小する補正を行う境界領域補正部を含むことを特徴とする内視鏡用画像処理装置。 - 請求項4において、
前記境界領域補正部は、
前記観察光学系の光軸を中心とした円形状の領域となる前記境界領域において、前記前方領域及び前記側方領域の少なくとも一方の変倍処理を行うことで前記境界領域を縮小する補正を行うことを特徴とする内視鏡用画像処理装置。 - 請求項5において、
前記境界領域補正部は、
前記倍率色収差補正部により前記前方倍率色収差補正処理が行われた後の前記前方領域に対して変倍処理を行うことを特徴とする内視鏡用画像処理装置。 - 請求項5において、
前記境界領域補正部は、
前記倍率色収差補正部により前記側方倍率色収差補正処理が行われた後の前記側方領域に対して変倍処理を行うことを特徴とする内視鏡用画像処理装置。 - 請求項3において、
前記1枚の画像における前記前方視野に対応する領域を前方領域とし、前記1枚の画像における前記側方視野に対応する領域を側方領域とした場合に、
前記判定情報保存部は、
前記前方領域及び前記側方領域を規定するデータであるマスクデータを、前記判定情報として保存することを特徴とする内視鏡用画像処理装置。 - 請求項2において、
前記倍率色収差補正部は、
前記側方視野を観察する前記観察光学系の光軸を中心とした円形状の領域に対して、前記側方倍率色収差補正処理を行うことを特徴とする内視鏡用画像処理装置。 - 請求項1において、
前記倍率色収差補正処理に用いられる補正係数を保存する補正係数保存部を含むことを特徴とする内視鏡用画像処理装置。 - 請求項10において、
第1〜第N(Nは2以上の整数)の色信号における第i(iは1≦i≦Nの整数)の色信号の像高の自乗値を像高自乗とし、前記第iの色信号の像高と第k(kはk≠i、1≦k≦Nの整数)の色信号の像高の比を像高比とした場合に、
前記補正係数保存部は、
前記像高自乗と前記像高比との対応関係を決定する係数を、前記補正係数として保存することを特徴とする内視鏡用画像処理装置。 - 請求項10において、
前記補正係数保存部は、
前記前方倍率色収差補正処理に用いられる前方補正係数を、前記補正係数として保存することを特徴とする内視鏡用画像処理装置。 - 請求項10において、
前記倍率色収差補正部は、
前記領域判定部により前記処理対象画像信号が前記側方領域に対応すると判定された場合には、前記倍率色収差補正処理として、側方倍率色収差補正処理を行い、
前記補正係数保存部は、
前記側方倍率色収差補正処理に用いられる側方補正係数を、前記補正係数として保存することを特徴とする内視鏡用画像処理装置。 - 請求項1において、
前記画像取得部は、
撮像素子により取得された画像信号に基づいて前記前方画像及び前記側方画像を取得し、
前記撮像素子は、
ベイヤ方式、2板方式、3板方式及び面順次方式のうちの少なくとも1つの撮像方式に対応する方式を用いて、前記画像信号を取得することを特徴とする内視鏡用画像処理装置。 - 請求項1において、
前記倍率色収差補正部は、
前記前方視野を観察する前記観察光学系の光軸を中心とした円形状の領域に対して、前記前方倍率色収差補正処理を行うことを特徴とする内視鏡用画像処理装置。 - 請求項15において、
前記倍率色収差補正処理に用いられる補正係数を保存する補正係数保存部を含み、
前記補正係数保存部は、
前記前方視野を観察する前記観察光学系の前記光軸のずれの補正に用いられる前方光軸ずれ補正係数を保存することを特徴とする内視鏡用画像処理装置。 - 請求項9において、
前記倍率色収差補正処理に用いられる補正係数を保存する補正係数保存部を含み、
前記補正係数保存部は、
前記側方視野を観察する前記観察光学系の前記光軸のずれの補正に用いられる側方光軸ずれ補正係数を保存することを特徴とする内視鏡用画像処理装置。 - 前方視野に対応する前方画像及び側方視野に対応する側方画像を取得する画像取得部と、
前記前方画像に対する倍率色収差補正処理である第1の倍率色収差補正処理と、前記側方視野に対する倍率色収差補正処理である第2の倍率色収差補正処理を行う倍率色収差補正部と、
を含むことを特徴とする内視鏡用画像処理装置。 - 請求項1乃至18のいずれかに記載の内視鏡用画像処理装置を含むことを特徴とする内視鏡装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011208765A JP2013066648A (ja) | 2011-09-26 | 2011-09-26 | 内視鏡用画像処理装置及び内視鏡装置 |
| US13/615,507 US20130076879A1 (en) | 2011-09-26 | 2012-09-13 | Endoscopic image processing device, endoscope apparatus, and image processing method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011208765A JP2013066648A (ja) | 2011-09-26 | 2011-09-26 | 内視鏡用画像処理装置及び内視鏡装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2013066648A true JP2013066648A (ja) | 2013-04-18 |
Family
ID=47910864
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011208765A Pending JP2013066648A (ja) | 2011-09-26 | 2011-09-26 | 内視鏡用画像処理装置及び内視鏡装置 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US20130076879A1 (ja) |
| JP (1) | JP2013066648A (ja) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2015156176A1 (ja) * | 2014-04-08 | 2015-10-15 | オリンパス株式会社 | 内視鏡システム |
| WO2016043063A1 (ja) * | 2014-09-18 | 2016-03-24 | ソニー株式会社 | 画像処理装置および画像処理方法 |
| WO2016104368A1 (ja) * | 2014-12-22 | 2016-06-30 | オリンパス株式会社 | 内視鏡システム及び画像処理方法 |
| WO2017212768A1 (ja) * | 2016-06-07 | 2017-12-14 | オリンパス株式会社 | 画像処理装置、内視鏡システム、画像処理方法およびプログラム |
| US10602916B2 (en) | 2014-09-08 | 2020-03-31 | Olympus Corporation | Endoscope system that adjusts luminance of frame image including images of a pluraliry of regions and actuating method for endoscope system |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP2756790B1 (en) * | 2012-06-01 | 2019-06-05 | Olympus Corporation | Endoscopic system |
| JP5974205B1 (ja) * | 2014-12-02 | 2016-08-23 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法 |
| JP6779089B2 (ja) * | 2016-10-05 | 2020-11-04 | 富士フイルム株式会社 | 内視鏡システム及び内視鏡システムの駆動方法 |
| JP6981915B2 (ja) * | 2018-04-19 | 2021-12-17 | 富士フイルム株式会社 | 内視鏡用光学系および内視鏡 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006135805A (ja) * | 2004-11-08 | 2006-05-25 | Nippon Hoso Kyokai <Nhk> | 倍率色収差補正装置、倍率色収差補正方法及び倍率色収差補正プログラム |
| JP2008257123A (ja) * | 2007-04-09 | 2008-10-23 | Olympus Corp | 観察光学系 |
| WO2011055614A1 (ja) * | 2009-11-06 | 2011-05-12 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003265411A (ja) * | 2002-03-20 | 2003-09-24 | Pentax Corp | 電子内視鏡装置および電子内視鏡および映像信号処理装置 |
| US8089555B2 (en) * | 2007-05-25 | 2012-01-03 | Zoran Corporation | Optical chromatic aberration correction and calibration in digital cameras |
| JP5123747B2 (ja) * | 2008-06-18 | 2013-01-23 | キヤノン株式会社 | 画像表示装置およびその制御方法 |
| US9492063B2 (en) * | 2009-06-18 | 2016-11-15 | Endochoice Innovation Center Ltd. | Multi-viewing element endoscope |
| US20110018993A1 (en) * | 2009-07-24 | 2011-01-27 | Sen Wang | Ranging apparatus using split complementary color filters |
| US8398549B2 (en) * | 2010-02-16 | 2013-03-19 | Duke University | Ultrasound methods, systems and computer program products for imaging contrasting objects using combined images |
| JP5188651B2 (ja) * | 2010-03-31 | 2013-04-24 | キヤノン株式会社 | 画像処理装置、およびそれを用いた撮像装置 |
| CN102844788B (zh) * | 2010-03-31 | 2016-02-10 | 佳能株式会社 | 图像处理装置及使用该图像处理装置的图像拾取装置 |
| WO2011121760A1 (ja) * | 2010-03-31 | 2011-10-06 | キヤノン株式会社 | 画像処理装置、およびそれを用いた撮像装置 |
-
2011
- 2011-09-26 JP JP2011208765A patent/JP2013066648A/ja active Pending
-
2012
- 2012-09-13 US US13/615,507 patent/US20130076879A1/en not_active Abandoned
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006135805A (ja) * | 2004-11-08 | 2006-05-25 | Nippon Hoso Kyokai <Nhk> | 倍率色収差補正装置、倍率色収差補正方法及び倍率色収差補正プログラム |
| JP2008257123A (ja) * | 2007-04-09 | 2008-10-23 | Olympus Corp | 観察光学系 |
| WO2011055614A1 (ja) * | 2009-11-06 | 2011-05-12 | オリンパスメディカルシステムズ株式会社 | 内視鏡システム |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2015156176A1 (ja) * | 2014-04-08 | 2015-10-15 | オリンパス株式会社 | 内視鏡システム |
| JPWO2015156176A1 (ja) * | 2014-04-08 | 2017-04-13 | オリンパス株式会社 | 内視鏡システム |
| US10602916B2 (en) | 2014-09-08 | 2020-03-31 | Olympus Corporation | Endoscope system that adjusts luminance of frame image including images of a pluraliry of regions and actuating method for endoscope system |
| WO2016043063A1 (ja) * | 2014-09-18 | 2016-03-24 | ソニー株式会社 | 画像処理装置および画像処理方法 |
| US10701339B2 (en) | 2014-09-18 | 2020-06-30 | Sony Corporation | Image processing device and image processing method |
| WO2016104368A1 (ja) * | 2014-12-22 | 2016-06-30 | オリンパス株式会社 | 内視鏡システム及び画像処理方法 |
| JP5977912B1 (ja) * | 2014-12-22 | 2016-08-24 | オリンパス株式会社 | 内視鏡システム及び内視鏡ビデオプロセッサ |
| US9848124B2 (en) | 2014-12-22 | 2017-12-19 | Olympus Corporation | Endoscope system and endoscope video processor |
| WO2017212768A1 (ja) * | 2016-06-07 | 2017-12-14 | オリンパス株式会社 | 画像処理装置、内視鏡システム、画像処理方法およびプログラム |
| JPWO2017212768A1 (ja) * | 2016-06-07 | 2018-06-14 | オリンパス株式会社 | 画像処理装置、内視鏡システム、画像処理方法およびプログラム |
| US10702133B2 (en) | 2016-06-07 | 2020-07-07 | Olympus Corporation | Image processing device, endoscope system, image processing method, and computer-readable recording medium |
Also Published As
| Publication number | Publication date |
|---|---|
| US20130076879A1 (en) | 2013-03-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2013066648A (ja) | 内視鏡用画像処理装置及び内視鏡装置 | |
| JP5864880B2 (ja) | 内視鏡装置及び内視鏡装置の作動方法 | |
| JP6840846B2 (ja) | 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置 | |
| US8531510B2 (en) | Endoscope apparatus | |
| US9888831B2 (en) | Imaging device and imaging method | |
| CN103874951B (zh) | 对焦控制装置、内窥镜系统和对焦控制方法 | |
| JP5814698B2 (ja) | 自動露光制御装置、制御装置、内視鏡装置及び内視鏡装置の作動方法 | |
| US9154745B2 (en) | Endscope apparatus and program | |
| JP6137921B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
| JP4986965B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラム及び撮像装置 | |
| US8711252B2 (en) | Image processing device and information storage medium including motion vector information calculation | |
| US8854448B2 (en) | Image processing apparatus, image display system, and image processing method and program | |
| EP2762059A1 (en) | Image processing device for use with endoscope, endoscope, and image processing method | |
| JPWO2013061819A1 (ja) | 内視鏡システム | |
| EP3169053B1 (en) | Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
| JP6242072B2 (ja) | 画像処理装置、プログラム及び画像処理装置の作動方法 | |
| JPWO2011074104A1 (ja) | 画像処理装置およびそれを用いた撮像装置 | |
| JP2012205619A (ja) | 画像処理装置、制御装置、内視鏡装置、画像処理方法及び画像処理プログラム | |
| US9672596B2 (en) | Image processing apparatus to generate a reduced image of an endoscopic image | |
| US11419482B2 (en) | Endoscope apparatus, control method of endoscope apparatus, and recording medium | |
| JP2015115733A (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
| JP5645981B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
| CN105828695B (zh) | 图像处理装置 | |
| JP2012120618A (ja) | 制御装置、内視鏡装置及び絞り制御方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20131004 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140318 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140320 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20140708 |