[go: up one dir, main page]

WO2013035450A1 - 蛍光観察装置 - Google Patents

蛍光観察装置 Download PDF

Info

Publication number
WO2013035450A1
WO2013035450A1 PCT/JP2012/068586 JP2012068586W WO2013035450A1 WO 2013035450 A1 WO2013035450 A1 WO 2013035450A1 JP 2012068586 W JP2012068586 W JP 2012068586W WO 2013035450 A1 WO2013035450 A1 WO 2013035450A1
Authority
WO
WIPO (PCT)
Prior art keywords
coefficient
unit
input
image
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2012/068586
Other languages
English (en)
French (fr)
Inventor
康成 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to CN201280042932.1A priority Critical patent/CN103764009B/zh
Priority to EP12830529.9A priority patent/EP2754380B1/en
Publication of WO2013035450A1 publication Critical patent/WO2013035450A1/ja
Priority to US14/197,614 priority patent/US9417188B2/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence

Definitions

  • the present invention relates to a fluorescence observation apparatus.
  • JP-A-62-247332 Japanese Patent Publication No. 3-58729 JP 2006-175052 A
  • the observation distance is simply obtained by dividing the fluorescent image by the reflected light image as in the past.
  • the effect of the observation angle cannot be corrected, and a certain error occurs.
  • a threshold value is set to distinguish between cancer and normal part, if the observation condition changes, the threshold value is not appropriate, and the cancer part may not be displayed or the normal part may be displayed brightly. sell.
  • An object of the present invention is to provide a fluorescence observation apparatus capable of reducing correction errors with respect to the effects of the observation distance and the observation angle and acquiring quantitative information of the subject.
  • One aspect of the present invention is an illumination unit that irradiates a subject with excitation light and reference light, and a fluorescence image acquisition unit that captures fluorescence generated in the subject by irradiation of the excitation light from the illumination unit and acquires a fluorescence image
  • a reference image acquisition unit that captures a return light that is returned from the subject by irradiation of the reference light from the illumination unit and acquires a reference image, and the reference image acquired by the reference image acquisition unit
  • a corrected fluorescent image generation unit that corrects the fluorescent image acquired by the fluorescent image acquisition unit to generate a corrected fluorescent image, and an average value of gradation values of the entire corrected fluorescent image generated by the corrected fluorescent image generation unit,
  • the gradation value based on the standard deviation of the gradation value, the first coefficient related to the weighting of the average value of the gradation values of the entire corrected fluorescent image, and the second coefficient related to the weighting of the standard deviation of the gradation value
  • Set threshold A threshold setting unit that performs determination, an
  • the fluorescence image of the fluorescence generated in the subject is acquired by the fluorescence image acquisition unit.
  • the reference image of the return light is acquired by the reference image acquisition unit.
  • the corrected fluorescence image generation unit corrects the fluorescence image for the same subject with the reference image, thereby generating a corrected fluorescence image in which a change in fluorescence intensity depending on the observation distance and the observation angle is reduced.
  • an area having a gradation value exceeding the gradation value threshold which is determined as an attention area by the extraction unit and extracted, is displayed in association with the reference image by the display unit.
  • the observer can observe the shape of the subject in association with the strong fluorescent region.
  • the threshold setting unit reflects the input result. Is set to at least one of the first coefficient and the second coefficient. Then, a new gradation value threshold is set based on the average value of the gradation values of the entire corrected fluorescent image, the standard deviation of the gradation values, and at least one of the set first coefficient and second coefficient. This makes it possible to set a gradation value threshold value for extracting a region of interest for each corrected fluorescent image using the determination result of the observer, and to reduce the correction error with respect to the influence of the observation distance and the observation angle. Information can be acquired.
  • the corrected fluorescence image generation unit may divide the fluorescence image by the reference image. By comprising in this way, a correction
  • the threshold value setting unit when the threshold value setting unit inputs that the determination is correct by the correct / incorrect input unit, one of the first coefficient and the second coefficient is set as a fixed value, and the other is maintained or reduced. It is good to do.
  • the gradation value threshold is appropriate. Therefore, in this case, one of the first coefficient and the second coefficient is fixed and the other is also maintained, that is, by maintaining the gradation value threshold, a necessary attention area is overlooked when the next attention area is extracted. There is a high possibility of being extracted without.
  • the threshold setting unit maintains the other when the tone value of the region of interest exceeds an upper tone value threshold value that is higher than the tone value threshold value by a predetermined ratio, When the value is lower than the upper gradation value threshold, the other may be made smaller.
  • the threshold value setting unit when the threshold value setting unit inputs that the determination is incorrect by the correct / incorrect input unit, one of the first coefficient and the second coefficient is set to a fixed value and the other is increased. It is good.
  • the area having a gradation value equal to or lower than the gradation value threshold from which the attention area is extracted is also regarded as the attention area in the subsequent extraction. It is unlikely that it should be extracted.
  • the area having a gradation value equal to or lower than the gradation value threshold from which the attention area is extracted is also regarded as the attention area in the subsequent extraction. It is unlikely that it should be extracted.
  • by fixing one of the first coefficient and the second coefficient and increasing the other to increase the gradation value threshold it is possible to suppress erroneous extraction of a region that does not need to be observed as a region of interest. Therefore, it is possible to efficiently extract the correct attention area.
  • the threshold value setting unit may calculate the gradation value threshold value by the following equation.
  • S0 a ⁇ m + b ⁇ ⁇ here
  • standard deviation of gradation values of the entire corrected fluorescent image
  • the extraction unit calculates an average value of the gradation values of the extraction region
  • the threshold setting unit calculates a third coefficient based on the average value of the gradation values of the extraction region
  • the storage unit stores the determination result and the third coefficient in association with each other
  • the threshold setting unit inputs that the determination is correct by the correct / incorrect input unit with respect to a new attention area
  • the past third stored in the storage unit corresponding to the input determination result
  • the lower one of the lower coefficient lower than the average value of the coefficient by a predetermined ratio and the current first coefficient may be set as a new first coefficient.
  • a new gradation value threshold can be set by the first coefficient reflecting not only the latest determination result but also the determination result in the past.
  • a lower one of the lower coefficient and the current first coefficient lower by a predetermined ratio than the average value of the past third coefficient calculated based on the average value of the gradation values of the extraction region is newly set.
  • the extraction unit calculates an average value of the gradation values of the extraction region
  • the threshold setting unit calculates a third coefficient based on the average value of the gradation values of the extraction region
  • the extraction unit calculates an average value of the gradation values of the extraction region
  • the threshold setting unit calculates a third coefficient based on the average value of the gradation values of the extraction region
  • the storage unit stores the determination result and the third coefficient in association with each other
  • the threshold setting unit inputs that the determination is correct by the correct / incorrect input unit with respect to a new attention area
  • the past third stored in the storage unit corresponding to the input determination result A standard deviation of the coefficient is calculated, and a lower coefficient obtained by subtracting the calculated standard deviation of the third coefficient from an average value of the past third coefficient stored in the storage unit, and a lower value of the current first coefficient
  • the new first person It is also possible to be.
  • the first coefficient is updated in consideration of variation between subjects, variation in elapsed time in the same subject, and variation in determination input by an observer, and a gradation value threshold is set more appropriately. be able to.
  • the extraction unit calculates an average value of the gradation values of the extraction region
  • the threshold setting unit calculates a third coefficient based on the average value of the gradation values of the extraction region
  • the threshold setting unit when the threshold value setting unit is input by the correct / incorrect input unit that the determination by the extraction unit is incorrect, the threshold setting unit is stored in the storage unit corresponding to the input determination result.
  • the average value of the past third coefficients may be used as a new first coefficient.
  • a new gradation value threshold value is set by the first coefficient determined by the average value of the third coefficients when the error is determined in the past. Is set. Therefore, it is possible to prevent wasteful extraction of an area that does not need to be observed as an attention area, and to efficiently extract the attention area.
  • the threshold value setting unit when the threshold value setting unit is input by the correct / incorrect input unit that the determination by the extraction unit is incorrect, the threshold value setting unit is stored in the storage unit corresponding to the input determination result.
  • the average value of the past third coefficients may be used as a new second coefficient.
  • the threshold value setting unit may calculate the third coefficient by the following equation.
  • b0 (m0 ⁇ a ⁇ m) / ⁇ here, b0: third coefficient m0: average value of gradation values in the extraction area
  • a first coefficient m: average value of gradation values of the entire corrected fluorescent image
  • standard deviation of gradation values of the entire corrected fluorescent image
  • the display unit may display the attention area and the reference light image so as to overlap each other.
  • the observer can grasp the correspondence between the attention area and the reference light image at a glance, and can observe not only the attention area but also the periphery thereof. Accordingly, the observer can obtain more detailed information, and more accurately determine whether the determination result by the extraction unit is correct.
  • the extraction unit may extract, as the region of interest, a region in which the number of pixels in the region exceeds the pixel number threshold among regions having a gradation value exceeding the threshold. By doing so, it is possible to prevent a region (such as noise) having a high gradation value but a small area from being extracted as a region of interest. Thereby, erroneous extraction due to noise can be suppressed, and the attention area can be efficiently extracted.
  • the image processing apparatus includes a storage unit that stores the gradation value of the region of interest and information related to past determination results in association with each other, and the display unit sets the gradation value of the region of interest for each region of interest. Information on the corresponding past determination result may be read from the storage unit and displayed.
  • the present invention it is possible to reduce a correction error with respect to the influence of the observation distance and the observation angle, and to obtain quantitative information of the subject.
  • FIG. 1 is a schematic configuration diagram of a fluorescence observation apparatus according to a first embodiment of the present invention. It is a flowchart shown about the setting of a threshold value. It is a flowchart shown about the setting of the coefficient of a standard deviation. It is a figure which shows an example of the selection which promotes the right or wrong of the extraction by the superimposition image displayed on the monitor of the fluorescence observation apparatus of FIG. 1, and an extraction part. It is a flowchart shown about the setting of the coefficient of the standard deviation in the fluorescence observation apparatus which concerns on the modification of 1st Embodiment of this invention. It is a schematic block diagram of the fluorescence observation apparatus which concerns on 2nd Embodiment of this invention. It is a figure explaining the data memorize
  • the fluorescence observation apparatus 100 includes an elongated insertion portion 2 that is inserted into the body, a light source (illumination unit) 10 that emits excitation light and illumination light, and excitation light from the light source 10.
  • an illumination unit (illumination unit) 20 that irradiates illumination light toward the subject F from the distal end 2a of the insertion unit 2 and imaging that is disposed at the distal end of the insertion unit 2 and acquires image information of a living tissue that is the subject F
  • a unit 30 an image processing unit 40 that processes image information acquired by the imaging unit 30; a monitor (display unit) 50 that displays an image processed by the image processing unit 40; and an input that an observer inputs. Part (correct / incorrect input part) 53.
  • the light source 10 includes a xenon lamp 11 that emits illumination light, an excitation light filter 13 that extracts excitation light and white light (reference light) from the light emitted from the xenon lamp 11, and excitation light that is extracted by the excitation light filter 13 and And a coupling lens 15 for condensing white light.
  • the excitation light filter 13 cuts out excitation light and white light having a wavelength band of 400 to 740 nm, for example.
  • the illumination unit 20 includes a light guide fiber 21 disposed over almost the entire length of the insertion portion 2 in the longitudinal direction and an illumination optical system 23 disposed at the distal end 2a of the insertion portion 2.
  • the light guide fiber 21 guides the excitation light and white light collected by the coupling lens 15 to the distal end 2 a of the insertion portion 2.
  • the illumination optical system 23 diffuses the excitation light and white light guided by the light guide fiber 21 to irradiate the subject F.
  • the imaging unit 30 collects return light returning from the subject F irradiated with excitation light and white light by the illumination unit 20, and a dichroic that branches the return light collected by the objective lens 31 for each wavelength. And a mirror 33.
  • the objective lens 31 is disposed in parallel with the illumination optical system 23 at the distal end 2 a of the insertion portion 2.
  • the dichroic mirror 33 reflects light (excitation light and fluorescence) of the return light that is longer than the excitation wavelength and transmits white light (return light) having a wavelength shorter than the excitation wavelength.
  • the imaging unit 30 includes an excitation light cut filter 35 that blocks excitation light and transmits only fluorescence (for example, near infrared fluorescence) out of excitation light and fluorescence reflected by the dichroic mirror 33, and an excitation light cut filter.
  • a condensing lens 37A that condenses the fluorescent light that has passed through 35 a fluorescent photographing unit 38 that photographs the fluorescent light collected by the condensing lens 37A, and a condensing lens 37B that condenses the white light that has passed through the dichroic mirror 33.
  • a white light photographing unit 39 for photographing the white light condensed by the condenser lens 37B.
  • the excitation light cut filter 35 is configured to transmit only fluorescence having a wavelength band of 760 to 850 nm, for example.
  • the fluorescence photographing unit 38 is, for example, a fluorescent high sensitivity monochrome CCD.
  • the fluorescence imaging unit 38 acquires fluorescence image information by imaging fluorescence.
  • the white light photographing unit 39 is a color CCD for white light, for example, and includes a mosaic filter (not shown).
  • the white light photographing unit 39 obtains white light image information by photographing white light.
  • the image processing unit 40 includes a fluorescence image generation unit (fluorescence image acquisition unit) 41 that generates a fluorescence image G1 from the fluorescence image information acquired by the fluorescence imaging unit 38, and white light image information acquired by the white light imaging unit 39.
  • a white light image generation unit (reference image acquisition unit) 42 that generates a white light image G2 from the image, and an image correction unit (correction fluorescent image generation unit) that corrects the fluorescent image G1 with the white light image G2 to generate a corrected fluorescent image G3.
  • a threshold value setting unit 45 for setting a threshold value (tone value threshold value) S0 of the gradation value in the corrected fluorescent image G3, and a gradation value equal to or higher than the threshold value S0 set by the threshold value setting unit 45 from the corrected fluorescent image G3.
  • An extraction unit 47 that extracts a region having the target region as a region of interest, and an image composition unit 49 that generates a superimposed image G4 in which the region of interest extracted by the extraction unit 47 and the white light image G2 are superimposed are provided.
  • the image correcting unit 43 corrects the fluorescent image G1 by dividing the fluorescent image G1 of the same subject F by the white light image G2. As a result, a corrected fluorescence image G3 is generated in which the change in fluorescence intensity depending on the observation distance, the observation angle, and the like in the fluorescence image G1 is reduced.
  • the image correction unit 43 sends the generated corrected fluorescence image G3 to the extraction unit 47 and the threshold setting unit 45, and sends the white light image G2 and the corrected fluorescence image G3 to the image composition unit 49 via the extraction unit 47. ing.
  • the extraction unit 47 measures the area (number of pixels) P of the extracted region, and if the area P is greater than a certain size, that is, if the area P is larger than a preset pixel number threshold P0, The area is determined as the attention area.
  • a region of interest having a gradation value equal to or greater than the threshold value S0 and having the number of pixels exceeding the pixel number threshold value P0 an area having a large number of pixels is first extracted from the areas extracted based on the gradation value.
  • a region having a high gradation value may be extracted from the regions extracted first depending on the number of pixels.
  • the extraction unit 47 sends the extracted information on the attention area to the threshold setting unit 45 and the image composition unit 49.
  • the extraction unit 47 calculates an average value (hereinafter referred to as “average gradation value of the attention area”) m0 of each pixel in the extracted attention area, and inputs it to the threshold setting section 45. ing.
  • the image composition unit 49 superimposes the corrected fluorescent image G3 generated by the image correction unit 43 by removing the background other than the region of interest extracted by the extraction unit 47 and superimposing it on the white light image G2.
  • An image G4 is generated.
  • the image composition unit 49 is configured to send the generated superimposed image G4 to the monitor 50.
  • the monitor 50 displays the superimposed image G4 generated by the image composition unit 49.
  • the monitor 50 displays a selection for prompting an observer such as a doctor to input whether or not the attention area extracted by the extraction unit 47 in the displayed superimposed image G4 is correct as a suspected lesion area. It has come to be. Examples of the selection prompting input include “Is the region of interest suspected of having a lesion (Y / N)?” Or the like.
  • the observer visually confirms the superimposed image G4 displayed on the monitor 7, and determines from the morphological characteristics such as the shape and color of the observed portion displayed in the corrected fluorescence image G3, the size and brightness of the attention area, and the like. It is determined whether the region of interest is a region suspected of having a lesion, and the determination result is input by the input unit 53.
  • the input unit 53 is an arbitrary input device such as a keyboard or a mouse.
  • the determination result by the observer input by the input unit 53 is input to the threshold setting unit 45.
  • the threshold setting unit 45 uses the following formulas (1) and (2) to calculate the average value of the gradation values of each pixel in the corrected fluorescent image G3 (the average of the gradation values of the entire corrected fluorescent image G3. M) and the standard deviation of the gradation value of each pixel in the corrected fluorescent image G3 (standard deviation of the gradation value of the entire corrected fluorescent image G3.
  • the threshold value setting unit 45 sets the coefficient (first coefficient) a and the coefficient (second coefficient) b so as to reflect the input result input by the input unit 53, and sets it as a new threshold value S0. Yes. Specifically, when the observer determines that “the attention area is suspected of being a lesion (Y)”, that is, “the threshold value for extracting the attention area by the extraction unit 47 is correct” (hereinafter referred to as “the attention area is correct”). , “Y judgment”), the threshold value setting unit 45 has an upper threshold value (upper tone value) in which the average tone value m0 of the attention area input from the extraction unit 47 is higher than the threshold value S0 by a predetermined ratio. It is determined whether or not the threshold value is below.
  • the threshold setting unit 45 decreases the values of the coefficients a and b when the average gradation value m0 of the attention area is below the upper threshold, and the average gradation value m0 of the attention area exceeds the upper threshold. In some cases, the values of the coefficients a and b are maintained.
  • the coefficient a 1 is fixed, and the coefficient b is updated as needed.
  • the upper threshold value is 1.1 ⁇ S0.
  • the coefficient b is updated to 0.9 ⁇ b.
  • the value of the coefficient b is maintained.
  • the threshold value setting unit 45 increases the value of the coefficient b.
  • the coefficient b is updated to 1.1 ⁇ b.
  • the threshold value S0 set by the threshold value setting unit 45 is input to the extraction unit 47, and is set in the extraction unit 47 as a new threshold value S0.
  • a new corrected fluorescence image G3 is generated, a region of interest is extracted with a new threshold value S0.
  • the same procedure is repeated, and the threshold value setting unit 45 sets the threshold value S0 for each corrected fluorescent image G3.
  • the fluorescence observation apparatus 100 configured as described above will be described.
  • the insertion portion 2 is inserted into the patient's body, and the distal end 2a thereof is opposed to the subject F.
  • the light source 10 is operated to generate excitation light and illumination light, which are incident on the light guide fiber 21 by the coupling lens 15. Excitation light and illumination light guided by the light guide fiber 21 and reaching the distal end 2a of the insertion portion 2 are diffused by the illumination optical system 23 and applied to the subject F.
  • the fluorescent substance contained therein is excited by excitation light to emit fluorescence, and part of the excitation light and white light are reflected on the surface of the subject F.
  • the fluorescence, white light, and excitation light return from the subject F to the distal end 2 a of the insertion portion 2, and a part of the fluorescence is collected by the objective lens 31.
  • the excitation light and fluorescence reflected by the dichroic mirror 33 the excitation light is removed by the excitation light cut filter 35, and only the fluorescence is condensed by the condenser lens 37A and photographed by the fluorescence photographing unit 38. As a result, the fluorescence image information of the subject F is acquired in the fluorescence imaging unit 38.
  • the white light transmitted through the dichroic mirror 33 is collected by the condensing lens 37B and photographed by the white light photographing unit 39. Thereby, white light image information of the subject F is acquired in the white light photographing unit 39. Either fluorescent image information or white light image information may be acquired first or at the same time.
  • the fluorescence image information acquired by the fluorescence imaging unit 38 and the white light image information acquired by the white light imaging unit 39 are sent to the image processing unit 40, respectively.
  • fluorescence image information is input to the fluorescence image generation unit 41 to generate a fluorescence image G1
  • white light image information is input to the white light image generation unit 42 to generate a white light image G2. .
  • the fluorescence image G1 generated by the light image generation unit 41 and the white light image G2 generated by the white light image generation unit 42 are sent to the image correction unit 43, and the fluorescence image G1 is divided by the white light image G2.
  • a corrected fluorescence image G3 is generated.
  • the generated corrected fluorescence image G3 is sent from the image correction unit 43 to the extraction unit 47 and the threshold setting unit 45.
  • the white light image G2 and the corrected fluorescence image G3 are sent from the image correction unit 43 to the image synthesis unit 49 via the extraction unit 47.
  • threshold setting by the threshold setting unit 45 will be described with reference to the flowchart shown in FIG.
  • the threshold value setting unit 45 acquires the corrected fluorescent image G3 sent from the image correcting unit 43 (step SA1)
  • the threshold setting unit 45 calculates the average gradation value m and the standard deviation ⁇ of the entire corrected fluorescent image G3 (step SA2).
  • the threshold value setting unit 45 uses the calculated average gradation value m and standard deviation ⁇ of the entire corrected fluorescence image G3, and calculates and sets the threshold value S0 according to equation (3) (step SA3).
  • the set threshold value S0 is input to the extraction unit 47.
  • the extraction unit 47 extracts a region having a gradation value equal to or higher than the first threshold value S0 in the corrected fluorescent image G3 (step SB1).
  • the area (number of pixels) P of the extracted region is measured by the extraction unit 47 (step SB2), and it is determined whether or not the area P is larger than the threshold value P0 (step SB3).
  • step SB3 “NO”) When the area P is smaller than the threshold value P0 (step SB3 “NO”), the process returns to step SB1.
  • a region such as noise
  • P0 the threshold value
  • step SB3 “NO” the process returns to step SB1.
  • the extraction unit 47 determines the extracted region as the attention region, and the threshold setting unit 45 and the image composition unit 49 store the attention region information. Sent. The extraction unit 47 calculates the average gradation value m0 of the attention area and sends it to the threshold setting unit 45 (step SB4).
  • the image combining unit 49 superimposes the corrected fluorescence image G3 from which the background other than the region of interest is removed with the white light image G2 (step SB5), and generates a superimposed image G4. Then, the superimposed image G4 is sent to the monitor 50, and as shown in FIG. 4, the superimposed image G4 and a selection for prompting input by the observer are simultaneously displayed on the monitor 50.
  • the observer can grasp at a glance the correspondence between the attention area and the white light image G2, and observe not only the attention area but also its surroundings. can do. Therefore, the observer can obtain more detailed information, and the correctness of the determination result by the extraction unit 47 can be determined more accurately.
  • the observer determines whether or not the displayed attention area is suspected to be a lesion while observing the superimposed image G4 displayed on the monitor 50, and inputs the determination result to the input unit 53 (step SB6). That is, whether or not the attention area extracted by the extraction unit 47 is correct is confirmed by an input by the observer. Then, the determination result input by the input unit 53 is input to the threshold setting unit 45.
  • the threshold setting unit 45 updates the coefficient b so as to reflect the input result. Specifically, when the determination input to the input unit 53 is Y determination (step SB7 “YES”), the threshold value setting unit 45 causes the average gradation value m0 of the attention area to be greater than the current threshold value S0. An upper threshold value (1.1 ⁇ S0) that is higher by a predetermined ratio is used to determine whether m0 ⁇ 1.1 ⁇ S0 is satisfied (step SB8).
  • the threshold value setting unit 45 updates the coefficient b to 0.9 ⁇ b (step SB9) and sets it as a new coefficient b (step SB11).
  • the coefficient b is decreased and the threshold value S0 is lowered, so that when the next attention area is extracted, an area having a gradation value lower than the current threshold value S0 is also the attention area. And a necessary attention area can be prevented from being overlooked.
  • the threshold value setting unit 45 maintains the value of the coefficient b as it is (step SB11).
  • the threshold value S0 is appropriate, and the necessary attention area can be extracted without being overlooked when the next attention area is extracted. High nature.
  • the coefficient b is set within a predetermined ratio (0.1 in the present embodiment) of the threshold value S0. It can be divided into cases of maintaining or reducing. Therefore, by appropriately selecting a predetermined ratio of the threshold value S0 for setting the upper threshold value, it is possible to efficiently extract the attention area while preventing an oversight of the attention area that needs to be observed.
  • step SB7 “NO” the determination input to the input unit 53 is N determination (step SB7 “NO”)
  • the coefficient b is updated to 1.1 ⁇ b (step SB10) and set as a new coefficient b (step SB10). Step SB11).
  • the coefficient b of the standard deviation ⁇ that determines the threshold value S0 for extracting the attention area is corrected using the observer's determination result. It is updated every G3, and a threshold value S0 is set for each corrected fluorescence image G3. As a result, it is possible to acquire quantitative information of the subject in which the correction error with respect to the influence of the observation distance and the observation angle is reduced.
  • m0 a ⁇ m + b0 ⁇ ⁇ (4)
  • b0 coefficient (third coefficient) It is.
  • the coefficient b when the determination result input by the input unit 53 is Y determination, the coefficient b is updated to 0.9 ⁇ b when m0 ⁇ 1.1 ⁇ S0 is satisfied.
  • the coefficient b may be updated using the following equation (6). That is, as in step SC8 of the flowchart shown in FIG. 5, 0.9 ⁇ b0 may be compared with b, and the smaller value may be set as a new coefficient. MIN (0.9 ⁇ b0, b) (6)
  • the value of the coefficient a is fixed and the value of the coefficient b is updated.
  • the value of the coefficient a may be updated and the value of the coefficient b may be fixed by a similar method. Both the value of coefficient a and the value of coefficient b may be updated.
  • the threshold value S0 is set based on the sum of the average gradation value m of the entire corrected fluorescent image G3 and the standard deviation ⁇ , but the average gradation value m of the entire corrected fluorescent image G3 and the standard value are set.
  • the threshold value S0 may be set using any one of the deviations ⁇ .
  • the image processing unit 40 includes a storage unit 55, and a threshold value is set according to the average value of the past coefficients a and b and the determination input result at that time. It differs from the first embodiment in that S0 is set.
  • portions having the same configuration as those of the fluorescence observation apparatus 100 according to the first embodiment are denoted by the same reference numerals and description thereof is omitted.
  • the storage unit 55 stores the average gradation value m0 of the region of interest, the threshold value S0, and the corrected fluorescence image G3.
  • the average gradation value m, the standard deviation ⁇ , the coefficients a and b, and the coefficient b0 are set and stored in association with the determination result. For example, it is assumed that these values are stored in the storage unit 55 as data as shown in FIG.
  • the threshold setting unit 45 reads all the past coefficients b0 stored in the storage unit 55 corresponding to the input determination result. Thus, the coefficient b is updated.
  • the threshold setting unit 45 calculates the average value AVE_Y (b0) of the coefficient b0 at the time of all past Y determinations read from the storage unit 55, and calculates the average value.
  • the coefficient b is updated using the equation (7).
  • the threshold setting unit 45 sets the value of 0.9 ⁇ AVE_Y (b0), which is a lower coefficient lower than the calculated average value AVE_Y (b0) of the coefficient b0 by a predetermined ratio, and the current coefficient b. The value is compared, and the smaller value is set as a new coefficient b.
  • AVE_Y (b0) an average value of the coefficient b0 at the time of past Y determination.
  • the threshold setting unit 45 calculates an average value AVE_N (b0) of the coefficient b0 at the time of all past N determinations read from the storage unit 55, and calculates the average value.
  • the value of AVE_N (b0) is set as a new coefficient b. Thereby, the threshold value S0 changes as shown in FIG.
  • a new threshold value S0 can be set with a coefficient b reflecting not only the latest determination result but also the past determination result.
  • the value of the lower coefficient 0.9 ⁇ AVE_Y (b0) lower than the average value AVE_Y (b0) of the past coefficient b0 stored in the storage unit 55 and the value of the current coefficient b By setting the lower coefficient as the new coefficient b, it is possible to extract a region suspected of having a lesion more accurately.
  • the threshold setting unit 45 calculates the standard deviation SD (b0) of the coefficient b0 at the time of all past Y determinations stored in the storage unit 55 corresponding to the input determination result. It may be calculated. Then, the calculated standard deviation SD (b0) of the past coefficient b0 is subtracted from the average value AVE_Y (b0) of the coefficient b0 at the time of all past Y determinations, and AVE_Y (b0) which is a lower coefficient after the subtraction. The lower one of the value of ⁇ SD (b0) and the current coefficient b may be set as a new coefficient b.
  • the coefficient b can be updated by taking into account variations among subjects, variations in elapsed time in the same subject, and variations in determination input by the observer, and the threshold value S0 can be set more appropriately.
  • a new threshold value S0 at the time of Y determination may be set as MIN (AVE_Y (b0) -3 ⁇ SD (b0), b).
  • a new threshold value S0 at the time of Y determination may be set as MIN (AVE_Y (b0) -1 ⁇ SD (b0), b).
  • the coefficient of SD (b0) (coefficient 3 and coefficient 1 in this modification) can be arbitrarily changed to set an appropriate threshold value S0 according to the purpose of the inspection. is there.
  • the image processing unit 40 receives the average gradation value m0 of the attention area calculated by the extraction unit 47 and the information on the past determination result input by the input unit 8, and handles these. It is good also as providing the preservation
  • the monitor 50 may read out information related to past determination results corresponding to the average gradation value m0 from the storage unit and display it for each attention area.
  • the coefficient a0 may be calculated based on the equation (8) and the value of the coefficient a may be changed.
  • a0 (m0 ⁇ b ⁇ ⁇ ) / m (8)
  • the value of the coefficient a is fixed and the value of the coefficient b is updated, but the value of the coefficient a may be updated and the value of the coefficient b may be fixed by the same method. Both the value of coefficient a and the value of coefficient b may be updated.
  • the standard deviation SD (a0) of the coefficient a0 at the time of all past Y determinations is calculated, and the lower coefficient AVE_Y (a0) ⁇ SD (a0) and the current coefficient a lower are calculated as new coefficients. It is good also as a.
  • the threshold value S0 may be set using either the average gradation value m or the standard deviation ⁇ of the entire corrected fluorescent image G3.
  • the attention area of the corrected fluorescent image G3 and the white light image G2 are superimposed and displayed on the monitor 50 by the image combining unit 49.
  • the corrected fluorescent image G3 and the white light image G2 are displayed. You may display on the monitor 50 in parallel.
  • the attention area may be displayed on the corrected fluorescent image G3 by outline display. In this way, more detailed information can be provided to the observer than when only the region of interest cut out by the threshold value S0 is displayed, and the determination can be made more accurately.
  • the extraction unit 47 may extract two or more different areas that are equal to or greater than two different threshold values, and display them on the monitor 50 using different display methods. For example, the extraction unit 47 may extract a region where the average gradation value m0 of the attention region exceeds the threshold value S0 and a region where, for example, the value exceeds 80% of the threshold value S0.
  • the extraction unit 47 calculates the average gradation value m0 of the attention area, but other values may be obtained. For example, the lowest gradation value having the lowest gradation value in the attention area may be used, or the highest highest gradation value in the attention area may be obtained.
  • the image composition unit 49 make a determination so that the observer knows which attention area the correctness determination is input to. It is good also as producing
  • the order of determination for a plurality of attention areas it is also possible to determine the order of determination for a plurality of attention areas, and blink only the display of the attention area to be determined according to the determined order.
  • the attention area once inputted with the determination may be displayed so that it can be determined that the determination has been made, for example, by changing the color, in order to prevent duplicate determination input.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Endoscopes (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Theoretical Computer Science (AREA)

Abstract

 補正誤差を低減して被写体の定量的な情報を取得する。光源(10)と、励起光が照射された被写体Fの蛍光画像(G1)を取得する蛍光画像生成部(41)と、照明光が照射された被写体Fの白色光画像(G2)を取得する白色光画像生成部(42)と、これらの画像(G1,G2)により補正蛍光画像(G3)を生成する画像補正部(43)と、画像(G3)全体の階調値の平均値およびその第1係数と、画像(G3)の階調値の標準偏差およびその第2係数に基づいて閾値を設定する閾値設定部(45)と、その閾値を超える階調値を有する画像(G3)上の領域を注目領域と判定して抽出する抽出部(47)と、その注目領域と画像(G2)とを対応づけて表示するモニタ(50)と、抽出部(47)による判定の正否を観察者に入力させる入力部(53)とを備え、閾値設定部(45)が、入力部(53)により入力された入力結果を反映させるように第1係数および第2係数の少なくとも一方を設定する蛍光観察装置(100)を提供する。

Description

蛍光観察装置
 本発明は、蛍光観察装置に関するものである。
 従来、観察対象の反射光画像と蛍光画像とを取得し、反射光画像により蛍光画像を除算することで、観察距離や観察角度による蛍光画像の明るさの変動を補正する蛍光観察装置が知られている(例えば、特許文献1、特許文献2および特許文献3参照。)。
特開昭62-247332号公報 特公平3-58729号公報 特開2006-175052号公報
 しかしながら、蛍光と反射光とでは、撮像される明るさにおける観察距離に対する依存性や観察角度に対する依存性が異なるため、従来のように、蛍光画像を反射光画像で除算をしただけでは、観察距離と観察角度の影響を補正しきれず、一定の誤差が生じてしまう。そして、癌と正常部とを区別する閾値を設定したとしても、観察条件が変化するとその閾値が適切ではなくなり、癌の部分が表示されなかったり正常部が明るく表示されてしまったりすることも起こりうる。
 本発明は、観察距離と観察角度の影響に対する補正誤差を低減し、被写体の定量的な情報を取得することができる蛍光観察装置を提供することを目的としている。
 本発明の一態様は、被写体に励起光および参照光を照射する照明部と、該照明部からの前記励起光の照射により前記被写体において発生した蛍光を撮影し蛍光画像を取得する蛍光画像取得部と、前記照明部からの前記参照光の照射により前記被写体から戻る戻り光を撮影し参照画像を取得する参照画像取得部と、該参照画像取得部により取得された前記参照画像を用いて、前記蛍光画像取得部により取得された前記蛍光画像を補正し補正蛍光画像を生成する補正蛍光画像生成部と、該補正蛍光画像生成部により生成された前記補正蛍光画像全体の階調値の平均値、該階調値の標準偏差、前記補正蛍光画像全体の階調値の平均値の重み付けに係る第1係数、および、前記階調値の標準偏差の重み付けに係る第2係数に基づいて階調値閾値を設定する閾値設定部と、該閾値設定部により設定された前記階調値閾値を超える階調値を有する前記補正蛍光画像上の領域を注目領域と判定して抽出する抽出部と、該抽出部により抽出された前記注目領域と前記参照画像とを対応づけて表示する表示部と、該表示部に表示された前記注目領域に対する前記抽出部による前記判定の正否について観察者に入力させる正否入力部とを備え、前記閾値設定部が、前記正否入力部により入力された入力結果を反映させるように前記第1係数および前記第2係数の少なくとも一方を設定する蛍光観察装置である。
 上記態様によれば、照明部から発せられた励起光が被写体に照射されると、蛍光画像取得部により被写体において発生した蛍光の蛍光画像が取得される。照明部から励起光とともに発せられた参照光が被写体に照射されると、参照画像取得部によりその戻り光の参照画像が取得される。そして、補正蛍光画像生成部において、同一の被写体に対する蛍光画像が参照画像で補正されることにより、観察距離や観察角度に依存する蛍光強度変化を軽減した補正蛍光画像が生成される。
 生成された補正蛍光画像の内、抽出部により注目領域と判定されて抽出された階調値閾値を超える階調値を有する領域が、表示部により参照画像と対応づけられて表示されることにより、観察者は蛍光の強い領域と対応づけて被写体の形状を観察することができる。
 この状態で、表示された画像を見た観察者が、抽出部による注目領域の判定が正しいか否かの入力を正否入力部により入力すると、閾値設定部により、その入力結果が反映されるように設定された第1係数および第2係数の少なくとも一方が設定される。そして、補正蛍光画像全体の階調値の平均値とその階調値の標準偏差、設定した第1係数および第2係数の少なくとも一方に基づいて新たな階調値閾値が設定される。これにより、観察者の判定結果を利用して、注目領域を抽出するための階調値閾値を補正蛍光画像ごとに設定し、観察距離と観察角度の影響に対する補正誤差を低減した被写体の定量的な情報を取得することができる。
 上記態様においては、前記補正蛍光画像生成部が、前記蛍光画像を前記参照画像で除算することとしてもよい。
 このように構成することで、簡易な演算処理により定量性の高い補正蛍光画像を生成することができる。
 上記態様においては、前記閾値設定部が、前記正否入力部により前記判定が正しいと入力されたときは、前記第1係数または前記第2係数の一方を固定値とし、他方を維持するかまたは小さくすることとしてもよい。
 抽出部による注目領域の判定が正しいと観察者により入力された場合において、注目領域の階調値と階調値閾値との差が十分に大きいときは、その階調値閾値が適当である。したがって、この場合は第1係数および第2係数の一方を固定するとともに他方も維持する、すなわち、階調値閾値を維持することで、次の注目領域の抽出時にも必要な注目領域が見落とされることなく抽出される可能性が高い。
 一方、注目領域の階調値と階調値閾値との差が僅かなときは、その階調値閾値よりも低い階調値を有する領域についても、以降の抽出においては注目領域として抽出されるべきであるとする可能性がある。したがって、この場合は第1係数および第2係数の一方を固定し他方を小さくして階調値閾値を下げることで、次の注目領域の抽出時には、現在の階調値閾値よりも低い階調値を有する領域も注目領域として抽出し、必要な注目領域が見落されてしまうのを防止することができる。
 上記態様においては、前記閾値設定部は、前記注目領域の階調値が、前記階調値閾値よりも所定の割合だけ高い上位階調値閾値を上回っているときは前記他方を維持し、該上位階調値閾値を下回っているときは前記他方を小さくすることとしてもよい。
 このように構成することで、上位階調値閾値により、階調値閾値の所定の割合の範囲で他方の係数を維持するか小さくするかを場合分けすることができる。したがって、階調値閾値の所定の割合を適当に選ぶことで、観察することが必要な注目領域の見落としを防止しつつ、効率的に注目領域を抽出することができる。
 上記態様においては、前記閾値設定部が、前記正否入力部により前記判定が誤りであると入力されたときは、前記第1係数および前記第2係数の一方を固定値とし、他方を大きくすることとしてもよい。
 抽出部による注目領域の判定が間違っていると観察者により入力されたときは、その注目領域を抽出した階調値閾値以下の階調値を有する領域については、以降の抽出においても注目領域として抽出されるべきであるとする可能性が低い。この場合は、第1係数および第2係数の一方を固定し他方を大きくして階調値閾値を上げることで、観察する必要のない領域が注目領域として誤って抽出されてしまうのを抑制し、正しい注目領域を効率よく抽出することができる。
 上記態様においては、前記閾値設定部が、下式によって前記階調値閾値を算出することとしてもよい。
  S0=a×m+b×σ
 ここで、
 S0:階調値閾値
 a:第1係数
 b:第2係数
 m:補正蛍光画像全体の階調値の平均値
 σ:補正蛍光画像全体の階調値の標準偏差
である。
 上記態様においては、前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値よりも所定の割合だけ低い下位係数と、現在の前記第1係数との低い方を新たな第1係数とすることとしてもよい。
 このように構成することで、最新の判定結果のみならず、過去における判定結果をも反映した第1係数により新たな階調値閾値を設定することができる。この場合において、抽出領域の階調値の平均値に基づいて算出された過去の第3係数の平均値よりも所定の割合だけ低い下位係数と現在の第1係数との低い方を新たな第1係数とすることにより、病変の疑いがある領域をより精度よく抽出することができる。
 上記態様においては、前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値よりも所定の割合だけ低い下位係数と、現在の前記第2係数との低い方を新たな第2係数とすることとしてもよい。
 このように構成することで、過去における判定結果をも反映した第2係数により新たな階調値閾値を設定し、病変の疑いがある領域をより精度よく抽出することができる。
 上記態様においては、前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の標準偏差を算出するとともに、算出した前記第3係数の標準偏差を前記記憶部に記憶されている過去の前記第3係数の平均値から減算した下位係数と、現在の第1係数の低い方を新たな第1係数とすることとしてもよい。
 このように構成することで、被験者間のバラツキ、同一被験者における経過時間的なバラツキ、観察者による判定入力のバラツキを加味して第1係数を更新し、より適切に階調値閾値を設定することができる。
 上記態様においては、前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の標準偏差を算出するとともに、算出した前記第3係数の標準偏差を前記記憶部に記憶されている過去の前記第3係数の平均値から減算した下位係数と、現在の前記第2係数との低い方を新たな第2係数とすることとしてもよい。
 このように構成することで、被験者間のバラツキ、同一被験者における経過時間的なバラツキ、観察者による判定入力のバラツキを加味して第2係数を更新することができる。
 上記態様においては、前記閾値設定部が、前記正否入力部により前記抽出部による前記判定が誤りであると入力されたときは、その入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値を新たな第1係数とすることとしてもよい。
 このように構成することで、抽出部による判定が誤りであったときは、過去に誤りであると判定された際の第3係数の平均値により決まる第1係数により新たな階調値閾値が設定される。したがって、観察する必要のない領域が注目領域として抽出されてしまう無駄を防止し、効率的に注目領域を抽出することができる。
 上記態様においては、前記閾値設定部が、前記正否入力部により前記抽出部による前記判定が誤りであると入力されたときは、その入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値を新たな第2係数とすることとしてもよい。
 このように構成することで、抽出部による判定が誤りであったときに、過去に誤りであると判定された際の第3係数の平均値により決まる第2係数により新たな階調値閾値を設定し、効率的に注目領域を抽出することができる。
 上記態様においては、前記閾値設定部が、下式によって前記第3係数を算出することとしてもよい。
  a0=(m0-b×σ)/m
 ここで、
 a0:第3係数
 m0:抽出領域の階調値の平均値
 b:第2係数
 σ:補正蛍光画像全体の階調値の標準偏差
 m:補正蛍光画像全体の階調値の平均値
である。
 上記態様においては、前記閾値設定部が、下式によって前記第3係数を算出することとしてもよい。
  b0=(m0-a×m)/σ
 ここで、
 b0:第3係数
 m0:抽出領域の階調値の平均値
 a:第1係数
 m:補正蛍光画像全体の階調値の平均値
 σ:補正蛍光画像全体の階調値の標準偏差
である。
 上記態様においては、前記表示部が、前記注目領域と前記参照光画像とを重畳させて表示することとしてもよい。
 このように構成することで、注目領域と参照光画像との対応関係を観察者が一目で把握し、注目領域のみならず、その周辺も観察することができる。したがって、観察者がより詳細な情報を得ることができ、抽出部による判定結果の正否をより正確に判定することができる。
 上記態様においては、前記抽出部が、前記閾値を越える階調値を有する領域のうち、該領域の画素数が画素数閾値を超える範囲を前記注目領域として抽出することとしてもよい。
 このようにすることで、階調値は高いが面積は小さい領域(ノイズ等)が注目領域として抽出されてしまうことを防止することができる。これにより、ノイズによる誤抽出を抑制し、注目領域を効率よく抽出することができる。
 上記態様においては、前記注目領域の階調値と過去の判定結果に関する情報とを対応づけて保存する保存部を備え、前記表示部が、前記注目領域ごとに、その注目領域の階調値に対応する過去の判定結果に関する情報を前記保存部から読み出して表示することとしてもよい。
 このようにすることで、注目領域が抽出されたときは、過去の判定結果に関する情報が表示部に表示されるので、観察者が抽出部による判定結果の正否を判定するときに、表示された過去の判定結果を参考にすることができる。その結果、観察者により正確な判定を行うことができる。
 本発明によれば、観察距離と観察角度の影響に対する補正誤差を低減し、被写体の定量的な情報を取得することができるという効果を奏する。
本発明の第1実施形態に係る蛍光観察装置の概略構成図である。 閾値の設定について示すフローチャートである。 標準偏差の係数の設定について示すフローチャートである。 図1の蛍光観察装置のモニタに表示される重畳画像と抽出部による抽出の正否を促す選択の一例を示す図である。 本発明の第1実施形態の変形例に係る蛍光観察装置における標準偏差の係数の設定について示すフローチャートである。 本発明の第2実施形態に係る蛍光観察装置の概略構成図である。 図6の蛍光観察装置の保存部に記憶されるデータを説明する図である。 本発明の第2実施形態に係る蛍光観察装置により設定される係数の変化を示す図である。
〔第1実施形態〕
 以下、本発明の第1実施形態に係る蛍光観察装置について、図面を参照して説明する。
 本実施形態に係る蛍光観察装置100は、図1に示すように、体内に挿入される細長い挿入部2と、励起光および照明光を発する光源(照明部)10と、光源10からの励起光および照明光を挿入部2の先端2aから被写体Fに向けて照射する照明ユニット(照明部)20と、挿入部2の先端部に配置され、被写体Fである生体組織の画像情報を取得する撮像ユニット30と、撮像ユニット30により取得された画像情報を処理する画像処理部40と、画像処理部40により処理された画像等を表示するモニタ(表示部)50と、観察者が入力を行う入力部(正否入力部)53とを備えている。
 光源10は、照明光を発するキセノンランプ11と、キセノンランプ11から発せられた光から励起光および白色光(参照光)を切り出す励起光フィルタ13と、励起光フィルタ13により切り出された励起光および白色光を集光するカップリングレンズ15とを備えている。励起光フィルタ13は、例えば、波長帯域が400~740nmの励起光および白色光を切り出すようになっている。
 照明ユニット20は、挿入部2の長手方向のほぼ全長にわたって配置されたライトガイドファイバ21と、挿入部2の先端2aに配置された照明光学系23とを備えている。
 ライトガイドファイバ21は、カップリングレンズ15によって集光された励起光および白色光を挿入部2の先端2aに導光するようになっている。
 照明光学系23は、ライトガイドファイバ21により導光されてきた励起光および白色光を拡散させて被写体Fに照射するようになっている。
 撮像ユニット30は、照明ユニット20により励起光および白色光が照射された被写体Fから戻る戻り光を集光する対物レンズ31と、対物レンズ31により集光された戻り光を波長ごとに分岐するダイクロイックミラー33とを備えている。
 対物レンズ31は、挿入部2の先端2aに照明光学系23と並列して配置されている。
 ダイクロイックミラー33は、戻り光のうち、励起波長以上の光(励起光および蛍光)を反射し、励起波長より短い波長の白色光(戻り光)を透過するようになっている。
 この撮像ユニット30には、ダイクロイックミラー33により反射された励起光および蛍光のうち、励起光を遮断し蛍光(例えば、近赤外蛍光)のみを透過させる励起光カットフィルタ35と、励起光カットフィルタ35を透過した蛍光を集光する集光レンズ37Aと、集光レンズ37Aにより集光された蛍光を撮影する蛍光撮影部38と、ダイクロイックミラー33を透過した白色光を集光する集光レンズ37Bと、集光レンズ37Bにより集光された白色光を撮影する白色光撮影部39とが備えられている。
 励起光カットフィルタ35は、例えば、波長帯域760~850nmの蛍光のみを透過するようになっている。
 蛍光撮影部38は、例えば、蛍光用の高感度モノクロCCDである。この蛍光撮影部38は、蛍光を撮影することにより蛍光画像情報を取得するようになっている。
 白色光撮影部39は、例えば、白色光用のカラーCCDであり、モザイクフィルタ(図示略)を備えている。この白色光撮影部39は、白色光を撮影することにより白色光画像情報を取得するようになっている。
 画像処理部40は、蛍光撮影部38により取得された蛍光画像情報から蛍光画像G1を生成する蛍光画像生成部(蛍光画像取得部)41と、白色光撮影部39により取得された白色光画像情報から白色光画像G2を生成する白色光画像生成部(参照画像取得部)42と、蛍光画像G1を白色光画像G2により補正し補正蛍光画像G3を生成する画像補正部(補正蛍光画像生成部)43と、補正蛍光画像G3における階調値の閾値(階調値閾値)S0を設定する閾値設定部45と、補正蛍光画像G3から閾値設定部45により設定された閾値S0以上の階調値を有する領域を注目領域として抽出する抽出部47と、抽出部47により抽出された注目領域と白色光画像G2を重畳させた重畳画像G4を生成する画像合成部49とを備えている。
 画像補正部43は、同一の被写体Fの蛍光画像G1を白色光画像G2で除算することにより蛍光画像G1を補正するようになっている。これにより、蛍光画像G1における観察距離や観察角度等に依存する蛍光強度変化を軽減した補正蛍光画像G3が生成される。画像補正部43は、生成した補正蛍光画像G3を抽出部47および閾値設定部45に送るとともに、白色光画像G2および補正蛍光画像G3を抽出部47を介して画像合成部49に送るようになっている。
 抽出部47は、抽出した領域の面積(画素数)Pを測定し、面積Pが一定の大きさ以上ある場合、すなわち、予め設定してある画素数閾値P0よりも面積Pが大きい場合にその領域を注目領域と判定するようになっている。閾値S0以上の階調値を有し、かつ、その画素数が画素数閾値P0を越える注目領域の抽出は、最初に階調値によって抽出された領域の中から画素数の多い領域を抽出してもよいし、最初に画素数によって抽出された領域の中から階調値の高い領域を抽出してもよい。
 抽出部47は、抽出した注目領域の情報を、閾値設定部45および画像合成部49に送るようになっている。抽出部47は、抽出した注目領域内の各画素の階調値の平均値(以下、「注目領域の平均階調値」という。)m0を算出し、閾値設定部45に入力するようになっている。
 画像合成部49は、画像補正部43により生成された補正蛍光画像G3の内、抽出部47により抽出された注目領域以外のバックグラウンドを除去したものを白色光画像G2と重畳することにより、重畳画像G4を生成するようになっている。画像合成部49は、生成した重畳画像G4をモニタ50に送るようになっている。
 モニタ50は、画像合成部49により生成された重畳画像G4を表示するようになっている。モニタ50には、表示した重畳画像G4の内の抽出部47により抽出された注目領域が、病変の疑いのある領域として正しいか否かの判定の入力を医師等の観察者に促す選択が表示されるようになっている。入力を促す選択の表示としては、例えば、「注目領域は病変の疑いがあるか(Y/N)?」等が挙げられる。
 観察者は、モニタ7に表示された重畳画像G4を目視確認して、補正蛍光画像G3に表示された観察部位の形状や色等の形態的特徴、あるいは、注目領域の大きさや明るさ等から、注目領域が病変の疑いのある領域であるか否かを判定し、入力部53により判定結果を入力するようになっている。
 入力部53は、例えば、キーボードやマウス等の任意の入力装置である。
 入力部53により入力された観察者による判定結果は、閾値設定部45に入力されるようになっている。
 閾値設定部45は、以下の式(1),(2)により、補正蛍光画像G3における各画素の階調値の平均値(補正蛍光画像G3全体の階調値の平均。以下、「補正蛍光画像G3全体の平均階調値」という。)mと、補正蛍光画像G3における各画素の階調値の標準偏差(補正蛍光画像G3全体の階調値の標準偏差。以下、「補正蛍光画像G3全体の標準偏差」という。)σとを算出するようになっている。
Figure JPOXMLDOC01-appb-M000001
 
Figure JPOXMLDOC01-appb-M000002
 
 閾値設定部45は、以下の式(3)に示されるように、補正蛍光画像G3全体の平均階調値mと標準偏差σとの和に基づいて、閾値S0を設定するようになっている。
  S0=a×m+b×σ・・・(3)
式(3)において、
 a:係数(第1係数)
 b:係数(第2係数)
である。
 閾値設定部45は、入力部53により入力された入力結果を反映させるように係数(第1係数)aおよび係数(第2係数)bを設定し、新たな閾値S0として設定するようになっている。
 具体的には、観察者により、「注目領域は病変の疑いがある(Y)。」、すなわち、「抽出部47により注目領域を抽出するための閾値は正しい。」と判定された場合(以下、「Y判定」とする。)は、閾値設定部45は、抽出部47から入力された注目領域の平均階調値m0が、閾値S0よりも所定の割合だけ高い上位閾値(上位階調値閾値)を下回っているか否かを判定するようになっている。
 そして、閾値設定部45は、注目領域の平均階調値m0が上位閾値を下回っているときは係数a,bの値を小さくし、注目領域の平均階調値m0が上位閾値を上回っているときは係数a,bの値を維持するようになっている。
 以下、本実施形態においては、係数a=1に固定し、係数bを随時更新していくこととする。
 例えば、上位閾値を1.1×S0とする。
 m0<1.1×S0のときは、係数bを0.9×bに更新するようになっている。
 m0≧1.1×S0のときは、係数bの値を維持するようになっている。
 一方、観察者により、「注目領域は病変の疑いがない(N)。」、すなわち、「抽出部23による注目領域を抽出するための閾値S0は誤りである。」と判定された場合(以下、「N判定」とする。)は、閾値設定部45は、係数bの値を大きくするようになっている。
 例えば、係数bを1.1×bに更新するようになっている。
 閾値設定部45により設定された閾値S0は抽出部47に入力され、抽出部47に新たな閾値S0として設定されるようになっている。これにより、新たな補正蛍光画像G3が生成されると、新たな閾値S0により注目領域が抽出されるようになっている。同様の手順を繰り返し、閾値設定部45により、補正蛍光画像G3ごとに閾値S0が設定されるようになっている。
 このように構成された本実施形態に係る蛍光観察装置100の作用について説明する。
 本実施形態に係る蛍光観察装置100を用いて、被写体Fである患者の体内の生体組織を観察するには、患者の体内に挿入部2を挿入し、その先端2aを被写体Fに対向させる。そして、光源10を作動させて励起光および照明光を発生させ、カップリングレンズ15によりライトガイドファイバ21に入射させる。ライトガイドファイバ21により導光されて挿入部2の先端2aに達した励起光および照明光は、照明光学系23により拡散されて被写体Fに照射される。
 被写体Fにおいては、内部に含まれている蛍光物質が励起光により励起されることにより蛍光が発せられるとともに、被写体Fの表面において励起光の一部および白色光が反射させられる。これら蛍光、白色光および励起光は、被写体Fから挿入部2の先端2aに戻り、その一部が対物レンズ31により集光される。
 対物レンズ31により集光された蛍光、白色光および励起光、ダイクロイックミラー33により波長ごとに分岐される。すなわち、ダイクロイックミラー33において、励起波長以上の光である励起光および蛍光が反射され、励起波長より短い波長の白色光が透過する。
 ダイクロイックミラー33により反射された励起光および蛍光の内、励起光カットフィルタ35により励起光は除去され、蛍光のみが集光レンズ37Aにより集光されて蛍光撮影部38により撮影される。これにより、蛍光撮影部38において被写体Fの蛍光画像情報が取得される。
 ダイクロイックミラー33を透過した白色光は、集光レンズ37Bによって集光され、白色光撮影部39により撮影される。これにより、白色光撮影部39において被写体Fの白色光画像情報が取得される。
 蛍光画像情報と白色光画像情報は、どちらを先に取得してもよいし同時に取得してもよい。
 蛍光撮影部38により取得された蛍光画像情報および白色光撮影部39により取得された白色光画像情報は、それぞれ画像処理部40に送られる。画像処理部40においては、蛍光画像情報が蛍光画像生成部41に入力されて蛍光画像G1が生成され、白色光画像情報が白色光画像生成部42に入力されて白色光画像G2が生成される。
 光画像生成部41により生成された蛍光画像G1および白色光画像生成部42により生成された白色光画像G2は画像補正部43に送られ、蛍光画像G1が白色光画像G2で除算されることにより補正蛍光画像G3が生成される。生成された補正蛍光画像G3は、画像補正部43から抽出部47および閾値設定部45に送られる。白色光画像G2および補正蛍光画像G3が画像補正部43から抽出部47を介して画像合成部49に送られる。
 以下、閾値設定部45による閾値の設定について、図2に示すフローチャートを参照して説明する。
 閾値設定部45は、画像補正部43から送られてきた補正蛍光画像G3を取得すると(ステップSA1)、補正蛍光画像G3全体の平均階調値mと標準偏差σを算出する(ステップSA2)。
 そして、閾値設定部45により、算出された補正蛍光画像G3全体の平均階調値mと標準偏差σとが用いられ、式(3)により閾値S0が算出されて設定される(ステップSA3)。設定された閾値S0は、抽出部47に入力される。
 本実施形態においては、上述した式(3)の係数aがa=1に予め設定されている。1枚目の補正蛍光画像G3における式(3)の係数bはb=1とし、2枚目以降の補正蛍光画像G3における式(3)の係数bが図3のフローチャートに示されるようにして随時更新される。
 まず、抽出部47により、補正蛍光画像G3における最初の閾値S0以上の階調値を持つ領域が抽出される(ステップSB1)。
 抽出部47により、抽出した領域の面積(画素数)Pが測定され(ステップSB2)、面積Pが閾値P0よりも大きいか否かが判定される(ステップSB3)。
 面積Pが閾値P0よりも小さいときは(ステップSB3「NO」)、ステップSB1に戻る。これにより、階調値は高いが面積は小さい領域(ノイズ等)が注目領域として抽出されてしまうことを防止することができる。したがって、ノイズによる誤抽出を抑制し、注目領域を効率よく抽出することができる。
 一方、面積Pが閾値P0よりも大きいときは(ステップSB3「YES」)、抽出部47により、抽出した領域が注目領域として判定され、閾値設定部45および画像合成部49に注目領域の情報が送られる。抽出部47により、注目領域の平均階調値m0が算出され、閾値設定部45に送られる(ステップSB4)。
 次いで、画像合成部49により、補正蛍光画像G3の内、注目領域以外のバックグラウンドを除去したものが白色光画像G2と重畳され(ステップSB5)、重畳画像G4が生成される。そして、重畳画像G4がモニタ50に送られ、図4に示すように、重畳画像G4と観察者による入力を促す選択がモニタ50に同時に表示される。
 注目領域と白色光画像G2とを重畳させてモニタ50により表示することで、注目領域と白色光画像G2との対応関係を観察者が一目で把握し、注目領域のみならず、その周辺も観察することができる。したがって、観察者がより詳細な情報を得ることができ、抽出部47による判定結果の正否をより正確に判定することができる。
 観察者は、モニタ50に表示された重畳画像G4を観察しながら、表示された注目領域が病変の疑いがあるか否かを判定し、判定結果を入力部53に入力する(ステップSB6)。つまり、抽出部47により抽出された注目領域の判定が正しかったのか否かが、観察者による入力によって確認される。そして、入力部53により入力された判定結果は閾値設定部45に入力される。
 観察者による判定結果が入力部53により入力されると、閾値設定部45は、その入力結果を反映させるように係数bを更新する。
 具体的には、入力部53に入力された判定がY判定である場合は(ステップSB7「YES」)、閾値設定部45により、注目領域の平均階調値m0と、現在の閾値S0よりも所定の割合だけ高い上位閾値(1.1×S0)とが用いられて、m0<1.1×S0を満たすか否かが判定される(ステップSB8)。
 m0<1.1×S0を満たすときは、閾値設定部45において、係数bが0.9×bに更新され(ステップSB9)、新たな係数bとして設定される(ステップSB11)。
 注目領域の平均階調値m0と閾値S0との差が僅かなときは、その閾値S0よりも低い階調値を有する領域についても、以降の抽出においては注目領域として抽出されるべきであるとする可能性がある。したがって、m0<1.1×S0を満たすときは係数bを小さくして閾値S0を下げることで、次の注目領域の抽出時には、現在の閾値S0よりも低い階調値を有する領域も注目領域として抽出し、必要な注目領域が見落されてしまうのを防止することができる。
 つまり、更新前の高い閾値S0で抽出された注目領域に病変の疑いが有るため、閾値S0を下げることで、抽出部47による次回の抽出において、さらに低い階調値の病変の疑いのある領域を抽出することができ、見落しを防止して診断の精度を向上することができる。
 m0≧1.1×S0のときは、閾値設定部45において、係数bの値がそのまま維持される(ステップSB11)。
 注目領域の平均階調値m0と閾値S0との差が十分に大きいときは、その閾値S0が適当であり、次の注目領域の抽出時にも必要な注目領域が見落とされることなく抽出される可能性が高い。
 このように、上位閾値(本実施形態においては、1.1×S0。)を設定することで、閾値S0の所定の割合(本実施形態においては、0.1。)の範囲で係数bを維持するか小さくするかを場合分けすることができる。したがって、上位閾値を設定する閾値S0の所定の割合を適当に選ぶことで、観察することが必要な注目領域の見落としを防止しつつ、効率的に注目領域を抽出することができる。
 一方、入力部53に入力された判定がN判定である場合は(ステップSB7「NO」)、係数bが1.1×bに更新され(ステップSB10)、新たな係数bとして設定される(ステップSB11)。
 注目領域を抽出した閾値S0以下の階調値を有する領域については、以降の抽出においても注目領域として抽出されるべきであるとする可能性が低い。つまり、更新前の低い閾値S0で抽出された領域は病変の疑いが無いため、閾値S0を上げることで、抽出部23による次回の抽出において、病変の疑いのない領域が注目領域として誤って抽出されてしまう無駄を省いて、効率的に診断することができる。
 以上説明したように、本実施形態に係る蛍光観察装置100によれば、観察者の判定結果を利用して、注目領域を抽出するための閾値S0を決める標準偏差σの係数bを補正蛍光画像G3ごとに更新し、補正蛍光画像G3ごとに閾値S0が設定される。これにより、観察距離と観察角度の影響に対する補正誤差を低減した被写体の定量的な情報を取得することができる。
 ここで、注目領域の平均階調値m0が、以下の式(4)により算出されるとする。
  m0=a×m+b0×σ・・・(4)
式(4)において、
 b0:係数(第3係数)
である。
 式(4)により、係数b0は以下の式(5)によって算出される。
  b0=(m0-a×m)/σ・・・(5)
 そこで、本実施形態においては、入力部53により入力された判定結果がY判定である場合に、m0<1.1×S0が満たされると係数bを0.9×bに更新することとしたが、これに代えて、m0<1.1×S0が満たされると、以下の式(6)を用いて係数bを更新することとしてもよい。すなわち、図5に示されるフローチャートのステップSC8のように、0.9×b0とbとを比較し、小さい方の値を新たな係数として設定することとしてもよい。
  MIN(0.9×b0、b)・・・(6)
 本実施形態においては、係数a=1を例示して説明したが、観察状況に応じて係数aの値を変更すればよい。本実施形態においては、係数aの値を固定し係数bの値を更新することとしたが、同様の方法により、係数aの値を更新し係数bの値を固定にすることとしてもよいし、係数aの値と係数bの値の両方を更新することとしてもよい。本実施形態においては、補正蛍光画像G3全体の平均階調値mと標準偏差σとの和に基づいて閾値S0を設定することとしたが、補正蛍光画像G3全体の平均階調値mと標準偏差σのいずれか一方を用いて閾値S0を設定することとしてもよい。
〔第2実施形態〕
 次に、本発明の第2実施形態に係る蛍光観察装置について説明する。
 本実施形態に係る蛍光観察装置200は、図6に示すように、画像処理部40が記憶部55を備え、過去の係数a,bの平均値とそのときの判定入力結果とに応じて閾値S0を設定する点で第1実施形態と異なる。
 以下、第1実施形態に係る蛍光観察装置100と構成を共通する箇所には、同一符号を付して説明を省略する。
 以下、本実施形態においては、係数a=1に固定し、係数bを随時更新していくこととする。
 記憶部55は、抽出部47により注目領域が抽出され、入力部53によりその注目領域に対する観察者の判定が入力されたときに、注目領域の平均階調値m0、閾値S0、補正蛍光画像G3の平均階調値mと標準偏差σ、係数a,b、および、係数b0をセットにして、その判定結果と対応づけて記憶するようになっている。例えば、記憶部55には、これらの値が図7に示すようなデータとして記憶されていることとする。
 閾値設定部45は、新たな注目領域に対する観察者による判定が入力されたときは、その入力された判定結果に対応して記憶部55に記憶されている過去の係数b0を全て読み出し、以下のように係数bを更新するようになっている。
 例えば、観察者により、Y判定が入力された場合は、閾値設定部45は、記憶部55から読み出した過去の全てのY判定時における係数b0の平均値AVE_Y(b0)を算出し、平均値AVE_Y(b0)に対して、式(7)を用いて係数bを更新するようになっている。
 具体的には、閾値設定部45は、算出した係数b0の平均値AVE_Y(b0)よりも所定の割合だけ低い下位係数である0.9×AVE_Y(b0)の値と、現在の係数bの値とを比較し、小さい方の値を新たな係数bとして設定するようになっている。
  MIN(0.9×AVE_Y(b0)、b)・・・(7)
式(7)において
 AVE_Y(b0):過去のY判定時の係数b0の平均値
である。
 一方、観察者により、N判定が入力された場合は、閾値設定部45は、記憶部55から読み出した過去の全てのN判定時における係数b0の平均値AVE_N(b0)を算出し、平均値AVE_N(b0)の値を新たな係数bとして設定するようになっている。
 これにより、閾値S0は図8に示されるように変化する。
 本実施形態に係る蛍光観察装置200によれば、最新の判定結果のみならず、過去における判定結果をも反映した係数bにより新たな閾値S0を設定することができる。この場合において、記憶部55に記憶されている過去の係数b0の平均値AVE_Y(b0)よりも所定の割合だけ低い下位係数0.9×AVE_Y(b0)の値と現在の係数bの値の低い方を新たな係数bとすることにより、病変の疑いがある領域をより精度よく抽出することができる。
 抽出部47による判定が誤りであったときは、過去に誤りであると判定された際の係数b0の平均値AVE_N(b0)により新たな閾値S0を設定することで、観察する必要のない領域が注目領域として抽出されてしまう無駄を防止し、効率的に注目領域を抽出することができる。
 本実施形態は以下のように変形することができる。
 例えば、第1変形例としては、閾値設定部45が、入力された判定結果に対応して記憶部55に記憶されている過去のすべてのY判定時における係数b0の標準偏差SD(b0)を算出することとしてもよい。そして、算出した過去の係数b0の標準偏差SD(b0)を、過去のすべてのY判定時における係数b0の平均値AVE_Y(b0)から減算し、その減算後の下位係数であるAVE_Y(b0)-SD(b0)の値と現在の係数bの値の低い方を新たな係数bとすることしてもよい。
 このようにすることで、被験者間のバラツキ、同一被験者における経過時間的なバラツキ、観察者による判定入力のバラツキを加味して係数bを更新し、より適切に閾値S0を設定することができる。
 例えば、感度(病変を見落とさないこと)を重視する場合は、Y判定時の新しい閾値S0をMIN(AVE_Y(b0)-3×SD(b0)、b)として設定することとしてもよい。特異度(病変以外の部分を抽出しないこと)を重視する場合は、Y判定時の新しい閾値S0をMIN(AVE_Y(b0)-1×SD(b0)、b)として設定してもよい。
 このように、SD(b0)の係数(本変形例においては係数3、係数1。)は任意に変更することにより、検査の目的に応じた適切な閾値S0を設定することができるという利点がある。
 第2変形例としては、画像処理部40が、抽出部47により算出された注目領域の平均階調値m0と、入力部8により入力された過去の判定結果に関する情報とを受け取り、これらを対応づけて保存する保存部(図示略)を備えることとしてもよい。モニタ50が、注目領域ごとに、その平均階調値m0に対応する過去の判定結果に関する情報を保存部から読み出して表示することとしてもよい。
 このようにすることで、観察者が抽出部による判定結果の正否を判定するときに、モニタ50により表示された過去の判定結果を参考にすることができる。その結果、観察者により正確な判定を行うことができる。
 上記実施形態においては、係数a=1を例示して説明したが、観察状況に応じて係数aの値を変更すればよい。この場合は、第3係数として、係数b0に代えて、式(8)に基づいて係数a0を算出し係数aの値を変更すればよい。
  a0=(m0-b×σ)/m・・・(8)
式(8)において、
 a0:係数(第3係数)
である。
 上記実施形態においては、係数aの値を固定し係数bの値を更新することとしたが、同様の方法により、係数aの値を更新し係数bの値を固定にすることとしてもよいし、係数aの値と係数bの値の両方を更新することとしてもよい。過去のすべてのY判定時における係数a0の標準偏差SD(a0)を算出し、下位係数であるAVE_Y(a0)-SD(a0)の値と現在の係数aの値の低い方を新たな係数aとしてもよい。補正蛍光画像G3全体の平均階調値mと標準偏差σのいずれか一方を用いて閾値S0を設定することとしてもよい。
 以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。例えば、本発明を上記各実施形態および変形例に適用したものに限定されることなく、これらの実施形態および変形例を適宜組み合わせた実施形態に適用してもよく、特に限定されるものではない。
 上記各実施形態においては、画像合成部49によって補正蛍光画像G3の注目領域と白色光画像G2とを重畳してモニタ50に表示させることとしたが、補正蛍光画像G3と白色光画像G2とを並列にモニタ50に表示させてもよい。このとき、注目領域を輪郭表示するなどして補正蛍光画像G3上に表示することとしてもよい。このようにすることで、閾値S0によって切り取られた注目領域のみを表示することに比べ、より詳細な情報を観察者に提供することができ、より正確に判定させることができる。
 上記各実施形態においては、抽出部47が、異なる2以上の閾値以上となる領域をそれぞれ抽出し、表示方法を異ならせてモニタ50に表示してもよい。例えば、抽出部47は、注目領域の平均階調値m0が閾値S0を超える領域と、例えば、閾値S0の80%の値を超える領域とを抽出してもよい。
 上記各実施形態においては、抽出部47において注目領域の平均階調値m0を算出することとしたが、他の値を求めることにしてもよい。例えば、注目領域内で最も階調値が低い最低階調値を用いてもよいし、注目領域内で最も高い最高階調値を求めることにしてもよい。
 抽出部47により抽出された注目領域が同一画面上に複数存在する場合には、画像合成部49において、どの注目領域に対して正否判定を入力させるのかが観察者にわかるように、判定させようとする注目領域の表示のみを他の注目領域とは異ならせた重畳画像G4を生成することとしてもよい。他の注目領域と区別するためには、例えば、判定させようとする注目領域の表示のみを点滅させ、他の注目領域を点灯させるような重畳画像G4を生成することとしてもよい。
 この場合に、複数の注目領域について、その判定の順序を決定して、決定された順序に従って、判定させようとする注目領域の表示のみを点滅させていくこととしてもよい。一旦判定が入力された注目領域については、重複した判定入力を防止するために、判定済みであることがわかるような表示、例えば、色を変えることなどにより表示することとしてもよい。
10  光源(照明部)
20  照明ユニット(照明部)
41  蛍光画像生成部(蛍光画像取得部)
42  白色光画像生成部(参照画像取得部)
43  画像補正部(補正蛍光画像生成部)
45  閾値設定部
47  抽出部
50  モニタ(表示部)
53  入力部(正否入力部)
55  記憶部
100,200 蛍光観察装置
a  係数(第1係数)
b  係数(第1係数)
b0  係数(第3係数)
m0  抽出領域の階調値の平均値
S0  閾値(階調値閾値)

Claims (17)

  1.  被写体に励起光および参照光を照射する照明部と、
     該照明部からの前記励起光の照射により前記被写体において発生した蛍光を撮影し蛍光画像を取得する蛍光画像取得部と、
     前記照明部からの前記参照光の照射により前記被写体から戻る戻り光を撮影し参照画像を取得する参照画像取得部と、
     該参照画像取得部により取得された前記参照画像を用いて、前記蛍光画像取得部により取得された前記蛍光画像を補正し補正蛍光画像を生成する補正蛍光画像生成部と、
     該補正蛍光画像生成部により生成された前記補正蛍光画像全体の階調値の平均値、該階調値の標準偏差、前記補正蛍光画像全体の階調値の平均値の重み付けに係る第1係数、および、前記階調値の標準偏差の重み付けに係る第2係数に基づいて階調値閾値を設定する閾値設定部と、
     該閾値設定部により設定された前記階調値閾値を超える階調値を有する前記補正蛍光画像上の領域を注目領域と判定して抽出する抽出部と、
     該抽出部により抽出された前記注目領域と前記参照画像とを対応づけて表示する表示部と、
     該表示部に表示された前記注目領域に対する前記抽出部による前記判定の正否について観察者に入力させる正否入力部とを備え、
     前記閾値設定部が、前記正否入力部により入力された入力結果を反映させるように前記第1係数および前記第2係数の少なくとも一方を設定する蛍光観察装置。
  2.  前記補正蛍光画像生成部が、前記蛍光画像を前記参照画像で除算する請求項1に記載の蛍光観察装置。
  3.  前記閾値設定部が、前記正否入力部により前記判定が正しいと入力されたときは、前記第1係数または前記第2係数の一方を固定値とし、他方を維持するかまたは小さくする請求項1または請求項2に記載の蛍光観察装置。
  4.  前記閾値設定部は、前記注目領域の階調値が、前記階調値閾値よりも所定の割合だけ高い上位階調値閾値を上回っているときは前記他方を維持し、該上位階調値閾値を下回っているときは前記他方を小さくする請求項3に記載の蛍光観察装置。
  5.  前記閾値設定部が、前記正否入力部により前記判定が誤りであると入力されたときは、前記第1係数および前記第2係数の一方を固定値とし、他方を大きくする請求項1から請求項4のいずれかに記載の蛍光観察装置。
  6.  前記閾値設定部が、下式によって前記階調値閾値を算出する請求項1から請求項5のいずれかに記載の蛍光観察装置。
      S0=a×m+b×σ
     ここで、
     S0:階調値閾値
     a:第1係数
     b:第2係数
     m:補正蛍光画像全体の階調値の平均値
     σ:補正蛍光画像全体の階調値の標準偏差
    である。
  7.  前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、
     前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、
     前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値よりも所定の割合だけ低い下位係数と、現在の前記第1係数との低い方を新たな第1係数とする請求項1から請求項6のいずれかに記載の蛍光観察装置。
  8.  前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、
     前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、
     前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値よりも所定の割合だけ低い下位係数と、現在の前記第2係数との低い方を新たな第2係数とする請求項1から請求項6のいずれかに記載の蛍光観察装置。
  9.  前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、
     前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、
     前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の標準偏差を算出するとともに、算出した前記第3係数の標準偏差を前記記憶部に記憶されている過去の前記第3係数の平均値から減算した下位係数と、現在の第1係数の低い方を新たな第1係数とする請求項1から請求項6のいずれかに記載の蛍光観察装置。
  10.  前記抽出部が前記抽出領域の階調値の平均値を算出するとともに、前記閾値設定部が前記抽出領域の階調値の平均値に基づいて第3係数を算出し、
     前記抽出部により前記注目領域が抽出され、前記入力部によりその注目領域に対する観察者の判定が入力されたときに、その判定結果と前記第3係数とを対応づけて記憶する記憶部を備え、
     前記閾値設定部が、新たな注目領域に対して前記正否入力部により前記判定が正しいと入力されたときに、入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の標準偏差を算出するとともに、算出した前記第3係数の標準偏差を前記記憶部に記憶されている過去の前記第3係数の平均値から減算した下位係数と、現在の前記第2係数との低い方を新たな第2係数とする請求項1から請求項6のいずれかに記載の蛍光観察装置。
  11.  前記閾値設定部が、前記正否入力部により前記抽出部による前記判定が誤りであると入力されたときは、その入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値を新たな第1係数とする請求項7または請求項9に記載の蛍光観察装置。
  12.  前記閾値設定部が、前記正否入力部により前記抽出部による前記判定が誤りであると入力されたときは、その入力された判定結果に対応して前記記憶部に記憶されている過去の前記第3係数の平均値を新たな第2係数とする請求項8または請求項10に記載の蛍光観察装置。
  13.  前記閾値設定部が、下式によって前記第3係数を算出する請求項7、請求項9および請求項11のいずれかに記載の蛍光観察装置。
      a0=(m0-b×σ)/m
     ここで、
     a0:第3係数
     m0:抽出領域の階調値の平均値
     b:第2係数
     σ:補正蛍光画像全体の階調値の標準偏差
     m:補正蛍光画像全体の階調値の平均値
    である。
  14.  前記閾値設定部が、下式によって前記第3係数を算出する請求項8、請求項10および請求項12のいずれかに記載の蛍光観察装置。
      b0=(m0-a×m)/σ
     ここで、
     b0:第3係数
     m0:抽出領域の階調値の平均値
     a:第1係数
     m:補正蛍光画像全体の階調値の平均値
     σ:補正蛍光画像全体の階調値の標準偏差
    である。
  15.  前記表示部が、前記注目領域と前記参照光画像とを重畳させて表示する請求項1から請求項14のいずれかに記載の蛍光観察装置。
  16.  前記抽出部が、前記階調値閾値を越える階調値を有する領域のうち、該領域の画素数が画素数閾値を超える範囲を前記注目領域として抽出する請求項1から請求項15のいずれかに記載の蛍光観察装置。
  17.  前記注目領域の階調値と過去の判定結果に関する情報とを対応づけて保存する保存部を備え、
     前記表示部が、前記注目領域ごとに、その注目領域の階調値に対応する過去の判定結果に関する情報を前記保存部から読み出して表示する請求項1から請求項16のいずれかに記載の蛍光観察装置。
PCT/JP2012/068586 2011-09-08 2012-07-23 蛍光観察装置 Ceased WO2013035450A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201280042932.1A CN103764009B (zh) 2011-09-08 2012-07-23 荧光观察装置
EP12830529.9A EP2754380B1 (en) 2011-09-08 2012-07-23 Fluorescence observation device
US14/197,614 US9417188B2 (en) 2011-09-08 2014-03-05 Fluorescence observation device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011-196217 2011-09-08
JP2011196217A JP6005918B2 (ja) 2011-09-08 2011-09-08 蛍光観察装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US14/197,614 Continuation US9417188B2 (en) 2011-09-08 2014-03-05 Fluorescence observation device

Publications (1)

Publication Number Publication Date
WO2013035450A1 true WO2013035450A1 (ja) 2013-03-14

Family

ID=47831902

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/068586 Ceased WO2013035450A1 (ja) 2011-09-08 2012-07-23 蛍光観察装置

Country Status (5)

Country Link
US (1) US9417188B2 (ja)
EP (1) EP2754380B1 (ja)
JP (1) JP6005918B2 (ja)
CN (1) CN103764009B (ja)
WO (1) WO2013035450A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015045516A1 (ja) 2013-09-27 2015-04-02 富士フイルム株式会社 蛍光観察装置、内視鏡システム及びプロセッサ装置並びに作動方法
CN115719415A (zh) * 2022-03-28 2023-02-28 南京诺源医疗器械有限公司 一种视野可调双视频融合成像方法及系统

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105473049B (zh) * 2013-08-23 2018-07-20 奥林巴斯株式会社 荧光观察装置
KR20160047313A (ko) * 2014-10-22 2016-05-02 삼성전자주식회사 디바이스 제어 방법 및 그 디바이스
JP6110887B2 (ja) * 2015-03-17 2017-04-05 浜松ホトニクス株式会社 重畳画像生成装置及び重畳画像生成装置の作動方法
KR102468133B1 (ko) * 2016-02-29 2022-11-18 엘지전자 주식회사 발 정맥 인증 장치
JP6838644B2 (ja) * 2017-02-28 2021-03-03 日本電気株式会社 画像診断装置、画像診断方法、及びプログラム
JP6899903B2 (ja) * 2017-07-03 2021-07-07 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置
KR101882281B1 (ko) * 2017-09-15 2018-08-24 엘지전자 주식회사 디지털 디바이스 및 그의 생체 인증 방법
KR101882282B1 (ko) * 2017-09-22 2018-08-24 엘지전자 주식회사 디지털 디바이스 및 그의 생체 인증 방법
WO2019078237A1 (ja) 2017-10-18 2019-04-25 富士フイルム株式会社 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
JP2019180966A (ja) 2018-04-13 2019-10-24 学校法人昭和大学 内視鏡観察支援装置、内視鏡観察支援方法、及びプログラム
WO2019231042A1 (ko) * 2018-06-01 2019-12-05 엘지전자 주식회사 생체 인증 장치
WO2020145172A1 (ja) 2019-01-11 2020-07-16 オムロン株式会社 光学計測装置及び光学計測方法
JP7445201B2 (ja) * 2019-01-11 2024-03-07 オムロン株式会社 光学計測装置及び光学計測方法
CN110610496B (zh) * 2019-04-24 2023-09-26 广东工业大学 一种对光照变化鲁棒的荧光胶缺陷分割方法
US11730340B2 (en) * 2019-05-01 2023-08-22 Karl Storz Imaging, Inc. Video display system having an adaptive overlay
JP2021097648A (ja) * 2019-12-23 2021-07-01 横河電機株式会社 核酸配列計測装置及び核酸配列計測方法
TWI797785B (zh) * 2021-10-20 2023-04-01 茂達電子股份有限公司 提升平均器效果的方法
CN114305298B (zh) * 2021-12-13 2025-09-23 杭州海康慧影科技有限公司 一种图像处理方法、装置及设备
WO2023244661A1 (en) * 2022-06-16 2023-12-21 Intuitive Surgical Operations, Inc. Non-visible-spectrum light image-based operations for visible-spectrum images

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62247332A (ja) 1987-04-17 1987-10-28 Canon Inc カラ−液晶表示セルの製造法
JPH0358729B2 (ja) 1987-04-10 1991-09-06 Kogyo Gijutsuin
JP2002345739A (ja) * 2001-05-25 2002-12-03 Fuji Photo Film Co Ltd 画像表示装置
JP2006043196A (ja) * 2004-08-05 2006-02-16 Pentax Corp 電子内視鏡システム及び電子内視鏡用プロセッサ
JP2006175052A (ja) 2004-12-22 2006-07-06 Fuji Photo Film Co Ltd 蛍光画像撮像装置
JP2009226065A (ja) * 2008-03-24 2009-10-08 Olympus Corp カプセル型医療装置とその作動方法およびカプセル型医療装置システム
WO2011099363A1 (ja) * 2010-02-10 2011-08-18 オリンパス株式会社 蛍光内視鏡装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62247232A (ja) 1986-04-21 1987-10-28 Agency Of Ind Science & Technol 蛍光測定装置
JP2904450B2 (ja) * 1991-07-15 1999-06-14 株式会社東芝 Mri用画像処理装置
JPH07129751A (ja) * 1993-10-29 1995-05-19 Hitachi Medical Corp 医用画像処理装置
DE60109989T2 (de) * 2000-06-26 2006-02-23 Fuji Photo Film Co. Ltd., Minamiashigara Vorrichtung zur Aufnahme von Fluoreszenzbildern
JP2003010101A (ja) * 2001-04-27 2003-01-14 Fuji Photo Film Co Ltd 内視鏡装置の撮像方法および装置
US7256392B2 (en) * 2003-03-03 2007-08-14 Fujifilm Corporation Inspection method of radiation imaging system and medical image processing apparatus using the same, and phantom for use of inspection of radiation imaging system
JP5074044B2 (ja) * 2007-01-18 2012-11-14 オリンパス株式会社 蛍光観察装置および蛍光観察装置の作動方法
JP5407015B2 (ja) * 2008-07-10 2014-02-05 国立大学法人徳島大学 画像処理装置、画像処理方法、コンピュータ実行可能な画像処理プログラム、及び顕微鏡システム
JP5396121B2 (ja) * 2009-03-26 2014-01-22 オリンパス株式会社 画像処理装置、撮像装置、画像処理プログラムおよび画像処理装置の作動方法
JP5449816B2 (ja) * 2009-03-26 2014-03-19 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP5690327B2 (ja) * 2010-03-09 2015-03-25 オリンパス株式会社 蛍光内視鏡装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0358729B2 (ja) 1987-04-10 1991-09-06 Kogyo Gijutsuin
JPS62247332A (ja) 1987-04-17 1987-10-28 Canon Inc カラ−液晶表示セルの製造法
JP2002345739A (ja) * 2001-05-25 2002-12-03 Fuji Photo Film Co Ltd 画像表示装置
JP2006043196A (ja) * 2004-08-05 2006-02-16 Pentax Corp 電子内視鏡システム及び電子内視鏡用プロセッサ
JP2006175052A (ja) 2004-12-22 2006-07-06 Fuji Photo Film Co Ltd 蛍光画像撮像装置
JP2009226065A (ja) * 2008-03-24 2009-10-08 Olympus Corp カプセル型医療装置とその作動方法およびカプセル型医療装置システム
WO2011099363A1 (ja) * 2010-02-10 2011-08-18 オリンパス株式会社 蛍光内視鏡装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2754380A4

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015045516A1 (ja) 2013-09-27 2015-04-02 富士フイルム株式会社 蛍光観察装置、内視鏡システム及びプロセッサ装置並びに作動方法
US10244972B2 (en) 2013-09-27 2019-04-02 Fujifilm Corporation Fluorescence observation device, endoscopic system, processor device, and operation method
CN115719415A (zh) * 2022-03-28 2023-02-28 南京诺源医疗器械有限公司 一种视野可调双视频融合成像方法及系统
CN115719415B (zh) * 2022-03-28 2023-11-10 南京诺源医疗器械有限公司 一种视野可调双视频融合成像方法及系统

Also Published As

Publication number Publication date
CN103764009A (zh) 2014-04-30
EP2754380A1 (en) 2014-07-16
EP2754380A4 (en) 2015-02-25
JP2013056040A (ja) 2013-03-28
US9417188B2 (en) 2016-08-16
CN103764009B (zh) 2016-08-17
JP6005918B2 (ja) 2016-10-12
EP2754380B1 (en) 2017-08-30
US20140184790A1 (en) 2014-07-03

Similar Documents

Publication Publication Date Title
JP6005918B2 (ja) 蛍光観察装置
JP5802440B2 (ja) 蛍光観察装置
JP5816486B2 (ja) 蛍光観察装置および蛍光観察システム並びに蛍光観察装置の蛍光画像処理方法
CN110325100B (zh) 内窥镜系统及其操作方法
CN102753079B (zh) 荧光内窥镜装置
CN110337259B (zh) 内窥镜系统、处理器装置及内窥镜系统的工作方法
JP6461797B2 (ja) 蛍光観察装置
JP6053673B2 (ja) 蛍光観察装置とその画像表示方法
JP6391562B2 (ja) 蛍光観察装置
WO2012114934A1 (ja) 蛍光観察装置
CN102724908B (zh) 荧光观察装置
JP5393215B2 (ja) 蛍光観察装置、蛍光観察システムおよび蛍光観察装置の作動方法
JP2010220894A (ja) 蛍光観察システム、蛍光観察装置および蛍光観察方法
JP5498282B2 (ja) 蛍光観察装置
GB2498491A (en) Diagnostic system
CN116133572A (zh) 图像分析处理装置、内窥镜系统、图像分析处理装置的工作方法及图像分析处理装置用程序
JP5592715B2 (ja) 画像処理装置および画像処理方法
WO2018159082A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
CN109526203B (zh) 图像处理装置以及电子内窥镜系统

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12830529

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

REEP Request for entry into the european phase

Ref document number: 2012830529

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2012830529

Country of ref document: EP