[go: up one dir, main page]

WO2021235468A1 - 内視鏡システムおよび制御方法 - Google Patents

内視鏡システムおよび制御方法 Download PDF

Info

Publication number
WO2021235468A1
WO2021235468A1 PCT/JP2021/018909 JP2021018909W WO2021235468A1 WO 2021235468 A1 WO2021235468 A1 WO 2021235468A1 JP 2021018909 W JP2021018909 W JP 2021018909W WO 2021235468 A1 WO2021235468 A1 WO 2021235468A1
Authority
WO
WIPO (PCT)
Prior art keywords
endoscope
information
image
image pickup
pickup element
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2021/018909
Other languages
English (en)
French (fr)
Inventor
祐哉 江端
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nipro Corp
Original Assignee
Nipro Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nipro Corp filed Critical Nipro Corp
Priority to JP2022524506A priority Critical patent/JP7718414B2/ja
Publication of WO2021235468A1 publication Critical patent/WO2021235468A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Definitions

  • the present invention relates to an endoscopic system and a control method capable of observing a body cavity or a visceral lumen.
  • an endoscopic system used for endoscopic surgery and the like has been known as an example of a medical system in the medical field and the like.
  • Such an endoscope system includes an endoscope and an endoscope video processor connected to the endoscope.
  • the endoscope includes an image pickup element that images the body cavity and internal organ lumen of the subject, and a cable for transmitting an electric signal corresponding to an optical image of the target part of the subject imaged through the image pickup element. ..
  • the endoscope video processor converts an electric signal input from the endoscope through a cable into a video signal and displays it on a monitor or the like connected to the endoscope video processor.
  • endoscopes are prepared according to endoscopic surgery and the like.
  • Endoscope Each of the various endoscopes prepared for surgery and the like has unique characteristics that require correction when acquiring an image of the subject.
  • the operator (operator) who operates the endoscope takes an image through an image pickup element, for example, through a panel operation of an endoscope video processor, a menu for correcting the unique characteristics of the endoscope, or the like.
  • the optical image is corrected.
  • it has been troublesome to manually correct the optical image captured through the image sensor for each of the endoscopes prepared for endoscopic surgery and the like. ..
  • the present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique for improving usability by eliminating the trouble of correction for each endoscope in an endoscope video processor. Is.
  • the endoscope system for solving the above problems is An endoscope including an image pickup element that images the body cavity and internal organ lumen of a subject, and a storage unit that holds information for correcting the unique characteristics of the image pickup element. Based on the information for correcting the unique characteristics of the image pickup element connected to the endoscope and held in the storage unit, the image pickup image of the subject captured by the image pickup element is corrected, and the subject is corrected.
  • An endoscopic video processor equipped with a control unit that generates image information of the body cavity and the internal cavity of the internal organs. It is characterized by having.
  • the endoscope can hold information for correcting the unique characteristics caused by the image sensor in the memory. Then, the endoscope video processor connected to the endoscope can read out the information for correcting the unique characteristic held in the memory.
  • the endoscope video processor automatically executes correction processing for the captured image for each field or frame generated at a predetermined periodic interval based on the correction information acquired from the endoscope, and the video signal. Can be generated. According to the endoscope system, it is possible to eliminate the trouble of correcting each endoscope in the endoscope video processor and improve usability.
  • the information for correcting the unique characteristics of the image sensor includes the position information of the defective pixel included in the image sensor, and the control unit is adjacent to the defective pixel.
  • Complementary processing for the defective pixel may be performed based on the pixel information of the peripheral pixel including the pixel.
  • the endoscope video processor it becomes possible to complement the pixel information about the defective pixel based on the pixel information of the defective pixel and the peripheral pixel including the adjacent pixel adjacent to the defective pixel.
  • the pixel information corresponding to the defective pixel position is appropriate.
  • a video signal complemented by can be generated.
  • the information for correcting the unique characteristics of the image sensor includes information indicating the sensitivity difference between the pixels constituting the image sensor, and the control unit uses the image sensor. Based on the information indicating the sensitivity difference between the constituent pixels, the correction process may be performed to level the variation in the sensitivity between the pixels with respect to the captured image of the subject captured by the image sensor.
  • the endoscopic video processor it is possible to make corrections for leveling the variation in sensitivity between pixels with respect to the captured image, based on the position information of the pixels having a relative sensitivity difference and the information indicating the sensitivity difference.
  • the information for correcting the unique characteristics of the image sensor is used when outputting the clock signal supplied to the image sensor and the captured image of the subject captured by the image sensor.
  • the control unit includes information on the phase difference between the clock signal and the clock signal, and the control unit between the clock signal supplied to the image sensor and the clock signal when outputting the image data of the subject imaged by the image sensor.
  • the timing of the captured image for each field or frame may be adjusted based on the information regarding the phase difference of the above.
  • a predetermined periodic interval is based on information (time, count value, etc.) indicating a phase difference between a clock signal supplied to an image pickup element and a clock signal when outputting image data.
  • a video signal can be generated by adjusting the timing corresponding to the phase difference with respect to the captured image for each field or frame generated in. It is possible to appropriately suppress the occurrence of vertical stripes in the image due to the phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data.
  • the information for correcting the unique characteristics of the image sensor includes the identification information for identifying the image sensor or the endoscope including the image sensor, and the control unit is the control unit.
  • the information related to the correction of the image sensor which is associated with the identification information and stored in the own device, is specified, the complementary processing for the defective pixels included in the image sensor, and the pixel spacing for the captured image of the subject captured by the image sensor.
  • At least one of the correction process for leveling the variation in the sensitivity of the image sensor and the timing adjustment process for the captured image for each field or frame captured by the image sensor may be executed.
  • information for correcting the unique characteristics of the image pickup element specified by the identification information acquired from the endoscope is read out from the memory or the like of the own device and generated at a predetermined cycle interval.
  • a video signal can be generated by automatically executing correction processing for the captured image for each field or frame.
  • an endoscope having an image pickup element that images the body cavity and internal cavity of a subject and a storage unit that holds information for correcting the unique characteristics of the image pickup element, and connected to the endoscope.
  • the control unit of the endoscope video processor is based on information for correcting the unique characteristics of the image pickup element held in the storage unit. This is exemplified as a control method characterized in that the image captured by the subject captured by the image pickup element is corrected to generate image information of the body cavity and the internal cavity of the subject.
  • the correction process for the captured image for each field or frame generated at a predetermined periodic interval based on the correction information acquired from the endoscope. Can be automatically executed to generate a video signal. According to the endoscope system, it is possible to eliminate the trouble of correcting each endoscope in the endoscope video processor and improve usability.
  • FIG. 1 is a diagram illustrating a schematic configuration of an endoscope 100 according to the present embodiment.
  • the endoscope 100 according to the present embodiment is a flexible mirror, and includes an insertion unit 101, an operation unit 102, a light guide plug 103, a video plug 104, and a cord 105 as components. Included in.
  • the light guide plug 103 and the video plug 104 are dedicated connectors for connecting a light source device and an endoscope video processor (not shown) to the endoscope 100, respectively.
  • the insertion portion 101 is a portion to be inserted into the body cavity or lumen of a subject, and the tip portion is illuminated by an irradiation portion (light guide) that irradiates the body cavity or the like (subject) of the insertion destination, and irradiation light.
  • An image sensor (not shown) such as a CCD (Charge-Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) that converts the reflected light from the body cavity or the like into an electric signal as incident light is provided.
  • the tip portion of the insertion portion 101 can be turned up and down or left and right according to an operation instruction from the operation portion 102.
  • the operation unit 102 is provided on the rear end side of the insertion unit 101, and is connected to a cord 105 having a light guide plug 103 and a video plug 104.
  • the light guide plug 103 of the cord 105 is connected to the light source device, and the video plug 104 is connected to the endoscope video processor described later.
  • the operation unit 102 performs an operation for emitting the light radiated from the light source device connected through the light guide plug 103 toward the subject.
  • the reflected light from the subject irradiated with the irradiation light is received by the image pickup element provided on the tip end side of the insertion portion 101.
  • the image sensor provided at the tip of the insertion portion 101 converts the received reflected signal into an electric signal, and one field or one field sampled at a predetermined time interval (for example, 1/60 second or 1/30 second interval). It is output to the code 105 as a pixel signal (image data) for one frame.
  • the endoscope video processor connected to the endoscope 100 through the video plug 104 captures an image of the body cavity or the internal cavity of the subject irradiated with the irradiation light based on the pixel signal input through the code 105. Generate.
  • the captured image for each field or frame generated at a predetermined cycle interval is displayed as a video signal of the target portion of the subject in which the endoscope 100 is inserted in a display device such as a monitor provided in the endoscope video processor. Will be done.
  • each of the various endoscopes has unique characteristics that require correction when acquiring an image of the subject. These unique characteristics are, for example, characteristics caused by an image pickup element provided on the tip end side of the insertion portion 101 of the endoscope 100, and are defective in pixels during the manufacture of the image pickup element and between pixels constituting the image pickup element. Examples include the difference in sensitivity, the CLK (clock) phase at the time of image data output, and the like.
  • FIG. 2 is a diagram illustrating a pixel defect in the image sensor.
  • FIG. 2 (1) illustrates an image pickup device containing a pixel defect
  • FIG. 2 (2) illustrates an image image captured by the image pickup device containing a pixel defect.
  • pixel information color information such as color tone and gradation
  • Cy, Ye, G, M, R, G, B, etc. are missing.
  • the pixel information corresponding to the defective pixel position is obtained.
  • a video signal that is not included will be generated.
  • FIG. 3 is a diagram for explaining the difference in sensitivity between the pixels constituting the image sensor.
  • an image pickup device Z2 composed of 9 ⁇ 7 pixels is exemplified.
  • the pixel Z2a represents a pixel having a relatively low sensitivity
  • the pixel Z2b represents a pixel having a relatively high sensitivity.
  • a relative sensitivity difference may be included between the pixels constituting the image pickup device Z2.
  • the sensitivity difference between the pixels may be brightness noise, color noise, etc. when generating a video signal from the image of the subject captured by the image sensor. It becomes rough and appears in the image displayed on the monitor or the like.
  • FIG. 4 is a diagram illustrating the phase of the clock (CLK) signal at the time of image data output.
  • the image sensor scans the pixels constituting the image sensor based on a clock signal having a predetermined cycle, and a pixel signal (image data) for one field or one frame at a rate of 1/60 second or 1/30 second interval. Is output. If there is a phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data, the phase difference may become vertical stripes in the image displayed on the monitor or the like. ..
  • FIG. 4 (1) is a diagram showing vertical stripes generated in an image displayed on a monitor or the like
  • FIG. 4 (2) is a diagram showing a clock signal (CLK IN) input to an image pickup element and image data when being output.
  • the endoscope 100 of the endoscope system according to the present embodiment holds a correction parameter for a unique characteristic caused by an image pickup device in a memory.
  • the memory provided with the endoscope 100 at least, the defect of the pixel of the image pickup device described above, the difference in sensitivity between the pixels constituting the image pickup device, the CLK (clock) phase at the time of image data output, and the like are corrected.
  • Information (correction parameters) is recorded.
  • the information for correcting the unique characteristics caused by the image pickup element provided in the endoscope 100 is the identification information (serial number, etc.) for identifying the endoscope or the image pickup element provided in the endoscope. Associated with and kept in memory.
  • the endoscope video processor corrects the unique characteristics caused by the image pickup element held in the memory from the endoscope 100 connected through the video plug 104.
  • Information (correction parameter) for The acquisition of the correction information stored in the memory of the endoscope 100 may be performed when the video plug 104 of the endoscope 100 is attached, and the instruction item in the menu read out through the operation panel or the like is executed. It may be time.
  • the endoscope video processor according to the present embodiment automatically corrects the unique characteristics caused by the image pickup device based on the information read from the memory included in the endoscope 100. For example, when the image sensor included in the endoscope 100 contains a pixel defect, the pixel information around the defective pixel is used to supplement the pixel information for the defective pixel. The complementation of pixel information for defective pixels will be described later.
  • the endoscope video processor makes a correction for leveling the difference in sensitivity between pixels when there is a difference in sensitivity between pixels in the image pickup element included in the endoscope 100. Further, the endoscope video processor according to the present embodiment generates a video signal when a phase difference occurs between the clock signal supplied to the image pickup element and the clock signal when outputting the image data. At that time, the process of correcting the phase difference is performed. According to the endoscope system according to the present embodiment, the labor related to the correction for each endoscope in the endoscope video processor can be omitted, and the usability can be improved.
  • FIG. 5 is a block diagram showing a schematic configuration of the endoscope system according to the present embodiment.
  • the endoscope 100, the endoscope video processor 10, and the monitor 20 according to the present embodiment are exemplified.
  • the image pickup element 111 omitted in FIG. 1 and the memory 112 are shown as components.
  • the endoscope 100 according to the present embodiment is connected to the light source device through the light guide plug 103.
  • the endoscope 100 is connected to the endoscope video processor 10 through a cable 105 having a video plug 104.
  • the endoscope video processor 10 is connected to a monitor 20 constituting the endoscope system 1.
  • the memory 112 included in the endoscope 100 holds information (correction parameters) for correcting the unique characteristics caused by the image pickup device.
  • the memory 112 is a non-volatile storage device such as an EPROM (ErasableProgrammableROM) or a flash memory.
  • the information regarding the correction held in the memory 112 includes defects in the pixels of the image pickup device, differences in sensitivity between the pixels constituting the image pickup device, and image data output as described at least with reference to FIGS. 2 to 4.
  • Information for correcting the CLK (clock) phase and the like is included.
  • information indicating the position of the defective pixels in the image sensor is held as a correction parameter.
  • an image pickup device composed of 14 pixels (horizontal) ⁇ 14 pixels (vertical) is shown.
  • the position of the defective pixel can be represented by, for example, two-dimensional coordinates (X, Y) in which the upper left pixel of the image pickup element is the coordinate origin, the horizontal direction is the X coordinate, and the vertical direction is the Y coordinate.
  • the endoscope 100 may hold the coordinate position of the defective pixel in the image pickup element 111 as a correction parameter in association with the item information indicating the defect of the pixel of the image pickup element.
  • the position information of the pixels having a relative sensitivity difference in the image sensor and the difference information indicating the sensitivity difference are held as correction parameters.
  • the relative sensitivity difference between the pixel Z2b and the pixel Z2c is held together with the position information of the pixel Z2b.
  • the relative sensitivity difference between the pixel Z2a and the pixel Z2c is held together with the position information of the pixel Z2a.
  • the endoscope 100 may hold the above information as a correction parameter in association with the item information indicating the difference in sensitivity between the pixels of the image pickup device.
  • information for correcting the CLK (clock) phase at the time of image data output information indicating the phase difference (time, count value, etc.) is held as a correction parameter.
  • it corresponds to the phase difference ( ⁇ ) between the rising edge of the clock signal (CLK IN) supplied to the image sensor in FIG. 4 (2) and the rising edge of the clock signal (DATA) when outputting image data.
  • the time and count value are retained.
  • the endoscope 100 may hold the above information as a correction parameter in association with the item information indicating the phase difference from the clock signal.
  • Such information is acquired in advance for each endoscope at the time of manufacturing the endoscope 100. Then, the manufacturer or the like of the endoscope 100 records the information (correction parameter) for correcting the unique characteristics caused by the acquired image pickup element in the memory 112 of each endoscope.
  • Information for correcting the unique characteristics caused by the image pickup element is associated with, for example, the endoscope or identification information (serial number or the like) for identifying the image pickup element provided in the endoscope. It is kept in memory.
  • the endoscope video processor 10 is a computer including a CPU (Central Processing Unit) 12, a memory 13, and a video processing circuit 14.
  • the CPU 12 the memory 13, and the video processing circuit 14 constitute a control unit 11.
  • Each of the above components may be provided in a plurality of elements, or some components may not be provided.
  • the CPU 12 is a central processing arithmetic unit that controls the entire endoscope video processor 10.
  • the CPU 12 includes an MPU (Micro-Processing Unit), a DSP (Digital Signal Processor), and the like.
  • the CPU 12 provides a function that meets a predetermined purpose by, for example, deploying a program stored in a memory executably in a work area and controlling peripheral devices through the execution of the program.
  • the memory 13 stores a program executed by the CPU 12, data processed by the CPU, and the like.
  • the memory 13 includes a volatile storage device such as RAM (RandomAccessMemory), a flash memory, and a non-volatile storage device such as EPROM.
  • the image processing circuit 14 generates an image signal of the target portion of the subject into which the endoscope 100 is inserted, based on the captured image for each field or frame output from the endoscope 100.
  • a part or all of the functions provided by the control unit 11 including the CPU 12 and the video processing circuit 14 may be provided by an ASIC (Application Specific Integrated Circuit), a GPU (Graphics Processing Unit), or the like.
  • ASIC Application Specific Integrated Circuit
  • GPU Graphics Processing Unit
  • some or all functions are realized by FPGA (Field-Programmable Gate Array), dedicated LSI (large scale integration) such as FPGA (Field-Programmable Gate Array), numerical arithmetic processor, vector processor, image processor, and other hardware circuits. May be good.
  • the endoscope video processor 10 includes a communication interface and an input / output interface (not shown).
  • the communication interface is a communication interface for connecting the endoscope video processor 10 and another device such as a monitor 20.
  • the communication interface can adopt an appropriate configuration according to the connection method with other devices.
  • the input / output interface is an interface for input / output to / from an input / output device such as an operation panel provided in the endoscope video processor 10.
  • the monitor 20 is a display device including a display device such as an LCD (Liquid Crystal Display). The monitor 20 causes the display device to display the video signal of the target portion of the subject output from the endoscope video processor 10.
  • the endoscope video processor 10 is information (correction parameter) for correcting the unique characteristics caused by the image pickup element held in the memory 112 from the endoscope 100 connected through the video plug 104. ).
  • the acquisition of the correction information held in the memory 112 of the endoscope 100 may be performed when the video plug 104 is attached, or when an item selected from the menu read through the operation panel or the like is executed. There may be.
  • the endoscope video processor 10 automatically corrects the unique characteristics caused by the image pickup device based on the information read from the memory 112.
  • the image sensor included in the endoscope 100 contains pixel defects
  • the pixel information around the defective pixels is used for the image captured for each field or frame generated at predetermined periodic intervals.
  • the pixel information is complemented for the defective pixel. Further, when there is a difference in sensitivity between pixels in the image pickup element included in the endoscope 100, the variation in sensitivity between pixels with respect to the captured image for each field or frame generated at a predetermined cycle interval is leveled. Make corrections. If there is a phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data, the captured image for each field or frame generated at a predetermined cycle interval. On the other hand, the timing adjustment corresponding to the phase difference is performed to generate a video signal.
  • FIG. 6 is a diagram illustrating a pixel information complementation process for defective pixels.
  • an image pickup device Z4 composed of 3 pixels ⁇ 3 pixels is exemplified.
  • the pixel X represents a defective pixel
  • the pixels a to d represent pixels located in the vicinity of the pixel X.
  • the endoscope video processor 10 identifies the defective pixel X in the image pickup device Z4 from the position information of the defective pixel held in the memory 112. Then, the endoscope video processor 10 identifies pixels a, d, b, and c adjacent to the top, bottom, left, and right of the defective pixel X.
  • the endoscope video processor 10 has pixel information from pixels a to pixels d adjacent to the top, bottom, left, and right of the defective pixel X (color information such as color tone and gradation, Cy, Ye, G, M, R, G, B, etc.). Based on the above, the complementary processing for the defective pixel X is performed. As shown in FIG. 6, the pixel information of the defective pixel X is complemented by "(a + b + c + d) / 4" using the pixel information of the pixels a to d.
  • the complement processing for defective pixels may be obtained by using another known method. As the complement processing for such defective pixels, bicubic interpolation processing is exemplified.
  • the defect pixel is complemented based on the gradient gradient of the cubic expression (gradient gradient in which the color information such as color tone and gradation changes) obtained from the pixel information of the peripheral pixels around the defective pixel position. Processing is done.
  • the peripheral pixel is, for example, a pixel group of 3 ⁇ 3 pixels, 4 ⁇ 4 pixels, 5 ⁇ 5 pixels, etc., including adjacent pixels adjacent to the defective pixel.
  • FIG. 7 is a flowchart showing an example of the correction process provided by the endoscope video processor 10 according to the present embodiment. This flow provides automatic correction for the inherent characteristics of the image sensor 111 included in the endoscope 100. The correction process shown in FIG. 7 is performed for each field or frame of image data output from the endoscope 100 at a rate of 1/60 second or 1/30 second interval.
  • step S101 information (correction parameter) for correcting the unique characteristic caused by the image pickup element held in the memory 112 is acquired from the endoscope 100 connected through the video plug 104. ..
  • the information for correcting the unique characteristics caused by the image sensor is, at least, the position information of the defective pixel included in the image sensor, the information indicating the sensitivity difference between the pixels constituting the image sensor, and the information supplied to the image sensor. It contains information about the phase difference between the clock signal and the clock signal when outputting the image data.
  • the CPU 12 of the endoscope video processor 10 temporarily records the information regarding the correction acquired from the memory 112 of the endoscope 100 in a predetermined storage area of the memory 13, the process proceeds to step S102.
  • step S102 it is determined whether or not the correction information regarding the defective pixel included in the image pickup element is present in the correction information acquired from the endoscope 100. If the correction information regarding the defective pixel included in the image pickup element is present in the correction information acquired from the endoscope 100 (step S102, “Yes”), the process proceeds to step S103. If not (step S102, “No”), the process proceeds to step S104. In step S103, as described with reference to FIG. 6, the pixel information complement processing for the defective pixel is executed based on the pixel information of the adjacent pixels vertically and horizontally adjacent to the defective pixel.
  • step S104 it is determined whether or not the correction information acquired from the endoscope 100 includes information for correcting the sensitivity difference between the pixels constituting the image pickup device. If the correction information acquired from the endoscope 100 includes information for correcting the sensitivity difference between the pixels constituting the image pickup device (step S104, "Yes"), the process proceeds to step S105. If not (step S104, “No”), the process proceeds to step S106. In step S105, a correction process is performed to level the variation in sensitivity between pixels with respect to the captured image, based on the position information of the pixels having a relative sensitivity difference and the information indicating the sensitivity difference.
  • step S106 in the information regarding the correction acquired from the endoscope 100, the information regarding the phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data is included. Whether or not it is included is determined.
  • the information regarding the correction acquired from the endoscope 100 includes information regarding the phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data (step). S106, "Yes"), the process proceeds to step S107, and if not (step S106, "No"), this routine is temporarily terminated.
  • step S107 it is generated at a predetermined cycle interval based on information (time, count value, etc.) indicating the phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data. Timing adjustment corresponding to the phase difference is performed on the captured image for each field or frame, and a video signal is generated. After the processing of step S107, this routine is temporarily terminated.
  • the endoscope 100 can hold information for correcting the unique characteristics caused by the image pickup device 111 in the memory 112.
  • the endoscope video processor 10 according to the present embodiment is the endoscope video processor 10 when the video plug 104 of the endoscope 100 is attached or connected to the endoscope 100 through the video plug 104.
  • Information for correcting the characteristics peculiar to the endoscope 100 can be acquired when the operator's instruction is input via the operation panel or the like.
  • correction processing for the captured image for each field or frame generated at a predetermined periodic interval is performed based on the correction information acquired from the endoscope 100. Can be automatically executed to generate a video signal.
  • the labor related to the correction for each endoscope in the endoscope video processor 10 can be omitted, and the usability can be improved.
  • the endoscope 100 can hold the position information of the defective pixel included in the image pickup element 111 as a parameter as information for correcting the unique characteristic caused by the image pickup element 111.
  • the endoscope video processor 10 as described with reference to FIG. 6, it is possible to complement the pixel information of the defective pixel based on the pixel information of the adjacent pixels adjacent to the defective pixel in the vertical and horizontal directions. become.
  • the defective pixel position it is possible to generate a video signal in which the pixel information corresponding to the above is appropriately complemented.
  • the endoscope 100 provides information indicating a sensitivity difference between the pixels constituting the image pickup element 111 as information for correcting the unique characteristics caused by the image pickup element 111. Can be retained as a parameter.
  • the endoscope video processor 10 it is possible to make a correction for leveling the variation in sensitivity between pixels with respect to a captured image based on the position information of pixels having a relative sensitivity difference and the information indicating the sensitivity difference.
  • appropriate correction for leveling the variation in the sensitivity between the pixels is performed when the video signal is generated. This makes it possible to suppress roughness such as luminance noise and color noise caused by the difference in sensitivity between pixels.
  • the endoscope 100 when the endoscope 100 outputs a clock signal and image data supplied to the image pickup element as information for correcting the unique characteristics caused by the image pickup element 111.
  • Information about the phase difference with the clock signal of can be held as a parameter.
  • a predetermined period is based on information (time, count value, etc.) indicating a phase difference between a clock signal supplied to an image pickup element and a clock signal when outputting image data.
  • a video signal can be generated by adjusting the timing corresponding to the phase difference with respect to the captured image for each field or frame generated at intervals. According to the present embodiment, it is possible to appropriately suppress the occurrence of vertical stripes in the image due to the phase difference between the clock signal supplied to the image sensor and the clock signal when outputting the image data.
  • the memory 112 included in the endoscope 100 has identification information (serial number or the like) for identifying the endoscope or the image pickup element 111 provided in the endoscope. It has been described as retaining information for correcting the unique characteristics caused by the image sensor in relation to.
  • the information held in the memory 112 of the endoscope 100 may be limited to the identification information (serial number or the like) that identifies the endoscope or the image pickup element 111 provided in the endoscope. Then, the endoscope video processor 10 can also hold the information for correcting the unique characteristic of the image pickup device 111 associated with the identification information.
  • the endoscope 100 obtains identification information (serial number, etc.) for identifying the endoscope or the image pickup element 111 provided in the endoscope. It is held in the memory 112 as information for correcting the unique characteristic caused by 111. Further, the endoscope video processor 10 of the endoscope system 1 of the modified example associates the identification information held in the memory 112 of the endoscope 100 with the unique characteristics of the image pickup element 111 corresponding to the identification information. Information for correction is stored in the memory 13. In the memory 13, information for correcting the unique characteristics of the image pickup element 111 is associated with the endoscope 100 or identification information (serial number or the like) for identifying the image pickup element 111 provided in the endoscope. Is stored.
  • identification information serial number, etc.
  • the endoscope video processor 10 of the modified example is, for example, the endoscope held by the memory 112 from the endoscope 100 connected through the video plug 104 when the step S101 of FIG. 7 is executed.
  • Identification information serial number, etc.
  • the endoscope video processor 10 of the modified example refers to the memory 13 and identifies the information for correcting the peculiar characteristic of the image pickup element 111 associated with the acquired identification information (serial number or the like).
  • the process of step S102 to step S107 may be executed based on the information for correcting the identified unique characteristic.
  • the endoscope video processor it is caused by the image pickup element provided in the endoscope based on the identification information acquired as the information regarding the correction acquired from the endoscope.
  • the unique characteristics can be automatically corrected, and a video signal can be generated from the captured image for each field or frame generated at a predetermined cycle interval.
  • the time and effort related to the correction for each endoscope in the endoscope video processor can be omitted, and the usability can be improved.
  • processing described as being performed by one device may be shared and executed by a plurality of devices.
  • processing described as being performed by different devices may be performed by one device.
  • the processing described as being performed by different devices may be performed by one device.
  • the endoscope system it is possible to flexibly change what kind of hardware configuration is used to realize each function.
  • Endoscope system 10 Endoscope video processor 11: Control unit 12: CPU 13: Memory 14: Video processing circuit 20: Monitor 100: Endoscope 101: Insertion unit 102: Operation unit 103: Light guide plug 104: Video plug 105: Cable 111: Image sensor 112: Memory

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Endoscopes (AREA)

Abstract

内視鏡システムは、被検体の体腔や内臓の内腔を撮像する撮像素子と、撮像素子の固有の特性を補正するための情報が保持された記憶部と、を備える内視鏡と、内視鏡に接続され、記憶部に保持された撮像素子の固有の特性を補正するための情報に基づいて、撮像素子で撮像された被写体の撮像画像を補正し、被検体の体腔や内臓の内腔の映像情報を生成する制御部を備える内視鏡ビデオプロセッサと、を備える。

Description

内視鏡システムおよび制御方法
 本発明は、体腔または内臓の内腔を観察可能な内視鏡システムおよび制御方法に関する。
 従来から、医療分野等における医療システムの一例として、内視鏡外科手術等に使用される内視鏡システムが知られている。このような内視鏡システムは、内視鏡と、当該内視鏡に接続される内視鏡ビデオプロセッサとを含み構成される。内視鏡は、被検体の体腔や内臓の内腔を撮像する撮像素子と、当該撮像素子を通じて撮像された被検体の対象部位の光学像に相当する電気信号を伝送するためのケーブルとを備える。内視鏡ビデオプロセッサは、ケーブルを通じて内視鏡から入力された電気信号を映像信号に変換し、当該内視鏡ビデオプロセッサに接続されるモニタ等に表示させる。なお、本明細書で説明する技術に関連する技術が記載されている先行技術文献としては、以下の特許文献が存在している。
特許第6622292号公報
 ところで、内視鏡システムにおいては、内視鏡外科手術等に応じて様々な種別の内視鏡が用意される。内視鏡外科手術等に応じて用意される各種の内視鏡のそれぞれには、被写体の画像取得時に補正を要する固有の特性が存在する。内視鏡を操作する操作者(術者)は、例えば、内視鏡ビデオプロセッサのパネル操作等を介して、当該内視鏡の固有の特性を補正するためのメニュー等を通じて、撮像素子を通じて撮像された光学像の補正を行う。内視鏡を操作する操作者においては、内視鏡外科手術等に応じて用意された内視鏡のそれぞれに対して、撮像素子を通じて撮像された光学像の手動補正を行う手間が生じていた。
 本発明は、上記のような実情に鑑みてなされたものであり、その目的は、内視鏡ビデオプロセッサにおける内視鏡毎の補正に係る手間を省略化し、ユーザビリティを向上させる技術を提供することである。
 上記の課題を解決するための本発明の一側面に係る内視鏡システムは、
 被検体の体腔や内臓の内腔を撮像する撮像素子と、前記撮像素子の固有の特性を補正するための情報が保持された記憶部と、を備える内視鏡と、
 前記内視鏡に接続され、前記記憶部に保持された前記撮像素子の固有の特性を補正するための情報に基づいて、前記撮像素子で撮像された被写体の撮像画像を補正し、前記被検体の体腔や内臓の内腔の映像情報を生成する制御部を備える内視鏡ビデオプロセッサと、
 を備えることを特徴とする。
 これにより、内視鏡システムにおいて内視鏡は、撮像素子に起因する固有の特性を補正するための情報をメモリに保持することができる。そして、内視鏡に接続される内視鏡ビデオプロセッサは、メモリに保持された固有の特性を補正するための情報を読み出すことができる。内視鏡ビデオプロセッサにおいては、内視鏡から取得された補正に関する情報に基づいて、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対する補正処理を自動的に実行し、映像信号が生成できる。内視鏡システムによれば、内視鏡ビデオプロセッサにおける内視鏡毎の補正に係る手間を省略化し、ユーザビリティが向上できる。
 また、本発明の一側面において、前記撮像素子の固有の特性を補正するための情報は、前記撮像素子に含まれる欠陥画素の位置情報を含み、前記制御部は、前記欠陥画素に隣接する隣接画素を含む周辺画素の画素情報に基づいて、前記欠陥画素についての補完処理を行うようにしてもよい。内視鏡ビデオプロセッサにおいては、欠陥画素と、当該欠陥画素に対して隣接する隣接画素を含む周辺画素の画素情報に基づいて、当該欠陥画素についての画素情報の補完を行うことが可能になる。画素欠陥を含む撮像素子によって撮像された被写体の画像(内視鏡が挿入された被検体の体腔や内臓の内腔等の画像)であっても、欠陥した画素位置に対応する画素情報が適宜に補完された映像信号が生成できる。
 また、本発明の一側面において、前記撮像素子の固有の特性を補正するための情報は、前記撮像素子を構成する画素間の感度差を示す情報を含み、前記制御部は、前記撮像素子を構成する画素間の感度差を示す情報に基づいて、前記撮像素子で撮像された被写体の撮像画像に対する画素間の感度のばらつきを平準化する補正処理を行うようにしてもよい。内視鏡ビデオプロセッサにおいては、相対的な感度差を有する画素の位置情報および感度差を示す情報に基づいて、撮像画像に対する画素間の感度のばらつきを平準化する補正が可能になる。撮像素子を構成する画素間に相対的な感度差を有する場合であっても、映像信号を生成する際に、画素間の感度のばらつきを平準化する適宜な補正が可能になるため、画素間の感度差に起因する輝度ノイズやカラーノイズ等のざらつきが抑制できる。
 また、本発明の一側面において、前記撮像素子の固有の特性を補正するための情報は、前記撮像素子に供給されるクロック信号と前記撮像素子で撮像された被写体の撮像画像を出力する際のクロック信号との間の位相差に関する情報を含み、前記制御部は、前記撮像素子に供給されるクロック信号と前記撮像素子で撮像された被写体の撮像画像データを出力する際のクロック信号との間の位相差に関する情報に基づいて、フィールド毎あるいはフレーム毎の撮像画像に対するタイミング調整を行うようにしてもよい。内視鏡ビデオプロセッサにおいては、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差を示す情報(時間、カウント値等)に基づいて、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対し、当該位相差に相当するタイミング調整を行い、映像信号が生成できる。撮像素子に供給されるクロック信号と、画像データを出力する際のクロック信号との間に位相差に起因する、映像中の縦じまの発生を適宜に抑制できる。
 また、本発明の一側面において、前記撮像素子の固有の特性を補正するための情報は、前記撮像素子または前記撮像素子を備える内視鏡を識別する識別情報を含み、前記制御部は、前記識別情報に関連付けされて自装置に記憶された前記撮像素子の補正に関する情報を特定し、前記撮像素子に含まれる欠陥画素についての補完処理、前記撮像素子で撮像された被写体の撮像画像に対する画素間の感度のばらつきを平準化する補正処理、前記撮像素子で撮像されたフィールド毎あるいはフレーム毎の撮像画像に対するタイミング調整処理の何れか一つの処理を少なくとも実行するようにしてもよい。内視鏡ビデオプロセッサにおいては、内視鏡から取得した識別情報で特定される撮像素子の固有の特性を補正するための情報を自装置のメモリ等から読みだして、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対する補正処理を自動的に実行し、映像信号が生成できる。
 また、本発明の他の側面は、
 被検体の体腔や内臓の内腔を撮像する撮像素子と、前記撮像素子の固有の特性を補正するための情報が保持された記憶部とを備える内視鏡と、前記内視鏡と接続される内視鏡ビデオプロセッサとを備える内視鏡システムにおいて、前記内視鏡ビデオプロセッサの制御部が、前記記憶部に保持された前記撮像素子の固有の特性を補正するための情報に基づいて、前記撮像素子で撮像された被写体の撮像画像を補正し、前記被検体の体腔や内臓の内腔の映像情報を生成する、ことを特徴とする制御方法として例示される。
 このような形態であっても、内視鏡ビデオプロセッサにおいては、内視鏡から取得された補正に関する情報に基づいて、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対する補正処理を自動的に実行し、映像信号が生成できる。内視鏡システムによれば、内視鏡ビデオプロセッサにおける内視鏡毎の補正に係る手間を省略化し、ユーザビリティが向上できる。
 本発明によれば、内視鏡ビデオプロセッサにおける内視鏡毎の補正に係る手間を省略化し、ユーザビリティを向上させる技術が提供できる。
本実施形態に係る内視鏡の概略構成を説明する図である。 撮像素子における画素の欠陥を説明する図である。 撮像素子を構成する画素間の感度の差を説明する図である。 画像データ出力時のクロック信号の位相を説明する図である。 本実施形態に係る内視鏡システムの概略構成を示すブロック図である。 欠陥画素に対する画素情報の補完処理を説明する図である。 本実施形態に係る内視鏡ビデオプロセッサで提供される補正処理の一例を示すフローチャートである。
〔実施形態〕
 以下では、本発明の実施形態に係る内視鏡システムについて、図面を用いて、より詳細に説明する。以下で説明する実施形態は、本発明が開示する形態の一例であり、技術的範囲を以下の態様に限定するものではない。
 図1は、本実施形態に係る内視鏡100の概略構成を説明する図である。図1に示すように、本実施形態に係る内視鏡100は、軟性鏡であり、挿入部101と、操作部102と、ライトガイドプラグ103と、ビデオプラグ104と、コード105とを構成要素に含む。ライトガイドプラグ103およびビデオプラグ104は、それぞれ図示しない光源装置および内視鏡ビデオプロセッサと内視鏡100とを接続させるための専用コネクタである。
 図1において、挿入部101は、被検体の体腔や内腔に挿入される部位であり、先端部位には挿入先の体腔等(被写体)を照射する照射部(ライトガイド)、照射光によって照らされた体腔等からの反射光を入射光として電気信号に変換するCCD(Charge-Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子(図示せず)が設けられる。挿入部101の先端部位は、操作部102からの操作指示により、上下または左右方向に向きを変えることができる。
 操作部102は、挿入部101の後端側に設けられ、ライトガイドプラグ103と、ビデオプラグ104とを有するコード105に接続される。コード105のライトガイドプラグ103は光源装置に接続され、ビデオプラグ104は後述する内視鏡ビデオプロセッサに接続される。操作部102においては、ライトガイドプラグ103を通じて接続された光源装置から放射された光を被写体に向けて出射するための操作が行われる。照射光が照射された被写体からの反射光は、挿入部101の先端側に設けられた撮像素子により受光される。
 挿入部101の先端部位に設けられた撮像素子は、受光した反射信号を電気信号に変換し、所定の時間間隔(例えば、1/60秒あるいは1/30秒間隔)でサンプリングされた1フィールドあるいは1フレーム分の画素信号(画像データ)としてコード105に出力する。ビデオプラグ104を通じて内視鏡100と接続された内視鏡ビデオプロセッサは、コード105を通じて入力された画素信号に基づいて、照射光が照射された被写体である体腔または内蔵の内腔の撮像画像を生成する。所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像は、内視鏡ビデオプロセッサが備えるモニタ等の表示装置に、内視鏡100が挿入された被検体の対象部位の映像信号として表示される。
 ところで、内視鏡が用いられる内視鏡外科手術等においては、様々な種別の内視鏡が用意される。各種の内視鏡のそれぞれには、被写体の画像取得の際に補正を要する固有の特性が存在する。これらの固有の特性は、例えば、内視鏡100の挿入部101の先端側に設けられる撮像素子に起因する特性であり、撮像素子の製造時における画素の欠陥、撮像素子を構成する画素間の感度の差、画像データ出力時のCLK(クロック)位相等が例示される。
 図2は、撮像素子における画素の欠陥を説明する図である。図2(1)には、画素の欠陥を含む撮像素子が例示され、図2(2)には、画素欠陥を含む撮像素子によって撮像された画像イメージが例示されている。図2(1)、(2)に示すように、画素の欠陥を含む撮像素子で被写体が撮像された場合には、欠陥した画素位置に対応する画素情報(色調や階調等の色情報、Cy、Ye、G、M、R、G、B等)が欠落してしまう。このため、画素欠陥を含む撮像素子によって撮像された被写体の画像(内視鏡が挿入された被検体の体腔や内臓の内腔等の画像)からは、欠陥した画素位置に対応する画素情報が含まれない映像信号が生成されることになる。
 図3は、撮像素子を構成する画素間の感度の差を説明する図である。図3においては、9×7画素で構成された撮像素子Z2が例示される。図3において、画素Z2aは相対的に感度の低い画素を表し、画素Z2bは相対的に感度の高い画素を表す。図3に示すように、撮像素子Z2を構成する画素間には相対的な感度差を含む場合がある。撮像素子を構成する画素間に相対的な感度差を有する場合には、当該撮像素子によって撮像された被写体の画像から映像信号を生成する際に、画素間の感度差が輝度ノイズやカラーノイズ等のざらつきとなってモニタ等に表示される映像中に現れることになる。
 図4は、画像データ出力時のクロック(CLK)信号の位相を説明する図である。撮像素子は、所定周期のクロック信号に基づいて当該撮像素子を構成する画素の走査を行い、1/60秒あるいは1/30秒間隔といったレートで1フィールドあるいは1フレーム分の画素信号(画像データ)を出力する。撮像素子に供給されるクロック信号と、画像データを出力する際のクロック信号との間に位相差が生じる場合には、当該位相差がモニタ等に表示される映像中の縦じまとなる場合がある。図4(1)は、モニタ等に表示される映像中に生じた縦じまを表す図であり、図4(2)は撮像素子に入力されるクロック信号(CLK IN)と画像データを出力する際のクロック信号(DATA)との関係を表す図である。図4(2)に示すように、撮像素子に入力されるクロック信号(CLK IN)の立ち上がりと、画像データを出力する際のクロック信号(DATA)の立ち上がりとの間に位相差(α)が生ずる場合には、図4(1)の画像Z3に示すように被写体の映像中に、当該位相差(α)に起因する縦じまが生ずることになる。なお、上記のクロック信号間の位相差の説明においては、立ち上がりを例にして説明したが、当該位相差は立ち下がりであっても同様である。
 本実施形態に係る内視鏡システムにおいては、図2から図4を用いて説明したように、内視鏡に設けられた撮像素子に起因する固有の特性について、内視鏡毎の補正に係る手間を自動化して簡略化し、ユーザビリティを向上させる。具体的には、本実施形態に係る内視鏡システムの内視鏡100は、撮像素子に起因する固有の特性に対する補正パラメータをメモリ内に保持する。内視鏡100の備えるメモリ内には、少なくとも、上述した撮像素子の画素の欠陥、撮像素子を構成する画素間の感度の差、画像データ出力時のCLK(クロック)位相等を補正するための情報(補正パラメータ)が記録される。内視鏡100に設けられた撮像素子に起因する固有の特性を補正するための情報は、当該内視鏡あるいは、当該内視鏡に設けられた撮像素子を識別する識別情報(製造番号等)に関連付けされてメモリ内に保持される。
 そして、本実施形態に係る内視鏡システムにおいては、内視鏡ビデオプロセッサは、ビデオプラグ104を通じて接続された内視鏡100から、メモリに保持された撮像素子に起因する固有の特性を補正するための情報(補正パラメータ)を取得する。内視鏡100のメモリに保持された補正に関する情報の取得は、内視鏡100のビデオプラグ104の装着時であってもよく、操作パネル等を通じて読みだされたメニュー内の指示項目の実行のときであってもよい。本実施形態に係る内視鏡ビデオプロセッサは、内視鏡100の備えるメモリから読みだされた情報に基づいて、撮像素子に起因する固有の特性を自動的に補正する。例えば、内視鏡100の備える撮像素子に画素の欠陥が含まれる場合には、当該欠陥画素の周辺の画素情報を用いて当該欠陥画素に対する画素情報の補完を行う。欠陥画素に対する画素情報の補完については後述する。
 また、本実施形態に係る内視鏡ビデオプロセッサは、内視鏡100の備える撮像素子に画素間の感度の差が存在する場合には、画素間の感度のばらつきを平準化する補正を行う。さらに、本実施形態に係る内視鏡ビデオプロセッサは、撮像素子に供給されるクロック信号と、画像データを出力する際のクロック信号との間に位相差が生じる場合には、映像信号の生成の際に当該位相差を補正する処理を行う。本実施形態に係る内視鏡システムによれば、内視鏡ビデオプロセッサにおける内視鏡毎の補正に係る手間を省略化し、ユーザビリティが向上できる。
 図5は、本実施形態に係る内視鏡システムの概略構成を示すブロック図である。図5の内視鏡システム1では、本実施形態に係る内視鏡100と、内視鏡ビデオプロセッサ10と、モニタ20とが例示される。図5の内視鏡100には、図1において省略された撮像素子111と、メモリ112とが構成要素として示される。なお、図1を用いて説明したように、本実施形態に係る内視鏡100はライトガイドプラグ103を通じて光源装置に接続される。内視鏡100は、ビデオプラグ104を有するケーブル105を通じて、内視鏡ビデオプロセッサ10に接続される。内視鏡ビデオプロセッサ10は、内視鏡システム1を構成するモニタ20に接続される。
 既に説明したように、内視鏡100の備えるメモリ112には、撮像素子に起因する固有の特性を補正するための情報(補正パラメータ)が保持される。ここで、メモリ112は、EPROM(Erasable Programmable ROM)、フラッシュメモリ等の不揮発性の記憶デバイスである。メモリ112に保持される補正に関する情報には、少なくとも図2から図4を用いて説明したように、撮像素子の画素の欠陥、撮像素子を構成する画素間の感度の差、画像データ出力時のCLK(クロック)位相等を補正するための情報が含まれる。
 より具体的には、撮像素子の画素の欠陥を補正する情報として、撮像素子における欠陥画素の位置を示す情報が補正パラメータとして保持される。例えば、図2に示す撮像素子においては、14画素(横)×14画素(縦)で構成された撮像素子が示されている。欠陥画素の位置は、例えば、撮像素子の左上の画素を座標原点として、横方向をX座標、縦方向をY座標とする(X,Y)の2次元座標で表すことができる。内視鏡100は、撮像素子の画素の欠陥を示す項目情報に対応付けて、欠陥画素の撮像素子111における座標位置を補正パラメータとして保持すればよい。
 また、画素間の感度の差を補正する情報として、撮像素子において相対的な感度差を有する画素の位置情報と感度差を示す差分情報とが補正パラメータとして保持される。例えば、図3に示す撮像素子Z2においては、画素Z2bと画素Z2cとの相対的な感度差が画素Z2bの位置情報とともに保持される。同様にして、画素Z2aと画素Z2cとの相対的な感度差が画素Z2aの位置情報とともに保持される。内視鏡100は、撮像素子の画素間の感度の差を示す項目情報に対応付けて、上記情報を補正パラメータとして保持すればよい。
 また、画像データ出力時のCLK(クロック)位相等を補正する情報として、位相差を示す情報(時間、カウント値等)が補正パラメータとして保持される。例えば、図4(2)における撮像素子に供給されるクロック信号(CLK IN)の立ち上がりと、画像データを出力する際のクロック信号(DATA)の立ち上がりとの間の位相差(α)に相当する時間、カウント値が保持される。内視鏡100は、クロック信号との位相差を示す項目情報に対応付けて、上記情報を補正パラメータとして保持すればよい。
 なお、このような情報は、内視鏡100の製造時において、予め内視鏡毎に取得される。そして、内視鏡100の製造者等は、取得された撮像素子に起因する固有の特性を補正するための情報(補正パラメータ)を内視鏡毎のメモリ112に記録する。なお、撮像素子に起因する固有の特性を補正するための情報は、例えば、当該内視鏡あるいは、当該内視鏡に設けられた撮像素子を識別する識別情報(製造番号等)に関連付けされてメモリ内に保持される。
 図5に戻り、本実施形態に係る内視鏡ビデオプロセッサ10は、CPU(Central Processing Unit)12と、メモリ13と、映像処理回路14を含むコンピュータである。内視鏡ビデオプロセッサ10において、CPU12と、メモリ13と、映像処理回路14とは制御部11を構成する。上記の構成要素はそれぞれ複数に設けられてもよいし、一部の構成要素を設けないようにしてもよい。CPU12は、内視鏡ビデオプロセッサ10全体の制御を行う中央処理演算装置である。CPU12には、MPU(Micro-Processing Unit)、DSP(Digital Signal Processor)等が含まれる。CPU12は、例えば、メモリに記憶されたプログラムを作業領域に実行可能に展開し、当該プログラムの実行を通じて周辺機器の制御を行うことで所定の目的に合致した機能を提供する。メモリ13は、CPU12が実行するプログラム、当該CPUが処理するデータ等を記憶する。メモリ13には、RAM(Random Access Memory)といった揮発性の記憶デバイス、フラッシュメモリ、EPROMといった不揮発性の記憶デバイスが含まれる。映像処理回路14は、内視鏡100から出力されたフィールド毎あるいはフレーム毎の撮像画像に基づいて、内視鏡100が挿入された被検体の対象部位の映像信号を生成する。なお、CPU12、映像処理回路14を含む制御部11が提供する一部または全部の機能が、ASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)等によって提供されてもよい。同様にして、一部または全部の機能が、FPGA(Field-Programmable Gate Array)、数値演算プロセッサ、ベクトルプロセッサ、画像処理プロセッサ等の専用LSI(large scale integration)、その他のハードウェア回路で実現されてもよい。
 なお、内視鏡ビデオプロセッサ10は、図示しない通信インターフェース、入出力インターフェースを備える。通信インターフェースは、内視鏡ビデオプロセッサ10とモニタ20等の他の装置とを接続させるための通信インターフェースである。通信インターフェースは、他の機器との接続方式に応じて適宜の構成を採用できる。また、入出力インターフェースは、内視鏡ビデオプロセッサ10に設けられた操作パネル等の入出力デバイスとの間で入出力を行うインターフェースである。モニタ20は、LCD(Liquid Crystal Display)等の表示デバイスを含む表示装置である。モニタ20は、内視鏡ビデオプロセッサ10から出力される被検体の対象部位の映像信号を表示デバイスに表示させる。
 本実施形態に係る内視鏡ビデオプロセッサ10は、ビデオプラグ104を通じて接続された内視鏡100から、メモリ112に保持された、撮像素子に起因する固有の特性を補正するための情報(補正パラメータ)を取得する。内視鏡100のメモリ112に保持された補正に関する情報の取得は、ビデオプラグ104の装着時であってもよく、操作パネル等を通じて読みだされたメニュー内から選定された項目の実行のときであってもよい。そして内視鏡ビデオプロセッサ10は、メモリ112から読みだされた情報に基づいて、撮像素子に起因する固有の特性を自動的に補正する。内視鏡100の備える撮像素子に画素の欠陥が含まれる場合には、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対して、当該欠陥画素の周辺の画素情報を用いて当該欠陥画素に対する画素情報の補完を行う。また、内視鏡100の備える撮像素子に画素間の感度の差が存在する場合には、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対する画素間の感度のばらつきを平準化する補正を行う。また、撮像素子に供給されるクロック信号と、画像データを出力する際のクロック信号との間に位相差が存在する場合には、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対し、当該位相差に相当するタイミング調整を行い、映像信号を生成する。
 図6は、欠陥画素に対する画素情報の補完処理を説明する図である。図6においては、3画素×3画素で構成された撮像素子Z4が例示される。なお、撮像素子Z4において、画素Xは欠陥画素を表し、画素aから画素dは、画素Xの周辺に位置する画素を表す。本実施形態に係る内視鏡ビデオプロセッサ10は、メモリ112に保持された欠陥画素の位置情報から、撮像素子Z4における欠陥画素Xを特定する。そして、内視鏡ビデオプロセッサ10は、欠陥画素Xの上下左右に隣接する、画素a、画素d、画素b、画素cを特定する。内視鏡ビデオプロセッサ10は、欠陥画素Xの上下左右に隣接する画素aから画素dの画素情報(色調や階調等の色情報、Cy、Ye、G、M、R、G、B等)に基づいて、欠陥画素Xに対する補完処理を行う。図6に示すように、欠陥画素Xの画素情報は、画素aから画素dの画素情報を用いて「(a+b+c+d)/4」で補完される。なお、欠陥画素に対する補完処理は、他の公知の手法を用いて求めてもよい。このような欠陥画素に対する補完処理として、双三次補完(バイキュビック(Bicubic)補完)処理が例示される。双三次補完処理においては、欠陥画素位置周辺の周辺画素の画素情報から求められる3次式の勾配傾斜(色調や階調等の色情報が変化する勾配傾斜)に基づいて、当該欠陥画素に対する補完処理が行われる。周辺画素は、例えば、欠陥画素に隣接する隣接画素を含む、3×3画素、4×4画素、5×5画素等の画素群である。
(処理の流れ)
 図7は、本実施形態に係る内視鏡ビデオプロセッサ10で提供される補正処理の一例を示すフローチャートである。本フローにより、内視鏡100の備える撮像素子111に起因する固有の特性に対する自動補正が提供Yされる。なお、図7に示す補正処理は、1/60秒あるいは1/30秒間隔といったレートで内視鏡100から出力される1フィールドあるいは1フレーム分の画像データ毎に行われる。
 図7のフローチャートにおいて、処理の開始は、内視鏡100のビデオプラグ104の内視鏡ビデオプロセッサ10への装着のときが例示できる。但し、内視鏡100とビデオプラグ104を通じて接続された状態の、内視鏡ビデオプロセッサ10の操作パネル等を通じて読みだされたメニュー内の指示項目の実行のときであってもよい。処理の開始後、ステップS101において、ビデオプラグ104を通じて接続された内視鏡100から、メモリ112に保持された撮像素子に起因する固有の特性を補正するための情報(補正パラメータ)が取得される。撮像素子に起因する固有の特性を補正するための情報には、少なくとも、撮像素子に含まれる欠陥画素の位置情報、撮像素子を構成する画素間の感度差を示す情報、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差に関する情報が含まれる。内視鏡ビデオプロセッサ10のCPU12は、内視鏡100のメモリ112から取得した上記補正に関する情報を、メモリ13の所定に記憶領域に一時的に記録すると、処理はステップS102に進む。
 ステップS102においては、内視鏡100から取得された補正に関する情報中に、撮像素子に含まれる欠陥画素に関する補正情報が存在するか否かが判定される。内視鏡100から取得された補正に関する情報中に、撮像素子に含まれる欠陥画素に関する補正情報が存在する場合には(ステップS102、“Yes”)、処理はステップS103に進む。そうでない場合には(ステップS102、“No”)、処理はステップS104に進む。ステップS103では、図6を用いて説明したように、欠陥画素に上下左右に隣接する隣接画素の画素情報に基づいて、当該欠陥画素についての画素情報の補完処理が実行される。
 次に、ステップS104においては、内視鏡100から取得された補正に関する情報中に、撮像素子を構成する画素間の感度差を補正する情報が含まれているか否かが判断される。内視鏡100から取得された補正に関する情報中に、撮像素子を構成する画素間の感度差を補正する情報が含まれている場合には(ステップS104、“Yes”)、処理はステップS105に進み、そうでない場合には(ステップS104、“No”)、処理はステップS106に進む。ステップS105では、相対的な感度差を有する画素の位置情報および感度差を示す情報に基づいて、撮像画像に対する画素間の感度のばらつきを平準化する補正処理が行われる。
 同様にして、ステップS106においては、内視鏡100から取得された補正に関する情報中に、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差に関する情報が含まれているか否かが判断される。内視鏡100から取得された補正に関する情報中に、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差に関する情報が含まれている場合には(ステップS106、“Yes”)、処理はステップS107に進み、そうでない場合には(ステップS106、“No”)、本ルーチンが一旦終了される。ステップS107では、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差を示す情報(時間、カウント値等)に基づいて、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対し、当該位相差に相当するタイミング調整が行われ、映像信号が生成される。ステップS107の処理後、本ルーチンが一旦終了される。
 以上、説明したように、本実施形態の内視鏡システム1において内視鏡100は、撮像素子111に起因する固有の特性を補正するための情報をメモリ112に保持することができる。本実施形態に係る内視鏡ビデオプロセッサ10は、内視鏡100のビデオプラグ104の装着のとき、あるいは、内視鏡100とビデオプラグ104を通じて接続された状態の、内視鏡ビデオプロセッサ10の操作パネル等を介した操作者の指示入力のときを契機として、内視鏡100に固有の特性を補正するための情報を取得できる。そして、本実施形態に係る内視鏡ビデオプロセッサ10においては、内視鏡100から取得された補正に関する情報に基づいて、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対する補正処理を自動的に実行し、映像信号が生成できる。本実施形態に係る内視鏡システム1によれば、内視鏡ビデオプロセッサ10における内視鏡毎の補正に係る手間を省略化し、ユーザビリティが向上できる。
 本実施形態の内視鏡システム1において内視鏡100は、撮像素子111に起因する固有の特性を補正するための情報として、撮像素子111に含まれる欠陥画素の位置情報をパラメータとして保持できる。内視鏡ビデオプロセッサ10においては、図6を用いて説明したように、欠陥画素に上下左右に隣接する隣接画素の画素情報に基づいて、当該欠陥画素についての画素情報の補完を行うことが可能になる。本実施形態によれば、画素欠陥を含む撮像素子によって撮像された被写体の画像(内視鏡が挿入された被検体の体腔や内臓の内腔等の画像)であっても、欠陥した画素位置に対応する画素情報が適宜に補完された映像信号が生成できる。
 また、本実施形態の内視鏡システム1において内視鏡100は、撮像素子111に起因する固有の特性を補正するための情報として、撮像素子111を構成する画素間の感度差を示す情報をパラメータとして保持できる。内視鏡ビデオプロセッサ10においては、相対的な感度差を有する画素の位置情報および感度差を示す情報に基づいて、撮像画像に対する画素間の感度のばらつきを平準化する補正が可能になる。本実施形態によれば、撮像素子を構成する画素間に相対的な感度差を有する場合であっても、映像信号を生成する際に、画素間の感度のばらつきを平準化する適宜な補正が可能になるため、画素間の感度差に起因する輝度ノイズやカラーノイズ等のざらつきが抑制できる。
 また、本実施形態の内視鏡システム1において内視鏡100は、撮像素子111に起因する固有の特性を補正するための情報として、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差に関する情報をパラメータとして保持できる。内視鏡ビデオプロセッサ10においては、撮像素子に供給されるクロック信号と画像データを出力する際のクロック信号との間の位相差を示す情報(時間、カウント値等)に基づいて、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像に対し、当該位相差に相当するタイミング調整を行い、映像信号が生成できる。本実施形態によれば、撮像素子に供給されるクロック信号と、画像データを出力する際のクロック信号との間に位相差に起因する、映像中の縦じまの発生を適宜に抑制できる。
(変形例)
 実施形態に記載の内視鏡システム1において、内視鏡100が有するメモリ112には、当該内視鏡あるいは、当該内視鏡に設けられた撮像素子111を識別する識別情報(製造番号等)に関連付けて当該撮像素子に起因する固有の特性を補正するための情報を保持するとして説明した。内視鏡100のメモリ112に保持される情報は、当該内視鏡あるいは、当該内視鏡に設けられた撮像素子111を識別する識別情報(製造番号等)に限定することもできる。そして、当該識別情報に関連付けされる撮像素子111の固有の特性を補正するための情報は内視鏡ビデオプロセッサ10が保持することもできる。
 すなわち、変形例の内視鏡システム1においては、内視鏡100は、当該内視鏡あるいは、当該内視鏡に設けられた撮像素子111を識別する識別情報(製造番号等)を、撮像素子111に起因する固有の特性を補正するための情報としてメモリ112に保持する。また、変形例の内視鏡システム1の内視鏡ビデオプロセッサ10は、内視鏡100のメモリ112に保持された識別情報に関連付けて、当該識別情報に対応する撮像素子111の固有の特性を補正するための情報をメモリ13に記憶する。メモリ13には、撮像素子111の固有の特性を補正するための情報が、内視鏡100、あるいは当該内視鏡に設けられた撮像素子111を識別する識別情報(製造番号等)と関連付けされて格納される。
 そして、変形例の内視鏡ビデオプロセッサ10は、例えば、図7のステップS101の実行の際に、ビデオプラグ104を通じて接続された内視鏡100から、メモリ112が保持する当該内視鏡あるいは、当該内視鏡に設けられた撮像素子111を識別する識別情報(製造番号等)を、固有の特性を補正するための情報として取得する。そして、変形例の内視鏡ビデオプロセッサ10は、メモリ13を参照し、取得した識別情報(製造番号等)に関連付けされた撮像素子111の固有の特性を補正するための情報を特定し、当該特定された固有の特性を補正するための情報に基づいて、ステップS102からステップS107の処理を実行するようにすればよい。
 変形例の形態であっても、内視鏡ビデオプロセッサにおいては、内視鏡から取得された補正に関する情報として取得された識別情報に基づいて、当該内視鏡に設けられた撮像素子に起因する固有の特性を自動的に補正し、所定の周期間隔で生成されたフィールド毎あるいはフレーム毎の撮像画像から映像信号が生成できる。変形例においても、内視鏡ビデオプロセッサにおける内視鏡毎の補正に係る手間を省略化し、ユーザビリティが向上できる。
(その他)
 上記の実施形態はあくまでも一例であって、本実施の形態の開示はその要旨を逸脱しない範囲内で適宜変更して実施し得る。本開示において説明した処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組合せて実施することができる。
 また、1つの装置が行うものとして説明した処理が、複数の装置によって分担して実行されてもよい。あるいは、異なる装置が行うものとして説明した処理が、1つの装置によって実行されても構わない。内視鏡システムにおいて、各機能をどのようなハードウェア構成によって実現するかは柔軟に変更可能である。
1:内視鏡システム
10:内視鏡ビデオプロセッサ
11:制御部
12:CPU
13:メモリ
14:映像処理回路
20:モニタ
100:内視鏡
101:挿入部
102:操作部
103:ライトガイドプラグ
104:ビデオプラグ
105:ケーブル
111:撮像素子
112:メモリ

Claims (6)

  1.  被検体の体腔や内臓の内腔を撮像する撮像素子と、前記撮像素子の固有の特性を補正するための情報が保持された記憶部と、を備える内視鏡と、
     前記内視鏡に接続され、前記記憶部に保持された前記撮像素子の固有の特性を補正するための情報に基づいて、前記撮像素子で撮像された被写体の撮像画像を補正し、前記被検体の体腔や内臓の内腔の映像情報を生成する制御部を備える内視鏡ビデオプロセッサと、
     を備えることを特徴とする内視鏡システム。
  2.  前記撮像素子の固有の特性を補正するための情報は、前記撮像素子に含まれる欠陥画素の位置情報を含み、
     前記制御部は、前記欠陥画素に隣接する隣接画素を含む周辺画素の画素情報に基づいて、前記欠陥画素についての補完処理を行う、ことを特徴とする請求項1に記載の内視鏡システム。
  3.  前記撮像素子の固有の特性を補正するための情報は、前記撮像素子を構成する画素間の感度差を示す情報を含み、
     前記制御部は、前記撮像素子を構成する画素間の感度差を示す情報に基づいて、前記撮像素子で撮像された被写体の撮像画像に対する画素間の感度のばらつきを平準化する補正処理を行う、ことを特徴とする請求項1または2に記載の内視鏡システム。
  4.  前記撮像素子の固有の特性を補正するための情報は、前記撮像素子に供給されるクロック信号と前記撮像素子で撮像された被写体の撮像画像を出力する際のクロック信号との間の位相差に関する情報を含み、
     前記制御部は、前記撮像素子に供給されるクロック信号と前記撮像素子で撮像された被写体の撮像画像データを出力する際のクロック信号との間の位相差に関する情報に基づいて、フィールド毎あるいはフレーム毎の撮像画像に対するタイミング調整を行う、ことを特徴とする請求項1から3の何れか一項に記載の内視鏡システム。
  5.  前記撮像素子の固有の特性を補正するための情報は、前記撮像素子または前記撮像素子を備える内視鏡を識別する識別情報を含み、
     前記制御部は、前記識別情報に関連付けされて自装置に記憶された前記内視鏡の補正に関する情報を特定し、前記撮像素子に含まれる欠陥画素についての補完処理、前記撮像素子で撮像された被写体の撮像画像に対する画素間の感度のばらつきを平準化する補正処理、前記撮像素子で撮像されたフィールド毎あるいはフレーム毎の撮像画像に対するタイミング調整処理の何れか一つの処理を少なくとも実行する、ことを特徴とする請求項1に記載の内視鏡システム。
  6.  被検体の体腔や内臓の内腔を撮像する撮像素子と、前記撮像素子の固有の特性を補正するための情報が保持された記憶部とを備える内視鏡と、前記内視鏡と接続される内視鏡ビデオプロセッサとを備える内視鏡システムにおいて、
     前記内視鏡ビデオプロセッサの制御部が、前記記憶部に保持された前記撮像素子の固有の特性を補正するための情報に基づいて、前記撮像素子で撮像された被写体の撮像画像を補正し、前記被検体の体腔や内臓の内腔の映像情報を生成する、ことを特徴とする制御方法。
PCT/JP2021/018909 2020-05-19 2021-05-19 内視鏡システムおよび制御方法 Ceased WO2021235468A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022524506A JP7718414B2 (ja) 2020-05-19 2021-05-19 内視鏡システムおよび制御方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020-087235 2020-05-19
JP2020087235 2020-05-19

Publications (1)

Publication Number Publication Date
WO2021235468A1 true WO2021235468A1 (ja) 2021-11-25

Family

ID=78707803

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/018909 Ceased WO2021235468A1 (ja) 2020-05-19 2021-05-19 内視鏡システムおよび制御方法

Country Status (2)

Country Link
JP (1) JP7718414B2 (ja)
WO (1) WO2021235468A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023148857A1 (ja) * 2022-02-02 2023-08-10 オリンパス株式会社 情報出力方法および情報出力装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03280922A (ja) * 1990-03-30 1991-12-11 Toshiba Corp 電子内視鏡装置
JP2001029313A (ja) * 1999-05-18 2001-02-06 Olympus Optical Co Ltd 内視鏡装置
JP2003061908A (ja) * 2001-08-29 2003-03-04 Pentax Corp 電子内視鏡システム用プロセッサ
JP2007215850A (ja) * 2006-02-17 2007-08-30 Pentax Corp 内視鏡装置
WO2012008259A1 (ja) * 2010-07-12 2012-01-19 オリンパスメディカルシステムズ株式会社 内視鏡画像処理装置及び内視鏡システム
JP2012110478A (ja) * 2010-11-24 2012-06-14 Toshiba Corp 撮像装置、撮像装置の作動方法及び内視鏡装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03280922A (ja) * 1990-03-30 1991-12-11 Toshiba Corp 電子内視鏡装置
JP2001029313A (ja) * 1999-05-18 2001-02-06 Olympus Optical Co Ltd 内視鏡装置
JP2003061908A (ja) * 2001-08-29 2003-03-04 Pentax Corp 電子内視鏡システム用プロセッサ
JP2007215850A (ja) * 2006-02-17 2007-08-30 Pentax Corp 内視鏡装置
WO2012008259A1 (ja) * 2010-07-12 2012-01-19 オリンパスメディカルシステムズ株式会社 内視鏡画像処理装置及び内視鏡システム
JP2012110478A (ja) * 2010-11-24 2012-06-14 Toshiba Corp 撮像装置、撮像装置の作動方法及び内視鏡装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023148857A1 (ja) * 2022-02-02 2023-08-10 オリンパス株式会社 情報出力方法および情報出力装置

Also Published As

Publication number Publication date
JP7718414B2 (ja) 2025-08-05
JPWO2021235468A1 (ja) 2021-11-25

Similar Documents

Publication Publication Date Title
JP5570373B2 (ja) 内視鏡システム
JP6478136B1 (ja) 内視鏡システム、内視鏡システムの作動方法
JP2012085715A (ja) 内視鏡装置
US20140340496A1 (en) Imaging apparatus and imaging system
CN103561630B (zh) 内窥镜系统
JP5244164B2 (ja) 内視鏡装置
US20170086649A1 (en) Image pickup system
JPWO2020178962A1 (ja) 内視鏡システム、画像処理装置、総処理時間検出方法および処理装置
JP7718414B2 (ja) 内視鏡システムおよび制御方法
WO2016039270A1 (ja) 内視鏡システム、内視鏡システムの作動方法
JP2001238137A (ja) 撮像装置
US20230414065A1 (en) Endoscope system, image generation method, and storage medium
JP5827868B2 (ja) 電子内視鏡及び固定パターンノイズ除去方法
JP7091047B2 (ja) 放射線撮影システム及び放射線撮影方法
US7472994B2 (en) Ophthalmologic image pickup system
US20200037865A1 (en) Image processing device, image processing system, and image processing method
JP2003319905A (ja) 電子内視鏡装置のプロセッサ
JP2013126002A (ja) 内視鏡装置
JP2000287202A (ja) 電子内視鏡装置
WO2021192644A1 (ja) 内視鏡及び内視鏡システム
WO2016080351A1 (ja) 撮像装置、画像処理装置、撮像装置の作動方法
US20240188795A1 (en) Systems and methods for reducing noise in imagery in a computer-assisted medical system
JP7089943B2 (ja) 内視鏡システム
JP7257829B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP4801626B2 (ja) 輪郭強調装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21807719

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022524506

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21807719

Country of ref document: EP

Kind code of ref document: A1