WO2024185099A1 - 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 - Google Patents
内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 Download PDFInfo
- Publication number
- WO2024185099A1 WO2024185099A1 PCT/JP2023/008903 JP2023008903W WO2024185099A1 WO 2024185099 A1 WO2024185099 A1 WO 2024185099A1 JP 2023008903 W JP2023008903 W JP 2023008903W WO 2024185099 A1 WO2024185099 A1 WO 2024185099A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- information
- endoscopic
- examination
- endoscope
- previous
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
Definitions
- This disclosure relates to assistance in endoscopic examinations.
- doctors may want to know the "condition of the patient's past observation site.” For example, doctors may want to observe the progress of polyps discovered in the past or the site of a polyp that was previously removed.
- IBD inflammatory bowel disease
- Patent Document 1 proposes an endoscopic imaging site identification device that can display past images of the current imaging site of the endoscope so that they can be compared with the current image.
- Patent Document 1 doctors are not necessarily able to properly display the condition of previously observed areas that correspond to the currently observed area.
- One objective of the present disclosure is to provide an endoscopic examination support device that can display information from the previous examination that corresponds to the current observation area during endoscopic examination.
- an endoscopic examination support apparatus includes: an image acquisition means for acquiring an endoscopic image captured by an endoscope; An identification information acquisition means for acquiring patient identification information; a position estimation means for estimating a position of the endoscope within the large intestine; a storage means for storing previous examination information that associates patient identification information, a position where a lesion was detected in a previous examination, an image of the lesion, and information about the lesion; a search means for searching the storage means for previous examination information at the position of the endoscope based on the acquired identification information and the estimated position of the endoscope; a display control means for displaying the previous examination information on a display device when the searched previous examination information includes information on a lesion; Equipped with.
- a method for assisting endoscopic examination includes: Acquire an endoscopic image taken by an endoscope; Obtaining patient identification information; Estimate the position of the endoscope within the large intestine, storing previous examination information that associates patient identification information, a position where a lesion was detected in a previous examination, an image of the lesion, and information about the lesion; searching the storage means for previous examination information at the position of the endoscope based on the acquired identification information and the estimated position of the endoscope; If the retrieved previous examination information includes information on a lesion, the previous examination information is displayed on the display device.
- a recording medium includes: Acquire an endoscopic image taken by an endoscope; Obtaining patient identification information; Estimate the position of the endoscope within the large intestine, storing previous examination information that associates patient identification information, a position where a lesion was detected in a previous examination, an image of the lesion, and information about the lesion; searching the storage means for previous examination information at the position of the endoscope based on the acquired identification information and the estimated position of the endoscope; A program is recorded that causes the computer to execute a process of displaying the previous examination information on a display device when the searched previous examination information includes information on a lesion.
- FIG. 1 is a block diagram showing a schematic configuration of an endoscopic inspection system.
- 2 is a block diagram showing a hardware configuration of the endoscopic examination support device.
- FIG. 1 is a block diagram showing a functional configuration of an endoscopic examination support device according to a first embodiment.
- FIG. The structure of the large intestine is shown diagrammatically.
- 4 shows an example of a data structure of previous examination information according to the first embodiment.
- 3 shows a display example by the display device according to the first embodiment.
- 4 shows another display example by the display device according to the first embodiment.
- 4 is a flowchart of an image display process performed by the endoscopic examination support device according to the first embodiment.
- FIG. 11 is a block diagram showing the functional configuration of an endoscopic examination support device according to a second embodiment.
- 13 shows another example of a data structure of previous examination information according to the second embodiment. An example of a method for determining the progression state of inflammation will be described. 13 shows another display example by the display device according to the second embodiment. 13 shows another display example by the display device according to the second embodiment. 13 shows another display example by the display device according to the second embodiment. 13 shows another display example by the display device according to the second embodiment. 10 is a flowchart of an image display process performed by the endoscopic examination support device according to the second embodiment.
- FIG. 11 is a block diagram showing the functional configuration of an endoscopic examination support device according to a third embodiment. 13 is a flowchart of a process performed by the endoscopic examination support device according to the third embodiment.
- FIG. 1 shows a schematic configuration of an endoscopic examination system 100.
- the endoscopic examination system 100 estimates the position of an endoscope in the large intestine during an examination (including treatment) using an endoscope.
- the endoscopic examination system 100 searches a database for information on the previous examination at the position of the endoscope (hereinafter also referred to as "previous examination information").
- the previous examination information includes lesion information related to a lesion
- the endoscopic examination system 100 displays the previous examination information on a display device.
- the lesion information includes, for example, "polyp present” and "polyp removed”.
- the endoscopic examination system 100 does not display the previous examination information on a display device.
- the endoscopic examination system 100 displays the previous examination information on the display device. This allows the doctor to easily understand the lesion and the progress after treatment.
- the endoscopic examination system 100 mainly comprises an endoscopic examination support device 1, a display device 2, and an endoscope scope 3 connected to the endoscopic examination support device 1.
- the endoscopic examination support device 1 acquires from the endoscopic scope 3 an image (i.e., a moving image; hereinafter, also referred to as "endoscopic image Ic") captured by the endoscopic scope 3 during an endoscopic examination, and displays on the display device 2 display data for the examiner (doctor) performing the endoscopic examination to confirm.
- the endoscopic examination support device 1 acquires a moving image of the inside of an organ captured by the endoscopic scope 3 during an endoscopic examination as the endoscopic image Ic.
- the doctor finds a lesion during an endoscopic examination, he or she operates the endoscopic scope 3 to input an instruction to capture the lesion position.
- the endoscopic examination support device 1 generates a lesion image that captures the lesion position based on the doctor's imaging instruction. Specifically, the endoscopic examination support device 1 generates a lesion image, which is a still image, from the endoscopic image Ic, which is a moving image, based on the doctor's imaging instruction.
- the display device 2 is a display or the like that displays a predetermined image based on a display signal supplied from the endoscopic examination support device 1.
- the endoscope 3 mainly comprises an operating section 36 that allows the doctor to input instructions for supplying air and water, adjusting the angle, and taking pictures, a flexible shaft 37 that is inserted into the subject's organ to be examined, a tip section 38 that incorporates an imaging section such as a miniature image sensor, and a connection section 39 for connecting to the endoscopic examination support device 1.
- the subject of examination is not limited to the large intestine, and may be the digestive tract (digestive system) such as the stomach, esophagus, small intestine, and duodenum.
- [Hardware configuration] 2 shows the hardware configuration of the endoscopic examination support device 1.
- the endoscopic examination support device 1 mainly includes a processor 11, a memory 12, an interface 13, an input unit 14, a light source unit 15, a sound output unit 16, and a database (hereinafter, referred to as "DB") 17. These elements are connected via a data bus 19.
- DB database
- the processor 11 executes predetermined processes by executing programs stored in the memory 12.
- the processor 11 is a processor such as a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), or a TPU (Tensor Processing Unit).
- the processor 11 may be composed of multiple processors.
- the processor 11 is an example of a computer.
- the memory 12 is composed of various volatile memories used as working memories, such as RAM (Random Access Memory) and ROM (Read Only Memory), and non-volatile memories that store information necessary for the processing of the endoscopic examination support device 1.
- the memory 12 may include an external storage device such as a hard disk connected to or built into the endoscopic examination support device 1, or may include a storage medium such as a removable flash memory or disk medium.
- the memory 12 stores programs that allow the endoscopic examination support device 1 to execute each process in this embodiment.
- the memory 12 temporarily stores a series of endoscopic images Ic captured by the endoscope scope 3 during the endoscopic examination.
- the memory 12 also temporarily stores lesion images captured during the endoscopic examination based on the doctor's imaging instructions. These images are stored in the memory 12 in association with, for example, the subject's identification information (e.g., patient ID) and timestamp information, etc.
- the interface 13 performs interface operations between the endoscopic examination support device 1 and an external device.
- the interface 13 supplies the display data Id generated by the processor 11 to the display device 2.
- the interface 13 also supplies illumination light generated by the light source unit 15 to the endoscope scope 3.
- the interface 13 also supplies an electrical signal indicating the endoscopic image Ic supplied from the endoscope scope 3 to the processor 11.
- the interface 13 may be a communication interface such as a network adapter for communicating with an external device by wire or wirelessly, or may be a hardware interface compliant with USB (Universal Serial Bus), SATA (Serial AT Attachment), etc.
- the input unit 14 generates an input signal based on the doctor's operation.
- the input unit 14 is, for example, a button, a touch panel, a remote controller, a voice input device, etc.
- the light source unit 15 generates light to be supplied to the tip 38 of the endoscope 3.
- the light source unit 15 may also incorporate a pump or the like for sending water or air to be supplied to the endoscope 3.
- the sound output unit 16 outputs sound based on the control of the processor 11.
- DB17 stores the subject's previous examination information.
- the previous examination information includes the position where the lesion was detected, the lesion image, and the lesion information.
- DB17 may include an external storage device such as a hard disk connected to or built into the endoscopic examination support device 1, or may include a removable storage medium such as a flash memory. Instead of providing DB17 within the endoscopic examination system 100, DB17 may be provided on an external server, and the previous examination information may be obtained from the server via communication.
- [Functional configuration] 3 is a block diagram showing the functional configuration of the endoscopic examination support device 1 according to the first embodiment.
- the endoscopic examination support device 1 includes a patient ID acquisition unit 111, an endoscopic video acquisition unit 112, a position determination unit 113, a previous examination information search unit 114, and a display data generation unit 115 in addition to the display device 2 and DB 17 described above.
- the patient ID of the patient who is the subject is input to the endoscopic examination support device 1 through the input unit 14.
- the patient ID is information that uniquely identifies the patient, and may be an ID uniquely assigned to each patient, or a personal identification number such as a My Number.
- the patient ID acquisition unit 111 acquires the patient ID input through the input unit 14 and outputs it to the previous examination information search unit 114.
- the endoscopic examination support device 1 receives an endoscopic image Ic from the endoscope scope 3.
- the endoscopic image Ic is input to the endoscopic image acquisition unit 112.
- the endoscopic image acquisition unit 112 outputs the input endoscopic image Ic to the position determination unit 113 and the display data generation unit 115.
- the position determination unit 113 determines the position of the endoscope scope 3, i.e., the shooting position of the endoscopic image, based on the endoscopic image Ic input from the endoscopic image acquisition unit 112. For example, as shown in FIG. 4, the large intestine is made up of multiple parts, such as the rectum, sigmoid colon, descending colon, transverse colon, ascending colon, and cecum. The position determination unit 113 determines which of the above parts the shooting position belongs to.
- the position determination unit 113 can determine which part of the large intestine the shooting position belongs to. For example, the position determination unit 113 can determine the shooting position using a DB in which landmark images and parts of the large intestine are registered in association with each other. The position determination unit 113 extracts a still image (hereinafter also referred to as "endoscopic image”) from the endoscopic video, and calculates the similarity between the endoscopic image and the landmark image registered in the DB.
- endoscopic image a still image
- the position determination unit 113 detects an image of a landmark whose similarity with the endoscopic image is equal to or greater than a predetermined threshold, it acquires the part of the large intestine corresponding to the image of the landmark from the DB.
- the position determination unit 113 outputs the part of the large intestine acquired from the DB as the shooting position to the previous examination information search unit 114. If the position determination unit 113 does not detect an image of a landmark whose similarity to the endoscopic image is equal to or greater than a predetermined threshold, it outputs a result indicating that there has been no change in the imaging position to the previous examination information search unit 114.
- the position determination unit 113 may determine the shooting position of the endoscopic video using a previously prepared image recognition model.
- This image recognition model is a model that has been trained in advance to detect landmarks from the endoscopic video and determine the shooting position.
- the previous examination information search unit 114 searches DB17 for previous examination information based on the patient ID input from the patient ID acquisition unit 111 and the imaging position input from the position determination unit 113.
- Figure 5 shows an example of the data structure of previous examination information stored in DB17.
- DB17 stores the position and previous examination information in association with the patient ID.
- "Position” is information indicating each part of the large intestine (rectum, sigmoid colon, descending colon, transverse colon, ascending colon, or cecum).
- "Previous examination information” includes previous lesion information and previous image information.
- Previous lesion information indicates the lesion found and the treatment performed on the lesion. Note that "no abnormality” indicates that there was no lesion in that part.
- Previous image information is an endoscopic image of the lesion or the treated part (hereinafter also referred to as the "treated part”).
- the previous image information is shown by the file name of the image data. Note that "- (hyphen)" indicates that there is no lesion or treated part in that part, and there is no endoscopic image of that part.
- the example in FIG. 5 shows one piece of previous lesion information for one part of the large intestine, but if there are multiple lesions or multiple treatment areas for one part of the large intestine, multiple pieces of previous lesion information and multiple pieces of previous image information are stored in DB17.
- the previous examination information search unit 114 acquires previous examination information corresponding to the combination of the patient ID and the shooting position from DB17.
- the previous examination information search unit 114 outputs the shooting position and the previous examination information to the display data generation unit 115.
- the display data generating unit 115 generates display data Id using the endoscopic video Ic input from the endoscopic video acquiring unit 112, the shooting position input from the previous examination information searching unit 114, and the previous examination information, and outputs the display data Id to the display device 2. Note that if the previous examination information does not include information on lesions or treatments (i.e., the previous lesion information is "no abnormalities"), the display data generating unit 115 generates display data Id using the endoscopic video Ic and the shooting position, and outputs the display data Id to the display device 2.
- the patient ID acquisition unit 111 is an example of an identification information acquisition means
- the endoscopic video acquisition unit 112 is an example of an image acquisition means
- the position determination unit 113 is an example of a position estimation means
- the previous examination information search unit 114 is an example of a search means
- the display data generation unit 115 is an example of a display control means.
- Fig. 6 shows an example of a display example by the display device 2.
- an endoscopic image 21, a large intestine model 22, an imaging position 23, and a previous examination information area 24 are displayed within a display area 20.
- Endoscopic image 21 is the endoscopic image Ic during the examination.
- Large intestine model 22 shows a schematic diagram of the large intestine.
- the current shooting position 23 is indicated by a black circle on large intestine model 22.
- shooting position 23 is indicated in a portion of large intestine model 22 that corresponds to the sigmoid colon.
- Previous examination information area 24 is an area that displays previous examination information at shooting position 23.
- previous examination information area 24 displays an endoscopic image including a lesion as previous examination information for the sigmoid colon.
- a display such as that in FIG. 6 enables the doctor to understand that the current shooting position is the sigmoid colon, and that a lesion was detected in the sigmoid colon in the previous examination.
- one image is displayed in the previous examination information area 24, but if there are two or more lesions or treatment areas for one location, two or more images may be displayed depending on the space available in the previous examination information area 24. Also, by adding a display device and displaying the endoscopic image 21 on one screen and the large intestine model 22 and previous examination information area 24 on the other screen, display space for the previous examination information area 24 may be secured.
- FIG. 7 shows another example of display by the display device 2.
- an endoscopic image 21a, a large intestine model 22a, an imaging position 23a, and a previous examination information area 24a are displayed within a display area 20a.
- the examination has progressed from the state in FIG. 6, and the imaging position has moved from the sigmoid colon to the rectum.
- the previous examination information area 24a does not display the previous examination information, indicating that there was no lesion or treatment area in the rectum during the previous examination.
- FIG. 8 is a flowchart of the image display process by the endoscopic examination support device 1. This process is realized by the processor 11 shown in Fig. 2 executing a program prepared in advance and operating as each element shown in Fig. 3.
- the patient ID of the patient who is the subject is input to the endoscopic examination support device 1 through the input unit 14.
- the patient ID acquisition unit 111 acquires the patient ID and outputs it to the previous examination information search unit 114 (step S111).
- the endoscopic video Ic is input from the endoscope scope 3 to the endoscopic examination support device 1.
- the endoscopic video acquisition unit 112 acquires the endoscopic image Ic and outputs it to the position determination unit 113 and the display data generation unit 115 (step S112).
- the position determination unit 113 determines which part of the large intestine (rectum, sigmoid colon, descending colon, transverse colon, ascending colon, cecum) the endoscopic image capturing position belongs to, based on the endoscopic image Ic input from the endoscopic image acquisition unit 112.
- the position determination unit 113 outputs the determined capturing position to the previous examination information search unit 114 (step S113).
- the previous examination information search unit 114 acquires, from DB17, previous examination information corresponding to the combination of the patient ID input from the patient ID acquisition unit 111 and the shooting position input from the position determination unit 113.
- the previous examination information search unit 114 outputs the shooting position and the previous examination information to the display data generation unit 115 (step S114).
- the display data generating unit 115 generates display data Id using the endoscopic video Ic, the shooting position, and the previous examination information, and outputs the display data Id to the display device 2 (step S115). Note that if the previous examination information does not include information on lesions, treatment, etc., the display data generating unit 115 generates display data Id using the endoscopic video Ic and the shooting position, and outputs the display data Id to the display device 2.
- the endoscopic examination support device 1 determines whether the examination has ended. For example, the endoscopic examination support device 1 determines that the examination has ended when the doctor performs an operation to end the examination on the endoscopic examination support device 1 or the endoscope scope 3. The endoscopic examination support device 1 may also automatically determine that the examination has ended when the captured image by the endoscope scope 3 becomes an image outside the organ through image analysis of the image. If it is determined that the examination has not ended (step S116: No), the process returns to step S112. On the other hand, if it is determined that the examination has ended (step S116: Yes), the process ends.
- the position determination unit 113 determines the imaging position based on the endoscopic video, but the position determination unit 113 may determine the imaging position using a magnetic coil.
- the position determination unit 113 can estimate the three-dimensional insertion shape of the endoscope 3 by the magnetism generated by the magnetic coil.
- the position determination unit 113 may determine which of the various parts of the large intestine the imaging position belongs to from the estimated insertion shape.
- the position determination unit 113 may determine which of the various parts of the large intestine the imaging position belongs to by using the insertion length of the endoscope 3 inserted into the large intestine in addition to the insertion shape of the endoscope 3.
- the endoscopic examination system according to the second embodiment differs from the endoscopic examination system 100 according to the first embodiment in that the examination can be carried out while comparing the inflammatory state of the large intestine in the current examination with the inflammatory state of the large intestine in the previous examination.
- the endoscopic examination system according to the second embodiment has the same system configuration and hardware configuration as the endoscopic examination system 100 according to the first embodiment, and therefore description thereof will be omitted.
- [Functional configuration] 9 is a block diagram showing the functional configuration of an endoscopic examination support device 1a according to the second embodiment.
- the endoscopic examination support device 1a includes a patient ID acquisition unit 111, an endoscopic video acquisition unit 112, a position determination unit 113, a display data generation unit 115, an inflammation presence/absence determination unit 116, and an examination information acquisition unit 117, in addition to the display device 2 and DB 17 described above.
- the patient ID acquisition unit 111, the endoscopic video acquisition unit 112, and the position determination unit 113 have the same configuration and operate in the same manner as the patient ID acquisition unit 111, the endoscopic video acquisition unit 112, and the position determination unit 113 of the endoscopic examination support device 1 according to the first embodiment, and therefore their description will be omitted.
- the inflammation presence/absence determination unit 116 receives the endoscopic video Ic from the endoscopic video acquisition unit 112.
- the inflammation presence/absence determination unit 116 determines the presence or absence of inflammation from the endoscopic video Ic using a previously prepared image recognition model or the like.
- This image recognition model is a model that has been trained in advance to estimate the presence or absence of inflammation using an endoscopic image as input, and is hereinafter also referred to as the inflammation estimation model.
- the inflammation presence/absence determination unit 116 extracts an endoscopic image from the endoscopic video and inputs the endoscopic image to the inflammation estimation model.
- the inflammation estimation model estimates the presence or absence of inflammation from the endoscopic image and outputs a reliability score.
- the reliability score is, for example, a number greater than or equal to 0 and less than or equal to 1, and the closer the reliability score is to 1, the higher the possibility of inflammation. If the reliability score is equal to or greater than a predetermined threshold, the inflammation presence/absence determination unit 116 determines that inflammation is present. On the other hand, if the reliability score is less than the predetermined threshold, the inflammation presence/absence determination unit 116 determines that inflammation is not present.
- the inflammation presence/absence determination unit 116 outputs the inflammation presence/absence determination result to the examination information acquisition unit 117.
- the inflammation estimation model a model that has been trained in advance using training data generated by labeling the presence or absence of inflammation for a large number of images in an inflamed state and a large number of images in an inflamed state, can be used.
- the examination information acquisition unit 117 receives the patient ID from the patient ID acquisition unit 111, the imaging position from the position determination unit 113, and the inflammation presence/absence determination result from the inflammation presence/absence determination unit 116.
- DB17 stores a position, previous inflammation information, and previous examination information in association with a patient ID.
- the "position” is the same as the “position” of the previous examination information shown in FIG. 5, and therefore a description thereof will be omitted.
- the "previous inflammation information” is information indicating the presence or absence of inflammation in the previous examination. In FIG. 10, “Present” is indicated if there was inflammation in the previous examination, and “Absent” is indicated if there was no inflammation in the previous examination.
- the "previous examination information” includes previous lesion information and previous image information. Note that the "previous lesion information” is the same as the "previous lesion information” of the previous examination information shown in FIG.
- the "previous image information" is an endoscopic image of a lesion, a treatment area, inflammation, etc.
- the previous image information is indicated by the file name of the image data. Note that a "- (hyphen)" indicates that there is no lesion, treatment area, or inflammation in that area, and therefore there is no endoscopic image of that area.
- the example in FIG. 10 shows one piece of previous lesion information for one part of the large intestine, but if there are multiple lesions or multiple treatment areas for one part of the large intestine, multiple pieces of previous lesion information and multiple pieces of previous image information are stored in DB17.
- the examination information acquisition unit 117 acquires previous inflammation information corresponding to the patient ID from DB17.
- the examination information acquisition unit 117 also determines the progression state of inflammation at the imaging position based on the imaging position, the determination result of the presence or absence of inflammation, and the previous inflammation information.
- FIG. 11 shows an example of a method for determining the progression state of inflammation.
- the progression state of inflammation is classified into "P1 (active stage)", “P2 (remission stage)", “P3 (active stage)", and “P4 (no inflammation)”. If inflammation was present in the current examination and the previous examination for a certain part of the large intestine, the examination information acquisition unit 117 determines the progression state of inflammation as "P1 (active stage)”. If inflammation was not present in the current examination and was present in the previous examination for a certain part of the large intestine, the examination information acquisition unit 117 determines the progression state of inflammation as "P2 (remission stage)".
- the examination information acquisition unit 117 determines the progression state of inflammation as "P3 (active stage)". If inflammation was not present in the current examination and the previous examination for a certain part of the large intestine, the examination information acquisition unit 117 determines the progression state of inflammation as "P4 (no inflammation)”.
- the examination information acquisition unit 117 also acquires previous examination information corresponding to the combination of the patient ID and the imaging position from DB17.
- the examination information acquisition unit 117 outputs the imaging position, the determination result of the presence or absence of inflammation, the previous inflammation information, the previous examination information, and the progress state of inflammation to the display data generation unit 115.
- the display data generating unit 115 generates display data Id using the endoscopic video Ic input from the endoscopic video acquiring unit 112, the shooting position input from the examination information acquiring unit 117, the determination result of the presence or absence of inflammation, the previous inflammation information, the previous examination information, and the progression state of inflammation, and outputs the display data Id to the display device 2. Note that if the previous examination information does not include information on lesions, treatment, inflammation, etc.
- the display data generating unit 115 generates display data Id using the endoscopic video Ic, the shooting position, the determination result of the presence or absence of inflammation, the previous inflammation information, and the progression state of inflammation, and outputs the display data Id to the display device 2.
- Fig. 12 shows an example of a display example by the display device 2.
- an endoscopic image 31 a large intestine model 32, an imaging position 33, a previous examination information area 34, and an inflammation progression state 35 are displayed within a display area 30.
- Endoscopic image 31 is the endoscopic image Ic during the examination.
- Large intestine model 32 shows a schematic diagram of the large intestine. The display manner of each part of the schematic diagram of the large intestine (rectum, sigmoid colon, descending colon, transverse colon, ascending colon, cecum) differs depending on whether or not there was inflammation in the previous examination. In FIG. 12, parts that were inflamed in the previous examination are shown with diagonal hatching, and parts that were not inflamed in the previous examination are shown in white. From the large intestine model 32 in FIG. 12, the doctor can understand that there was inflammation in the sigmoid colon, descending colon, and transverse colon in the previous examination.
- the large intestine model 32 also shows the current imaging position 33.
- the imaging position 33 is displayed in a different manner depending on whether or not there is inflammation at the current imaging position. For example, if there is inflammation at the current imaging position, the imaging position 33 is shown as a black circle. If there is no inflammation at the current imaging position, the imaging position 33 is shown as a white circle. From the large intestine model and imaging position 33 in FIG. 12, the doctor can understand that the current imaging position is the ascending colon, and that there is inflammation in the current ascending colon.
- the previous examination information area 34 is an area that displays the previous examination information at the current shooting position 33. Note that in FIG. 12, the previous examination information area 34 does not display the previous examination information, indicating that there was no lesion, treatment area, inflammation, etc. in the ascending colon during the previous examination.
- the inflammation progression state 35 indicates the inflammation progression state at the imaging position 33.
- the inflammation progression state in the ascending colon is shown to be "P3 (active phase).” This display allows the doctor to understand that the range of inflammation is expanding.
- FIG. 13 shows another example of display by the display device 2.
- an endoscopic image 31a, a large intestine model 32a, an imaging position 33a, a previous examination information area 34a, and an inflammation progression state 35a are displayed within a display area 30a.
- the examination has progressed from the state of FIG. 12, and the imaging position has moved from the ascending colon to the sigmoid colon.
- the imaging position 33a is a white circle, indicating that there is currently no inflammation in the sigmoid colon.
- the previous examination information area 34a displays an endoscopic image of the sigmoid colon from the previous examination.
- the inflammation progression state 35a indicates that the inflammation progression state in the sigmoid colon is "P2 (remission phase)." This display enables the doctor to understand that the sigmoid colon was an area that was inflamed during the previous examination, and that careful observation is required.
- FIG. 14 shows another example of display by the display device 2.
- FIG. 14 shows a report comparing the current examination result with the previous examination result, and is output after the endoscope-based examination is completed.
- the previous examination result 41 and the current examination result 42 are displayed in the display area 40.
- the previous test result 41 indicates the result of the previous test.
- the previous test result 41 includes a large intestine model 41a and detailed information 41b.
- Large colon model 41a shows a schematic diagram of the large intestine.
- numbers 1 to 6 are displayed on each part of large colon model 41a, with 1 indicating the rectum, 2 indicating the sigmoid colon, 3 indicating the descending colon, 4 indicating the transverse colon, 5 indicating the ascending colon, and 6 indicating the cecum.
- parts that were inflamed in the previous examination are shown with diagonal hatching, and parts that were not inflamed in the previous examination are shown in white.
- the sigmoid colon 2 the descending colon 3, and the transverse colon 4 are shown with diagonal hatching.
- Detailed information 41b shows details of the results of the previous examination.
- Detailed information 41b displays the percentage of areas that were inflamed and the reliability score of each area.
- the reliability score is expressed as a number between 0% and 100%, and areas with a reliability score above a certain threshold are shown in bold and underlined as areas that were inflamed. From detailed information 41b of FIG. 14, it can be seen that the percentage of areas that were inflamed in the previous examination was 3 out of 6, and that the areas that were inflamed in the previous examination were the sigmoid colon, descending colon, and transverse colon.
- the current test results 42 show the current test results.
- the current test results 42 include a large intestine model 42a and detailed information 42b.
- Detailed information 42b shows the details of the current test results. Detailed information 42b displays the percentage of areas that were inflamed and the reliability score of each area. From detailed information 42b in Figure 14, it can be seen that the percentage of areas that were inflamed in the current test was 2 out of 6 areas, and that the areas that were inflamed in the current test were the sigmoid colon and descending colon.
- a display like that in Figure 14 allows doctors to easily compare the results of previous tests with those of the current test.
- FIG. 15 is a flowchart of the image display process by the endoscopic examination support device 1a. This process is realized by the processor 11 shown in Fig. 2 executing a program prepared in advance and operating as each element shown in Fig. 9. Note that the processes of steps S211 to S213 and S218 are similar to the processes of steps S111 to S113 and S117 of the first embodiment shown in Fig. 8, and therefore a description thereof will be omitted.
- the inflammation presence/absence determination unit 116 receives the endoscopic image Ic from the endoscopic image acquisition unit 112.
- the inflammation presence/absence determination unit 116 uses an inflammation estimation model to determine the presence or absence of inflammation from the endoscopic image Ic.
- the inflammation presence/absence determination unit 116 then outputs the result of the determination of the presence or absence of inflammation to the examination information acquisition unit 117 (step S214).
- the examination information acquisition unit 117 receives the patient ID from the patient ID acquisition unit 111, the shooting position from the position determination unit 113, and the inflammation presence/absence determination result from the inflammation presence/absence determination unit 116.
- the examination information acquisition unit 117 acquires previous inflammation information corresponding to the patient ID from DB17.
- the examination information acquisition unit 117 also acquires previous lesion information and previous image information corresponding to the combination of the patient ID and shooting position from DB17 (step S215).
- the examination information acquisition unit 117 determines the progression state of the inflammation. Specifically, the examination information acquisition unit 117 determines the progression state of the inflammation based on the imaging position, the determination result of the presence or absence of inflammation, and the previous inflammation information. The examination information acquisition unit 117 outputs the imaging position, the determination result of the presence or absence of inflammation, the previous inflammation information, the previous lesion information, the previous image information, and the progression state of the inflammation to the display data generation unit 115 (step S216).
- the display data generating unit 115 generates display data Id using the endoscopic video Ic input from the endoscopic video acquiring unit 112, the shooting position input from the examination information acquiring unit 117, the determination result of the presence or absence of inflammation, the previous inflammation information, the previous examination information, and the progression state of inflammation, and outputs the display data Id to the display device 2 (step S217).
- the display data generating unit 115 generates display data Id using the endoscopic video Ic, the shooting position, the determination result of the presence or absence of inflammation, the previous inflammation information, and the progression state of inflammation, and outputs the display data Id to the display device 2.
- Third Embodiment 16 is a block diagram showing the functional configuration of the endoscopic examination support device of the third embodiment.
- the endoscopic examination support device 300 includes an image acquisition unit 311, an identification information acquisition unit 312, a position estimation unit 313, a storage unit 314, a search unit 315, and a display control unit 316.
- FIG. 17 is a flowchart of the process performed by the endoscope examination support device of the third embodiment.
- the image acquisition means 311 acquires an endoscopic image captured by an endoscope (step S311).
- the identification information acquisition means 312 acquires the patient's identification information (step S312).
- the position estimation means 313 estimates the position of the endoscope in the large intestine (step S313).
- the storage means 314 stores previous examination information that associates the patient's identification information, the position where a lesion was detected in the previous examination, the image of the lesion, and the information of the lesion (step S314).
- the search means 315 searches the storage means for previous examination information at the position of the endoscope based on the acquired identification information and the estimated position of the endoscope (step S315).
- the display control means 316 displays the previous examination information on the display device when the searched previous examination information includes information of the lesion (step S316).
- the third embodiment of the endoscopic examination support device 300 makes it possible to display information from the previous examination that corresponds to the current observation area during an endoscopic examination.
- An identification information acquisition means for acquiring patient identification information;
- a position estimation means for estimating a position of the endoscope within the large intestine;
- a storage means for storing previous examination information that associates patient identification information, a position where a lesion was detected in a previous examination, an image of the lesion, and information about the lesion;
- a search means for searching the storage means for previous examination information at the position of the endoscope based on the acquired identification information and the estimated position of the endoscope;
- a display control means for displaying the previous examination information on a display device when the searched previous examination information includes information on a lesion;
- An endoscopic examination support device comprising:
- An inflammation presence/absence determination means for determining whether or not the large intestine is in an inflammatory state The endoscopic examination support device according to claim 1, wherein the display control means displays information indicating the position of the endoscope and the presence or absence of inflammation at the position of the endoscope on a model image showing the entire large intestine.
- the previous examination information includes information associating patient identification information, a position where inflammation was detected in a previous examination, and an image of the inflammation;
- the endoscopic examination support device according to claim 2, wherein the display control means displays the previous examination information on the display device when the searched previous examination information includes an image of inflammation.
- the search means searches for previous examination information based on patient identification information, the display control means generates a model image showing the entire large intestine in a manner that enables identification of positions where inflammation was detected previously and positions where inflammation was not detected previously, based on the previous examination information;
- the endoscopic examination support device according to claim 3, wherein the display control means displays information indicating the current position of the endoscope and the presence or absence of inflammation at the position of the endoscope on a model image showing the entire large intestine.
- the searching means determines a progress state of inflammation based on the result of the determination of the presence or absence of inflammation and previous examination information, 5.
- the endoscopic examination support device according to claim 4, wherein the display control means displays the progress of inflammation on a display device.
- (Appendix 8) Acquire an endoscopic image taken by an endoscope; Obtaining patient identification information; Estimate the position of the endoscope within the large intestine, searching for previous examination information corresponding to the acquired identification information and the estimated position of the endoscope from a storage means that stores previous examination information that associates patient identification information, a position where a lesion was detected in a previous examination, an image of the lesion, and information about the lesion;
- a method for supporting endoscopic examination comprising the steps of: displaying the previous examination information on a display device when the searched previous examination information includes information on a lesion.
- (Appendix 9) Acquire an endoscopic image taken by an endoscope; Obtaining patient identification information; Estimate the position of the endoscope within the large intestine, searching for previous examination information corresponding to the acquired identification information and the estimated position of the endoscope from a storage means that stores previous examination information that associates patient identification information, a position where a lesion was detected in a previous examination, an image of the lesion, and information about the lesion;
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Biophysics (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Endoscopes (AREA)
Abstract
内視鏡検査支援装置において、画像取得手段は、内視鏡によって撮影された内視鏡画像を取得する。識別情報取得手段は、患者の識別情報を取得する。位置推定手段は、大腸内における内視鏡の位置を推定する。記憶手段は、患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶する。検索手段は、取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する。表示制御手段は、検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する。
Description
本開示は、内視鏡検査の支援に関する。
医師は、内視鏡検査の際、「患者の過去の観察部位の状態」を知りたいことがある。例えば、医師は、過去に発見されたポリープや過去に切除したポリープの切除部位について、経過を観察したいことがある。また、炎症性腸疾患(以下、「IBD(Inflammatory Bowel Disease)」とも呼ぶ。)では、過去に炎症があった部位は、大腸がんの発症リスクが高いとされている。そのため、患者がIBDである場合は、医師は、内視鏡検査中に、過去に炎症があった部位を知りたいことがある。しかし、「患者の過去の観察部位の状態」を知るためには、電子カルテの参照等が必要となるため、内視鏡検査中に「患者の過去の観察部位の状態」を知ることは困難であった。特許文献1では、内視鏡の現在の撮影部位における過去画像について、現在画像と比較できるように表示することが可能な内視鏡撮影部位特定装置を提案している。
しかし、特許文献1によっても、医師は、現在の観察部位に対応する過去の観察部位の状態を適切に表示できるとは限らない。
本開示の1つの目的は、内視鏡検査において、現在の観察部位に対応する前回検査時の情報を表示することが可能な内視鏡検査支援装置を提供することにある。
本開示の一つの観点では、内視鏡検査支援装置は、
内視鏡によって撮影された内視鏡画像を取得する画像取得手段と、
患者の識別情報を取得する識別情報取得手段と、
大腸内における内視鏡の位置を推定する位置推定手段と、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段と、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する検索手段と、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する表示制御手段と、
を備える。
内視鏡によって撮影された内視鏡画像を取得する画像取得手段と、
患者の識別情報を取得する識別情報取得手段と、
大腸内における内視鏡の位置を推定する位置推定手段と、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段と、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する検索手段と、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する表示制御手段と、
を備える。
本開示の他の観点では、内視鏡検査支援方法は、
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶し、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する。
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶し、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する。
本開示のさらに他の観点では、記録媒体は、
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶し、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する処理をコンピュータに実行させるプログラムを記録する。
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶し、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する処理をコンピュータに実行させるプログラムを記録する。
本開示によれば、内視鏡検査において、現在の観察部位に対応する前回検査時の情報を表示することが可能となる。
以下、図面を参照して、本開示の好適な実施形態について説明する。
<第1実施形態>
[システム構成]
図1は、内視鏡検査システム100の概略構成を示す。内視鏡検査システム100は、内視鏡を利用した検査(治療を含む)の際に、大腸内にある内視鏡の位置を推定する。そして、内視鏡検査システム100は、内視鏡の位置における前回の検査に関する情報(以下、「前回検査情報」とも呼ぶ。)をデータベースから検索する。このとき、内視鏡検査システム100は、前回検査情報に病変に関連する病変情報が含まれる場合は、前回検査情報を表示装置に表示する。病変情報には、例えば、「ポリープあり」や「ポリープを切除した」などの情報がある。一方、内視鏡検査システム100は、前回検査情報に病変情報が含まれない場合は、前回検査情報を表示装置に表示しない。
<第1実施形態>
[システム構成]
図1は、内視鏡検査システム100の概略構成を示す。内視鏡検査システム100は、内視鏡を利用した検査(治療を含む)の際に、大腸内にある内視鏡の位置を推定する。そして、内視鏡検査システム100は、内視鏡の位置における前回の検査に関する情報(以下、「前回検査情報」とも呼ぶ。)をデータベースから検索する。このとき、内視鏡検査システム100は、前回検査情報に病変に関連する病変情報が含まれる場合は、前回検査情報を表示装置に表示する。病変情報には、例えば、「ポリープあり」や「ポリープを切除した」などの情報がある。一方、内視鏡検査システム100は、前回検査情報に病変情報が含まれない場合は、前回検査情報を表示装置に表示しない。
このように、内視鏡検査システム100は、前回の検査で病変が発見された位置や、前回の検査で処置をした位置に、内視鏡が到達すると、表示装置に前回検査情報を表示する。これにより、医師は、病変や処置後の経過を容易に把握することが可能となる。
図1に示すように、内視鏡検査システム100は、主に、内視鏡検査支援装置1と、表示装置2と、内視鏡検査支援装置1に接続された内視鏡スコープ3と、を備える。
内視鏡検査支援装置1は、内視鏡検査中に内視鏡スコープ3が撮影する映像(即ち、動画。以下、「内視鏡映像Ic」とも呼ぶ。)を内視鏡スコープ3から取得し、内視鏡検査の検査者(医師)が確認するための表示データを表示装置2に表示させる。具体的に、内視鏡検査支援装置1は、内視鏡検査中に、内視鏡スコープ3により撮影された臓器内の動画を内視鏡映像Icとして取得する。また、医師は、内視鏡検査中に病変を見つけると、内視鏡スコープ3を操作して病変位置の撮影指示を入力する。内視鏡検査支援装置1は、医師による撮影指示に基づいて、病変位置を写した病変画像を生成する。具体的には、内視鏡検査支援装置1は、動画である内視鏡映像Icから、医師の撮影指示に基づいて静止画である病変画像を生成する。
表示装置2は、内視鏡検査支援装置1から供給される表示信号に基づき所定の表示を行うディスプレイ等である。
内視鏡スコープ3は、主に、医師が送気、送水、アングル調整、撮影指示などの入力を行うための操作部36と、被検者の検査対象となる臓器内に挿入され、柔軟性を有するシャフト37と、超小型撮像素子などの撮影部を内蔵した先端部38と、内視鏡検査支援装置1と接続するための接続部39とを有する。
なお、以下では、主に大腸の内視鏡検査における処理を前提として説明を行うが、検査対象は、大腸に限らず、胃、食道、小腸、十二指腸などの消化管(消化器)であってもよい。
[ハードウェア構成]
図2は、内視鏡検査支援装置1のハードウェア構成を示す。内視鏡検査支援装置1は、主に、プロセッサ11と、メモリ12と、インターフェース13と、入力部14と、光源部15と、音出力部16と、データベース(以下、「DB」と記す。)17と、を含む。これらの各要素は、データバス19を介して接続されている。
図2は、内視鏡検査支援装置1のハードウェア構成を示す。内視鏡検査支援装置1は、主に、プロセッサ11と、メモリ12と、インターフェース13と、入力部14と、光源部15と、音出力部16と、データベース(以下、「DB」と記す。)17と、を含む。これらの各要素は、データバス19を介して接続されている。
プロセッサ11は、メモリ12に記憶されているプログラム等を実行することにより、所定の処理を実行する。プロセッサ11は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、TPU(Tensor Processing Unit)などのプロセッサである。なお、プロセッサ11は、複数のプロセッサから構成されてもよい。プロセッサ11は、コンピュータの一例である。
メモリ12は、RAM(Random Access Memory)、ROM(Read Only Memory)などの、作業メモリとして使用される各種の揮発性メモリ及び内視鏡検査支援装置1の処理に必要な情報を記憶する不揮発性メモリにより構成される。なお、メモリ12は、内視鏡検査支援装置1に接続又は内蔵されたハードディスクなどの外部記憶装置を含んでもよく、着脱自在なフラッシュメモリやディスク媒体などの記憶媒体を含んでもよい。メモリ12には、内視鏡検査支援装置1が本実施形態における各処理を実行するためのプログラムが記憶される。
また、メモリ12は、プロセッサ11の制御に基づき、内視鏡検査において内視鏡スコープ3が撮影した一連の内視鏡映像Icを一時的に記憶する。また、メモリ12は、内視鏡検査中に医師の撮影指示に基づいて撮影された病変画像を一時的に記憶する。これらの画像は、例えば、被検者の識別情報(例えば患者ID)、及び、タイムスタンプの情報等と関連付けられてメモリ12に記憶される。
インターフェース13は、内視鏡検査支援装置1と外部装置とのインターフェース動作を行う。例えば、インターフェース13は、プロセッサ11が生成した表示データIdを表示装置2に供給する。また、インターフェース13は、光源部15が生成する照明光を内視鏡スコープ3に供給する。また、インターフェース13は、内視鏡スコープ3から供給される内視鏡映像Icを示す電気信号をプロセッサ11に供給する。インターフェース13は、外部装置と有線又は無線により通信を行うためのネットワークアダプタなどの通信インターフェースであってもよく、USB(Universal Serial Bus)、SATA(Serial AT Attachment)などに準拠したハードウェアインターフェースであってもよい。
入力部14は、医師の操作に基づく入力信号を生成する。入力部14は、例えば、ボタン、タッチパネル、リモートコントローラ、音声入力装置等である。光源部15は、内視鏡スコープ3の先端部38に供給するための光を生成する。また、光源部15は、内視鏡スコープ3に供給する水や空気を送り出すためのポンプ等も内蔵してもよい。音出力部16は、プロセッサ11の制御に基づき音を出力する。
DB17は、被検者の前回検査情報を記憶している。前回検査情報は、病変が検出された位置、病変画像、及び、病変情報などを含む。DB17は、内視鏡検査支援装置1に接続又は内蔵されたハードディスクなどの外部記憶装置を含んでもよく、着脱自在なフラッシュメモリなどの記憶媒体を含んでもよい。なお、DB17を内視鏡検査システム100内に備える代わりに、外部のサーバなどにDB17を設け、通信により当該サーバから前回検査情報を取得するようにしてもよい。
[機能構成]
図3は、第1実施形態に係る内視鏡検査支援装置1の機能構成を示すブロック図である。内視鏡検査支援装置1は、機能的には、前述の表示装置2と、DB17と、に加えて、患者ID取得部111と、内視鏡映像取得部112と、位置判定部113と、前回検査情報検索部114と、表示データ生成部115と、を含む。
図3は、第1実施形態に係る内視鏡検査支援装置1の機能構成を示すブロック図である。内視鏡検査支援装置1は、機能的には、前述の表示装置2と、DB17と、に加えて、患者ID取得部111と、内視鏡映像取得部112と、位置判定部113と、前回検査情報検索部114と、表示データ生成部115と、を含む。
内視鏡検査支援装置1には、入力部14を通じて、被検者である患者の患者IDが入力される。患者IDは、患者を一意に識別する情報であり、患者毎に一意に付与したIDなどの他、マイナンバーなどの個人識別番号を利用してもよい。患者ID取得部111は、入力部14を通じて入力された患者IDを取得し、前回検査情報検索部114へ出力する。
内視鏡検査支援装置1には、内視鏡スコープ3から内視鏡映像Icが入力される。内視鏡画像Icは、内視鏡映像取得部112に入力される。内視鏡映像取得部112は、入力された内視鏡映像Icを、位置判定部113と、表示データ生成部115へ出力する。
位置判定部113は、内視鏡映像取得部112から入力された内視鏡映像Icに基づいて、内視鏡スコープ3の位置、即ち、内視鏡映像の撮影位置を判定する。例えば、図4に示すように、大腸は、直腸、S状結腸、下行結腸、横行結腸、上行結腸、盲腸、などの複数の部位により構成される。位置判定部113は、撮影位置が上記の各部位のいずれに属するかを判定する。
具体的に、大腸の各部位の境界には、内視鏡スコープ3が腸壁に当たって折れ曲がる部分(以下、「ランドマーク」とも呼ぶ。)が存在する。位置判定部113は、ランドマークに基づいて、撮影位置が大腸のどの部位に属するかを判定することができる。例えば、位置判定部113は、ランドマークの画像と、大腸の部位と、が関連付けて登録されているDBを用いて、撮影位置を判定することができる。位置判定部113は、内視鏡映像から静止画(以下、「内視鏡画像」とも呼ぶ。)を抽出し、内視鏡画像と、DBに登録されているランドマークの画像と、の類似度を計算していく。そして、位置判定部113は、内視鏡画像との類似度が所定の閾値以上であるランドマークの画像を検出した場合は、そのランドマークの画像に対応する大腸の部位をDBから取得する。位置判定部113は、DBから取得した大腸の部位を撮影位置として、前回検査情報検索部114へ出力する。なお、位置判定部113は、内視鏡画像との類似度が所定の閾値以上であるランドマークの画像を検出しなかった場合は、撮影位置に変更がないとの結果を前回検査情報検索部114へ出力する。
なお、位置判定部113は、予め用意された画像認識モデルなどを用いて、内視鏡映像の撮影位置を判定しても良い。この画像認識モデルは、内視鏡映像からランドマークを検出し、撮影位置を判定するように予め学習されたモデルである。
前回検査情報検索部114は、患者ID取得部111から入力された患者IDと、位置判定部113から入力された撮影位置と、を基に、DB17から前回検査情報を検索する。
図5は、DB17に記憶されている前回検査情報のデータ構造の一例を示す。図示のように、DB17には、患者IDに対応付けて、位置と、前回検査情報と、が記憶されている。「位置」は、大腸の各部位(直腸、S状結腸、下行結腸、横行結腸、上行結腸、盲腸のいずれか)を示す情報である。「前回検査情報」は、前回病変情報と、前回画像情報と、を含む。「前回病変情報」は、見つかった病変や、病変に対して行った処置を示す。なお、「異常なし」は、その部位に病変がなかったことを示す。「前回画像情報」は、病変や処置をした部位(以下「処置部」とも呼ぶ。)などを撮影した内視鏡画像である。図5では、前回画像情報を画像データのファイル名で示している。なお、「‐(ハイフン)」は、その部位に病変や処置部がなく、その部位における内視鏡画像がないことを示す。また、図5の例では、大腸の1つの部位について1つの前回病変情報を示しているが、大腸の1つの部位について、複数の病変や複数の処置部がある場合は、複数の前回病変情報および複数の前回画像情報がDB17に記憶される。
図3に戻り、前回検査情報検索部114は、患者IDと撮影位置の組合せに対応する前回検査情報をDB17から取得する。前回検査情報検索部114は、撮影位置と、前回検査情報と、を表示データ生成部115へ出力する。
表示データ生成部115は、内視鏡映像取得部112から入力された内視鏡映像Icと、前回検査情報検索部114から入力された撮影位置と、前回検査情報と、を用いて表示データIdを生成し、表示装置2へ出力する。なお、前回検査情報に病変や処置などの情報が含まれない(即ち、前回病変情報が「異常なし」である)場合は、表示データ生成部115は、内視鏡映像Icと、撮影位置と、を用いて表示データIdを生成し、表示装置2へ出力する。
上記の構成において、患者ID取得部111は、識別情報取得手段の一例であり、内視鏡映像取得部112は、画像取得手段の一例であり、位置判定部113は位置推定手段の一例であり、前回検査情報検索部114は、検索手段の一例であり、表示データ生成部115は表示制御手段の一例である。
[表示例]
次に、表示装置2による表示例を説明する。図6は、表示装置2による表示例の一例を示す。図6の表示例では表示エリア20内に、内視鏡映像21と、大腸モデル22と、撮影位置23と、前回検査情報領域24と、が表示されている。
次に、表示装置2による表示例を説明する。図6は、表示装置2による表示例の一例を示す。図6の表示例では表示エリア20内に、内視鏡映像21と、大腸モデル22と、撮影位置23と、前回検査情報領域24と、が表示されている。
内視鏡映像21は、検査中の内視鏡映像Icである。大腸モデル22は、大腸の概略図を示す。大腸モデル22上には、現在の撮影位置23が黒の丸で示されている。図6では、大腸モデル22のS状結腸に該当する部位に、撮影位置23が示されている。前回検査情報領域24は、撮影位置23における前回の検査情報を表示する領域である。図6では、前回検査情報領域24に、S状結腸における前回の検査情報として病変を含む内視鏡画像が表示されている。図6のような表示により、医師は、現在の撮影位置がS状結腸であり、前回の検査でS状結腸に病変が検出されたことを把握することが可能となる。
なお、図6では、前回検査情報領域24に1つの画像を表示しているが、1つの部位について2つ以上の病変や処置部がある場合、前回検査情報領域24のスペースに応じて、2つ以上の画像を表示してもよい。また、表示装置を追加し、一方の画面に内視鏡映像21を表示し、他方の画面に大腸モデル22および前回検査情報領域24を表示することで、前回検査情報領域24の表示スペースを確保してもよい。
図7は、表示装置2による表示の他の例を示す。図7の表示例では表示エリア20a内に、内視鏡映像21aと、大腸モデル22aと、撮影位置23aと、前回検査情報領域24aと、が表示されている。図7では、図6の状態から検査が進んで、S状結腸から直腸に撮影位置が移動している。また、前回検査情報領域24aには前回の検査情報が表示されておらず、前回の検査では、直腸には病変や処置部などがなかったことを示している。
このように、現在の撮影位置における前回の検査情報を表示することで、医師は、前回の検査情報と比較しながら内視鏡検査を行うことが可能となる。
[画像表示処理]
次に、上記のような表示を行う画像表示処理について説明する。図8は、内視鏡検査支援装置1による画像表示処理のフローチャートである。この処理は、図2に示すプロセッサ11が予め用意されたプログラムを実行し、図3に示す各要素として動作することにより実現される。
次に、上記のような表示を行う画像表示処理について説明する。図8は、内視鏡検査支援装置1による画像表示処理のフローチャートである。この処理は、図2に示すプロセッサ11が予め用意されたプログラムを実行し、図3に示す各要素として動作することにより実現される。
まず、内視鏡検査支援装置1には、入力部14を通じて、被検者である患者の患者IDが入力される。患者ID取得部111は、患者IDを取得し、前回検査情報検索部114へ出力する(ステップS111)。次に、内視鏡検査支援装置1には、内視鏡スコープ3から内視鏡映像Icが入力される。内視鏡映像取得部112は、内視鏡画像Icを取得し、位置判定部113と、表示データ生成部115へ出力する(ステップS112)。
次に、位置判定部113は、内視鏡映像取得部112から入力された内視鏡映像Icに基づいて、内視鏡映像の撮影位置が大腸の各部位(直腸、S状結腸、下行結腸、横行結腸、上行結腸、盲腸)のいずれに属するかを判定する。位置判定部113は、判定した撮影位置を前回検査情報検索部114へ出力する(ステップS113)。
次に、前回検査情報検索部114は、患者ID取得部111から入力された患者IDと、位置判定部113から入力された撮影位置と、の組合せに対応する前回検査情報をDB17から取得する。前回検査情報検索部114は、撮影位置と、前回検査情報と、を表示データ生成部115へ出力する(ステップS114)。
表示データ生成部115は、内視鏡映像Icと、撮影位置と、前回検査情報と、を用いて表示データIdを生成し、表示装置2へ出力する(ステップS115)。なお、前回検査情報に病変や処置などの情報が含まれない場合は、表示データ生成部115は、内視鏡映像Icと、撮影位置と、を用いて表示データIdを生成し、表示装置2へ出力する。
次に、内視鏡検査支援装置1は、検査が終了したか否かを判定する。内視鏡検査支援装置1は、例えば、医師が内視鏡検査支援装置1又は内視鏡スコープ3に対して検査終了の操作を行ったときに検査が終了したと判定する。また、内視鏡検査支援装置1は、内視鏡スコープ3による撮影画像の画像解析により、撮影画像が臓器外の画像になったときに自動的に検査が終了したと判定してもよい。検査が終了していないと判定された場合(ステップS116:No)、処理はステップS112へ戻る。一方、検査が終了したと判定された場合(ステップS116:Yes)、処理は終了する。
[変形例]
次に、第1実施形態の変形例を説明する。以下の変形例は、適宜組み合わせて第1実施形態に適用することができる。
次に、第1実施形態の変形例を説明する。以下の変形例は、適宜組み合わせて第1実施形態に適用することができる。
(変形例)
第1実施形態では、位置判定部113は、内視鏡映像に基づいて、撮影位置を判定しているが、位置判定部113は、磁気コイルを用いて撮影位置を判定してもよい。内視鏡スコープ3の先端部38に磁気コイルを内蔵することにより、位置判定部113は、磁気コイルから発生する磁気によって、内視鏡スコープ3の3次元の挿入形状を推定することができる。位置判定部113は、推定した挿入形状から、撮影位置が大腸の各部位のいずれに属するかを判定してもよい。さらに、位置判定部113は、内視鏡スコープ3の挿入形状に加えて、大腸内に挿入した内視鏡スコープ3の挿入長を用いて、撮影位置が大腸の各部位のいずれに属するかを判定してもよい。
第1実施形態では、位置判定部113は、内視鏡映像に基づいて、撮影位置を判定しているが、位置判定部113は、磁気コイルを用いて撮影位置を判定してもよい。内視鏡スコープ3の先端部38に磁気コイルを内蔵することにより、位置判定部113は、磁気コイルから発生する磁気によって、内視鏡スコープ3の3次元の挿入形状を推定することができる。位置判定部113は、推定した挿入形状から、撮影位置が大腸の各部位のいずれに属するかを判定してもよい。さらに、位置判定部113は、内視鏡スコープ3の挿入形状に加えて、大腸内に挿入した内視鏡スコープ3の挿入長を用いて、撮影位置が大腸の各部位のいずれに属するかを判定してもよい。
<第2実施形態>
次に、第2実施形態について説明する。第2実施形態に係る内視鏡検査システムでは、今回の検査における大腸の炎症状態と、前回の検査における大腸の炎症状態と、を比較しながら検査を進めることができる点で、第1実施形態に係る内視鏡検査システム100と異なる。なお、第2実施形態に係る内視鏡検査システムは、システム構成及びハードウェア構成については、第1実施形態に係る内視鏡検査システム100と同様であるので、説明を省略する。
次に、第2実施形態について説明する。第2実施形態に係る内視鏡検査システムでは、今回の検査における大腸の炎症状態と、前回の検査における大腸の炎症状態と、を比較しながら検査を進めることができる点で、第1実施形態に係る内視鏡検査システム100と異なる。なお、第2実施形態に係る内視鏡検査システムは、システム構成及びハードウェア構成については、第1実施形態に係る内視鏡検査システム100と同様であるので、説明を省略する。
[機能構成]
図9は、第2実施形態に係る内視鏡検査支援装置1aの機能構成を示すブロック図である。内視鏡検査支援装置1aは、機能的には、前述の表示装置2と、DB17と、に加えて、患者ID取得部111と、内視鏡映像取得部112と、位置判定部113と、表示データ生成部115と、炎症有無判定部116と、検査情報取得部117と、を含む。
図9は、第2実施形態に係る内視鏡検査支援装置1aの機能構成を示すブロック図である。内視鏡検査支援装置1aは、機能的には、前述の表示装置2と、DB17と、に加えて、患者ID取得部111と、内視鏡映像取得部112と、位置判定部113と、表示データ生成部115と、炎症有無判定部116と、検査情報取得部117と、を含む。
なお、患者ID取得部111と、内視鏡映像取得部112と、位置判定部113は、第1実施形態に係る内視鏡検査支援装置1の患者ID取得部111と、内視鏡映像取得部112と、位置判定部113と同様の構成であり、同様に動作するので、その説明は省略する。
炎症有無判定部116には、内視鏡映像取得部112から内視鏡映像Icが入力される。炎症有無判定部116は、予め用意された画像認識モデルなどを用いて、内視鏡映像Icから炎症の有無を判定する。この画像認識モデルは、内視鏡画像を入力とし、炎症の有無を推定するように予め学習されたモデルであり、以下、炎症推定モデルとも呼ぶ。
具体的に、炎症有無判定部116は、内視鏡映像から内視鏡画像を抽出し、内視鏡画像を炎症推定モデルに入力する。炎症推定モデルは、内視鏡画像から炎症の有無を推定し、信頼度スコアを出力する。信頼度スコアは、例えば0以上、1以下の数であり、信頼度スコアが1に近い数であるほど炎症している可能性が高い。炎症有無判定部116は、信頼度スコアが所定の閾値以上である場合は、炎症ありと判定する。一方、炎症有無判定部116は、信頼度スコアが所定の閾値未満である場合は、炎症なしと判定する。炎症有無判定部116は、炎症有無の判定結果を検査情報取得部117へ出力する。なお、炎症推定モデルとしては、炎症が生じている状態の多数の画像と炎症が生じていない状態の多数の画像について、炎症の有無をラベル付けして生成した学習データを用いて予め学習されたモデルを使用することができる。
検査情報取得部117には、患者ID取得部111から患者IDが入力され、位置判定部113から撮影位置が入力され、炎症有無判定部116から炎症有無の判定結果が入力される。
図10は、DB17に記憶されている前回検査情報のデータ構造の一例を示す。図示のように、DB17には、患者IDに対応付けて、位置と、前回炎症情報と、前回検査情報と、が記憶されている。なお、「位置」は、図5に示す前回検査情報の「位置」と同様であるため、説明は省略する。「前回炎症情報」は、前回の検査における炎症の有無を示す情報である。図10では、前回の検査で炎症があった場合は「有」、前回の検査で炎症がなかった場合は「無」が示されている。「前回検査情報」は、前回病変情報と、前回画像情報と、を含む。なお、「前回病変情報」は、図5に示す前回検査情報の「前回病変情報」と同様であるため、説明は省略する。「前回画像情報」は、病変や処置部、炎症などを撮影した内視鏡画像である。図10では、前回画像情報を画像データのファイル名で示している。なお、「‐(ハイフン)」は、その部位に病変や処置部、炎症がなく、その部位における内視鏡画像がないことを示す。また、図10の例では、大腸の1つの部位について1つの前回病変情報を示しているが、大腸の1つの部位について、複数の病変や複数の処置部がある場合は、複数の前回病変情報および複数の前回画像情報がDB17に記憶される。
図9に戻り、検査情報取得部117は、DB17から、患者IDに対応する前回炎症情報を取得する。また、検査情報取得部117は、撮影位置と、炎症有無の判定結果と、前回炎症情報と、を基に、撮影位置における炎症の進行状態を判定する。
図11は、炎症の進行状態の判定方法の一例を示す。図11では、炎症の進行状態を、「P1(活動期)」、「P2(寛解期)」、「P3(活動期)」、「P4(炎症無)」に分類している。検査情報取得部117は、ある大腸の部位について、今回の検査および前回の検査で炎症があった場合は、炎症の進行状態を「P1(活動期)」と判定する。検査情報取得部117は、ある大腸の部位について、今回の検査で炎症がなく、前回の検査で炎症があった場合は、炎症の進行状態を「P2(寛解期)」と判定する。検査情報取得部117は、ある大腸の部位について、今回の検査で炎症があり、前回の検査で炎症がなかった場合は、炎症の進行状態を「P3(活動期)」と判定する。検査情報取得部117は、ある大腸の部位について、今回の検査および前回の検査で炎症がなかった場合は、炎症の進行状態を「P4(炎症無)」と判定する。
また、検査情報取得部117は、DB17から、患者IDと撮影位置の組合せに対応する前回検査情報を取得する。検査情報取得部117は、撮影位置と、炎症有無の判定結果と、前回炎症情報と、前回検査情報と、炎症の進行状態と、を表示データ生成部115へ出力する。
表示データ生成部115は、内視鏡映像取得部112から入力された内視鏡映像Icと、検査情報取得部117から入力された撮影位置と、炎症有無の判定結果と、前回炎症情報と、前回検査情報と、炎症の進行状態と、を用いて表示データIdを生成し、表示装置2へ出力する。なお、前回検査情報に病変や処置、炎症などの情報が含まれない(即ち、前回病変情報が「異常なし」、かつ、前回炎症情報が「無」である)場合は、表示データ生成部115は、内視鏡映像Icと、撮影位置と、炎症有無の判定結果と、前回炎症情報と、炎症の進行状態と、を用いて表示データIdを生成し、表示装置2へ出力する。
[表示例]
次に、表示装置2による表示例を説明する。図12は、表示装置2による表示例の一例を示す。図12の表示例では表示エリア30内に、内視鏡映像31と、大腸モデル32と、撮影位置33と、前回検査情報領域34と、炎症の進行状態35と、が表示されている。
次に、表示装置2による表示例を説明する。図12は、表示装置2による表示例の一例を示す。図12の表示例では表示エリア30内に、内視鏡映像31と、大腸モデル32と、撮影位置33と、前回検査情報領域34と、炎症の進行状態35と、が表示されている。
内視鏡映像31は、検査中の内視鏡映像Icである。大腸モデル32は、大腸の概略図を示す。大腸の概略図の各部位(直腸、S状結腸、下行結腸、横行結腸、上行結腸、盲腸)は、前回の検査時に炎症があったか否かによって表示態様が異なる。図12では、前回の検査で炎症があった部位は、斜めのハッチングにより示され、前回の検査で炎症がなかった部位は、白色により示されている。図12の大腸モデル32により、医師は、前回の検査では、S状結腸と、下行結腸と、横行結腸に炎症があったことを把握することができる。
また、大腸モデル32には、現在の撮影位置33が示されている。撮影位置33は、現在の撮影位置に炎症があるか否かによって表示態様が異なる。例えば、現在の撮影位置に炎症がある場合は、撮影位置33は、黒の丸により示される。また、現在の撮影位置に炎症がない場合は、撮影位置33は、白の丸により示される。図12の大腸モデルおよび撮影位置33により、医師は、現在の撮影位置が上行結腸であり、現在の上行結腸には炎症があることを把握することができる。
また、前回検査情報領域34は、現在の撮影位置33における前回の検査情報を表示する領域である。なお、図12では、前回検査情報領域34には、前回の検査情報が表示されておらず、前回の検査では、上行結腸には病変や処置部、炎症などがなかったことを示している。
炎症の進行状態35は、撮影位置33における炎症の進行状態を示す。図12では、上行結腸における炎症の進行状態が「P3(活動期)」であることを示している。このような表示により、医師は、炎症の範囲が拡大していることを把握することができる。
図13は、表示装置2による表示の他の例を示す。図13の表示例では表示エリア30a内に、内視鏡映像31aと、大腸モデル32aと、撮影位置33aと、前回検査情報領域34aと、炎症の進行状態35aと、が表示されている。図13では、図12の状態から検査が進んで、上行結腸からS状結腸に撮影位置が移動している。
図13では、撮影位置33aは、白の丸であり、現在のS状結腸には炎症がないことを示している。また、前回検査情報領域34aには、前回の検査におけるS状結腸の内視鏡画像が表示されている。また、炎症の進行状態35aより、S状結腸における炎症の進行状態が「P2(寛解期)」であることを示している。このような表示により、医師は、S状結腸は前回の検査時に炎症があった部位であり、注意して観察する必要があることを把握することができる。
図14は、表示装置2による表示の他の例を示す。図14は、今回の検査結果と、前回の検査結果とを、比較したレポートであり、内視鏡を利用した検査の終了後に出力される。図14の表示例では表示エリア40内に、前回の検査結果41と、今回の検査結果42と、が表示されている。
前回の検査結果41は、前回の検査結果を示す。前回の検査結果41は、大腸モデル41aと、詳細情報41bと、を含む。
大腸モデル41aは、大腸の概略図を示す。図14では、大腸モデル41aの各部位に1から6の数字が表示されており、1は直腸、2はS状結腸、3は下行結腸、4は横行結腸、5は上行結腸、6は盲腸を示す。また、大腸モデル41aの各部位について、前回の検査で炎症があった部位は、斜めのハッチングにより示され、前回の検査で炎症がなかった部位は、白色により示されている。図14の大腸モデル41aでは、2のS状結腸、3の下行結腸、4の横行結腸が、斜めのハッチングにより示されている。
詳細情報41bは、前回の検査結果の詳細を示す。詳細情報41bには、炎症があった部位の割合と、各部位の信頼度スコアと、が表示されている。図14の詳細情報41bでは、信頼度スコアを、0%以上、100%以下の数で表し、信頼度スコアが所定の閾値以上である部位を炎症があった部位として、太字および下線で示している。図14の詳細情報41bより、前回の検査で炎症があった部位の割合は6部位中3部位であり、前回の検査で炎症があった部位は、S状結腸、下行結腸および横行結腸であることが把握できる。
今回の検査結果42は、今回の検査結果を示す。今回の検査結果42は、大腸モデル42aと、詳細情報42bと、を含む。
今回の検査結果42では、大腸モデル42aの各部位について、今回の検査で炎症があった部位は、斜めのハッチングにより示され、今回の検査で炎症がなかった部位は、白色により示されている。図14の大腸モデル42aでは、2のS状結腸、3の下行結腸が、斜めのハッチングにより示されている。
詳細情報42bは、今回の検査結果の詳細を示す。詳細情報42bには、炎症があった部位の割合と、各部位の信頼度スコアと、が表示されている。図14の詳細情報42bより、今回の検査で炎症があった部位の割合は6部位中2部位であり、今回の検査で炎症があった部位は、S状結腸および下行結腸であることが把握できる。
図14のような表示により、医師は、前回の検査結果と今回の検査結果を容易に比較することが可能となる。
[画像表示処理]
図15は、内視鏡検査支援装置1aによる画像表示処理のフローチャートである。この処理は、図2に示すプロセッサ11が予め用意されたプログラムを実行し、図9に示す各要素として動作することにより実現される。なお、ステップS211~S213、及びS218の処理は、図8に示す第1実施形態のステップS111~S113及びS117の処理と同様であるので、説明を省略する。
図15は、内視鏡検査支援装置1aによる画像表示処理のフローチャートである。この処理は、図2に示すプロセッサ11が予め用意されたプログラムを実行し、図9に示す各要素として動作することにより実現される。なお、ステップS211~S213、及びS218の処理は、図8に示す第1実施形態のステップS111~S113及びS117の処理と同様であるので、説明を省略する。
炎症有無判定部116には、内視鏡映像取得部112から内視鏡映像Icが入力される。炎症有無判定部116は、炎症推定モデルを用いて、内視鏡映像Icから炎症の有無を判定する。そして、炎症有無判定部116は、炎症有無の判定結果を検査情報取得部117へ出力する(ステップS214)。
検査情報取得部117には、患者ID取得部111から患者IDが入力され、位置判定部113から撮影位置が入力され、炎症有無判定部116から炎症有無の判定結果が入力される。検査情報取得部117は、DB17から、患者IDに対応する前回炎症情報を取得する。また、検査情報取得部117は、DB17から、患者IDと撮影位置の組合せに対応する前回病変情報および前回画像情報を取得する(ステップS215)。
次に、検査情報取得部117は、炎症の進行状態を判定する。具体的に、検査情報取得部117は、撮影位置と、炎症有無の判定結果と、前回炎症情報と、を基に、炎症の進行状態を判定する。検査情報取得部117は、撮影位置と、炎症有無の判定結果と、前回炎症情報と、前回病変情報と、前回画像情報と、炎症の進行状態と、を表示データ生成部115へ出力する(ステップS216)。
次に、表示データ生成部115は、内視鏡映像取得部112から入力された内視鏡映像Icと、検査情報取得部117から入力された撮影位置と、炎症有無の判定結果と、前回炎症情報と、前回検査情報と、炎症の進行状態と、を用いて表示データIdを生成し、表示装置2へ出力する(ステップS217)。なお、前回検査情報に病変や処置、炎症などの情報が含まれない場合は、表示データ生成部115は、内視鏡映像Icと、撮影位置と、炎症有無の判定結果と、前回炎症情報と、炎症の進行状態と、を用いて表示データIdを生成し、表示装置2へ出力する。
<第3実施形態>
図16は、第3実施形態の内視鏡検査支援装置の機能構成を示すブロック図である。内視鏡検査支援装置300は、画像取得手段311と、識別情報取得手段312と、位置推定手段313と、記憶手段314と、検索手段315と、表示制御手段316と、を備える。
図16は、第3実施形態の内視鏡検査支援装置の機能構成を示すブロック図である。内視鏡検査支援装置300は、画像取得手段311と、識別情報取得手段312と、位置推定手段313と、記憶手段314と、検索手段315と、表示制御手段316と、を備える。
図17は、第3実施形態の内視鏡検査支援装置による処理のフローチャートである。画像取得手段311は、内視鏡によって撮影された内視鏡画像を取得する(ステップS311)。識別情報取得手段312は、患者の識別情報を取得する(ステップS312)。位置推定手段313は、大腸内における内視鏡の位置を推定する(ステップS313)。記憶手段314は、患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶する(ステップS314)。検索手段315は、取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する(ステップS315)。表示制御手段316は、検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する(ステップS316)。
第3実施形態の内視鏡検査支援装置300によれば、内視鏡検査において、現在の観察部位に対応する前回検査時の情報を表示することが可能となる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
内視鏡によって撮影された内視鏡画像を取得する画像取得手段と、
患者の識別情報を取得する識別情報取得手段と、
大腸内における内視鏡の位置を推定する位置推定手段と、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段と、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する検索手段と、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する表示制御手段と、
を備える内視鏡検査支援装置。
内視鏡によって撮影された内視鏡画像を取得する画像取得手段と、
患者の識別情報を取得する識別情報取得手段と、
大腸内における内視鏡の位置を推定する位置推定手段と、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段と、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する検索手段と、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する表示制御手段と、
を備える内視鏡検査支援装置。
(付記2)
大腸が炎症状態であるか否かを判定する炎症有無判定手段を備え、
前記表示制御手段は、大腸全体を示すモデル画像上に、内視鏡の位置および前記内視鏡の位置における炎症の有無を示す情報を表示する付記1に記載の内視鏡検査支援装置。
大腸が炎症状態であるか否かを判定する炎症有無判定手段を備え、
前記表示制御手段は、大腸全体を示すモデル画像上に、内視鏡の位置および前記内視鏡の位置における炎症の有無を示す情報を表示する付記1に記載の内視鏡検査支援装置。
(付記3)
前記前回検査情報は、患者の識別情報と、前回の検査で炎症が検出された位置と、前記炎症の画像と、を関連付けた情報を含み、
前記表示制御手段は、検索した前回検査情報が炎症の画像を含む場合に、前回検査情報を表示装置に表示する付記2に記載の内視鏡検査支援装置。
前記前回検査情報は、患者の識別情報と、前回の検査で炎症が検出された位置と、前記炎症の画像と、を関連付けた情報を含み、
前記表示制御手段は、検索した前回検査情報が炎症の画像を含む場合に、前回検査情報を表示装置に表示する付記2に記載の内視鏡検査支援装置。
(付記4)
前記検索手段は、患者の識別情報を基に、前回検査情報を検索し、
前記表示制御手段は、前記前回検査情報を基に、前回炎症が検出された位置と、前回炎症が検出されなかった位置と、を識別可能な態様で大腸全体を示すモデル画像を生成し、
前記表示制御手段は、前記大腸全体を示すモデル画像上に、現在の内視鏡の位置および前記内視鏡の位置における炎症の有無を示す情報を表示する付記3に記載の内視鏡検査支援装置。
前記検索手段は、患者の識別情報を基に、前回検査情報を検索し、
前記表示制御手段は、前記前回検査情報を基に、前回炎症が検出された位置と、前回炎症が検出されなかった位置と、を識別可能な態様で大腸全体を示すモデル画像を生成し、
前記表示制御手段は、前記大腸全体を示すモデル画像上に、現在の内視鏡の位置および前記内視鏡の位置における炎症の有無を示す情報を表示する付記3に記載の内視鏡検査支援装置。
(付記5)
前記検索手段は、炎症有無の判定結果と、前回検査情報と、を基に、炎症の進行状態を判定し、
前記表示制御手段は、炎症の進行状態を表示装置に表示する付記4に記載の内視鏡検査支援装置。
前記検索手段は、炎症有無の判定結果と、前回検査情報と、を基に、炎症の進行状態を判定し、
前記表示制御手段は、炎症の進行状態を表示装置に表示する付記4に記載の内視鏡検査支援装置。
(付記6)
前記位置推定手段は、前記内視鏡画像から、大腸内における内視鏡の位置を推定する付記1に記載の内視鏡検査支援装置。
前記位置推定手段は、前記内視鏡画像から、大腸内における内視鏡の位置を推定する付記1に記載の内視鏡検査支援装置。
(付記7)
前記位置推定手段は、内視鏡に内蔵された磁気コイルから、大腸内における内視鏡の位置を推定する付記1に記載の内視鏡検査支援装置。
前記位置推定手段は、内視鏡に内蔵された磁気コイルから、大腸内における内視鏡の位置を推定する付記1に記載の内視鏡検査支援装置。
(付記8)
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段から、取得された識別情報と、推定された内視鏡の位置と、に対応する、前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する内視鏡検査支援方法。
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段から、取得された識別情報と、推定された内視鏡の位置と、に対応する、前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する内視鏡検査支援方法。
(付記9)
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段から、取得された識別情報と、推定された内視鏡の位置と、に対応する、前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する処理をコンピュータに実行させるプログラムを記録した記録媒体。
内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段から、取得された識別情報と、推定された内視鏡の位置と、に対応する、前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する処理をコンピュータに実行させるプログラムを記録した記録媒体。
以上、実施形態及び実施例を参照して本開示を説明したが、本開示は上記実施形態及び実施例に限定されるものではない。本開示の構成や詳細には、本開示のスコープ内で当業者が理解し得る様々な変更をすることができる。
1 内視鏡検査支援装置
2 表示装置
3 内視鏡スコープ
11 プロセッサ
12 メモリ
17 データベース(DB)
100 内視鏡検査システム
111 患者ID取得部
112 内視鏡映像取得部
113 位置判定部
114 前回検査情報検索部
115 表示データ生成部
116 炎症有無判定部
117 検査情報取得部
2 表示装置
3 内視鏡スコープ
11 プロセッサ
12 メモリ
17 データベース(DB)
100 内視鏡検査システム
111 患者ID取得部
112 内視鏡映像取得部
113 位置判定部
114 前回検査情報検索部
115 表示データ生成部
116 炎症有無判定部
117 検査情報取得部
Claims (9)
- 内視鏡によって撮影された内視鏡画像を取得する画像取得手段と、
患者の識別情報を取得する識別情報取得手段と、
大腸内における内視鏡の位置を推定する位置推定手段と、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段と、
取得された識別情報と、推定された内視鏡の位置と、に基づいて、前記記憶手段から、前記内視鏡の位置における前回検査情報を検索する検索手段と、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する表示制御手段と、
を備える内視鏡検査支援装置。 - 大腸が炎症状態であるか否かを判定する炎症有無判定手段を備え、
前記表示制御手段は、大腸全体を示すモデル画像上に、内視鏡の位置および前記内視鏡の位置における炎症の有無を示す情報を表示する請求項1に記載の内視鏡検査支援装置。 - 前記前回検査情報は、患者の識別情報と、前回の検査で炎症が検出された位置と、前記炎症の画像と、を関連付けた情報を含み、
前記表示制御手段は、検索した前回検査情報が炎症の画像を含む場合に、前回検査情報を表示装置に表示する請求項2に記載の内視鏡検査支援装置。 - 前記検索手段は、患者の識別情報を基に、前回検査情報を検索し、
前記表示制御手段は、前記前回検査情報を基に、前回炎症が検出された位置と、前回炎症が検出されなかった位置と、を識別可能な態様で大腸全体を示すモデル画像を生成し、
前記表示制御手段は、前記大腸全体を示すモデル画像上に、現在の内視鏡の位置および前記内視鏡の位置における炎症の有無を示す情報を表示する請求項3に記載の内視鏡検査支援装置。 - 前記検索手段は、炎症有無の判定結果と、前回検査情報と、を基に、炎症の進行状態を判定し、
前記表示制御手段は、炎症の進行状態を表示装置に表示する請求項4に記載の内視鏡検査支援装置。 - 前記位置推定手段は、前記内視鏡画像から、大腸内における内視鏡の位置を推定する請求項1に記載の内視鏡検査支援装置。
- 前記位置推定手段は、内視鏡に内蔵された磁気コイルから、大腸内における内視鏡の位置を推定する請求項1に記載の内視鏡検査支援装置。
- 内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段から、取得された識別情報と、推定された内視鏡の位置と、に対応する、前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する内視鏡検査支援方法。 - 内視鏡によって撮影された内視鏡画像を取得し、
患者の識別情報を取得し、
大腸内における内視鏡の位置を推定し、
患者の識別情報と、前回の検査で病変が検出された位置と、前記病変の画像と、前記病変の情報と、を関連付けた前回検査情報を記憶した記憶手段から、取得された識別情報と、推定された内視鏡の位置と、に対応する、前回検査情報を検索し、
検索した前回検査情報が病変の情報を含む場合に、前回検査情報を表示装置に表示する処理をコンピュータに実行させるプログラムを記録した記録媒体。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2023/008903 WO2024185099A1 (ja) | 2023-03-08 | 2023-03-08 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2023/008903 WO2024185099A1 (ja) | 2023-03-08 | 2023-03-08 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2024185099A1 true WO2024185099A1 (ja) | 2024-09-12 |
Family
ID=92674221
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2023/008903 Pending WO2024185099A1 (ja) | 2023-03-08 | 2023-03-08 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2024185099A1 (ja) |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011206251A (ja) * | 2010-03-30 | 2011-10-20 | Olympus Corp | 画像処理装置、画像処理方法及びプログラム |
| US20120027260A1 (en) * | 2009-04-03 | 2012-02-02 | Koninklijke Philips Electronics N.V. | Associating a sensor position with an image position |
| WO2014002565A1 (ja) * | 2012-06-26 | 2014-01-03 | ソニー株式会社 | 撮像制御装置、記憶システムおよび記憶媒体 |
| JP2014018333A (ja) * | 2012-07-17 | 2014-02-03 | Hoya Corp | 画像処理装置及び内視鏡装置 |
| WO2014061553A1 (ja) * | 2012-10-18 | 2014-04-24 | オリンパスメディカルシステムズ株式会社 | 画像処理装置及び画像処理方法 |
| KR102222547B1 (ko) * | 2020-07-15 | 2021-03-04 | 주식회사 웨이센 | 인공지능 기반의 대장내시경 영상 분석 방법 |
| WO2021064867A1 (ja) * | 2019-10-01 | 2021-04-08 | 日本電気株式会社 | 画像処理装置、制御方法及び記憶媒体 |
| JP2021164490A (ja) * | 2018-04-10 | 2021-10-14 | オリンパス株式会社 | 医療システム |
-
2023
- 2023-03-08 WO PCT/JP2023/008903 patent/WO2024185099A1/ja active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120027260A1 (en) * | 2009-04-03 | 2012-02-02 | Koninklijke Philips Electronics N.V. | Associating a sensor position with an image position |
| JP2011206251A (ja) * | 2010-03-30 | 2011-10-20 | Olympus Corp | 画像処理装置、画像処理方法及びプログラム |
| WO2014002565A1 (ja) * | 2012-06-26 | 2014-01-03 | ソニー株式会社 | 撮像制御装置、記憶システムおよび記憶媒体 |
| JP2014018333A (ja) * | 2012-07-17 | 2014-02-03 | Hoya Corp | 画像処理装置及び内視鏡装置 |
| WO2014061553A1 (ja) * | 2012-10-18 | 2014-04-24 | オリンパスメディカルシステムズ株式会社 | 画像処理装置及び画像処理方法 |
| JP2021164490A (ja) * | 2018-04-10 | 2021-10-14 | オリンパス株式会社 | 医療システム |
| WO2021064867A1 (ja) * | 2019-10-01 | 2021-04-08 | 日本電気株式会社 | 画像処理装置、制御方法及び記憶媒体 |
| KR102222547B1 (ko) * | 2020-07-15 | 2021-03-04 | 주식회사 웨이센 | 인공지능 기반의 대장내시경 영상 분석 방법 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7313512B2 (ja) | 内視鏡用プロセッサ、プログラム、情報処理方法及び情報処理装置 | |
| US20180263568A1 (en) | Systems and Methods for Clinical Image Classification | |
| JP5148227B2 (ja) | 内視鏡システム | |
| US9204781B2 (en) | Image processing apparatus and image processing method | |
| WO2018211674A1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
| WO2023095208A1 (ja) | 内視鏡挿入ガイド装置、内視鏡挿入ガイド方法、内視鏡情報取得方法、ガイドサーバ装置、および画像推論モデル学習方法 | |
| WO2021176664A1 (ja) | 検査支援システム、検査支援方法、及び、プログラム | |
| EP4434435A1 (en) | Information processing device, information processing method, and recording medium | |
| US20250281022A1 (en) | Endoscopy support device, endoscopy support method, and recording medium | |
| WO2023126999A1 (ja) | 画像処理装置、画像処理方法、及び、記憶媒体 | |
| US20250009248A1 (en) | Endoscopy support system, endoscopy support method, and storage medium | |
| WO2024185099A1 (ja) | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 | |
| JP7561382B2 (ja) | 大腸内視鏡観察支援装置、作動方法、及びプログラム | |
| EP4434434A1 (en) | Information processing device, information processing method, and recording medium | |
| WO2023218523A1 (ja) | 第2の内視鏡システム、第1の内視鏡システム、および内視鏡検査方法 | |
| JP7609278B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
| US20250241514A1 (en) | Image display device, image display method, and recording medium | |
| JP7533905B2 (ja) | 大腸内視鏡観察支援装置、作動方法、及びプログラム | |
| EP4434433A1 (en) | Information display device, information display method, and recording medium | |
| JP7264407B2 (ja) | 訓練用の大腸内視鏡観察支援装置、作動方法、及びプログラム | |
| WO2024121885A1 (ja) | 情報処理装置、情報処理方法、及び、記録媒体 | |
| US20250140384A1 (en) | Video editing device, video editing method, and recording medium | |
| WO2024111106A1 (ja) | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 | |
| JP7607803B2 (ja) | 医療支援システム、レポート作成支援方法および情報処理装置 | |
| WO2024150335A1 (ja) | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 23926309 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |