WO2025084668A1 - Apparatus and method for collecting defect image on basis of multi-processing for high-speed and wide-area reflective film - Google Patents
Apparatus and method for collecting defect image on basis of multi-processing for high-speed and wide-area reflective film Download PDFInfo
- Publication number
- WO2025084668A1 WO2025084668A1 PCT/KR2024/014866 KR2024014866W WO2025084668A1 WO 2025084668 A1 WO2025084668 A1 WO 2025084668A1 KR 2024014866 W KR2024014866 W KR 2024014866W WO 2025084668 A1 WO2025084668 A1 WO 2025084668A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image data
- defective
- data
- streaming
- memory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/8422—Investigating thin films, e.g. matrix isolation method
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8854—Grading and classifying of flaws
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8883—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges involving the calculation of gauges, generating models
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
Definitions
- the present invention relates to a defect image collection device and method based on multi-processing for a high-speed and wide-area reflective film, which separates a process of generating image data by photographing a reflective film and a process of streaming the image data, shares the image data between the two processes through a shared memory, and stores product surface image data having a defect in a localized area through a queuing process that limits and stores streaming for only a specific N-second period.
- Registration No. 10-2541166 discloses an AI vision inspection system using a robot that can quickly and accurately analyze and inspect whether a product is defective or not by using a video taken of the front of the product by a vision camera mounted on the robot.
- Registration No. 10-2491420 discloses a vision inspection method that performs a vision inspection based on data learned in advance through artificial intelligence using real-time shooting information on an object to be inspected using multiple cameras.
- Publication number 10-2023-0083134 discloses a vision inspection device and a control method thereof, which perform vision inspection accurately and more quickly to increase process efficiency.
- a vision system can be a system that observes and classifies objects on behalf of human eyes.
- Vision systems are commonly used in manufacturing and production industries to detect or classify defects in manufactured products.
- vision systems Since the products targeted for defect detection in vision systems are clearly visible to the naked eye, small in size, and produced at slow speeds, many vision systems detect defects using vision technologies such as contrast, shading correction, and line defect extraction.
- the product being produced is a reflective film, it is not possible to isolate the external environment and the production environment like with conventional vision systems.
- reflective films cannot properly utilize existing vision technologies due to reasons such as light reflection, wide shooting area, and fast production speed.
- whiteout due to light reflection occurs when the surface brightness is 20,000 Lux or higher
- blackout may occur when the surface brightness is 20,000 Lux or lower.
- the size of the reflective film can be at least 2.4 times (approximately 1.2 m) larger than the shooting target size of the existing vision system (0.1 to 0.5 m). Accordingly, there may be limitations in terms of speed when analyzing all pixels of the image using the existing vision technology.
- Artificial intelligence technology can automatically perform exception handling for defect detection for light reflection and the external environment through learning when learning a defect detection model, and can analyze a large number of high-resolution images in a short period of time by utilizing special equipment called GPU (Graphics Processing Unit).
- GPU Graphics Processing Unit
- the training data MNIST Numeric
- the training data may require approximately 60,000.
- An embodiment of the present invention aims to provide a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film, thereby improving the existing data collection process by proposing a method for collecting image data in consideration of the production process of the reflective film.
- the embodiment of the present invention aims to expand the range of existing collectable data by proposing a method for collecting high-resolution, high-speed image data for artificial intelligence learning.
- an embodiment of the present invention aims to improve the efficiency of data collection by proposing a method for collecting a large amount of image data for artificial intelligence learning.
- an embodiment of the present invention aims to alleviate worker fatigue in collecting data by switching to black box-based data collection.
- a multi-processing-based defective image collection device for a high-speed and wide-area reflective film may include a multi-processing-based On-memory Queuing module that performs a Memory Sharing Process for loading image data generated in connection with a reflective film into a shared memory, and a Queuing Process for loading duplicate image data copied from the image data into a Queue; and a Blackbox-based data collection Web GUI module that performs a Streaming & Saving Process for streaming image data acquired from the shared memory and storing defective image data determined to be defective among the image data and duplicate image data acquired from the Queue, and a Defect Streaming Process for confirming a defect in the defective image data.
- a method for collecting defective images based on multi-processing for a high-speed and wide-area reflective film may be configured to include a step of performing a Memory Sharing Process for loading image data generated in association with a reflective film into a shared memory in a multi-processing-based On-memory Queuing module; a step of performing a Queuing Process for loading duplicate image data copied from the image data into a Queue in the multi-processing-based On-memory Queuing module; a step of performing a Streaming & Saving Process for streaming image data acquired from the shared memory in a Blackbox-based data collection Web GUI module and saving defective image data determined to be defective among the image data and duplicate image data acquired from the Queue; and a step of performing a Defect Streaming Process for confirming a defect in the defective image data in the Blackbox-based data collection Web GUI module.
- a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film can be provided, which improves the existing data collection process.
- the range of existing collectable data can be expanded.
- the efficiency of data collection can be improved.
- FIG. 1 is a block diagram illustrating a configuration of a multi-processing-based defective image collection device for a high-speed and wide-area reflective film according to one embodiment of the present invention.
- Figure 2 is a diagram showing the entire operation process of the defective image collection device.
- Figure 3 is a diagram to explain the difference in image processing methods depending on whether parallel processing is used.
- Figure 4 is a diagram explaining the structure of a queue.
- Figure 5 is a diagram to explain the difference in operation between processes according to the data life cycle.
- Figure 6 is a diagram for explaining an example of a Bayer pattern.
- Figure 7 is a diagram explaining the image storage process depending on the presence or absence of the Image Lazy Convert Process.
- Figure 8 is a diagram explaining the process of collecting defective image data from the worker's perspective according to whether the product is used or not (blackbox/whitebox).
- Figure 9 is a diagram showing the results of implementing a GUI process for real-time streaming and data storage.
- FIG. 10 is a flowchart illustrating a multi-processing-based defective image collection method for a high-speed and wide-area reflective film according to one embodiment of the present invention.
- FIG. 1 is a block diagram illustrating a configuration of a multi-processing-based defective image collection device for a high-speed and wide-area reflective film according to one embodiment of the present invention.
- a multi-processing-based defective image collection device for a high-speed and wide-area reflective film may be configured to include a multi-processing-based On-memory Queuing module (110) and a Blackbox-based Web GUI module for data collection (120).
- the multiprocessing-based On-memory Queuing module (110) performs a Memory Sharing Process that loads image data generated in connection with a reflective film into a shared memory. That is, when a reflective film is photographed by a vision camera and image data, which is vision data, is generated, the multiprocessing-based On-memory Queuing module (110) can play a role in storing the generated image data in a shared memory.
- the multiprocessing-based On-memory Queuing module (110) can load image data for a reflective film produced at high speed into shared data in real time as the image data is continuously generated.
- the camera generating image data may be an area camera that captures the exterior of the reflective film in horizontal/vertical pixel units and generates precise image data for each pixel.
- the camera can generate the image data by photographing a reflective film under conditions in which a certain amount of light is irradiated from a vision light.
- the multiprocessing-based On-memory Queuing module (110) performs a Queuing Process that loads duplicate image data, which is the copied image data, into the Queue. That is, the multiprocessing-based On-memory Queuing module (110) can play a role in linking with the generation of image data, copying the generated image data in real time to create duplicate image data, and sequentially loading the copied image data into the Queue.
- a multiprocessing-based on-memory queuing module In loading duplicate image data into a queue, a multiprocessing-based on-memory queuing module (110) copies the image data generated from the present to a previously set period of time into the duplicate image data and loads it into the queue, but can remove the duplicate image data loaded first from the queue in a first-in, first-out manner as time passes.
- the multiprocessing-based On-memory Queuing module (110) accumulates and loads duplicate image data up to the storage capacity of the queue, and when the storage capacity is exceeded, the earliest loaded duplicate image data is removed, thereby securing storage space for newly loaded duplicate image data.
- Image data loaded into the above shared memory can be acquired and streamed later by the Blackbox-based data collection Web GUI module (120).
- the multiprocessing-based On-memory Queuing module (110) can perform an Image Lazy Convert Process for converting the image data and the duplicated image data generated and duplicated in BayerRG8 format into an RGB format for the streaming, as the camera that photographs the reflective film is set to the BayerRG8 shooting mode that uses the Bayer pattern.
- the multiprocessing-based On-memory Queuing module (110) can perform an Image Lazy Convert Process to convert the image data/duplicate image data from BayerRG8 format to RGB format, thereby making the image data/duplicate image data into a format suitable for streaming.
- the bad image collection device (100) can multi-process the loading of the image data into the shared memory and the streaming of the image data acquired from the shared memory separately and simultaneously.
- the bad image collection device (100) can independently acquire image data from the shared memory and stream it while loading the generated image data into the shared memory through multi-processing.
- the multi-processing-based On-memory Queuing module (110) can cause the camera to photograph the reflective film immediately after loading the image data into the shared memory without waiting for the image data to stream, thereby generating new image data.
- the Web GUI module (120) for Blackbox-based data collection performs a Streaming & Saving Process that streams image data acquired from the shared memory and saves defective image data determined to be defective among the image data and duplicate image data acquired from the Queue. That is, the Web GUI module (120) for Blackbox-based data collection can play a role in determining whether the acquired image data/duplicate image data is defective and identifying and storing defective image data determined to be defective.
- the Web GUI module (120) for Blackbox-based data collection performs a Defect Streaming Process for checking for defects in the above-mentioned defective image data.
- the Web GUI module (120) for Blackbox-based data collection can play a role in allowing the operator to re-check for defects in the defective image data identified and stored as defective image data.
- the Web GUI module (120) for Blackbox-based data collection can further perform Other Processes for checking the data collection status related to the frequency at which the defective image data is stored and the local storage capacity related to the remaining capacity in the local storage.
- the Web GUI module (120) for Blackbox-based data collection can measure the frequency with which image data/duplicate image data is judged to be defective and provide the worker with the data collection status, and can also provide the worker with local storage capacity regarding the remaining capacity in the local storage where the defective image data is stored so that the worker can check it.
- the Web GUI module (120) for Blackbox-based data collection can obtain image data loaded into shared memory and stream it to the operator.
- the Blackbox-based data collection Web GUI module (120) can store the streamed image data of t-1 and the duplicate image data of t (where t is the creation time) acquired from the Queue in the main memory.
- the Web GUI module (120) for Blackbox-based data collection can store image data/duplicate image data with different creation times in the main memory.
- the Web GUI module (120) for Blackbox-based data collection can determine whether data having different creation times and separated life cycles are defective. That is, the Web GUI module (120) for Blackbox-based data collection can determine whether image data of t-1 and duplicate image data of t are defective.
- the Web GUI module (120) for Blackbox-based data collection can store the defective image data determined to be defective in a local storage and remove the remaining data not determined to be defective from the main memory.
- the Web GUI module (120) for Blackbox-based data collection can secure free space for the main memory by storing data judged as defective in local storage and removing data judged as normal.
- the Web GUI module (120) for Blackbox-based data collection can temporarily stop streaming of the image data at the observation point when the image data being streamed is observed as defective by the operator. That is, the Web GUI module (120) for Blackbox-based data collection can stop streaming when the operator finds a defect in the image data during streaming and generates a set event, so that the image data in which a defect is found can be distinguished.
- the Web GUI module (120) for Blackbox-based data collection can determine whether the paused image data is defective.
- the Web GUI module (120) for collecting Blackbox-based data can store the paused image data as defective image data together with a defective information summary including the defective type and defective location if it is determined to be defective. That is, the Web GUI module (120) for collecting Blackbox-based data can store the image data as defective image data together with the defective information summary if a defective is confirmed as a result of the determination, and can create a defective information summary describing the defective type and defective location of the confirmed defective data, identify the corresponding image data as defective image data, and store the image data in a local storage together with the defective information summary.
- a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film can be provided, which improves the existing data collection process.
- the range of existing collectable data can be expanded.
- the efficiency of data collection can be improved.
- the defective image collection device (100) of the present invention may be related to collecting defective image data based on multi-processing for high-speed and wide-area reflective films.
- the bad image collection device (100) can be configured to include a multiprocessing-based On-memory Queuing module for preventing unnecessary storage space waste and securing storage speed, and a Blackbox-based data collection Web GUI (Graphic User Interface) module for preventing manpower consumption and efficient data collection.
- a multiprocessing-based On-memory Queuing module for preventing unnecessary storage space waste and securing storage speed
- a Blackbox-based data collection Web GUI (Graphic User Interface) module for preventing manpower consumption and efficient data collection.
- the multiprocessing-based On-memory Queuing module can perform Memory Sharing Process for real-time streaming, Queuing Process to store only the most recent N seconds of streaming in memory, and Image Lazy Convert Process to secure image storage efficiency.
- the Web GUI module for Blackbox-based data collection can perform Streaming & Saving Process, Defect Streaming Process, and Other Process.
- Figure 2 is a diagram showing the entire operation process of the defective image collection device.
- step 201 the bad image collection device (100) can initialize the camera as a Memory Sharing Process.
- the bad image collection device (100) can specify a queue size as a queuing process.
- the defective image collection device (100) can take pictures of the reflective film as a Memory Sharing Process with the camera initial settings and queue size specified.
- the defective image collection device (100) can generate image data in BayerRG8 format and duplicate image data that is a copy of the image data through camera shooting.
- the bad image collection device (100) may perform, as Other Process, in parallel, the verification of the local storage capacity in which the image data generated according to the camera shooting in step 203 is stored.
- the bad image collection device (100) can load image data generated by camera shooting into shared memory as a Memory Sharing Process.
- the bad image collection device (100) can load the duplicate image data, which is the copied image data, into the queue as a queuing process.
- the bad image collection device (100) can obtain image data in shared memory as a Memory Sharing Process.
- step 207 the bad image collection device (100) can acquire duplicate image data within the queue as a queuing process.
- the defective image collection device (100) can determine whether there is a defect in the image data/duplicate image data.
- the defective image collection device (100) can convert the image data/duplicate image data to RGB (Bayer to RGB) as an Image Lazy Convert Process.
- the bad image collection device (100) can stream image data in RGB format as a Streaming & Saving Process.
- the bad image collection device (100) can save image and video copy image data in RGB format as a Streaming & Saving Process.
- the bad image collection device (100) can refresh the storage of images and videos as a Streaming & Saving Process.
- the defect image collection device (100) can select the defect type and location as a Streaming & Saving Process.
- the defect image collection device (100) can refresh the storage of images and videos by performing step 212.
- the defective image collection device (100) can perform step 214 to check previously captured defects as a Defect Streaming Process, or perform step 215 to check the data collection status as an Other Process.
- the multiprocessing-based On-memory Queuing module can perform Memory Sharing Process for real-time streaming.
- the Memory Sharing Process can stream image data for the reflective film to the Web GUI module.
- the multiprocessing-based On-memory Queuing module can separate the two operations through multiprocessing.
- the multiprocessing-based On-memory Queuing module can utilize shared memory to share images between two processes performing different operations.
- Figure 3 is a diagram to explain the difference in image processing methods depending on whether parallel processing is used.
- Figure 3 (a) is a schematic diagram explaining the occurrence of a bottleneck phenomenon.
- step 301 the existing module can perform camera initialization.
- the existing module can take a camera shot on the reflective film according to the camera initial settings.
- step 303 the existing module can perform image streaming through the GUI module.
- camera shooting may freeze between image streaming.
- the original module can resume camera shooting.
- Figure 3 (b) is a schematic diagram explaining parallel processing through multi-processing.
- the multiprocessing-based On-memory Queuing module can perform camera initialization.
- the multiprocessing-based On-memory Queuing module can take pictures of the reflective film according to the camera initial settings.
- the multiprocessing-based On-memory Queuing module can load images generated by camera shooting into shared memory and induce continuous shooting.
- the multiprocessing-based On-memory Queuing module can perform multiprocessing that processes steps 314 to 315 in parallel, independently of steps 311 to 313.
- the multiprocessing-based On-memory Queuing module can acquire and post-process the image.
- the multiprocessing-based On-memory Queuing module can perform image streaming and induce continuous streaming through the GUI module.
- the multiprocessing-based On-memory Queuing module can perform initial camera settings to capture clear images of the reflective film, which is the subject of the shooting, that can be identified with the naked eye.
- the multiprocessing-based On-memory Queuing module can repeat the process of loading images captured by the camera into shared memory.
- the multiprocessing-based On-memory Queuing module can repeat the process of acquiring images stored in shared memory through the GUI module, post-processing them, and streaming them.
- the multiprocessing-based On-memory Queuing module can perform a Queuing Process to store only the most recent N seconds of streaming in memory.
- Queuing Process can be a space/speed efficient process to overcome these limitations.
- a queue can have a first-in, first-out structure, where old data can be discarded and new data can be inserted when the maximum size is reached.
- Figure 4 is a diagram explaining the structure of a queue.
- the multiprocessing-based On-memory Queuing module can store seven image data of Data 1 to 7 in the Queue. At this time, the multiprocessing-based On-memory Queuing module can store Data 7 in the Queue while removing Data 0, which is stored first in the Queue, in a first-in, first-out manner.
- the multiprocessing-based On-memory Queuing module can remove Data 1, which is stored first in the Queue, in a first-in-first-out manner and store the new Data 8 in the Queue, so that up to 7 image data can always be maintained.
- the multiprocessing-based On-memory Queuing module can specify the maximum size of the Queue to be loaded into memory.
- the maximum size of a queue can be calculated according to [Equation 1].
- Max Queue Size Image Resolution(4096 * 768) * FPS * Seconds
- Image Resolution is the resolution of the image being captured
- FPS can be the number of shots per second of the camera.
- Seconds is the shooting time, which is the sum of the time from when a defect is captured until it is discovered by a worker (Human Detect Time) and the time it takes for a worker to save it after discovery (Idle Time). It can be a hyperparameter value depending on the worker's work efficiency.
- the maximum size of the Queue to store images with a resolution of 4096 * 768 streamed at 30FPS for the last 10 seconds can be calculated as (4096*768*30*10) according to Equation 1.
- the multiprocessing-based On-memory Queuing module can generate and preprocess image data by shooting a reflective film through a camera after specifying the maximum size of the queue, and input duplicate image data that is a copy of the preprocessed image data into the queue.
- the multiprocessing-based On-memory Queuing module can copy preprocessed image data because the life cycle of the data is the same when using the same memory space as the image data being used in the Memory Sharing Process.
- Figure 5 is a diagram to explain the difference in operation between processes according to the data life cycle.
- Figure 5 (a) is a diagram for explaining two processes that share data of the same life cycle.
- a multiprocessing-based On-memory Queuing module can generate image 1 by taking a picture of a reflective film with a camera.
- the multiprocessing-based On-memory Queuing module can load image 1 into shared memory as a Memory Sharing Process.
- step 503 the multiprocessing-based On-memory Queuing module can stream images through the GUI module.
- the multiprocessing-based On-memory Queuing module can load image 1 into the Queue as a Queuing Process.
- the multiprocessing-based On-memory Queuing module can stream or store the image1 loaded into the Queue into the Main Memory.
- the multiprocessing-based On-memory Queuing module can perform step 506 to remove the image as a Memory Sharing Process, or perform step 507 to store the image when a defect is found through the GUI module.
- Figure 5 (b) is a diagram for explaining two processes for handling data whose life cycle is separated through image copying.
- the multiprocessing-based On-memory Queuing module can generate image 1 by taking a picture of the reflective film with a camera.
- the multiprocessing-based On-memory Queuing module can load image 1 into shared memory as a Memory Sharing Process.
- the multiprocessing-based On-memory Queuing module can stream images through the GUI module.
- the multiprocessing-based On-memory Queuing module can copy image 1 as a Queuing Process.
- the copied image 1 can be output as image 2.
- the multiprocessing-based On-memory Queuing module can load image 2 into the Queue as a Queuing Process.
- the multiprocessing-based On-memory Queuing module can stream or store the image1 and image2 loaded into the Queue into the Main Memory.
- the multiprocessing-based On-memory Queuing module can perform step 517 to remove the image as a Memory Sharing Process, or perform step 518 to store the image when a defect is found through the GUI module.
- the multiprocessing-based On-memory Queuing module can stop the process if a defect is found during the process of repeatedly inputting images into the queue and store the image data captured over the last N seconds.
- the multiprocessing-based On-memory Queuing module can perform the Image Lazy Convert Process.
- Image Lazy Convert Process can avoid limitations that reduce memory efficiency.
- the multiprocessing-based On-memory Queuing module can set the image format to BayerRG8 during camera initialization.
- Figure 6 is a diagram for explaining an example of a Bayer pattern.
- BayerRG8 can be an image expression pattern that can express only one color per pixel, with 50% green, 25% blue, and 25% red, taking into account human visual characteristics.
- the multiprocessing-based On-memory Queuing module can secure about three times more memory space than RGB, which expresses three colors in one pixel.
- the multiprocessing-based On-memory Queuing module can acquire data corresponding to BayerRG8 through camera shooting and perform the above-described Memory Sharing Process and Queuing Process.
- the multiprocessing-based On-memory Queuing module can convert the image data into RGB image format when streaming it.
- Figure 7 explains the image storage process depending on whether Image Lazy Convert Process is present or not.
- Figure 7 is a diagram explaining the image storage process depending on the presence or absence of the Image Lazy Convert Process.
- Figure 7 (a) is a schematic diagram when the image conversion process is not applied.
- step 701 the multiprocessing-based On-memory Queuing module can perform camera initialization.
- the multiprocessing-based On-memory Queuing module can take a camera shot on a reflective film according to the camera initial settings.
- the generated image data can be in RGB format.
- the multiprocessing-based On-memory Queuing module can load image data (RGB) generated by camera shooting into shared memory.
- the multiprocessing-based On-memory Queuing module can obtain image data (RGB) from shared memory.
- the multiprocessing-based On-memory Queuing module can perform image streaming of image data (RGB) through the GUI module.
- Figure 7 (b) is a schematic diagram when applying the image conversion process.
- the multiprocessing-based On-memory Queuing module can perform camera initialization. At this time, the multiprocessing-based On-memory Queuing module can set the BayerRG8 shooting mode using the Bayer pattern.
- the multiprocessing-based On-memory Queuing module can take pictures of the reflective film according to the camera initial settings.
- the generated image data can be in BayerRG8 format.
- the multiprocessing-based On-memory Queuing module can load image data (BayerRG8) generated by camera shooting into shared memory.
- the multiprocessing-based On-memory Queuing module can obtain image data (BayerRG8) from shared memory.
- the multiprocessing-based On-memory Queuing module can perform image conversion of converting BayerRG8 to RGB as an Image Lazy Convert Process.
- the multiprocessing-based On-memory Queuing module can perform image streaming of image data (RGB) through the GUI module.
- a Web GUI module for Blackbox-based data collection can be designed and implemented to prevent manpower consumption and ensure efficient data collection.
- the Web GUI module for Blackbox-based data collection can solve these limitations and make data collection easier by simply providing workers with only the functions they need.
- Figure 8 is a diagram explaining the process of collecting defective image data from the worker's perspective according to whether the product is used or not (blackbox/whitebox).
- Fig. 8 (a) is a diagram for explaining a conventional method for collecting defective image data.
- camera software can be run.
- image data can be generated by performing a production task.
- step 804 in a conventional defective image data collection method, it is possible to determine whether a defect is found in the generated image data.
- the equipment can be rewinded so that the defect is visible in the shooting range.
- a camera can be used to take pictures of the reflective film.
- the camera can be stopped after shooting.
- the process can return to step 803.
- Fig. 8 (b) is a diagram for explaining a method for collecting defective image data of the present invention.
- step 811 the Web GUI module for Blackbox-based data collection can run data collection software.
- the Web GUI module for Blackbox-based data collection can perform production work to generate image data.
- the Web GUI module for Blackbox-based data collection can determine whether a defect is found in the generated image data. At this time, the Web GUI module for Blackbox-based data collection can perform internal operations based on the Blackbox.
- step 814 the multiprocessing-based On-memory Queuing module can return to step 812 after changing the file name such as the defect type, defect location, and shooting time.
- the Web GUI module for Blackbox-based data collection implemented on the web can perform Streaming & Saving Process, Defect Streaming Process, and Other Process.
- Streaming & Saving Process can play a role in showing the product currently being shot and saving the shot in real time.
- the Defect Streaming Process can be used to determine whether previously captured and recently saved defective image data by a worker is distinct enough to be seen by the naked eye.
- Processes may consist of a process for visualizing the remaining capacity in local storage for user convenience and a process for visualizing the accumulated status of bad image data.
- the Web GUI module for Blackbox-based data collection can show the product currently being photographed and save the photographed copy when a defect is found.
- the Web GUI module for Blackbox-based data collection first allows the operator to observe the product currently being photographed as high-resolution image data.
- the image data being observed may be image data entered into shared memory in the Memory Sharing Process.
- the image data will be converted to RGB format through the Image Lazy Convert Process and may be erased within the shared memory for the next image streaming.
- the Web GUI module for Blackbox-based data collection allows operators to save defects observed during the streaming process as defect image data.
- the Web GUI module for Blackbox-based data collection can perform pause, select defective type, select defective location, save, and perform an initialization function to re-select if a defective type or defective location is incorrectly selected, thereby saving defective image data.
- the Web GUI module for Blackbox-based data collection can stop the Queuing Process when a pause is performed, preventing newly captured image data from being saved.
- the converted video footage can be stored on the server and used as a video to be played in the Defect Streaming Process.
- the Web GUI module for Blackbox-based data collection can receive defect types from workers.
- the Web GUI module for Blackbox-based data collection can add and define new types of faults that have not been previously defined.
- the Web GUI module for Blackbox-based data collection can operate in a manner that adds defect types each time they are selected when multiple defects exist within a single product.
- the Web GUI module for Blackbox-based data collection can select the defective location as left, center, right, or global, taking into account the product characteristics, such as wide width in the case of reflective films, depending on the characteristics of the product.
- the Web GUI module for Blackbox-based data collection can perform storage once both the fault type and fault location are selected.
- the Web GUI module for Blackbox-based data collection can store previously converted video footage and images corresponding to each frame on the server.
- Video footage and images stored on the server can be used as training data at a later point in time when training an artificial intelligence model.
- the Web GUI module for Blackbox-based data collection can record the type of defect, location of the defect, storage time, etc. in the file name for the convenience of data labeling (ex: point defect, line defect_left_230809_01_15frame.png).
- the Web GUI module for Blackbox-based data collection can finally refresh the entire screen and repeat the Streaming & Saving Process.
- Figure 9 is a diagram showing the results of implementing a GUI process for real-time streaming and data storage.
- Figure 9 shows an example of a Streaming & Saving Process in which streaming image data is paused when a defect is found by a worker, and the paused image data is saved as defective image data, including a summary of defect information (defect type, defect location).
- Defect Streaming Process can be performed to reconfirm whether defective image data saved through Streaming & Saving Process was captured correctly.
- the Web GUI module for Blackbox-based data collection can perform speed setting, enlargement, and data deletion as a Defect Streaming Process.
- the Web GUI module for Blackbox-based data collection can set the playback speed when playing converted video clips.
- the Web GUI module for Blackbox-based data collection can set a playback speed setting that reduces the playback speed of the video clip.
- the Web GUI module for Blackbox-based data collection can support speed settings such as x0.25, x0.5, x1, x2, etc.
- the Web GUI module for Blackbox-based data collection can support a zoom function to enable operators to accurately check small defects.
- the magnification function may be essential for observing small defects in products manufactured with a width of 1m or more through a monitor.
- the Web GUI module for Blackbox-based data collection can delete defective image data when a part suspected to be defective by an operator is determined to be normal.
- the Web GUI module for Blackbox-based data collection can eliminate the inconvenience of having to contact an AI expert (learning manager) separately whenever a situation arises where a defect needs to be restored to normal through the deletion function.
- Processes are processes that may be performed primarily by production managers or AI experts rather than workers, such as checking the status of collecting bad image data and checking local storage capacity.
- the Web GUI module for Blackbox-based data collection can provide production managers with statistical figures for measuring the defect rate within production facilities by supporting the collection status of defective image data, and can allow AI experts to observe changes in AI model performance according to the number of collected defective image data.
- the bad image data being collected can be a collection of high-resolution, high-FPS, long-time captured image data.
- the local storage capacity requirement for a single bad event can be approximately 5 Gb per minute.
- the amount of defective image data generated could be approximately 250 Gb.
- SSD which is a low-capacity, high-speed storage device
- the Web GUI module for Blackbox-based data collection can support checking of local storage capacity, thereby allowing production managers and AI experts to separately discuss data collection/backup storage upload plans according to local storage capacity.
- the existing vision data collection process can be improved.
- the present invention proposes a method for collecting high-resolution, high-speed image data for artificial intelligence learning, thereby expanding the range of vision data that can be collected.
- the present invention can improve the efficiency of collecting vision data by proposing a method for collecting high-capacity artificial intelligence learning data images.
- the present invention can alleviate worker data collection fatigue by switching to black box-based data collection.
- FIG. 10 describes in detail the work flow of the defective image collection device (100) according to embodiments of the present invention.
- FIG. 10 is a flowchart illustrating a multi-processing-based defective image collection method for a high-speed and wide-area reflective film according to one embodiment of the present invention.
- the multi-processing-based defective image collection method for a high-speed and wide-area reflective film according to the present embodiment can be performed by a defective image collection device (100).
- Step (1010) may be a process of storing the generated image data in a shared memory by a multiprocessing-based On-memory Queuing module when a reflective film is photographed by a vision camera and image data, which is vision data, is generated.
- the multiprocessing-based on-memory queuing module can load image data for high-speed reflective films into shared data in real time as the image data is continuously generated.
- the camera generating image data may be an area camera that captures the exterior of the reflective film in horizontal/vertical pixel units and generates precise image data for each pixel.
- the camera can generate the image data by photographing a reflective film under conditions in which a certain amount of light is irradiated from a vision light.
- Step (1020) may be a process of sequentially loading the generated image data into duplicate image data by copying the generated image data in real time in conjunction with the generation of the image data by the multiprocessing-based On-memory Queuing module into the Queue.
- a multiprocessing-based on-memory queuing module copies the image data generated from the present to a previously set period of time into the duplicate image data and loads it into the queue, but can remove the duplicate image data loaded earliest from the queue in a first-in, first-out manner over time.
- the multiprocessing-based On-memory Queuing module accumulates and loads duplicate image data up to the storage capacity of the Queue, and when the storage capacity is exceeded, the earliest loaded duplicate image data is removed to secure storage space for newly loaded duplicate image data.
- Image data loaded into the above shared memory can be acquired and streamed later by a Web GUI module for Blackbox-based data collection.
- the multiprocessing-based On-memory Queuing module can perform an Image Lazy Convert Process for converting the image data and the duplicated image data generated and replicated in BayerRG8 format into an RGB format for the streaming, as the camera that photographs the reflective film is set to the BayerRG8 shooting mode that uses the Bayer pattern.
- the multiprocessing-based On-memory Queuing module can perform an Image Lazy Convert Process to convert the image data/duplicate image data from BayerRG8 format to RGB format, thereby making the image data/duplicate image data into a format suitable for streaming.
- the bad image collection device (100) can multi-process the loading of the image data into the shared memory and the streaming of the image data acquired from the shared memory separately and simultaneously.
- the bad image collection device (100) can independently acquire image data from the shared memory and stream it while loading the generated image data into the shared memory through multi-processing.
- the multi-processing-based on-memory queuing module can cause the camera to photograph the reflective film to generate new image data immediately after loading the image data into the shared memory without waiting for the image data to stream.
- Step (1030) may be a process for determining whether the acquired image data/duplicate image data is defective, and identifying and storing the defective image data determined to be defective by the Web GUI module for Blackbox-based data collection.
- Step (1040) may be a process for re-confirming defects from an operator's perspective in the defective image data identified and stored as defective image data by the Web GUI module for collecting data based on the Blackbox.
- the Web GUI module for Blackbox-based data collection can further perform Other Processes for checking the data collection status related to the frequency at which the above-mentioned bad image data is stored and the local storage capacity related to the remaining capacity in the local storage.
- the Web GUI module for Blackbox-based data collection can measure the frequency with which image data/duplicate image data is judged to be defective and provide the worker with the status of data collection, and can also provide the worker with local storage capacity regarding the remaining capacity in the local storage where the defective image data is stored so that the worker can check it.
- the Web GUI module for Blackbox-based data collection can acquire image data loaded into shared memory and stream it to the operator.
- the Blackbox-based data collection Web GUI module can store the streamed image data of t-1 and the duplicate image data of t (where t is the creation time) acquired from the Queue in the main memory.
- the Web GUI module for Blackbox-based data collection can store image data/duplicate image data with different creation times in the main memory.
- the Web GUI module for Blackbox-based data collection can determine whether data having different creation times and separated life cycles are defective. That is, the Web GUI module for Blackbox-based data collection can determine whether image data of t-1 and duplicate image data of t are defective.
- the Web GUI module for Blackbox-based data collection can store the defective image data judged as defective in a local storage and remove the remaining data not judged as defective from the main memory.
- the Web GUI module for Blackbox-based data collection can secure free space for main memory by storing data judged as defective in local storage and removing data judged as normal.
- the Web GUI module for Blackbox-based data collection can pause streaming of the image data at the observation point if the image data being streamed is observed as defective by the operator. That is, the Web GUI module for Blackbox-based data collection can stop streaming when the operator discovers a defect in the image data during streaming and generates a set event, so that the image data in which a defect is discovered can be distinguished.
- the Web GUI module for Blackbox-based data collection can determine whether the paused image data is defective.
- the Web GUI module for Blackbox-based data collection can store the paused image data as defective image data together with a defective information summary including the defective type and defective location if it is determined to be defective. That is, the Web GUI module for Blackbox-based data collection can, if a defective is confirmed as a result of the judgment, create a defective information summary describing the defective type and defective location of the confirmed defective data, identify the corresponding image data as defective image data, and store the image data in local storage together with the defective information summary.
- a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film can be provided, which improves the existing data collection process.
- the range of existing collectable data can be expanded.
- the efficiency of data collection can be improved.
- the method according to the embodiment may be implemented in the form of program commands that can be executed through various computer means and recorded on a computer-readable medium.
- the computer-readable medium may include program commands, data files, data structures, etc., alone or in combination.
- the program commands recorded on the medium may be those specially designed and configured for the embodiment or may be those known to and available to those skilled in the art of computer software.
- Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, and hardware devices specially configured to store and execute program commands such as ROMs, RAMs, flash memories, etc.
- Examples of the program commands include not only machine language codes generated by a compiler but also high-level language codes that can be executed by a computer using an interpreter, etc.
- the hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiment, and vice versa.
- the software may include a computer program, code, instructions, or a combination of one or more of these, which may configure a processing device to perform a desired operation or may independently or collectively command the processing device.
- the software and/or data may be permanently or temporarily embodied in any type of machine, component, physical device, virtual equipment, computer storage medium or device, or transmitted signal waves, for interpretation by the processing device or for providing instructions or data to the processing device.
- the software may also be distributed over network-connected computer systems, and stored or executed in a distributed manner.
- the software and data may be stored on one or more computer-readable recording media.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- Biochemistry (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
Description
본 발명은, 반사 필름을 촬영하여 이미지 데이터를 생성하는 프로세스와, 이미지 데이터를 스트리밍하는 프로세스를 분리하되, 공유 메모리를 통해 두 프로세스 간 이미지 데이터를 공유하고, 특정 N초간의 스트리밍 만을 한정하여 저장하는 Queuing Process를 통해 국소 부위에 불량을 갖는 제품 표면 이미지 데이터를 저장하는, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치 및 방법에 관한 것이다.The present invention relates to a defect image collection device and method based on multi-processing for a high-speed and wide-area reflective film, which separates a process of generating image data by photographing a reflective film and a process of streaming the image data, shares the image data between the two processes through a shared memory, and stores product surface image data having a defect in a localized area through a queuing process that limits and stores streaming for only a specific N-second period.
등록번호 10-2541166 (2023.06.02) "로봇을 활용한 AI비전 검사 시스템"Registration No. 10-2541166 (2023.06.02) "AI Vision Inspection System Using Robots"
등록번호 10-2541166은, AI모델이 로봇에 탑재된 비전 카메라로 제품의 전면을 촬영한 동영상을 이용하여 제품의 양불 여부를 빠르고 정확하게 분석 및 검사할 수 있는 로봇을 활용한 AI비전 검사 시스템을 개시하고 있다.Registration No. 10-2541166 discloses an AI vision inspection system using a robot that can quickly and accurately analyze and inspect whether a product is defective or not by using a video taken of the front of the product by a vision camera mounted on the robot.
등록번호 10-2491420 (2023.01.18) "인공지능 학습 기반의 동적 플레이트를 이용한 비전 검사를 위한 비전 검사 방법"Registration No. 10-2491420 (2023.01.18) "Vision inspection method for vision inspection using dynamic plate based on artificial intelligence learning"
등록번호 10-2491420는, 복수의 카메라들을 이용하여 검사의 대상이 되는 객체에 대한 실시간 촬영 정보를 이용하여 미리 인공지능을 통해 학습된 데이터에 기초하여 비전 검사를 수행하는 비전 검사 방법을 개시하고 있다.Registration No. 10-2491420 discloses a vision inspection method that performs a vision inspection based on data learned in advance through artificial intelligence using real-time shooting information on an object to be inspected using multiple cameras.
공개번호 10-2023-0083134 (2023.06.09) "비전 검사 장치 및 그 제어 방법"Publication No. 10-2023-0083134 (2023.06.09) "Vision inspection device and its control method"
공개번호 10-2023-0083134는, 비전 검사를 정확하면서도 보다 빠르게 수행하여 공정 효율을 높이는, 비전 검사 장치 및 그 제어 방법을 개시하고 있다.Publication number 10-2023-0083134 discloses a vision inspection device and a control method thereof, which perform vision inspection accurately and more quickly to increase process efficiency.
비전 시스템은, 인간의 눈을 대신하여 어떠한 사물을 관찰하고 분류해내는 일을 수행하는 시스템 일 수 있다.A vision system can be a system that observes and classifies objects on behalf of human eyes.
비전 시스템은, 제조 및 생산 산업에서 흔히 활용되며, 생산 제품의 불량을 탐지하거나 분류해내는 목적을 지니고 있다.Vision systems are commonly used in manufacturing and production industries to detect or classify defects in manufactured products.
비전 시스템에서 불량 탐지 대상으로 하는 제품은, 육안으로도 뚜렷하고, 크기가 작고, 느린 속도로 생산되기 때문에, 많은 비전 시스템에서는, 대조, 농담 보정, 선 결함 추출 등의 비전 기술을 통해 불량을 탐지하고 있다.Since the products targeted for defect detection in vision systems are clearly visible to the naked eye, small in size, and produced at slow speeds, many vision systems detect defects using vision technologies such as contrast, shading correction, and line defect extraction.
하지만, 생산 제품이 반사 필름인 경우에는, 기존의 비전 시스템처럼 외부 환경과 생산 환경을 고립 시킬 수 없다.However, if the product being produced is a reflective film, it is not possible to isolate the external environment and the production environment like with conventional vision systems.
그 외, 반사 필름은, 빛 반사, 넓은 촬영 영역, 빠른 생산 속도 등의 이유로 기존 비전 기술을 제대로 활용 할 수 없다.In addition, reflective films cannot properly utilize existing vision technologies due to reasons such as light reflection, wide shooting area, and fast production speed.
상기 빛 반사와 관련하여, 흰색 반사 필름의 경우에는, 표면 밝기가 20,000Lux 이상부터 빛 반사로 인한 Whiteout이 발생하고, 검은색 반사 필름에서는, 표면 밝기가 20,000Lux 이하에서 Blackout이 발생할 수 있다.With regard to the above light reflection, in the case of a white reflective film, whiteout due to light reflection occurs when the surface brightness is 20,000 Lux or higher, and in the case of a black reflective film, blackout may occur when the surface brightness is 20,000 Lux or lower.
상기 넓은 촬영 영역과 관련하여, 기존 비전 시스템의 촬영 대상 크기(0.1~0.5m)에 비해 반사 필름은, 그 크기가 최소 2.4배(약 1.2m)일 수 있다. 이에 따라 기존 비전 기술로 이미지의 모든 픽셀을 분석하는 것에는, 속도 측면에서 한계가 있을 수 있다.In relation to the above wide shooting area, the size of the reflective film can be at least 2.4 times (approximately 1.2 m) larger than the shooting target size of the existing vision system (0.1 to 0.5 m). Accordingly, there may be limitations in terms of speed when analyzing all pixels of the image using the existing vision technology.
인공지능 기술은, 불량 탐지 모델을 학습 할 경우, 빛 반사, 외부 환경에 대한 불량 탐지 예외처리를, 학습을 통해 자동으로 수행 가능하며, GPU(Graphics Processing Unit)라는 특수 장비를 활용하여 대량의 고해상도 이미지를 빠른 시간 내에 분석 할 수 있다.Artificial intelligence technology can automatically perform exception handling for defect detection for light reflection and the external environment through learning when learning a defect detection model, and can analyze a large number of high-resolution images in a short period of time by utilizing special equipment called GPU (Graphics Processing Unit).
인공지능 기반 불량 탐지 모델을 학습하기 위해서는, 많은 학습용 불량 이미지 데이터의 수집이 요구된다. 예컨대, 손글씨 숫자의 안정적인 분류를 위해 요구되는 학습 데이터(MNIST Numeric)는, 약 6만개 가량이 요구될 수 있다.In order to learn an AI-based defect detection model, a large amount of training defect image data is required. For example, the training data (MNIST Numeric) required for stable classification of handwritten digits may require approximately 60,000.
하지만, 데이터 수집 대상으로 하는 불량 이미지는, 고해상도로 촬영되기 때문에, 상시 촬영 후 불량 발견 시 저장하는 데에는, 저장 장치에 많은 부하를 필요로 할 수 있다.However, since the defective images that are the target of data collection are captured in high resolution, storing them when defects are found after continuous shooting may require a lot of load on the storage device.
예를 들어, 작업 1시간 만에 불량이 발견되는 경우에는, 대략 300Gb(4K 이미지, 30fps, 60분)의 저장 공간이 요구되며, 많은 저장 시간이 소요될 수 있다.For example, if a defect is found after only 1 hour of work, it would require approximately 300Gb (4K image, 30fps, 60 minutes) of storage space, which could take a lot of storage time.
반면, 저장 장치에 부하를 감소하기 위해, 불량 발견 시에 사람이 직접 불량을 카메라의 촬영 범위에 위치하도록 장비를 뒤로 되감고, 촬영 범위에 불량이 위치 하는지 모니터링해야 하는 행위는, 많은 인력 소모를 유발한다는 한계점이 존재한다.On the other hand, in order to reduce the load on the storage device, there is a limitation in that the act of having to manually rewind the equipment to place the defect within the camera's shooting range when a defect is discovered and monitor whether the defect is within the shooting range causes a lot of manpower consumption.
따라서, 저장 공간, 저장 시간, 인력 소모의 한계를 극복하여 고속 및 광역의 반사 필름에 대한 효율적인 불량 이미지 데이터를 수집하는 개선된 모델의 등장이 절실히 요구되고 있다.Therefore, there is an urgent need for an improved model to collect efficient bad image data for high-speed and wide-area reflective films by overcoming the limitations of storage space, storage time, and manpower consumption.
본 발명의 실시예는, 반사 필름의 생산 프로세스를 고려하여 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 데이터 수집 프로세스를 개선하는, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치 및 방법을 제공하는 것을 해결과제로 한다.An embodiment of the present invention aims to provide a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film, thereby improving the existing data collection process by proposing a method for collecting image data in consideration of the production process of the reflective film.
또한, 본 발명의 실시예는, 고해상도, 고속의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 수집 가능한 데이터의 범위를 확장하는 것을 목적으로 한다.In addition, the embodiment of the present invention aims to expand the range of existing collectable data by proposing a method for collecting high-resolution, high-speed image data for artificial intelligence learning.
또한, 본 발명의 실시예는, 고용량의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 데이터 수집의 효율을 개선하는 것을 목적으로 한다.In addition, an embodiment of the present invention aims to improve the efficiency of data collection by proposing a method for collecting a large amount of image data for artificial intelligence learning.
또한, 본 발명의 실시예는, 블랙박스 기반 데이터 수집으로의 전환을 통해, 작업자가 데이터를 수집하는 피로도를 완화하는 것을 목적으로 한다.In addition, an embodiment of the present invention aims to alleviate worker fatigue in collecting data by switching to black box-based data collection.
본 발명의 일실시예에 따른, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치는, 반사 필름과 연관되어 생성되는 이미지 데이터를 공유 메모리에 로드하는 Memory Sharing Process, 및 상기 이미지 데이터를 복사한 복제 이미지 데이터를 Queue에 로드하는 Queuing Process를 수행하는, 멀티프로세싱 기반 On-memory Queuing 모듈; 및 상기 공유 메모리에서 획득한 이미지 데이터를 스트리밍하고, 상기 이미지 데이터와 상기 Queue에서 획득한 복제 이미지 데이터 중 불량으로 판단되는 불량 이미지 데이터를 저장하는 Streaming & Saving Process, 및 상기 불량 이미지 데이터에 대해 불량을 확인하는 Defect Streaming Process를 수행하는, Blackbox 기반 데이터 수집용 Web GUI 모듈을 포함 할 수 있다.According to one embodiment of the present invention, a multi-processing-based defective image collection device for a high-speed and wide-area reflective film may include a multi-processing-based On-memory Queuing module that performs a Memory Sharing Process for loading image data generated in connection with a reflective film into a shared memory, and a Queuing Process for loading duplicate image data copied from the image data into a Queue; and a Blackbox-based data collection Web GUI module that performs a Streaming & Saving Process for streaming image data acquired from the shared memory and storing defective image data determined to be defective among the image data and duplicate image data acquired from the Queue, and a Defect Streaming Process for confirming a defect in the defective image data.
또한, 본 발명의 실시예에 따른, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 방법은, 멀티프로세싱 기반 On-memory Queuing 모듈에서, 반사 필름과 연관되어 생성되는 이미지 데이터를 공유 메모리에 로드하는 Memory Sharing Process를 수행하는 단계; 상기 멀티프로세싱 기반 On-memory Queuing 모듈에서, 상기 이미지 데이터를 복사한 복제 이미지 데이터를 Queue에 로드하는 Queuing Process를 수행하는 단계; Blackbox 기반 데이터 수집용 Web GUI 모듈에서, 상기 공유 메모리에서 획득한 이미지 데이터를 스트리밍하고, 상기 이미지 데이터와 상기 Queue에서 획득한 복제 이미지 데이터 중 불량으로 판단되는 불량 이미지 데이터를 저장하는 Streaming & Saving Process를 수행하는 단계; 및 상기 Blackbox 기반 데이터 수집용 Web GUI 모듈에서, 상기 불량 이미지 데이터에 대해 불량을 확인하는 Defect Streaming Process를 수행하는 단계를 포함하여 구성할 수 있다.In addition, a method for collecting defective images based on multi-processing for a high-speed and wide-area reflective film according to an embodiment of the present invention may be configured to include a step of performing a Memory Sharing Process for loading image data generated in association with a reflective film into a shared memory in a multi-processing-based On-memory Queuing module; a step of performing a Queuing Process for loading duplicate image data copied from the image data into a Queue in the multi-processing-based On-memory Queuing module; a step of performing a Streaming & Saving Process for streaming image data acquired from the shared memory in a Blackbox-based data collection Web GUI module and saving defective image data determined to be defective among the image data and duplicate image data acquired from the Queue; and a step of performing a Defect Streaming Process for confirming a defect in the defective image data in the Blackbox-based data collection Web GUI module.
본 발명의 일실시예에 따르면, 반사 필름의 생산 프로세스를 고려하여 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 데이터 수집 프로세스를 개선하는, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치 및 방법을 제공 할 수 있다.According to one embodiment of the present invention, by proposing a method for collecting image data by considering the production process of a reflective film, a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film can be provided, which improves the existing data collection process.
또한, 본 발명의 일실시예에 따르면, 고해상도, 고속의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 수집 가능한 데이터의 범위를 확장 할 수 있다.In addition, according to one embodiment of the present invention, by proposing a method for collecting high-resolution, high-speed image data for artificial intelligence learning, the range of existing collectable data can be expanded.
또한, 본 발명의 일실시예에 따르면, 고용량의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 데이터 수집의 효율을 개선 할 수 있다.In addition, according to one embodiment of the present invention, by proposing a method for collecting a large amount of image data for artificial intelligence learning, the efficiency of data collection can be improved.
또한, 본 발명의 일실시예에 따르면, 블랙박스 기반 데이터 수집으로의 전환을 통해, 작업자가 데이터를 수집하는 피로도를 완화 할 수 있다.In addition, according to one embodiment of the present invention, by switching to black box-based data collection, worker fatigue in collecting data can be alleviated.
도 1은, 본 발명의 일실시예에 따른 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치의 구성을 도시한 블록도이다.FIG. 1 is a block diagram illustrating a configuration of a multi-processing-based defective image collection device for a high-speed and wide-area reflective film according to one embodiment of the present invention.
도 2는, 불량 이미지 수집 장치의 전체 동작 과정을 보여주기 위한 도이다.Figure 2 is a diagram showing the entire operation process of the defective image collection device.
도 3은, 병렬 처리 유무에 따른 이미지 처리 방식의 차이를 설명하기 위한 도이다.Figure 3 is a diagram to explain the difference in image processing methods depending on whether parallel processing is used.
도 4는, 큐(Queue)의 구조를 설명하기 위한 도이다.Figure 4 is a diagram explaining the structure of a queue.
도 5는, 데이터 생명 주기에 따른 프로세스 간 동작의 차이를 설명하기 위한 도이다.Figure 5 is a diagram to explain the difference in operation between processes according to the data life cycle.
도 6은 Bayer 패턴을 예시하여 설명하기 위한 도이다.Figure 6 is a diagram for explaining an example of a Bayer pattern.
도 7은, Image Lazy Convert Process의 유무에 따른 이미지 저장 과정을 설명하기 위한 도이다.Figure 7 is a diagram explaining the image storage process depending on the presence or absence of the Image Lazy Convert Process.
도 8에서는, 제품의 사용 유무(Blackbox/Whitebox)에 따른 작업자 측면에서의 불량 이미지 데이터의 수집 과정을 설명하기 위한 도이다.Figure 8 is a diagram explaining the process of collecting defective image data from the worker's perspective according to whether the product is used or not (blackbox/whitebox).
도 9는 실시간 스트리밍 및 데이터 저장을 위한 GUI 프로세스 구현 결과를 보여주기 위한 도이다.Figure 9 is a diagram showing the results of implementing a GUI process for real-time streaming and data storage.
도 10은, 본 발명의 일실시예에 따른, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 방법을 도시한 흐름도이다.FIG. 10 is a flowchart illustrating a multi-processing-based defective image collection method for a high-speed and wide-area reflective film according to one embodiment of the present invention.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.Hereinafter, embodiments will be described in detail with reference to the attached drawings. However, since various modifications may be made to the embodiments, the scope of the patent application rights is not limited or restricted by these embodiments. It should be understood that all modifications, equivalents, or substitutes to the embodiments are included in the scope of the rights.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used in the examples are for the purpose of description only and should not be construed as limiting. The singular expression includes the plural expression unless the context clearly indicates otherwise. In this specification, the terms "comprises" or "has" and the like are intended to specify the presence of a feature, number, step, operation, component, part or combination thereof described in the specification, but should be understood to not exclude in advance the possibility of the presence or addition of one or more other features, numbers, steps, operations, components, parts or combinations thereof.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless otherwise defined, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which the embodiments belong. Terms defined in commonly used dictionaries, such as those defined in common dictionaries, should be interpreted as having a meaning consistent with the meaning they have in the context of the relevant art, and shall not be interpreted in an idealized or overly formal sense, unless expressly defined in this application.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.In addition, when describing with reference to the attached drawings, the same components will be given the same reference numerals regardless of the drawing numbers, and redundant descriptions thereof will be omitted. When describing an embodiment, if it is determined that a detailed description of a related known technology may unnecessarily obscure the gist of the embodiment, the detailed description thereof will be omitted.
도 1은, 본 발명의 일실시예에 따른 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치의 구성을 도시한 블록도이다.FIG. 1 is a block diagram illustrating a configuration of a multi-processing-based defective image collection device for a high-speed and wide-area reflective film according to one embodiment of the present invention.
도 1을 참조하면, 본 발명의 일실시예에 따른, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치(이하, '불량 이미지 수집 장치'라 약칭함, 100)는, 멀티프로세싱 기반 On-memory Queuing 모듈(110), 및 Blackbox 기반 데이터 수집용 Web GUI 모듈(120)을 포함하여 구성할 수 있다.Referring to FIG. 1, a multi-processing-based defective image collection device for a high-speed and wide-area reflective film according to one embodiment of the present invention (hereinafter, abbreviated as 'defective image collection device', 100) may be configured to include a multi-processing-based On-memory Queuing module (110) and a Blackbox-based Web GUI module for data collection (120).
우선, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 반사 필름과 연관되어 생성되는 이미지 데이터를 공유 메모리에 로드하는 Memory Sharing Process를 수행한다. 즉, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 비전 카메라에 의해 반사 필름이 촬영되어 비전 데이터인 이미지 데이터가 생성되면, 생성된 상기 이미지 데이터를 공유 메모리에 보관하는 역할을 할 수 있다.First, the multiprocessing-based On-memory Queuing module (110) performs a Memory Sharing Process that loads image data generated in connection with a reflective film into a shared memory. That is, when a reflective film is photographed by a vision camera and image data, which is vision data, is generated, the multiprocessing-based On-memory Queuing module (110) can play a role in storing the generated image data in a shared memory.
멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 고속으로 생산되는 반사 필름에 대한 이미지 데이터들이 연속적으로 생성 됨에 따라, 상기 이미지 데이터들을 공유 데이터에 실시간으로 로드할 수 있다.The multiprocessing-based On-memory Queuing module (110) can load image data for a reflective film produced at high speed into shared data in real time as the image data is continuously generated.
이미지 데이터를 생성하는 카메라는, 상기 반사 필름의 외관을 가로/세로의 픽셀 단위로 촬영하여, 각 픽셀에 대한 정밀한 이미지 데이터를 생성하는 Area 카메라일 수 있다.The camera generating image data may be an area camera that captures the exterior of the reflective film in horizontal/vertical pixel units and generates precise image data for each pixel.
이미지 데이터의 생성시, 카메라는, 비전 조명으로부터 일정 광량의 광이 조사되는 조건 하에서, 반사 필름을 촬영하여 상기 이미지 데이터를 생성할 수 있다.When generating image data, the camera can generate the image data by photographing a reflective film under conditions in which a certain amount of light is irradiated from a vision light.
또한, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 상기 이미지 데이터를 복사한 복제 이미지 데이터를 Queue에 로드하는 Queuing Process를 수행한다. 즉, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 이미지 데이터의 생성에 연동하여, 생성되는 이미지 데이터를 실시간으로 복사하여 복제 이미지 데이터로 만들어 Queue에 순차적으로 로드하는 역할을 할 수 있다.In addition, the multiprocessing-based On-memory Queuing module (110) performs a Queuing Process that loads duplicate image data, which is the copied image data, into the Queue. That is, the multiprocessing-based On-memory Queuing module (110) can play a role in linking with the generation of image data, copying the generated image data in real time to create duplicate image data, and sequentially loading the copied image data into the Queue.
Queue로의 복제 이미지 데이터 로드에 있어, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 현재부터 이전 정해진 기간 까지 생성된 상기 이미지 데이터를 상기 복제 이미지 데이터로 복사하여 상기 Queue에 로드하되, 시간의 경과에 따라 선입선출 방식으로 가장 먼저 로드된 복제 이미지 데이터를 상기 Queue에서 제거할 수 있다.In loading duplicate image data into a queue, a multiprocessing-based on-memory queuing module (110) copies the image data generated from the present to a previously set period of time into the duplicate image data and loads it into the queue, but can remove the duplicate image data loaded first from the queue in a first-in, first-out manner as time passes.
즉, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, Queue의 저장 용량까지 복제 이미지 데이터를 누적하여 로드하고, 저장 용량을 초과 됨에 따라, 가장 앞서 로드된 복제 이미지 데이터를 제거하여, 새롭게 로드되는 복제 이미지 데이터에 대한 저장 공간을 확보할 수 있다.That is, the multiprocessing-based On-memory Queuing module (110) accumulates and loads duplicate image data up to the storage capacity of the queue, and when the storage capacity is exceeded, the earliest loaded duplicate image data is removed, thereby securing storage space for newly loaded duplicate image data.
상기 공유 메모리에 로드된 이미지 데이터는, 추후 Blackbox 기반 데이터 수집용 Web GUI 모듈(120)에 의해 획득되어 스트리밍 될 수 있다.Image data loaded into the above shared memory can be acquired and streamed later by the Blackbox-based data collection Web GUI module (120).
상기 스트리밍에 있어, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 상기 반사 필름을 촬영하는 카메라가 Bayer 패턴을 이용하는 BayerRG8 촬영 모드로 설정 됨에 따라, BayerRG8 형식으로 생성 및 복제되는 상기 이미지 데이터 및 상기 복제 이미지 데이터를, 상기 스트리밍을 위한 RGB 형식으로 이미지 변환하는 Image Lazy Convert Process를 수행할 수 있다.In the above streaming, the multiprocessing-based On-memory Queuing module (110) can perform an Image Lazy Convert Process for converting the image data and the duplicated image data generated and duplicated in BayerRG8 format into an RGB format for the streaming, as the camera that photographs the reflective film is set to the BayerRG8 shooting mode that uses the Bayer pattern.
카메라가 반사 필름을 촬영하여 BayerRG8 형식의 이미지 데이터와 복제 이미지 데이터를 생성/복제 함에 따라, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, Image Lazy Convert Process를 수행하여 BayerRG8 형식을, RGB 형식으로 이미지 변환하여, 상기 이미지 데이터/복제 이미지 데이터를 스트리밍에 적합한 형태가 되도록 할 수 있다.As the camera captures a reflective film and generates/duplicates image data and duplicate image data in BayerRG8 format, the multiprocessing-based On-memory Queuing module (110) can perform an Image Lazy Convert Process to convert the image data/duplicate image data from BayerRG8 format to RGB format, thereby making the image data/duplicate image data into a format suitable for streaming.
실시예에 따라, 불량 이미지 수집 장치(100)는, 상기 공유 메모리로 상기 이미지 데이터의 로드와, 상기 공유 메모리에서 획득한 상기 이미지 데이터의 스트리밍이, 별개로 동시에 다중 처리(Multi-Processing) 할 수 있다.According to an embodiment, the bad image collection device (100) can multi-process the loading of the image data into the shared memory and the streaming of the image data acquired from the shared memory separately and simultaneously.
즉, 불량 이미지 수집 장치(100)는, 다중 처리를 통해, 생성되는 이미지 데이터를 공유 메모리에 로드하면서도, 독립적으로 공유 메모리에서 이미지 데이터를 획득하여 스트리밍 할 수 있다.That is, the bad image collection device (100) can independently acquire image data from the shared memory and stream it while loading the generated image data into the shared memory through multi-processing.
상기 공유 메모리로 상기 이미지 데이터의 로드와, 상기 공유 메모리에서 획득한 상기 이미지 데이터의 스트리밍이, 별개로 동시에 다중 처리(Multi-Processing) 됨에 따라, 멀티프로세싱 기반 On-memory Queuing 모듈(110)은, 상기 이미지 데이터가 스트리밍하는 것을 대기하지 않고, 상기 공유 메모리로 상기 이미지 데이터를 로드한 직후, 카메라에 의해 상기 반사 필름을 촬영하여 새로운 이미지 데이터가 생성되도록 할 수 있다.Since the loading of the image data into the shared memory and the streaming of the image data acquired from the shared memory are multi-processed separately and simultaneously, the multi-processing-based On-memory Queuing module (110) can cause the camera to photograph the reflective film immediately after loading the image data into the shared memory without waiting for the image data to stream, thereby generating new image data.
Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 상기 공유 메모리에서 획득한 이미지 데이터를 스트리밍하고, 상기 이미지 데이터와 상기 Queue에서 획득한 복제 이미지 데이터 중 불량으로 판단되는 불량 이미지 데이터를 저장하는 Streaming & Saving Process를 수행한다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 획득한 이미지 데이터/복제 이미지 데이터에 대해 불량 여부를 판단하고, 불량으로 판단되는 불량 이미지 데이터를 식별하여 저장하는 역할을 할 수 있다.The Web GUI module (120) for Blackbox-based data collection performs a Streaming & Saving Process that streams image data acquired from the shared memory and saves defective image data determined to be defective among the image data and duplicate image data acquired from the Queue. That is, the Web GUI module (120) for Blackbox-based data collection can play a role in determining whether the acquired image data/duplicate image data is defective and identifying and storing defective image data determined to be defective.
또한, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 상기 불량 이미지 데이터에 대해 불량을 확인하는 Defect Streaming Process를 수행한다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 불량 이미지 데이터로 식별되어 저장되는 불량 이미지 데이터에 대해, 작업자 관점에서 불량을 재차 확인할 수 있게 하는 역할을 할 수 있다.In addition, the Web GUI module (120) for Blackbox-based data collection performs a Defect Streaming Process for checking for defects in the above-mentioned defective image data. In other words, the Web GUI module (120) for Blackbox-based data collection can play a role in allowing the operator to re-check for defects in the defective image data identified and stored as defective image data.
또한, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 상기 불량 이미지 데이터가 저장되는 빈도와 관련된 데이터 수집 현황과, 로컬 저장소에 남은 용량과 관련된 로컬 스토리지 용량 확인을 위한 Other Process를 더 수행할 수 있다.In addition, the Web GUI module (120) for Blackbox-based data collection can further perform Other Processes for checking the data collection status related to the frequency at which the defective image data is stored and the local storage capacity related to the remaining capacity in the local storage.
즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 이미지 데이터/복제 이미지 데이터가 불량으로 판단되는 빈도를 측정하여 데이터 수집 현황을 작업자에게 제공하고, 또한 불량 이미지 데이터가 저장되는 로컬 저장소에 남아있는 잔여 용량에 관한 로컬 스토리지 용량을 작업자에게 제공하여 확인하도록 할 수 있다.That is, the Web GUI module (120) for Blackbox-based data collection can measure the frequency with which image data/duplicate image data is judged to be defective and provide the worker with the data collection status, and can also provide the worker with local storage capacity regarding the remaining capacity in the local storage where the defective image data is stored so that the worker can check it.
Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 공유 메모리에 로드된 이미지 데이터를 획득하여, 작업자에게 스트리밍 할 수 있다.The Web GUI module (120) for Blackbox-based data collection can obtain image data loaded into shared memory and stream it to the operator.
이미지 데이터의 스트리밍에 있어, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 상기 스트리밍 한 t-1의 이미지 데이터와, 상기 Queue에서 획득한 t(상기 t는 생성 시점)의 복제 이미지 데이터를 메인 메모리에 보관할 수 있다.In streaming image data, the Blackbox-based data collection Web GUI module (120) can store the streamed image data of t-1 and the duplicate image data of t (where t is the creation time) acquired from the Queue in the main memory.
즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 생성 시점이 다른, 이미지 데이터/복제 이미지 데이터를 메인 메모리에 보관할 수 있다.That is, the Web GUI module (120) for Blackbox-based data collection can store image data/duplicate image data with different creation times in the main memory.
이후, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 상기 생성 시점이 달라 생명 주기가 분리된 데이터들을 대상으로, 불량 여부를 판단할 수 있다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, t-1의 이미지 데이터와, t의 복제 이미지 데이터를 대상으로 불량 여부를 판단할 수 있다.Thereafter, the Web GUI module (120) for Blackbox-based data collection can determine whether data having different creation times and separated life cycles are defective. That is, the Web GUI module (120) for Blackbox-based data collection can determine whether image data of t-1 and duplicate image data of t are defective.
Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 불량으로 판단되는 상기 불량 이미지 데이터를 로컬 저장소에 저장하고, 불량으로 판단되지 않는 나머지 데이터를 상기 메인 메모리에서 제거할 수 있다.The Web GUI module (120) for Blackbox-based data collection can store the defective image data determined to be defective in a local storage and remove the remaining data not determined to be defective from the main memory.
즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 불량으로 판단된 데이터를 로컬 저장소에 보관하고, 정상으로 판단되는 데이터를 제거하여 메인 메모리에 대한 여유 공간을 확보할 수 있다.That is, the Web GUI module (120) for Blackbox-based data collection can secure free space for the main memory by storing data judged as defective in local storage and removing data judged as normal.
또한, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 스트리밍되는 상기 이미지 데이터에 대해, 작업자에 의해 불량으로 관찰되면, 관찰 시점에서 상기 이미지 데이터의 스트리밍을 일시 정지할 수 있다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 스트리밍 도중에 작업자가 이미지 데이터에서 불량을 발견하고 정해진 이벤트를 발생시킴에 따라, 스트리밍을 멈춰 불량이 발견된 이미지 데이터가 구분되도록 할 수 있다.In addition, the Web GUI module (120) for Blackbox-based data collection can temporarily stop streaming of the image data at the observation point when the image data being streamed is observed as defective by the operator. That is, the Web GUI module (120) for Blackbox-based data collection can stop streaming when the operator finds a defect in the image data during streaming and generates a set event, so that the image data in which a defect is found can be distinguished.
이후, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 일시 정지된 상기 이미지 데이터에 대해 불량 여부를 판단할 수 있다.Afterwards, the Web GUI module (120) for Blackbox-based data collection can determine whether the paused image data is defective.
Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 불량으로 판단되면, 불량 유형 및 불량 위치를 포함하여 작성되는 불량 정보 요약과 함께, 일시 정지된 상기 이미지 데이터를 불량 이미지 데이터로 저장할 수 있다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈(120)은, 판단 결과, 불량이 확인되면, 확인된 불량의 불량 유형과 불량 위치를 기재한 불량 정보 요약을 작성하고, 해당 이미지 데이터를 불량 이미지 데이터로 식별하여 상기 불량 정보 요약과 함께, 로컬 저장소에 저장할 수 있다.The Web GUI module (120) for collecting Blackbox-based data can store the paused image data as defective image data together with a defective information summary including the defective type and defective location if it is determined to be defective. That is, the Web GUI module (120) for collecting Blackbox-based data can store the image data as defective image data together with the defective information summary if a defective is confirmed as a result of the determination, and can create a defective information summary describing the defective type and defective location of the confirmed defective data, identify the corresponding image data as defective image data, and store the image data in a local storage together with the defective information summary.
본 발명의 일실시예에 따르면, 반사 필름의 생산 프로세스를 고려하여 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 데이터 수집 프로세스를 개선하는, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치 및 방법을 제공 할 수 있다.According to one embodiment of the present invention, by proposing a method for collecting image data by considering the production process of a reflective film, a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film can be provided, which improves the existing data collection process.
또한, 본 발명의 일실시예에 따르면, 고해상도, 고속의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 수집 가능한 데이터의 범위를 확장 할 수 있다.In addition, according to one embodiment of the present invention, by proposing a method for collecting high-resolution, high-speed image data for artificial intelligence learning, the range of existing collectable data can be expanded.
또한, 본 발명의 일실시예에 따르면, 고용량의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 데이터 수집의 효율을 개선 할 수 있다.In addition, according to one embodiment of the present invention, by proposing a method for collecting a large amount of image data for artificial intelligence learning, the efficiency of data collection can be improved.
또한, 본 발명의 일실시예에 따르면, 블랙박스 기반 데이터 수집으로의 전환을 통해, 작업자가 데이터를 수집하는 피로도를 완화 할 수 있다.In addition, according to one embodiment of the present invention, by switching to black box-based data collection, worker fatigue in collecting data can be alleviated.
본 발명의 불량 이미지 수집 장치(100)는, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 데이터를 수집하는 것과 관련될 수 있다.The defective image collection device (100) of the present invention may be related to collecting defective image data based on multi-processing for high-speed and wide-area reflective films.
불량 이미지 수집 장치(100)는, 불필요한 저장 공간 낭비 방지 및 저장 속도 확보를 위한 멀티프로세싱 기반 On-memory Queuing 모듈과, 인력 소모 방지 및 효율적인 데이터 수집을 위한 Blackbox 기반 데이터 수집용 Web GUI(Graphic User Interface) 모듈을 포함하여 구성할 수 있다.The bad image collection device (100) can be configured to include a multiprocessing-based On-memory Queuing module for preventing unnecessary storage space waste and securing storage speed, and a Blackbox-based data collection Web GUI (Graphic User Interface) module for preventing manpower consumption and efficient data collection.
멀티프로세싱 기반 On-memory Queuing 모듈은, 실시간 스트리밍을 위한 Memory Sharing Process, 최근 N초간 스트리밍만을 메모리에 저장하기 위한 Queuing Process, 이미지 저장 효율 확보를 위한 Image Lazy Convert Process를 수행할 수 있다.The multiprocessing-based On-memory Queuing module can perform Memory Sharing Process for real-time streaming, Queuing Process to store only the most recent N seconds of streaming in memory, and Image Lazy Convert Process to secure image storage efficiency.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, Streaming & Saving Process와, Defect Streaming Process와, Other Process를 수행할 수 있다.The Web GUI module for Blackbox-based data collection can perform Streaming & Saving Process, Defect Streaming Process, and Other Process.
도 2는, 불량 이미지 수집 장치의 전체 동작 과정을 보여주기 위한 도이다.Figure 2 is a diagram showing the entire operation process of the defective image collection device.
단계 201에서 불량 이미지 수집 장치(100)는, Memory Sharing Process로서, 카메라를 초기 설정할 수 있다.In
단계 202에서 불량 이미지 수집 장치(100)는, Queuing Process로서, Queue 크기를 지정할 수 있다.In
단계 203에서 불량 이미지 수집 장치(100)는, 카메라 초기 설정과 Queue 크기 지정이 된 상태에서, Memory Sharing Process로서, 반사 필름에 대해 카메라 촬영할 수 있다.In
단계 203에서 카메라 촬영을 통해 불량 이미지 수집 장치(100)는, BayerRG8 형식의 이미지 데이터와, 상기 이미지 데이터를 복사한 복제 이미지 데이터를 생성할 수 있다.In
또한, 단계 216에서 불량 이미지 수집 장치(100)는, Other Process로서, 상기 단계 203에서의 카메라 촬영에 따라 생성되는 이미지 데이터가 저장되는 로컬 스토리지 용량의 확인을 병행하여 수행할 수 있다.In addition, in
단계 204에서 불량 이미지 수집 장치(100)는, Memory Sharing Process로서, 카메라 촬영에 의해 생성되는 이미지 데이터를 공유 메모리에 로드 할 수 있다.In
단계 205에서 불량 이미지 수집 장치(100)는, Queuing Process로서, 이미지 데이터를 복사한 복제 이미지 데이터를 Queue에 로드 할 수 있다.In
단계 206에서 불량 이미지 수집 장치(100)는, Memory Sharing Process로서, 공유 메모리 내 이미지 데이터를 획득할 수 있다.In
단계 207에서 불량 이미지 수집 장치(100)는, Queuing Process로서, Queue 내 복제 이미지 데이터를 획득할 수 있다.In
단계 208에서 불량 이미지 수집 장치(100)는, 이미지 데이터/복제 이미지 데이터에 불량이 있는지를 판단할 수 있다.In
불량이 없다면(단계 208에서, No 방향), 단계 209에서 불량 이미지 수집 장치(100)는, Image Lazy Convert Process로서, 이미지 데이터/복제 이미지 데이터를 RGB로 변환할 수 있다(Bayer to RGB).If there are no defects (No direction in step 208), in
단계 210에서 불량 이미지 수집 장치(100)는, Streaming & Saving Process로서, RGB 형식의 이미지 데이터를 스트리밍할 수 있다.In
단계 211에서 불량 이미지 수집 장치(100)는, Streaming & Saving Process로서, RGB 형식의 복제 이미지 데이터를 이미지 및 비디오를 저장 할 수 있다.In
단계 212에서 불량 이미지 수집 장치(100)는, Streaming & Saving Process로서, 이미지 및 비디오의 저장을 새로 고침 할 수 있다.At
불량이 있다면(단계 208에서, Yes 방향), 단계 213에서 불량 이미지 수집 장치(100)는, Streaming & Saving Process로서, 불량 유형 및 위치를 선택할 수 있다.If there is a defect (Yes direction in step 208), in
불량 유형 및 위치의 선택 후, 불량 이미지 수집 장치(100)는, 단계 212을 수행하여, 이미지 및 비디오의 저장을 새로 고침 할 수 있다.After selecting the defect type and location, the defect image collection device (100) can refresh the storage of images and videos by performing
이미지 및 비디오의 저장을 새로 고침한 이후, 불량 이미지 수집 장치(100)는, 단계 214을 수행하여 Defect Streaming Process로서 이전 촬영된 불량을 확인하거나, 단계 215을 수행하여 Other Process로서 데이터 수집 현황을 확인 할 수 있다.After refreshing the storage of images and videos, the defective image collection device (100) can perform step 214 to check previously captured defects as a Defect Streaming Process, or perform
멀티프로세싱 기반 On-memory Queuing 모듈은, 실시간 스트리밍을 위한 Memory Sharing Process을 수행할 수 있다.The multiprocessing-based On-memory Queuing module can perform Memory Sharing Process for real-time streaming.
Memory Sharing Process는, 반사 필름에 대한 이미지 데이터를 Web GUI 모듈에 스트리밍할 수 있다.The Memory Sharing Process can stream image data for the reflective film to the Web GUI module.
카메라 촬영 동작과 Web GUI 모델에 이미지를 스트리밍하는 동작이 하나의 프로세스에서 수행되는 경우, 병목(Bottleneck) 현상이 발생할 수 있으므로, 멀티프로세싱 기반 On-memory Queuing 모듈은, 멀티프로세싱을 통해 두 동작을 분리할 수 있다.If the camera shooting operation and the operation of streaming the image to the Web GUI model are performed in one process, a bottleneck phenomenon may occur, so the multiprocessing-based On-memory Queuing module can separate the two operations through multiprocessing.
또한, 멀티프로세싱 기반 On-memory Queuing 모듈은, 서로 다른 동작을 수행하는 두 프로세스 간 이미지를 공유(Share)하기 위해 공유 메모리(Shared Memory)를 활용할 수 있다.Additionally, the multiprocessing-based On-memory Queuing module can utilize shared memory to share images between two processes performing different operations.
카메라 촬영, 이미지 스트리밍 간 병렬 처리 유무에 따른 차이는, 이하 도 3을 통해 설명한다.The difference between parallel processing of camera shooting and image streaming is explained below through Figure 3.
도 3은, 병렬 처리 유무에 따른 이미지 처리 방식의 차이를 설명하기 위한 도이다.Figure 3 is a diagram to explain the difference in image processing methods depending on whether parallel processing is used.
도 3의 (a)는, 병목 현상 발생을 설명하는 도식도이다.Figure 3 (a) is a schematic diagram explaining the occurrence of a bottleneck phenomenon.
단계 301에서 기존의 모듈은, 카메라 초기 설정을 할 수 있다.In
단계 302에서 기존의 모듈은, 카메라 초기 설정에 따라, 반사 필름에 대해 카메라 촬영할 수 있다.At
단계 303에서 기존의 모듈은, GUI 모듈을 통해, 이미지 스트리밍을 할 수 있다.In
이때, 이미지 스트리밍 간에는, 카메라 촬영 멈춤 현상이 발생할 수 있다.During this time, camera shooting may freeze between image streaming.
이미지 스트리밍이 완료되면, 기존의 모듈은, 카메라 촬영을 재개할 수 있다.Once image streaming is complete, the original module can resume camera shooting.
도 3의 (b)는, Multi-processing을 통한 병렬 처리를 설명하는 도식도이다.Figure 3 (b) is a schematic diagram explaining parallel processing through multi-processing.
단계 311에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정을 할 수 있다.At
단계 312에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정에 따라, 반사 필름에 대해 카메라 촬영할 수 있다.At
단계 313에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 촬영에 따라 생성되는 이미지를 공유 메모리에 로드하고, 지속적인 촬영을 유도할 수 있다.In
멀티프로세싱 기반 On-memory Queuing 모듈은, 단계 311~313과 독립적으로, 단계 314~315를 병렬 처리하는 Multi-processing을 수행할 수 있다.The multiprocessing-based On-memory Queuing module can perform multiprocessing that processes
단계 314에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 이미지를 획득하여 후처리 할 수 있다.At
단계 315에서 멀티프로세싱 기반 On-memory Queuing 모듈은, GUI 모듈을 통해, 이미지 스트리밍을 하고, 지속적인 스트리밍을 유도할 수 있다.In
멀티프로세싱 기반 On-memory Queuing 모듈은, 촬영 대상인 반사 필름을 육안으로 식별이 가능하고 선명한 이미지로 촬영하기 위해 카메라 초기 설정을 진행할 수 있다.The multiprocessing-based On-memory Queuing module can perform initial camera settings to capture clear images of the reflective film, which is the subject of the shooting, that can be identified with the naked eye.
이후, 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라를 통해 촬영된 이미지를 공유 메모리에 로드하는 과정을 반복할 수 있다.Afterwards, the multiprocessing-based On-memory Queuing module can repeat the process of loading images captured by the camera into shared memory.
멀티프로세싱 기반 On-memory Queuing 모듈은, GUI 모듈을 통해 공유 메모리에 저장된 이미지를 획득하고, 후처리하여 스트리밍하는 과정을 반복할 수 있다.The multiprocessing-based On-memory Queuing module can repeat the process of acquiring images stored in shared memory through the GUI module, post-processing them, and streaming them.
멀티프로세싱 기반 On-memory Queuing 모듈은, 최근 N초간 스트리밍 만을 메모리에 저장하기 위한 Queuing Process을 수행할 수 있다.The multiprocessing-based On-memory Queuing module can perform a Queuing Process to store only the most recent N seconds of streaming in memory.
국소 부위에 위치한 불량 이미지 데이터를 저장하기 위해, 오랜 시간 동안 의미 없이 촬영된 전체 이미지 데이터를 저장하는 행위는, 저장 공간/속도 측면에서 매우 비효율적일 수 있다.Storing the entire image data that was captured over a long period of time without meaning to store bad image data located in a local area can be very inefficient in terms of storage space/speed.
Queuing Process는 이러한 한계점을 해결하기 위한 공간/속도 효율적인 프로세스일 수 있다.Queuing Process can be a space/speed efficient process to overcome these limitations.
Queue는, 최대 크기에 도달하면 이전 데이터를 버리고 새로운 데이터를 입력할 수 있는 선입선출 구조를 지닐 수 있다.A queue can have a first-in, first-out structure, where old data can be discarded and new data can be inserted when the maximum size is reached.
Queuing Process에서는, Queue를 활용하여, 고정된 시간만큼 촬영된 이미지만 저장하고, 이전에 촬영된 의미 없는 이미지 데이터를 지울 수 있다.In the Queuing Process, by utilizing the Queue, only images captured for a fixed amount of time can be stored and previously captured meaningless image data can be deleted.
도 4는, 큐(Queue)의 구조를 설명하기 위한 도이다.Figure 4 is a diagram explaining the structure of a queue.
도 4에서와 같이, Queue의 길이가 '7'일 경우, 멀티프로세싱 기반 On-memory Queuing 모듈은, Data 1~7의 7개의 이미지 데이터를, Queue에 저장할 수 있다. 이때, 멀티프로세싱 기반 On-memory Queuing 모듈은, 선입선출 방식으로, Queue에서 가장 먼저 저장되어 있는 Data 0을 제거하면서, Data 7을 Queue에 저장 할 수 있다.As in Fig. 4, when the length of the Queue is '7', the multiprocessing-based On-memory Queuing module can store seven image data of
만약, Data 8이 새로 생성되는 경우, 멀티프로세싱 기반 On-memory Queuing 모듈은, 선입선출 방식으로, Queue에서 가장 먼저 저장되어 있는 Data 1을 제거하고, 신규의 Data 8을 Queue에 저장하여, 7개 이내의 이미지 데이터가 항시 유지되도록 할 수 있다.If
멀티프로세싱 기반 On-memory Queuing 모듈은, 메모리에 로드될 Queue의 최대 크기를 지정할 수 있다.The multiprocessing-based On-memory Queuing module can specify the maximum size of the Queue to be loaded into memory.
Queue의 최대 크기는 [수식 1]에 따라 계산될 수 있다.The maximum size of a queue can be calculated according to [Equation 1].
[수식 1][Formula 1]
Max Queue Size = Image Resolution(4096 * 768) * FPS * SecondsMax Queue Size = Image Resolution(4096 * 768) * FPS * Seconds
Seconds = Human Detect Time + Idle TimeSeconds = Human Detect Time + Idle Time
여기서, Image Resolution은, 촬영 대상 이미지 해상도이며, FPS는 카메라의 초당 촬영 횟수일 수 있다.Here, Image Resolution is the resolution of the image being captured, and FPS can be the number of shots per second of the camera.
Seconds는 촬영 시간으로, 불량이 찍히고 작업자에게 발견될 때까지의 시간(Human Detect Time)과, 작업자가 발견 후 저장을 하기까지 걸리는 시간(Idle Time)의 합으로, 작업자의 업무 능률에 따른 하이퍼파라미터(Hyperparameter)값일 수 있다.Seconds is the shooting time, which is the sum of the time from when a defect is captured until it is discovered by a worker (Human Detect Time) and the time it takes for a worker to save it after discovery (Idle Time). It can be a hyperparameter value depending on the worker's work efficiency.
예를 들어, 최근 10초동안 30FPS로 스트리밍된 4096 * 768 해상도의 이미지를 저장하기 위한 Queue의 최대 크기는, 수식 1에 따라, (4096*768*30*10)로 계산될 수 있다.For example, the maximum size of the Queue to store images with a resolution of 4096 * 768 streamed at 30FPS for the last 10 seconds can be calculated as (4096*768*30*10) according to
멀티프로세싱 기반 On-memory Queuing 모듈은, Queue의 최대 크기를 지정한 후, 카메라를 통해 반사 필름을 촬영하여 이미지 데이터를 생성하고 전처리하며, 전처리된 이미지 데이터를 복사한 복제 이미지 데이터를 Queue에 입력할 수 있다.The multiprocessing-based On-memory Queuing module can generate and preprocess image data by shooting a reflective film through a camera after specifying the maximum size of the queue, and input duplicate image data that is a copy of the preprocessed image data into the queue.
멀티프로세싱 기반 On-memory Queuing 모듈은, Memory Sharing Process에서 사용 중인 이미지 데이터와 동일한 메모리 공간을 사용하는 경우, 데이터의 생명 주기가 동일하기 때문에, 전처리된 이미지 데이터를 복사할 수 있다.The multiprocessing-based On-memory Queuing module can copy preprocessed image data because the life cycle of the data is the same when using the same memory space as the image data being used in the Memory Sharing Process.
도 5에서는 생명 주기가 동일한 이유에 대해 설명한다.Figure 5 explains why the life cycles are the same.
도 5는, 데이터 생명 주기에 따른 프로세스 간 동작의 차이를 설명하기 위한 도이다.Figure 5 is a diagram to explain the difference in operation between processes according to the data life cycle.
도 5의 (a)는, 동일한 생명 주기의 데이터를 공유하는 두 프로세스를 설명하기 위한 도이다.Figure 5 (a) is a diagram for explaining two processes that share data of the same life cycle.
단계 501에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 반사 필름에 대해 카메라 촬영하여 이미지1을 생성할 수 있다.In
단계 502에서 멀티프로세싱 기반 On-memory Queuing 모듈은, Memory Sharing Process로서, 이미지1을 공유 메모리에 로드 할 수 있다.At
단계 503에서 멀티프로세싱 기반 On-memory Queuing 모듈은, GUI 모듈을 통해 이미지를 스트리밍 할 수 있다.In
또한, 단계 504에서 멀티프로세싱 기반 On-memory Queuing 모듈은, Queuing Process로서, 이미지1을 Queue에 로드 할 수 있다.Additionally, in
단계 505에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 스트리밍하거나, Queue에 로드된 이미지1을 Main Memory에 저장할 수 있다.At
Main Memory에 저장 이후, 멀티프로세싱 기반 On-memory Queuing 모듈은, 단계 506을 수행하여 Memory Sharing Process로서 이미지를 제거하거나, 단계 507을 수행하여 GUI 모듈을 통해 불량 발견 시, 이미지를 저장할 수 있다.After being stored in the main memory, the multiprocessing-based On-memory Queuing module can perform step 506 to remove the image as a Memory Sharing Process, or perform
도 5의 (b)는, 이미지 복사를 통해 생명 주기가 분리된 데이터를 다루는 두 프로세스를 설명하기 위한 도이다.Figure 5 (b) is a diagram for explaining two processes for handling data whose life cycle is separated through image copying.
단계 511에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 반사 필름에 대해 카메라 촬영하여 이미지1을 생성할 수 있다.At
단계 512에서 멀티프로세싱 기반 On-memory Queuing 모듈은, Memory Sharing Process로서, 이미지1을 공유 메모리에 로드 할 수 있다.At
단계 513에서 멀티프로세싱 기반 On-memory Queuing 모듈은, GUI 모듈을 통해 이미지를 스트리밍 할 수 있다.At
또한, 단계 514에서 멀티프로세싱 기반 On-memory Queuing 모듈은, Queuing Process로서, 이미지1을 복사할 수 있다. 복사된 이미지1는 이미지2로 출력될 수 있다.Additionally, in
단계 515에서 멀티프로세싱 기반 On-memory Queuing 모듈은, Queuing Process로서, 이미지2를 Queue에 로드 할 수 있다.At
단계 516에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 스트리밍하거나, Queue에 로드된 이미지1과 이미지2를 Main Memory에 저장할 수 있다.At
Main Memory에 저장 이후, 멀티프로세싱 기반 On-memory Queuing 모듈은, 단계 517을 수행하여 Memory Sharing Process로서 이미지를 제거하거나, 단계 518을 수행하여 GUI 모듈을 통해 불량 발견 시, 이미지를 저장할 수 있다.After being stored in the main memory, the multiprocessing-based On-memory Queuing module can perform step 517 to remove the image as a Memory Sharing Process, or perform
멀티프로세싱 기반 On-memory Queuing 모듈은, Queue에 이미지를 입력하는 과정을 반복하는 도중, 불량이 발견되는 경우 해당 프로세스를 중단하고, 최근 N초간 촬영된 이미지 데이터를 저장할 수 있다.The multiprocessing-based On-memory Queuing module can stop the process if a defect is found during the process of repeatedly inputting images into the queue and store the image data captured over the last N seconds.
멀티프로세싱 기반 On-memory Queuing 모듈은, Image Lazy Convert Process를 수행할 수 있다.The multiprocessing-based On-memory Queuing module can perform the Image Lazy Convert Process.
고해상도의 RGB 이미지를 스트리밍하기 위해, 공유 메모리에 RGB 이미지 형태로 입력하는 행위는, 메모리 효율성을 저하시킬 수 있다.To stream high-resolution RGB images, inputting them into shared memory as RGB images can reduce memory efficiency.
또한, Queue에 RGB 이미지 형태로 입력하는 행위는, 역시 메모리 효율성을 저하시킬 수 있다.Additionally, inputting RGB images into the Queue can also reduce memory efficiency.
Image Lazy Convert Process는, 메모리 효율성을 저하시키는 한계점을 방지할 수 있다.Image Lazy Convert Process can avoid limitations that reduce memory efficiency.
멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정 시 이미지 형태를 BayerRG8로 설정할 수 있다.The multiprocessing-based On-memory Queuing module can set the image format to BayerRG8 during camera initialization.
도 6은 Bayer 패턴을 예시하여 설명하기 위한 도이다.Figure 6 is a diagram for explaining an example of a Bayer pattern.
도 6에서와 같이, BayerRG8은, 인간의 시각 특성을 고려하여, Green이 50%, Blue가 25%, Red가 25%로, 화소당 하나의 색 만을 표현할 수 있는 이미지 표현 패턴일 수 있다.As shown in Fig. 6, BayerRG8 can be an image expression pattern that can express only one color per pixel, with 50% green, 25% blue, and 25% red, taking into account human visual characteristics.
이를 통해, 멀티프로세싱 기반 On-memory Queuing 모듈은, 하나의 화소에 세 개의 색을 표현하는 RGB에 비해 약 3배 가량 메모리 공간 확보가 가능할 수 있다.Through this, the multiprocessing-based On-memory Queuing module can secure about three times more memory space than RGB, which expresses three colors in one pixel.
멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 촬영을 통해 BayerRG8에 해당하는 데이터를 획득하여, 상술의 Memory Sharing Process와 Queuing Process를 수행할 수 있다.The multiprocessing-based On-memory Queuing module can acquire data corresponding to BayerRG8 through camera shooting and perform the above-described Memory Sharing Process and Queuing Process.
멀티프로세싱 기반 On-memory Queuing 모듈은, 해당 이미지 데이터를 스트리밍할 때, RGB 이미지 형태로 변환할 수 있다.The multiprocessing-based On-memory Queuing module can convert the image data into RGB image format when streaming it.
도 7에서는, Image Lazy Convert Process의 유무에 따른 이미지 저장 과정을 설명한다.Figure 7 explains the image storage process depending on whether Image Lazy Convert Process is present or not.
도 7은, Image Lazy Convert Process의 유무에 따른 이미지 저장 과정을 설명하기 위한 도이다.Figure 7 is a diagram explaining the image storage process depending on the presence or absence of the Image Lazy Convert Process.
도 7의 (a)는, 이미지 변환 프로세스 미적용시의 도식도이다.Figure 7 (a) is a schematic diagram when the image conversion process is not applied.
단계 701에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정을 할 수 있다.In
단계 702에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정에 따라, 반사 필름에 대해 카메라 촬영할 수 있다. 이때, 생성되는 이미지 데이터는 RGB 형태 일 수 있다.In
단계 703에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 촬영에 따라 생성되는 이미지 데이터(RGB)를 공유 메모리에 로드할 수 있다.In
단계 704에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 공유 메모리로부터 이미지 데이터(RGB)를 획득할 수 있다.In
단계 705에서 멀티프로세싱 기반 On-memory Queuing 모듈은, GUI 모듈을 통해, 이미지 데이터(RGB)를 이미지 스트리밍을 할 수 있다.In
도 7의 (b)는, 이미지 변환 프로세스 적용시의 도식도이다.Figure 7 (b) is a schematic diagram when applying the image conversion process.
단계 711에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정을 할 수 있다. 이때, 멀티프로세싱 기반 On-memory Queuing 모듈은, Bayer 패턴을 사용하는 BayerRG8 촬영 모드를 설정할 수 있다.In
단계 712에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 초기 설정에 따라, 반사 필름에 대해 카메라 촬영할 수 있다. 이때, 생성되는 이미지 데이터는 BayerRG8 형태 일 수 있다.In
단계 713에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 카메라 촬영에 따라 생성되는 이미지 데이터(BayerRG8)를 공유 메모리에 로드할 수 있다.At step 713, the multiprocessing-based On-memory Queuing module can load image data (BayerRG8) generated by camera shooting into shared memory.
단계 714에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 공유 메모리로부터 이미지 데이터(BayerRG8)를 획득할 수 있다.At
단계 716에서 멀티프로세싱 기반 On-memory Queuing 모듈은, Image Lazy Convert Process로서, BayerRG8를 RGB로 변환하는 이미지 변환을 수행할 수 있다.At
단계 716에서 멀티프로세싱 기반 On-memory Queuing 모듈은, GUI 모듈을 통해, 이미지 데이터(RGB)를 이미지 스트리밍을 할 수 있다.In
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 인력 소모 방지 및 효율적인 데이터 수집을 위해 설계 및 구현될 수 있다.A Web GUI module for Blackbox-based data collection can be designed and implemented to prevent manpower consumption and ensure efficient data collection.
기존에는 산업용 카메라 판매 업체에서 제공하는 GUI 기반 소프트웨어를 사용하기 위해, 인공지능과는 전혀 무관한 작업자에게 별도의 기술지도가 요구되었다.Previously, separate technical guidance was required for workers who had no experience with artificial intelligence to use GUI-based software provided by industrial camera vendors.
또한, 기존에는, 불량 유형이나 촬영 시간, 불량 위치 등의 정보를 기입하기 위해, 별도의 파일을 만들거나 데이터 이름을 변경해야 한다.Additionally, previously, a separate file had to be created or the data name had to be changed to record information such as defect type, shooting time, and defect location.
또한, 기존에는, 이미지 데이터로 변환을 위해 촬영된 동영상을 프레임 단위로 분리해야 하기에 인공지능 전문가(학습 담당)에게도 상당한 부담이 되었다.In addition, previously, it was a significant burden on AI experts (in charge of learning) because the recorded video had to be separated into frames for conversion to image data.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 이러한 한계점을 해결하여, 작업자에게 필요한 기능만을 단순하게 제공하여 데이터 수집이 보다 용이해지도록 할 수 있다.The Web GUI module for Blackbox-based data collection can solve these limitations and make data collection easier by simply providing workers with only the functions they need.
도 8에서는, 제품의 사용 유무(Blackbox/Whitebox)에 따른 작업자 측면에서의 불량 이미지 데이터의 수집 과정을 설명하기 위한 도이다.Figure 8 is a diagram explaining the process of collecting defective image data from the worker's perspective according to whether the product is used or not (blackbox/whitebox).
도 8의 (a)는, 종래의 불량 이미지 데이터 수집 방법을 설명하기 위한 도이다.Fig. 8 (a) is a diagram for explaining a conventional method for collecting defective image data.
단계 801에서 종래의 불량 이미지 데이터 수집 방법에서는, 카메라 소프트웨어를 실행할 수 있다.In a conventional bad image data collection method at
단계 802에서 종래의 불량 이미지 데이터 수집 방법에서는, 카메라 초기 설정을 할 수 있다.In a conventional bad image data collection method at
단계 803에서 종래의 불량 이미지 데이터 수집 방법에서는, 생산 작업을 수행하여 이미지 데이터를 생성 할 수 있다.In a conventional bad image data collection method at
단계 804에서 종래의 불량 이미지 데이터 수집 방법에서는, 생성된 이미지 데이터에 불량이 발견되는지를 판단할 수 있다.In
단계 805에서 종래의 불량 이미지 데이터 수집 방법에서는, 불량이 발견되면, 촬영 범위에 불량이 보이도록 장비 뒤로 되감기 할 수 있다.In the conventional defective image data collection method at
단계 806에서 종래의 불량 이미지 데이터 수집 방법에서는, 반사 필름에 대해 카메라 촬영할 수 있다.In a conventional bad image data collection method at
단계 807에서 종래의 불량 이미지 데이터 수집 방법에서는, 촬영 후 카메라를 정지할 수 있다.In a conventional bad image data collection method at
단계 808에서 종래의 불량 이미지 데이터 수집 방법에서는, 불량유형, 불량위치, 촬영시간 등의 파일 이름을 변경한 후, 단계 803으로 리턴할 수 있다.In the conventional method of collecting defective image data at
도 8의 (b)는, 본 발명의 불량 이미지 데이터 수집 방법을 설명하기 위한 도이다.Fig. 8 (b) is a diagram for explaining a method for collecting defective image data of the present invention.
단계 811에서 Blackbox 기반 데이터 수집용 Web GUI 모듈은, 데이터 수집용 소프트웨어를 실행할 수 있다.In
단계 812에서 Blackbox 기반 데이터 수집용 Web GUI 모듈은, 생산 작업을 수행하여 이미지 데이터를 생성 할 수 있다.At
단계 813에서 Blackbox 기반 데이터 수집용 Web GUI 모듈은, 생성된 이미지 데이터에 불량이 발견되는지를 판단할 수 있다. 이때, Blackbox 기반 데이터 수집용 Web GUI 모듈은, Blackbox 기반으로 내부 동작을 수행할 수 있다.In
단계 814에서 멀티프로세싱 기반 On-memory Queuing 모듈은, 불량유형, 불량위치, 촬영시간 등의 파일 이름을 변경한 후, 단계 812로 리턴할 수 있다.In
웹 기반으로 구현된 Blackbox 기반 데이터 수집용 Web GUI 모듈은, Streaming & Saving Process, Defect Streaming Process, Other Process를 수행할 수 있다.The Web GUI module for Blackbox-based data collection implemented on the web can perform Streaming & Saving Process, Defect Streaming Process, and Other Process.
Streaming & Saving Process는, 현재 촬영 중인 제품을 보여주고 촬영본을 실시간으로 저장하는 역할을 수행할 수 있다.Streaming & Saving Process can play a role in showing the product currently being shot and saving the shot in real time.
Defect Streaming Process는, 이전에 촬영되어 작업자가 최근에 저장한 불량 이미지 데이터가 육안으로 보일 만큼 뚜렷한 지 확인하는 역할을 수행할 수 있다.The Defect Streaming Process can be used to determine whether previously captured and recently saved defective image data by a worker is distinct enough to be seen by the naked eye.
Other Process는, 사용자 편의를 위한, 로컬 저장소에 남은 용량 시각화 프로세스, 불량 이미지 데이터의 누적 현황 시각화 프로세스로 구성될 수 있다.Other Processes may consist of a process for visualizing the remaining capacity in local storage for user convenience and a process for visualizing the accumulated status of bad image data.
Streaming & Saving Process에서, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 현재 촬영 중인 제품을 보여주고 불량 발견 시 촬영본을 저장할 수 있다.In the Streaming & Saving Process, the Web GUI module for Blackbox-based data collection can show the product currently being photographed and save the photographed copy when a defect is found.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 먼저 작업자로 하여금, 현재 촬영 중인 제품을 고해상도의 이미지 데이터로 관찰할 수 있게 한다.The Web GUI module for Blackbox-based data collection first allows the operator to observe the product currently being photographed as high-resolution image data.
관찰하는 이미지 데이터는, Memory Sharing Process에서 공유 메모리에 입력된 이미지 데이터 일 수 있다.The image data being observed may be image data entered into shared memory in the Memory Sharing Process.
해당 이미지 데이터는, Image Lazy Convert Process를 통해 RGB 형태로 변환되게 되며, 다음 이미지 스트리밍을 위해 공유 메모리 내에서 지워질 수 있다.The image data will be converted to RGB format through the Image Lazy Convert Process and may be erased within the shared memory for the next image streaming.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 작업자가 스트리밍 과정에서 불량을 관찰하면, 이를 불량 이미지 데이터로 저장할 수 있다.The Web GUI module for Blackbox-based data collection allows operators to save defects observed during the streaming process as defect image data.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 일시 정지, 불량 유형 선택, 불량 위치 선택, 저장을 수행할 수 있으며, 불량 유형이나 불량 위치를 잘못 선택한 경우 다시 선택할 수 있는 초기화 기능을 수행하여, 불량 이미지 데이터를 저장할 수 있다.The Web GUI module for Blackbox-based data collection can perform pause, select defective type, select defective location, save, and perform an initialization function to re-select if a defective type or defective location is incorrectly selected, thereby saving defective image data.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 일시 정지가 수행되는 경우, Queuing Process를 중지하여, 새롭게 촬영되는 이미지 데이터가 저장되지 않도록 할 수 있다.The Web GUI module for Blackbox-based data collection can stop the Queuing Process when a pause is performed, preventing newly captured image data from being saved.
일시 정지가 수행되는 시점에서 Queue(큐)에 존재하는 모든 데이터는, Image Lazy Convert Process를 거친 후, 미리 설정된 FPS에 맞게 비디오 동영상으로 변환하는데, 이는 불량 이미지 데이터를 저장 시점에 비디오 동영상으로 변환할 경우, 병목으로 인해 상당히 많은 시간이 소요되는 것을 방지하기 위함이다.At the time the pause is performed, all data existing in the Queue is converted into video footage at a preset FPS after going through the Image Lazy Convert Process. This is to prevent a significant amount of time from being consumed due to a bottleneck when converting bad image data into video footage at the time of saving.
불량 유형 선택, 불량 위치 선택 시점에서도 비디오 동영상 변환은, 백그라운드에서 계속 수행될 수 있다.Even at the time of selecting the bad type and bad location, video conversion can continue to be performed in the background.
변환된 비디오 동영상은, 서버에 저장되어 Defect Streaming Process에서 재생될 영상으로 활용될 수 있다.The converted video footage can be stored on the server and used as a video to be played in the Defect Streaming Process.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 작업자로부터 불량 유형을 선택받을 수 있다.The Web GUI module for Blackbox-based data collection can receive defect types from workers.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 기존에 정의되지 않은 불량 유형인 경우, 새롭게 유형 추가 및 정의할 수 있다.The Web GUI module for Blackbox-based data collection can add and define new types of faults that have not been previously defined.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 하나의 제품 내에 여러 불량이 존재하는 경우, 불량 유형이 선택될 때마다 추가되는 형태로 동작할 수 있다.The Web GUI module for Blackbox-based data collection can operate in a manner that adds defect types each time they are selected when multiple defects exist within a single product.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 불량 위치에 대해, 제품의 특성에 따라 다르나, 반사 필름의 경우 너비가 넓다는 제품 특성을 고려하여 불량 위치를 왼쪽, 가운데, 오른쪽, 전역 등으로 선택할 수 있다.The Web GUI module for Blackbox-based data collection can select the defective location as left, center, right, or global, taking into account the product characteristics, such as wide width in the case of reflective films, depending on the characteristics of the product.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 불량 유형, 불량 위치가 모두 선택되면, 저장을 수행할 수 있다.The Web GUI module for Blackbox-based data collection can perform storage once both the fault type and fault location are selected.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 앞서 변환된 비디오 동영상과 각 프레임에 해당하는 이미지를 서버에 저장할 수 있다.The Web GUI module for Blackbox-based data collection can store previously converted video footage and images corresponding to each frame on the server.
서버에 저장된 비디오 동영상과 이미지는, 추후 인공지능 모델 학습 시점에서 학습용 데이터로 사용될 수 있다.Video footage and images stored on the server can be used as training data at a later point in time when training an artificial intelligence model.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 데이터 라벨링의 편의를 위해, 불량 유형, 불량 위치, 저장 시간 등을 파일명에 기록(ex: 점불량,선불량_왼쪽_230809_01_15frame.png)할 수 있다.The Web GUI module for Blackbox-based data collection can record the type of defect, location of the defect, storage time, etc. in the file name for the convenience of data labeling (ex: point defect, line defect_left_230809_01_15frame.png).
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 마지막으로, 전체 화면을 새로고침하고 Streaming & Saving Process를 반복할 수 있다.The Web GUI module for Blackbox-based data collection can finally refresh the entire screen and repeat the Streaming & Saving Process.
도 9는 실시간 스트리밍 및 데이터 저장을 위한 GUI 프로세스 구현 결과를 보여주기 위한 도이다.Figure 9 is a diagram showing the results of implementing a GUI process for real-time streaming and data storage.
도 9에는, 스트리밍 되는 이미지 데이터에서, 작업자에 의해 불량이 발견됨에 따라, 일시 정지되고, 불량 정보 요약(불량 유형, 불량 위치)을 포함하여 일시 정지된 이미지 데이터를 불량 이미지 데이터로 저장하는 Streaming & Saving Process의 일례를 보여준다.Figure 9 shows an example of a Streaming & Saving Process in which streaming image data is paused when a defect is found by a worker, and the paused image data is saved as defective image data, including a summary of defect information (defect type, defect location).
Defect Streaming Process는, Streaming & Saving Process를 통해 저장된 불량 이미지 데이터가 올바르게 촬영되었는지, 재확인하기 위해 수행될 수 있다.Defect Streaming Process can be performed to reconfirm whether defective image data saved through Streaming & Saving Process was captured correctly.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, Defect Streaming Process로서, 배속 설정, 확대, 데이터 삭제를 수행할 수 있다.The Web GUI module for Blackbox-based data collection can perform speed setting, enlargement, and data deletion as a Defect Streaming Process.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 변환된 비디오 동영상을 재생할 때, 배속 설정을 할 수 있다.The Web GUI module for Blackbox-based data collection can set the playback speed when playing converted video clips.
예를 들어, 비디오 동영상의 재생 속도가 너무 빨라 작업자가 육안으로 불량을 인식하기 힘든 경우, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 비디오 동영상의 재생 속도를 줄이는 배속 설정을 할 수 있다.For example, if the playback speed of a video clip is too fast for an operator to visually recognize a defect, the Web GUI module for Blackbox-based data collection can set a playback speed setting that reduces the playback speed of the video clip.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 배속 설정으로, 예컨대 x0.25, x0.5, x1, x2 등을 지원할 수 있다.The Web GUI module for Blackbox-based data collection can support speed settings such as x0.25, x0.5, x1, x2, etc.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 작업자가 크기가 작은 불량을 정확하게 확인하도록 하기 위해 확대 기능을 지원할 수 있다.The Web GUI module for Blackbox-based data collection can support a zoom function to enable operators to accurately check small defects.
확대 기능은, 1m 이상의 너비로 생산되는 제품 내 작은 불량을 모니터를 통해 관찰하기 위해 필수적인 기능일 수 있다.The magnification function may be essential for observing small defects in products manufactured with a width of 1m or more through a monitor.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 작업자에 의해 불량으로 의심되었던 부분이 정상이라고 판단됨에 따라, 불량 이미지 데이터를 삭제 할 수 있다.The Web GUI module for Blackbox-based data collection can delete defective image data when a part suspected to be defective by an operator is determined to be normal.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 삭제 기능을 통해, 불량을 정상으로 되돌리는 상황이 발생 할 때마다 작업자가 인공지능 전문가(학습 담당)에게 별도로 연락을 취해야 했던 기존의 불편함을 해소할 수 있다.The Web GUI module for Blackbox-based data collection can eliminate the inconvenience of having to contact an AI expert (learning manager) separately whenever a situation arises where a defect needs to be restored to normal through the deletion function.
Other Processes는 불량 이미지 데이터의 수집 현황, 로컬 스토리지 용량을 확인하기 위한 것으로, 작업자가 아닌 생산 매니저, 인공지능 전문가가 주로 수행하는 프로세스 일 수 있다.Other Processes are processes that may be performed primarily by production managers or AI experts rather than workers, such as checking the status of collecting bad image data and checking local storage capacity.
인공지능 기반 비전 서비스를 생산 시설 내 도입하기 위해 생산 매니저는, 불량 이미지 데이터의 수집 현황을 확인해야 한다.To introduce AI-based vision services into production facilities, production managers must check the status of collection of defective image data.
안정적인 불량 탐지 인공지능 모델 학습을 위해서는, 많은 학습데이터가 요구되며, 요구되는 학습데이터의 수는 생산 매니저, 인공지능 전문가 간 타협에 의해 불량 발생률, 불량 유형을 고려하여 정해질 수 있다.In order to learn a stable defect detection AI model, a large amount of learning data is required, and the number of learning data required can be determined by considering the defect occurrence rate and defect type through compromise between production managers and AI experts.
생산 매니저는, 불량 탐지 인공지능 모델 학습을 관찰하면서 학습데이터가 얼마나 부족한지 어떤 불량 유형의 학습데이터가 더 필요한지 확인해야 한다.Production managers need to observe the training of defect detection AI models to determine how insufficient the training data is and what types of defects require more training data.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 불량 이미지 데이터의 수집 현황을 지원 함으로써, 생산 매니저에게는 생산 시설 내 불량률을 측정하기 위한 통계적인 수치를 제공할 수 있고, 인공지능 전문가에게는 수집된 불량 이미지 데이터의 수에 따른 인공지능 모델 성능 변화가 관찰되도록 할 수 있다.The Web GUI module for Blackbox-based data collection can provide production managers with statistical figures for measuring the defect rate within production facilities by supporting the collection status of defective image data, and can allow AI experts to observe changes in AI model performance according to the number of collected defective image data.
생산 매니저 및 인공지능 전문가는, 불량 이미지 데이터를 수집하는 컴퓨터의 로컬 스토리지 용량을 확인해야 한다.Production managers and AI experts need to check the local storage capacity of the computers that collect bad image data.
수집하는 불량 이미지 데이터는, 고해상도, 높은 FPS, 긴 시간 동안 촬영된 이미지 데이터의 집합일 수 있다.The bad image data being collected can be a collection of high-resolution, high-FPS, long-time captured image data.
불량 1건 발생에 따른 로컬 스토리지 용량 요구사항은, 1분당 약 5Gb일 수 있다.The local storage capacity requirement for a single bad event can be approximately 5 Gb per minute.
이러한 불량이 하루에 10건 씩, 일주일(휴일 제외) 동안 발생한다면, 생성되는 불량 이미지 데이터의 용량은 약 250Gb일 수 있다.If these defects occur 10 times a day for a week (excluding holidays), the amount of defective image data generated could be approximately 250 Gb.
250Gb의 불량 이미지 데이터를 저장하기 위해서는, 많은 시간이 소모되기 때문에, 고용량 저속의 저장장치인 HDD가 아닌 저용량 고속의 저장장치인 SSD를 로컬 스토리지에 사용할 수 있다.To store 250Gb of bad image data, it takes a lot of time, so instead of HDD, which is a high-capacity, low-speed storage device, SSD, which is a low-capacity, high-speed storage device, can be used for local storage.
관리가 부족할 경우에는, SSD의 저장 공간이 가득 차서 백업 스토리지로 불량 이미지 데이터가 이동할 때까지 더 이상 데이터를 수집할 수 없게 된다.In case of insufficient management, the storage space of the SSD will become full and no more data can be collected until the bad image data is moved to the backup storage.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 로컬 스토리지 용량의 확인을 지원 함으로써, 생산 매니저와 인공지능 전문가가 로컬 스토리지 용량에 따른 데이터 수거/백업 스토리지 업로드 방안을 별도로 협의하도록 유도할 수 있다.The Web GUI module for Blackbox-based data collection can support checking of local storage capacity, thereby allowing production managers and AI experts to separately discuss data collection/backup storage upload plans according to local storage capacity.
본 발명에 의해서는, 제품 생산 프로세스를 고려한 비전 데이터 수집 방안을 제안 함으로써, 기존 비전 데이터 수집 프로세스를 개선할 수 있다.According to the present invention, by proposing a vision data collection method that takes into account the product production process, the existing vision data collection process can be improved.
또한, 본 발명에 의해서는, 고해상도, 고속의 인공지능 학습용 이미지 데이터의 수집 방안을 제안하여, 기존 수집 가능한 비전 데이터의 범위를 확장할 수 있다.In addition, the present invention proposes a method for collecting high-resolution, high-speed image data for artificial intelligence learning, thereby expanding the range of vision data that can be collected.
또한, 본 발명에 의해서는, 고용량의 인공지능 학습용 데이터 이미지의 수집 방안을 제안 함으로써, 비전 데이터의 수집 효율을 개선할 수 있다.In addition, the present invention can improve the efficiency of collecting vision data by proposing a method for collecting high-capacity artificial intelligence learning data images.
또한 본 발명에 의해서는, 블랙박스 기반의 데이터 수집으로의 전환을 통해 작업자의 데이터 수집 피로도를 완화할 수 있다.In addition, the present invention can alleviate worker data collection fatigue by switching to black box-based data collection.
이하, 도 10에서는 본 발명의 실시예들에 따른 불량 이미지 수집 장치(100)의 작업 흐름을 상세히 설명한다.Below, FIG. 10 describes in detail the work flow of the defective image collection device (100) according to embodiments of the present invention.
도 10은 본 발명의 일실시예에 따른, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 방법을 도시한 흐름도이다.FIG. 10 is a flowchart illustrating a multi-processing-based defective image collection method for a high-speed and wide-area reflective film according to one embodiment of the present invention.
본 실시예에 따른 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 방법은, 불량 이미지 수집 장치(100)에 의해 수행될 수 있다.The multi-processing-based defective image collection method for a high-speed and wide-area reflective film according to the present embodiment can be performed by a defective image collection device (100).
우선, 불량 이미지 수집 장치(100)의 멀티프로세싱 기반 On-memory Queuing 모듈에서 반사 필름과 연관되어 생성되는 이미지 데이터를 공유 메모리에 로드하는 Memory Sharing Process를 수행한다(1010). 단계(1010)는, 비전 카메라에 의해 반사 필름이 촬영되어 비전 데이터인 이미지 데이터가 생성되면, 멀티프로세싱 기반 On-memory Queuing 모듈에 의해, 생성된 상기 이미지 데이터를 공유 메모리에 보관하는 과정일 수 있다.First, a Memory Sharing Process is performed (1010) to load image data generated in connection with a reflective film into a shared memory in a multiprocessing-based On-memory Queuing module of a defective image collection device (100). Step (1010) may be a process of storing the generated image data in a shared memory by a multiprocessing-based On-memory Queuing module when a reflective film is photographed by a vision camera and image data, which is vision data, is generated.
멀티프로세싱 기반 On-memory Queuing 모듈은, 고속으로 생산되는 반사 필름에 대한 이미지 데이터들이 연속적으로 생성 됨에 따라, 상기 이미지 데이터들을 공유 데이터에 실시간으로 로드할 수 있다.The multiprocessing-based on-memory queuing module can load image data for high-speed reflective films into shared data in real time as the image data is continuously generated.
이미지 데이터를 생성하는 카메라는, 상기 반사 필름의 외관을 가로/세로의 픽셀 단위로 촬영하여, 각 픽셀에 대한 정밀한 이미지 데이터를 생성하는 Area 카메라일 수 있다.The camera generating image data may be an area camera that captures the exterior of the reflective film in horizontal/vertical pixel units and generates precise image data for each pixel.
이미지 데이터의 생성시, 카메라는, 비전 조명으로부터 일정 광량의 광이 조사되는 조건 하에서, 반사 필름을 촬영하여 상기 이미지 데이터를 생성할 수 있다.When generating image data, the camera can generate the image data by photographing a reflective film under conditions in which a certain amount of light is irradiated from a vision light.
또한, 불량 이미지 수집 장치(100)의 멀티프로세싱 기반 On-memory Queuing 모듈에서, 상기 이미지 데이터를 복사한 복제 이미지 데이터를 Queue에 로드하는 Queuing Process를 수행한다(1020). 단계(1020)는, 멀티프로세싱 기반 On-memory Queuing 모듈에 의해, 이미지 데이터의 생성에 연동하여, 생성되는 이미지 데이터를 실시간으로 복사하여 복제 이미지 데이터로 만들어 Queue에 순차적으로 로드하는 과정일 수 있다.In addition, in the multiprocessing-based On-memory Queuing module of the bad image collection device (100), a Queuing Process is performed (1020) to load duplicate image data copied from the image data into the Queue. Step (1020) may be a process of sequentially loading the generated image data into duplicate image data by copying the generated image data in real time in conjunction with the generation of the image data by the multiprocessing-based On-memory Queuing module into the Queue.
Queue로의 복제 이미지 데이터 로드에 있어, 멀티프로세싱 기반 On-memory Queuing 모듈은, 현재부터 이전 정해진 기간 까지 생성된 상기 이미지 데이터를 상기 복제 이미지 데이터로 복사하여 상기 Queue에 로드하되, 시간의 경과에 따라 선입선출 방식으로 가장 먼저 로드된 복제 이미지 데이터를 상기 Queue에서 제거할 수 있다.In loading duplicate image data into a queue, a multiprocessing-based on-memory queuing module copies the image data generated from the present to a previously set period of time into the duplicate image data and loads it into the queue, but can remove the duplicate image data loaded earliest from the queue in a first-in, first-out manner over time.
즉, 멀티프로세싱 기반 On-memory Queuing 모듈은, Queue의 저장 용량까지 복제 이미지 데이터를 누적하여 로드하고, 저장 용량을 초과 됨에 따라, 가장 앞서 로드된 복제 이미지 데이터를 제거하여, 새롭게 로드되는 복제 이미지 데이터에 대한 저장 공간을 확보할 수 있다.That is, the multiprocessing-based On-memory Queuing module accumulates and loads duplicate image data up to the storage capacity of the Queue, and when the storage capacity is exceeded, the earliest loaded duplicate image data is removed to secure storage space for newly loaded duplicate image data.
상기 공유 메모리에 로드된 이미지 데이터는, 추후 Blackbox 기반 데이터 수집용 Web GUI 모듈에 의해 획득되어 스트리밍 될 수 있다.Image data loaded into the above shared memory can be acquired and streamed later by a Web GUI module for Blackbox-based data collection.
상기 스트리밍에 있어, 멀티프로세싱 기반 On-memory Queuing 모듈은, 상기 반사 필름을 촬영하는 카메라가 Bayer 패턴을 이용하는 BayerRG8 촬영 모드로 설정 됨에 따라, BayerRG8 형식으로 생성 및 복제되는 상기 이미지 데이터 및 상기 복제 이미지 데이터를, 상기 스트리밍을 위한 RGB 형식으로 이미지 변환하는 Image Lazy Convert Process를 수행할 수 있다.In the above streaming, the multiprocessing-based On-memory Queuing module can perform an Image Lazy Convert Process for converting the image data and the duplicated image data generated and replicated in BayerRG8 format into an RGB format for the streaming, as the camera that photographs the reflective film is set to the BayerRG8 shooting mode that uses the Bayer pattern.
카메라가 반사 필름을 촬영하여 BayerRG8 형식의 이미지 데이터와 복제 이미지 데이터를 생성/복제 함에 따라, 멀티프로세싱 기반 On-memory Queuing 모듈은, Image Lazy Convert Process를 수행하여 BayerRG8 형식을, RGB 형식으로 이미지 변환하여, 상기 이미지 데이터/복제 이미지 데이터를 스트리밍에 적합한 형태가 되도록 할 수 있다.As the camera captures a reflective film and generates/duplicates image data and duplicate image data in BayerRG8 format, the multiprocessing-based On-memory Queuing module can perform an Image Lazy Convert Process to convert the image data/duplicate image data from BayerRG8 format to RGB format, thereby making the image data/duplicate image data into a format suitable for streaming.
실시예에 따라, 불량 이미지 수집 장치(100)는, 상기 공유 메모리로 상기 이미지 데이터의 로드와, 상기 공유 메모리에서 획득한 상기 이미지 데이터의 스트리밍이, 별개로 동시에 다중 처리(Multi-Processing) 할 수 있다.According to an embodiment, the bad image collection device (100) can multi-process the loading of the image data into the shared memory and the streaming of the image data acquired from the shared memory separately and simultaneously.
즉, 불량 이미지 수집 장치(100)는, 다중 처리를 통해, 생성되는 이미지 데이터를 공유 메모리에 로드하면서도, 독립적으로 공유 메모리에서 이미지 데이터를 획득하여 스트리밍 할 수 있다.That is, the bad image collection device (100) can independently acquire image data from the shared memory and stream it while loading the generated image data into the shared memory through multi-processing.
상기 공유 메모리로 상기 이미지 데이터의 로드와, 상기 공유 메모리에서 획득한 상기 이미지 데이터의 스트리밍이, 별개로 동시에 다중 처리(Multi-Processing) 됨에 따라, 멀티프로세싱 기반 On-memory Queuing 모듈은, 상기 이미지 데이터가 스트리밍하는 것을 대기하지 않고, 상기 공유 메모리로 상기 이미지 데이터를 로드한 직후, 카메라에 의해 상기 반사 필름을 촬영하여 새로운 이미지 데이터가 생성되도록 할 수 있다.Since the loading of the image data into the shared memory and the streaming of the image data acquired from the shared memory are multi-processed separately and simultaneously, the multi-processing-based on-memory queuing module can cause the camera to photograph the reflective film to generate new image data immediately after loading the image data into the shared memory without waiting for the image data to stream.
계속해서, 불량 이미지 수집 장치(100)의 Blackbox 기반 데이터 수집용 Web GUI 모듈에서, 상기 공유 메모리에서 획득한 이미지 데이터를 스트리밍하고, 상기 이미지 데이터와 상기 Queue에서 획득한 복제 이미지 데이터 중 불량으로 판단되는 불량 이미지 데이터를 저장하는 Streaming & Saving Process를 수행한다(1030). 단계(1030)은, Blackbox 기반 데이터 수집용 Web GUI 모듈에 의해, 획득한 이미지 데이터/복제 이미지 데이터에 대해 불량 여부를 판단하고, 불량으로 판단되는 불량 이미지 데이터를 식별하여 저장하는 과정일 수 있다.Continuing, in the Web GUI module for Blackbox-based data collection of the defective image collection device (100), the image data acquired from the shared memory is streamed, and the Streaming & Saving Process for storing defective image data determined to be defective among the image data and duplicate image data acquired from the Queue is performed (1030). Step (1030) may be a process for determining whether the acquired image data/duplicate image data is defective, and identifying and storing the defective image data determined to be defective by the Web GUI module for Blackbox-based data collection.
또한, 불량 이미지 수집 장치(100)의 Blackbox 기반 데이터 수집용 Web GUI 모듈에서, 상기 불량 이미지 데이터에 대해 불량을 확인하는 Defect Streaming Process를 수행한다(1040). 단계(1040)는, Blackbox 기반 데이터 수집용 Web GUI 모듈에 의해, 불량 이미지 데이터로 식별되어 저장되는 불량 이미지 데이터에 대해, 작업자 관점에서 불량을 재차 확인할 수 있게 하는 과정일 수 있다.In addition, in the Web GUI module for collecting data based on the Blackbox of the defective image collection device (100), a Defect Streaming Process is performed (1040) to confirm defects in the defective image data. Step (1040) may be a process for re-confirming defects from an operator's perspective in the defective image data identified and stored as defective image data by the Web GUI module for collecting data based on the Blackbox.
또한, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 상기 불량 이미지 데이터가 저장되는 빈도와 관련된 데이터 수집 현황과, 로컬 저장소에 남은 용량과 관련된 로컬 스토리지 용량 확인을 위한 Other Process를 더 수행할 수 있다.In addition, the Web GUI module for Blackbox-based data collection can further perform Other Processes for checking the data collection status related to the frequency at which the above-mentioned bad image data is stored and the local storage capacity related to the remaining capacity in the local storage.
즉, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 이미지 데이터/복제 이미지 데이터가 불량으로 판단되는 빈도를 측정하여 데이터 수집 현황을 작업자에게 제공하고, 또한 불량 이미지 데이터가 저장되는 로컬 저장소에 남아있는 잔여 용량에 관한 로컬 스토리지 용량을 작업자에게 제공하여 확인하도록 할 수 있다.That is, the Web GUI module for Blackbox-based data collection can measure the frequency with which image data/duplicate image data is judged to be defective and provide the worker with the status of data collection, and can also provide the worker with local storage capacity regarding the remaining capacity in the local storage where the defective image data is stored so that the worker can check it.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 공유 메모리에 로드된 이미지 데이터를 획득하여, 작업자에게 스트리밍 할 수 있다.The Web GUI module for Blackbox-based data collection can acquire image data loaded into shared memory and stream it to the operator.
이미지 데이터의 스트리밍에 있어, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 상기 스트리밍 한 t-1의 이미지 데이터와, 상기 Queue에서 획득한 t(상기 t는 생성 시점)의 복제 이미지 데이터를 메인 메모리에 보관할 수 있다.In streaming of image data, the Blackbox-based data collection Web GUI module can store the streamed image data of t-1 and the duplicate image data of t (where t is the creation time) acquired from the Queue in the main memory.
즉, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 생성 시점이 다른, 이미지 데이터/복제 이미지 데이터를 메인 메모리에 보관할 수 있다.That is, the Web GUI module for Blackbox-based data collection can store image data/duplicate image data with different creation times in the main memory.
이후, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 상기 생성 시점이 달라 생명 주기가 분리된 데이터들을 대상으로, 불량 여부를 판단할 수 있다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈은, t-1의 이미지 데이터와, t의 복제 이미지 데이터를 대상으로 불량 여부를 판단할 수 있다.Afterwards, the Web GUI module for Blackbox-based data collection can determine whether data having different creation times and separated life cycles are defective. That is, the Web GUI module for Blackbox-based data collection can determine whether image data of t-1 and duplicate image data of t are defective.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 불량으로 판단되는 상기 불량 이미지 데이터를 로컬 저장소에 저장하고, 불량으로 판단되지 않는 나머지 데이터를 상기 메인 메모리에서 제거할 수 있다.The Web GUI module for Blackbox-based data collection can store the defective image data judged as defective in a local storage and remove the remaining data not judged as defective from the main memory.
즉, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 불량으로 판단된 데이터를 로컬 저장소에 보관하고, 정상으로 판단되는 데이터를 제거하여 메인 메모리에 대한 여유 공간을 확보할 수 있다.That is, the Web GUI module for Blackbox-based data collection can secure free space for main memory by storing data judged as defective in local storage and removing data judged as normal.
또한, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 스트리밍되는 상기 이미지 데이터에 대해, 작업자에 의해 불량으로 관찰되면, 관찰 시점에서 상기 이미지 데이터의 스트리밍을 일시 정지할 수 있다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 스트리밍 도중에 작업자가 이미지 데이터에서 불량을 발견하고 정해진 이벤트를 발생시킴에 따라, 스트리밍을 멈춰 불량이 발견된 이미지 데이터가 구분되도록 할 수 있다.In addition, the Web GUI module for Blackbox-based data collection can pause streaming of the image data at the observation point if the image data being streamed is observed as defective by the operator. That is, the Web GUI module for Blackbox-based data collection can stop streaming when the operator discovers a defect in the image data during streaming and generates a set event, so that the image data in which a defect is discovered can be distinguished.
이후, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 일시 정지된 상기 이미지 데이터에 대해 불량 여부를 판단할 수 있다.Afterwards, the Web GUI module for Blackbox-based data collection can determine whether the paused image data is defective.
Blackbox 기반 데이터 수집용 Web GUI 모듈은, 불량으로 판단되면, 불량 유형 및 불량 위치를 포함하여 작성되는 불량 정보 요약과 함께, 일시 정지된 상기 이미지 데이터를 불량 이미지 데이터로 저장할 수 있다. 즉, Blackbox 기반 데이터 수집용 Web GUI 모듈은, 판단 결과, 불량이 확인되면, 확인된 불량의 불량 유형과 불량 위치를 기재한 불량 정보 요약을 작성하고, 해당 이미지 데이터를 불량 이미지 데이터로 식별하여 상기 불량 정보 요약과 함께, 로컬 저장소에 저장할 수 있다.The Web GUI module for Blackbox-based data collection can store the paused image data as defective image data together with a defective information summary including the defective type and defective location if it is determined to be defective. That is, the Web GUI module for Blackbox-based data collection can, if a defective is confirmed as a result of the judgment, create a defective information summary describing the defective type and defective location of the confirmed defective data, identify the corresponding image data as defective image data, and store the image data in local storage together with the defective information summary.
본 발명의 일실시예에 따르면, 반사 필름의 생산 프로세스를 고려하여 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 데이터 수집 프로세스를 개선하는, 고속 및 광역 반사 필름에 대한 멀티 프로세싱 기반의 불량 이미지 수집 장치 및 방법을 제공 할 수 있다.According to one embodiment of the present invention, by proposing a method for collecting image data by considering the production process of a reflective film, a multi-processing-based defective image collection device and method for a high-speed and wide-area reflective film can be provided, which improves the existing data collection process.
또한, 본 발명의 일실시예에 따르면, 고해상도, 고속의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 기존의 수집 가능한 데이터의 범위를 확장 할 수 있다.In addition, according to one embodiment of the present invention, by proposing a method for collecting high-resolution, high-speed image data for artificial intelligence learning, the range of existing collectable data can be expanded.
또한, 본 발명의 일실시예에 따르면, 고용량의 인공지능 학습용 이미지 데이터를 수집하는 방안을 제시 함으로써, 데이터 수집의 효율을 개선 할 수 있다.In addition, according to one embodiment of the present invention, by proposing a method for collecting a large amount of image data for artificial intelligence learning, the efficiency of data collection can be improved.
또한, 본 발명의 일실시예에 따르면, 블랙박스 기반 데이터 수집으로의 전환을 통해, 작업자가 데이터를 수집하는 피로도를 완화 할 수 있다.In addition, according to one embodiment of the present invention, by switching to black box-based data collection, worker fatigue in collecting data can be alleviated.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to the embodiment may be implemented in the form of program commands that can be executed through various computer means and recorded on a computer-readable medium. The computer-readable medium may include program commands, data files, data structures, etc., alone or in combination. The program commands recorded on the medium may be those specially designed and configured for the embodiment or may be those known to and available to those skilled in the art of computer software. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, and hardware devices specially configured to store and execute program commands such as ROMs, RAMs, flash memories, etc. Examples of the program commands include not only machine language codes generated by a compiler but also high-level language codes that can be executed by a computer using an interpreter, etc. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiment, and vice versa.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of these, which may configure a processing device to perform a desired operation or may independently or collectively command the processing device. The software and/or data may be permanently or temporarily embodied in any type of machine, component, physical device, virtual equipment, computer storage medium or device, or transmitted signal waves, for interpretation by the processing device or for providing instructions or data to the processing device. The software may also be distributed over network-connected computer systems, and stored or executed in a distributed manner. The software and data may be stored on one or more computer-readable recording media.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.Although the embodiments have been described with limited drawings as described above, those skilled in the art can apply various technical modifications and variations based on the above. For example, even if the described techniques are performed in a different order than the described method, and/or the components of the described system, structure, device, circuit, etc. are combined or combined in a different form than the described method, or are replaced or substituted by other components or equivalents, appropriate results can be achieved.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also included in the scope of the claims described below.
Claims (15)
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230141423A KR102896661B1 (en) | 2023-10-20 | Multi-processing based image data collecting device and method for fast and wide reflective film | |
| KR10-2023-0141423 | 2023-10-20 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2025084668A1 true WO2025084668A1 (en) | 2025-04-24 |
Family
ID=95448019
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/KR2024/014866 Pending WO2025084668A1 (en) | 2023-10-20 | 2024-09-30 | Apparatus and method for collecting defect image on basis of multi-processing for high-speed and wide-area reflective film |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2025084668A1 (en) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR19990063507A (en) * | 1997-12-25 | 1999-07-26 | 가네꼬 히사시 | Image defect detection device and method |
| KR20090081962A (en) * | 2008-01-25 | 2009-07-29 | 삼성전자주식회사 | Image information test unit and imaging device having same, image information test method using same |
| KR101920369B1 (en) * | 2018-04-25 | 2018-11-20 | 주식회사 인트모션 | Apparatus and method for image processing of thermal imaging camera |
| CN114199883A (en) * | 2021-12-06 | 2022-03-18 | 广州市斯睿特智能科技有限公司 | 3D gluing detection method and device and application thereof |
| KR20230004862A (en) * | 2020-05-06 | 2023-01-06 | 케이엘에이 코포레이션 | Multi-controller inspection system |
-
2024
- 2024-09-30 WO PCT/KR2024/014866 patent/WO2025084668A1/en active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR19990063507A (en) * | 1997-12-25 | 1999-07-26 | 가네꼬 히사시 | Image defect detection device and method |
| KR20090081962A (en) * | 2008-01-25 | 2009-07-29 | 삼성전자주식회사 | Image information test unit and imaging device having same, image information test method using same |
| KR101920369B1 (en) * | 2018-04-25 | 2018-11-20 | 주식회사 인트모션 | Apparatus and method for image processing of thermal imaging camera |
| KR20230004862A (en) * | 2020-05-06 | 2023-01-06 | 케이엘에이 코포레이션 | Multi-controller inspection system |
| CN114199883A (en) * | 2021-12-06 | 2022-03-18 | 广州市斯睿特智能科技有限公司 | 3D gluing detection method and device and application thereof |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20250057510A (en) | 2025-04-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2022220633A1 (en) | Method and apparatus for timed and event triggered updates in scene | |
| WO2020204503A1 (en) | Electronic device valuation system | |
| WO2015141925A1 (en) | Photographing apparatus, method of controlling the same, and computer-readable recording medium | |
| WO2016209020A1 (en) | Image processing apparatus and image processing method | |
| WO2017164640A1 (en) | System and method for editing video contents automatically technical field | |
| WO2014014238A1 (en) | System and method for providing image | |
| WO2016013902A1 (en) | Image photographing apparatus and image photographing method | |
| WO2020054949A1 (en) | Electronic device and method for capturing view | |
| WO2020209624A1 (en) | Head mounted display device and operating method thereof | |
| WO2022005060A1 (en) | Device and method for filtering out harmful video file | |
| WO2016095073A1 (en) | Video processing method and device, and imaging system | |
| WO2021125903A1 (en) | Wearable device including eye tracking apparatus and operation method of the wearable device | |
| WO2017014404A1 (en) | Digital photographing apparatus and digital photographing method | |
| WO2025084668A1 (en) | Apparatus and method for collecting defect image on basis of multi-processing for high-speed and wide-area reflective film | |
| WO2022025435A1 (en) | Projector and control method therefor | |
| WO2021060636A1 (en) | Motion detection device and method | |
| WO2019093674A1 (en) | Display device, reproduction determination device, and content reproduction checking method | |
| WO2016072538A1 (en) | Method for operating camera device through user interface | |
| WO2010076952A2 (en) | Test automation system for judging image distortion in digital image device | |
| WO2025084665A1 (en) | Artificial intelligence-based defect detection vision system and method for high-speed and wide-area reflective film | |
| WO2020080701A1 (en) | Electronic apparatus and control method thereof | |
| WO2024063280A1 (en) | Projection device and method for recognizing object with image projection | |
| WO2024181804A1 (en) | Ship safety control method and system | |
| WO2025146920A1 (en) | Electronic apparatus and control method thereof | |
| WO2024158132A1 (en) | Electronic device for controlling camera exposure, and method therefor |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 24880007 Country of ref document: EP Kind code of ref document: A1 |