WO2020085327A1 - Diagnosing device and diagnosing method - Google Patents
Diagnosing device and diagnosing method Download PDFInfo
- Publication number
- WO2020085327A1 WO2020085327A1 PCT/JP2019/041376 JP2019041376W WO2020085327A1 WO 2020085327 A1 WO2020085327 A1 WO 2020085327A1 JP 2019041376 W JP2019041376 W JP 2019041376W WO 2020085327 A1 WO2020085327 A1 WO 2020085327A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- diagnostic
- feature
- unit
- score
- sensor data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N17/00—Investigating resistance of materials to the weather, to corrosion, or to light
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
- G01N21/952—Inspecting the exterior surface of cylindrical bodies or wires
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
Definitions
- the appearance of the steel material is photographed, and the deterioration degree of the steel material is determined based on the hue and saturation of the surface of the steel material displayed in the captured image.
- a method for evaluation is known (for example, the deterioration diagnosis method described in Patent Document 1). In such an evaluation method, since the evaluation result can be displayed on the display unit or the like for each color, the user can recognize the deterioration at a glance.
- a diagnostic device and a diagnostic method capable of diagnosing a state of an inspection target without performing complicated work and disclosing the state of the inspection target to a user.
- the score calculation unit 30 calculates the diagnostic score of the diagnostic image data based on the features input from the feature extraction unit 20.
- the “diagnostic score” is a score indicating the state of the pipe calculated based on certain diagnostic image data.
- the “diagnostic score” is a comprehensive diagnostic standard of diagnostic image data calculated based on a score (diagnostic partial score) indicating a diagnostic standard for each feature such as surface unevenness and discoloration of the protective material surface. It is the indicated score (total score). The total score is obtained by weighting and adding each diagnostic partial score.
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Health & Medical Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Engineering & Computer Science (AREA)
- Ecology (AREA)
- Biodiversity & Conservation Biology (AREA)
- Environmental Sciences (AREA)
- Environmental & Geological Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Testing Resistance To Weather, Investigating Materials By Mechanical Methods (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
Description
本開示は、診断装置及び診断方法に関する。 The present disclosure relates to a diagnostic device and a diagnostic method.
従来、例えば腐食等の劣化が生じる鋼材の劣化度を評価する方法として、鋼材の外観を撮影し、撮影した画像に表示される鋼材の表面の色相や彩度に基づいて、鋼材の劣化度を評価する方法が知られている(例えば、特許文献1に記載の劣化診断方法)。このような評価方法では、表示部等に評価結果を色別に表示することができるため、ユーザは一見して劣化を認識することができる。 Conventionally, for example, as a method of evaluating the degree of deterioration of a steel material that causes deterioration such as corrosion, the appearance of the steel material is photographed, and the deterioration degree of the steel material is determined based on the hue and saturation of the surface of the steel material displayed in the captured image. A method for evaluation is known (for example, the deterioration diagnosis method described in Patent Document 1). In such an evaluation method, since the evaluation result can be displayed on the display unit or the like for each color, the user can recognize the deterioration at a glance.
しかしながら、上述の評価方法は、評価対象の外表面の劣化を診断して表示する方法であり、鋼材の表面が保護材で覆われている場合等、撮影した画像に劣化が生じる部分が写らない場合には、上述の評価方法を用いることができない。また、鋼材の劣化度を評価するために保護材を除去して上述の評価を行うことは、鋼材がプラント内の配管や送電設備等の大規模な設備である場合には現実的ではない。このため、鋼材の表面が保護材で覆われていても、保護材を除去することなく(すなわち保護材の外観から)、配管の状態を診断する手法が望まれている。 However, the above-described evaluation method is a method of diagnosing and displaying deterioration of the outer surface of the evaluation target, and when the surface of the steel material is covered with a protective material, the captured image does not show a part that causes deterioration. In that case, the evaluation method described above cannot be used. Further, it is not realistic to remove the protective material and perform the above-described evaluation in order to evaluate the degree of deterioration of the steel material when the steel material is a large-scale facility such as a pipe or a power transmission facility in the plant. Therefore, there is a demand for a method of diagnosing the condition of the pipe without removing the protective material (that is, from the appearance of the protective material) even if the surface of the steel material is covered with the protective material.
そこで、保護材に覆われた配管の劣化状態を保護材を除去することなく判断するために、保護材の外観等の画像データを画像処理することにより配管の劣化の推論を行うことが考えられる。しかしながら、保護材に覆われた配管の外観画像は、配管が直接表示されていない画像であるため、当該画像に基づく配管の劣化状態の診断結果は、劣化状態の推論結果となる。このため、保護材に覆われた配管の劣化状態の診断結果のみを提示した場合、ユーザには当該診断結果に至った根拠が分からず、診断結果に対するユーザの納得感が低くなってしまうという課題があった。 Therefore, in order to judge the deterioration state of the pipe covered with the protective material without removing the protective material, it is conceivable to infer the deterioration of the pipe by image-processing the image data such as the appearance of the protective material. . However, since the appearance image of the pipe covered with the protective material is an image in which the pipe is not directly displayed, the diagnosis result of the deterioration state of the pipe based on the image is an inference result of the deterioration state. Therefore, when only the diagnosis result of the deterioration state of the pipe covered with the protective material is presented, the user does not know the reason for reaching the diagnosis result, and the user's satisfaction with the diagnosis result becomes low. was there.
本開示は、このような問題に鑑みてなされたもので、その目的とするところは、診断対象の診断結果を、ユーザの納得感が得られるように提示することができる診断装置及び診断方法を得ることにある。 The present disclosure has been made in view of such a problem, and an object thereof is to provide a diagnostic device and a diagnostic method that can present a diagnostic result of a diagnostic target so that the user can be satisfied. To get.
上記課題を解決するために、本開示の一態様に係る診断装置は、検査対象の状態を診断する診断装置であって、検査対象を外部から測定して得られた診断用センサデータが入力され、診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する特徴抽出部と、特徴抽出部から入力された特徴に基づいて、診断用センサデータが有する特徴に関連付けられた診断用部分スコアを算出し、診断用部分スコアに基づいて診断用センサデータの診断用スコアを算出するスコア算出部と、スコア算出部から入力された診断用スコアに基づいて、検査対象の状態を診断して診断結果を出力する診断部と、前記診断結果と前記診断用部分スコアとを表示する表示部と、を備えることを特徴とする。 In order to solve the above problems, a diagnostic device according to an aspect of the present disclosure is a diagnostic device for diagnosing a state of an inspection target, and diagnostic sensor data obtained by externally measuring the inspection target is input. A feature extraction unit that extracts at least one predetermined feature from the diagnostic sensor data, and a diagnostic partial score associated with the feature of the diagnostic sensor data based on the feature input from the feature extraction unit. And a score calculation unit that calculates the diagnostic score of the diagnostic sensor data based on the diagnostic partial score, and based on the diagnostic score input from the score calculation unit, diagnoses and diagnoses the state of the inspection target. It is characterized by comprising a diagnostic unit for outputting a result and a display unit for displaying the diagnostic result and the diagnostic partial score.
また、本開示の他の態様に係る診断方法は、検査対象の状態を診断する診断方法であって、検査対象を外部から測定して診断用センサデータを得る工程と、診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する工程と、抽出された特徴に基づいて、診断用センサデータが有する特徴に関連づけられた診断用部分スコアを算出する工程と、診断用部分スコアに基づいて、診断用センサデータの診断用スコアを算出する工程と、診断用スコアに基づいて、検査対象の状態を診断した診断結果を得る工程と、診断用スコアと診断結果とを表示部に表示する工程と、を備えることを特徴とする。 Further, a diagnostic method according to another aspect of the present disclosure is a diagnostic method for diagnosing a state of an inspection target, the step of obtaining the sensor data for diagnosis by externally measuring the inspection target, and from the sensor data for diagnosis, A step of extracting at least one predetermined characteristic; a step of calculating a diagnostic partial score associated with the characteristic of the diagnostic sensor data based on the extracted characteristic; A step of calculating a diagnostic score of the diagnostic sensor data, a step of obtaining a diagnostic result of diagnosing a state of an inspection target based on the diagnostic score, and a step of displaying the diagnostic score and the diagnostic result on a display unit And are provided.
本開示の一態様によれば、煩雑な作業を行うことなく検査対象の状態を診断し、かつ検査対象の状態をユーザに開示することが可能な診断装置及び診断方法を得ることができる。 According to one aspect of the present disclosure, it is possible to obtain a diagnostic device and a diagnostic method capable of diagnosing a state of an inspection target without performing complicated work and disclosing the state of the inspection target to a user.
以下、実施形態を通じて本開示を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。 Hereinafter, the present disclosure will be described through embodiments, but the following embodiments do not limit the invention according to the claims. In addition, not all of the combinations of features described in the embodiments are essential to the solving means of the invention.
1.第一実施形態
以下、本実施形態に係る診断装置について、図1から図9を参照して説明する。本実施形態に係る診断装置は、入力されたセンサデータから特徴を抽出し、抽出した特徴に基づいてセンサデータについての推論結果を出力する機能を有する。本実施形態に係る診断装置は、一例として、検査対象を外部から撮影して得られた外観画像の画像データに基づいて、検査対象の状態等を診断する診断装置であり、特に外表面に露出していない検査対象の内部状態等を診断する診断装置である。本実施形態に係る診断装置100は、具体的には、配管の表面に保護材が巻かれることにより配管が外表面に露出していない場合であっても、内部の配管の状態の診断を行うことができる診断装置である。
なお、本実施形態に係る診断装置は画像データ以外に加速度、角速度、音波、磁気、気圧又は圧力などのデータを用いてもよい。
1. First Embodiment Hereinafter, a diagnostic device according to this embodiment will be described with reference to FIGS. 1 to 9. The diagnostic device according to the present embodiment has a function of extracting a feature from the input sensor data and outputting an inference result for the sensor data based on the extracted feature. The diagnostic device according to the present embodiment is, for example, a diagnostic device that diagnoses the state of the inspection target based on image data of an external image obtained by photographing the inspection target from the outside, and is particularly exposed on the outer surface. It is a diagnostic device for diagnosing the internal state of an inspection target that has not been tested. Specifically, the
Note that the diagnostic device according to the present embodiment may use data such as acceleration, angular velocity, sound waves, magnetism, atmospheric pressure or pressure other than image data.
[診断装置の構造]
図1に示すように、診断装置100は、カメラ200で撮影された、保護材で被覆された配管(以下、保護材付き配管という)とその周辺の外観画像の画像データに基づいて推論した配管の状態を推論結果として表示部10に表示する機能を有する。以下、保護材付き配管とその周辺の外観画像を「診断用画像」といい、その画像データを「診断用画像データ」という。診断装置100は、診断用画像データから抽出した保護材表面や配管を載置する架台表面の劣化状態を診断し、配管の劣化状態の推論結果として、配管の腐食レベル又は配管の検査要否もしくは検査必要度を表示部10に表示する。
[Structure of diagnostic device]
As shown in FIG. 1, the
また、診断装置100は、カメラ200で撮影された保護材付き配管の劣化に関連する保護材付き配管の外観又はその周辺部に生じた変質部分の画像の画像データを用いて、劣化部分を機械学習する機能を有する。以下、保護材付き配管の外観又はその周辺部に生じた変質部分の画像を学習用画像といい、その画像データを学習用画像データという。
さらに、診断装置100は、配管状態の判断基準を設定する機能を有する。診断基準は、カメラ200で撮影された、劣化の程度が予め明らかになっている保護材付き配管及びその周辺の外観画像の画像データと、外観画像で撮影した配管の劣化の程度(例えば配管の厚み減少量)とを用いて設定される。以下、劣化の程度が予め明らかになっている保護材付き配管とその周辺の外観画像を設定用画像といい、その画像データを設定用画像データという。
以下、カメラ200及び診断装置100について説明する。
In addition, the
Further, the
The camera 200 and the
(カメラ)
カメラ200は、公知の撮像装置であり、検査対象である保護材付配管及びその周辺を撮影することで、画像データ(学習用画像データ、設定用画像データ又は診断用画像データ)を生成する。カメラ200は、カメラ200及び診断装置100に着脱可能な外部メモリ、カメラ200が接続された有線ネットワーク又は無線ネットワーク等を介して、画像データを診断装置100に出力する。なお、画像は、静止画または動画のいずれであってもよく、動画の場合には静止画を切り出すことにより検査対象内部の状態の診断が行われる。
(camera)
The camera 200 is a known imaging device, and generates image data (learning image data, setting image data, or diagnostic image data) by photographing the protective material-attached pipe to be inspected and its periphery. The camera 200 outputs image data to the
(学習用画像データ)
カメラ200で撮影される学習用画像データは、配管の劣化によって保護材の表面又はその周辺部に生じたと推定される変質部分の画像の画像データである。保護材付き配管は、プラント内において架台上に配置されている場合が多い。このため、保護材付き配管の劣化に関連する変質は、例えば保護材の表面や、保護材付き配管の下に配置された架台の表面に現れる。学習用画像データは、保護材付き配管や架台に現れた、配管劣化の判断に有効な要素を含む変質部分を撮影して生成される。有効な要素としては、例えば、保護材表面や架台の塗装の色(変色)、保護材の剥がれ、保護材表面の変形、架台に付着した錆等が挙げられる。
(Learning image data)
The learning image data captured by the camera 200 is image data of an image of a deteriorated portion which is estimated to be generated on the surface of the protective material or its peripheral portion due to deterioration of the pipe. In many cases, the pipe with the protective material is arranged on a pedestal in the plant. Therefore, the deterioration associated with the deterioration of the pipe with the protective material appears on, for example, the surface of the protective material or the surface of the pedestal arranged below the pipe with the protective material. The image data for learning is generated by capturing an image of a deteriorated portion that appears in a pipe with a protective material or a pedestal and that includes an element effective for determining the deterioration of the pipe. Examples of effective elements include the paint color (discoloration) of the surface of the protective material and the pedestal, peeling of the protective material, deformation of the surface of the protective material, and rust adhered to the pedestal.
カメラ200で撮影される設定用画像データは、劣化の程度が予め明らかになっている保護材付き配管及びその周辺の外観画像の画像データである。設定用画像データは、例えば以前撮影された保護材付き配管及びその周辺の外観を含む画像データである。設定用画像データは、設定用画像データに対応する配管を実際に測定することにより、予め配管の厚みに関するデータ(例えば配管の厚み減少量)等の内部状態の指標となるデータが明らかになっている。 The setting image data captured by the camera 200 is the image data of the appearance image of the pipe with the protective material and its surroundings, the degree of deterioration of which is known in advance. The setting image data is image data that includes, for example, the appearance of the pipe with the protective material and its surroundings that was previously captured. For the setting image data, by actually measuring the pipes corresponding to the setting image data, data such as data relating to the thickness of the pipes (for example, the amount of decrease in the thickness of the pipes), which is an index of the internal state, becomes clear. There is.
カメラ200で撮影される診断用画像データ202は、保護材付き配管の外観のみでなく、保護材付き配管の周辺の架台等を含む領域を撮影した画像のデータである。検査対象内部の配管の劣化によって外観に変化が生じ得る領域を撮影して診断用画像データ202
を生成することで、検査対象内部の状態をより適切に診断することができる。
The
By generating, it is possible to more appropriately diagnose the internal state of the inspection target.
(診断装置)
診断装置100は、特徴抽出部20と、スコア算出部30と、診断部40と、画像合成部50と、表示部10とを備えている。以下、診断装置100の各部について説明する。
(Diagnostic device)
The
(特徴抽出部)
特徴抽出部20は、データ解析部22、特徴推論部24及び特徴学習部26を有している。
特徴抽出部20は、学習用画像データ、設定用画像データ及び診断用画像データ202が入力され、これら画像データから、予め定められた少なくとも1つの特徴を抽出する。
(Feature extraction unit)
The
The
データ解析部22は、学習用画像データ、設定用画像データ及び診断用画像データ202の解析を行う。データ解析部22は、これら画像データからスコア算出に用いる要素を算出して出力する。データ解析部22は、解析の結果を、特徴推論部24に特徴量として出力する。また、データ解析部22は、解析の結果を、スコア算出部30に特徴として出力する。これにより、特徴抽出部20では、画像データに基づいて、配管の劣化に関連して保護材付き配管の外観又はその周辺の架台等に生じる変質に関する情報を特徴として抽出することができる。
The
特徴推論部24は、特徴学習部26において予め学習用画像データを用いた機械学習により得られた学習済モデル242を有している。特徴抽出部20は、入力された画像データや、画像データの特徴に対する学習済モデルの推論結果を、診断用画像データの特徴として抽出する。
The
(データ解析部)
データ解析部22は、入力された画像データ(学習用画像データ、設定用画像データ及び診断用画像データ)を解析する。データ解析部22は、画像データに対応する画像(学習用画像、設定用画像及び診断用画像)における色、線、および形状、ならびにこれらの組合せに基づいて、画像に現れる変質の指標を特徴として算出する。
保護材表面や架台の塗装の色(変色)、保護材の剥がれ、保護材表面の変形等の変質部分を示す指標としては、例えば画像に写る保護材表面や架台の塗装の変色の面積、保護材の剥がれの大きさ、保護材表面の変形の個数や面積等が挙げられる。
(Data analysis section)
The
As an indicator of the deteriorated part such as the color of the paint on the surface of the protective material (discoloration), the peeling of the protective material, and the deformation of the surface of the protective material, for example, the area of the discolored surface of the protective material or the frame of the protective material shown in the image Examples include the amount of peeling of the material, the number and area of deformation of the protective material surface.
データ解析部22において、入力された画像データから特徴量として当該画像データの特徴点を抽出してもよい。特徴点を抽出するアルゴリズムの一つとして、例えばORB(Oriented FAST and Rotated BRIEF)、SIFT(Scale-invariant feature transform)、SURF(Speed-Upped Robust Feature)、Harrisコーナ、KAZE等を用いる。このようなアルゴリズムは、特徴点抽出プログラムとして特徴抽出部20内の図示しない記憶部に記憶されており、特徴量等の抽出処理時には、例えば図示しないRAM(Random Access Memory)に展開される。
データ解析部22は、特徴点の抽出処理を行う際に、例えば入力された画像データを所定サイズに拡大、縮小するサイズ変更処理や、入力された画像データのノイズを軽減するための平滑化処理等の前処理を行っても良い。
In the
When performing the feature point extraction process, the
データ解析部22は、画像データの解析結果を、特徴推論部24又はスコア算出部30に出力する。データ解析部22は、例えば、画像データからエッジ検出を行い、エッジに囲まれた領域として検出された保護材表面の変質部分の有無(例えば、塗装の劣化や変色・錆の有無)やその領域の面積等を特徴としてスコア算出部30に出力する。また、データ解析部22は、画像解析によって抽出した1又は複数の特徴量に基づいて推論される特徴(例えば、保護材の表面の変形や剥がれの有無等)を得るために、画像解析の結果を特徴量として特徴推論部24にも出力する。
また、データ解析部22は、抽出した特徴を、画像合成部50に出力する。
The
The
(特徴推論部)
特徴推論部24は、データ解析部22から入力された特徴量に対する推論結果を、診断用画像データ202の特徴として抽出する学習済モデル242を有している。また、学習済モデル242への入力として、データ解析部22の解析結果の代わりに、診断用画像データ202を入力してもよい。特徴推論部24は、学習済モデル242の推論結果を特徴としてスコア算出部30に出力する。特徴推論部24は、抽出した特徴を、画像合成部50にも出力する。
(Feature inference section)
The
(特徴学習部)
特徴学習部26は、学習済モデル242を生成する。特徴学習部26は、入力された学習用画像データ、初期モデル及び学習用パラメータに基づいて、機械学習により学習済モデル242を生成する。機械学習の手法については後述する。
(Feature learning section)
The
(スコア算出部)
スコア算出部30は、特徴抽出部20から入力された特徴に基づいて、診断用画像データの診断用スコアを算出する。「診断用スコア」とは、ある診断用画像データに基づいて算出された配管の状態を示すスコアである。「診断用スコア」は、保護材表面の表面凹凸や変色等の特徴毎に診断基準を示したスコア(診断用部分スコア)に基づいて算出された、診断用画像データの総合的な診断基準を示したスコア(トータルスコア)である。トータルスコアは、各診断用部分スコアを重み付けして加算することにより得られる。
(Score calculator)
The
なお、スコア算出部30は、特徴抽出部20から入力された特徴に加えて、配管の周囲環境に関連するデータ、配管内容物に関連するデータ等に基づいて診断用スコアを算出してもよい。配管の周囲環境に関するデータとしては、診断対象となる配管が設置されている場所、当該場所の天候、気温、気圧、湿度等を用いることができる。配管内容物に関連するデータとしては、内容物の種類、温度、圧力、流速等を用いることができる。
The
診断用部分スコアは、特徴抽出部20から入力された特徴と、各特徴に対して予め設定された特徴別スコア(係数)に基づいて算出される。また、スコア算出部30は、複数の診断用画像データのそれぞれについて、複数の診断用部分スコアを算出してもよい。
The diagnostic partial score is calculated based on the features input from the
なお、「診断用部分スコア」及び「診断用スコア」は、特徴を入力した場合の学習済モデル(不図示)の推論結果から得てもよい。当該学習済モデルの学習用データとしては、上述の特徴と、配管の劣化の有無又は劣化の程度を示すデータとを含むデータが用いられる。
また、特徴を入力した場合の学習済モデルの推論結果として、「診断用スコア」の代わりに配管の劣化の程度を直接得ても良い。診断用スコアについては、後に詳細に説明する。
The "diagnosis partial score" and the "diagnosis score" may be obtained from the inference result of the learned model (not shown) when the feature is input. As the learning data of the learned model, data including the above-mentioned characteristics and data indicating the presence or absence of deterioration of the pipe or the degree of deterioration is used.
Further, as the inference result of the learned model when the feature is input, the degree of deterioration of the pipe may be directly obtained instead of the “diagnostic score”. The diagnostic score will be described in detail later.
トータルスコアは、例えば、配管の状態を診断するための診断基準として用いられる。この場合、診断用部分スコアは、トータルスコアの算出のために用いられるとともに、診断の根拠として、検査員等のユーザに示されるスコアとなる。
スコア算出部30は、診断用部分スコア及びトータルスコアを表示部10及び診断部40に出力する。
The total score is used, for example, as a diagnostic criterion for diagnosing the condition of the pipe. In this case, the diagnostic partial score is used for calculating the total score and is a score shown to a user such as an inspector as a basis for the diagnosis.
The
(診断部)
診断部40は、スコア算出部30から入力された診断用スコアに基づいて、保護材付き配管の内部状態を診断して診断結果を出力する。診断部40は、例えば、上述したトータルスコアに基づいて保護材付き配管の内部状態を診断する。診断部40は、予め決定されたトータルスコアと、少なくとも一つの閾値とを比較することにより、各診断用画像データの診断ランクを決定する。診断部40は、決定された診断ランクを表示部10に出力する。
(Diagnostic department)
The
また、診断部40は、診断部40おける診断基準を決定するための閾値を設定する診断基準設定部42を有する。診断基準設定部42は、設定用画像データと、設定用画像データに対応する保護材付き配管の内部を測定して得られた内部状態の指標となるデータ(例えば配管の厚み減少量)とを表示部に表示する。閾値設定者であるユーザは、表示されたデータに基づいて、診断基準設定部42に対して閾値設定指示を入力する。診断基準設定部42は、上記閾値を設定するにあたって、ユーザによって、配管の内部状態の指標となるデータ(配管の厚み減少量)に対して設定される、配管の検査要否を分ける基準値を設定するように構成されていてもよい。上述の基準値には、さらに上側マージン及び下側マージンを設定することができる。
The
(画像合成部)
画像合成部50は、入力された診断用画像データに対応する画像に対して、特徴抽出部20又は特徴推論部24で抽出した特徴を示すマークを合成して解析後画像を作成する。特徴を示すマークとは、例えば、配管や架台のエッジを示す線、保護材表面の変形や変色部分を示す円やマーク(図2参照)をいい、特徴毎に異なる色で示されていても良い。画像合成部50で合成された解析後画像データは、表示部10に出力される。
(Image synthesis section)
The
(表示部)
表示部10は、診断部40から出力された診断結果等を表示する。
図1に示すように、表示部10は、診断部40での診断結果を示す診断結果表示領域110を有している。また、表示部10は、診断の根拠として診断用部分スコア等を表示する診断用部分スコア表示領域120と、画像合成部50で合成された解析後画像134及び解析前の診断用画像132を表示する診断画像表示領域130とを有している。
(Display)
The
As shown in FIG. 1, the
図2に、表示部10の具体例を示す。図2に示すように、表示部10の診断結果表示領域110には、診断用画像データに基づいて算出されたトータルスコアと、トータルスコアに基づいて決定された診断結果(ランク)が表示される。図11では、トータルスコア「×××」に対応するランク「R-1」が示されている。診断装置100では、例えばランク「R-1」から「R-4」まで設定されている。「R-1」は、最も配管の状態が良い(配管の腐食可能性が低い)と推定されたランクであり、「R-4」は、最も配管の状態が悪い(配管の腐食可能性が高い)と推定されたランクである。例えば、「R-1」「R-2」は要経過観察を示すランクであり、「R-3」「R-4」は配管の劣化を実際に測定する定量検査(例えば、配管の厚み減少量を測定する超音波検査)が必須であることを示すランクとすることができる。
FIG. 2 shows a specific example of the
なお、診断結果は、予め定められたランクに代えて、「要定量検査」又は「要経過観察」を示してもよい。また、ユーザは、「要経過観察」と診断された診断用画像データの配管の一部に対して、定量検査や目視検査等の抜き取り検査を行っても良い。診断装置100で示す診断結果は、単に検査の要否をユーザに示すものではなく、劣化の可能性が高い配管を示す指標である。
Note that the diagnosis result may indicate "quantitative inspection required" or "observation required" instead of the predetermined rank. Further, the user may perform a sampling inspection such as a quantitative inspection or a visual inspection on a part of the piping of the diagnostic image data which has been diagnosed as “necessary observation”. The diagnosis result indicated by the
診断用部分スコア表示領域120には、診断用部分スコアとその診断用部分スコアに対応する特徴の名称とがそれぞれ関連付けて表示される。診断用部分スコア表示領域120に表示される診断用部分スコアと特徴の名称は、1つであっても良く複数であっても良い。診断用部分スコア表示領域120において、複数の診断用部分スコア及び診断用部分スコアに対応する特徴の名称を表示する場合には、例えばレーダーチャート、棒グラフ、折れ線グラフ及び散布図等のグラフとして表示されていても良い。図2では、診断用部分スコア表示領域において、複数の診断用部分スコアと複数の特徴の名称とをそれぞれ関連付けて、レーダーチャートとして表示した場合を例示している。これにより、各特徴の診断用部分スコアを視認しやすくすることができる。
表示部10に、トータルスコアやランクとともに複数の診断用部分スコアと特徴の名称とが表示されることにより、診断装置100は、ユーザに対して診断の根拠を示すことができる。
In the diagnostic partial
By displaying a plurality of diagnostic partial scores and feature names together with the total score and rank on the
診断画像表示領域130には、画像合成部50から入力された解析後画像134が表示される。また、診断画像表示領域130に、解析後画像134とともに診断用画像132を表示しても良い。なお、診断用画像132は、例えば診断用画像データ202に対応する診断用画像である。
診断画像表示領域130に解析後画像134が表示されることにより、診断装置100は、診断用画像132中のどの部分にどのような特徴があると判断したかをユーザに示すことができる。また、診断画像表示領域130に解析後画像134とともに診断用画像132が表示されることにより、診断装置100は、特徴抽出部20によって特徴が抽出された保護材付き配管の状態をユーザに示すことができる。
In the diagnostic
By displaying the
ここで、図2の診断画像表示領域130には、特徴F1~F4が現れた配管P及び架台Sを含む診断用画像132が示されている。診断画像表示領域130には、診断用画像132の解析後画像134が示されている。解析後画像134には、診断用画像132に対して、例えば配管Pのエッジを示す線L1、L2と、架台Sのエッジを示す線L3が合成されている。また、解析後画像134には、診断用画像132に対して、例えば画像解析により解析された特徴F1,F2の外形を示す線O1、O2と、学習済モデル242の推論結果として得た特徴を示すマークM3,M4とが合成されている。これにより、ユーザは、画像解析により得た特徴及び学習済モデル242の推論結果として得た特徴を一見して視認することができる。
Here, in the diagnostic
[診断装置の各部の動作]
以下、診断装置100の各部の動作について説明する。
なお、以下では、診断用画像データ202を用いた配管状態診断時の動作、学習用画像データを用いた特徴の学習時の動作、及び設定用画像データを用いた診断基準を決定するための閾値設定時の動作についてそれぞれ説明する。
[Operation of each part of the diagnostic device]
Hereinafter, the operation of each unit of the
In the following, the operation for diagnosing the piping state using the
(診断時の動作)
最初に、図1、図3及び図4を参照して、診断用画像データ202を用いた配管状態診断時の動作について説明する。図3は、診断用画像データ202を用いた配管状態診断時の動作を説明するフローチャートであり、図4は、診断用部分スコア及びトータルスコアの算出方法の一例を示す模式図である。
(Operation during diagnosis)
First, with reference to FIG. 1, FIG. 3 and FIG. 4, an operation at the time of diagnosing a pipe state using the
まず、診断の開始時に、診断に先立って特徴学習部26で生成された学習済モデル262を、特徴推論部24にコピーして、学習済モデル242を生成する。なお、学習済モデル262を学習済モデル242として使用してもよい。
続いて、診断装置100の特徴抽出部20に、保護材付き配管の外観及びその周辺の架台等を含む領域を撮影した診断用画像データ202を入力する(ステップS11)。
次に、特徴抽出部20のデータ解析部22において、入力された診断用画像データ202に対する画像解析を行う(ステップS12)。データ解析部22は、画像解析の結果を、特徴推論部24及びスコア算出部30の少なくとも一方と、画像合成部50とに出力する。
First, at the start of diagnosis, the learned
Subsequently, the
Next, the
ステップS12では、データ解析部22は、得られた解析結果が保護材表面の変色部分の面積や表面変形の個数等である場合には、当該解析結果を特徴としてスコア算出部30に出力する。
また、ステップS12では、データ解析部22は、得られた解析結果を特徴量として特徴推論部24に出力する。特徴推論部24において学習済モデル242の推論結果を得るために必要である場合には、特徴量とともに、保護材表面の変色部分の面積や表面変形の個数等のような解析結果を特徴推論部24に入力しても良い。
In step S12, when the obtained analysis result is the area of the discolored portion of the protective material surface, the number of surface deformations, or the like, the
Further, in step S12, the
次に、特徴抽出部20の特徴推論部24において、入力した特徴量に対する学習済モデル242の推論結果として特徴を得る(ステップS13)。特徴推論部24は、特徴量が入力されると、その特徴量をもつ診断用画像データ202が持つ特徴を推論した推論結果(特徴)を、スコア算出部30に出力する。
Next, the
続いて、スコア算出部30において、データ解析部22及び特徴推論部24のそれぞれから入力された特徴に基づいて、診断用スコアを算出する(ステップS14)。ステップS14では、まず、入力された特徴に基づいて複数の特徴毎の診断用部分スコアを算出し、各診断用部分スコアを加算して診断用画像データのトータルスコアを算出する。
Subsequently, the
図4に一例を示すように、診断用部分スコアは、特徴(図4中に示す特徴A~特徴H)毎に予め定められた特徴別スコアxa~xhと、対応する特徴の量(ya~yh)とを乗算することにより得られる。特徴別スコアは、保護材付き配管の診断用画像に対して人間が配管の劣化を判断した場合の診断結果と同様の傾向となるように特徴毎に設定されたスコアである。また、「特徴の量」とは、診断用画像データ202中に存在する特徴の定量的指標であり、例えば面積や個数を示す。例えば、特徴が錆である場合には錆面積等を示す。
As shown in an example in FIG. 4, the diagnostic partial score includes feature-specific scores xa to xh predetermined for each feature (feature A to feature H shown in FIG. 4) and corresponding feature amounts (ya to yh). The feature-specific score is a score that is set for each feature so as to have the same tendency as the diagnosis result when a person determines deterioration of the pipe on the diagnostic image of the pipe with protective material. Further, the “feature amount” is a quantitative index of the feature existing in the
図4において、特徴1~特徴8についての診断用部分スコアAは、xa・yaで示される。また、診断用部分スコアB~診断用部分スコアHも同様に、それぞれxb・yb、xc・yc、・・・xh・yhで示される。また、トータルスコアは、診断用部分スコアA~診断用部分スコアHを加算又は重み付けして加算することにより得られる。トータルスコアは、診断用部分スコアA~診断用部分スコアHを加算後に係数を乗算して、所定の桁数のスコアとなるように調整されたスコアであっても良い。トータルスコアは、診断用画像データの診断に用いられるスコアとして、診断部40に出力される。
In FIG. 4, the diagnostic partial score A for the
続いて、診断部40において、入力されたトータルスコアと、予め設定された閾値とを比較して、保護材付き配管の内部状態を診断した診断結果を出力する(ステップS15)。診断部40では、診断結果として、診断用画像データに対する診断ランクが出力される。
Subsequently, the
最後に、表示部10において、診断部40から入力された診断結果が表示される(ステップS16)。ステップS16では、表示部10の診断結果表示領域110において、診断結果として診断用画像データに対する診断ランクと診断用画像データのトータルスコアが表示される。また、表示部10の診断用部分スコア表示領域120において、各診断用部分スコアとその診断用部分スコアに対応する特徴の名称とがそれぞれ関連付けて表示される。診断画像表示領域130には、画像合成部50から入力された解析後画像134が表示される。診断画像表示領域130には、解析前の診断用画像132が表示されてもよい。
Finally, the diagnosis result input from the
(学習時の動作)
次に、図5及び図6を参照して、学習用画像データ204を用いた特徴の学習時の動作を説明する。学習時には、学習用画像データ204を用いた機械学習により得られた学習済モデル242を生成する。図5及び図6は、学習用画像データ204を用いた特徴の学習時の動作を説明するブロック図及びフローチャートである。図5に示すように、学習用画像データ204を用いた特徴の学習時には、診断装置100の特徴抽出部20を用いて学習済モデル242が生成される。
(Operation during learning)
Next, with reference to FIG. 5 and FIG. 6, an operation at the time of learning a feature using the
まず、診断装置100の特徴抽出部20に、保護材付き配管の外観又はその周辺の架台等に生じた変質部分を撮影した複数の学習用画像データ204を入力する(ステップS21)。学習用画像データ204は、診断用画像データ202の診断時に着目する観点となる特徴が変質として生じている部分を撮影した画像データであり、複数の特徴のそれぞれにおいて複数の学習用画像データ204が入力されることが好ましい。
First, a plurality of learning
次に、特徴抽出部20のデータ解析部22において、入力された学習用画像データ204に対してORBアルゴリズム等を用いた画像解析を行い、学習用画像データ204の特徴量を抽出する(ステップS22)。データ解析部22は、画像解析により抽出された特徴量(例えば、輝度変化の大きさと向き)を、特徴学習部26に出力する。
Next, the
続いて、特徴学習部26において、データ解析部22から入力された特徴量を用いた機械学習を行い、学習済モデル262を生成する(ステップS23)。機械学習のアルゴリズムとしては、用いる初期モデル302に合わせて公知のものを用いることができる。このとき、図5に示すように、データ解析部22には、初期モデル302及び学習用パラメータ304が入力される。なお、初期モデル302は、特徴学習部26の図示しない記憶部に予め保存されていても良い。
Subsequently, the
特徴学習部26に入力される初期モデル302としては、学習用画像データ204を入力として利用可能であればいずれのモデルであっても良い。特徴学習部26に入力される初期モデル302としては、例えばサポートベクターマシン、ニューラルネットワーク又はランダムフォレスト等のモデルを用いることができる。特徴学習部26は、画像データ204aを入力すると、画像データ204aに含まれる特徴(特徴の種別及び特徴の位置)204bを示す出力値を出力するように、初期モデル302を学習させる。一例として初期モデルにニューラルネットワークを用いた場合について説明する。
The
図7に示すように、学習対象となる初期モデル302としてのニューラルネットワークは、入力側から順に、入力層302a、中間層(隠れ層)302b、出力層302cを備える。なお、中間層302bは一層に限られず、2層以上の中間層302bを備えていてよい。
各層は、それぞれ一又は複数のニューロンを備えている。入力層302a、中間層(隠れ層)302b、出力層302cの各層は、1又は複数のニューロンを備えている。例えば、入力層302aのニューロンの数は、入力される画像データ204aの画素数に応じて設定することができる。中間層302bのニューロンの数は実施の形態に応じて適宜設定することができる。また、出力層302cは、解析対象とする特徴の種類の数に応じて設定することができる。
As shown in FIG. 7, the neural network as the
Each layer has one or more neurons. Each of the
隣接する層のニューロン同士は適宜結合され、各結合には重み(結合荷重)が設定されている。図7の例では、各ニューロンは、隣接する層の全てのニューロンと結合されているが、ニューロンの結合は、このような例に限定されなくてもよく、実施の形態に応じて適宜設定されてよい。 The neurons in adjacent layers are connected appropriately, and weights (connection weights) are set for each connection. In the example of FIG. 7, each neuron is connected to all the neurons in the adjacent layers, but the connection of the neurons is not limited to such an example, and is set appropriately according to the embodiment. You may
学習用パラメータ304は、学習済モデル262を得るために設定される設定値である。特徴学習部26は、学習済モデル262が最適解を出すことができるパラメータを走査して設定する。例えば、図7に示すように、特徴A~特徴Hの少なくともいずれかの特徴を含み、かつ、画像中の当該特徴の位置が既知である学習用画像データ204を用いることにより、当該学習用画像データ204に含まれる特徴204bを示す出力値が出力されるように、学習用パラメータ304が調整される。学習用パラメータ304の調整には、適切と考えられるパラメータの組み合わせをすべて試すグリッドサーチや、パラメータの組み合わせを無作為に試すランダムサーチ等が用いられ、これらのパラメータの組み合わせが学習用パラメータ304として入力される。
The learning
最後に、ステップS23において生成された学習済モデル262が特徴学習部26(又は特徴抽出部20)の図示しない記憶部に保存される(ステップS24)。以上により、学習用画像データ204を用いた機械学習により学習済モデル262が生成される。
Finally, the learned
(設定時の動作)
次に、図8及び図9を参照して、設定用画像データ206を用いた診断基準を決定するための閾値設定時の動作について説明する。図8及び図9は、設定用画像データ206を用いた閾値設定時の動作を説明するブロック図及びフローチャートである。図8に示すように、設定用画像データ206を用いた閾値設定時には、診断装置100の特徴抽出部20、スコア算出部30、診断部40及び表示部10を用いて閾値が設定される。
(Operation when setting)
Next, with reference to FIG. 8 and FIG. 9, an operation at the time of setting a threshold value for determining a diagnostic standard using the setting
まず、診断装置100の特徴抽出部20に、保護材付き配管の外観及びその周辺の架台等を含む領域を撮影した設定用画像データ206を入力する(ステップS31)。設定用画像データ206は、例えば以前撮影された保護材付き配管及びその周辺の外観を含む画像データであり、設定用画像データに対応する配管を実際に測定することにより、予め配管の厚み減少量等の内部状態の指標となるデータが明らかになっている。
First, the setting
次に、特徴抽出部20のデータ解析部22において、入力された設定用画像データ206に対してORBアルゴリズム等を用いた画像解析を行う(ステップS32)。画像解析のアルゴリズムとしては、例えばORBが用いられる。データ解析部22は、画像解析により得られた結果を、特徴推論部24及びスコア算出部30の少なくとも一方に出力する。ステップS32では、ステップS12と同様に、得られた解析結果の内容に応じて、特徴をデータ解析部22から特徴推論部24又はスコア算出部30に出力する。
Next, the
次に、特徴抽出部の特徴推論部24において、入力した解析結果に対する学習済モデル242の推論結果として特徴を得る(ステップS33)。特徴推論部24は、得られた推論結果(特徴)を、スコア算出部30に出力する。
続いて、スコア算出部30において、データ解析部22及び特徴推論部24のそれぞれから入力された特徴に基づいて、設定用スコアを算出する(ステップS34)。設定用スコアは、診断用スコアと同様のスコアである。ステップS34では、ステップS14と同様に、入力された特徴に基づいて複数の特徴毎の診断用部分スコアを算出し、各診断用部分スコアを加算して設定用画像データのトータルスコアを算出する。
Next, the
Then, the
続いて、診断部40の診断基準設定部42において、スコア算出部30から入力されたトータルスコアに基づいて閾値を設定する(ステップS35)。このとき、診断部40には、特徴抽出部20に入力された各設定用画像データ206に対応する配管の厚み減少量等の内部状態の指標となるデータが入力される。内部状態の指標となるデータは、診断部40から表示部10にも入力される。
Subsequently, the diagnostic
図6に示すように、ステップS35では、例えば、各設定用画像データ206に対応するトータルスコア及び配管の厚み減少量が表示部10に表示される。各設定用画像データ206に対応するトータルスコア及び配管の厚み減少量は、トータルスコアを基準として昇順もしくは降順に並べて表示されることが好ましい。表示部10では、トータルスコアを実線で示し、対応する配管の厚み減少量を散布図で示している。
As shown in FIG. 6, in step S35, for example, the total score and the pipe thickness reduction amount corresponding to each setting
ユーザは、表示部10に表示された各設定用画像データ206に対応するトータルスコア及び配管の厚み減少量に基づき、図示しない入力部を介して診断基準設定部42に対して閾値の設定指示を入力する。閾値の設定指示は、例えば閾値の数値を入力しても良く、表示部10に表示されたスライダをマウス等により動かして閾値を決定しても良い。ユーザは、閾値の数値として、例えばランク「R-1」とランク「R-2」との閾値TH1、ランク「R-2」とランク「R-3」との閾値TH2及びランク「R-3」とランク「R-4」との閾値TH3となるトータルスコアをそれぞれ入力することができる。ここで、例えば、「R-1」「R-2」は要経過観察を示すランクであり、「R-3」「R-4」は配管の厚み減少量等の配管の劣化を実際に測定する定量検査(例えば、超音波検査)が必須であることを示すランクとすることができる。
The user inputs a threshold setting instruction to the diagnostic
また、閾値は、配管の内容物に応じて、診断結果がより安全側に傾くように設定しても良い。例えば配管を通る内容物が配管の劣化を高める性質を有する材料である場合、上述の閾値TH2の数値を低く設定することにより、要定量検査と判断される配管の割合が増加し、診断結果がより安全側に傾く。
また、診断基準設定部42では、閾値の設定指示の入力に代えて、診断基準設定部42に予め入力された条件に基づき閾値が自動的に設定されるようにしても良い。
In addition, the threshold value may be set so that the diagnosis result leans toward the safer side according to the contents of the pipe. For example, when the content passing through the pipe is a material having the property of increasing the deterioration of the pipe, by setting the above-mentioned threshold value TH2 to a low value, the percentage of pipes judged to require quantitative inspection increases, and the diagnostic result is Lean toward the safer side.
Further, in the diagnostic
以上により、診断基準設定部42において、診断時に用いる閾値が設定される。閾値は1又は複数設定される。
As described above, the diagnostic
(診断プログラム)
本実施形態に係る診断装置1により実行される診断プログラムについて説明する。診断装置1は、以下の(a)~(f)の各動作をコンピュータに実行させるプログラムに従って、診断を行う。以下のプログラムは、例えばハードディスクドライブ、メモリ等の記録媒体やDVDディスク又はBlu-ray(登録商標)等の光ディスクに記録される。以下のプログラムは、インターネットを介して配布されても良い。さらに、以下のプログラムは、クラウドサーバに記録され、インターネットを介して各ステップが実行されても良い。
(Diagnostic program)
A diagnostic program executed by the
(a)検査対象を外部から測定して診断用センサデータを取得すること
(b)診断用センサデータから、予め定められた少なくとも1つの特徴を抽出すること
(c)抽出された特徴に基づいて、診断用センサデータが有する特徴に関連づけられた診断用部分スコアを算出すること
(d)診断用部分スコアに基づいて、診断用センサデータの診断用スコアを算出すること
(e)診断用スコアに基づいて、検査対象の状態を診断した診断結果を取得すること
(f)診断用スコアと診断結果とを表示部に表示すること
(A) Externally measuring an inspection target to obtain diagnostic sensor data (b) Extracting at least one predetermined feature from the diagnostic sensor data (c) Based on the extracted feature Calculating a diagnostic partial score associated with a characteristic of the diagnostic sensor data (d) calculating a diagnostic score of the diagnostic sensor data based on the diagnostic partial score (e) a diagnostic score Based on the above, obtaining a diagnosis result of diagnosing the state of the inspection target (f) displaying the diagnosis score and the diagnosis result on the display unit
<第一実施形態の効果>
第一実施形態に係る診断装置100は、以下の効果を有する。
(1)診断装置100は、診断用画像データ202の特徴に関連付けられた診断用部分スコアを算出し、診断の根拠として、表示部10に診断用部分スコアを表示する。このため、ユーザに対して診断根拠を一見して示すことができる。
(2)診断装置100では、検査対象内部の状態(配管の腐食等)に関連して検査対象外部に生じる特徴(配管を覆う保護材表面の変色や変形等の変質)に基づいて、検査対象内部の状態を診断することが可能である。
<Effects of First Embodiment>
The
(1) The
(2) In the
(3)診断装置100は、学習用画像データ204を用いた機械学習により得られた学習済モデル242を有しており、学習済モデル242は、学習用画像データ204に対する推論結果を診断用画像データ202の特徴として抽出する。このため、学習用画像データ204の特徴を精度よく抽出することができる。
(4)診断装置100は、複数の前記診断用部分スコアA~Hと、診断用部分スコアA~Hに対応する特徴の名称(特徴A~H)とをレーダーチャート等のグラフとして表示する。このため、どの特徴が強く出ているかをユーザに一見して示すことができる。
(3) The
(4) The
(5)診断装置100は、診断用画像データ202の解析結果を合成した解析後画像及び解析前の診断用画像132を表示部10に表示する。このため、ユーザが診断用画像データ中に存在する特徴を視覚的に認識することができる。
(6)診断装置100は、画像処理による特徴の抽出と、機械学習による(学習済モデル242を用いた)特徴の抽出と、の双方を使い分けることができる。このため、より正確で、早い診断を行うことができる。
(5) The
(6) The
(7)診断装置100は、診断部40おける診断時の診断基準を決定するための閾値を設定可能な診断基準設定部42を有する。このため、診断時やその後の定量検査における制限(例えば、費用、期間、安全性及び人的工数)等に基づいて適切な閾値を設定することができる。
(8)診断装置100は、診断後に配管状態の定量検査を行った場合、診断用画像データ202と定量検査により得られた劣化の実測値を学習用データ・診断用データとして用いることで、さらに精度のよい診断を可能とする。
(7) The
(8) The
(9)保護材付き配管は、プラント内において架台上に配置されている場合が多く、保護材付き配管が架台に接触している箇所には腐食が多く見られる。このような箇所に対して測定器を用いた定量的な検査を行うには、足場の設置や配管の吊り上げ等が必要であり、多大なコストがかかる。従来、配管の劣化の程度は、検査員が保護材付き配管の外観の状態との経験的関係に基づいて判断していた。このため、本来は定量検査が不要な状態の配管についても定量検査を行っており、不要な検査コストがかかっていた。
診断装置100では、保護材付き配管周辺に現れる変質部分から抽出した、腐食推定に有効な要素を教師データとして学習済モデルを生成し、診断時に学習済モデルの推論結果を利用する。これにより、より適切に配管の状態を判断し、不要な定量検査を削減することができるため、定量検査に要するコストを削減することができる。
(9) In many cases, the pipe with the protective material is arranged on the pedestal in the plant, and corrosion is often observed at the place where the pipe with the protective material is in contact with the pedestal. In order to carry out a quantitative inspection using a measuring instrument at such a place, it is necessary to install scaffolds, lift pipes, and the like, which is very costly. Conventionally, the degree of deterioration of the pipe has been judged by an inspector based on an empirical relationship with the appearance state of the pipe with a protective material. For this reason, since the quantitative inspection is also performed on the pipe that originally does not require the quantitative inspection, unnecessary inspection cost is incurred.
In the
2.第二実施形態
以下、本開示の第二実施形態に係る診断装置300について、図10及び図11を参照して説明する。
第二実施形態に係る診断装置300は、表示部310において、複数の診断用画像データ202A~202Eに対する診断結果等を表示する複数対象評価結果表示領域350を有する点で、第1実施形態に係る診断装置100と異なる。
以下、表示部310の表示について説明する。また、特徴抽出部20、スコア算出部30、診断部40及び画像合成部50については、診断装置100特徴抽出部20、スコア算出部30、診断部40及び画像合成部50と同様であるため説明を省略する。
2. Second Embodiment Hereinafter, a
The
The display on the
(表示部)
図10の表示部310では、各表示領域を模式的に示している。診断装置300の表示部310は、一つの診断用画像データ202Aに関する診断結果および診断用部分スコア等を表示する単一対象評価結果表示領域340を有する。また、表示部310は、複数の診断用画像データ(例えば、5つの診断用画像データ202A~202E)に関する診断結果や診断用部分スコアを、診断用画像データ202A~202E毎に並べて表示する複数対象評価結果表示領域350を有する。
(Display)
In the
図11に、表示部310の具体例を示す。表示部310は、複数対象評価結果表示領域350において、トータルスコアおよび診断用部分スコアを、例えば棒グラフ、散布図、又は折れ線グラフ等のグラフで表示している。図11に示す表示部310では、トータルスコアを折れ線グラフで示しており、特徴A~特徴Dについての診断用部分スコアA~診断用部分スコアDを4つの棒グラフで示している。また、表示部310では、特徴E~特徴Hについての診断用部分スコアE~診断用部分スコアHを「□」、「○」、「△」、「×」等により散布図で示している。複数対象評価結果表示領域350では、診断用画像データ202A~202Eのそれぞれの診断用部分スコアを診断用画像データ毎に近い位置に表示する。また、各診断用画像データ202A~202Eの診断用部分スコア群を、並べて表示する。
FIG. 11 shows a specific example of the
また、表示部310は、診断装置100の表示部10と同様に、一つの診断用画像データ202Aの診断結果を表示する診断結果表示領域110及び一つの診断用画像データ202Aの診断用部分スコアを表示する診断用部分スコア表示領域120を有している。また、表示部310は、診断装置100の表示部10と同様に、診断結果表示領域110、診断用部分スコア表示領域120、及び診断画像表示領域130を有している。診断結果表示領域110には、一つの診断用画像データ202Aの診断画像(解析前の診断用画像132及び解析後画像134)が表示される。なお、診断用画像132は、例えば診断用画像データ202Aに対応する診断用画像である。
Further, the
さらに表示部310は、診断結果(ランク)毎のスコア範囲を示す表362と、各ランクと診断された診断用画像データの割合を示すグラフ364とが表示されたランク表示領域360を有している。表示部310は、単一対象評価結果表示領域340に診断結果等が表示される、複数の診断用画像データ202A~202Eのうちの一の画像データを選択可能にする診断用画像データ選択領域370を有している。ユーザが診断用画像データ選択領域370中に表示された複数の診断用画像データ202A~202Eのうちのいずれかを示す表示を選択することにより、単一対象評価結果表示領域340には選択された診断用画像データ202A~202Eのうちのいずれかの診断結果が表示される。
Further, the
<第二実施形態の効果>
第二実施形態に係る診断装置300は、第一実施形態に係る診断装置100における効果(1)~(9)に加えて、以下の効果を有する。
(10)診断装置100は、表示部10に一つの診断用画像データ202Aに関する詳細な診断結果、診断用部分スコア等を表示する単一対象評価結果表示領域340を有する。また、診断装置100は、複数の診断用画像データ202A~202Eに関する診断結果、診断用部分スコアを表示する複数対象評価結果表示領域350を有する。また、診断装置100は、これらの診断結果をレーダーチャートや、棒グラフ、散布図、又は折れ線グラフ等のグラフによって表示する。このため、診断装置100は、ユーザに対して、診断用画像データ毎の詳細な診断結果と、複数の診断用画像データ間の比較結果とを一見して示すことができる。
<Effects of Second Embodiment>
The
(10) The
3.ハードウェア構成
以下、第1実施形態に係る診断装置1及び第2実施形態に係る診断装置2のハードウェア構成の一例について詳細に説明する。
図12に示すように、診断装置1は、記憶装置1001、プロセッサを含む演算装置1002及び通信路(ネットワーク)1110を介して外部装置と情報の送受信を行う通信インタフェース(I/F)1003等のハードウェア資源を備えている。外部装置は、例えば撮像装置(不図示)又は画像を記憶するコンピュータ1120である。診断装置1は、記憶装置1001に記憶された所定のプログラム及びデータに基づく情報処理を実行することにより、少なくとも入力された検査対象の画像から検査対象の状態を診断し、診断用スコアと診断結果とを表示部に表示するように構成されている。
3. Hardware Configuration An example of the hardware configuration of the
As shown in FIG. 12, the
演算装置1002は、ハードウェアプロセッサとしてのCPU(Central Processing Unit)、1002A、RAM(Random Access Memory)1002B、及びROM(Read-Only Memory)1002Cを含む。演算装置1002は、記憶装置1001に記憶された所定のデータ及び所定のプログラムを用いた、特定の情報処理を実行する。なお、ハードウェアプロセッサとしては、CPUに限定されず、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等の各種プロセッサを用いることができる。
The
記憶装置1001は、ハードディスクドライブ、ソリッドステートドライブ等のメモリにより構成される補助記憶装置である。記憶装置1001は、演算装置1002による特定の情報処理に必要な所定のプログラム、および、所定のデータを記憶している。本開示において、記憶装置1001は、演算装置1002が診断用センサデータ取得処理、特徴抽出処理、診断用部分スコア算出処理、診断用スコア算出処理、診断結果取得処理、診断結果表示処理等を実行するためのプログラム1008A、診断用部分スコア及び診断用スコア(トータルスコア)等のスコア1008B、特徴の名称1008C、診断用画像132及び解析後画像134等の画像1008D、学習済モデル242等のモデル1008E等を記憶している。プログラム1008A、スコア1008B、特徴の名称1008C、画像1008D及びモデル1008Eのそれぞれは、記憶装置1001の所定の領域(例えばプログラム記憶領域、スコア記憶領域、特徴の名称記憶領域、画像記憶領域、モデル記憶領域等)に分けて記憶されていてもよい。また、プログラム1008A、スコア1008B、特徴の名称1008C、画像1008D及びモデル1008Eが、別個に構成されたプログラム記憶部、スコア記憶部、特徴の名称記憶部、画像記憶部、モデル記憶部にそれぞれ記憶されるように構成されていてもよい。
The
なお、所定のデータ及び所定のプログラムは、記憶装置1001に常時記憶されていなくてもよい。例えば、演算装置1002が特定の情報処理を実行するときに、その一部または全部を、通信路1110を介して他の装置から取得してもよい。また、所定のデータ及び所定のプログラムは、演算装置1002が特定の情報処理を実行するときに、後述のドライブ111を介して記憶媒体112から読み込んでもよい。
Note that the predetermined data and the predetermined program may not always be stored in the
通信I/F1003は、例えば、有線LANモジュール、無線LANモジュール等であり、通信路1110を介して他の装置と有線又は無線通信を行うためのインタフェースである。本開示において、通信I/F1003は、通信路1110を介して、後述のコンピュータ1120及び他の装置(図示せず)から所定のデータ等を受信するように構成されている。
The communication I / F 1003 is, for example, a wired LAN module, a wireless LAN module, or the like, and is an interface for performing wired or wireless communication with another device via the
診断装置1は、入力装置113及び例えば表示装置等の出力装置114をさらに備えていても良い。入力装置113としては、マウス、キーボード、タッチパネル等を用いることができる。また、出力装置114としては、ディスプレイ、スピーカ等を用いることができる。また、診断装置1は、CDドライブ、DVDドライブ等の、記憶媒体112に記憶されたデータおよびプログラムを読み込むためのドライブ111をさらに備えていてもよい。
診断装置2についても同様の構成を有している。
The
The
以上、各実施形態により本開示の具体的な構成を説明したが、本開示の範囲は、図示され記載された例示的な実施形態に限定されるものではなく、本開示が目的とするものと均等な効果をもたらす全ての実施形態をも含む。さらに、本開示の範囲は、請求項により画される発明の特徴の組み合わせに限定されるものではなく、全ての開示されたそれぞれの特徴のうち特定の特徴のあらゆる所望する組み合わせによって画されうる。 Although the specific configurations of the present disclosure have been described above with the respective embodiments, the scope of the present disclosure is not limited to the exemplary embodiments illustrated and described, and the present disclosure is intended. It also includes all embodiments that produce an equivalent effect. Moreover, the scope of the present disclosure is not limited to the combination of inventive features defined by the claims, but can be defined by any desired combination of specific features of each disclosed feature.
10,310 表示部
20 特徴抽出部
22 データ解析部
24 特徴推論部
26 特徴学習部
30 スコア算出部
40 診断部
42 診断基準設定部
50 画像合成部
100,300 診断装置
110 診断結果表示領域
120 診断用部分スコア表示領域
130 診断画像表示領域
132 診断用画像
134 解析後画像
200 カメラ
202,202A~202E 診断用画像データ
204 学習用画像データ
206 設定用画像データ
242 学習済モデル
302 初期モデル
304 学習用パラメータ
340 単一対象評価結果表示領域
350 複数対象評価結果表示領域
360 ランク表示領域
370 診断用画像データ選択領域
10, 310
Claims (20)
前記検査対象を外部から測定して得られた診断用センサデータが入力され、前記診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する特徴抽出部と、
前記特徴抽出部から入力された前記特徴に基づいて、前記診断用センサデータが有する前記特徴に関連付けられた診断用部分スコアを算出し、前記診断用部分スコアに基づいて前記診断用センサデータの診断用スコアを算出するスコア算出部と、
前記スコア算出部から入力された前記診断用スコアに基づいて、前記検査対象の状態を診断して診断結果を出力する診断部と、
前記診断結果と前記診断用部分スコアとを表示する表示部と、
を備える診断装置。 A diagnostic device for diagnosing the condition of an inspection target,
A feature extraction unit that receives diagnostic sensor data obtained by measuring the inspection target from the outside and extracts at least one predetermined feature from the diagnostic sensor data,
Based on the feature input from the feature extraction unit, a diagnostic partial score associated with the feature of the diagnostic sensor data is calculated, and diagnosis of the diagnostic sensor data is performed based on the diagnostic partial score. A score calculation unit for calculating a score for
Based on the diagnostic score input from the score calculation unit, a diagnostic unit that diagnoses the state of the inspection target and outputs a diagnostic result,
A display unit that displays the diagnosis result and the diagnostic partial score,
A diagnostic device including.
前記診断部は、前記トータルスコアに基づいて、前記検査対象の状態を診断する
請求項1に記載の診断装置。 The score calculation unit calculates the diagnostic partial score based on a feature-specific score associated with the feature, and calculates a total score as the diagnostic score.
The diagnostic device according to claim 1, wherein the diagnostic unit diagnoses a state of the inspection target based on the total score.
前記表示部は、前記診断用部分スコア表示領域において、複数の前記診断用部分スコアと、前記診断用部分スコアに対応する前記特徴の名称とをグラフとして表示する請求項3に記載の診断装置。 The score calculation unit, for the diagnostic sensor data, calculates a plurality of the diagnostic partial score,
The diagnostic device according to claim 3, wherein the display unit displays a plurality of the diagnostic partial scores and the names of the features corresponding to the diagnostic partial scores as a graph in the diagnostic partial score display area.
学習済モデルの推論結果を前記特徴として出力する特徴推論部を有する請求項9に記載の診断装置。 The diagnostic device according to claim 9, wherein the feature extraction unit includes a feature inference unit that outputs, as the feature, an inference result of the learned model based on the diagnostic sensor data input to the feature extraction unit.
前記表示部は、前記診断用画像データに対応する画像および前記画像合成部から入力された前記解析後画像を表示する診断画像表示領域を有する請求項14又は15のいずれか1項に記載の診断装置。 An image combining unit that creates a post-analysis image by combining a mark indicating the feature extracted by the feature extracting unit with respect to an image corresponding to the input diagnostic image data,
16. The diagnosis according to claim 14, wherein the display unit has a diagnostic image display region for displaying an image corresponding to the diagnostic image data and the analyzed image input from the image combining unit. apparatus.
請求項17に記載の診断装置。 The diagnostic standard setting unit is set based on setting sensor data including sensor data having the characteristics and data serving as an index of a state obtained by measuring the inspection target corresponding to the sensor data. The diagnostic device according to claim 17, wherein the threshold value is set.
前記状態の指標となるデータは、前記配管の厚みに関するデータである、
る請求項1から18のいずれか1項に記載の診断装置。 The inspection target is a pipe covered with a protective material,
The data that is an index of the state is data regarding the thickness of the pipe,
The diagnostic device according to any one of claims 1 to 18, which comprises:
前記検査対象を外部から測定して診断用センサデータを得る工程と、
前記診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する工程と、
抽出された前記特徴に基づいて、前記診断用センサデータが有する前記特徴に関連づけられた診断用部分スコアを算出する工程と、
前記診断用部分スコアに基づいて、前記診断用センサデータの診断用スコアを算出する工程と、
前記診断用スコアに基づいて、前記検査対象の状態を診断した診断結果を得る工程と、
前記診断用スコアと前記診断結果とを表示部に表示する工程と、
を備える診断方法。 A diagnostic method for diagnosing a condition of an inspection target,
A step of measuring the inspection object from the outside to obtain diagnostic sensor data;
Extracting at least one predetermined characteristic from the diagnostic sensor data;
Calculating a diagnostic partial score associated with the feature of the diagnostic sensor data, based on the extracted feature;
Calculating a diagnostic score of the diagnostic sensor data based on the diagnostic partial score;
A step of obtaining a diagnosis result of diagnosing the state of the inspection object based on the diagnostic score;
Displaying the diagnostic score and the diagnostic result on a display unit;
A diagnostic method comprising.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020553405A JP7057837B2 (en) | 2018-10-23 | 2019-10-21 | Diagnostic device and diagnostic method |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018-199361 | 2018-10-23 | ||
| JP2018199361 | 2018-10-23 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2020085327A1 true WO2020085327A1 (en) | 2020-04-30 |
Family
ID=70331352
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2019/041376 Ceased WO2020085327A1 (en) | 2018-10-23 | 2019-10-21 | Diagnosing device and diagnosing method |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7057837B2 (en) |
| WO (1) | WO2020085327A1 (en) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021056224A (en) * | 2019-09-30 | 2021-04-08 | 株式会社クボタ | Device and method for predicting renewal time of buried pipe, program, and computer-readable recording medium |
| EP3945301A1 (en) * | 2020-07-29 | 2022-02-02 | ABB Schweiz AG | Technologies for producing training data for identifying degradation of physical components |
| JP2022124933A (en) * | 2021-02-16 | 2022-08-26 | 中国電力株式会社 | Apparatus coating deterioration evaluation program and system thereof |
| JP7195493B1 (en) * | 2022-05-30 | 2022-12-23 | 三菱電機株式会社 | Corrosion environment diagnosis system |
| JPWO2023089846A1 (en) * | 2021-11-22 | 2023-05-25 | ||
| WO2025215758A1 (en) * | 2024-04-10 | 2025-10-16 | Ntt株式会社 | Estimation device |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014137284A (en) * | 2013-01-17 | 2014-07-28 | Dainippon Screen Mfg Co Ltd | Teacher data creation support device, teacher data creation device, image classification device, teacher data creation support method, teacher data creation method and image classification method |
| JP2014202747A (en) * | 2013-12-26 | 2014-10-27 | 札幌施設管理株式会社 | Piping evaluation method |
| JP2015084970A (en) * | 2013-10-31 | 2015-05-07 | 株式会社アラヤ・ブレイン・イメージング | Individual characteristics prediction system, individual characteristics prediction method and program |
| JP2017219386A (en) * | 2016-06-06 | 2017-12-14 | 富士電機株式会社 | Radiation piping diagnostic system |
-
2019
- 2019-10-21 WO PCT/JP2019/041376 patent/WO2020085327A1/en not_active Ceased
- 2019-10-21 JP JP2020553405A patent/JP7057837B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014137284A (en) * | 2013-01-17 | 2014-07-28 | Dainippon Screen Mfg Co Ltd | Teacher data creation support device, teacher data creation device, image classification device, teacher data creation support method, teacher data creation method and image classification method |
| JP2015084970A (en) * | 2013-10-31 | 2015-05-07 | 株式会社アラヤ・ブレイン・イメージング | Individual characteristics prediction system, individual characteristics prediction method and program |
| JP2014202747A (en) * | 2013-12-26 | 2014-10-27 | 札幌施設管理株式会社 | Piping evaluation method |
| JP2017219386A (en) * | 2016-06-06 | 2017-12-14 | 富士電機株式会社 | Radiation piping diagnostic system |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021056224A (en) * | 2019-09-30 | 2021-04-08 | 株式会社クボタ | Device and method for predicting renewal time of buried pipe, program, and computer-readable recording medium |
| WO2022070706A1 (en) * | 2019-09-30 | 2022-04-07 | 株式会社クボタ | Buried piping replacement period prediction device, buried piping replacement period prediction method, program, and computer-readable recording medium |
| EP3945301A1 (en) * | 2020-07-29 | 2022-02-02 | ABB Schweiz AG | Technologies for producing training data for identifying degradation of physical components |
| JP2022124933A (en) * | 2021-02-16 | 2022-08-26 | 中国電力株式会社 | Apparatus coating deterioration evaluation program and system thereof |
| JP7620873B2 (en) | 2021-02-16 | 2025-01-24 | 中国電力株式会社 | Equipment coating deterioration evaluation program and system |
| JPWO2023089846A1 (en) * | 2021-11-22 | 2023-05-25 | ||
| WO2023089846A1 (en) * | 2021-11-22 | 2023-05-25 | 株式会社Roxy | Inspection device and inspection method, and program for use in same |
| JP7195493B1 (en) * | 2022-05-30 | 2022-12-23 | 三菱電機株式会社 | Corrosion environment diagnosis system |
| WO2023233465A1 (en) * | 2022-05-30 | 2023-12-07 | 三菱電機株式会社 | Corrosive environment diagnostic system |
| WO2025215758A1 (en) * | 2024-04-10 | 2025-10-16 | Ntt株式会社 | Estimation device |
Also Published As
| Publication number | Publication date |
|---|---|
| JP7057837B2 (en) | 2022-04-20 |
| JPWO2020085327A1 (en) | 2021-09-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7057837B2 (en) | Diagnostic device and diagnostic method | |
| JP6422573B2 (en) | Image processing apparatus, image processing method and program | |
| JPWO2021235364A5 (en) | ||
| JP6556266B2 (en) | Defect inspection apparatus, method and program | |
| US20200096454A1 (en) | Defect detection system for aircraft component and defect detection method for aircraft component | |
| EP2024735A2 (en) | Advanced processing of active thermography signals | |
| KR102806587B1 (en) | Evaluation method and evaluation device for roughening of metal surface | |
| CN109900363A (en) | A kind of object infrared measurement of temperature method and apparatus based on contours extract | |
| CN103218805B (en) | Handle the method and system for the image examined for object | |
| JP2018179968A (en) | Defect detection using ultrasound scan data | |
| JPWO2021240656A5 (en) | Image processing device, control method and program | |
| JP7194410B2 (en) | Diagnostic method, program, and diagnostic device | |
| JP7405362B2 (en) | Concrete structure diagnosis system, concrete structure diagnosis method and program | |
| CN117095236B (en) | Method and system for evaluating test accuracy of blade root wheel groove | |
| JP5009748B2 (en) | Sample condition evaluation method | |
| JP3745075B2 (en) | Film thickness measuring device | |
| WO2008001558A1 (en) | Method of estimating evaluation data on the skin smoothness with naked eye and estimation apparatus | |
| JP2009276149A (en) | Device and method for visual examination | |
| Hagiwara et al. | A method for supporting hammering test by visualization of defect diagnosis on the concrete surfaces | |
| JP6390458B2 (en) | Information processing apparatus, information processing system, information processing method, and information processing program | |
| JP2025067049A (en) | Deterioration state inspection device, inspection system, deterioration state inspection method and deterioration state inspection program | |
| JP2021099285A (en) | Color unevenness inspection device and color unevenness inspection method | |
| CN114974048B (en) | Evaluation method and instrument for displaying consistency | |
| Lin et al. | Evaluation of operability by different gesture input patterns for crack inspection work support system | |
| CN115294092A (en) | Image capturing method and device, industrial endoscope and computer readable storage medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 19875418 Country of ref document: EP Kind code of ref document: A1 |
|
| ENP | Entry into the national phase |
Ref document number: 2020553405 Country of ref document: JP Kind code of ref document: A |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 19875418 Country of ref document: EP Kind code of ref document: A1 |