[go: up one dir, main page]

WO2020085327A1 - Diagnosing device and diagnosing method - Google Patents

Diagnosing device and diagnosing method Download PDF

Info

Publication number
WO2020085327A1
WO2020085327A1 PCT/JP2019/041376 JP2019041376W WO2020085327A1 WO 2020085327 A1 WO2020085327 A1 WO 2020085327A1 JP 2019041376 W JP2019041376 W JP 2019041376W WO 2020085327 A1 WO2020085327 A1 WO 2020085327A1
Authority
WO
WIPO (PCT)
Prior art keywords
diagnostic
feature
unit
score
sensor data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2019/041376
Other languages
French (fr)
Japanese (ja)
Inventor
理恵 波並
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asahi Kasei Corp
Asahi Chemical Industry Co Ltd
Original Assignee
Asahi Kasei Corp
Asahi Chemical Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kasei Corp, Asahi Chemical Industry Co Ltd filed Critical Asahi Kasei Corp
Priority to JP2020553405A priority Critical patent/JP7057837B2/en
Publication of WO2020085327A1 publication Critical patent/WO2020085327A1/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N17/00Investigating resistance of materials to the weather, to corrosion, or to light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/952Inspecting the exterior surface of cylindrical bodies or wires
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Definitions

  • the appearance of the steel material is photographed, and the deterioration degree of the steel material is determined based on the hue and saturation of the surface of the steel material displayed in the captured image.
  • a method for evaluation is known (for example, the deterioration diagnosis method described in Patent Document 1). In such an evaluation method, since the evaluation result can be displayed on the display unit or the like for each color, the user can recognize the deterioration at a glance.
  • a diagnostic device and a diagnostic method capable of diagnosing a state of an inspection target without performing complicated work and disclosing the state of the inspection target to a user.
  • the score calculation unit 30 calculates the diagnostic score of the diagnostic image data based on the features input from the feature extraction unit 20.
  • the “diagnostic score” is a score indicating the state of the pipe calculated based on certain diagnostic image data.
  • the “diagnostic score” is a comprehensive diagnostic standard of diagnostic image data calculated based on a score (diagnostic partial score) indicating a diagnostic standard for each feature such as surface unevenness and discoloration of the protective material surface. It is the indicated score (total score). The total score is obtained by weighting and adding each diagnostic partial score.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Engineering & Computer Science (AREA)
  • Ecology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Environmental Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Testing Resistance To Weather, Investigating Materials By Mechanical Methods (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

In order to diagnose the state of an inspection target which is not exposed at an outer surface, an external appearance image of the inspection target is used to diagnose the state of the inspection target. This diagnosing device is a diagnosing device for diagnosing the state of an inspection target, and is provided with: a feature extracting unit into which sensor data for diagnosis, obtained by measuring the inspection target from the outside, are input, and which extracts at least one pre-determined feature from the sensor data for diagnosis; a score calculating unit for calculating a diagnosis score relating to the sensor data for diagnosis, on the basis of the feature input from the feature extracting unit; and a diagnosing unit which diagnoses the state of the inspection target on the basis of the diagnosis score input from the score calculating unit, and outputs a diagnosis result. The feature extracting unit includes a learned model obtained by mechanical learning using sensor data for learning including sensor data including a feature, and extracts an inferred result from the learned model, corresponding to the input sensor data for diagnosis, as a feature of the sensor data for diagnosis.

Description

診断装置及び診断方法Diagnostic device and diagnostic method

 本開示は、診断装置及び診断方法に関する。 The present disclosure relates to a diagnostic device and a diagnostic method.

 従来、例えば腐食等の劣化が生じる鋼材の劣化度を評価する方法として、鋼材の外観を撮影し、撮影した画像に表示される鋼材の表面の色相や彩度に基づいて、鋼材の劣化度を評価する方法が知られている(例えば、特許文献1に記載の劣化診断方法)。このような評価方法では、表示部等に評価結果を色別に表示することができるため、ユーザは一見して劣化を認識することができる。 Conventionally, for example, as a method of evaluating the degree of deterioration of a steel material that causes deterioration such as corrosion, the appearance of the steel material is photographed, and the deterioration degree of the steel material is determined based on the hue and saturation of the surface of the steel material displayed in the captured image. A method for evaluation is known (for example, the deterioration diagnosis method described in Patent Document 1). In such an evaluation method, since the evaluation result can be displayed on the display unit or the like for each color, the user can recognize the deterioration at a glance.

 しかしながら、上述の評価方法は、評価対象の外表面の劣化を診断して表示する方法であり、鋼材の表面が保護材で覆われている場合等、撮影した画像に劣化が生じる部分が写らない場合には、上述の評価方法を用いることができない。また、鋼材の劣化度を評価するために保護材を除去して上述の評価を行うことは、鋼材がプラント内の配管や送電設備等の大規模な設備である場合には現実的ではない。このため、鋼材の表面が保護材で覆われていても、保護材を除去することなく(すなわち保護材の外観から)、配管の状態を診断する手法が望まれている。 However, the above-described evaluation method is a method of diagnosing and displaying deterioration of the outer surface of the evaluation target, and when the surface of the steel material is covered with a protective material, the captured image does not show a part that causes deterioration. In that case, the evaluation method described above cannot be used. Further, it is not realistic to remove the protective material and perform the above-described evaluation in order to evaluate the degree of deterioration of the steel material when the steel material is a large-scale facility such as a pipe or a power transmission facility in the plant. Therefore, there is a demand for a method of diagnosing the condition of the pipe without removing the protective material (that is, from the appearance of the protective material) even if the surface of the steel material is covered with the protective material.

特開2016-223815号公報JP, 2016-223815, A

 そこで、保護材に覆われた配管の劣化状態を保護材を除去することなく判断するために、保護材の外観等の画像データを画像処理することにより配管の劣化の推論を行うことが考えられる。しかしながら、保護材に覆われた配管の外観画像は、配管が直接表示されていない画像であるため、当該画像に基づく配管の劣化状態の診断結果は、劣化状態の推論結果となる。このため、保護材に覆われた配管の劣化状態の診断結果のみを提示した場合、ユーザには当該診断結果に至った根拠が分からず、診断結果に対するユーザの納得感が低くなってしまうという課題があった。 Therefore, in order to judge the deterioration state of the pipe covered with the protective material without removing the protective material, it is conceivable to infer the deterioration of the pipe by image-processing the image data such as the appearance of the protective material. . However, since the appearance image of the pipe covered with the protective material is an image in which the pipe is not directly displayed, the diagnosis result of the deterioration state of the pipe based on the image is an inference result of the deterioration state. Therefore, when only the diagnosis result of the deterioration state of the pipe covered with the protective material is presented, the user does not know the reason for reaching the diagnosis result, and the user's satisfaction with the diagnosis result becomes low. was there.

 本開示は、このような問題に鑑みてなされたもので、その目的とするところは、診断対象の診断結果を、ユーザの納得感が得られるように提示することができる診断装置及び診断方法を得ることにある。 The present disclosure has been made in view of such a problem, and an object thereof is to provide a diagnostic device and a diagnostic method that can present a diagnostic result of a diagnostic target so that the user can be satisfied. To get.

 上記課題を解決するために、本開示の一態様に係る診断装置は、検査対象の状態を診断する診断装置であって、検査対象を外部から測定して得られた診断用センサデータが入力され、診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する特徴抽出部と、特徴抽出部から入力された特徴に基づいて、診断用センサデータが有する特徴に関連付けられた診断用部分スコアを算出し、診断用部分スコアに基づいて診断用センサデータの診断用スコアを算出するスコア算出部と、スコア算出部から入力された診断用スコアに基づいて、検査対象の状態を診断して診断結果を出力する診断部と、前記診断結果と前記診断用部分スコアとを表示する表示部と、を備えることを特徴とする。 In order to solve the above problems, a diagnostic device according to an aspect of the present disclosure is a diagnostic device for diagnosing a state of an inspection target, and diagnostic sensor data obtained by externally measuring the inspection target is input. A feature extraction unit that extracts at least one predetermined feature from the diagnostic sensor data, and a diagnostic partial score associated with the feature of the diagnostic sensor data based on the feature input from the feature extraction unit. And a score calculation unit that calculates the diagnostic score of the diagnostic sensor data based on the diagnostic partial score, and based on the diagnostic score input from the score calculation unit, diagnoses and diagnoses the state of the inspection target. It is characterized by comprising a diagnostic unit for outputting a result and a display unit for displaying the diagnostic result and the diagnostic partial score.

 また、本開示の他の態様に係る診断方法は、検査対象の状態を診断する診断方法であって、検査対象を外部から測定して診断用センサデータを得る工程と、診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する工程と、抽出された特徴に基づいて、診断用センサデータが有する特徴に関連づけられた診断用部分スコアを算出する工程と、診断用部分スコアに基づいて、診断用センサデータの診断用スコアを算出する工程と、診断用スコアに基づいて、検査対象の状態を診断した診断結果を得る工程と、診断用スコアと診断結果とを表示部に表示する工程と、を備えることを特徴とする。 Further, a diagnostic method according to another aspect of the present disclosure is a diagnostic method for diagnosing a state of an inspection target, the step of obtaining the sensor data for diagnosis by externally measuring the inspection target, and from the sensor data for diagnosis, A step of extracting at least one predetermined characteristic; a step of calculating a diagnostic partial score associated with the characteristic of the diagnostic sensor data based on the extracted characteristic; A step of calculating a diagnostic score of the diagnostic sensor data, a step of obtaining a diagnostic result of diagnosing a state of an inspection target based on the diagnostic score, and a step of displaying the diagnostic score and the diagnostic result on a display unit And are provided.

 本開示の一態様によれば、煩雑な作業を行うことなく検査対象の状態を診断し、かつ検査対象の状態をユーザに開示することが可能な診断装置及び診断方法を得ることができる。 According to one aspect of the present disclosure, it is possible to obtain a diagnostic device and a diagnostic method capable of diagnosing a state of an inspection target without performing complicated work and disclosing the state of the inspection target to a user.

本開示の第一実施形態に係る診断装置の一構成例を示すブロック図である。It is a block diagram showing an example of 1 composition of a diagnostic device concerning a first embodiment of this indication. 本開示の第一実施形態に係る診断装置の表示部の一構成例を示す該酌図である。FIG. 3 is a control diagram showing a configuration example of a display unit of a diagnostic device according to a first embodiment of the present disclosure. 本開示の第一実施形態に係る診断装置の診断時の動作を示すフローチャートである。3 is a flowchart showing an operation at the time of diagnosis of the diagnostic device according to the first embodiment of the present disclosure. 本開示の第一実施形態に係る診断装置の診断部における診断用スコアの算出方法を示す概略図である。FIG. 3 is a schematic diagram showing a method of calculating a diagnostic score in a diagnostic unit of the diagnostic device according to the first embodiment of the present disclosure. 本開示の第一実施形態に係る診断装置の学習時の一構成例を示すブロック図である。It is a block diagram showing an example of 1 composition at the time of learning of a diagnostic device concerning a first embodiment of this indication. 本開示の第一実施形態に係る診断装置の学習時の動作を示すフローチャートである。5 is a flowchart showing an operation at the time of learning of the diagnostic device according to the first embodiment of the present disclosure. 本開示の第一実施形態に係る診断装置の特徴学習部の機能を説明する概略図である。It is a schematic diagram explaining a function of a feature learning part of a diagnostic device concerning a first embodiment of this indication. 本開示の第一実施形態に係る診断装置の設定時の一構成例を示すブロック図である。It is a block diagram showing an example of composition at the time of setting of a diagnostic instrument concerning a first embodiment of this indication. 本開示の第一実施形態に係る診断装置の設定時の動作を示すフローチャートである。5 is a flowchart showing an operation at the time of setting of the diagnostic device according to the first embodiment of the present disclosure. 本開示の第二実施形態に係る診断装置の一構成例を示すブロック図である。It is a block diagram showing an example of 1 composition of a diagnostic device concerning a second embodiment of this indication. 本開示の第二実施形態に係る診断装置の表示部の一構成例を示す概略図である。FIG. 5 is a schematic diagram showing a configuration example of a display unit of a diagnostic device according to a second embodiment of the present disclosure. 本開示の第一、第二実施形態に係る診断装置のハードウェア構成の一例を示すブロック図である。FIG. 3 is a block diagram showing an example of a hardware configuration of a diagnostic device according to the first and second embodiments of the present disclosure.

 以下、実施形態を通じて本開示を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。 Hereinafter, the present disclosure will be described through embodiments, but the following embodiments do not limit the invention according to the claims. In addition, not all of the combinations of features described in the embodiments are essential to the solving means of the invention.

1.第一実施形態
 以下、本実施形態に係る診断装置について、図1から図9を参照して説明する。本実施形態に係る診断装置は、入力されたセンサデータから特徴を抽出し、抽出した特徴に基づいてセンサデータについての推論結果を出力する機能を有する。本実施形態に係る診断装置は、一例として、検査対象を外部から撮影して得られた外観画像の画像データに基づいて、検査対象の状態等を診断する診断装置であり、特に外表面に露出していない検査対象の内部状態等を診断する診断装置である。本実施形態に係る診断装置100は、具体的には、配管の表面に保護材が巻かれることにより配管が外表面に露出していない場合であっても、内部の配管の状態の診断を行うことができる診断装置である。
 なお、本実施形態に係る診断装置は画像データ以外に加速度、角速度、音波、磁気、気圧又は圧力などのデータを用いてもよい。
1. First Embodiment Hereinafter, a diagnostic device according to this embodiment will be described with reference to FIGS. 1 to 9. The diagnostic device according to the present embodiment has a function of extracting a feature from the input sensor data and outputting an inference result for the sensor data based on the extracted feature. The diagnostic device according to the present embodiment is, for example, a diagnostic device that diagnoses the state of the inspection target based on image data of an external image obtained by photographing the inspection target from the outside, and is particularly exposed on the outer surface. It is a diagnostic device for diagnosing the internal state of an inspection target that has not been tested. Specifically, the diagnostic device 100 according to the present embodiment diagnoses the state of the internal pipe even when the pipe is not exposed to the outer surface due to the protective material being wound on the surface of the pipe. It is a diagnostic device that can perform.
Note that the diagnostic device according to the present embodiment may use data such as acceleration, angular velocity, sound waves, magnetism, atmospheric pressure or pressure other than image data.

[診断装置の構造]
 図1に示すように、診断装置100は、カメラ200で撮影された、保護材で被覆された配管(以下、保護材付き配管という)とその周辺の外観画像の画像データに基づいて推論した配管の状態を推論結果として表示部10に表示する機能を有する。以下、保護材付き配管とその周辺の外観画像を「診断用画像」といい、その画像データを「診断用画像データ」という。診断装置100は、診断用画像データから抽出した保護材表面や配管を載置する架台表面の劣化状態を診断し、配管の劣化状態の推論結果として、配管の腐食レベル又は配管の検査要否もしくは検査必要度を表示部10に表示する。
[Structure of diagnostic device]
As shown in FIG. 1, the diagnostic device 100 is a pipe inferred based on image data of a pipe covered with a protective material (hereinafter referred to as a pipe with a protective material) photographed by a camera 200 and an external image of the periphery thereof. It has a function of displaying the state of as the inference result on the display unit 10. Hereinafter, the external image of the pipe with the protective material and its surroundings is referred to as "diagnostic image", and the image data thereof is referred to as "diagnostic image data". The diagnostic device 100 diagnoses the deterioration state of the surface of the protective material extracted from the diagnostic image data and the surface of the pedestal on which the pipe is placed, and as a result of inferring the deterioration state of the pipe, the corrosion level of the pipe or the necessity of inspecting the pipe or The inspection necessity degree is displayed on the display unit 10.

 また、診断装置100は、カメラ200で撮影された保護材付き配管の劣化に関連する保護材付き配管の外観又はその周辺部に生じた変質部分の画像の画像データを用いて、劣化部分を機械学習する機能を有する。以下、保護材付き配管の外観又はその周辺部に生じた変質部分の画像を学習用画像といい、その画像データを学習用画像データという。
 さらに、診断装置100は、配管状態の判断基準を設定する機能を有する。診断基準は、カメラ200で撮影された、劣化の程度が予め明らかになっている保護材付き配管及びその周辺の外観画像の画像データと、外観画像で撮影した配管の劣化の程度(例えば配管の厚み減少量)とを用いて設定される。以下、劣化の程度が予め明らかになっている保護材付き配管とその周辺の外観画像を設定用画像といい、その画像データを設定用画像データという。
 以下、カメラ200及び診断装置100について説明する。
In addition, the diagnostic device 100 uses the image data of the appearance of the pipe with the protective material or the image data of the deteriorated portion around the pipe related to the deterioration of the pipe with the protective material captured by the camera 200 to detect the deteriorated portion as a machine. Has the ability to learn. Hereinafter, the image of the appearance of the pipe with the protective material or the altered portion generated in the peripheral portion thereof is referred to as a learning image, and the image data thereof is referred to as learning image data.
Further, the diagnostic device 100 has a function of setting a criterion for determining a pipe state. The diagnostic criteria are image data of an external appearance image of the pipe with a protective material and its surroundings, the degree of deterioration of which has been determined by the camera 200 in advance, and the degree of deterioration of the pipe taken by the external appearance image (for example, of the pipe). Thickness reduction amount) and. Hereinafter, an image of the appearance of the pipe with a protective material and its surroundings, the degree of deterioration of which is known in advance, is referred to as a setting image, and the image data thereof is referred to as setting image data.
The camera 200 and the diagnostic device 100 will be described below.

(カメラ)
 カメラ200は、公知の撮像装置であり、検査対象である保護材付配管及びその周辺を撮影することで、画像データ(学習用画像データ、設定用画像データ又は診断用画像データ)を生成する。カメラ200は、カメラ200及び診断装置100に着脱可能な外部メモリ、カメラ200が接続された有線ネットワーク又は無線ネットワーク等を介して、画像データを診断装置100に出力する。なお、画像は、静止画または動画のいずれであってもよく、動画の場合には静止画を切り出すことにより検査対象内部の状態の診断が行われる。
(camera)
The camera 200 is a known imaging device, and generates image data (learning image data, setting image data, or diagnostic image data) by photographing the protective material-attached pipe to be inspected and its periphery. The camera 200 outputs image data to the diagnostic device 100 via an external memory that is attachable to and detachable from the camera 200 and the diagnostic device 100, a wired network or a wireless network to which the camera 200 is connected, and the like. The image may be either a still image or a moving image. In the case of a moving image, the still image is cut out to diagnose the internal state of the inspection target.

(学習用画像データ)
 カメラ200で撮影される学習用画像データは、配管の劣化によって保護材の表面又はその周辺部に生じたと推定される変質部分の画像の画像データである。保護材付き配管は、プラント内において架台上に配置されている場合が多い。このため、保護材付き配管の劣化に関連する変質は、例えば保護材の表面や、保護材付き配管の下に配置された架台の表面に現れる。学習用画像データは、保護材付き配管や架台に現れた、配管劣化の判断に有効な要素を含む変質部分を撮影して生成される。有効な要素としては、例えば、保護材表面や架台の塗装の色(変色)、保護材の剥がれ、保護材表面の変形、架台に付着した錆等が挙げられる。
(Learning image data)
The learning image data captured by the camera 200 is image data of an image of a deteriorated portion which is estimated to be generated on the surface of the protective material or its peripheral portion due to deterioration of the pipe. In many cases, the pipe with the protective material is arranged on a pedestal in the plant. Therefore, the deterioration associated with the deterioration of the pipe with the protective material appears on, for example, the surface of the protective material or the surface of the pedestal arranged below the pipe with the protective material. The image data for learning is generated by capturing an image of a deteriorated portion that appears in a pipe with a protective material or a pedestal and that includes an element effective for determining the deterioration of the pipe. Examples of effective elements include the paint color (discoloration) of the surface of the protective material and the pedestal, peeling of the protective material, deformation of the surface of the protective material, and rust adhered to the pedestal.

 カメラ200で撮影される設定用画像データは、劣化の程度が予め明らかになっている保護材付き配管及びその周辺の外観画像の画像データである。設定用画像データは、例えば以前撮影された保護材付き配管及びその周辺の外観を含む画像データである。設定用画像データは、設定用画像データに対応する配管を実際に測定することにより、予め配管の厚みに関するデータ(例えば配管の厚み減少量)等の内部状態の指標となるデータが明らかになっている。 The setting image data captured by the camera 200 is the image data of the appearance image of the pipe with the protective material and its surroundings, the degree of deterioration of which is known in advance. The setting image data is image data that includes, for example, the appearance of the pipe with the protective material and its surroundings that was previously captured. For the setting image data, by actually measuring the pipes corresponding to the setting image data, data such as data relating to the thickness of the pipes (for example, the amount of decrease in the thickness of the pipes), which is an index of the internal state, becomes clear. There is.

 カメラ200で撮影される診断用画像データ202は、保護材付き配管の外観のみでなく、保護材付き配管の周辺の架台等を含む領域を撮影した画像のデータである。検査対象内部の配管の劣化によって外観に変化が生じ得る領域を撮影して診断用画像データ202
を生成することで、検査対象内部の状態をより適切に診断することができる。
The diagnostic image data 202 photographed by the camera 200 is data of an image of not only the appearance of the pipe with the protective material but also an area including the pedestal and the like around the pipe with the protective material. The diagnostic image data 202 is obtained by photographing a region in which the appearance may change due to deterioration of the pipe inside the inspection target.
By generating, it is possible to more appropriately diagnose the internal state of the inspection target.

(診断装置)
 診断装置100は、特徴抽出部20と、スコア算出部30と、診断部40と、画像合成部50と、表示部10とを備えている。以下、診断装置100の各部について説明する。
(Diagnostic device)
The diagnostic device 100 includes a feature extraction unit 20, a score calculation unit 30, a diagnostic unit 40, an image synthesis unit 50, and a display unit 10. Hereinafter, each part of the diagnostic device 100 will be described.

(特徴抽出部)
 特徴抽出部20は、データ解析部22、特徴推論部24及び特徴学習部26を有している。
 特徴抽出部20は、学習用画像データ、設定用画像データ及び診断用画像データ202が入力され、これら画像データから、予め定められた少なくとも1つの特徴を抽出する。
(Feature extraction unit)
The feature extraction unit 20 has a data analysis unit 22, a feature inference unit 24, and a feature learning unit 26.
The feature extraction unit 20 receives the learning image data, the setting image data, and the diagnostic image data 202, and extracts at least one predetermined feature from these image data.

 データ解析部22は、学習用画像データ、設定用画像データ及び診断用画像データ202の解析を行う。データ解析部22は、これら画像データからスコア算出に用いる要素を算出して出力する。データ解析部22は、解析の結果を、特徴推論部24に特徴量として出力する。また、データ解析部22は、解析の結果を、スコア算出部30に特徴として出力する。これにより、特徴抽出部20では、画像データに基づいて、配管の劣化に関連して保護材付き配管の外観又はその周辺の架台等に生じる変質に関する情報を特徴として抽出することができる。 The data analysis unit 22 analyzes the learning image data, the setting image data, and the diagnostic image data 202. The data analysis unit 22 calculates and outputs an element used for score calculation from these image data. The data analysis unit 22 outputs the analysis result to the feature inference unit 24 as a feature amount. Further, the data analysis unit 22 outputs the analysis result to the score calculation unit 30 as a feature. As a result, the feature extraction unit 20 can extract, as a feature, the information about the appearance of the protective material-attached pipe or the alteration that occurs in the pedestal or the like around the pipe, in association with the deterioration of the pipe, based on the image data.

 特徴推論部24は、特徴学習部26において予め学習用画像データを用いた機械学習により得られた学習済モデル242を有している。特徴抽出部20は、入力された画像データや、画像データの特徴に対する学習済モデルの推論結果を、診断用画像データの特徴として抽出する。 The feature inference unit 24 has a learned model 242 obtained in advance by machine learning using the image data for learning in the feature learning unit 26. The feature extraction unit 20 extracts the input image data and the inference result of the learned model for the feature of the image data as the feature of the diagnostic image data.

(データ解析部)
 データ解析部22は、入力された画像データ(学習用画像データ、設定用画像データ及び診断用画像データ)を解析する。データ解析部22は、画像データに対応する画像(学習用画像、設定用画像及び診断用画像)における色、線、および形状、ならびにこれらの組合せに基づいて、画像に現れる変質の指標を特徴として算出する。
 保護材表面や架台の塗装の色(変色)、保護材の剥がれ、保護材表面の変形等の変質部分を示す指標としては、例えば画像に写る保護材表面や架台の塗装の変色の面積、保護材の剥がれの大きさ、保護材表面の変形の個数や面積等が挙げられる。
(Data analysis section)
The data analysis unit 22 analyzes the input image data (learning image data, setting image data, and diagnostic image data). The data analysis unit 22 features an index of alteration appearing in the image based on the colors, lines, and shapes in the images (learning images, setting images, and diagnostic images) corresponding to the image data, and combinations thereof. calculate.
As an indicator of the deteriorated part such as the color of the paint on the surface of the protective material (discoloration), the peeling of the protective material, and the deformation of the surface of the protective material, for example, the area of the discolored surface of the protective material or the frame of the protective material shown in the image Examples include the amount of peeling of the material, the number and area of deformation of the protective material surface.

 データ解析部22において、入力された画像データから特徴量として当該画像データの特徴点を抽出してもよい。特徴点を抽出するアルゴリズムの一つとして、例えばORB(Oriented FAST and Rotated BRIEF)、SIFT(Scale-invariant feature transform)、SURF(Speed-Upped Robust Feature)、Harrisコーナ、KAZE等を用いる。このようなアルゴリズムは、特徴点抽出プログラムとして特徴抽出部20内の図示しない記憶部に記憶されており、特徴量等の抽出処理時には、例えば図示しないRAM(Random Access Memory)に展開される。
 データ解析部22は、特徴点の抽出処理を行う際に、例えば入力された画像データを所定サイズに拡大、縮小するサイズ変更処理や、入力された画像データのノイズを軽減するための平滑化処理等の前処理を行っても良い。
In the data analysis unit 22, the characteristic points of the image data may be extracted as the characteristic amount from the input image data. As one of the algorithm for extracting the feature points, for example, ORB (Oriented FAST and Rotated BRIEF), SIFT (Scale-invariant feature transform), SURF (Speed-Upped Robust Feature), Harris corner, KAZE, etc. are used. Such an algorithm is stored in a storage unit (not shown) in the feature extraction unit 20 as a feature point extraction program, and is expanded in, for example, a RAM (Random Access Memory) (not shown) during the extraction process of the feature amount and the like.
When performing the feature point extraction process, the data analysis unit 22 performs, for example, a size change process for enlarging or reducing the input image data to a predetermined size, or a smoothing process for reducing noise in the input image data. You may perform pretreatment, such as.

 データ解析部22は、画像データの解析結果を、特徴推論部24又はスコア算出部30に出力する。データ解析部22は、例えば、画像データからエッジ検出を行い、エッジに囲まれた領域として検出された保護材表面の変質部分の有無(例えば、塗装の劣化や変色・錆の有無)やその領域の面積等を特徴としてスコア算出部30に出力する。また、データ解析部22は、画像解析によって抽出した1又は複数の特徴量に基づいて推論される特徴(例えば、保護材の表面の変形や剥がれの有無等)を得るために、画像解析の結果を特徴量として特徴推論部24にも出力する。
 また、データ解析部22は、抽出した特徴を、画像合成部50に出力する。
The data analysis unit 22 outputs the analysis result of the image data to the feature inference unit 24 or the score calculation unit 30. For example, the data analysis unit 22 performs edge detection from the image data, and the presence or absence of an altered portion of the protective material surface detected as an area surrounded by the edge (for example, the presence or absence of coating deterioration, discoloration, rust) and the area thereof. It is output to the score calculation unit 30 by using the area and the like as features. In addition, the data analysis unit 22 obtains a feature inferred based on one or a plurality of feature quantities extracted by the image analysis (for example, the presence or absence of deformation or peeling of the surface of the protective material) and the result of the image analysis. Is also output to the feature inference unit 24 as a feature amount.
The data analysis unit 22 also outputs the extracted features to the image synthesis unit 50.

(特徴推論部)
 特徴推論部24は、データ解析部22から入力された特徴量に対する推論結果を、診断用画像データ202の特徴として抽出する学習済モデル242を有している。また、学習済モデル242への入力として、データ解析部22の解析結果の代わりに、診断用画像データ202を入力してもよい。特徴推論部24は、学習済モデル242の推論結果を特徴としてスコア算出部30に出力する。特徴推論部24は、抽出した特徴を、画像合成部50にも出力する。
(Feature inference section)
The feature inference unit 24 has a learned model 242 that extracts an inference result for the feature amount input from the data analysis unit 22 as a feature of the diagnostic image data 202. Further, as the input to the learned model 242, the diagnostic image data 202 may be input instead of the analysis result of the data analysis unit 22. The feature inference unit 24 outputs the inference result of the learned model 242 to the score calculation unit 30 as a feature. The feature inference unit 24 also outputs the extracted features to the image synthesis unit 50.

(特徴学習部)
 特徴学習部26は、学習済モデル242を生成する。特徴学習部26は、入力された学習用画像データ、初期モデル及び学習用パラメータに基づいて、機械学習により学習済モデル242を生成する。機械学習の手法については後述する。
(Feature learning section)
The feature learning unit 26 generates the learned model 242. The feature learning unit 26 generates a learned model 242 by machine learning based on the input learning image data, initial model and learning parameters. The method of machine learning will be described later.

(スコア算出部)
 スコア算出部30は、特徴抽出部20から入力された特徴に基づいて、診断用画像データの診断用スコアを算出する。「診断用スコア」とは、ある診断用画像データに基づいて算出された配管の状態を示すスコアである。「診断用スコア」は、保護材表面の表面凹凸や変色等の特徴毎に診断基準を示したスコア(診断用部分スコア)に基づいて算出された、診断用画像データの総合的な診断基準を示したスコア(トータルスコア)である。トータルスコアは、各診断用部分スコアを重み付けして加算することにより得られる。
(Score calculator)
The score calculation unit 30 calculates the diagnostic score of the diagnostic image data based on the features input from the feature extraction unit 20. The “diagnostic score” is a score indicating the state of the pipe calculated based on certain diagnostic image data. The "diagnostic score" is a comprehensive diagnostic standard of diagnostic image data calculated based on a score (diagnostic partial score) indicating a diagnostic standard for each feature such as surface unevenness and discoloration of the protective material surface. It is the indicated score (total score). The total score is obtained by weighting and adding each diagnostic partial score.

 なお、スコア算出部30は、特徴抽出部20から入力された特徴に加えて、配管の周囲環境に関連するデータ、配管内容物に関連するデータ等に基づいて診断用スコアを算出してもよい。配管の周囲環境に関するデータとしては、診断対象となる配管が設置されている場所、当該場所の天候、気温、気圧、湿度等を用いることができる。配管内容物に関連するデータとしては、内容物の種類、温度、圧力、流速等を用いることができる。 The score calculation unit 30 may calculate the diagnostic score based on the characteristics input from the characteristic extraction unit 20, data related to the surrounding environment of the pipe, data related to the pipe contents, and the like. . As the data on the surrounding environment of the pipe, a place where the pipe to be diagnosed is installed, weather of the place, temperature, atmospheric pressure, humidity and the like can be used. As the data related to the pipe contents, the type of contents, temperature, pressure, flow velocity, etc. can be used.

 診断用部分スコアは、特徴抽出部20から入力された特徴と、各特徴に対して予め設定された特徴別スコア(係数)に基づいて算出される。また、スコア算出部30は、複数の診断用画像データのそれぞれについて、複数の診断用部分スコアを算出してもよい。 The diagnostic partial score is calculated based on the features input from the feature extraction unit 20 and a feature-specific score (coefficient) preset for each feature. Further, the score calculation unit 30 may calculate a plurality of diagnostic partial scores for each of the plurality of diagnostic image data.

 なお、「診断用部分スコア」及び「診断用スコア」は、特徴を入力した場合の学習済モデル(不図示)の推論結果から得てもよい。当該学習済モデルの学習用データとしては、上述の特徴と、配管の劣化の有無又は劣化の程度を示すデータとを含むデータが用いられる。
 また、特徴を入力した場合の学習済モデルの推論結果として、「診断用スコア」の代わりに配管の劣化の程度を直接得ても良い。診断用スコアについては、後に詳細に説明する。
The "diagnosis partial score" and the "diagnosis score" may be obtained from the inference result of the learned model (not shown) when the feature is input. As the learning data of the learned model, data including the above-mentioned characteristics and data indicating the presence or absence of deterioration of the pipe or the degree of deterioration is used.
Further, as the inference result of the learned model when the feature is input, the degree of deterioration of the pipe may be directly obtained instead of the “diagnostic score”. The diagnostic score will be described in detail later.

 トータルスコアは、例えば、配管の状態を診断するための診断基準として用いられる。この場合、診断用部分スコアは、トータルスコアの算出のために用いられるとともに、診断の根拠として、検査員等のユーザに示されるスコアとなる。
 スコア算出部30は、診断用部分スコア及びトータルスコアを表示部10及び診断部40に出力する。
The total score is used, for example, as a diagnostic criterion for diagnosing the condition of the pipe. In this case, the diagnostic partial score is used for calculating the total score and is a score shown to a user such as an inspector as a basis for the diagnosis.
The score calculation unit 30 outputs the diagnostic partial score and the total score to the display unit 10 and the diagnostic unit 40.

(診断部)
 診断部40は、スコア算出部30から入力された診断用スコアに基づいて、保護材付き配管の内部状態を診断して診断結果を出力する。診断部40は、例えば、上述したトータルスコアに基づいて保護材付き配管の内部状態を診断する。診断部40は、予め決定されたトータルスコアと、少なくとも一つの閾値とを比較することにより、各診断用画像データの診断ランクを決定する。診断部40は、決定された診断ランクを表示部10に出力する。
(Diagnostic department)
The diagnosis unit 40 diagnoses the internal state of the protective material-equipped pipe based on the diagnosis score input from the score calculation unit 30, and outputs the diagnosis result. The diagnosis unit 40 diagnoses the internal state of the pipe with a protective material based on the above-mentioned total score, for example. The diagnostic unit 40 determines the diagnostic rank of each diagnostic image data by comparing the predetermined total score with at least one threshold value. The diagnosis unit 40 outputs the determined diagnosis rank to the display unit 10.

 また、診断部40は、診断部40おける診断基準を決定するための閾値を設定する診断基準設定部42を有する。診断基準設定部42は、設定用画像データと、設定用画像データに対応する保護材付き配管の内部を測定して得られた内部状態の指標となるデータ(例えば配管の厚み減少量)とを表示部に表示する。閾値設定者であるユーザは、表示されたデータに基づいて、診断基準設定部42に対して閾値設定指示を入力する。診断基準設定部42は、上記閾値を設定するにあたって、ユーザによって、配管の内部状態の指標となるデータ(配管の厚み減少量)に対して設定される、配管の検査要否を分ける基準値を設定するように構成されていてもよい。上述の基準値には、さらに上側マージン及び下側マージンを設定することができる。 The diagnostic unit 40 also includes a diagnostic standard setting unit 42 that sets a threshold for determining the diagnostic standard in the diagnostic unit 40. The diagnostic standard setting unit 42 stores the setting image data and the data (for example, the amount of decrease in the thickness of the pipe) that is an index of the internal state obtained by measuring the inside of the pipe with the protective material corresponding to the setting image data. Display on the display. A user who is a threshold value setting person inputs a threshold value setting instruction to the diagnostic reference setting unit 42 based on the displayed data. When setting the above-mentioned threshold, the diagnostic standard setting unit 42 sets a standard value, which is set by the user with respect to data (amount of decrease in thickness of the pipe) that is an index of the internal state of the pipe and determines whether or not to inspect the pipe. It may be configured to set. An upper margin and a lower margin can be further set in the above-mentioned reference value.

(画像合成部)
 画像合成部50は、入力された診断用画像データに対応する画像に対して、特徴抽出部20又は特徴推論部24で抽出した特徴を示すマークを合成して解析後画像を作成する。特徴を示すマークとは、例えば、配管や架台のエッジを示す線、保護材表面の変形や変色部分を示す円やマーク(図2参照)をいい、特徴毎に異なる色で示されていても良い。画像合成部50で合成された解析後画像データは、表示部10に出力される。
(Image synthesis section)
The image synthesizing unit 50 synthesizes the mark corresponding to the feature extracted by the feature extracting unit 20 or the feature inferring unit 24 with the image corresponding to the input diagnostic image data to create an analyzed image. The characteristic mark is, for example, a line indicating the edge of a pipe or a gantry, a circle or a mark (see FIG. 2) indicating a deformation or discolored portion of the surface of the protective material, and even if it is indicated by a different color for each characteristic. good. The analyzed image data combined by the image combining unit 50 is output to the display unit 10.

(表示部)
 表示部10は、診断部40から出力された診断結果等を表示する。
 図1に示すように、表示部10は、診断部40での診断結果を示す診断結果表示領域110を有している。また、表示部10は、診断の根拠として診断用部分スコア等を表示する診断用部分スコア表示領域120と、画像合成部50で合成された解析後画像134及び解析前の診断用画像132を表示する診断画像表示領域130とを有している。
(Display)
The display unit 10 displays the diagnosis result output from the diagnosis unit 40.
As shown in FIG. 1, the display unit 10 has a diagnosis result display area 110 that shows the diagnosis result of the diagnosis unit 40. In addition, the display unit 10 displays a diagnostic partial score display area 120 that displays a diagnostic partial score and the like as a basis for the diagnosis, and a post-analysis image 134 and a pre-analysis diagnostic image 132 that are combined by the image combining unit 50. Diagnostic image display area 130.

 図2に、表示部10の具体例を示す。図2に示すように、表示部10の診断結果表示領域110には、診断用画像データに基づいて算出されたトータルスコアと、トータルスコアに基づいて決定された診断結果(ランク)が表示される。図11では、トータルスコア「×××」に対応するランク「R-1」が示されている。診断装置100では、例えばランク「R-1」から「R-4」まで設定されている。「R-1」は、最も配管の状態が良い(配管の腐食可能性が低い)と推定されたランクであり、「R-4」は、最も配管の状態が悪い(配管の腐食可能性が高い)と推定されたランクである。例えば、「R-1」「R-2」は要経過観察を示すランクであり、「R-3」「R-4」は配管の劣化を実際に測定する定量検査(例えば、配管の厚み減少量を測定する超音波検査)が必須であることを示すランクとすることができる。 FIG. 2 shows a specific example of the display unit 10. As shown in FIG. 2, in the diagnostic result display area 110 of the display unit 10, the total score calculated based on the diagnostic image data and the diagnostic result (rank) determined based on the total score are displayed. In FIG. 11, the rank “R-1” corresponding to the total score “XXX” is shown. In the diagnostic device 100, for example, ranks "R-1" to "R-4" are set. "R-1" is a rank estimated to have the best pipe condition (low possibility of pipe corrosion), and "R-4" has the worst pipe condition (low possibility of pipe corrosion). High) is the estimated rank. For example, “R-1” and “R-2” are ranks that indicate that follow-up observation is required, and “R-3” and “R-4” are quantitative inspections that actually measure deterioration of pipes (for example, reduction of pipe thickness). It can be a rank indicating that ultrasonic examination for measuring the amount is essential.

 なお、診断結果は、予め定められたランクに代えて、「要定量検査」又は「要経過観察」を示してもよい。また、ユーザは、「要経過観察」と診断された診断用画像データの配管の一部に対して、定量検査や目視検査等の抜き取り検査を行っても良い。診断装置100で示す診断結果は、単に検査の要否をユーザに示すものではなく、劣化の可能性が高い配管を示す指標である。 Note that the diagnosis result may indicate "quantitative inspection required" or "observation required" instead of the predetermined rank. Further, the user may perform a sampling inspection such as a quantitative inspection or a visual inspection on a part of the piping of the diagnostic image data which has been diagnosed as “necessary observation”. The diagnosis result indicated by the diagnosis device 100 does not merely indicate to the user whether or not the inspection is necessary, but is an index indicating a pipe having a high possibility of deterioration.

 診断用部分スコア表示領域120には、診断用部分スコアとその診断用部分スコアに対応する特徴の名称とがそれぞれ関連付けて表示される。診断用部分スコア表示領域120に表示される診断用部分スコアと特徴の名称は、1つであっても良く複数であっても良い。診断用部分スコア表示領域120において、複数の診断用部分スコア及び診断用部分スコアに対応する特徴の名称を表示する場合には、例えばレーダーチャート、棒グラフ、折れ線グラフ及び散布図等のグラフとして表示されていても良い。図2では、診断用部分スコア表示領域において、複数の診断用部分スコアと複数の特徴の名称とをそれぞれ関連付けて、レーダーチャートとして表示した場合を例示している。これにより、各特徴の診断用部分スコアを視認しやすくすることができる。
 表示部10に、トータルスコアやランクとともに複数の診断用部分スコアと特徴の名称とが表示されることにより、診断装置100は、ユーザに対して診断の根拠を示すことができる。
In the diagnostic partial score display area 120, the diagnostic partial score and the name of the feature corresponding to the diagnostic partial score are displayed in association with each other. The diagnostic partial score and the name of the feature displayed in the diagnostic partial score display area 120 may be one or plural. In the diagnostic partial score display area 120, when a plurality of diagnostic partial scores and feature names corresponding to the diagnostic partial scores are displayed, they are displayed as graphs such as a radar chart, a bar graph, a line graph, and a scatter diagram. It may be. FIG. 2 illustrates a case where a plurality of diagnostic partial scores and a plurality of feature names are associated with each other and displayed as a radar chart in the diagnostic partial score display area. This makes it easy to visually recognize the diagnostic partial score of each feature.
By displaying a plurality of diagnostic partial scores and feature names together with the total score and rank on the display unit 10, the diagnostic device 100 can show the basis of the diagnosis to the user.

 診断画像表示領域130には、画像合成部50から入力された解析後画像134が表示される。また、診断画像表示領域130に、解析後画像134とともに診断用画像132を表示しても良い。なお、診断用画像132は、例えば診断用画像データ202に対応する診断用画像である。
 診断画像表示領域130に解析後画像134が表示されることにより、診断装置100は、診断用画像132中のどの部分にどのような特徴があると判断したかをユーザに示すことができる。また、診断画像表示領域130に解析後画像134とともに診断用画像132が表示されることにより、診断装置100は、特徴抽出部20によって特徴が抽出された保護材付き配管の状態をユーザに示すことができる。
In the diagnostic image display area 130, the post-analysis image 134 input from the image composition unit 50 is displayed. Further, the diagnostic image 132 may be displayed together with the post-analysis image 134 in the diagnostic image display area 130. The diagnostic image 132 is, for example, a diagnostic image corresponding to the diagnostic image data 202.
By displaying the post-analysis image 134 in the diagnostic image display area 130, the diagnostic device 100 can indicate to the user which part of the diagnostic image 132 has which characteristics. In addition, the diagnostic image 100 is displayed in the diagnostic image display area 130 together with the post-analysis image 134, so that the diagnostic device 100 indicates to the user the state of the pipe with protective material whose features are extracted by the feature extraction unit 20. You can

 ここで、図2の診断画像表示領域130には、特徴F1~F4が現れた配管P及び架台Sを含む診断用画像132が示されている。診断画像表示領域130には、診断用画像132の解析後画像134が示されている。解析後画像134には、診断用画像132に対して、例えば配管Pのエッジを示す線L1、L2と、架台Sのエッジを示す線L3が合成されている。また、解析後画像134には、診断用画像132に対して、例えば画像解析により解析された特徴F1,F2の外形を示す線O1、O2と、学習済モデル242の推論結果として得た特徴を示すマークM3,M4とが合成されている。これにより、ユーザは、画像解析により得た特徴及び学習済モデル242の推論結果として得た特徴を一見して視認することができる。 Here, in the diagnostic image display area 130 of FIG. 2, a diagnostic image 132 including the pipe P and the gantry S in which the features F1 to F4 appear is shown. In the diagnostic image display area 130, a post-analysis image 134 of the diagnostic image 132 is shown. In the post-analysis image 134, for example, lines L1 and L2 indicating the edge of the pipe P and a line L3 indicating the edge of the gantry S are combined with the diagnostic image 132. Further, in the post-analysis image 134, lines O1 and O2 showing the outer shapes of the features F1 and F2 analyzed by image analysis, and the features obtained as the inference result of the learned model 242 are obtained with respect to the diagnostic image 132, for example. Marks M3 and M4 shown are combined. Accordingly, the user can see at a glance the features obtained by the image analysis and the features obtained as the inference result of the learned model 242.

[診断装置の各部の動作]
 以下、診断装置100の各部の動作について説明する。
 なお、以下では、診断用画像データ202を用いた配管状態診断時の動作、学習用画像データを用いた特徴の学習時の動作、及び設定用画像データを用いた診断基準を決定するための閾値設定時の動作についてそれぞれ説明する。
[Operation of each part of the diagnostic device]
Hereinafter, the operation of each unit of the diagnostic device 100 will be described.
In the following, the operation for diagnosing the piping state using the diagnostic image data 202, the operation for learning the feature using the learning image data, and the threshold for determining the diagnostic standard using the setting image data. The operation at the time of setting will be described respectively.

(診断時の動作)
 最初に、図1、図3及び図4を参照して、診断用画像データ202を用いた配管状態診断時の動作について説明する。図3は、診断用画像データ202を用いた配管状態診断時の動作を説明するフローチャートであり、図4は、診断用部分スコア及びトータルスコアの算出方法の一例を示す模式図である。
(Operation during diagnosis)
First, with reference to FIG. 1, FIG. 3 and FIG. 4, an operation at the time of diagnosing a pipe state using the diagnostic image data 202 will be described. FIG. 3 is a flow chart for explaining the operation at the time of diagnosing the piping condition using the diagnostic image data 202, and FIG. 4 is a schematic diagram showing an example of a method for calculating the diagnostic partial score and the total score.

 まず、診断の開始時に、診断に先立って特徴学習部26で生成された学習済モデル262を、特徴推論部24にコピーして、学習済モデル242を生成する。なお、学習済モデル262を学習済モデル242として使用してもよい。
 続いて、診断装置100の特徴抽出部20に、保護材付き配管の外観及びその周辺の架台等を含む領域を撮影した診断用画像データ202を入力する(ステップS11)。
 次に、特徴抽出部20のデータ解析部22において、入力された診断用画像データ202に対する画像解析を行う(ステップS12)。データ解析部22は、画像解析の結果を、特徴推論部24及びスコア算出部30の少なくとも一方と、画像合成部50とに出力する。
First, at the start of diagnosis, the learned model 262 generated by the feature learning unit 26 prior to diagnosis is copied to the feature inference unit 24 to generate a learned model 242. The learned model 262 may be used as the learned model 242.
Subsequently, the diagnostic image data 202 obtained by photographing the area including the appearance of the pipe with the protective material and the surrounding pedestal and the like is input to the feature extraction unit 20 of the diagnostic device 100 (step S11).
Next, the data analysis unit 22 of the feature extraction unit 20 performs image analysis on the input diagnostic image data 202 (step S12). The data analysis unit 22 outputs the image analysis result to at least one of the feature inference unit 24 and the score calculation unit 30 and the image synthesis unit 50.

 ステップS12では、データ解析部22は、得られた解析結果が保護材表面の変色部分の面積や表面変形の個数等である場合には、当該解析結果を特徴としてスコア算出部30に出力する。
 また、ステップS12では、データ解析部22は、得られた解析結果を特徴量として特徴推論部24に出力する。特徴推論部24において学習済モデル242の推論結果を得るために必要である場合には、特徴量とともに、保護材表面の変色部分の面積や表面変形の個数等のような解析結果を特徴推論部24に入力しても良い。
In step S12, when the obtained analysis result is the area of the discolored portion of the protective material surface, the number of surface deformations, or the like, the data analysis unit 22 outputs the analysis result to the score calculation unit 30 as a feature.
Further, in step S12, the data analysis unit 22 outputs the obtained analysis result to the feature inference unit 24 as a feature amount. When it is necessary for the feature inference unit 24 to obtain the inference result of the learned model 242, the feature inference unit 24 displays the analysis results such as the area of the discolored portion of the protective material surface and the number of surface deformations together with the feature amount. You may enter it in 24.

 次に、特徴抽出部20の特徴推論部24において、入力した特徴量に対する学習済モデル242の推論結果として特徴を得る(ステップS13)。特徴推論部24は、特徴量が入力されると、その特徴量をもつ診断用画像データ202が持つ特徴を推論した推論結果(特徴)を、スコア算出部30に出力する。 Next, the feature inference unit 24 of the feature extraction unit 20 obtains a feature as an inference result of the learned model 242 for the input feature amount (step S13). When the feature amount is input, the feature inference unit 24 outputs the inference result (feature) inferring the feature of the diagnostic image data 202 having the feature amount to the score calculation unit 30.

 続いて、スコア算出部30において、データ解析部22及び特徴推論部24のそれぞれから入力された特徴に基づいて、診断用スコアを算出する(ステップS14)。ステップS14では、まず、入力された特徴に基づいて複数の特徴毎の診断用部分スコアを算出し、各診断用部分スコアを加算して診断用画像データのトータルスコアを算出する。 Subsequently, the score calculation unit 30 calculates a diagnostic score based on the features input from the data analysis unit 22 and the feature inference unit 24 (step S14). In step S14, first, a diagnostic partial score for each of a plurality of features is calculated based on the input features, and each diagnostic partial score is added to calculate a total score of diagnostic image data.

 図4に一例を示すように、診断用部分スコアは、特徴(図4中に示す特徴A~特徴H)毎に予め定められた特徴別スコアxa~xhと、対応する特徴の量(ya~yh)とを乗算することにより得られる。特徴別スコアは、保護材付き配管の診断用画像に対して人間が配管の劣化を判断した場合の診断結果と同様の傾向となるように特徴毎に設定されたスコアである。また、「特徴の量」とは、診断用画像データ202中に存在する特徴の定量的指標であり、例えば面積や個数を示す。例えば、特徴が錆である場合には錆面積等を示す。 As shown in an example in FIG. 4, the diagnostic partial score includes feature-specific scores xa to xh predetermined for each feature (feature A to feature H shown in FIG. 4) and corresponding feature amounts (ya to yh). The feature-specific score is a score that is set for each feature so as to have the same tendency as the diagnosis result when a person determines deterioration of the pipe on the diagnostic image of the pipe with protective material. Further, the “feature amount” is a quantitative index of the feature existing in the diagnostic image data 202, and indicates, for example, the area or the number. For example, when the feature is rust, the rust area or the like is shown.

 図4において、特徴1~特徴8についての診断用部分スコアAは、xa・yaで示される。また、診断用部分スコアB~診断用部分スコアHも同様に、それぞれxb・yb、xc・yc、・・・xh・yhで示される。また、トータルスコアは、診断用部分スコアA~診断用部分スコアHを加算又は重み付けして加算することにより得られる。トータルスコアは、診断用部分スコアA~診断用部分スコアHを加算後に係数を乗算して、所定の桁数のスコアとなるように調整されたスコアであっても良い。トータルスコアは、診断用画像データの診断に用いられるスコアとして、診断部40に出力される。 In FIG. 4, the diagnostic partial score A for the features 1 to 8 is indicated by xa · ya. Similarly, the diagnostic partial score B to the diagnostic partial score H are also represented by xb · yb, xc · yc, ... Xh · yh, respectively. The total score can be obtained by adding or weighting the diagnostic partial score A to the diagnostic partial score H. The total score may be a score adjusted to have a predetermined number of digits by multiplying a coefficient after adding the diagnostic partial score A to the diagnostic partial score H. The total score is output to the diagnosis unit 40 as a score used for diagnosis of diagnostic image data.

 続いて、診断部40において、入力されたトータルスコアと、予め設定された閾値とを比較して、保護材付き配管の内部状態を診断した診断結果を出力する(ステップS15)。診断部40では、診断結果として、診断用画像データに対する診断ランクが出力される。 Subsequently, the diagnosis unit 40 compares the input total score with a preset threshold value, and outputs a diagnosis result of diagnosing the internal state of the pipe with the protective material (step S15). The diagnostic unit 40 outputs the diagnostic rank for the diagnostic image data as the diagnostic result.

 最後に、表示部10において、診断部40から入力された診断結果が表示される(ステップS16)。ステップS16では、表示部10の診断結果表示領域110において、診断結果として診断用画像データに対する診断ランクと診断用画像データのトータルスコアが表示される。また、表示部10の診断用部分スコア表示領域120において、各診断用部分スコアとその診断用部分スコアに対応する特徴の名称とがそれぞれ関連付けて表示される。診断画像表示領域130には、画像合成部50から入力された解析後画像134が表示される。診断画像表示領域130には、解析前の診断用画像132が表示されてもよい。 Finally, the diagnosis result input from the diagnosis unit 40 is displayed on the display unit 10 (step S16). In step S16, the diagnostic rank for the diagnostic image data and the total score of the diagnostic image data are displayed as the diagnostic result in the diagnostic result display area 110 of the display unit 10. Further, in the diagnostic partial score display area 120 of the display unit 10, each diagnostic partial score and the name of the feature corresponding to the diagnostic partial score are displayed in association with each other. In the diagnostic image display area 130, the post-analysis image 134 input from the image composition unit 50 is displayed. A diagnostic image 132 before analysis may be displayed in the diagnostic image display area 130.

(学習時の動作)
 次に、図5及び図6を参照して、学習用画像データ204を用いた特徴の学習時の動作を説明する。学習時には、学習用画像データ204を用いた機械学習により得られた学習済モデル242を生成する。図5及び図6は、学習用画像データ204を用いた特徴の学習時の動作を説明するブロック図及びフローチャートである。図5に示すように、学習用画像データ204を用いた特徴の学習時には、診断装置100の特徴抽出部20を用いて学習済モデル242が生成される。
(Operation during learning)
Next, with reference to FIG. 5 and FIG. 6, an operation at the time of learning a feature using the learning image data 204 will be described. At the time of learning, a learned model 242 obtained by machine learning using the learning image data 204 is generated. 5 and 6 are a block diagram and a flowchart for explaining the operation at the time of learning a feature using the learning image data 204. As shown in FIG. 5, when learning a feature using the learning image data 204, the learned model 242 is generated using the feature extraction unit 20 of the diagnostic device 100.

 まず、診断装置100の特徴抽出部20に、保護材付き配管の外観又はその周辺の架台等に生じた変質部分を撮影した複数の学習用画像データ204を入力する(ステップS21)。学習用画像データ204は、診断用画像データ202の診断時に着目する観点となる特徴が変質として生じている部分を撮影した画像データであり、複数の特徴のそれぞれにおいて複数の学習用画像データ204が入力されることが好ましい。 First, a plurality of learning image data 204 obtained by photographing the appearance of the protective material-attached pipe or the altered portion generated on the pedestal or the like around it are input to the feature extraction unit 20 of the diagnostic device 100 (step S21). The learning image data 204 is image data obtained by photographing a portion of the diagnostic image data 202 in which a characteristic, which is a viewpoint to be noticed at the time of diagnosis, is generated as an alteration. It is preferably entered.

 次に、特徴抽出部20のデータ解析部22において、入力された学習用画像データ204に対してORBアルゴリズム等を用いた画像解析を行い、学習用画像データ204の特徴量を抽出する(ステップS22)。データ解析部22は、画像解析により抽出された特徴量(例えば、輝度変化の大きさと向き)を、特徴学習部26に出力する。 Next, the data analysis unit 22 of the feature extraction unit 20 performs image analysis using the ORB algorithm or the like on the input learning image data 204, and extracts the feature amount of the learning image data 204 (step S22). ). The data analysis unit 22 outputs the feature amount (for example, the magnitude and direction of the brightness change) extracted by the image analysis to the feature learning unit 26.

 続いて、特徴学習部26において、データ解析部22から入力された特徴量を用いた機械学習を行い、学習済モデル262を生成する(ステップS23)。機械学習のアルゴリズムとしては、用いる初期モデル302に合わせて公知のものを用いることができる。このとき、図5に示すように、データ解析部22には、初期モデル302及び学習用パラメータ304が入力される。なお、初期モデル302は、特徴学習部26の図示しない記憶部に予め保存されていても良い。 Subsequently, the feature learning unit 26 performs machine learning using the feature amount input from the data analysis unit 22 to generate a learned model 262 (step S23). As a machine learning algorithm, a known one can be used according to the initial model 302 to be used. At this time, as shown in FIG. 5, the initial model 302 and the learning parameter 304 are input to the data analysis unit 22. The initial model 302 may be stored in advance in a storage unit (not shown) of the feature learning unit 26.

 特徴学習部26に入力される初期モデル302としては、学習用画像データ204を入力として利用可能であればいずれのモデルであっても良い。特徴学習部26に入力される初期モデル302としては、例えばサポートベクターマシン、ニューラルネットワーク又はランダムフォレスト等のモデルを用いることができる。特徴学習部26は、画像データ204aを入力すると、画像データ204aに含まれる特徴(特徴の種別及び特徴の位置)204bを示す出力値を出力するように、初期モデル302を学習させる。一例として初期モデルにニューラルネットワークを用いた場合について説明する。 The initial model 302 input to the feature learning unit 26 may be any model as long as the learning image data 204 can be used as an input. As the initial model 302 input to the feature learning unit 26, a model such as a support vector machine, a neural network, or a random forest can be used. When the feature learning unit 26 receives the image data 204a, the feature learning unit 26 learns the initial model 302 so as to output the output value indicating the feature (feature type and feature position) 204b included in the image data 204a. A case where a neural network is used as an initial model will be described as an example.

 図7に示すように、学習対象となる初期モデル302としてのニューラルネットワークは、入力側から順に、入力層302a、中間層(隠れ層)302b、出力層302cを備える。なお、中間層302bは一層に限られず、2層以上の中間層302bを備えていてよい。
 各層は、それぞれ一又は複数のニューロンを備えている。入力層302a、中間層(隠れ層)302b、出力層302cの各層は、1又は複数のニューロンを備えている。例えば、入力層302aのニューロンの数は、入力される画像データ204aの画素数に応じて設定することができる。中間層302bのニューロンの数は実施の形態に応じて適宜設定することができる。また、出力層302cは、解析対象とする特徴の種類の数に応じて設定することができる。
As shown in FIG. 7, the neural network as the initial model 302 to be learned includes an input layer 302a, an intermediate layer (hidden layer) 302b, and an output layer 302c in order from the input side. The intermediate layer 302b is not limited to one layer and may include two or more intermediate layers 302b.
Each layer has one or more neurons. Each of the input layer 302a, the intermediate layer (hidden layer) 302b, and the output layer 302c includes one or more neurons. For example, the number of neurons in the input layer 302a can be set according to the number of pixels in the input image data 204a. The number of neurons in the intermediate layer 302b can be set appropriately according to the embodiment. Further, the output layer 302c can be set according to the number of types of features to be analyzed.

 隣接する層のニューロン同士は適宜結合され、各結合には重み(結合荷重)が設定されている。図7の例では、各ニューロンは、隣接する層の全てのニューロンと結合されているが、ニューロンの結合は、このような例に限定されなくてもよく、実施の形態に応じて適宜設定されてよい。 The neurons in adjacent layers are connected appropriately, and weights (connection weights) are set for each connection. In the example of FIG. 7, each neuron is connected to all the neurons in the adjacent layers, but the connection of the neurons is not limited to such an example, and is set appropriately according to the embodiment. You may

 学習用パラメータ304は、学習済モデル262を得るために設定される設定値である。特徴学習部26は、学習済モデル262が最適解を出すことができるパラメータを走査して設定する。例えば、図7に示すように、特徴A~特徴Hの少なくともいずれかの特徴を含み、かつ、画像中の当該特徴の位置が既知である学習用画像データ204を用いることにより、当該学習用画像データ204に含まれる特徴204bを示す出力値が出力されるように、学習用パラメータ304が調整される。学習用パラメータ304の調整には、適切と考えられるパラメータの組み合わせをすべて試すグリッドサーチや、パラメータの組み合わせを無作為に試すランダムサーチ等が用いられ、これらのパラメータの組み合わせが学習用パラメータ304として入力される。 The learning parameter 304 is a setting value set to obtain the learned model 262. The feature learning unit 26 scans and sets the parameters with which the learned model 262 can provide the optimum solution. For example, as shown in FIG. 7, by using the learning image data 204 that includes at least one of the features A to H and the position of the feature in the image is known, the learning image The learning parameter 304 is adjusted so that the output value indicating the feature 204b included in the data 204 is output. To adjust the learning parameters 304, a grid search that tries all combinations of parameters that are considered to be appropriate, a random search that randomly tries combinations of parameters, or the like is used, and the combinations of these parameters are input as the learning parameters 304. To be done.

 最後に、ステップS23において生成された学習済モデル262が特徴学習部26(又は特徴抽出部20)の図示しない記憶部に保存される(ステップS24)。以上により、学習用画像データ204を用いた機械学習により学習済モデル262が生成される。 Finally, the learned model 262 generated in step S23 is stored in a storage unit (not shown) of the feature learning unit 26 (or the feature extraction unit 20) (step S24). As described above, the learned model 262 is generated by machine learning using the learning image data 204.

(設定時の動作)
 次に、図8及び図9を参照して、設定用画像データ206を用いた診断基準を決定するための閾値設定時の動作について説明する。図8及び図9は、設定用画像データ206を用いた閾値設定時の動作を説明するブロック図及びフローチャートである。図8に示すように、設定用画像データ206を用いた閾値設定時には、診断装置100の特徴抽出部20、スコア算出部30、診断部40及び表示部10を用いて閾値が設定される。
(Operation when setting)
Next, with reference to FIG. 8 and FIG. 9, an operation at the time of setting a threshold value for determining a diagnostic standard using the setting image data 206 will be described. 8 and 9 are a block diagram and a flow chart for explaining the operation at the time of setting the threshold value using the setting image data 206. As shown in FIG. 8, when setting the threshold value using the setting image data 206, the threshold value is set using the feature extraction unit 20, the score calculation unit 30, the diagnosis unit 40, and the display unit 10 of the diagnostic device 100.

 まず、診断装置100の特徴抽出部20に、保護材付き配管の外観及びその周辺の架台等を含む領域を撮影した設定用画像データ206を入力する(ステップS31)。設定用画像データ206は、例えば以前撮影された保護材付き配管及びその周辺の外観を含む画像データであり、設定用画像データに対応する配管を実際に測定することにより、予め配管の厚み減少量等の内部状態の指標となるデータが明らかになっている。 First, the setting image data 206 obtained by photographing the area including the appearance of the pipe with the protective material and the surrounding pedestal and the like is input to the feature extraction unit 20 of the diagnostic device 100 (step S31). The setting image data 206 is, for example, image data including the appearance of the pipe with the protective material and its surroundings that was previously photographed. By actually measuring the pipe corresponding to the setting image data, the pipe thickness reduction amount can be calculated in advance. The data that is an index of the internal state such as is clear.

 次に、特徴抽出部20のデータ解析部22において、入力された設定用画像データ206に対してORBアルゴリズム等を用いた画像解析を行う(ステップS32)。画像解析のアルゴリズムとしては、例えばORBが用いられる。データ解析部22は、画像解析により得られた結果を、特徴推論部24及びスコア算出部30の少なくとも一方に出力する。ステップS32では、ステップS12と同様に、得られた解析結果の内容に応じて、特徴をデータ解析部22から特徴推論部24又はスコア算出部30に出力する。 Next, the data analysis unit 22 of the feature extraction unit 20 performs image analysis using the ORB algorithm or the like on the input setting image data 206 (step S32). As an image analysis algorithm, for example, ORB is used. The data analysis unit 22 outputs the result obtained by the image analysis to at least one of the feature inference unit 24 and the score calculation unit 30. In step S32, similar to step S12, the feature is output from the data analysis unit 22 to the feature inference unit 24 or the score calculation unit 30 according to the content of the obtained analysis result.

 次に、特徴抽出部の特徴推論部24において、入力した解析結果に対する学習済モデル242の推論結果として特徴を得る(ステップS33)。特徴推論部24は、得られた推論結果(特徴)を、スコア算出部30に出力する。
 続いて、スコア算出部30において、データ解析部22及び特徴推論部24のそれぞれから入力された特徴に基づいて、設定用スコアを算出する(ステップS34)。設定用スコアは、診断用スコアと同様のスコアである。ステップS34では、ステップS14と同様に、入力された特徴に基づいて複数の特徴毎の診断用部分スコアを算出し、各診断用部分スコアを加算して設定用画像データのトータルスコアを算出する。
Next, the feature inference unit 24 of the feature extraction unit obtains a feature as an inference result of the learned model 242 for the input analysis result (step S33). The feature inference unit 24 outputs the obtained inference result (feature) to the score calculation unit 30.
Then, the score calculation unit 30 calculates a setting score based on the features input from the data analysis unit 22 and the feature inference unit 24 (step S34). The setting score is a score similar to the diagnostic score. In step S34, similar to step S14, a partial diagnostic score is calculated for each of a plurality of features based on the input features, and the partial diagnostic scores are added to calculate a total score of the setting image data.

 続いて、診断部40の診断基準設定部42において、スコア算出部30から入力されたトータルスコアに基づいて閾値を設定する(ステップS35)。このとき、診断部40には、特徴抽出部20に入力された各設定用画像データ206に対応する配管の厚み減少量等の内部状態の指標となるデータが入力される。内部状態の指標となるデータは、診断部40から表示部10にも入力される。 Subsequently, the diagnostic criterion setting unit 42 of the diagnostic unit 40 sets a threshold value based on the total score input from the score calculation unit 30 (step S35). At this time, the diagnostic unit 40 is input with data that is an index of the internal state, such as the pipe thickness reduction amount corresponding to each setting image data 206 input to the feature extraction unit 20. Data that serves as an index of the internal state is also input from the diagnosis unit 40 to the display unit 10.

 図6に示すように、ステップS35では、例えば、各設定用画像データ206に対応するトータルスコア及び配管の厚み減少量が表示部10に表示される。各設定用画像データ206に対応するトータルスコア及び配管の厚み減少量は、トータルスコアを基準として昇順もしくは降順に並べて表示されることが好ましい。表示部10では、トータルスコアを実線で示し、対応する配管の厚み減少量を散布図で示している。 As shown in FIG. 6, in step S35, for example, the total score and the pipe thickness reduction amount corresponding to each setting image data 206 are displayed on the display unit 10. It is preferable that the total score and the pipe thickness reduction amount corresponding to each setting image data 206 are displayed in ascending or descending order with the total score as a reference. In the display unit 10, the total score is shown by a solid line, and the corresponding pipe thickness reduction amount is shown by a scatter diagram.

 ユーザは、表示部10に表示された各設定用画像データ206に対応するトータルスコア及び配管の厚み減少量に基づき、図示しない入力部を介して診断基準設定部42に対して閾値の設定指示を入力する。閾値の設定指示は、例えば閾値の数値を入力しても良く、表示部10に表示されたスライダをマウス等により動かして閾値を決定しても良い。ユーザは、閾値の数値として、例えばランク「R-1」とランク「R-2」との閾値TH1、ランク「R-2」とランク「R-3」との閾値TH2及びランク「R-3」とランク「R-4」との閾値TH3となるトータルスコアをそれぞれ入力することができる。ここで、例えば、「R-1」「R-2」は要経過観察を示すランクであり、「R-3」「R-4」は配管の厚み減少量等の配管の劣化を実際に測定する定量検査(例えば、超音波検査)が必須であることを示すランクとすることができる。 The user inputs a threshold setting instruction to the diagnostic reference setting unit 42 via an input unit (not shown) based on the total score and the pipe thickness reduction amount corresponding to each setting image data 206 displayed on the display unit 10. To do. For the threshold setting instruction, for example, a numerical value of the threshold may be input, or the slider displayed on the display unit 10 may be moved with a mouse or the like to determine the threshold. The user uses, as the threshold value, for example, a threshold value TH1 of rank "R-1" and a rank "R-2", a threshold value TH2 of rank "R-2" and a rank "R-3", and a rank "R-3". ] And the rank “R-4” can be input as the total scores as the threshold TH3. Here, for example, “R-1” and “R-2” are ranks indicating the follow-up observations, and “R-3” and “R-4” are actual measurement of deterioration of the pipe such as the amount of decrease in the thickness of the pipe. It can be set as a rank indicating that a quantitative test (for example, ultrasonic test) is required.

 また、閾値は、配管の内容物に応じて、診断結果がより安全側に傾くように設定しても良い。例えば配管を通る内容物が配管の劣化を高める性質を有する材料である場合、上述の閾値TH2の数値を低く設定することにより、要定量検査と判断される配管の割合が増加し、診断結果がより安全側に傾く。
 また、診断基準設定部42では、閾値の設定指示の入力に代えて、診断基準設定部42に予め入力された条件に基づき閾値が自動的に設定されるようにしても良い。
In addition, the threshold value may be set so that the diagnosis result leans toward the safer side according to the contents of the pipe. For example, when the content passing through the pipe is a material having the property of increasing the deterioration of the pipe, by setting the above-mentioned threshold value TH2 to a low value, the percentage of pipes judged to require quantitative inspection increases, and the diagnostic result is Lean toward the safer side.
Further, in the diagnostic standard setting unit 42, the threshold value may be automatically set based on a condition previously input to the diagnostic standard setting unit 42, instead of inputting a threshold setting instruction.

 以上により、診断基準設定部42において、診断時に用いる閾値が設定される。閾値は1又は複数設定される。 As described above, the diagnostic standard setting unit 42 sets the threshold value used at the time of diagnosis. One or more threshold values are set.

(診断プログラム)
 本実施形態に係る診断装置1により実行される診断プログラムについて説明する。診断装置1は、以下の(a)~(f)の各動作をコンピュータに実行させるプログラムに従って、診断を行う。以下のプログラムは、例えばハードディスクドライブ、メモリ等の記録媒体やDVDディスク又はBlu-ray(登録商標)等の光ディスクに記録される。以下のプログラムは、インターネットを介して配布されても良い。さらに、以下のプログラムは、クラウドサーバに記録され、インターネットを介して各ステップが実行されても良い。
(Diagnostic program)
A diagnostic program executed by the diagnostic device 1 according to this embodiment will be described. The diagnostic device 1 diagnoses according to a program that causes a computer to execute the following operations (a) to (f). The following programs are recorded on a recording medium such as a hard disk drive or a memory, or a DVD disk or an optical disk such as Blu-ray (registered trademark). The following programs may be distributed via the Internet. Further, the following program may be recorded in the cloud server and each step may be executed via the Internet.

(a)検査対象を外部から測定して診断用センサデータを取得すること
(b)診断用センサデータから、予め定められた少なくとも1つの特徴を抽出すること
(c)抽出された特徴に基づいて、診断用センサデータが有する特徴に関連づけられた診断用部分スコアを算出すること
(d)診断用部分スコアに基づいて、診断用センサデータの診断用スコアを算出すること
(e)診断用スコアに基づいて、検査対象の状態を診断した診断結果を取得すること
(f)診断用スコアと診断結果とを表示部に表示すること
(A) Externally measuring an inspection target to obtain diagnostic sensor data (b) Extracting at least one predetermined feature from the diagnostic sensor data (c) Based on the extracted feature Calculating a diagnostic partial score associated with a characteristic of the diagnostic sensor data (d) calculating a diagnostic score of the diagnostic sensor data based on the diagnostic partial score (e) a diagnostic score Based on the above, obtaining a diagnosis result of diagnosing the state of the inspection target (f) displaying the diagnosis score and the diagnosis result on the display unit

<第一実施形態の効果>
 第一実施形態に係る診断装置100は、以下の効果を有する。
(1)診断装置100は、診断用画像データ202の特徴に関連付けられた診断用部分スコアを算出し、診断の根拠として、表示部10に診断用部分スコアを表示する。このため、ユーザに対して診断根拠を一見して示すことができる。
(2)診断装置100では、検査対象内部の状態(配管の腐食等)に関連して検査対象外部に生じる特徴(配管を覆う保護材表面の変色や変形等の変質)に基づいて、検査対象内部の状態を診断することが可能である。
<Effects of First Embodiment>
The diagnostic device 100 according to the first embodiment has the following effects.
(1) The diagnostic device 100 calculates a diagnostic partial score associated with the feature of the diagnostic image data 202, and displays the diagnostic partial score on the display unit 10 as the basis for the diagnosis. Therefore, the diagnosis basis can be shown to the user at a glance.
(2) In the diagnostic device 100, the inspection target is based on the characteristics (alteration such as discoloration or deformation of the surface of the protective material covering the pipe) that occurs outside the inspection target in relation to the state inside the inspection target (corrosion of the pipe, etc.). It is possible to diagnose the internal condition.

(3)診断装置100は、学習用画像データ204を用いた機械学習により得られた学習済モデル242を有しており、学習済モデル242は、学習用画像データ204に対する推論結果を診断用画像データ202の特徴として抽出する。このため、学習用画像データ204の特徴を精度よく抽出することができる。
(4)診断装置100は、複数の前記診断用部分スコアA~Hと、診断用部分スコアA~Hに対応する特徴の名称(特徴A~H)とをレーダーチャート等のグラフとして表示する。このため、どの特徴が強く出ているかをユーザに一見して示すことができる。
(3) The diagnostic device 100 has a learned model 242 obtained by machine learning using the learning image data 204, and the learned model 242 shows the inference result for the learning image data 204 as a diagnostic image. It is extracted as a feature of the data 202. Therefore, the features of the learning image data 204 can be accurately extracted.
(4) The diagnostic device 100 displays the plurality of diagnostic partial scores A to H and the names of the features (features A to H) corresponding to the diagnostic partial scores A to H as a graph such as a radar chart. Therefore, it is possible to show at a glance to the user which features are more prominent.

(5)診断装置100は、診断用画像データ202の解析結果を合成した解析後画像及び解析前の診断用画像132を表示部10に表示する。このため、ユーザが診断用画像データ中に存在する特徴を視覚的に認識することができる。
(6)診断装置100は、画像処理による特徴の抽出と、機械学習による(学習済モデル242を用いた)特徴の抽出と、の双方を使い分けることができる。このため、より正確で、早い診断を行うことができる。
(5) The diagnostic device 100 displays the post-analysis image and the pre-analysis diagnostic image 132 in which the analysis results of the diagnostic image data 202 are combined on the display unit 10. Therefore, the user can visually recognize the features existing in the diagnostic image data.
(6) The diagnostic device 100 can selectively use both the feature extraction by image processing and the feature extraction (using the learned model 242) by machine learning. Therefore, more accurate and faster diagnosis can be performed.

(7)診断装置100は、診断部40おける診断時の診断基準を決定するための閾値を設定可能な診断基準設定部42を有する。このため、診断時やその後の定量検査における制限(例えば、費用、期間、安全性及び人的工数)等に基づいて適切な閾値を設定することができる。
(8)診断装置100は、診断後に配管状態の定量検査を行った場合、診断用画像データ202と定量検査により得られた劣化の実測値を学習用データ・診断用データとして用いることで、さらに精度のよい診断を可能とする。
(7) The diagnostic device 100 has a diagnostic standard setting unit 42 capable of setting a threshold value for determining a diagnostic standard at the time of diagnosis in the diagnostic unit 40. Therefore, it is possible to set an appropriate threshold value based on restrictions (for example, cost, period, safety, and man-hours) at the time of diagnosis and subsequent quantitative tests.
(8) The diagnostic device 100 further uses the diagnostic image data 202 and the actual measurement value of the deterioration obtained by the quantitative test as learning data and diagnostic data when a quantitative inspection of the piping state is performed after the diagnosis. Enables accurate diagnosis.

(9)保護材付き配管は、プラント内において架台上に配置されている場合が多く、保護材付き配管が架台に接触している箇所には腐食が多く見られる。このような箇所に対して測定器を用いた定量的な検査を行うには、足場の設置や配管の吊り上げ等が必要であり、多大なコストがかかる。従来、配管の劣化の程度は、検査員が保護材付き配管の外観の状態との経験的関係に基づいて判断していた。このため、本来は定量検査が不要な状態の配管についても定量検査を行っており、不要な検査コストがかかっていた。
 診断装置100では、保護材付き配管周辺に現れる変質部分から抽出した、腐食推定に有効な要素を教師データとして学習済モデルを生成し、診断時に学習済モデルの推論結果を利用する。これにより、より適切に配管の状態を判断し、不要な定量検査を削減することができるため、定量検査に要するコストを削減することができる。
(9) In many cases, the pipe with the protective material is arranged on the pedestal in the plant, and corrosion is often observed at the place where the pipe with the protective material is in contact with the pedestal. In order to carry out a quantitative inspection using a measuring instrument at such a place, it is necessary to install scaffolds, lift pipes, and the like, which is very costly. Conventionally, the degree of deterioration of the pipe has been judged by an inspector based on an empirical relationship with the appearance state of the pipe with a protective material. For this reason, since the quantitative inspection is also performed on the pipe that originally does not require the quantitative inspection, unnecessary inspection cost is incurred.
In the diagnostic device 100, a learned model is generated by using effective elements for corrosion estimation extracted from the deteriorated portion appearing around the pipe with the protective material as teacher data, and the inference result of the learned model is used at the time of diagnosis. As a result, it is possible to more appropriately determine the state of the pipe and reduce unnecessary quantitative inspections, so that it is possible to reduce the cost required for quantitative inspections.

2.第二実施形態
 以下、本開示の第二実施形態に係る診断装置300について、図10及び図11を参照して説明する。
 第二実施形態に係る診断装置300は、表示部310において、複数の診断用画像データ202A~202Eに対する診断結果等を表示する複数対象評価結果表示領域350を有する点で、第1実施形態に係る診断装置100と異なる。
 以下、表示部310の表示について説明する。また、特徴抽出部20、スコア算出部30、診断部40及び画像合成部50については、診断装置100特徴抽出部20、スコア算出部30、診断部40及び画像合成部50と同様であるため説明を省略する。
2. Second Embodiment Hereinafter, a diagnostic device 300 according to a second embodiment of the present disclosure will be described with reference to FIGS. 10 and 11.
The diagnostic device 300 according to the second embodiment is related to the first embodiment in that the display unit 310 has a multiple target evaluation result display area 350 for displaying diagnostic results for multiple diagnostic image data 202A to 202E. Different from the diagnostic device 100.
The display on the display unit 310 will be described below. Further, the feature extracting unit 20, the score calculating unit 30, the diagnosing unit 40, and the image synthesizing unit 50 are similar to the feature extracting unit 20, the score calculating unit 30, the diagnosing unit 40, and the image synthesizing unit 50 of the diagnostic device 100, and thus will be described. Is omitted.

(表示部)
 図10の表示部310では、各表示領域を模式的に示している。診断装置300の表示部310は、一つの診断用画像データ202Aに関する診断結果および診断用部分スコア等を表示する単一対象評価結果表示領域340を有する。また、表示部310は、複数の診断用画像データ(例えば、5つの診断用画像データ202A~202E)に関する診断結果や診断用部分スコアを、診断用画像データ202A~202E毎に並べて表示する複数対象評価結果表示領域350を有する。
(Display)
In the display unit 310 of FIG. 10, each display area is schematically shown. The display unit 310 of the diagnostic device 300 has a single target evaluation result display area 340 that displays a diagnostic result, a diagnostic partial score, and the like regarding one diagnostic image data 202A. In addition, the display unit 310 displays a plurality of diagnostic image data (for example, five diagnostic image data 202A to 202E) diagnostic results and diagnostic partial scores side by side for each diagnostic image data 202A to 202E. It has an evaluation result display area 350.

 図11に、表示部310の具体例を示す。表示部310は、複数対象評価結果表示領域350において、トータルスコアおよび診断用部分スコアを、例えば棒グラフ、散布図、又は折れ線グラフ等のグラフで表示している。図11に示す表示部310では、トータルスコアを折れ線グラフで示しており、特徴A~特徴Dについての診断用部分スコアA~診断用部分スコアDを4つの棒グラフで示している。また、表示部310では、特徴E~特徴Hについての診断用部分スコアE~診断用部分スコアHを「□」、「○」、「△」、「×」等により散布図で示している。複数対象評価結果表示領域350では、診断用画像データ202A~202Eのそれぞれの診断用部分スコアを診断用画像データ毎に近い位置に表示する。また、各診断用画像データ202A~202Eの診断用部分スコア群を、並べて表示する。 FIG. 11 shows a specific example of the display unit 310. The display unit 310 displays the total score and the diagnostic partial score in the multi-object evaluation result display area 350, for example, in a graph such as a bar graph, a scatter diagram, or a line graph. In the display unit 310 shown in FIG. 11, the total score is shown by a line graph, and the diagnostic partial scores A to D for the features A to D are shown as four bar graphs. Further, in the display unit 310, the diagnostic partial score E to the diagnostic partial score H for the characteristic E to the characteristic H are shown in a scatter diagram by “□”, “◯”, “Δ”, “x” and the like. In the multi-object evaluation result display area 350, the diagnostic partial scores of the diagnostic image data 202A to 202E are displayed at positions close to each diagnostic image data. In addition, the diagnostic partial score groups of the diagnostic image data 202A to 202E are displayed side by side.

 また、表示部310は、診断装置100の表示部10と同様に、一つの診断用画像データ202Aの診断結果を表示する診断結果表示領域110及び一つの診断用画像データ202Aの診断用部分スコアを表示する診断用部分スコア表示領域120を有している。また、表示部310は、診断装置100の表示部10と同様に、診断結果表示領域110、診断用部分スコア表示領域120、及び診断画像表示領域130を有している。診断結果表示領域110には、一つの診断用画像データ202Aの診断画像(解析前の診断用画像132及び解析後画像134)が表示される。なお、診断用画像132は、例えば診断用画像データ202Aに対応する診断用画像である。 Further, the display unit 310, similar to the display unit 10 of the diagnostic device 100, displays the diagnostic result display area 110 for displaying the diagnostic result of one diagnostic image data 202A and the diagnostic partial score of one diagnostic image data 202A. It has a diagnostic partial score display area 120 to be displayed. Further, the display unit 310 has a diagnostic result display area 110, a diagnostic partial score display area 120, and a diagnostic image display area 130, similar to the display unit 10 of the diagnostic device 100. In the diagnostic result display area 110, diagnostic images (diagnostic image 132 before analysis and image 134 after analysis) of one diagnostic image data 202A are displayed. The diagnostic image 132 is, for example, a diagnostic image corresponding to the diagnostic image data 202A.

 さらに表示部310は、診断結果(ランク)毎のスコア範囲を示す表362と、各ランクと診断された診断用画像データの割合を示すグラフ364とが表示されたランク表示領域360を有している。表示部310は、単一対象評価結果表示領域340に診断結果等が表示される、複数の診断用画像データ202A~202Eのうちの一の画像データを選択可能にする診断用画像データ選択領域370を有している。ユーザが診断用画像データ選択領域370中に表示された複数の診断用画像データ202A~202Eのうちのいずれかを示す表示を選択することにより、単一対象評価結果表示領域340には選択された診断用画像データ202A~202Eのうちのいずれかの診断結果が表示される。 Further, the display unit 310 has a rank display area 360 in which a table 362 showing the score range for each diagnosis result (rank) and a graph 364 showing the ratio of the diagnostic image data diagnosed for each rank are displayed. There is. The display unit 310 has a diagnostic image data selection area 370 in which a diagnostic result or the like is displayed in the single target evaluation result display area 340 and which enables selection of one image data of the diagnostic image data 202A to 202E. have. The user selects a display indicating any one of the plurality of diagnostic image data 202A to 202E displayed in the diagnostic image data selection area 370, and thus the single target evaluation result display area 340 is selected. The diagnostic result of any one of the diagnostic image data 202A to 202E is displayed.

<第二実施形態の効果>
 第二実施形態に係る診断装置300は、第一実施形態に係る診断装置100における効果(1)~(9)に加えて、以下の効果を有する。
(10)診断装置100は、表示部10に一つの診断用画像データ202Aに関する詳細な診断結果、診断用部分スコア等を表示する単一対象評価結果表示領域340を有する。また、診断装置100は、複数の診断用画像データ202A~202Eに関する診断結果、診断用部分スコアを表示する複数対象評価結果表示領域350を有する。また、診断装置100は、これらの診断結果をレーダーチャートや、棒グラフ、散布図、又は折れ線グラフ等のグラフによって表示する。このため、診断装置100は、ユーザに対して、診断用画像データ毎の詳細な診断結果と、複数の診断用画像データ間の比較結果とを一見して示すことができる。
<Effects of Second Embodiment>
The diagnostic device 300 according to the second embodiment has the following effects in addition to the effects (1) to (9) of the diagnostic device 100 according to the first embodiment.
(10) The diagnostic device 100 has a single target evaluation result display area 340 for displaying a detailed diagnostic result, a diagnostic partial score, and the like on one diagnostic image data 202A on the display unit 10. Further, the diagnostic device 100 has a multiple target evaluation result display area 350 for displaying the diagnostic results and the diagnostic partial scores regarding the diagnostic image data 202A to 202E. The diagnostic device 100 also displays these diagnostic results in graphs such as a radar chart, a bar graph, a scatter diagram, or a line graph. Therefore, the diagnostic device 100 can show the user a detailed diagnostic result for each diagnostic image data and a comparison result between a plurality of diagnostic image data at a glance.

3.ハードウェア構成
 以下、第1実施形態に係る診断装置1及び第2実施形態に係る診断装置2のハードウェア構成の一例について詳細に説明する。
 図12に示すように、診断装置1は、記憶装置1001、プロセッサを含む演算装置1002及び通信路(ネットワーク)1110を介して外部装置と情報の送受信を行う通信インタフェース(I/F)1003等のハードウェア資源を備えている。外部装置は、例えば撮像装置(不図示)又は画像を記憶するコンピュータ1120である。診断装置1は、記憶装置1001に記憶された所定のプログラム及びデータに基づく情報処理を実行することにより、少なくとも入力された検査対象の画像から検査対象の状態を診断し、診断用スコアと診断結果とを表示部に表示するように構成されている。
3. Hardware Configuration An example of the hardware configuration of the diagnostic device 1 according to the first embodiment and the diagnostic device 2 according to the second embodiment will be described in detail below.
As shown in FIG. 12, the diagnostic device 1 includes a storage device 1001, a computing device 1002 including a processor, and a communication interface (I / F) 1003 for transmitting / receiving information to / from an external device via a communication path (network) 1110. It has hardware resources. The external device is, for example, an imaging device (not shown) or a computer 1120 that stores an image. The diagnostic device 1 executes information processing based on a predetermined program and data stored in the storage device 1001, thereby diagnosing the state of the inspection target from at least the input image of the inspection target, and the diagnostic score and the diagnostic result. And are displayed on the display unit.

 演算装置1002は、ハードウェアプロセッサとしてのCPU(Central Processing Unit)、1002A、RAM(Random Access Memory)1002B、及びROM(Read-Only Memory)1002Cを含む。演算装置1002は、記憶装置1001に記憶された所定のデータ及び所定のプログラムを用いた、特定の情報処理を実行する。なお、ハードウェアプロセッサとしては、CPUに限定されず、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等の各種プロセッサを用いることができる。 The arithmetic unit 1002 includes a CPU (Central Processing Unit) as a hardware processor, 1002A, a RAM (Random Access Memory) 1002B, and a ROM (Read-Only Memory) 1002C. The arithmetic device 1002 executes specific information processing using predetermined data and a predetermined program stored in the storage device 1001. The hardware processor is not limited to the CPU, and various processors such as GPU (Graphics Processing Unit), ASIC (Application Specific Integrated Circuit), and FPGA (Field-Programmable Gate Array) can be used.

 記憶装置1001は、ハードディスクドライブ、ソリッドステートドライブ等のメモリにより構成される補助記憶装置である。記憶装置1001は、演算装置1002による特定の情報処理に必要な所定のプログラム、および、所定のデータを記憶している。本開示において、記憶装置1001は、演算装置1002が診断用センサデータ取得処理、特徴抽出処理、診断用部分スコア算出処理、診断用スコア算出処理、診断結果取得処理、診断結果表示処理等を実行するためのプログラム1008A、診断用部分スコア及び診断用スコア(トータルスコア)等のスコア1008B、特徴の名称1008C、診断用画像132及び解析後画像134等の画像1008D、学習済モデル242等のモデル1008E等を記憶している。プログラム1008A、スコア1008B、特徴の名称1008C、画像1008D及びモデル1008Eのそれぞれは、記憶装置1001の所定の領域(例えばプログラム記憶領域、スコア記憶領域、特徴の名称記憶領域、画像記憶領域、モデル記憶領域等)に分けて記憶されていてもよい。また、プログラム1008A、スコア1008B、特徴の名称1008C、画像1008D及びモデル1008Eが、別個に構成されたプログラム記憶部、スコア記憶部、特徴の名称記憶部、画像記憶部、モデル記憶部にそれぞれ記憶されるように構成されていてもよい。 The storage device 1001 is an auxiliary storage device including a memory such as a hard disk drive and a solid state drive. The storage device 1001 stores a predetermined program and predetermined data necessary for specific information processing by the arithmetic device 1002. In the present disclosure, in the storage device 1001, the arithmetic device 1002 executes diagnostic sensor data acquisition processing, feature extraction processing, diagnostic partial score calculation processing, diagnostic score calculation processing, diagnostic result acquisition processing, diagnostic result display processing, and the like. A program 1008A, a score 1008B such as a diagnostic partial score and a diagnostic score (total score), a feature name 1008C, an image 1008D such as the diagnostic image 132 and the post-analysis image 134, and a model 1008E such as a learned model 242. I remember. Each of the program 1008A, the score 1008B, the feature name 1008C, the image 1008D, and the model 1008E has a predetermined area (for example, a program storage area, a score storage area, a feature name storage area, an image storage area, and a model storage area) in the storage device 1001. Etc.) may be stored separately. Further, the program 1008A, the score 1008B, the feature name 1008C, the image 1008D, and the model 1008E are stored in the separately configured program storage unit, score storage unit, feature name storage unit, image storage unit, and model storage unit, respectively. It may be configured to.

 なお、所定のデータ及び所定のプログラムは、記憶装置1001に常時記憶されていなくてもよい。例えば、演算装置1002が特定の情報処理を実行するときに、その一部または全部を、通信路1110を介して他の装置から取得してもよい。また、所定のデータ及び所定のプログラムは、演算装置1002が特定の情報処理を実行するときに、後述のドライブ111を介して記憶媒体112から読み込んでもよい。 Note that the predetermined data and the predetermined program may not always be stored in the storage device 1001. For example, when the arithmetic device 1002 executes specific information processing, a part or all of the information may be acquired from another device via the communication path 1110. Further, the predetermined data and the predetermined program may be read from the storage medium 112 via the drive 111 described later when the arithmetic device 1002 executes the specific information processing.

 通信I/F1003は、例えば、有線LANモジュール、無線LANモジュール等であり、通信路1110を介して他の装置と有線又は無線通信を行うためのインタフェースである。本開示において、通信I/F1003は、通信路1110を介して、後述のコンピュータ1120及び他の装置(図示せず)から所定のデータ等を受信するように構成されている。 The communication I / F 1003 is, for example, a wired LAN module, a wireless LAN module, or the like, and is an interface for performing wired or wireless communication with another device via the communication path 1110. In the present disclosure, the communication I / F 1003 is configured to receive predetermined data and the like from the computer 1120 and other devices (not shown) described below via the communication path 1110.

 診断装置1は、入力装置113及び例えば表示装置等の出力装置114をさらに備えていても良い。入力装置113としては、マウス、キーボード、タッチパネル等を用いることができる。また、出力装置114としては、ディスプレイ、スピーカ等を用いることができる。また、診断装置1は、CDドライブ、DVDドライブ等の、記憶媒体112に記憶されたデータおよびプログラムを読み込むためのドライブ111をさらに備えていてもよい。
 診断装置2についても同様の構成を有している。
The diagnostic device 1 may further include an input device 113 and an output device 114 such as a display device. A mouse, a keyboard, a touch panel, or the like can be used as the input device 113. A display, a speaker, or the like can be used as the output device 114. The diagnostic device 1 may further include a drive 111 such as a CD drive or a DVD drive for reading data and programs stored in the storage medium 112.
The diagnostic device 2 also has a similar configuration.

 以上、各実施形態により本開示の具体的な構成を説明したが、本開示の範囲は、図示され記載された例示的な実施形態に限定されるものではなく、本開示が目的とするものと均等な効果をもたらす全ての実施形態をも含む。さらに、本開示の範囲は、請求項により画される発明の特徴の組み合わせに限定されるものではなく、全ての開示されたそれぞれの特徴のうち特定の特徴のあらゆる所望する組み合わせによって画されうる。 Although the specific configurations of the present disclosure have been described above with the respective embodiments, the scope of the present disclosure is not limited to the exemplary embodiments illustrated and described, and the present disclosure is intended. It also includes all embodiments that produce an equivalent effect. Moreover, the scope of the present disclosure is not limited to the combination of inventive features defined by the claims, but can be defined by any desired combination of specific features of each disclosed feature.

10,310 表示部
20 特徴抽出部
22 データ解析部
24 特徴推論部
26 特徴学習部
30 スコア算出部
40 診断部
42 診断基準設定部
50 画像合成部
100,300 診断装置
110 診断結果表示領域
120 診断用部分スコア表示領域
130 診断画像表示領域
132 診断用画像
134 解析後画像
200 カメラ
202,202A~202E 診断用画像データ
204 学習用画像データ
206 設定用画像データ
242 学習済モデル
302 初期モデル
304 学習用パラメータ
340 単一対象評価結果表示領域
350 複数対象評価結果表示領域
360 ランク表示領域
370 診断用画像データ選択領域
10, 310 Display unit 20 Feature extraction unit 22 Data analysis unit 24 Feature inference unit 26 Feature learning unit 30 Score calculation unit 40 Diagnostic unit 42 Diagnostic reference setting unit 50 Image synthesis unit 100, 300 Diagnostic device 110 Diagnostic result display area 120 Diagnostic use Partial score display area 130 Diagnostic image display area 132 Diagnostic image 134 Analyzed image 200 Cameras 202, 202A to 202E Diagnostic image data 204 Learning image data 206 Setting image data 242 Learned model 302 Initial model 304 Learning parameter 340 Single target evaluation result display area 350 Multiple target evaluation result display area 360 Rank display area 370 Diagnostic image data selection area

Claims (20)

 検査対象の状態を診断する診断装置であって、
 前記検査対象を外部から測定して得られた診断用センサデータが入力され、前記診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する特徴抽出部と、
 前記特徴抽出部から入力された前記特徴に基づいて、前記診断用センサデータが有する前記特徴に関連付けられた診断用部分スコアを算出し、前記診断用部分スコアに基づいて前記診断用センサデータの診断用スコアを算出するスコア算出部と、
 前記スコア算出部から入力された前記診断用スコアに基づいて、前記検査対象の状態を診断して診断結果を出力する診断部と、
 前記診断結果と前記診断用部分スコアとを表示する表示部と、
を備える診断装置。
A diagnostic device for diagnosing the condition of an inspection target,
A feature extraction unit that receives diagnostic sensor data obtained by measuring the inspection target from the outside and extracts at least one predetermined feature from the diagnostic sensor data,
Based on the feature input from the feature extraction unit, a diagnostic partial score associated with the feature of the diagnostic sensor data is calculated, and diagnosis of the diagnostic sensor data is performed based on the diagnostic partial score. A score calculation unit for calculating a score for
Based on the diagnostic score input from the score calculation unit, a diagnostic unit that diagnoses the state of the inspection target and outputs a diagnostic result,
A display unit that displays the diagnosis result and the diagnostic partial score,
A diagnostic device including.
 前記スコア算出部は、前記特徴に関連付けられた特徴別スコアに基づいて、前記診断用部分スコアを算出し、前記診断用スコアとしてトータルスコアを算出し、
 前記診断部は、前記トータルスコアに基づいて、前記検査対象の状態を診断する
請求項1に記載の診断装置。
The score calculation unit calculates the diagnostic partial score based on a feature-specific score associated with the feature, and calculates a total score as the diagnostic score.
The diagnostic device according to claim 1, wherein the diagnostic unit diagnoses a state of the inspection target based on the total score.
 前記表示部は、少なくとも一つの前記診断用部分スコアと該診断用部分スコアに対応する前記特徴の名称とをそれぞれ関連付けて表示する診断用部分スコア表示領域を有する請求項2に記載の診断装置。 The diagnostic device according to claim 2, wherein the display unit has a diagnostic partial score display area that displays at least one of the diagnostic partial scores and the name of the feature corresponding to the diagnostic partial score in association with each other.  前記スコア算出部は、前記診断用センサデータについて、複数の前記診断用部分スコアを算出し、
 前記表示部は、前記診断用部分スコア表示領域において、複数の前記診断用部分スコアと、前記診断用部分スコアに対応する前記特徴の名称とをグラフとして表示する請求項3に記載の診断装置。
The score calculation unit, for the diagnostic sensor data, calculates a plurality of the diagnostic partial score,
The diagnostic device according to claim 3, wherein the display unit displays a plurality of the diagnostic partial scores and the names of the features corresponding to the diagnostic partial scores as a graph in the diagnostic partial score display area.
 前記表示部は、前記診断用部分スコア表示領域において、複数の前記診断用部分スコアと複数の前記特徴の名称とをそれぞれ関連付けて、レーダーチャートとして表示する請求項4に記載の診断装置。 The diagnostic device according to claim 4, wherein the display unit displays a radar chart by associating a plurality of the diagnostic partial scores with a plurality of the feature names in the diagnostic partial score display area.  前記表示部は、一つの前記診断用センサデータに関する前記診断結果および前記診断用部分スコアを表示する単一対象評価結果表示領域を有する請求項2から5のいずれか1項に記載の診断装置。 The diagnostic device according to any one of claims 2 to 5, wherein the display unit has a single target evaluation result display area that displays the diagnostic result and the diagnostic partial score regarding one piece of the diagnostic sensor data.  前記表示部は、複数の前記診断用センサデータに関する前記診断結果および前記診断用部分スコアを、前記診断用センサデータごとに並べて表示する複数対象評価結果表示領域を有する請求項6に記載の診断装置。 The diagnostic device according to claim 6, wherein the display unit has a plurality of target evaluation result display areas that display the diagnostic results and the diagnostic partial scores relating to the plurality of diagnostic sensor data side by side for each diagnostic sensor data. .  前記表示部は、前記複数対象評価結果表示領域において、前記トータルスコアおよび前記診断用部分スコアを、棒グラフ、散布図、又は折れ線グラフのいずれかで表示する請求項7に記載の診断装置。 The diagnostic device according to claim 7, wherein the display unit displays the total score and the diagnostic partial score in a bar graph, a scatter diagram, or a line graph in the multi-target evaluation result display area.  前記特徴を有するセンサデータを含む学習用センサデータに基づく機械学習により、前記特徴抽出部に入力された前記診断用センサデータが有する前記特徴を出力する学習済モデルを生成する特徴学習部をさらに有する請求項1から8のいずれか1項に記載の診断装置。 It further includes a feature learning unit that generates a learned model that outputs the feature included in the diagnostic sensor data input to the feature extraction unit by machine learning based on learning sensor data including sensor data having the feature. The diagnostic device according to any one of claims 1 to 8.  前記特徴抽出部は、前記特徴抽出部に入力された前記診断用センサデータに基づく前記
学習済モデルの推論結果を前記特徴として出力する特徴推論部を有する請求項9に記載の診断装置。
The diagnostic device according to claim 9, wherein the feature extraction unit includes a feature inference unit that outputs, as the feature, an inference result of the learned model based on the diagnostic sensor data input to the feature extraction unit.
 前記特徴抽出部は、前記診断用センサデータおよび前記学習用センサデータの解析を行うデータ解析部を有する請求項10に記載の診断装置。 The diagnostic device according to claim 10, wherein the feature extraction unit includes a data analysis unit that analyzes the diagnostic sensor data and the learning sensor data.  前記データ解析部は、前記解析の結果を、前記特徴推論部に特徴量として出力し、又は前記スコア算出部に前記特徴として出力する請求項11に記載の診断装置。 The diagnostic device according to claim 11, wherein the data analysis unit outputs the analysis result to the feature inference unit as a feature amount or outputs the result to the score calculation unit as the feature.  前記特徴推論部は、前記データ解析部から入力された前記特徴量に対する前記学習済モデルの推論結果を、前記診断用センサデータの前記特徴として抽出する請求項12に記載の診断装置。 The diagnostic device according to claim 12, wherein the feature inference unit extracts an inference result of the learned model for the feature amount input from the data analysis unit as the feature of the diagnostic sensor data.  前記診断用センサデータおよび前記学習用センサデータは、画像データである診断用画像データおよび学習用画像データである請求項11から13のいずれか1項に記載の診断装置。 The diagnostic device according to any one of claims 11 to 13, wherein the diagnostic sensor data and the learning sensor data are diagnostic image data and learning image data that are image data.  前記データ解析部は、前記画像データに対応する画像における色、線、および形状、ならびにこれらの組合せに基づいて解析を行う請求項14に記載の診断装置。 The diagnostic device according to claim 14, wherein the data analysis unit performs analysis based on a color, a line, a shape in an image corresponding to the image data, and a combination thereof.  入力された前記診断用画像データに対応する画像に対して前記特徴抽出部で抽出した前記特徴を示すマークを合成して解析後画像を作成する画像合成部を備え、
 前記表示部は、前記診断用画像データに対応する画像および前記画像合成部から入力された前記解析後画像を表示する診断画像表示領域を有する請求項14又は15のいずれか1項に記載の診断装置。
An image combining unit that creates a post-analysis image by combining a mark indicating the feature extracted by the feature extracting unit with respect to an image corresponding to the input diagnostic image data,
16. The diagnosis according to claim 14, wherein the display unit has a diagnostic image display region for displaying an image corresponding to the diagnostic image data and the analyzed image input from the image combining unit. apparatus.
 前記診断部は、前記診断部における診断基準を決定するための閾値を設定する診断基準設定部を有する請求項1から16のいずれか1項に記載の診断装置。 The diagnostic device according to any one of claims 1 to 16, wherein the diagnostic unit includes a diagnostic standard setting unit that sets a threshold value for determining a diagnostic standard in the diagnostic unit.  前記診断基準設定部は、前記特徴を有するセンサデータと、前記センサデータに対応する前記検査対象を測定して得られた状態の指標となるデータとを含む設定用センサデータに基づいて設定された前記閾値を設定する
請求項17に記載の診断装置。
The diagnostic standard setting unit is set based on setting sensor data including sensor data having the characteristics and data serving as an index of a state obtained by measuring the inspection target corresponding to the sensor data. The diagnostic device according to claim 17, wherein the threshold value is set.
 前記検査対象は、保護材で被覆された配管であり、
 前記状態の指標となるデータは、前記配管の厚みに関するデータである、
る請求項1から18のいずれか1項に記載の診断装置。
The inspection target is a pipe covered with a protective material,
The data that is an index of the state is data regarding the thickness of the pipe,
The diagnostic device according to any one of claims 1 to 18, which comprises:
 検査対象の状態を診断する診断方法であって、
 前記検査対象を外部から測定して診断用センサデータを得る工程と、
 前記診断用センサデータから、予め定められた少なくとも1つの特徴を抽出する工程と、
 抽出された前記特徴に基づいて、前記診断用センサデータが有する前記特徴に関連づけられた診断用部分スコアを算出する工程と、
 前記診断用部分スコアに基づいて、前記診断用センサデータの診断用スコアを算出する工程と、
 前記診断用スコアに基づいて、前記検査対象の状態を診断した診断結果を得る工程と、
 前記診断用スコアと前記診断結果とを表示部に表示する工程と、
を備える診断方法。
A diagnostic method for diagnosing a condition of an inspection target,
A step of measuring the inspection object from the outside to obtain diagnostic sensor data;
Extracting at least one predetermined characteristic from the diagnostic sensor data;
Calculating a diagnostic partial score associated with the feature of the diagnostic sensor data, based on the extracted feature;
Calculating a diagnostic score of the diagnostic sensor data based on the diagnostic partial score;
A step of obtaining a diagnosis result of diagnosing the state of the inspection object based on the diagnostic score;
Displaying the diagnostic score and the diagnostic result on a display unit;
A diagnostic method comprising.
PCT/JP2019/041376 2018-10-23 2019-10-21 Diagnosing device and diagnosing method Ceased WO2020085327A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020553405A JP7057837B2 (en) 2018-10-23 2019-10-21 Diagnostic device and diagnostic method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-199361 2018-10-23
JP2018199361 2018-10-23

Publications (1)

Publication Number Publication Date
WO2020085327A1 true WO2020085327A1 (en) 2020-04-30

Family

ID=70331352

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/041376 Ceased WO2020085327A1 (en) 2018-10-23 2019-10-21 Diagnosing device and diagnosing method

Country Status (2)

Country Link
JP (1) JP7057837B2 (en)
WO (1) WO2020085327A1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021056224A (en) * 2019-09-30 2021-04-08 株式会社クボタ Device and method for predicting renewal time of buried pipe, program, and computer-readable recording medium
EP3945301A1 (en) * 2020-07-29 2022-02-02 ABB Schweiz AG Technologies for producing training data for identifying degradation of physical components
JP2022124933A (en) * 2021-02-16 2022-08-26 中国電力株式会社 Apparatus coating deterioration evaluation program and system thereof
JP7195493B1 (en) * 2022-05-30 2022-12-23 三菱電機株式会社 Corrosion environment diagnosis system
JPWO2023089846A1 (en) * 2021-11-22 2023-05-25
WO2025215758A1 (en) * 2024-04-10 2025-10-16 Ntt株式会社 Estimation device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014137284A (en) * 2013-01-17 2014-07-28 Dainippon Screen Mfg Co Ltd Teacher data creation support device, teacher data creation device, image classification device, teacher data creation support method, teacher data creation method and image classification method
JP2014202747A (en) * 2013-12-26 2014-10-27 札幌施設管理株式会社 Piping evaluation method
JP2015084970A (en) * 2013-10-31 2015-05-07 株式会社アラヤ・ブレイン・イメージング Individual characteristics prediction system, individual characteristics prediction method and program
JP2017219386A (en) * 2016-06-06 2017-12-14 富士電機株式会社 Radiation piping diagnostic system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014137284A (en) * 2013-01-17 2014-07-28 Dainippon Screen Mfg Co Ltd Teacher data creation support device, teacher data creation device, image classification device, teacher data creation support method, teacher data creation method and image classification method
JP2015084970A (en) * 2013-10-31 2015-05-07 株式会社アラヤ・ブレイン・イメージング Individual characteristics prediction system, individual characteristics prediction method and program
JP2014202747A (en) * 2013-12-26 2014-10-27 札幌施設管理株式会社 Piping evaluation method
JP2017219386A (en) * 2016-06-06 2017-12-14 富士電機株式会社 Radiation piping diagnostic system

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021056224A (en) * 2019-09-30 2021-04-08 株式会社クボタ Device and method for predicting renewal time of buried pipe, program, and computer-readable recording medium
WO2022070706A1 (en) * 2019-09-30 2022-04-07 株式会社クボタ Buried piping replacement period prediction device, buried piping replacement period prediction method, program, and computer-readable recording medium
EP3945301A1 (en) * 2020-07-29 2022-02-02 ABB Schweiz AG Technologies for producing training data for identifying degradation of physical components
JP2022124933A (en) * 2021-02-16 2022-08-26 中国電力株式会社 Apparatus coating deterioration evaluation program and system thereof
JP7620873B2 (en) 2021-02-16 2025-01-24 中国電力株式会社 Equipment coating deterioration evaluation program and system
JPWO2023089846A1 (en) * 2021-11-22 2023-05-25
WO2023089846A1 (en) * 2021-11-22 2023-05-25 株式会社Roxy Inspection device and inspection method, and program for use in same
JP7195493B1 (en) * 2022-05-30 2022-12-23 三菱電機株式会社 Corrosion environment diagnosis system
WO2023233465A1 (en) * 2022-05-30 2023-12-07 三菱電機株式会社 Corrosive environment diagnostic system
WO2025215758A1 (en) * 2024-04-10 2025-10-16 Ntt株式会社 Estimation device

Also Published As

Publication number Publication date
JP7057837B2 (en) 2022-04-20
JPWO2020085327A1 (en) 2021-09-30

Similar Documents

Publication Publication Date Title
JP7057837B2 (en) Diagnostic device and diagnostic method
JP6422573B2 (en) Image processing apparatus, image processing method and program
JPWO2021235364A5 (en)
JP6556266B2 (en) Defect inspection apparatus, method and program
US20200096454A1 (en) Defect detection system for aircraft component and defect detection method for aircraft component
EP2024735A2 (en) Advanced processing of active thermography signals
KR102806587B1 (en) Evaluation method and evaluation device for roughening of metal surface
CN109900363A (en) A kind of object infrared measurement of temperature method and apparatus based on contours extract
CN103218805B (en) Handle the method and system for the image examined for object
JP2018179968A (en) Defect detection using ultrasound scan data
JPWO2021240656A5 (en) Image processing device, control method and program
JP7194410B2 (en) Diagnostic method, program, and diagnostic device
JP7405362B2 (en) Concrete structure diagnosis system, concrete structure diagnosis method and program
CN117095236B (en) Method and system for evaluating test accuracy of blade root wheel groove
JP5009748B2 (en) Sample condition evaluation method
JP3745075B2 (en) Film thickness measuring device
WO2008001558A1 (en) Method of estimating evaluation data on the skin smoothness with naked eye and estimation apparatus
JP2009276149A (en) Device and method for visual examination
Hagiwara et al. A method for supporting hammering test by visualization of defect diagnosis on the concrete surfaces
JP6390458B2 (en) Information processing apparatus, information processing system, information processing method, and information processing program
JP2025067049A (en) Deterioration state inspection device, inspection system, deterioration state inspection method and deterioration state inspection program
JP2021099285A (en) Color unevenness inspection device and color unevenness inspection method
CN114974048B (en) Evaluation method and instrument for displaying consistency
Lin et al. Evaluation of operability by different gesture input patterns for crack inspection work support system
CN115294092A (en) Image capturing method and device, industrial endoscope and computer readable storage medium

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19875418

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020553405

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19875418

Country of ref document: EP

Kind code of ref document: A1