JP7766678B2 - 病変検出のための共同訓練を伴う接続機械学習モデル - Google Patents
病変検出のための共同訓練を伴う接続機械学習モデルInfo
- Publication number
- JP7766678B2 JP7766678B2 JP2023513602A JP2023513602A JP7766678B2 JP 7766678 B2 JP7766678 B2 JP 7766678B2 JP 2023513602 A JP2023513602 A JP 2023513602A JP 2023513602 A JP2023513602 A JP 2023513602A JP 7766678 B2 JP7766678 B2 JP 7766678B2
- Authority
- JP
- Japan
- Prior art keywords
- lesion
- neural network
- convolutional neural
- type
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/096—Transfer learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/174—Segmentation; Edge detection involving the use of two or more images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30016—Brain
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30242—Counting objects in image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Medical Informatics (AREA)
- Image Analysis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Description
多発性硬化症(MS)は、中枢神経系に影響を及ぼす疾患である。疾患の結果としてMSを有する被験者の脳に病変が形成される。大部分の場合、MSは、最初は再発寛解型MSとして現れ、空間的および時間的な分離を特徴とする。例えば、被験者は、種々の身体領域および/または種々の機能系に影響を及ぼしている複数の症候性エピソードを経験することがある。別の例として、被験者は、中枢神経系の種々の部分の病変を経験することがある。さらに別の例として、被験者は、症状を経験し、系に対応しない脳領域に病変を有することがある。経時的に、MS被験者の病変サイズおよび数は、頻繁に増加し、疾患の悪化を反映する。再発寛解型MSは、典型的には、最終的には二次性進行型MSに進行し、その間に症状および脳の健康の漸進的な悪化が、不連続な症候性再発および回復エピソードではなく観察される。原発性進行型MSも同様に、漸進的な症状の悪化および脳の分解を特徴とするが、この診断は、再発性寛解型を以前に経験していない被験者に限定される。
いくつかの実施形態では、コンピュータ実施方法が提供される。三次元磁気共鳴イメージング(MRI)画像がアクセスされる。三次元MRI画像は、少なくとも第1のタイプの病変(例えば、T1非増強病変)および第2のタイプの病変(T1 Gd-増強病変)を含む被験者の脳の領域を表示する。三次元MRI画像は、第1の畳み込みニューラルネットワークおよび第2の畳み込みニューラルネットワークを含む機械学習モデルに入力される。第1の畳み込みニューラルネットワークは、第1の畳み込みニューラルネットワークの1つ以上の層と第2の畳み込みニューラルネットワークの1つ以上の層との間の1つ以上のクロスネットワーク接続を用いて第2の畳み込みネットワークに接続される。第1のタイプの病変の第1のセグメンテーションマスクは、三次元MRI画像を入力として取り込む第1の畳み込みニューラルネットワークを使用して生成される。第1のセグメンテーションマスクは、第1のタイプの病変の表示の周りの第1の推定セグメンテーション境界を含む。第2のタイプの病変の第2のセグメンテーションマスクは、三次元MRI画像を入力として取り込む第2の畳み込みニューラルネットワークを使用して生成される。第2のセグメンテーションマスクは、第2のタイプの病変の表示の周りの第2の推定セグメンテーション境界を含む。第1のセグメンテーションマスクおよび第2のセグメンテーションマスクは、並行して生成され、抽出された特徴のセットは、第1のセグメンテーションマスクおよび第2のセグメンテーションマスクが生成される間に1つ以上のクロスネットワーク接続にわたって共有される。第1のセグメンテーションマスクおよび第2のセグメンテーションマスクが出力される。
I.概要
本開示は、医用画像の自動病変セグメンテーションのための技術を説明する。より具体的には、本開示の実施形態は、深層学習ネットワーク間の接続を有する共同訓練された深層学習ネットワークを使用して、医用画像(例えば、造影前後のT1w画像)内の種々のタイプの病変(例えば、非増強T1病変およびガドリニウム(Gd)増強T1病変)の表示をセグメント化するための技術を提供する。
画像セグメンテーションは、形状、サイズ、色などの種々の特徴の類似性を示す部分に画像を分離する手順である。病変の表示のセグメンテーションは、身体の領域(例えば、脳)内の病変のサイズおよび位置の視覚化を可能にし、治療の分析についての基礎を提供することもできる。病変セグメンテーションのゴールドスタンダードは、長い間手動セグメンテーションであり、これは時間がかかり、労働集約的であり、したがって大規模な研究には適していない。病変セグメンテーションのプロセスを完全にまたは部分的に自動化しようとするかなりの研究が行われてきた。例えば、閾値処理、領域拡大、ファジークラスタリング、ウォーターシェッドアルゴリズムの使用などの画像セグメンテーション技術は、脳の白質(WM)、灰白質(GM)、および脳脊髄液(CSF)などの正常組織の表示から異常組織(例えば、病変)の表示を分離するために使用されてきた。それにもかかわらず、セグメンテーションのプロセスは、病変の表示の形状、位置、およびサイズの多様性のために依然として困難である。
図1は、様々な実施形態にかかる、複数の接続されたネットワークを有するモデルを使用して画像内の種々のタイプの病変の表示をセグメント化するための例示的なコンピューティング環境100(すなわち、データ処理システム)を示している。図1に示すように、この例におけるコンピューティング環境100によって実行されるセグメント化は、いくつかの段階、すなわち、画像取得段階105、モデル訓練段階110、セグメンテーション段階115、および分析段階120を含む。
ボクセルiが病変クラス(例えば、T1非増強、Gd増強)に属するモデル予測確率であり、
ボクセルが病変クラスに属さない確率である。同様に、
ボクセルが病変クラスに属するか否かをグラウンドトゥルース注釈で示す。βは、偽陽性(FP)からの寄与を重み付けし、(1-β)は、偽陰性(FN)からの寄与を重み付けする。wBCEには、以下の式(2)が使用されることができる:
T1非増強病変およびGd増強病変をセグメント化するためのトップモデルおよびボトムモデルの損失に対応し、
病変を非増強するための予測モデルおよびグラウンドトゥルース(GT)マスクに対応し、
Gd増強病変についての予測モデルおよびGTマスクに対応する。
Gd増強病変のより低い有病率を説明するために
重み付けされることができる。
図2に示す例示的な実施形態では、機械学習モデル内の複数のネットワークが集合的に使用されて、三次元MRI画像に表示された種々のタイプの病変を検出することができる。図2は、非増強病変をセグメント化するために使用される第1の改変U-Net205と、Gd増強病変をセグメント化するために使用される第2の改変U-Net210とを含む例示的なモデル200を示している。改変U-Net205;210は、3つのレベルを有して比較的浅い。改変U-Net205;210は、それぞれ、縮小経路215(符号器)および拡張経路220(復号器)を含み、これらはネットワークにu字形アーキテクチャを与える。縮小経路215の各符号化ブロック225は、畳み込み(3×3×3カーネル)層、バッチノルム層、および正規化線形ユニット(ReLU)活性化層の2つのセットから構成される。改変U-Net205;210は、訓練中にドロップアウト層を使用して、逆伝播中に勾配を容易に伝播するためのオーバーフィッティングおよび残差接続を回避する。各ネットワークは、縮小経路215内の特徴を抽出し、各スケールでの特徴マップの数は徐々に増加する。特徴マップは、スライス次元に沿った限られたカバレッジを説明するために、異方性カーネル230(1×3×3)を用いたストライド畳み込みを使用してダウンサンプリングされる。これに対応して、縮小経路215において、特徴マップは、補間層235を使用してアップサンプリングされる(1×2×2)。きめ細かい詳細を有する縮小経路215からのスキップ特徴は、アップサンプリングされた意味的特徴と連結され、結合された特徴は、縮小経路215において使用されるものと同様の残差畳み込みブロック240を使用して洗練される。最上位レベルの復号ブロック特徴は、中間レベルからアップサンプリングされた洗練された特徴と連結され、最終的な畳み込み層および活性化層を通過して、病変セグメンテーション確率を生成する。
図3は、様々な実施形態にかかる、複数の接続されたネットワークを有するモデルを使用して画像内の種々のタイプの病変の表示をセグメント化するための例示的なプロセス環境を示している。ブロック302において、被験者の脳を表示する三次元MRI画像がアクセスされる。被験者の脳は、少なくとも第1のタイプの病変(例えば、T1非増強病変)および第2のタイプの病変(例えば、T1 Gd増強病変)を含む。三次元MRI画像は、イメージングシステム(例えば、イメージングシステム130)からセグメンテーションコントローラ(例えば、セグメンテーションコントローラ170)によってアクセスされることができる。
様々な実施形態において実行されるシステムおよび方法は、以下の実施例を参照することによって、より良好に理解することができる。
深層学習を用いた多発性硬化症の臨床トライアルにおけるT1 Gd増強病変負担に対する治療反応の検出。
オクレリズマブ(OCR)は、再発性および原発性進行型形態のMSの治療のために承認されたヒト化抗CD20+モノクローナル抗体である。OCRは、T1 Gd増強病変の数の減少によって示されるように、炎症の新たな領域の発生を抑制する。病変の深層学習(DL)ベースのセグメンテーションは、これらの手動読み取りを自動化する可能性を有する;より迅速且つ再現性のある定量化を可能にする。
再発寛解型多発性硬化症(RRMS)患者における2つの同一の第III相、多施設、無作為化、二重盲検、ダブルダミー、および並行群トライアルのMRIデータセットを使用して、病変セグメンテーションモデルが開発された。(Opera 1:NCT01247324、n=898;Opera 2:NCT01412333、n=905)。様々な製造業者からの1.5T(約0.8%)および3T(約0.2%)スキャナでデータが取得された。T1w(造影前後)、T2w、FLAIRおよび約1×1×3mm3の解像度を有するPD画像を含む標準化された従来の脳MRIが、ベースライン、24、48および96週で実施された。軸方向3mmT1重み付けスライス(3Dスポイル勾配エコー、繰り返し時間=28~30ms、エコー時間=5~11ms、フリップ角度=27~30)を、Gd注入前およびGd注入後に取得した(0.1mmol/kg、10分の注入後遅延)。2D高速スピンエコー、反復時間=4000~6190ms、エコー時間=74~91msおよびエコートレイン長=7~11によって、軸方向3mmのT2増強スライスを取得した。MRIデータの前処理は、バイアスフィールド補正、MNIテンプレートへのベースライン画像の剛性位置合わせ、ベースラインへのフォローアップ訪問および頭蓋骨剥離の剛性位置合わせを含んでいた。
モデルのネットワークアーキテクチャは、図2に関して本明細書に示され説明される。一般に、モデルは、非増強病変をセグメント化するために使用される第1の改変U-NetおよびGd増強病変をセグメント化するために使用される第2の改変U-Netを含んでいた。第1の改変U-Netは、第1の改変U-Netの符号化ブロックから第2の改変U-Netの符号化ブロックへの複数のクロスネットワーク接続を用いて第2の改変U-Netに接続される。各クロスネットワーク接続は、特徴変換ブロックおよび圧縮ブロックを含む。
ネットワークを共同訓練するために、Opera Iトライアルからの画像が使用され、訓練および検証のために、70%~30%のデータ分割が使用された。ネットワークを、Opera IIトライアルの画像に対して試験した。
モデルを、ボクセル当たりレベルでのセグメント化性能および病変レベルでの検出性能について評価した。予測体積およびGT体積の平均ダイス係数(DC)、陽性予測値(PPV)、感度、絶対体積差(AVD)およびピアソンの相関係数を、セグメンテーション性能を評価するためのメトリックとして使用した。DCは、予測およびグラウンドトゥルースバイナリマスクの重複を測定するためのメトリックであり、以下の式(5)によって定義される:
イメージングエンドポイントを再現する実験を行うために、モデル予測マスクと手動のニューロ放射線科医の読み取りとの比較は、(モデルの訓練にはOpera 1からの画像が使用されたため)Opera 2の画像でのみ行われた。R(Rバージョン4.0.1、R Foundation for Statistical Computing)を用いて統計分析を行った。
深層学習を用いた多発性硬化症の臨床トライアルにおけるT1 Gd増強病変負担に対する治療反応の検出。
疾患の進行を遅らせるために所与の治療薬が多発性硬化症の治療に有効であるかどうかを予測するために、臨床試験中に病変が頻繁に評価される。特に、試験エンドポイントは、試験期間中に病変カウントおよび/または病変サイズ(例えば、累積病変サイズ)がどの程度変化したかを調べることが多い。試験期間中に特定の治療が実施された場合に観察された変化は、試験期間中に治療またはベースライン治療が実施されなかった場合に観察された対応する変化と比較されることができる。
本開示のいくつかの実施形態は、1つ以上のデータプロセッサを含むシステムを含む。いくつかの実施形態では、システムは、命令を含む非一時的コンピュータ可読記憶媒体であって、命令が、1つ以上のデータプロセッサ上で実行されると、1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部および/または1つ以上のプロセスの一部または全部を実行させる、非一時的コンピュータ可読記憶媒体を含む。本開示のいくつかの実施形態は、1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部および/または1つ以上のプロセスの一部または全部を実行させるように構成された命令を含む、非一時的機械可読記憶媒体において有形に具現化されたコンピュータプログラム製品を含む。
以下において使用されるように、一連の例への任意の言及は、それらの例のそれぞれへの言及として選言的に理解されるべきである(例えば、「実施例1~4」は、「実施例1、2、3または4」と理解されるべきである)。
Claims (28)
- コンピュータ実施方法であって、
三次元磁気共鳴イメージング(MRI)画像にアクセスすることであって、前記三次元MRI画像が被験者の脳の領域を表示し、前記脳の前記領域が、少なくとも第1のタイプの病変および第2のタイプの病変を含む、三次元磁気共鳴イメージング(MRI)画像にアクセスすることと、
前記三次元MRI画像を、第1の畳み込みニューラルネットワークおよび第2の畳み込みニューラルネットワークを含む機械学習モデルに入力することであって、前記第1の畳み込みニューラルネットワークが、前記第1の畳み込みニューラルネットワークの1つ以上の層と前記第2の畳み込みニューラルネットワークの1つ以上の層との間の1つ以上のクロスネットワーク接続を用いて前記第2の畳み込みニューラルネットワークに接続されている、前記三次元MRI画像を、第1の畳み込みニューラルネットワークおよび第2の畳み込みニューラルネットワークを含む機械学習モデルに入力することと、
前記三次元MRI画像を入力として取り込む前記第1の畳み込みニューラルネットワークを使用して、前記第1のタイプの病変の第1のセグメンテーションマスクを生成することであって、前記第1のセグメンテーションマスクが、前記第1のタイプの病変の表示の周りの第1の推定セグメンテーション境界を含む、前記第1のタイプの病変の第1のセグメンテーションマスクを生成することと、
前記三次元MRI画像を入力として取り込む前記第2の畳み込みニューラルネットワークを使用して、前記第2のタイプの病変の第2のセグメンテーションマスクを生成することであって、前記第2のセグメンテーションマスクが、前記第2のタイプの病変の表示の周りの第2の推定セグメンテーション境界を含み、前記第1のセグメンテーションマスクおよび前記第2のセグメンテーションマスクが、並行して生成され、前記第1のセグメンテーションマスクおよび前記第2のセグメンテーションマスクが生成される間に、抽出された特徴のセットが、前記1つ以上のクロスネットワーク接続にわたって共有される、前記第2のタイプの病変の第2のセグメンテーションマスクを生成することと、
前記第1のセグメンテーションマスクおよび前記第2のセグメンテーションマスクを出力することと
を含む、コンピュータ実施方法。 - 前記第1の畳み込みニューラルネットワークが、前記第1の畳み込みニューラルネットワークの符号化ブロックから前記第2の畳み込みニューラルネットワークの符号化ブロックへの前記1つ以上のクロスネットワーク接続を用いて前記第2の畳み込みニューラルネットワークに接続される、請求項1に記載のコンピュータ実施方法。
- 前記第1の畳み込みニューラルネットワークが、前記第1の畳み込みニューラルネットワークの復号ブロックから前記第2の畳み込みニューラルネットワークの復号ブロックへの前記1つ以上のクロスネットワーク接続を用いて前記第2の畳み込みニューラルネットワークに接続される、請求項1または2に記載のコンピュータ実施方法。
- 前記クロスネットワーク接続のそれぞれが、特徴変換ブロックおよび圧縮ブロックを含む、請求項1~3のいずれか一項に記載のコンピュータ実施方法。
- 前記第1のタイプの病変がT1非増強病変であり、前記第2のタイプの病変がT1 Gd増強病変である、請求項1~4のいずれか一項に記載のコンピュータ実施方法。
- 前記第1の畳み込みニューラルネットワークおよび前記第2の畳み込みニューラルネットワークが、Tversky損失と重み付きバイナリ交差エントロピー損失との組み合わせを含む損失関数を使用して訓練された、請求項1~5のいずれか一項に記載のコンピュータ実施方法。
- 前記第1の畳み込みニューラルネットワークが、前記第1のタイプの病変および前記第2のタイプの病変を含む種々のタイプの病変の周りのセグメンテーション境界に関連付けられた注釈を有する複数の医用画像を含む訓練データのセットを使用して識別された複数のモデルパラメータを含み、前記複数のモデルパラメータが、前記損失関数を最小化することに基づいて前記訓練データのセットを使用して識別される、請求項6に記載のコンピュータ実施方法。
- 前記第2の畳み込みニューラルネットワークが、前記訓練データのセットを使用して識別された複数のモデルパラメータを含み、前記第2の畳み込みニューラルネットワークは、前記第2の畳み込みニューラルネットワークの前記複数のモデルパラメータが、前記損失関数を最小化することに基づいて前記訓練データのセットを使用して協調的に識別されるように、前記第1の畳み込みニューラルネットワークと共同訓練される、請求項7に記載のコンピュータ実施方法。
- 前記損失関数が、前記第1のタイプの病変と前記第2のタイプの病変との間の任意のオーバーラップ、ならびに前記第1の畳み込みニューラルネットワークおよび前記第2の畳み込みニューラルネットワークからの偽陽性の寄与に対するペナルティ項をさらに含む、請求項8に記載のコンピュータ実施方法。
- 前記第1の畳み込みニューラルネットワークおよび前記第2の畳み込みニューラルネットワークがU-Netである、請求項1~9のいずれか一項に記載のコンピュータ実施方法。
- 前記第1の畳み込みニューラルネットワークが、符号化ブロックおよび復号ブロックの3つの層を含む、請求項10に記載のコンピュータ実施方法。
- 前記第2の畳み込みニューラルネットワークが、符号化ブロックおよび復号ブロックの3つの層を含む、請求項10または11に記載のコンピュータ実施方法。
- 前記三次元MRI画像が、チャネル次元に沿って積層された複数の隣接するスライスを含み、前記隣接するスライスが、第1のタイプのMRIシーケンスを使用して生成された第1の三次元MRIスライス、第2のタイプのMRIシーケンスを使用して生成された第2の三次元MRIスライス、および第3のタイプのMRIシーケンスを使用して生成された第3の三次元MRIスライスを含む、請求項1~12のいずれか一項に記載のコンピュータ実施方法。
- 前記第1のタイプのMRIシーケンスが造影後T1であり、前記第2のタイプのMRIシーケンスが造影前T1であり、前記第3のタイプのMRIシーケンスが流体減衰反転回復法である、請求項13に記載のコンピュータ実施方法。
- 前記第1の三次元MRIスライスおよび前記第2の三次元MRIスライスが、造影剤増強を捕捉するために正規化され、前記正規化が、前記第2の三次元MRIスライスの平均および標準偏差を使用して、第1の三次元MRIスライス体積および第2の三次元スライス体積の双方をzスコア化することを含む、請求項13または14に記載のコンピュータ実施方法。
- 前記第1のセグメンテーションマスクを使用して前記第1のタイプの病変の数のカウントを決定すること、および前記第2のセグメンテーションマスクを使用して前記第2のタイプの病変の数のカウントを決定することをさらに含む、請求項1~15のいずれか一項に記載のコンピュータ実施方法。
- 前記第1のセグメンテーションマスクおよび前記第2のセグメンテーションマスクからの情報を組み合わせることによって最終画像マスクを生成することであって、前記最終画像マスクが、前記第1のタイプの病変と前記第2のタイプの病変との組み合わせを表す、病変の新たなセットの表示の周りの推定セグメンテーション境界を含む、最終画像マスクを生成することと、
前記最終画像マスクを出力することと
をさらに含む、請求項1~16のいずれか一項に記載のコンピュータ実施方法。 - 前記第1のセグメンテーションマスクを使用して前記第1のタイプの病変の数のカウントを決定すること、前記第2のセグメンテーションマスクを使用して前記第2のタイプの病変の数のカウントを決定すること、および/または前記最終画像マスクを使用して前記病変の新たなセット内の病変の数のカウントを決定することをさらに含む、請求項17に記載のコンピュータ実施方法。
- 前記第1のセグメンテーションマスク、前記第2のセグメンテーションマスク、および/または前記最終画像マスクを使用して、1つ以上の病変サイズまたは病変負荷を決定することをさらに含む、請求項17または18に記載のコンピュータ実施方法。
- 以前のMRIに対応するデータにアクセスすることと、
前記第1のセグメンテーションマスク、前記第2のセグメンテーションマスク、ならびに/または前記最終画像マスクおよび前記データを使用して、1つ以上の病変の量、サイズ、または累積サイズの変化を決定することと、
前記変化を表す出力を生成することと
をさらに含む、請求項17~19のいずれか一項に記載のコンピュータ実施方法。 - 前記第1のセグメンテーションマスク、前記第2のセグメンテーションマスク、および/または前記最終画像マスクに基づいて、治療方針を変更することを推奨することをさらに含む、請求項17~20のいずれか一項に記載のコンピュータ実施方法。
- 前記第1のセグメンテーションマスク、前記第2のセグメンテーションマスク、および/または前記最終画像マスクに少なくとも部分的に基づいて、多発性硬化症の被験者の可能な診断または確認された診断に対応する出力を提供することをさらに含む、請求項17~21のいずれか一項に記載のコンピュータ実施方法。
- 前記第1のセグメンテーションマスク、前記第2のセグメンテーションマスク、および/または前記最終画像マスクに少なくとも部分的に基づいて、多発性硬化症を有する前記被験者を診断することをさらに含む、請求項17~22のいずれか一項に記載のコンピュータ実施方法。
- 前記第1のセグメンテーションマスク、前記第2のセグメンテーションマスク、および/または前記最終画像マスクに少なくとも部分的に基づいて、治療反応を評価および/または予測することをさらに含む、請求項17~23のいずれか一項に記載のコンピュータ実施方法。
- コンピュータ実施方法であって、
三次元磁気共鳴イメージング(MRI)画像にアクセスすることであって、前記三次元MRI画像が被験者の脳の領域を表示し、前記脳の前記領域が、少なくとも第1のタイプの病変および第2のタイプの病変を含む、三次元磁気共鳴イメージング(MRI)画像にアクセスすることと、
前記三次元MRI画像を、第2の畳み込みニューラルネットワークに接続された第1の畳み込みニューラルネットワークを含む機械学習モデルに入力することと、
前記三次元MRI画像を入力として取り込む前記第1の畳み込みニューラルネットワークを使用して、前記第1のタイプの病変の第1のセグメンテーションマスクを生成することと、
前記三次元MRI画像上で前記第1のセグメンテーションマスクを入力として取り込む前記第2の畳み込みニューラルネットワークを使用して、前記第2のタイプの病変の第2のセグメンテーションマスクを生成することと、
前記第1のセグメンテーションマスクおよび前記第2のセグメンテーションマスクからの情報を組み合わせることによって最終画像マスクを生成することであって、前記最終画像マスクが、前記第1のタイプの病変の表示の周りの第1の推定セグメンテーション境界および/または前記第2のタイプの病変の表示の周りの第2の推定セグメンテーション境界を含む、最終画像マスクを生成することと、
前記最終画像マスクを出力することと
を含む、コンピュータ実施方法。 - 1つ以上のデータプロセッサに、請求項1~25のいずれか一項に記載の方法を実行させるように構成された命令を含む、コンピュータプログラム。
- 請求項26に記載のコンピュータプログラムを記録する、非一時的機械可読記憶媒体。
- システムであって、
1つ以上のデータプロセッサと、
請求項26に記載のコンピュータプログラムを記録する、非一時的コンピュータ可読記憶媒体と
を備える、システム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063073686P | 2020-09-02 | 2020-09-02 | |
| US63/073,686 | 2020-09-02 | ||
| PCT/US2021/048486 WO2022051290A1 (en) | 2020-09-02 | 2021-08-31 | Connected machine-learning models with joint training for lesion detection |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023540910A JP2023540910A (ja) | 2023-09-27 |
| JP7766678B2 true JP7766678B2 (ja) | 2025-11-10 |
Family
ID=78000790
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023513602A Active JP7766678B2 (ja) | 2020-09-02 | 2021-08-31 | 病変検出のための共同訓練を伴う接続機械学習モデル |
Country Status (5)
| Country | Link |
|---|---|
| EP (1) | EP4208848A1 (ja) |
| JP (1) | JP7766678B2 (ja) |
| KR (1) | KR20230059799A (ja) |
| CN (1) | CN116097302A (ja) |
| WO (1) | WO2022051290A1 (ja) |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11688063B2 (en) | 2020-10-30 | 2023-06-27 | Guerbet | Ensemble machine learning model architecture for lesion detection |
| US11436724B2 (en) | 2020-10-30 | 2022-09-06 | International Business Machines Corporation | Lesion detection artificial intelligence pipeline computing system |
| US11688517B2 (en) * | 2020-10-30 | 2023-06-27 | Guerbet | Multiple operating point false positive removal for lesion identification |
| US11749401B2 (en) | 2020-10-30 | 2023-09-05 | Guerbet | Seed relabeling for seed-based segmentation of a medical image |
| CN114926396B (zh) * | 2022-04-13 | 2023-06-20 | 四川大学华西医院 | 一种精神障碍类磁共振图像初步筛查模型构建方法 |
| CN114723730B (zh) * | 2022-04-22 | 2025-07-04 | 南方医科大学 | 一种对磁共振图像的腰骶部神经根进行分割的方法 |
| CN115049927A (zh) * | 2022-06-20 | 2022-09-13 | 北京航空航天大学杭州创新研究院 | 基于SegNet的SAR图像桥梁检测方法、装置和存储介质 |
| WO2024014728A1 (en) * | 2022-07-11 | 2024-01-18 | Samsung Electronics Co., Ltd. | Method and system for optimizing neural networks (nn) for on-device deployment in an electronic device |
| GB2621332B (en) * | 2022-08-08 | 2024-09-11 | Twinn Health Ltd | A method and an artificial intelligence system for assessing an MRI image |
| EP4612650A1 (en) * | 2022-12-20 | 2025-09-10 | GE Precision Healthcare LLC | Automated organ segmentation output quality assessment |
| CN116012385B (zh) * | 2023-03-28 | 2023-06-09 | 同心智医科技(北京)有限公司 | Mr灌注图像的脑缺血分割方法、装置及存储介质 |
| CN117973496B (zh) * | 2024-02-19 | 2024-07-05 | 苏州慧维智能医疗科技有限公司 | 局部病变医疗图像生成模型的训练方法、系统及应用 |
| CN119811640B (zh) * | 2024-12-19 | 2025-10-31 | 杭州电子科技大学 | 一种深度学习驱动的三维医学影像诊断辅助系统 |
| CN120471232B (zh) * | 2025-07-09 | 2025-09-09 | 西北农林科技大学 | 一种细粒度电力负荷协同预测方法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190114773A1 (en) | 2017-10-13 | 2019-04-18 | Beijing Curacloud Technology Co., Ltd. | Systems and methods for cross-modality image segmentation |
| CN109961446A (zh) | 2019-03-27 | 2019-07-02 | 深圳视见医疗科技有限公司 | Ct/mr三维图像分割处理方法、装置、设备及介质 |
| JP2019531783A (ja) | 2016-08-26 | 2019-11-07 | エレクタ、インク.Elekta, Inc. | 畳み込みニューラルネットワークを用いた画像セグメンテーションのためのシステムおよび方法 |
| WO2020119311A1 (zh) | 2018-12-14 | 2020-06-18 | 深圳市商汤科技有限公司 | 一种神经网络的训练方法及图像匹配方法、装置 |
| US20200229698A1 (en) | 2019-01-23 | 2020-07-23 | Siemens Healthcare Gmbh | Automatic identification of subjects at risk of multiple sclerosis |
-
2021
- 2021-08-31 JP JP2023513602A patent/JP7766678B2/ja active Active
- 2021-08-31 WO PCT/US2021/048486 patent/WO2022051290A1/en not_active Ceased
- 2021-08-31 CN CN202180053816.9A patent/CN116097302A/zh active Pending
- 2021-08-31 EP EP21783100.7A patent/EP4208848A1/en active Pending
- 2021-08-31 KR KR1020237008150A patent/KR20230059799A/ko active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019531783A (ja) | 2016-08-26 | 2019-11-07 | エレクタ、インク.Elekta, Inc. | 畳み込みニューラルネットワークを用いた画像セグメンテーションのためのシステムおよび方法 |
| US20190114773A1 (en) | 2017-10-13 | 2019-04-18 | Beijing Curacloud Technology Co., Ltd. | Systems and methods for cross-modality image segmentation |
| WO2020119311A1 (zh) | 2018-12-14 | 2020-06-18 | 深圳市商汤科技有限公司 | 一种神经网络的训练方法及图像匹配方法、装置 |
| JP2022510712A (ja) | 2018-12-14 | 2022-01-27 | シェンチェン センスタイム テクノロジー カンパニー リミテッド | ニューラルネットワークの訓練方法及び画像マッチング方法、並びに装置 |
| US20200229698A1 (en) | 2019-01-23 | 2020-07-23 | Siemens Healthcare Gmbh | Automatic identification of subjects at risk of multiple sclerosis |
| CN109961446A (zh) | 2019-03-27 | 2019-07-02 | 深圳视见医疗科技有限公司 | Ct/mr三维图像分割处理方法、装置、设备及介质 |
Non-Patent Citations (1)
| Title |
|---|
| ADRIA CASAMITJANA ET AL,Cascaded V-Net using ROI masks for brain tumor segmentation,ARXIV.ORG, CORNELL UNIVERSITY LIBRARY,2018年,381-391,https://arxiv.org/pdf/1812.11588 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20230059799A (ko) | 2023-05-03 |
| CN116097302A (zh) | 2023-05-09 |
| WO2022051290A1 (en) | 2022-03-10 |
| US20230281809A1 (en) | 2023-09-07 |
| JP2023540910A (ja) | 2023-09-27 |
| EP4208848A1 (en) | 2023-07-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7766678B2 (ja) | 病変検出のための共同訓練を伴う接続機械学習モデル | |
| Farhat et al. | Deep learning applications in pulmonary medical imaging: recent updates and insights on COVID-19 | |
| Rakić et al. | icobrain ms 5.1: Combining unsupervised and supervised approaches for improving the detection of multiple sclerosis lesions | |
| US9968257B1 (en) | Volumetric quantification of cardiovascular structures from medical imaging | |
| JP7759383B2 (ja) | 病変セグメンテーションのためのアテンションを伴うマルチアーム機械学習モデル | |
| Hille et al. | Joint liver and hepatic lesion segmentation in MRI using a hybrid CNN with transformer layers | |
| WO2019182520A1 (en) | Method and system of segmenting image of abdomen of human into image segments corresponding to fat compartments | |
| CN110945564B (zh) | 基于混合上下文cnn模型的医学图像分割 | |
| Sanyal et al. | An automated two-step pipeline for aggressive prostate lesion detection from multi-parametric MR sequence | |
| Lustermans et al. | Optimized automated cardiac MR scar quantification with GAN‐based data augmentation | |
| KR20200087427A (ko) | 딥러닝을 이용한 갑상선 암의 림프절 전이 진단 방법 | |
| Tummala et al. | Liver tumor segmentation from computed tomography images using multiscale residual dilated encoder‐decoder network | |
| Pérez-Pelegrí et al. | Automatic left ventricle volume calculation with explainability through a deep learning weak-supervision methodology | |
| Lim et al. | Motion artifact correction in fetal MRI based on a Generative Adversarial network method | |
| Arulappan et al. | Liver tumor segmentation using a new asymmetrical dilated convolutional semantic segmentation network in CT images | |
| Baumgartner et al. | Fully convolutional networks in medical imaging: Applications to image enhancement and recognition | |
| Haq et al. | MAR-GAN: Multi attention residual generative adversarial network for tumor segmentation in breast ultrasounds | |
| Delmoral et al. | Segmentation of pathological liver tissue with dilated fully convolutional networks: A preliminary study | |
| US12511742B2 (en) | Connected machine-learning models with joint training for lesion detection | |
| Chen et al. | Multi-scale information residual network: Deep residual network of prostate cancer segmentation based on multi scale information guidance | |
| Nehru et al. | Segmentation of brain tumor subregions with depthwise separable dense U‐NET (DSDU‐NET) | |
| Zhang et al. | Boundary-oriented network for automatic breast tumor segmentation in ultrasound images | |
| Patel | Improving segmentation pipelines for medical imaging using deep learning | |
| KR20220097697A (ko) | 융합 심층신경망 모델을 이용한 의료영상 분할 방법 및 시스템 | |
| Hsu | Automatic longitudinal assessment of tumor responses |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240827 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250326 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250401 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250630 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250930 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20251028 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7766678 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |