JP7765671B1 - 情報処理方法、コンピュータプログラム及び情報処理装置 - Google Patents

Abstract

【課題】画像認識モデルの系統的故障の分析を支援することが期待できる情報処理方法、コンピュータプログラム及び情報処理装置を提供する。
【解決手段】本実施の形態に係る情報処理方法は、情報処理装置が、テスト対象の画像認識モデルに対するテスト条件を基に、画像生成モデルを用いてテスト画像を生成し、生成した前記テスト画像を前記画像認識モデルへ入力して、前記画像認識モデルによる画像認識結果を取得し、取得した前記画像認識結果に含まれる誤認識結果を基に、言語モデルを用いて次のテスト条件を生成する。
【選択図】図４

Description

特許法第３０条第２項適用 令和 ６年１１月２８日にＦＯＳＥ２０２４ 第３１回ソフトウェア工学の基礎ワークショップにて公開 〔刊行物等〕 令和 ６年１２月１３日にレクチャーノート／ソフトウェア学 第５０巻ソフトウェア工学の基礎３１ 近代科学社刊にて公開

本開示は、情報処理方法、コンピュータプログラム及び情報処理装置に関する。

近年、機械学習ベースの画像認識モデルは、自動運転、医療分野及び農業分野等の様々な分野で優れた認識性能を発揮している。

特許文献１においては、所定の画像を複数クラスのいずれかに分類する分類処理に用いる機械学習モデルの精度の評価を支援する装置が提案されている。この装置は、正解クラスが対応付けられた複数の検証画像を用い、各検証画像に対する複数クラスのそれぞれについての一致度を機械学習モデルにより算出し、各検証画像に対して算出した各クラスの一致度に基づいて、各検証画像を複数クラスのいずれかに分類する。更にこの装置は、所定の正解クラスに対応付けられた検証画像群に対して算出された各クラスの一致度のうち、正解クラスの一致度の統計量と、他クラスの一致度の統計量との分離度を所定の表示装置に表示する。

特開２０２５－１８５７５号公報

画像認識モデルは、特定の条件下で系統的な誤り傾向を示すことがある。例えば、画像認識モデルによる一般的なトラックの認識率は高い一方で、白色のトラックに限定した際に認識率が低いケースは、白色のトラックという条件下で系統的な誤りを示しているといえる。以下、このように特定の条件下での系統的な誤り傾向を「系統的故障」と呼ぶ。

本開示は、画像認識モデルの系統的故障の分析を支援することが期待できる情報処理方法、コンピュータプログラム及び情報処理装置を提供する。

一実施形態に係る情報処理方法は、情報処理装置が、テスト対象の画像認識モデルに対するテスト条件を基に、画像生成モデルを用いてテスト画像を生成し、生成した前記テスト画像を前記画像認識モデルへ入力して、前記画像認識モデルによる画像認識結果を取得し、取得した前記画像認識結果に含まれる誤認識結果を基に、言語モデルを用いて次のテスト条件を生成する。

本開示によれば、画像認識モデルの系統的故障の分析を支援することが期待できる。

画像認識モデルによる誤認識の一例を示す模式図である。 本実施の形態に係る情報処理システムによるテスト条件の探索の一例を説明するための模式図である。 本実施の形態に係る情報処理装置の一構成例を示すブロック図である。 本実施の形態に係る情報処理装置の機能構成を説明するための模式図である。 ＬＬＭにてテスト条件を生成するためのプロンプトの一例を示す模式図である。 本実施の形態に係る情報処理装置１が行う処理の手順の一例を示すフローチャートである。

本開示の実施形態に係る情報処理システムの具体例を、以下に図面を参照しつつ説明する。なお、本開示はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。

＜システム概要＞
本実施の形態に係る情報処理システムは、誤認識を引き起こしやすそうであるテスト条件の生成と評価とを繰り返し実行することで、誤認識率が高いテスト条件を探索する。テスト条件の生成には、例えばユーザの入力に対して応答を生成可能なチャットベースのＬＬＭ（Large Language Model、大規模言語モデル）が用いられる。情報処理システムは、生成したテスト条件を基に、画像生成モデルを用いてテストケース画像を複数生成し、これらテストケース画像の誤認識率を測定することでテスト条件の評価を行う。また本実施の形態に係る情報処理システムは、誤認識を引き起こしやすいテスト条件を生成するため、過去にどのようなテスト条件の画像をどのクラスであると誤認識したのかについての情報（誤認識先クラス情報）をＬＬＭに与えてテスト条件を生成する。

なお本実施の形態においては、認識モデルの一例として画像認識を行う画像認識モデルについて説明するが、本技術の適用は画像認識モデルに限らない。例えば文字又は音声等の様々なデータに対するパターン認識を行う認識モデルについて本技術を適用することが可能である。

図１は、画像認識モデルによる誤認識の一例を示す模式図である。本図の最上部に示された画像は、正解クラスが「トレーラートラック」の雪道を走るトレーラートラック画像である。テスト対象の画像認識モデル１００は、例えばこの条件の画像に対して高い誤認識傾向を示しており、この条件が系統的故障であるものとする。このような状況において、誤認識率だけでは詳細な故障原因を知ることはできない一方で、誤認識先クラスに着目をすると誤認識をした要因のヒントが得られることがある。本例において画像認識モデル１００は、この画像をクラス確率が高い順に除雪車、路面電車、トロリーバス、乗用車、電気機関車と誤認識をしている。画像認識モデル１００による誤認識先クラスの情報の中に路面電車及び電気機関車等が含まれていることから、この画像を線路の上を走るような車両と誤認識する傾向があると推察することができる。図１に示した画像では、雪道の縦縞が線路の縦縞に似ているために画像認識モデル１００が誤認識した可能性があるとの気づきを得ることができる。このように、誤認識先クラス情報から誤認識の要因を特定し、テストのアイデアに活用することが期待できる。

図２は、本実施の形態に係る情報処理システムによるテスト条件の探索の一例を説明するための模式図である。図２においては、情報処理システムがテスト条件を探索する様子が探索木の形式で示されており、探索の時系列に従って本図の上から順に１周目の探索木、２周目の探索木、３周目の探索木が並べて示されている。図中の探索木において円で示す各頂点（ノード）は、生成及び評価が行われたテスト条件を表しており、円の中にテスト条件を識別する１文字のアルファベットと誤認識率の数値とが記載されている。

情報処理システムが行う１周目の探索で生成される探索木の頂点は例えば１つのみであり、図２上段の例では探索木が有する誤認識率が１０％のテスト条件Ａの頂点のみが示されている。２周目の探索において情報処理システムは、テスト条件Ａから得られた誤認識先クラスの情報を基に、このテスト条件Ａから連想される新しい複数のテスト条件を、ＬＬＭを用いて生成する。図２中段の２周目の探索木の例では、テスト条件Ａの頂点からテスト条件Ｂ～Ｆに対応する５つの頂点が分岐した探索木が示されている。

３周目の探索において情報処理システムは、２周目の探索木の葉の頂点の中から最も誤認識率が高い頂点（本例ではテスト条件Ｅ）を選択し、選択した頂点のテスト条件から２周目の場合と同様にＬＬＭを用いて複数のテスト条件を生成する。図２下段の３周目の探索木の例では、テスト条件Ｅの頂点からテスト条件Ｇ～Ｋに対応する５つの頂点が更に分岐した探索木が示されている。なお図示は省略するが、情報処理システムは、４周目以降の探索を同様に行い、所定の終了条件が満たされるまで探索木を広げながらテスト条件の生成及び評価を繰り返す。

＜装置構成＞
図３は、本実施の形態に係る情報処理装置の一構成例を示すブロック図である。本実施の形態に係る情報処理装置１は、本実施の形態に係る情報処理装置１は、例えばパーソナルコンピュータ又はサーバコンピュータ等の汎用的な情報処理装置に所定のアプリケーションプログラム等をインストールすることにより実現され得る。本実施の形態に係る情報処理装置１は、処理部１１、記憶部１２、通信部１３、表示部１４及び操作部１５等を備えて構成されている。なお本実施の形態においては、１つの情報処理装置１にて処理が行われるものとして説明を行うが、情報処理装置１の処理を複数の装置が分散して行ってもよい。

処理部１１は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro-Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＮＰＵ（Neural network Processing Unit）又は量子プロセッサ等の演算処理装置、ＲＯＭ（Read Only Memory）及びＲＡＭ（Random Access Memory）等の記憶装置を用いて構成されている。処理部１１は、記憶部１２に記憶されたプログラム１２ａを読み出して実行することにより、テスト画像の生成及びテスト条件の生成等の種々の処理を行う。

記憶部１２は、例えばハードディスク又はＳＳＤ（Solid State Drive）等の大容量の記憶装置を用いて構成されている。記憶部１２は、処理部１１が実行する各種のプログラム、及び、処理部１１の処理に必要な各種のデータを記憶する。本実施の形態において記憶部１２は、処理部１１が実行するプログラム１２ａを記憶する。また記憶部１２には、予め機械学習がなされた様々な学習モデルに関する情報を記憶するモデル情報記憶部１２ｂと、対象の画像認識モデルに対して行ったテストのテスト条件を記憶するテスト条件記憶部１２ｃとが設けられている。

本実施の形態においてプログラム（コンピュータプログラム、プログラム製品）１２ａは、メモリカード又は光ディスク等の記録媒体９９に記録された態様で提供され、情報処理装置１は記録媒体９９からプログラム１２ａを読み出して記憶部１２に記憶する。ただし、プログラム１２ａは、例えば情報処理装置１の製造段階において記憶部１２に書き込まれてもよい。また例えばプログラム１２ａは、遠隔のサーバ装置等が配信するものを情報処理装置１が通信にて取得してもよい。例えばプログラム１２ａは、記録媒体９９に記録されたものを書込装置が読み出して情報処理装置１の記憶部１２に書き込んでもよい。プログラム１２ａは、ネットワークを介した配信の態様で提供されてもよく、記録媒体９９に記録された態様で提供されてもよい。

モデル情報記憶部１２ｂは、予め生成された種々の学習モデルに関する情報を記憶する。学習モデルに関する情報は、例えば学習モデルの構成を示す情報、及び、予め決定された内部のパラメータの値等の情報が含まれ得る。本実施の形態においてモデル情報記憶部１２ｂは、テスト対象となる画像認識モデル、テスト条件を基にテスト画像を生成する画像生成モデル、及び、誤認識先クラス情報などに基づいて次のテスト条件を生成するＬＬＭ等の学習モデルに関する情報を記憶している。

テスト条件記憶部１２ｃは、例えばユーザが設定したテスト条件、及び、ＬＬＭにより生成されたテスト条件等を記憶する。更にテスト条件記憶部１２ｃは、これらのテスト条件と共に、例えばこのテスト条件を基に生成されたテスト画像、及び、このテスト画像を用いて行ったテストの結果等の情報を対応付けて記憶してもよい。

通信部１３は、有線又は無線の通信を介して、外部の装置との間でデータの送受信を行う。表示部１４は、液晶ディスプレイ等を用いて構成されており、処理部１１の処理に基づいて種々の画像及び文字等を表示する。操作部１５は、ユーザの操作を受け付け、受け付けた操作を処理部１１へ通知する。例えば操作部１５は、機械式のボタン又は表示部１４の表面に設けられたタッチパネル等の入力デバイスによりユーザの操作を受け付ける。また例えば操作部１５は、マウス及びキーボード等の入力デバイスであってよく、これらの入力デバイスは情報処理装置１に対して取り外すことが可能な構成であってもよい。

なお記憶部１２は、情報処理装置１に接続された外部記憶装置であってよい。また情報処理装置１は、複数のコンピュータを含んで構成されるマルチコンピュータであってよく、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。また情報処理装置１は、上記の構成に限定されず、例えば表示部１４及び操作部１５等を備えていなくてもよい。表示部１４及び操作部１５等を備えていない場合、情報処理装置１は、例えばユーザが使用する端末装置の表示部及び操作部等を利用して、情報の表示及びユーザの操作受付等を行ってよい。

また本実施の形態に係る情報処理装置１には、記憶部１２に記憶されたプログラム１２ａを処理部１１が読み出して実行することにより、初期条件受付部１１ａ、画像生成部１１ｂ、性能評価部１１ｃ、探索木管理部１１ｄ、探索生成部１１ｅ及び表示処理部１１ｆ等が、ソフトウェア的な機能部として処理部１１に実現される。図４は、本実施の形態に係る情報処理装置１の機能構成を説明するための模式図である。なお図３及び図４においては、処理部１１の機能部として、画像認識モデルのテストに関連する機能部を図示し、これ以外の処理に関する機能部は図示を省略している。

初期条件受付部１１ａは、テスト対象の画像認識モデルに対して最初に行うテストの条件（初期テスト条件）をユーザから受け付ける。初期条件受付部１１ａがユーザから受け付ける初期テスト条件が、図２に示した探索木のルートノードのテスト条件となる。また本実施の形態において初期条件受付部１１ａは、初期テスト条件と共に、例えば画像認識モデルが認識（分類）する複数のクラスのうち、いずれのクラスをテストの対象とするかを示すテスト対象クラスの情報、及び、テスト条件の探索の終了条件等の情報の入力を受け付ける。

本実施の形態において初期条件受付部１１ａが受け付ける初期テスト条件は、日本語又は英語等のテキスト情報（文字、文字列、単語又は文章等）として入力される。ユーザは、例えばテスト対象クラスとして「消防車」を設定した場合、初期テスト条件として「路上を走る消防車」の文章を入力することができる。本実施の形態において、初期条件受付部１１ａが受け付ける初期テスト条件及び後述の処理により生成されるテスト条件は、画像認識モデル１００に対して入力されるテスト画像の特徴を文章等で表現したテキスト情報で扱われる。なお、初期テスト条件は複数であってよい。

また初期条件受付部１１ａが受け付けるテスト対象クラスは、画像認識モデル１００が入力画像に対して認識（分類）することができる複数のクラスの中から選択された１つのクラスであり、例えば「消防車」のようにクラス名を示すテキスト情報であってよく、また例えばクラスに対して付された識別番号などであってもよい。初期条件受付部１１ａは、例えばテスト対象クラスをテキスト情報の入力としてユーザから受け付けてもよく、また例えばテスト対象の画像認識モデルが分類する複数のクラスを一覧表示して、これら複数のクラスの中から対象クラスの選択を受け付けてもよい。

また初期条件受付部１１ａが受け付ける探索の終了条件は、例えば探索木が有するノードの数に対する閾値として設定される。初期条件受付部１１ａは、ユーザから探索の終了条件となる閾値の入力を受け付ける。ただし探索の終了条件は、探索木のノード数に対するものに限らない。例えば探索木の深さに対する閾値を終了条件としてもよく、また例えば探索の処理時間に対する上限を終了条件としてもよく、これら以外の種々の条件が採用されてよい。

本実施の形態に係る情報処理システムでは、最初のテスト条件をＬＬＭにて生成するのではなく、ユーザから最初のテスト条件の入力を受け付けている。本実施の形態に係る情報処理システムのこの手順は、ユーザがテスト条件の抽象度を例示することによって、ユーザが望む抽象度で以降のテスト条件の生成が行われやすくすることを意図して採用されたものである。これは、ＬＬＭを用いて新しいテスト条件を生成させる際に、テスト条件のサンプルを例示することで、このサンプルと同じ抽象度のテスト条件が生成されやすいというＬＬＭの特性を利用している。例えば、「路上を走る消防車の画像」と「豪雨の中、高速道路上を走る消防車を正面から撮影した画像」とは抽象度が異なるテスト条件の例である。

ただし、最初のテスト条件は、ＬＬＭにて生成されてもよい。例えばＬＬＭは、テスト対象クラスの情報を基に最初のテスト条件となるテキスト情報を生成してもよい。また例えば、テスト条件を生成するための指針又は制約等の情報をユーザから受け付け、受け付けた情報をＬＬＭへ入力して最初のテスト条件を生成してもよい。

画像生成部１１ｂは、初期条件受付部１１ａがユーザから受け付けた初期テスト条件、又は、後述の探索生成部１１ｅが生成したテスト条件を基に、予め機械学習により生成された画像生成モデル１０１を利用してテスト画像を生成する処理を行う。本実施の形態において初期テスト条件及びテスト条件はテキスト情報として与えられ、画像生成部１１ｂが用いる画像生成モデル１０１は、テキスト情報を基に画像を生成するよう予め機械学習により生成された学習モデル、いわゆるｔ２ｉ（text to image）と呼ばれる学習モデルである。

画像生成部１１ｂは、初期条件受付部１１ａがユーザから受け付けた初期テスト条件、又は、後述の探索生成部１１ｅが生成したテスト条件を基に画像生成モデル１０１へ入力するプロンプトを生成し、生成したプロンプトを画像生成モデル１０１へ入力することで、テスト画像を生成する。本実施の形態において画像生成部１１ｂは、初期テスト条件又はテスト条件のテキスト情報に対して、画像生成に関する要求又は制限等のテキスト情報を加えることでプロンプトを生成する。例えば画像生成部１１ｂは、テスト対象クラスが「消防車（fire engine）」である場合に、消防車が画像の中央に配置されるよう「fire engine is in the center.」などのテキスト情報をプロンプトに含めることができる。認識対象のクラスがテスト画像の中央に写るような指示をプロンプトに加えることで、画像生成モデル１０１の画像生成を安定させ、テスト画像に対する画像認識の期待結果が認識対象のクラスとなりやすくすることが期待できる。画像生成部１１ｂは、与えられた一又は複数のテスト条件に対してそれぞれプロンプトを生成し、各プロンプトを画像生成モデル１０１へ入力して、１つのテスト条件に対して複数のテスト画像を生成する。

性能評価部１１ｃは、画像生成部１１ｂが生成したテスト画像を用いて、各テスト条件における画像認識モデル１００の性能を評価する処理を行う。なお本実施の形態において画像認識モデル１００は、入力された画像を複数のクラスのいずれかに分類するよう予め機械学習により生成された学習モデルであり、例えばＣＮＮ（Convolutional Neural Network）などの学習モデルが採用され得る。画像認識モデル１００は分類する複数のクラスに対応する複数の値（尤度、確信度など）を出力し、最も大きな値に対応するクラスが画像認識モデル１００の分類結果となる。ただし本実施の形態においては、画像認識モデル１００が出力する複数の値の上位５位までに正解のクラスが含まれていない場合に誤認識として扱い、上位５位までに正解のクラスが含まれている場合には認識結果が正しいものとして扱う。

性能評価部１１ｃは、画像生成部１１ｂが１つのテスト条件に対して生成した複数のテスト画像を順に画像認識モデル１００へ入力し、画像認識モデル１００が出力する認識結果を順に取得する。性能評価部１１ｃは、初期条件受付部１１ａにて受け付けたテスト対象クラスが画像認識モデル１００の認識結果の上位５位に含まれているか否かに応じて、認識結果の正誤を判定する。性能評価部１１ｃは、複数のテスト画像に対して得られる画像認識モデル１００の複数の認識結果を基に、このテスト条件における画像認識モデル１００の性能評価値を算出する。本実施の形態において性能評価値は、例えば入力したテスト画像の数に対する誤認識の割合（誤認識率）が採用されるが、これに限るものではなく、例えば正認識率であってもよい。性能評価部１１ｃは、１つのテスト条件に対して１つの性能評価値を算出し、複数のテスト条件が与えられた場合には各テスト条件について性能評価値をそれぞれ算出する。

また性能評価部１１ｃは、テスト画像の入力に対して画像認識モデル１００が誤認識したと判定した場合、画像認識モデル１００が出力した値の上位５位までのクラスがいずれのクラスであったかを示す誤認識先クラス情報を生成する。性能評価部１１ｃは、テスト条件毎の性能評価値と誤認識先クラス情報とを、このテスト条件に関する評価結果として出力する。

探索木管理部１１ｄは、画像認識モデル１００に対するテスト条件を探索するための探索木を管理する処理を行う。本実施の形態において探索木は、テスト条件とこれに基づいて行われたテストの性能評価値及び誤認識先クラス情報との情報を有する頂点（ノード）を複数備え、初期テスト条件に対応するルートノードに対して複数のノードが枝分かれして繋げられた構成をなしている。本実施の形態においては、探索木の１つのノードが有する情報を基に、次のテスト条件を生成することを探索と呼ぶ。探索木管理部１１ｄは、性能評価部１１ｃによる画像認識モデル１００の評価結果を基に、探索木の各ノードに性能評価値及び誤認識先クラス情報を設定する。

また探索木管理部１１ｄは、その時点における探索木の状態を基に、次の探索をいずれのノードから進めるかの決定と、探索を終了するか否か判定とを行う。探索木管理部１１ｄは、探索木が有する複数の末端ノード（リーフノード）の性能評価値を比較し、最も性能が低い（誤認識率が高い）リーフノードを次の探索を開始するノードと決定する。なお探索木管理部１１ｄが性能評価値を比較する複数のリーフノードは、直前に生成したリーフノードのみでなく、これまでに生成した全てのリーフノードが対象となる。ここで探索木管理部１１ｄが誤認識率の高いノードを選択するのは、このノードには誤認識先クラスの情報が多く含まれており、新しい誤認識を検出するための多係も多いと考えられるためである。手がかりが豊富なノードから探索を行うことで，系統的故障を効率的に検出することが期待できる。

また探索木管理部１１ｄは、その時点の探索木のノード数が、初期条件受付部１１ａがユーザから終了条件として受け付けた閾値を超える場合、探索を終了すると判定する。探索を終了する場合、探索木管理部１１ｄは、これまでの探索で得られた探索木に関する情報、例えば探索木の各ノードが有する情報を探索結果として出力する。

探索生成部１１ｅは、探索木管理部１１ｄが次の探索を開始すると決定したノードが有する情報を基に、ＬＬＭ１０２を利用して次のテスト条件を決定することで、このノードから分岐する新たなリーフノードを生成する。上述のように探索木の各ノードはテスト条件、性能評価値及び誤認識先クラス情報等の情報を有している。探索生成部１１ｅは、例えば予め用意されたプロンプトの雛形に対して、対象のノードが有するテスト条件及び誤認識先クラス情報等の情報を当てはめることにより、次のテスト条件を生成することをＬＬＭ１０２に対して指示するプロンプトを生成する。

図５は、ＬＬＭ１０２にてテスト条件を生成するためのプロンプトの一例を示す模式図である。本例のプロンプトには、「画像認識ＡＩが、｛消防車が浸水した通りを走っている｝というコンテキストを持つ｛消防車｝を｛ボートハウス、モーターボート、タクシー、水陸両用車、救助ボート｝と誤認識してしまいました。｛消防車｝と誤認識したクラスとの共通点から新たに誤認識をしそうなコンテキストを“{消防車が浸水した通りを走っている}”のようにこれ以外で５つ列挙してください。」の指示が含まれている。この指示は、探索木の対象ノードが有する「消防車が浸水した通りを走っている」というテスト条件と、「ボートハウス、モーターボート、タクシー、水陸両用車、救助ボート」の誤認識先クラス情報と、ユーザにより定められたテスト対象クラスの情報とをプロンプトの雛形に当てはめることによって生成されたものである。

本実施の形態においては、適応的な探索を可能にするために、ＬＬＭ１０２へ入力するプロンプトにはどのようなテスト条件のときに、どのような誤認識先クラスの情報が得られたのかという情報を埋め込んでいる。またプロンプトには、一度に５つ程度のテスト条件が生成されるよう指示を加えている。生成するテスト条件を５つ程度に設定しているのは、数が多すぎると適応的に探索する頻度が下がり、効率的に系統的故障を探索することができなくなる恐れがあるためである。また数が少なすぎると同じようなテスト条件が生成される可能性があることを考慮して、ある程度の多様性を維持しつつ適応的な探索を可能にするためである。

また図５に示したプロンプトには、「ただし、実物の｛消防車｝は必ず含める必要があり、おもちゃや絵画の中といった実物でないものを指定してはいけません。」の指示が含まれている。この指示は、テスト対象の画像認識モデル１００が受け付ける入力画像の特性に沿ったテスト画像が生成されるように、画像生成に関する制約を加えるものである。本例では、生成するテスト画像が実写画像のみとなるように制約を設けている。この指示は、ノードが有するテスト条件及び誤認識先クラス情報に応じて変更されることはなく、ユーザにより定められたテスト対象クラスの情報を予め用意された雛形に当てはめることにより生成される。

また図５に示したプロンプトには、「
{datas: [{
context_en: "{A fire engine is driving through a flooded street.}",
context_jp: "{消防車が浸水した通りを走っている}“}
, ... ]}というサンプルのjson形式と同じ形式で列挙してください。json出力以外は何も発言しないでください。
」の指示が含まれている。この指示は、実例を用いてテスト条件を列挙する例を記載することで、ＬＬＭ１０２に対してテスト条件の粒度及び出力形式等を指示している。

探索生成部１１ｅは、生成したプロンプトをＬＬＭ１０２へ入力し、ＬＬＭ１０２が出力する情報を取得することで、複数のテスト条件を生成する。探索生成部１１ｅは、生成した複数のテスト条件に対応する複数のノードを探索木に追加する。

探索生成部１１ｅが生成した複数のテスト条件は画像生成部１１ｂへ与えられ、画像生成部１１ｂは複数のテスト条件に対応する複数のテスト画像を生成する。性能評価部１１ｃは、画像生成部１１ｂが生成したテスト画像を基にテスト対象の画像認識モデル１００の性能評価を行い、性能評価の結果として得られる情報を探索木の各ノードに設定する。探索木管理部１１ｄは性能評価結果が設定されて拡張された探索木の全体から次の探索を開始するノードを決定し、決定されたノードの情報を基に探索生成部１１ｅが次の複数のテスト条件を生成する。情報処理装置１は、これら一連の処理を初期条件受付部１１ａがユーザから受け付けた終了条件が満たされるまで繰り返す。これら一連の処理により生成されるテスト条件などの情報を含む探索木、及び、テストに用いられたテスト画像等は、テスト条件記憶部１２ｃに記憶される。

表示処理部１１ｆは、種々の文字及び画像等を表示部１４に表示する処理を行う。本実施の形態において表示処理部１１ｆは、画像認識モデル１００の系統的故障の分析結果として、上記の処理にて生成された探索木を表示する。また表示処理部１１ｆは、例えば初期条件等をユーザが入力するための画面表示、及び、画像認識モデル１００のテストに用いられたテスト画像の表示等を行う。表示処理部１１ｆは、これら以外の種々の画像を表示部１４に表示してよい。

＜フローチャート＞
図６は、本実施の形態に係る情報処理装置１が行う処理の手順の一例を示すフローチャートである。本実施の形態に係る情報処理装置１の処理部１１の初期条件受付部１１ａは、テスト対象の画像認識モデルに対して最初に行うテストの条件を、初期テスト条件としてユーザから受け付ける（ステップＳ１）。またステップＳ１において初期条件受付部１１ａは、初期テスト条件と共に、テスト対象クラスの情報及び探索の終了条件等の入力を受け付ける。

次いで処理部１１の画像生成部１１ｂは、ステップＳ１にて受け付けた初期条件、又は、後述のステップＳ１３にて取得した複数のテスト条件を基に、画像生成モデル１０１へ入力する一又は複数のプロンプトを生成する（ステップＳ２）。画像生成部１１ｂは、ステップＳ２にて生成した一又は複数のプロンプトを画像生成モデル１０１へ入力する（ステップＳ３）。画像生成部１１ｂは、ステップＳ３にてプロンプトを入力した画像生成モデル１０１が出力する複数のテスト画像を取得する（ステップＳ４）。ステップＳ２～Ｓ４の処理により、画像生成部１１ｂは、一又は複数のテスト条件に応じた複数のテスト画像を生成することができる。

次いで処理部１１の性能評価部１１ｃは、ステップＳ４にて取得した複数のテスト画像を画像認識モデル１００へ入力する（ステップＳ５）。画像認識モデル１００はテスト画像の入力に応じてクラス分類の結果を認識結果として出力し、性能評価部１１ｃは、画像認識モデル１００が出力する一又は複数の認識結果を取得する（ステップＳ６）。性能評価部１１ｃは、取得した画像認識モデル１００の認識結果（分類結果）と入力したテスト画像に対する分類結果の正解値とを比較して分類結果の正否を判定し、判定結果を基に各テスト条件における画像認識モデル１００の誤認識率を算出する（ステップＳ７）。また性能評価部１１ｃは、画像認識モデル１００が誤認識したテスト画像について、その誤認識先クラス情報を生成する（ステップＳ８）。

次いで処理部１１の探索木管理部１１ｄは、ステップＳ１にて初期テスト条件と共にユーザから受け付けた探索の終了条件を満たすか否かに基づいて、テスト条件の探索を終了するか否かを判定する（ステップＳ９）。ここで探索木管理部１１ｄは、例えば今回のテスト条件、ステップＳ７にて算出した誤認識率及びステップＳ８にて生成した誤認識先クラス情報を基に探索木に一又は複数のノードを追加し、探索木のノード数が終了条件として受け付けた閾値を超えるか否かに基づいて、探索を終了するか否かを判定することができる。

探索を終了しない場合（Ｓ９：ＮＯ）、探索木管理部１１ｄは、これまでに生成した探索木に基づいて、次のテスト条件の探索元となるノードを決定する（ステップＳ１０）。ここで探索木管理部１１ｄは、探索木の末端ノードが有する誤認識率の情報を基に、最も誤認識率が高いノードを次のテスト条件の探索元と決定することができる。

次いで処理部１１の探索生成部１１ｅは、ステップＳ１０にて決定した次のテスト条件の探索元のノードが有するテスト条件、誤認識率及び誤認識先クラス情報を基に、ＬＬＭ１０２へ入力するためのテスト条件生成用プロンプトを生成する（ステップＳ１１）。ここで探索生成部１１ｅは、例えば予め記憶したプロンプトの雛形に、テスト条件、誤認識率及び誤認識クラス情報等の情報を当てはめることにより、これらの情報を基に複数のテスト条件を生成するテスト条件生成用プロンプトを生成することができる。探索生成部１１ｅは、ステップＳ１１にて生成したプロンプトをＬＬＭ１０２へ入力する（ステップＳ１２）。ＬＬＭ１０２はプロンプトの入力に応じて複数のテスト条件のテキスト情報を出力し、探索生成部１１ｅは、ＬＬＭ１０２が出力する複数のテスト条件を取得して（ステップＳ１３）、ステップＳ２へ処理を戻す。

探索を終了する場合（Ｓ９：ＹＥＳ）、探索木管理部１１ｄは、これまで生成した探索木をテスト条件記憶部１２ｃに記憶する（ステップＳ１４）。処理部１１の表示処理部１１ｆは、探索木管理部１１ｄが生成した探索木を表示して（ステップＳ１５）、処理を終了する。

＜変形例＞
上述の実施形態においては、テスト対象の画像認識モデルとして、入力された画像を複数のクラスに分類する分類モデルが用いられる場合について説明を行った。しかしながら本実施の形態に係る情報処理システムは、分類モデル以外の画像認識モデルをテスト対象とする場合にも適用可能である。

（変形例１）
変形例１に係る情報処理システムは、テスト対象の画像認識モデルとして、入力された画像に写された対象物を検出する物体検出モデルが用いられる。変形例１に係る物体検出モデルは、画像を入力として受け付けて、この画像に写された一又は複数の物体について、各物体の位置及び種類（クラス）を示す情報を出力する。各物体の位置は、例えばこの物体を囲む矩形枠（バウンディングボックス）の頂点の座標として表される。変形例１に係る情報処理装置１は、テスト画像を物体検出モデルへ入力し、物体の検出結果として位置及び種類を示す情報を物体検出モデルから取得する。情報処理装置１は、テスト画像に対応付けられた位置及び種類の正解値と、物体検出モデルから検出結果として取得した位置及び種類とを比較し、検出した物体の位置の正否及び種類の正否をそれぞれ判定する。情報処理装置１は、検出した物体の位置と正解値との差が所定の閾値を超える場合、又は、検出した物体の種類が正解値とは異なる場合に、誤検出（誤認識）が生じたと判定することができる。情報処理装置１は、これらの判定結果を基に誤認識率を算出すると共に、上述のものと同様の誤認識先クラス情報と、誤検出した物体の位置に関する誤認識位置情報とを生成して、これら誤検出結果の情報と実施したテスト条件の情報とを有するノードを探索木に追加する。変形例１に係る情報処理装置１は、探索木の各ノードが有するテスト条件、誤認識率、誤認識先クラス情報及び誤認識位置情報等に基づいてＬＬＭ１０２に次のテスト条件を生成させることができる。

（変形例２）
変形例２に係る情報処理システムは、テスト対象の画像認識モデルとして、入力された画像を基に数値を予測する回帰モデルが用いられる。変形例２に係る回帰モデルは、例えば車載カメラにより撮影された画像を基に自動車の舵角を推定するなど、画像を入力として受け付けて、この画像に関連する数値を出力する。変形例２に係る情報処理装置１は、テスト画像を回帰モデルへ入力し、画像に応じた所定の数値の予測値を回帰モデルから取得する。情報処理装置１は、テスト画像に対応付けられた数値の正解値と、回帰モデルから予測結果として取得した数値とを比較し、予測値と正解値との誤差が所定の閾値を超える場合に、誤予測（誤認識）が生じたと判定することができる。情報処理装置１は、この判定結果を基に誤認識率を算出すると共に、誤認識した数値に関する誤認識数値情報を生成して、これらの情報と実施したテスト条件の情報とを有するノードを探索木に追加する。変形例２に係る情報処理装置１は、探索木の各ノードが有するテスト条件、誤認識率及び誤認識数値情報等に基づいてＬＬＭ１０２に次のテスト条件を生成させることができる。

（変形例３）
変形例３に係る情報処理システムは、テスト対象の画像認識モデルとして、入力された画像の各画素について写された物体の種類（クラス）を分類するセグメンテーションモデルが用いられる。変形例３に係るセグメンテーションモデルは、例えばＭ画素×Ｎ画素のサイズの画像を入力として受け付けて、この画像の各画素のクラスを分類したＭ×Ｎ個の分類結果を出力する（Ｍ，Ｎは正の整数）。変形例３に係る情報処理装置１は、テスト画像をセグメンテーションモデルへ入力し、画像の各画素の分類結果をセグメンテーションモデルから取得する。情報処理装置１は、テスト画像の各画素の種類の正解値と、セグメンテーションモデルから取得した各画素の分類結果とを比較し、例えば分類結果が誤っている画素数が所定の閾値を超える場合に、誤認識が生じたと判定することができる。情報処理装置１は、この判定結果を基に誤認識率を算出すると共に、誤認識した画素がいずれであるか及びどのクラスに誤認識したか等を示す誤認識セグメンテーション情報を生成して、これらの情報と実施したテスト条件の情報とを有するノードを探索木に追加する。変形例３に係る情報処理装置１は、探索木の各ノードが有するテスト条件、誤認識率及び誤認識セグメンテーション情報等に基づいてＬＬＭ１０２に次のテスト条件を生成させることができる。

（変形例４）
変形例４に係る情報処理システムは、テスト対象の画像認識モデルとして、入力された画像の各画素について奥行（深度）を推定する深度推定モデルが用いられる。変形例４に係る深度推定モデルは、例えばＭ画素×Ｎ画素のサイズの画像を入力として受け付けて、この画像の各画素の深度を推定したＭ×Ｎ個の推定値を出力する。変形例４に係る情報処理装置１は、テスト画像を深度推定モデルへ入力し、画像の各画素の深度推定結果を深度推定モデルから取得する。情報処理装置１は、テスト画像の各画素の深度の正解値と、深度推定モデルから取得した各画素の深度の推定値とを比較し、例えば深度の推定値と正解値との差が所定の第１閾値を超える画素の数が所定の第２閾値を超える場合に、誤認識が生じたと判定することができる。情報処理装置１は、この判定結果を基に誤認識率を算出すると共に、誤認識した画素がいずれであるか及び正解値に対する予測値の差がどの程度であってか等を示す誤認識深度情報を生成して、これらの情報と実施したテスト条件の情報とを有するノードを探索木に追加する。変形例４に係る情報処理装置１は、探索木の各ノードが有するテスト条件、誤認識率及び誤認識深度情報等に基づいてＬＬＭ１０２に次のテスト条件を生成させることができる。

上記の変形例１～４において情報処理装置１は、ＬＬＭ１０２が生成した次のテスト条件を基にテスト画像を生成し、画像認識モデルに対するテストを実施することができる。生成したテスト画像に対するテストの正解値は、例えば生成したテスト画像に対するアノテーションの作業をユーザが行うことによって生成されてもよく、また例えば既にテストが完了した信頼性の高い別の画像認識モデルを用いてテスト画像の画像認識を行うことによって生成されてもよく、これら以外の方法で生成されてもよい。また変形例４に係る深度推定モデルの場合、例えば情報処理装置１が３Ｄモデルを経由してテスト画像を生成することで、テスト画像の各画素に対応する深度が算出できる態様で、テスト条件からテスト画像を生成することができる。

＜まとめ＞
以上の構成の本実施の形態に係る情報処理システムでは、情報処理装置１が、テスト対象の画像認識モデル１００に対するテスト条件を基に画像生成モデル１０１を用いてテスト画像を生成し、生成したテスト画像を画像認識モデル１００へ入力して画像認識結果を取得し、取得した画像認識結果に含まれる誤認識結果を基にＬＬＭ１０２を用いて次のテスト条件を生成する。これにより本実施の形態に係る情報処理システムは、テスト画像の生成、テストの評価及び次のテスト条件の生成を行うことができ、ユーザによる画像認識モデル１００の系統的故障の分析を支援することが期待できる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、テスト画像の生成に用いたテスト条件と誤認識結果とを基に、複数のテスト条件を生成する命令を含むプロンプトを生成し、生成したプロンプトをＬＬＭ１０２へ入力して複数のテスト条件を生成する。これにより本実施の形態に係る情報処理システムは、既に実施したテストによる誤認識結果を考慮して次に行うテストのための複数のテスト条件をＬＬＭ１０２に生成させることが期待できる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、複数のテスト条件に基づいて複数のテスト画像を生成し、生成した複数のテスト画像に対する画像認識モデル１００の複数の画像認識結果を取得し、取得した複数の画像認識結果を基に次のテスト条件の生成に用いる画像認識結果を選択する。これにより本実施の形態に係る情報処理システムは、生成した複数のテスト条件を基に画像認識モデル１００をテストして、更に次のテスト条件を生成するための画像認識結果を選択することができる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、生成したテスト条件を基に画像生成モデル１０１にテスト画像を生成させるためのプロンプトを生成する。情報処理装置１は、生成したプロンプトを画像生成モデル１０１へ入力して、画像生成モデル１０１が出力する画像をテスト画像として取得する。これにより本実施の形態に係る情報処理システムは、生成したテスト条件に応じたテスト画像を生成して画像認識モデル１００のテストを実施することができる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、初期テスト条件及びテストの終了条件の入力をユーザから受け付ける。情報処理装置１は、受け付けた初期条件を基にテスト画像を生成して画像認識モデル１００のテストを行い、画像認識結果を取得して、次のテスト条件を生成する。情報処理装置１は、このテスト画像の生成、画像認識結果の取得及び次のテスト条件の生成の処理を、終了条件が満たされるまで繰り返し行う。これにより本実施の形態に係る情報処理システムは、ユーザの設定に応じて、適宜にテスト条件を生成しながら画像認識モデル１００のテストを繰り返し行うことができる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、初期テスト条件をルートノードとし、生成した複数のテスト条件をノードとした探索木を生成してテスト条件の探索を行う。また情報処理装置１は、探索木のノード数が終了条件を満たす場合に、テスト条件を探索する繰り返しの処理を終了する。これにより本実施の形態に係る情報処理システムは、探索木を用いてより適したテスト条件を探索することができると共に、探索木の規模に応じた終了条件でテスト条件の探索を終了させることができる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、生成した探索木を表示部１４に表示する。これにより本実施の形態に係る情報処理システムは、テスト条件の探索の過程及び規模等の情報をユーザに提示することが期待できる。

また本実施の形態に係る情報処理システムでは、情報処理装置１が、分類モデル、検出モデル、回帰モデル、セグメンテーションモデル又は深度推定モデル等の様々な画像認識モデル１００に対するテスト画像の生成を行うことが期待できる。

今回開示された実施形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本開示の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。

各実施形態に記載した事項は相互に組み合わせることが可能である。また、特許請求の範囲に記載した独立請求項及び従属請求項は、引用形式に関わらず全てのあらゆる組み合わせにおいて、相互に組み合わせることが可能である。さらに、特許請求の範囲には他の２以上のクレームを引用するクレームを記載する形式（マルチクレーム形式）を用いているが、これに限るものではない。マルチクレームを少なくとも１つ引用するマルチクレーム（マルチマルチクレーム）を記載する形式を用いて記載してもよい。

１ 情報処理装置（コンピュータ）
１１ 処理部
１１ａ 初期条件受付部
１１ｂ 画像生成部
１１ｃ 性能評価部
１１ｄ 探索木管理部
１１ｅ 探索生成部
１１ｆ 表示処理部
１２ 記憶部
１２ａ プログラム（コンピュータプログラム）
１２ｂ モデル情報記憶部
１２ｃ テスト条件記憶部
１３ 通信部
１４ 表示部
１５ 操作部
９９ 記録媒体
１００ 画像認識モデル
１０１ 画像生成モデル
１０２ ＬＬＭ

Claims (12)

1. 情報処理装置が、
   テスト対象の画像認識モデルに対するテスト条件を基に、画像生成モデルを用いてテスト画像を生成し、
   生成した前記テスト画像を前記画像認識モデルへ入力して、前記画像認識モデルによる画像認識結果を取得し、
   取得した前記画像認識結果に含まれる誤認識結果を基に、言語モデルを用いて次のテスト条件を生成する、
   情報処理方法。
2. テスト画像の生成に用いたテスト条件と、誤認識結果とを基に、複数のテスト条件を生成する命令を含むプロンプトを生成し、
   生成した前記プロンプトを前記言語モデルへ入力して、複数のテスト条件を生成する、
   請求項１に記載の情報処理方法。
3. 複数のテスト条件に基づいて複数のテスト画像を生成し、
   生成した前記複数のテスト画像に対する前記画像認識モデルの複数の画像認識結果を取得し、
   取得した前記複数の画像認識結果から次のテスト条件の生成に用いる画像認識結果を選択する、
   請求項２に記載の情報処理方法。
4. テスト条件を基に画像生成のためのプロンプトを生成し、
   生成した前記プロンプトを前記画像生成モデルへ入力して、前記画像生成モデルが出力する画像を前記テスト画像として取得する、
   請求項１に記載の情報処理方法。
5. 初期テスト条件、及び、テストの終了条件の入力を受け付け、
   受け付けた前記初期テスト条件を基に前記テスト画像の生成、前記画像認識結果の取得及び前記次のテスト条件の生成の処理を行い、
   生成した前記テスト条件を基に前記テスト画像の生成、前記画像認識結果の取得及び前記次のテスト条件の生成の処理を、受け付けた前記終了条件を満たすまで繰り返し行う、
   請求項１に記載の情報処理方法。
6. 前記画像認識モデルは、入力された画像を複数のクラスに分類した結果を出力する分類モデルであり、
   前記誤認識結果として前記分類モデルが誤分類した複数のクラスの情報を取得し、
   取得した前記情報を基に、前記言語モデルを用いて次のテスト条件を生成する、
   請求項１に記載の情報処理方法。
7. 前記画像認識モデルは、入力された画像に写された対象物を検出する検出モデルであり、
   前記誤認識結果として前記検出モデルによる誤検出結果を取得し、
   取得した前記誤検出結果を基に、前記言語モデルを用いて次のテスト条件を生成する、
   請求項１に記載の情報処理方法。
8. 前記画像認識モデルは、入力された画像に応じた数値を出力する回帰モデルであり、
   前記誤認識結果として前記回帰モデルが出力した数値の誤差を取得し、
   取得した前記誤差を基に、前記言語モデルを用いて次のテスト条件を生成する、
   請求項１に記載の情報処理方法。
9. 前記画像認識モデルは、入力された画像の各画素を複数のクラスに分類するセグメンテーションモデルであり、
   前記誤認識結果として前記セグメンテーションモデルが誤分類した画素及びクラスの情報を取得し、
   取得した前記情報を基に、前記言語モデルを用いて次のテスト条件を生成する、
   請求項１に記載の情報処理方法。
10. 前記画像認識モデルは、入力された画像の各画素の深度を推定する深度推定モデルであり、
    前記誤認識結果として前記深度推定モデルが誤推定した画素及び深度の情報を取得し、
    取得した前記情報を基に、前記言語モデルを用いて次のテスト条件を生成する、
    請求項１に記載の情報処理方法。
11. テスト対象の画像認識モデルに対するテスト条件を基に、画像生成モデルを用いてテスト画像を生成し、
    生成した前記テスト画像を前記画像認識モデルへ入力して、前記画像認識モデルによる画像認識結果を取得し、
    取得した前記画像認識結果に含まれる誤認識結果を基に、言語モデルを用いて次のテスト条件を生成する
    処理をコンピュータに実行させるコンピュータプログラム。
12. 処理部を備え、
    前記処理部が、
    テスト対象の画像認識モデルに対するテスト条件を基に、画像生成モデルを用いてテスト画像を生成し、
    生成した前記テスト画像を前記画像認識モデルへ入力して、前記画像認識モデルによる画像認識結果を取得し、
    取得した前記画像認識結果に含まれる誤認識結果を基に、言語モデルを用いて次のテスト条件を生成する、
    情報処理装置。