TWI787669B - 基於模型處方的自動機器學習之系統與方法 - Google Patents

Abstract

一種機器學習系統至少由應用程式介面，優化模組，以及測試執行模 組所組成。優化模組由資料庫，處方池及顧問池所組成。機器學習方法可以依據使用者自處方池中選取較佳的處方，由選取的處方取得所建議的專案設定，再透過專案設定，自顧問池中選取顧問，透過選取的顧問，可以產生優化的超參數組合，且提供使用者優化的機器學習模型。

Description

基於模型處方的自動機器學習之系統與方法

本發明是有關於一種機器學習之系統與方法，且特別是有關於一種自動優化機器學習之系統與方法。

由於資訊產業的蓬勃發展，近年來人工智慧已成為產業的顯學，特別是在工業4.0的產業應用上，人工智慧扮演著重要的角色。機器學習是人工智慧在產業應用上的重要分支，廣泛應用於資料探勘、電腦視覺、自然語言處理、生物特徵辨識、搜尋引擎、醫學診斷、檢測金融詐欺、證券市場分析、DNA定序、語音及手寫辨識、戰略遊戲及機器人等領域。一般來說，機器學習的流程主要包含七個步驟：收集資料(gathering data)、準備數據(preparing the data)、選擇模型(choosing model)、訓練機器(training)、評估分析(evaluation)、參數調校(hyperparameter tuning)以及預測推論(prediction)。其中，參數調校對機器學習的模型表現及成效有非常大的影響。

目前常見之開源(open source)超參數調校工具包括Hyperopt、NNI、AutoKeras等；此外，Google、Microsoft、Amazon、SigOpt等軟體公司亦提供各自的超參數調校服務。無論哪一種超參數調校工具，使用者仍須針對機器學習標的決定一組合適的模型、相應參數搜尋範圍和演算法，才能得出優良 的超參數組合。除了模型/搜尋範圍/演算法的決定之外，使用者還需要建置模型後續的訓練、測試、部署(deploy)與維護。上述的每一個環節都需要使用者具備相當的專業知識及經驗累積；因此，將機器學習要導入實際場域應用是一個高門檻，長時程的過程。本發明透過開發經驗累積數值化、系統化和自動產生優化(optimized)超參數組合的機器學習系統與方法，來大幅降低機器學習的導入門檻與時程。

本發明之一方面為提供一種機器學習的系統與方法，可以將開發經驗數值化儲存於資料庫中，並由處方池之處方提供機器學習的模型/搜尋空間/搜尋演算法組合。

本發明的另一方面為提供一種機器學習的系統與方法，可以自動產生優化超參數組合。

本發明的另一方面為提供一種機器學習的系統與方法，具有可執行函式庫，以進行模擬測試優化超參數組合，並可以導入場域裝置。

依據本發明一實施例，一種機器學習系統，包括：一應用程式介面，一優化模組，以及一測試執行模組。應用程式介面，用以輸入一專案設定；優化模組連接應用程式介面。優化模組更包括：一資料庫，用以儲存複數個專案資訊；一顧問池，用以儲存多個顧問；以及一處方池，用以儲存多個處方。測試執行模組連接應用程式介面及優化模組。其中優化模組接收專案需求後，根據專案需求自處方池選取一處方；處方產生建議專案設定並回傳給使用者；使用者調整確認專案設定後再經由應用程式介面提交給優化模組；優化模組根據專案設定自顧問池選取一顧問。機器學習系統執行步驟包括：A.優化模組依 據所選取的顧問，基於專案資訊產生一超參數組合；B.測試執行模組接收超參數組合，根據超參數組合執行一訓練測試流程，並產出一新的專案資訊，且儲存並更新資料庫；C.在一預定的迴圈區間，重複執行步驟A,B；D.輸出一優化專案結果。

優化模組選取處方的方法包括增強式學習法。機器學習系統，更包括一使用者入口介面，透過一網路連結連接應用程式介面，專案需求係經由使用者入口介面進行輸入。

測試執行模組更至少包括多個可執行函式，測試執行模組係藉由可執行函式執行該訓練測試流程。

依據本發明另一實施例，一種機器學習方法，適用於產生優化超參數組合，其中機器學習方法係執行於一優化模組及一測試執行模組。優化模組包括：一資料庫，用以儲存多個專案資訊；一顧問池，用以儲存多個顧問；以及一處方池，用以儲存多個處方。機器學習方法包括下列步驟：A.接收一專案需求；B.根據專案需求，自處方池選取一處方，並根據處方產生一專案設定，且依據專案設定自顧問池選取一顧問；C.優化模組依據所選取的顧問，基於專案資訊產生一超參數組合；D.測試執行模組接收超參數組合，根據超參數組合執行一訓練測試流程，並產出一新的專案資訊，且儲存並更新資料庫；E.在一預定的迴圈區間，重複執行步驟C,D；F.產出優化超參數組合。

優化模組選取處方的方法至少包括增強式學習法。測試執行模組包括：多個可執行函式，測試執行模組係藉由可執行函式執行訓練測試流程。機器學習方法更包括：以可執行函式，及優化超參數組合，在一場域裝置執行機器學習。

上述發明內容旨在提供本揭示內容的簡化摘要，以使閱讀者對本揭示內容具備基本的理解。此發明內容並非本揭示內容的完整概述，且其用意並非在指出本發明實施例的重要/關鍵元件或界定本發明的範圍。在參閱下文實施方式後，本發明所屬技術領域中具有通常知識者當可輕易瞭解本發明之基本精神及其他發明目的，以及本發明所採用之技術手段與實施方面。

100:機器學習系統

102:優化模組

104:資料庫

106:核心

108:處方池

110:顧問池

112:應用程式介面

114:測試執行模組

116:使用者入口介面

118:使用者

120:場域裝置

200:機器學習方法

202,203,204,206,208,210,212,214,216,218,220:步驟

圖1繪示依照本發明一實施方式之機器學習系統架構示意圖。

圖2繪示依照本發明另一實施方式之機器學習方法流程圖。

在下面的敘述中，將會介紹上述之機器學習系統與方法的例示結構與其例示之執行方法。為了容易瞭解所述實施例之故，下面將會提供不少技術細節。當然，並不是所有的實施例皆需要這些技術細節。同時，一些廣為人知之結構或元件，僅會以示意的方式在附圖中繪出，以適當地簡化附圖內容。

為了使本揭示內容的敘述更加詳盡與完備，下文針對本發明的實施方面與具體實施例提出了說明性的描述；但這並非實施或運用本發明具體實施例的唯一形式。實施方式中涵蓋了多個具體實施例的特徵以及用以建構與操作這些具體實施例的方法步驟與其順序。然而，亦可利用其他具體實施例來達成相同或均等的功能與步驟順序。

參照圖1，其繪示依照本發明一實施方式之機器學習系統架構示意圖。根據所要解決之機器學習的問題，設定學習模型、搜尋空間、搜尋演算法，然後針對場域裝置(on-site devices)進行訓練、測試與部屬。本發明為了降低應用門檻及提高應用效率，提出一種機器學習系統100，包括優化模組102 (Optimizer Module)、應用程式介面112(Application Programing Interface,API)，及測試執行模組114(Trial and Executing Module)。優化模組102主要由核心106(Kernel)所控制。核心106主要控制三個元件：資料庫104(Database)、處方池108(Recipe Pool)及顧問池110(Advisor Pool)。為方便說明，我們稱機器學習模型的建構過程為一個專案(Project)。資料庫104內儲存所有專案相關資料，包括但不限於專案編號、建立時間、擁有者、時間限制、次數限制、模型種類、模型預設參數、顧問種類、參數搜尋空間、測試參數組合、量化模型表現等。資料庫104儲存的資料提供核心106存取應用，以進行各種學習或優化運算。

處方池108內儲存了多個處方。所謂處方係針對各個機器學習所要解決的問題之專案的基本設置(configuration)，包括機器學習模型設定及參數空間設定等。使用者118透過使用者入口介面116輸入機器學習欲解決的問題，亦即專案需求，及一些基本資料。完成專案需求輸入後，核心106會依照使用者118輸入的專案需求，從處方池108提供較適合的處方給使用者選擇。處方池108內初始處方資料為過去專案的處方紀錄，也就是過去專案之問題對應機器學習模型、參數空間的紀錄。因此，核心106提供處方的方法包括二種：一種為既有專案處方之配對選定，若使用者118輸入的專案需求與處方池108中既有的專案符合，則直接將該專案之處方輸出，提供給使用者118。另一種方法為利用增強式學習法(Reinforcement Learning)產出一較佳處方，並儲存更新於處方池108中，以作為未來專案之參考。可處理之機器學習模型包括但不限於：監督式學習(線性迴歸、邏輯迴歸、決策樹、支援向量機、K-鄰近算法)、聚類分析、圖型識別(K-均值演算法，整合學習AdaBoost，貝葉斯分類器)，降維與度量學習(主成分分析、自動編碼器、線性判別分析)、結構預測、異常 檢測、人工神經網路(前饋神經網路、放射狀基底函數網路、循環神經網路)、強化學習類型(瑪爾卡夫鏈、Q-學習、蒙地卡羅、SARSA(State Action Reward State Action Learning)、變分法)。

關於核心106對處方池108的增強式學習法流程，係舉例如下：1.核心106依據特定問題與機器學習模型，在處方池108中針對特定問題與機器學習模型歸納出初始的參數空間。2.定義所有可能參數空間，及每一參數空間可能的調整動作(例如：調升/調降/維持)，並賦予每個可能調整動作相同的機率。3.以目前參數空間(第一參數空間)設定執行專案，並記錄模型量化表現(第一結果)。4.隨機進行上述的調整動作A1，得到新的參數空間(第二參數空間)。5.以第二參數空間設定執行專案，並記錄模型量化表現(第二結果)。6.比較第一結果與第二結果，若第一結果較佳，則調降調整動作A1的機率，若第二結果較佳，則調高調整動作A1的機率，若二個結果相同則維持不變。7.重複執行步驟3~6，則可以將參數空間收斂至一較佳值。核心106依據增強式學習法得到此較佳參數空間設定，即建立一新的處方儲存更新於處方池108中，並以此新處方提供給使用者。所選定的處方會提供使用者合適的專案設定，包括但不限於模型/搜尋空間/搜尋演算法組合，並透過應用程式介面112輸入優化模組102中。

顧問池110中則儲存多個顧問，所謂的顧問包括針對專案可能會使用的參數搜尋演算法及資源分配的策略，用以優化超參數組合。參數搜尋演算法包括但不限於：貝氏最佳化、基因演算法、退火法、樹狀結構Parzen估算法(Tree-structured Parzen Estimator,TPE)、連續減半過程、超頻法(Hyperband)，貝氏優化超頻法(Bayesian Optimization Hyperband,BOHB)，中位數停止法 (Median Stop)，曲線擬合法(Curve Fitting)等。在本發明的一實施例中，顧問池110中的上述的參數搜尋演算法，係由C語言，Python語言編寫成可執行函式，提供給核心106進行超參數組合的優化。

在本發明的一實施例中，核心106會依據使用者118所選擇處方建議輸入的專案設定，自顧問池110中選擇適當的顧問(即超參數搜尋演算法及資源分配策略)。舉例來說，當核心106依據使用者118輸入的專案設定，選擇了基因演算法的顧問，則超參數的搜尋流程包括：1.從處方池108提供的處方中之參數空間，選取一組固定數量的起始超參數組合，並加入待測清單中。2.依照待測清單中的超參數組合，以及處方池108提供的機器學習模型，進行訓練及測試，並記錄表現結果(performance)。3.基於表現結果選擇一定比例的優良超參數組合。4.將優良超參數組合的數值重新混合排列，產生新的超參數組合。5.將新的超參數組合經過一定程度的變異(例如：給予特定之超參數些微的上下擾動)並加入待測清單。6.在一定的迴圈區間重複步驟2~5。最後選取得到最佳結果之超參數組合。

測試執行模組114包含了多個可執行函式，這些可執行函式係包括上述各種機器學習模型的函式庫，而依據各種專案設置，以二進位執行檔、虛擬機器映像檔或虛擬化容器進行封裝，構成可執行函式，可以在使用者的運算裝置上進行訓練測試運算，也可以用於場域裝置120上執行。測試執行模組係透過應用程式介面112與優化模組102溝通，並雙向傳遞資料，依據核心106提供的超參數組合及專案設置，搭配適當的可執行函式，可進行訓練測試流程，並回傳量化的測試結果，用以儲存並更新資料庫104。

在本發明的一實施例中，應用程式介面112可以由表現層狀態轉移應用程式介面(Representational State Transfer API)所構成，利用HTTP/HTTPS協定建立使用者118與優化模組102之間的網路連結，包括虛擬網路、區域網路或網際網路。具體來說，使用者118透過應用程式介面112定義的有限數量溝通模式來傳遞請求(request)及接收回饋訊息。這些溝通模式包括：專案的新增、刪除、執行、復原，優化模組回傳的專案設定建議，超參數組合的請求與建議結果，訓練測試的量化表現回饋，錯誤訊息及代碼回報等。

使用者入口介面116係用來1.接收使用者118專案需求並回傳使用者118建議專案設定，2.匯整專案結果並視覺方式呈現。如圖1所示，使用者118可以直接連接應用程式介面，使用者118透過使用者入口介面116輸入專案需求後，優化模組102回傳建議專案設置。另一方面，透過應用程式介面112，使用者118可提交專案設定，並透過測試執行模組114執行訓練測試流程，再回傳其訓練測試結果。優化模組102無須對使用者118的訓練測試相關資料進行存取，可以保證使用者118資料的隱密性。此外，使用者入口介面116可以將訓練測試結果以視覺化(visualization)介面呈現，比如：將超參數組合與訓練測試的量化結果，以折線圖、分佈長條圖、二維座標關係圖、平行座標圖、三維點圖及曲面圖等方式呈現。

請參照圖2，圖2繪示依照本發明另一實施方式之機器學習方法流程圖。本發明的機器學習方法係在上述的機器學習系統中執行，請同時參照圖1，本發明的機器學習方法200包括下列步驟：

步驟202，為方法開始，當使用者118欲建構一機器學習模型，即開啟一個專案，如前所述，使用者建立專案需求。使用者118透過使用者入 口介面116將專案需求傳遞給優化模組102。步驟203，優化模組102會依據使用者輸入的專案需求，提供適合的處方給使用者選取。核心106選取處方的方法包括二種：一種為既有專案處方之配對選定，若使用者118輸入的專案需求與處方池108中既有的專案符合，則直接將該專案之處方輸出，提供給使用者118。另一種方法為利用增強式學習法產出一較佳處方，並儲存更新於處方池108中，以作為未來專案之參考。增強式學習法如前所述，於此不再贅述。步驟204，根據使用者所選取的處方，會提供建議的專案設定，並透過應用程式介面112輸入，由優化模組102的核心106接收此專案設定。專案設定內容包括但不限於：模型/搜尋空間/搜尋演算法組合、專案編號、建立時間、擁有者、時間限制、次數限制、專案類別、專案問題描述等。接著進行步驟206，根據專案設定，自顧問池110選取一顧問。

步驟208，優化模組102依據所選取的顧問，基於資料庫104中的專案資訊產生一超參數組合。如前所述，核心106使用所選取顧問從專案設定中定義的參數空間搜尋較佳的超參數組合。詳細步驟如前所述依照超參數的搜尋演算法進行超參數優化流程。

步驟210，測試執行模組114接收超參數組合，根據超參數組合執行一訓練測試流程。步驟212，根據訓練測試結果，產出一新的專案資訊，亦即量化測試結果。步驟214，將此測試結果儲存並更新資料庫104。舉例來說，根據使用者118輸入的專案設定，測試執行模組可以選取適當的可執行函式，如前所述，依據核心106提供的超參數組合及專案設置，搭配適當的可執行函式，可進行訓練測試流程，並回傳量化的測試結果，用以儲存並更新資料庫104。由於資料庫104的專案資訊已更新，並納入上述訓練測試結果，所以可以產生 較佳的超參數組合。相關實施方法已描述於上述的基因演算法實施例中，然熟習該技術者應知，本發明並不限於使用基因演算法，亦可以採用其他的超參數搜尋演算法，甚至若系統資源充裕，更可以採用顧問池中多個顧問，進行超參數搜尋，以達到更好的優化效果。

步驟216，在預定的迴圈區間，重複執行步驟208,210,212,214。迴圈區間的設定可以是迴圈執行次數、迴圈執行時間或迴圈執行耗費資源的上限等。步驟218，產出優化超參數組合。如上所述，執行步驟208,210,212,214時，所選取的顧問會篩選較佳測試結果的超參數組合，並儲存更新於資料庫104中，因此依據更新後的資料庫104再產生的最佳超參數組合，其表現將會優於更新前資料庫104產生之最佳超參數組合。經過多次迴圈執行後，將會產出優化超參數組合。步驟220，本發明機器學習方法至此完成，使用者118可以獲得欲建構專案的優化超參數組合，搭配測試執行模組114的可執行函式，及可以直接應用於場域裝置120中，而得到較佳的機器學習模型。

綜上所述，本發明的優化模組，可以透過有經驗的專家建構初始的處方池，並透過優化模組可以自動產生較佳的處方提供給使用者，且透過本發明的機器學習方法可以產生優化超參數組合，並搭配可執行函式，可以獲得完整優化的機器學習模型，輕易地導入場域裝置中執行機器學習。

雖然本發明已以實施方式揭露如上，然其並非用以限定本發明，任何熟習此技藝者，在不脫離本發明之精神和範圍內，當可作各種之更動與潤飾，因此本發明之保護範圍當視後附之申請專利範圍所界定者為準。

100:機器學習系統

102:優化模組

104:資料庫

106:核心

108:處方池

110:顧問池

112:應用程式介面

114:測試執行模組

116:使用者入口介面

118:使用者

120:場域裝置

Claims (8)

1. 一種機器學習系統，至少包括：一應用程式介面，用以輸入一專案設定；一優化模組，連接該應用程式介面，該優化模組更至少包括：一資料庫，用以儲存複數個專案資訊；一顧問池，用以儲存複數個顧問；以及一處方池，用以儲存複數個處方；以及一測試執行模組，連接該應用程式介面及該優化模組，其中該優化模組接收一專案需求後執行下列步驟：(e)該優化模組根據該專案需求，在處方池中歸納出初始的參數空間；(f)定義一第一參數空間，及該第一參數空間的調整動作，並賦予每個調整動作具有相同機率；(g)以該第一參數空間設定執行專案，並記錄模型量化表現得到一第一結果；(h)隨機執行上述步驟(e)~(g)，得到一第二參數空間；(i)以該第二參數空間設定執行專案，並記錄模型量化表現，得到一第二結果；(j)比較該第一結果與該第二結果，若該第一結果較佳，則調降每個調整動作的機率，若該第二結果較佳，則調高每個調整動作的機率，若二個結果相同則維持不變；(k)重複執行步驟(g)~(j)，將該第一參數空間收斂至一較佳值；(l)該優化模組將收斂至較佳值之該第一參數空間以作為一顧問，並將該顧問儲存於該顧問池； 該機器學習系統包括執行下列步驟：(a)該優化模組依據所選取的該顧問，基於該些專案資訊產生一超參數組合；(b)該測試執行模組接收該超參數組合，根據該超參數組合執行一訓練測試流程，並產出一新的專案資訊，且儲存並更新該資料庫；(c)在一預定的迴圈區間，重複執行步驟(a)、(b)；以及(d)輸出一優化專案結果。
2. 如請求項1所述之機器學習系統，其中該優化模組選取該些處方其中之一的方法至少包括增強式學習法。
3. 如請求項1所述之機器學習系統，更至少包括：一使用者入口介面，透過一網路連結連接該應用程式介面，該專案需求係經由該使用者入口介面進行輸入。
4. 如請求項1所述之機器學習系統，其中該測試執行模組更至少包括：複數個可執行函式，該測試執行模組係藉由該些可執行函式至少其中之一，執行該訓練測試流程。
5. 一種機器學習方法，適用於產生一優化超參數組合，其中該機器學習方法係執行於一優化模組及一測試執行模組，該優化模組更至少包括：一資料庫，用以儲存複數個專案資訊；一顧問池，用以儲存複數個顧問；以及一處方池，用以儲存複數個處方；其中該機器學習方法至少包括：(a)接收一專案需求； (b)根據該專案需求，執行下列步驟(g)~(n)後，再執行步驟(c)；(g)在處方池中歸納出初始的參數空間；(h)定義一第一參數空間，及該第一參數空間的調整動作，並賦予每個調整動作具有相同機率；(i)以該第一參數空間設定執行專案，並記錄模型量化表現得到一第一結果；(j)隨機執行上述步驟(g)~(i)，得到一第二參數空間；(k)以該第二參數空間設定執行專案，並記錄模型量化表現，得到一第二結果；(l)比較該第一結果與該第二結果，若該第一結果較佳，則調降每個調整動作的機率，若該第二結果較佳，則調高每個調整動作的機率，若二個結果相同則維持不變；(m)重複執行步驟(i)~(l)，將該第一參數空間收斂至一較佳值；(n)將收斂至較佳值之該第一參數空間以作為一顧問，並將該顧問儲存於該顧問池；(c)該優化模組依據所選取的該顧問，基於該些專案資訊產生一超參數組合；(d)該測試執行模組接收該超參數組合，根據該超參數組合執行一訓練測試流程，並產出一新的專案資訊，且儲存並更新該資料庫；(e)在一預定的迴圈區間，重複執行步驟(c)、(d)；以及(f)產出該優化超參數組合。
6. 如請求項5所述之機器學習方法，其中該優化模組選取該些處方其中之一的方法至少包括增強式學習法。
7. 如請求項5所述之機器學習方法，其中該測試執行模組更至少包括：複數個可執行函式，該測試執行模組係藉由該些可執行函式至少其中之一，執行該訓練測試流程。
8. 如請求項7所述之機器學習方法，更包括：以該可執行函式，及該優化超參數組合，在一場域裝置執行機器學習。

Images