次序迴歸及其應用:支持向量機學習法
Ordinal regression and applications: A support vector machine approach
Ordinal regression and applications: A support vector machine approach
以下分為三部份:(一)"結論和討論"、(二)"實驗圖表和結果" 和 (三)"研究所資料 及 論文參考文獻"。
(一)、結論和討論
動機:
由於次序型資料在日常生活中已隨處可見且日益重要,尤其在疾病資料的分析上和影像檢索領域上更顯為重要。因此本文利用Herbrich建立次序迴歸演算法的方法為基礎,以不同懲罰係數的支持向量機學習法結合累積羅吉斯模型建立新的次序迴歸演算法。
實驗方法:
本文實驗中,我們分別利用Herbrich[1]模擬資料集的方式創造新的次序型資料集和以CHU WEI網頁的糖尿病資料集(diabetes)做為樣本集合,以Herbrich次序迴歸演算法和我們的新的演算法分析次序型資料並比較分析結果的差異。
實驗結果:
在模擬資料上,我們的演算法所得出的次序型資料的平均風險較低,而在diabetes資料集上,我們的演算法解決了在以Herbrich次序迴歸演算法分析diabetes資料集時,閥值產生錯置的問題,並說明我們的演算法可依樣本的重要性,以不同的懲罰係數訓練出更佳的對應函數。另外我們模擬用戶進行相關性回饋後,以我們的次序迴歸演算法為基礎來產生檢索結果,達到不錯的效果。最後,為了避免系統在處理次序迴歸演算法的最佳化問題時,產生記憶體不足,因此我們還討論最大增益的單變數SMO來解決此問題,其中本文在單變數SMO上更新位置的取法使得SMO求解時,更加的快速,才得以使得演算法更加的有效且具有實用性。