??? 摘 要：介紹并比較了支持向量機(jī)分類器和最小二乘支持向量機(jī)分類器的算法，提出了基于支持向量機(jī)的二叉樹多分類變壓器故障診斷模型。將標(biāo)準(zhǔn)支持向量機(jī)(C-SVM)分類器和最小二乘支持向量機(jī)(LS-SVM)分類器分別用于變壓器故障診斷，通過網(wǎng)格搜索和交叉驗(yàn)證法取得支持向量機(jī)的參數(shù)，準(zhǔn)確率較高。試驗(yàn)結(jié)果表明，支持向量機(jī)和最小二乘支持向量機(jī)在變壓器故障診斷中具有很大的應(yīng)用潛力。
??? 關(guān)鍵詞：支持向量機(jī)；分類器；最小二乘支持向量機(jī)；故障診斷
?
??? 電力變壓器在電力系統(tǒng)中的地位舉足輕重，是電力系統(tǒng)中最重要和最關(guān)鍵的電氣設(shè)備之一，其運(yùn)行的安全可靠性直接關(guān)系到電力系統(tǒng)的安全與穩(wěn)定。
??? 油中溶解氣體分析(DGA)技術(shù)是目前對油浸變壓器進(jìn)行故障診斷最方便、有效的手段之一，它能較準(zhǔn)確、可靠地發(fā)現(xiàn)逐步發(fā)展的潛伏性故障。
??? SVM[1-2]是在統(tǒng)計(jì)學(xué)理論基礎(chǔ)上發(fā)展起來的一種新的學(xué)習(xí)方法，它能較好地解決小樣本、非線性、高緯數(shù)和局部極小等實(shí)際問題，已成為繼神經(jīng)網(wǎng)絡(luò)研究之后機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)，為了區(qū)別，將Vapnik提出的支持向量機(jī)稱為標(biāo)準(zhǔn)支持向量機(jī)(C-SVM)。最小二乘支持向量機(jī)LS-SVM(Least Square Support Vector Machines)是支持向量機(jī)的變形算法，LS-SVM采用二次損失函數(shù)，將SVM中的二次規(guī)劃問題轉(zhuǎn)化為線性方程組求解，在保證精度的同時(shí)大大降低了計(jì)算復(fù)雜性，加快了求解速度。
??? 本文提出了基于支持向量機(jī)的二叉樹多分類變壓器故障診斷模型，通過網(wǎng)格搜索方法選擇確定支持向量機(jī)參數(shù)。將C-SVM分類器和LS-SVM分類器分別用于變壓器故障診斷模型，實(shí)驗(yàn)表明，該模型具有良好的分類效果和推廣能力，C-SVM分類器和LS-SVM分類器都能達(dá)到較高的故障診斷率。
1 支持向量機(jī)與最小二乘支持向量機(jī)算法
1.1 C- SVM與LS-SVM分類器算法
??? 支持向量機(jī)的主要思想如下：首先選擇非線性變換
映射到特征空間，在此高維空間中構(gòu)造最優(yōu)線性決策函數(shù)
在構(gòu)造最優(yōu)決策函數(shù)時(shí)，利用結(jié)構(gòu)風(fēng)險(xiǎn)最小化準(zhǔn)則，利用原空間的核函數(shù)取代高維特征空間的點(diǎn)積運(yùn)算，避免了復(fù)雜運(yùn)算。
??? 支持向量機(jī)和最小二乘支持向量機(jī)[3-4]在利用結(jié)構(gòu)風(fēng)險(xiǎn)原則的同時(shí)，在優(yōu)化目標(biāo)中選取了不同的損失函數(shù)。
??? 對于支持向量機(jī)優(yōu)化目標(biāo)與約束條件為：
??? 
式中，εi是松弛變量；C為懲罰參數(shù)。對于最小二乘支持向量機(jī)，優(yōu)化目標(biāo)采用的平方項(xiàng)，故優(yōu)化問題為：
??? 
??? 應(yīng)用拉格朗日方法求解上述優(yōu)化問題，支持向量機(jī)優(yōu)化問題轉(zhuǎn)化為下面的二次規(guī)劃：
??? 
??? 最小二乘支持向量機(jī)優(yōu)化問題轉(zhuǎn)化為求解線性方程
?????? (4)
1.2 核函數(shù)選擇
??? 由上面分析可知，C-SVM與LS-SVM分類器是由訓(xùn)練集和核函數(shù)完全刻畫的，構(gòu)造、選擇核函數(shù)是一個(gè)重要問題，選擇不同的核函數(shù)會(huì)產(chǎn)生不同的支持向量機(jī)算法。因徑向基核函數(shù)只有一個(gè)待定的參數(shù)ο，與其他和函數(shù)相比具有參數(shù)少的優(yōu)點(diǎn)，本文采用徑向基函數(shù)作為核函數(shù)，即：
??? 
2 基于支持向量機(jī)的變壓器故障診斷
??? 本文將支持向量機(jī)分類器和最小二乘支持向量機(jī)分類器用于變壓器故障診斷中。
2.1 特征提取
??? 通過油色譜分析法得到油中溶解氣體類型和變壓器內(nèi)部故障性質(zhì)的對應(yīng)關(guān)系，采用多種以油中溶解氣體為依據(jù)的判別故障方法。目前多采用H2、CH4、C2H6、C2H4、C2H2?5種氣體進(jìn)行診斷，本文選取列舉出的5種氣體的含量作為輸入特征，利用SVM對這5種特征量進(jìn)行訓(xùn)練和診斷。
??? 診斷出變壓器常見的5種狀態(tài)：變壓器的正常狀態(tài)、中低溫過熱、高溫過熱、高能放電、低能放電。
2.2 數(shù)據(jù)預(yù)處理
??? 為了避免輸入向量中各變量數(shù)量級(jí)相差過大影響訓(xùn)練效果,支持向量機(jī)對數(shù)據(jù)樣本(訓(xùn)練集和測試集)進(jìn)行歸一化處理。
??? xmax和xmin分別代表樣本集合的最大值與最小值，xi為實(shí)際數(shù)據(jù)，
??? 
??? 這樣使數(shù)據(jù)轉(zhuǎn)換到[0,1]區(qū)間。
2.3 變壓器故障診斷模型
??? 基于SVM的二叉樹多類算法是將所有類別分成兩個(gè)子類，再將兩個(gè)子類分別劃分成兩個(gè)次級(jí)子類，依次類推，直到所有的節(jié)點(diǎn)只含有一個(gè)類別為止，這樣，多分類問題就轉(zhuǎn)化為二分類問題，每個(gè)節(jié)點(diǎn)處采用SVM二值分類器作為分類函數(shù)。
??? 二叉樹的分類結(jié)構(gòu)主要有兩種：一種是在每個(gè)內(nèi)節(jié)點(diǎn)處，由一個(gè)類與剩下的類構(gòu)造分割面；另一種是在內(nèi)節(jié)點(diǎn)處，可以是多個(gè)類與多個(gè)類的分割。本文只考慮前一種情況，即每次分割只分割出一個(gè)類?；谥С窒蛄繖C(jī)的二叉樹多分類變壓器故障診斷模型如圖1所示。
?
??? 在訓(xùn)練小樣本的情況下，該模型可以由粗到細(xì)逐步將故障進(jìn)行分類，使診斷不斷深入，逐步靠近故障的真實(shí)情況。根據(jù)變壓器故障的特點(diǎn)，采用4級(jí)SVM分類器對數(shù)據(jù)樣本進(jìn)行訓(xùn)練測試，最終判斷變壓器所處的狀態(tài)。
3 參數(shù)優(yōu)化
??? 在支持向量機(jī)算法參數(shù)的確定中，基于網(wǎng)格搜索和交叉驗(yàn)證[5]的參數(shù)尋優(yōu)方法簡單實(shí)用，有效地解決了SVM參數(shù)設(shè)計(jì)的難題，增加了診斷模型的推廣性。網(wǎng)格搜索方法首先確定各個(gè)參數(shù)的范圍，然后對每個(gè)參數(shù)范圍按照一定規(guī)律插值，得出若干組參數(shù)組合。交叉驗(yàn)證法的思想是：將訓(xùn)練樣本M隨機(jī)分為大致相等的個(gè)互不相交的子集，即
共進(jìn)行次訓(xùn)練和測試，第i次迭代做法是：選擇Si作為測試集，其余子集的和為訓(xùn)練集。算法根據(jù)訓(xùn)練集合求出決策函數(shù)后，對測試集合Si進(jìn)行測試，記錯(cuò)誤分類的樣本點(diǎn)個(gè)數(shù)為li。k次迭代完成后, 得到了l1…lk，比較哪一組參數(shù)得到的交叉驗(yàn)證精度高，精度高的參數(shù)就是所要選取的參數(shù)。
4 變壓器故障診斷實(shí)例分析
??? 本文針對采集到的240組故障電力變壓器油中氣體含量的歷史數(shù)據(jù)信息，先剔除一些數(shù)據(jù)不全以及測量結(jié)果明顯有誤的數(shù)據(jù)。最后得到228組故障明確的電力變壓器油中氣體數(shù)據(jù)，其中2/3樣本用于訓(xùn)練集合，1/3用于測試集合。
??? 將此數(shù)據(jù)對基于支持向量機(jī)的二叉樹多分類變壓器故障診斷效果進(jìn)行了實(shí)例驗(yàn)證。
??? 分別利用支持向量機(jī)分類器與最小二乘支持向量機(jī)分類器，選用相同的訓(xùn)練樣本集和測試樣本集，通過網(wǎng)格搜索和交叉驗(yàn)證的參數(shù)尋優(yōu)方法確定參數(shù)，訓(xùn)練和測試結(jié)果分別如表1和表2所示。
?
?
??? 為了更好地評價(jià)基于支持向量機(jī)的二叉樹多分類方法。本文也采用神經(jīng)網(wǎng)絡(luò)對同樣的數(shù)據(jù)進(jìn)行試驗(yàn)對比，得到測試結(jié)果如表3所列。
?
??? 通過對基于C-SVM與LS-SVM的二叉樹多分類故障診斷模型的試驗(yàn)驗(yàn)證，并與其他模型比較，可得出如下結(jié)論：
??? (1)基于支持向量機(jī)的二叉樹多級(jí)分類故障診斷模型具有很高的正確率，大大降低了參數(shù)選擇的時(shí)間，使模型構(gòu)造簡單。
??? (2)參數(shù)尋優(yōu)能提高SVM分類器模型的分類正確率，基于網(wǎng)格搜索和交叉驗(yàn)證的參數(shù)尋優(yōu)方法為解決SVM分類器的實(shí)際應(yīng)用提供了有效的途徑。從表1與表2可知，標(biāo)準(zhǔn)SVM具有較高的準(zhǔn)確度，然而LS-SVM具有較快的收斂速度。
??? (3)基于支持向量機(jī)的二叉樹多級(jí)分類故障診斷模型訓(xùn)練時(shí)間比神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間短，且精確度高。
??? 本文比較了標(biāo)準(zhǔn)支持向量機(jī)分類器和最小二乘支持向量機(jī)分類器，并將它們應(yīng)用于二叉樹的多分類變壓器故障診斷中，使用網(wǎng)格搜索和交叉驗(yàn)證的參數(shù)尋優(yōu)方法，取得了良好的分類效果，應(yīng)用于故障診斷領(lǐng)域應(yīng)當(dāng)具有良好的前景。
參考文獻(xiàn)
[1]?Vapnik V N. The nature of statistical learning theory [M]. New York: Springer- Verlag ,1995.
[2]?張學(xué)工. 關(guān)于統(tǒng)計(jì)學(xué)習(xí)理論與支持向量機(jī)[J].自動(dòng)化學(xué)報(bào), 2000,26(1):32-42.
[3]?Burges C J C.A tutorial on support vector machines for pattern recognition [J]. Data Mining and Knowledge Siscovery，1998, 2 (2) :1-47.
[4]?閻威武，邵惠鶴.支持向量機(jī)和最小二乘支持向量機(jī)的比較及其應(yīng)用研究[J].控制與決策，2003，18(3):358-360.
[5]?董明,孟源源，徐長響，等.基于支持向量機(jī)及油中溶解氣體分析的大型電力變壓器故障診斷模型研究 [J].中國電機(jī)工程學(xué)報(bào), 2003, 23(7):88-92.