- 基于GP算法的知識(shí)發(fā)現(xiàn)系統(tǒng) 推薦度：
- 相關(guān)推薦
基于GP算法的知識(shí)發(fā)現(xiàn)系統(tǒng)
基于GP算法的知識(shí)發(fā)現(xiàn)系統(tǒng)
摘 要 本文提出了一個(gè)新的知識(shí)發(fā)現(xiàn)系統(tǒng)。該系統(tǒng)以遺傳編程算法為核心，解決發(fā)現(xiàn)一組屬于面向?qū)ο髷?shù)據(jù)庫的對(duì)象所具有的共性問題。本文對(duì)系統(tǒng)作了扼要的說明，對(duì)GP算法進(jìn)行了描述，并給出了一個(gè)實(shí)驗(yàn)例子。
關(guān)鍵詞 進(jìn)化計(jì)算 遺傳編程 知識(shí)發(fā)掘
在數(shù)據(jù)庫中發(fā)現(xiàn)有用的知識(shí)是數(shù)據(jù)挖掘（Data Mining, DM）的主要任務(wù)，在一定的情況下，所有的數(shù)據(jù)庫查詢可以認(rèn)為是完成這項(xiàng)任務(wù)。我們現(xiàn)在有一套分析和探索數(shù)據(jù)的工具：SQL查詢、OLAP和數(shù)據(jù)挖掘技術(shù)。SQL查詢由關(guān)系代數(shù)所構(gòu)成；OLAP提供了建立在多維數(shù)據(jù)模型基礎(chǔ)上的高水平查詢；而數(shù)據(jù)挖掘提供了最抽象的數(shù)據(jù)分析操作。我們可以認(rèn)為不同的數(shù)據(jù)挖掘任務(wù)是在高水平上的復(fù)雜查詢。數(shù)據(jù)挖掘是機(jī)器學(xué)習(xí)和數(shù)據(jù)庫技術(shù)的交叉學(xué)科，DM系統(tǒng)的主要特點(diǎn)是：在數(shù)據(jù)庫中發(fā)現(xiàn)能夠用某些規(guī)則表述的、隱含的知識(shí)；與數(shù)據(jù)庫是緊密集成的；高度自動(dòng)化的；對(duì)知識(shí)發(fā)現(xiàn)的處理是有效率的（尤其對(duì)大型數(shù)據(jù)庫）。
這里我們給出一種基于GP（Genetic Programming，遺傳編程）算法的知識(shí)發(fā)現(xiàn)系統(tǒng)，和通常對(duì)數(shù)據(jù)庫的查詢不同的是，這個(gè)系統(tǒng)可對(duì)特定的對(duì)象集產(chǎn)生特定的查詢集，系統(tǒng)自動(dòng)根據(jù)查詢集訪問數(shù)據(jù)庫，從而發(fā)掘出數(shù)據(jù)庫中隱含的知識(shí)。本文將對(duì)上述知識(shí)發(fā)掘過程進(jìn)行詳細(xì)描述，并提出了一種用遺傳編程（GP）來進(jìn)行數(shù)據(jù)挖掘的方法，GP個(gè)體由數(shù)據(jù)庫查詢組成，而這些查詢代表了高水平上的規(guī)則。
1 系統(tǒng)基本結(jié)構(gòu)
我們?cè)赱1]文給出的知識(shí)發(fā)現(xiàn)系統(tǒng)結(jié)構(gòu)基礎(chǔ)上加以改進(jìn)，給出如圖1的基于GP算法的知識(shí)發(fā)現(xiàn)系統(tǒng)。
1．1 系統(tǒng)結(jié)構(gòu)描述
整個(gè)系統(tǒng)由GP引擎、OODBMS（Object-Oriented Database Management System,面向?qū)ο髷?shù)據(jù)庫管理系統(tǒng)）、知識(shí)庫、DB接口和用戶接口組成。系統(tǒng)以一組對(duì)象、領(lǐng)域知識(shí)和模式信息作為輸入。根據(jù)所給輸入，GP引擎將產(chǎn)生許多隨機(jī)的查詢，系統(tǒng)將這些查詢應(yīng)用于OODBMS，OODBMS將返回其結(jié)果。系統(tǒng)用給定的輸入對(duì)該返回結(jié)果進(jìn)行評(píng)價(jià)，評(píng)價(jià)是計(jì)算個(gè)體查詢的適應(yīng)值的過程。那些能夠匹配所給對(duì)象集的查詢或查詢集將被選中，在沒有查詢能夠匹配所給對(duì)象集時(shí)，那么其最好的查詢將被選中。最后，將能夠最好地描述所給對(duì)象集特性的查詢作為輸出。
1．2 面向?qū)ο蟮臄?shù)據(jù)庫
這里，我們假定一個(gè)基于面向?qū)ο蠛秃瘮?shù)的數(shù)據(jù)庫模型（Object-Oriented and Functional Data Model, OOFDM），OOFDM具有面向?qū)ο蠛秃瘮?shù)數(shù)據(jù)模式的特性。這種模型要比傳統(tǒng)的關(guān)系數(shù)據(jù)庫模型在表達(dá)知識(shí)時(shí)更加逼近和容易。OOFDM的基本概念是"將感知到的真實(shí)世界作為相互關(guān)系對(duì)象的變量，并從不同的更細(xì)的層次上觀察這些對(duì)象。"[2]函數(shù)數(shù)據(jù)模型可以簡單地借助函數(shù)的數(shù)學(xué)符號(hào)來表示數(shù)據(jù)間的關(guān)系。每個(gè)類（或?qū)嶓w集）有自己的屬性和值，類與屬性間的關(guān)系是將類中的對(duì)象集映射到屬性域的一個(gè)函數(shù)。關(guān)系或逆關(guān)系組成了類間的連接。
1．3 查詢算子
我們使用下列查詢算子作為其面向?qū)ο髷?shù)據(jù)庫的查詢語言。
①SEL C-1 [(謂詞)] 該算子選擇所有屬于C-1且滿足謂詞的對(duì)象。C-1既可以是一個(gè)類名也可以是一個(gè)屬于C-1的查詢。謂詞是一個(gè)可選項(xiàng)。如果在這個(gè)算子里沒有謂詞，它將選擇該類中的所有對(duì)象。
②RES C-1 謂詞 該算子根據(jù)所給謂詞，限制給定集合的對(duì)象與另一個(gè)類的對(duì)象關(guān)聯(lián)。C-1和謂詞同SEL算子，但對(duì)于RES的謂詞屬性必須是關(guān)系型的屬性，而對(duì)于SEL算子謂詞屬性則必須是非關(guān)系型屬性。
③REL C-1 R-r Class-2 該算子選擇所有C-1中與C-2中對(duì)象有關(guān)聯(lián)的對(duì)象。這是一個(gè)通過R-r 將一個(gè)類C-1與另一個(gè)類C-2關(guān)聯(lián)起來的關(guān)系算子。R-r可以是一個(gè)通過C-1中定義的關(guān)系集中的關(guān)系屬性之一。C-1既可以是一個(gè)類名也可以是一個(gè)屬于C-1的查詢。C-2必須是一個(gè)類名或是一個(gè)屬于C-2的查詢，并且通過R-r關(guān)聯(lián)到另一個(gè)類C-1。
④G-REL C-1 R-r C-2 該算子是REL的逆算子，它選擇所有C-2中與C-1中對(duì)象有關(guān)聯(lián)的對(duì)象。C-1、C-2以及R-r的意義同REL算子。
2 GP算法
遺傳編程（GP）屬于進(jìn)化計(jì)算（Evolutionary Computation，EC）模型的一種。EC是一種借鑒自然界進(jìn)化機(jī)制而產(chǎn)生的并行隨機(jī)搜索算法。進(jìn)化算法的基本原理是選擇和改變，它區(qū)別于其他搜索方法有兩個(gè)顯著特征：首先這些算法都是基于種群（population）的；其次在種群中個(gè)體（indvidual）之間存在競爭。
為搜索特定的（感興趣的）查詢需要一種工具，這種工具可智能生成一組查詢并以它們是否能導(dǎo)出與用戶給定的同樣的對(duì)象集來進(jìn)行評(píng)價(jià)。GP算法對(duì)這一類問題是很實(shí)用的。
2．1 函數(shù)集與端點(diǎn)集
一般GP中可生成的程序集是使用者定義的函數(shù)集和端點(diǎn)集。表1給出了相應(yīng)的函數(shù)集和端點(diǎn)集，其中函數(shù)集由1.3中定義的查詢算子、邏輯運(yùn)算算子以及比較算子所組成。
表1 函數(shù)集和端點(diǎn)集
在我們的應(yīng)用中還有一些具有不同句法的查詢算子。每個(gè)算子具有不同的句法且假定的數(shù)據(jù)庫是面向?qū)ο蟮�。因此，它具有為�?chuàng)建個(gè)體而使用的特別的函數(shù)集（或算子集）和端點(diǎn)集。從而，構(gòu)成種群的所有個(gè)體的創(chuàng)建必然受到每個(gè)算子的約束[3]。約束可以是算子的句法和查詢的類型，或者是為創(chuàng)建查詢選擇適當(dāng)屬性值的領(lǐng)域知識(shí)。比較算子和邏輯算子只使用于查詢的謂詞。當(dāng)比較符號(hào)操作數(shù)時(shí)，僅使用'='。
端點(diǎn)集由CLASS-SET、SLOT-SET和VALUE-SET組成。CLASS-SET由1.2中定義的類名組成，SLOT-SET由每個(gè)類的所有屬性構(gòu)成，VALUE-SET由數(shù)值和符號(hào)值所構(gòu)成（它們均為屬性值）。數(shù)值由整型或?qū)嵭蛿?shù)構(gòu)成，其數(shù)值范圍由所用數(shù)據(jù)庫模式定義。符號(hào)值由字符串表示的符號(hào)屬性值構(gòu)成。
2．2 創(chuàng)建初始種群
為了創(chuàng)建一個(gè)個(gè)體（查詢），首先必須確定特定查詢所返回的對(duì)象類型。結(jié)果類型被選擇后，從所選類型返回例子的算子集中隨機(jī)地選擇一個(gè)算子，這個(gè)過程對(duì)查詢的每個(gè)參數(shù)遞歸地進(jìn)行。最初，那些句法正確的預(yù)定義數(shù)量的查詢被隨機(jī)地產(chǎn)生，形成初始種群。
2．3 選擇屬性值
由于可選擇范圍大，要從某個(gè)查詢的值集中選擇一個(gè)屬性值（數(shù)值或符號(hào)常數(shù)）是相當(dāng)困難的。對(duì)于一個(gè)范圍為[1，10000]的整數(shù)集，隨機(jī)選到一個(gè)特定整數(shù)的概率僅為1/10000。而對(duì)于符號(hào)常數(shù)，則需要很強(qiáng)的背景知識(shí)。因此，我們僅就發(fā)生在數(shù)據(jù)庫里的范圍選擇屬性值。
2．4 繁殖新一代種群
每個(gè)個(gè)體用預(yù)定義的適應(yīng)函數(shù)來進(jìn)行評(píng)價(jià)。較適應(yīng)的查詢有較高的概率被選來繁殖新種群，這個(gè)過程用三個(gè)遺傳算子：選擇、雜交和變異來完成。為了產(chǎn)生下一代，選擇算子根據(jù)個(gè)體的適應(yīng)值來選擇個(gè)體。我們用一個(gè)樹來表示一個(gè)查詢，雜交算子用交換兩個(gè)父輩的子樹來創(chuàng)建兩個(gè)后代。變異算子用一個(gè)新的子樹來代替一個(gè)父輩的子樹，從而產(chǎn)生一個(gè)新的后代。選擇-雜交-變異循環(huán)反復(fù)地進(jìn)行直到終止標(biāo)準(zhǔn)被滿足。
2．5 評(píng)價(jià)（適應(yīng)函數(shù)測量）
我們使用如下的適應(yīng)函數(shù)f來評(píng)價(jià)種群中的個(gè)體查詢i ：
f ( ni , hi ) = T - ( hi * hi ) / ni ,
其中：ni > 0 ， T ≥ hi ， 且 i = 1 ，2 ，… ，種群的大�。═是被確定的對(duì)象集的勢(shì)，hi是一個(gè)個(gè)體查詢i 被選中的次數(shù)，ni是查詢 i 結(jié)果集的勢(shì)）。
上述適應(yīng)函數(shù)依賴于hi和ni ，如果一個(gè)查詢沒有被選中（hi=0），則函數(shù)的值為T，這是最差的一個(gè)適應(yīng)值。另一方面，如果查詢結(jié)果能夠很好地匹配提交給系統(tǒng)的對(duì)象集，那么它的適應(yīng)值為0（在這種情況下hi = ni = T ）。如果種群中出現(xiàn)個(gè)體適應(yīng)值遠(yuǎn)遠(yuǎn)超過種群平均適應(yīng)值，該個(gè)體很快就會(huì)在群體中占有絕對(duì)的比例，從而出現(xiàn)過早收斂的現(xiàn)象。另一方面，在搜索過程的后期，群體的平均適應(yīng)值可能會(huì)接近群體的最優(yōu)適應(yīng)值，從而導(dǎo)致搜索目標(biāo)難以得到改善，出現(xiàn)停滯現(xiàn)象[4]。為了防止上述情況的發(fā)生，我們將對(duì)一個(gè)個(gè)體查詢的例子個(gè)數(shù) ni 作為分母。
3 一個(gè)例子
我們首先給出一個(gè)如表2所示的模擬"售后質(zhì)量管理函數(shù)數(shù)據(jù)庫"，用它來代表一個(gè)基于OOFDM的面向?qū)ο髷?shù)據(jù)庫，它包含了客戶及其相關(guān)的信息。表3說明了類間的相互聯(lián)系。
表2 售后質(zhì)量管理數(shù)據(jù)庫
類客戶代理商產(chǎn)品維修記錄使用質(zhì)量問題 客戶 + + + 代理商 + 產(chǎn)品 + + + 維修記錄 + 使用 + + 質(zhì)量問題 + +表3 類間的連接表
3．1 問題的提出
根據(jù)質(zhì)量管理部門反映，有兩個(gè)客戶反饋的產(chǎn)品質(zhì)量問題較為嚴(yán)重，我們希望通過對(duì)數(shù)據(jù)庫的查詢來找出這兩個(gè)客戶在購買的產(chǎn)品及使用上所具有的共性。
3．2 實(shí)驗(yàn)結(jié)果
在我們的數(shù)據(jù)庫里包含如表2所示的模式組織起來的客戶信息，我們通過用"選擇反
( T = 27 , P = 100 , 代數(shù) = 200 )
映質(zhì)量問題達(dá)到或超過3次的客戶"的查詢，即：
（G-REL（RES 產(chǎn)品（≥送交維修 3））購買 by 客戶）
得到27個(gè)例子的對(duì)象集{"客戶C5"，"客戶B2"，… }。將這個(gè)對(duì)象集提交給系統(tǒng)，查詢的發(fā)掘過程以100個(gè)隨機(jī)產(chǎn)生的查詢開始。表2顯示了發(fā)掘出的每一代最好的查詢摘要。fi，hi和ni分別是最佳查詢i的適應(yīng)值、被選中次數(shù)和結(jié)果集的勢(shì)，fa為平均標(biāo)準(zhǔn)適應(yīng)值（fa = (∑fi)/P,P是種群的大小，(∑fi)為種群適應(yīng)值的和）。
在第52代時(shí)，我們已經(jīng)得到了相當(dāng)好的結(jié)果。此時(shí)，平均適應(yīng)值已由第0代的26.68降到2.85。其最好的查詢被完全選中，查詢可敘述為"選擇反映質(zhì)量問題達(dá)到或超過3次的客戶，并且購買的產(chǎn)品的出廠日期為97年11月以后到98年5月以前。"即：
（G-REL
（RES 產(chǎn)品（≥送交維修 3））
購買 by 客戶
（SEL 產(chǎn)品 （OR（< 出廠日期 98年5月）（> 出廠日期 97年11月 ）））
如果不考慮所使用的是模擬數(shù)據(jù)的話，可以說我們已經(jīng)發(fā)現(xiàn)了蘊(yùn)藏在數(shù)據(jù)庫中的知識(shí)了。
4 小結(jié)
本文在知識(shí)發(fā)掘系統(tǒng)的框架上引入了GP算法，并以一個(gè)實(shí)驗(yàn)例子為背景，說明使用GP算法產(chǎn)生最佳查詢方法的有效性，展示了該系統(tǒng)的應(yīng)用潛力。我們將進(jìn)一步把該思想導(dǎo)入到關(guān)系型數(shù)據(jù)庫，在實(shí)踐中完善系統(tǒng)。
參考文獻(xiàn)
1 李亞非，夏安邦 . 一種新的知識(shí)發(fā)現(xiàn)系統(tǒng)架構(gòu) . 東南大學(xué)學(xué)報(bào) . 1998（6A）: 8~11
2 Gray , Peter M D . Object-Oriented Database/A Semantic Data Model Approach . Englewood Cliff ,NJ. Printice Hall, 1992
3 Koza , John R .Genetic Programming/Automatic Discovery of Reusable Program . Cambridge ,MA. The MIT Press , 1995
4 潘正君，康立山，陳玉屏. 演化計(jì)算 .北京：清華大學(xué)出版社，1998
【基于GP算法的知識(shí)發(fā)現(xiàn)系統(tǒng)】相關(guān)文章：
基于GP算法的知識(shí)發(fā)現(xiàn)系統(tǒng)08-06
CCD測量系統(tǒng)中基于自適應(yīng)相關(guān)算法的動(dòng)態(tài)目標(biāo)跟蹤08-06
基于DSP的信道譯碼算法優(yōu)化08-06
基于Visual Basic快速開發(fā)現(xiàn)場電視監(jiān)控系統(tǒng)08-06
基于Visual Basic快速開發(fā)現(xiàn)場電視監(jiān)控系統(tǒng)04-12
智能決策支持系統(tǒng)中的知識(shí)表示及基于粗集的知識(shí)推理08-06
基于SMBus的智能電池系統(tǒng)08-06