基于漢字搭配的中文信息獲取技術(shù)研究.pdf

1、近年來(lái)，以關(guān)鍵詞、短語(yǔ)、概念等特征項(xiàng)為基礎(chǔ)的信息檢索、搜索引擎、文本挖掘、信息抽取等信息獲取技術(shù)得到廣泛研究和應(yīng)用。信息獲取可從海量的、良莠不齊的數(shù)據(jù)中獲取粗信息，并從已獲取的粗信息中發(fā)現(xiàn)、判斷并有效識(shí)別能反映客觀事物特征、現(xiàn)象、本質(zhì)及規(guī)律描述的有用的信息。由于中文的詞語(yǔ)間沒(méi)有分隔符，中文信息獲取受限于漢語(yǔ)自動(dòng)分詞、特征提取與特征選擇、特征項(xiàng)的索引與存儲(chǔ)等預(yù)處理工作，時(shí)間和空間代價(jià)很高，結(jié)果正確率較低。隨著信息數(shù)字化、網(wǎng)絡(luò)化的發(fā)展，數(shù)據(jù)

2、的豐富性、多樣性與信息的過(guò)載、迷失的矛盾日益突出，為突破中文文本和Web信息獲取的瓶頸，實(shí)現(xiàn)信息的快速搜集、準(zhǔn)確鑒別和高效運(yùn)用，利用漢字搭配技術(shù)獲取信息是一條有效途徑。搭配是指兩個(gè)或兩個(gè)以上的特征項(xiàng)所組成的語(yǔ)言模式，在詞典編撰、信息檢索等工作中已取得初步成效。漢語(yǔ)言的用字特點(diǎn)、詞法規(guī)則、語(yǔ)法關(guān)系蘊(yùn)含了豐富的信息，漢字搭配是一種語(yǔ)言模式，承載了其中的部分信息。定義漢字關(guān)聯(lián)度的概念，通過(guò)引進(jìn)頻率、互信息、t-檢驗(yàn)、2 χ統(tǒng)計(jì)和漢字關(guān)聯(lián)度等統(tǒng)

3、計(jì)量來(lái)量化和度量漢字搭配模式，研究表明，互有側(cè)重的四種統(tǒng)計(jì)量及漢字關(guān)聯(lián)度多角度地描述了漢字搭配模式。文檔數(shù)據(jù)是人們獲取信息的主要來(lái)源。
　　 本研究利用量化的漢字搭配模式定義文本的漢字搭配矩陣，構(gòu)建了非結(jié)構(gòu)化中文文本的三元組表示方法，提出了適用于生語(yǔ)料的文本相似性度量算法M-similarity和基于實(shí)例的文本分類(lèi)反饋學(xué)習(xí)算法G-KNN 等關(guān)鍵算法，構(gòu)建了六元組表示的、基于漢字搭配的信息檢索框架?；跐h字搭配的文本表示方法可以與

4、經(jīng)典的基于特征向量的文本表示法相互轉(zhuǎn)換，但其復(fù)雜度和語(yǔ)義性?xún)?yōu)于經(jīng)典的表示法。實(shí)驗(yàn)結(jié)果顯示，在訓(xùn)練集規(guī)模較小且無(wú)需標(biāo)注的情況下，提出的基于漢字搭配的機(jī)器學(xué)習(xí)算法也有較好的應(yīng)用效果。利用漢字搭配信息表示非結(jié)構(gòu)化中文文本，為解決同類(lèi)問(wèn)題探索了一種思路。WEB 網(wǎng)頁(yè)是人們獲取信息的另一重要來(lái)源。將漢字搭配及其相關(guān)統(tǒng)計(jì)量和基于漢字搭配應(yīng)用的技術(shù)方法、算法和框架應(yīng)用于Web 信息的獲取研究，針對(duì)網(wǎng)頁(yè)噪音引起的主題漂移問(wèn)題，首先定義了Web網(wǎng)頁(yè)或塊的

5、語(yǔ)義樹(shù)及其操作，提出容錯(cuò)語(yǔ)義樹(shù)構(gòu)造算法SemTreeCreate，解決不規(guī)范的HTML網(wǎng)頁(yè)的DOM 解析存在大量的廣告與圖片鏈接噪音及DOM 樹(shù)的深度大、結(jié)點(diǎn)層次多、結(jié)點(diǎn)層次和子樹(shù)間關(guān)系混亂等問(wèn)題；然后，利用機(jī)器學(xué)習(xí)和信息過(guò)濾技術(shù)，設(shè)計(jì)一種基于內(nèi)容的Web 網(wǎng)頁(yè)噪音塊的識(shí)別算法NoisyExploration，解決網(wǎng)頁(yè)中大量文字噪音數(shù)據(jù)的識(shí)別問(wèn)題；最后，提出主題發(fā)現(xiàn)和多主題識(shí)別策略，在無(wú)需額外知識(shí)支持的情況下，通過(guò)判斷網(wǎng)頁(yè)各塊之間、網(wǎng)頁(yè)