模式識別與人工智能(基於MATLAB)epub

双色球杀号
双色球杀号
双色球杀号
11103
文章
1708
評論
2020年10月15日21:41:49 評論 64
摘要

適讀人群 :本書可作為高等院校自動化、計算機、電子和通信等專業研究生和高年級本科生的教材,也可作為計算機信息處理、自動控製等相關領域工程技術人員的參考用書。
《模式識別與人工智能(基於MATLAB)》以實用性、可操作性和實踐性為宗旨,以酒瓶顏色分類的設計為例,將理論與實踐相結合,介紹各種相關分類器設計。

模式識別與人工智能(基於MATLAB) 作者:周潤景

模式識別與人工智能(基於MATLAB) 出版社:清華大學出版社

模式識別與人工智能(基於MATLAB) 內容簡介

《模式識別與人工智能(基於MATLAB)》將模式識別與人工智能理論與實際應用相結合, 以酒瓶顏色分類為例, 介紹了各種算法理論及相應的 MATLAB實現程序。全書共分為10章, 包括模式識別概述、貝葉斯分類器的設計、判別函數分類器的設計、聚類分析、 模糊聚類、神經網絡分類器設計、模擬退火算法的分類器設計、遺傳算法聚類設計、蟻群算法聚類設計、粒子群算法聚類設計,覆蓋了各種常用的模式識別技術。

模式識別與人工智能(基於MATLAB) 目錄

第1章模式識別概述

1.1模式識別的基本概念

1.1.1模式的描述方法

1.1.2模式識別係統

1.2模式識別的基本方法

1.3模式識別的應用

習題

第2章貝葉斯分類器設計

2.1貝葉斯決策及貝葉斯公式

2.1.1貝葉斯決策簡介

2.1.2貝葉斯公式

2.2基於最小錯誤率的貝葉斯決策

2.2.1基於最小錯誤率的貝葉斯決策理論

2.2.2最小錯誤率貝葉斯分類的計算過程

2.2.3最小錯誤率貝葉斯分類的MATLAB實現

2.2.4結論

2.3最小風險貝葉斯決策

2.3.1最小風險貝葉斯決策理論

2.3.2最小錯誤率與最小風險的貝葉斯決策比較

2.3.3貝葉斯算法的計算過程

2.3.4最小風險貝葉斯分類的MATLAB實現

2.3.5結論

習題

第3章判別函數分類器設計

3.1判別函數簡介

3.2線性判別函數

3.3線性判別函數的實現

3.4基於LMSE的分類器設計

3.4.1LMSE分類法簡介

3.4.2LMSE算法原理

3.4.3LMSE算法步驟

3.4.4LMSE算法的MATLAB實現

3.4.5結論

3.5基於Fisher的分類器設計

3.5.1Fisher判別法簡介

3.5.2Fisher判別法的原理

3.5.3Fisher分類器設計

3.5.4Fisher算法的MATLAB實現

3.5.5識別待測樣本類別

3.5.6結論

3.6基於支持向量機的分類法

3.6.1支持向量機簡介

3.6.2支持向量機基本思想

3.6.3支持向量機的幾個主要優點

3.6.4訓練集為非線性情況

3.6.5核函數

3.6.6多類分類問題

3.6.7基於SVM的MATLAB實現

3.6.8結論

習題

第4章聚類分析

4.1聚類分析

4.1.1聚類的定義

4.1.2聚類準則

4.1.3基於試探法的聚類設計

4.2數據聚類——K均值聚類

4.2.1K均值聚類簡介

4.2.2K均值聚類原理

4.2.3K均值算法的優缺點

4.2.4K均值聚類的MATLAB實現

4.2.5待聚類樣本的分類結果

4.2.6結論

4.3數據聚類——基於取樣思想的改進K均值聚類

4.3.1K均值改進算法的思想

4.3.2基於取樣思想的改進K均值算法MATLAB實現

4.3.3結論

4.4數據聚類——K近鄰法聚類

4.4.1K近鄰法簡介

4.4.2K近鄰法的算法研究

4.4.3K近鄰法數據分類器的MATLAB實現

4.4.4結論

4.5數據聚類——PAM聚類

4.5.1PAM算法簡介

4.5.2PAM算法的主要流程

4.5.3PAM算法的MATLAB實現

4.5.4PAM算法的特點

4.5.5K均值算法和PAM算法分析比較

4.5.6結論

4.6數據聚類——層次聚類

4.6.1層次聚類方法簡介

4.6.2凝聚的和分裂的層次聚類

4.6.3簇間距離度量方法

4.6.4層次聚類方法存在的不足

4.6.5層次聚類的MATLAB實現

4.6.6結論

4.7數據聚類——ISODATA算法概述

4.7.1ISODATA算法應用背景

4.7.2ISODATA算法的MATLAB實現

4.7.3結論

習題

第5章模糊聚類分析

5.1模糊邏輯的發展

5.2模糊集合

5.2.1由經典集合到模糊集合

5.2.2模糊集合的基本概念

5.2.3隸屬度函數

5.3模糊集合的運算

5.3.1模糊集合的基本運算

5.3.2模糊集合的基本運算規律

5.3.3模糊集合與經典集合的聯係

5.4模糊關係與模糊關係的合成

5.4.1模糊關係的基本概念

5.4.2模糊關係的合成

5.4.3模糊關係的性質

5.4.4模糊變換

5.5模糊邏輯及模糊推理

5.5.1模糊邏輯技術

5.5.2語言控製策略

5.5.3模糊語言變量

5.5.4模糊命題與模糊條件語句

5.5.5判斷與推理

5.5.6模糊推理

5.6數據聚類——模糊聚類

5.6.1模糊聚類的應用背景

5.6.2基於MATLAB的GUI工具的模糊算法構建——數據模糊化

5.6.3基於MATLAB的GUI工具的模糊算法構建——FIS實現

5.6.4係統結果分析

5.6.5結論

5.7數據聚類——模糊C均值聚類

5.7.1模糊C均值聚類的應用背景

5.7.2模糊C均值算法

5.7.3模糊C均值聚類的MATLAB實現

5.7.4模糊C均值聚類結果分析

5.7.5結論

5.8數據聚類——模糊ISODATA聚類

5.8.1模糊ISODATA聚類的應用背景

5.8.2模糊ISODATA算法的基本原理

5.8.3模糊ISODATA算法的基本步驟

5.8.4模糊ISODATA算法的MATLAB程序實現

5.8.5結論

5.9模糊神經網絡

5.9.1模糊神經網絡的應用背景

5.9.2模糊神經網絡算法的原理

5.9.3模糊神經網絡分類器的MATLAB實現

5.9.4結論

習題

第6章神經網絡聚類設計

6.1什麽是神經網絡

6.1.1神經網絡的發展曆程

6.1.2生物神經係統的結構及衝動的傳遞過程

6.1.3人工神經網絡的定義

6.2人工神經網絡模型

6.2.1人工神經元的基本模型

6.2.2人工神經網絡基本構架

6.2.3人工神經網絡的工作過程

6.2.4人工神經網絡的特點

6.3前饋神經網絡

6.3.1感知器網絡

6.3.2BP網絡

6.3.3BP網絡的建立及執行

6.3.4BP網絡分類器的MATLAB實現

6.3.5BP網絡的其他學習算法的應用

6.4反饋神經網絡

6.4.1離散Hopfield網絡的結構

6.4.2離散Hopfield網絡的工作方式

6.4.3離散Hopfield網絡的穩定性和吸引子

6.4.4離散Hopfield網絡的連接權設計

6.4.5離散Hopfield網絡分類器的MATLAB實現

6.4.6結論

6.5徑向基函數

6.5.1徑向基函數的網絡結構及工作方式

6.5.2徑向基函數網絡的特點及作用

6.5.3徑向基函數網絡參數選擇

6.5.4RBF網絡分類器的MATLAB實現

6.5.5結論

6.6廣義回歸神經網絡

6.6.1GRNN的結構

6.6.2GRNN的理論基礎

6.6.3GRNN的特點及作用

6.6.4GRNN分類器的MATLAB實現

6.6.5結論

6.7小波神經網絡

6.7.1小波神經網絡的基本結構

6.7.2小波神經網絡的訓練算法

6.7.3小波神經網絡結構設計

6.7.4小波神經網絡分類器的MATLAB實現

6.7.5結論

6.8其他形式的神經網絡

6.8.1競爭型人工神經網絡——自組織競爭

6.8.2競爭型人工神經網絡——自組織特征映射神經網絡

6.8.3競爭型人工神經網絡——學習向量量化神經網絡

6.8.4概率神經網絡

6.8.5CPN神經網絡分類器的MATLAB實現

習題

第7章模擬退火算法聚類設計

7.1模擬退火算法簡介

7.1.1物理退火過程

7.1.2Metropolis準則

7.1.3模擬退火算法的基本原理

7.1.4模擬退火算法的組成

7.1.5模擬退火算法新解的產生和接受

7.1.6模擬退火算法的基本過程

7.1.7模擬退火算法的參數控製問題

7.2基於模擬退火思想的聚類算法

7.2.1K均值算法的局限性

7.2.2基於模擬退火思想的改進K均值聚類算法

7.2.3幾個重要參數的選擇

7.3算法實現

7.3.1實現步驟

7.3.2模擬退火實現模式分類的MATLAB程序

7.4結論

習題

第8章遺傳算法聚類設計

8.1遺傳算法簡介

8.2遺傳算法原理

8.2.1遺傳算法的基本術語

8.2.2遺傳算法進行問題求解的過程

8.2.3遺傳算法的優缺點

8.2.4遺傳算法的基本要素

8.3算法實現

8.3.1種群初始化

8.3.2適應度函數的設計

8.3.3選擇操作

8.3.4交叉操作

8.3.5變異操作

8.3.6完整程序及仿真結果

8.4結論

習題

第9章蟻群算法聚類設計

9.1蟻群算法簡介

9.2蟻群算法原理

9.2.1基本蟻群算法原理

9.2.2模型建立

9.2.3蟻群算法的特點

9.3基本蟻群算法的實現

9.4算法改進

9.4.1MMAS算法簡介

9.4.2完整程序及仿真結果

9.5結論

習題

第10章粒子群算法聚類設計

10.1粒子群算法簡介

10.2經典的粒子群算法的運算過程

10.3兩種基本的進化模型

10.4改進的粒子群優化算法

10.4.1粒子群優化算法原理

10.4.2粒子群優化算法的基本流程

10.5粒子群算法與其他算法的比較

10.6粒子群算法分類器的MATLAB實現

10.6.1設定參數

10.6.2初始化

10.6.3完整程序及仿真結果

10.7結論

習題

參考文獻

模式識別與人工智能(基於MATLAB) 精彩文摘

第3章判別函數分類器設計

3.1判別函數簡介

判別函數是統計模式識別中用以對模式進行分類的一種較簡單的函數。在特征空間中,通過學習,不同的類別可以得到不同的判別函數,比較不同類別的判別函數值的大小,就可以進行分類。統計模式識別方法把特征空間劃分為決策區對模式進行分類,一個模式類同一個或幾個決策區相對應。

設有c個類別,對於每一個類別ωi(i=1,2,…,c)定義一個關於特征向量X的單值函數gi(X): ①如果X屬於第i類,那麽gi(X)>gj(X)(i,j=1,2,…,c,j≠i); ②如果X在第i類和第j類的分界麵上,那麽gi(X)=gj(X)(i,j=1,2,…,c,j≠i)。

人們已研究出多種求取決策邊界的算法,線性判別函數的決策邊界是一個超平麵方程式,其中的係數可以從已知類別的學習樣本集求得。F.羅森布拉特的錯誤修正訓練程序是求取兩類線性可分分類器決策邊界的早期方法之一。在用線性判別函數不可能對所有學習樣本正確分類的情況下,可以規定一個準則函數(例如對學習樣本的錯分數最少)並用使準則函數達到最優的算法求取決策邊界。用線性判別函數的模式分類器也稱為線性分類器或線性機,這種分類器計算簡單,不要求估計特征向量的類條件概率密度,是一種非參數分類方法。

當用貝葉斯決策理論進行分類器設計時,在一定的假設下也可以得到線性判別函數,這無論對於線性可分或線性不可分的情況都是適用的。在問題比較複雜的情況下可以用多段線性判別函數(見近鄰法分類、最小距離分類)或多項式判別函數對模式進行分類。一個二階的多項式判別函數可以表示為與它相應的決策邊界是一個超二次曲麵。

本章介紹線性判別函數和非線性判別函數,用以對酒瓶的顏色進行分類,其中實現線性判別函數分類的方法有LMSE分類算法和Fisher分類,實現非線性判別函數分類的方法有基於核的Fisher分類和支持向量機。

3.2線性判別函數

判別函數分為線性判別函數和非線性判別函數。最簡單的判別函數是線性判別函數,它是由所有特征量的線性組合構成的。我們現在對兩類問題和多類問題分別進行討論。

1. 兩類問題

對於兩類問題,也就是Wi=(ω1,ω2)T。

1) 二維情況

取二維特征向量X=(x1,x2)T,這種情況下的判別函數g(x)=ω1x1+ω2x2+ω3,其中,ωi(i=1,2,3)為參數; x1和x2為坐標值,判別函數g(x)具有以下性質: 當x∈ω1時,gi(x)>0; 當x∈ω2時,gi(x)<0; 當x不定時,gi(x)=0。這是二維情況下由判別邊界分類。

2) n維情況

對於n維情況,現抽取n維特征向量: X=(x1,x2,…,xn)T,判別函數為g(x)=W0X+ωn+1。其中,W0=(ω1,ω2,…,ωn)T為權向量; X=(x1,x2,…,xn)T為模式向量。另外一種表示方法是g(x)=WTX。其中,W=(ω1,ω2,…,ωn,ωn+1)T為增值權向量; X=(x1,x2,…,xn,1)T為增值模式向量。

在這種情況下,當x∈ω1時,g(x)>0; 當x∈ω2時,g(x)<0 g1="" x="" 0="" n="2時,邊界為一條直線,當n=3時,邊界為一個平麵,當n">3時,邊界為超平麵。

2. 多類問題

對於多類問題,模式有ω1,ω2,…,ωM個類別,可以分為下麵三種情況。

1) 第一種情況

每個模式類與其他模式可用單個判別平麵分開,這時M個類有M個判別函數,且具有性質

gi(x)=WTiX(31)

式中,Wi=(ωi1,ωi2,…,ωin+1)T為第i個判別函數的權向量。當x∈ωi時,gi(x)>0,其他情況下gi(x)<0,也就是每一個類別可以用單個判別邊界與其他類別相分開。

2) 第二種情況

每個模式類和其他模式類之間可以用判別平麵分開,這樣就有M(M-1)2個平麵,對於兩類問題,M=2,則有1個判別平麵,同理對於三類問題,就有3個判別平麵。判別函數為

gij(x)=WTijX(32)

式中,i≠j,判別邊界為gij(x)=0,條件為: 當x∈ωi時,gij(x)>0; 當x∈ωj時,gij(x)<0。

3) 第三種情況

每類都有一個判別函數,存在M個判別函數: gk(x)=WkX(k=1,2,…,M),邊界為gi(x)=gj(x),條件為: 當x∈ωi時,gi(x)最大; 其他情況下gi(x)小。也就是說,要判別X屬於哪一個類,先把X代入M個判別函數,判別函數最大的那個類就是X所屬類別。

3.3線性判別函數的實現

對於給定的樣本集X,要確定線性判別函數g(x)=WTx+ω0的各項係數W和ω0,可以通過以下步驟來實現:

① 收集一組具有類別標誌的樣本X={x1,x2,…,xN};

② 按照需要確定準則函數J;

③ 用最優化技術求準則函數J的極值解ω*和ω*0,從而確定判別函數,完成分類器的設計。

對於未知樣本x,計算g(x),判斷其類別。即對於一個線性判別函數,主要任務是確定線性方程的兩個參數,一個是權向量W,另一個是閾值ω0。

在計算機中想要實現線性判別函數,可以通過“訓練”和“學習”的方式,將已知樣本放入到計算機的“訓練”程序,經過多次迭代,從而得到準確函數。

下麵具體介紹各種分類器的設計。

3.4基於LMSE的分類器設計

3.4.1LMSE分類法簡介

LMSE是Least Mean Square Error的英文縮寫,中文的意思是最小均方誤差,常稱作LMSE算法。

提到LMSE分類算法就不能不提感知器算法和自適應算法,因為LMSE算法本身就是自適應算法中最常用的方法,而感知器和自適應線性元件在曆史上幾乎是同時提出的,並且兩者在對權值的調整的算法非常相似,它們都是基於糾錯學習規則的學習算法。感知器算法存在如下問題: 不能推廣到一般的前向網絡中; 函數不是線性可分時,得不出任何結果。而由美國斯坦福大學的WidrowHoff在研究自適應理論時提出的LMSE算法,由於其易實現因而很快得到了廣泛應用,成為自適應濾波的標準算法。下麵介紹自適應過程。

自適應過程是一個不斷逼近目標的過程。它所遵循的途徑以數學模型表示,稱為自適應算法。通常采用基於梯度的算法,其中LMSE算法尤為常用。自適應算法可以用硬件(處理電路)或軟件(程序控製)兩種辦法實現。前者依據算法的數學模型設計電路,後者則將算法的數學模型編製成程序並用計算機實現。算法有很多種,選擇算法很重要,它決定了處理係統的性能質量和可行性。

自適應均衡器的原理就是按照某種準則和算法對其係數進行調整,最終使自適應均衡器的代價(目標)函數最小化,達到最佳均衡的目的。而各種調整係數的算法就稱為自適應算法,自適應算法是根據某個最優準則來設計的。最常用的自適應算法有逼零算法、最陡下降算法、LMSE算法、RLS算法以及各種盲均衡算法等。

自適應算法所采用的最優準則有最小均方誤差準則、最小二乘準則、最大信噪比準則和統計檢測準則等,其中最小均方誤差準則和最小二乘準則是目前最為流行的自適應算法準則。LMSE算法和RLS算法由於采用的最優準則不同,因此這兩種算法在性能、複雜度等方麵均有許多差別。

一種算法性能的好壞可以通過幾個常用的指標來衡量,例如收斂速度——通常用算法達到穩定狀態(即與最優值的接近程度達到一定值)的迭代次數表示; 誤調比——實際均方誤差相對於算法的最小均方誤差的平均偏差; 運算複雜度——完成一次完整迭代所需的運算次數; 跟蹤性能——對信道時變統計特性的自適應能力。

3.4.2LMSE算法原理

LMSE算法是針對準則函數引進最小均方誤差這一條件而建立起來的。這種算法的主要特點是在訓練過程中判定訓練集是否線性可分,從而可對結果的收斂性做出判斷。

LMSE算法屬於監督學習的類型,而且是“模型無關”的,它是通過最小化輸出和期望目標值之間的偏差來實現的。

LMSE算法屬於自適應算法中常用的算法,它不同於C均值算法和ISODATA算法,後兩種屬於基於距離度量的算法,直觀且容易理解。LMSE算法通過調整權值函數求出判別函數,進而將待測樣本代入判別函數求值,最終做出判定,得出答案。

1. 準則函數

LMSE算法以最小均方差作為準則,因均方差為

E{[ri(X)-WTiX]2}(33)

因而準則函數為

J(Wi,X)=12E{[ri(X)-WTiX]2}(34)

準則函數在ri(X)-WTiX=0時取得最小值。準則函數對Wi的偏導數為

JWi=E{-X[ri(X)-WTiX]}(35)

2. 迭代方程

將式(35)代入迭代方程,得到

Wi(k+1)=Wi(k)+αkX(k)[ri(X)-WTi(k)X(k)](36)

對於多類問題來說,M類問題應該有M個權函數方程,而對於每一個權函數方程來說,如X(k)∈ωi,則

ri[X(k)]=1,i=1,2,…,M(37)

否則

ri[X(k)]=0,i=1,2,…,M(38)

3.4.3LMSE算法步驟

(1) 設各個權向量的初始值為0,即W0(0)=W1(0)=W2(0)=…=WM(0)=0。

(2) 輸入第k次樣本X(k),計算di(k)=WTi(k)X(k)。

(3) 確定期望輸出函數值: 若X(k)∈ωi,則ri[X(k)]=1,否則ri[X(k)]=0。

(4) 計算迭代方程: Wi(k+1)=Wi(k)+αkX(k)[ri(X)-WTi(k)X(k)],其中αk=1k。

(5) 循環執行步驟(2),直到滿足條件: 屬於ωi類的所有樣本都滿足不等式di(X)>dj(X),j≠i。

3.4.4LMSE算法的MATLAB實現

1. 首先給定四類樣本,各樣本的特征向量經過增1

程序如下:

pattern=struct('feature',[])

p1=[864.451647.312665.9;

877.882031.663071.18;

1418.791775.892772.9;

1449.581641.583405.12;

864.451647.312665.9;

877.882031.663071.18;

1418.791775.892772.9;

1449.581641.583405.12;

1418.791775.892772.9;

1449.581641.583405.12;]

pattern(1).feature=p1'

pattern(1).feature(4,:)=1

pattern(1).feature實際的矩陣形式如下:

p1 =

1.0e+03 *

0.86451.64732.6659

0.87792.03173.0712

1.41881.77592.7729

1.44961.64163.4051

0.86451.64732.6659

0.87792.03173.0712

1.41881.77592.7729

1.44961.64163.4051

1.41881.77592.7729

1.44961.64163.4051

之後的三類,程序如下:

p2=[2352.122557.041411.53;

2297.283340.14535.62;

2092.623177.21584.32;

2205.363243.741202.69;

2949.163244.44662.42;

2802.883017.111984.98;

2063.543199.761257.21;

2949.163244.44662.42;

2802.883017.111984.98;

2063.543199.761257.21;]

pattern(2).feature=p2'

pattern(2).feature(4,:)=1

p3=[1739.941675.152395.96;

1756.7716521514.98;

1803.581583.122163.05;

1571.171731.041735.33;

1845.591918.812226.49;

1692.621867.52108.97;

1680.671575.781725.1;

1651.521713.281570.38;

1680.671575.781725.1;

1651.521713.281570.38;]

pattern(3).feature=p3'

pattern(3).feature(4,:)=1

p4=[373.33087.052429.47;

222.853059.542002.33;

401.33259.942150.98;

363.343477.952462.86;

104.83389.832421.83;

499.853305.752196.22;

172.783084.492328.65;

341.593076.622438.63;

291.023095.682088.95;

237.633077.782251.96;]

pattern(4).feature=p4'

pattern(4).feature(4,:)=1

2. 設權值向量的初始值均為0

初始化權值程序代碼如下:

w=zeros(4,4);%初始化權值

MATLAB程序運行結果如下:

w =

0000

0000

0000

0000

3. 計算di(k)

程序代碼如下:

for k=1:4

m=pattern(i).feature(:,j)

m=m/norm(m)

d(k)=w(:,k)'*m %計算d

……

双色球杀号:模式識別與人工智能(基於MATLAB)epub

繼續閱讀
資源地址:用心發表評論,回複即可查看(字數限製至少10字以上)。
  • 我的微信
  • 掃一掃加好友
  • weinxin
  • 微信公眾號
  • 掃一掃關注
  • weinxin
自己動手寫神經網絡pdf 人工智能

自己動手寫神經網絡pdf

自己動手寫神經網絡 作者:葛一鳴 自己動手寫神經網絡 出版社:人民郵電出版社 自己動手寫神經網絡 內容簡介 《自己動手寫神經網絡》講解通俗易懂,使用簡單的語言描述人工神經網絡的原理,並力求以具體實現與...
TensorFlow機器學習實戰指南pdf 人工智能

TensorFlow機器學習實戰指南pdf

TensorFlow機器學習實戰指南 作者: 尼克·麥克盧爾(Nick McClure) TensorFlow機器學習實戰指南 出版社:機械工業出版社 TensorFlow機器學習實戰指南 內容簡介 ...
人工智能 商業化落地實戰epub 人工智能

人工智能 商業化落地實戰epub

人工智能 商業化落地實戰 作者:韓東,陳軍 人工智能 商業化落地實戰 出版社:清華大學出版社 人工智能 商業化落地實戰 內容簡介 人工智能的發展已經成為趨勢。在這一時代背景下,本書選取1具代表性的AI...
匿名

發表評論

匿名網友 填寫信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: