MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V

Transkript

MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V
MATEMATICKÝ MODEL
BIOLOGICKÝCH NEURONOVÝCH SÍTÍ
V TECHNICKÉ PRAXI
Milan CHLADA
[email protected]
Oddělení nedestruktivního testování
Ústav termomechaniky AVČR, v.v.i.
Dolejškova 1402/5, 182 00 Praha 8
Smíchovská střední průmyslová škola - seminář Věda a technika - 25.5.2010
MATEMATICKÝ MODEL
BIOLOGICKÝCH NEURONOVÝCH SÍTÍ
V TECHNICKÉ PRAXI
Matematické modelování
Umělé neuronové sítě (ANN)
Příklady využití ANN v praxi
Smíchovská střední průmyslová škola - seminář Věda a technika - 25.5.2010
MATEMATICKÉ MODELOVÁNÍ
?
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
MATEMATICKÉ MODELOVÁNÍ
popis reálného světa řečí čísel
zavedení čísel
sčítání a násobení
I  5
A  2
G  1
I & I  II
5 + 5 = 10
I & I & I  III
5 + 5 + 5 = 3 x 5 = 15
rovnoměrný pohyb
kmitavý pohyb
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
BIOLOGICKÁ
NERVOVÁ SOUSTAVA
(NEURONOVÁ SÍŤ)
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
BIOLOGICKÝ NEURON
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
AKTIVITA BIOLOGICKÉHO NEURONU
reakce na příchozí elektrický vzruch
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
MATEMATICKÝ MODEL NEURONU
1
x1
x2
.
.
.
xn
w1
w2
0.5
y
fSIGN
fSIG
0
wn
fTANSIG
-0.5
b
-1
-5
-2.5
0
N
y =f =f ∑ w i x i  b
i=1
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
2.5
5
MATEMATICKÝ MODEL NEURONU
demonstrace funkce jednoduchého perceptronu
1
x1
x2
0 .5
w1=1
sign
w2=-2
y
0
-0 .5
b=50
-1
100
y = sign (x1 - 2x2 + 50)
dělící přímka:
x1 - 2x2 + 50 = 0
x2
50
0
0
20
60
40
x1
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
80
100
MATEMATICKÝ MODEL NEURONU
demonstrace funkce jednoduchého neuronu
1
x1
x2
0 .5
w1=1
fSIG
w2=-2
0
y
-0 .5
b=50
-1
100
y = sign (x1 - 2x2 + 50)
dělící přímka:
x1 - 2x2 + 50 = 0
80
x2
60
40
20
0
0
20
40
60
x1
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
80
100
JEDNODUCHÁ NEURONOVÁ SÍŤ
architektura 2-3-2-1:
fSIG
fSIG
x1
y
fSIG
fSIG
x2
fSIG
váhy:
W1=[1 10
1 -2
-2 1];
W2=[0.2 0.5 -0.5
0.1 -0.7 -0.1];
W3=[0.3 0.7];
x2
x1
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
JEDNODUCHÁ NEURONOVÁ SÍŤ
architektura 2-3-2-1:
fSIG
fSIG
x1
y
fSIG
fSIG
x2
fSIG
váhy:
W1=[2
1
0.1 -1
-0.2 1.1];
x1
W2=[0.7 0.25 -0.5
0.1 0.9 -0.1];
W3=[0.3 0.1];
x2
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
UČENÍ
nastavování vah a prahů
Jednoduchý perceptron:
perceptronové učení
x1
x2
w1=1
w2=-2
sign
y
b=50
Vrstevnatá síť:
backpropagation (zpětné šíření)
fSIG
fSIG
x1
y
fSIG
fSIG
x2
fSIG
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
TECHNICKÁ PRAXE
Požadavky:
Spolehlivost a bezpečnost materiálových konstrukcí.
Řešení:
Aplikace vhodných nástrojů a metod.
nedestruktivní testování konstrukcí (NDT)
kontinuální monitorování stavu
Efektivní metody:
Sledování akustické emise (AE).
NDT metoda pro detekci a identifikaci rostoucích materiálových defektů.
(různé typy signálů detekovaných metodou AE přísluší k různým
mechanismům poruch)
Vývoj a aplikace nových algoritmů zpracování signálů AE
na bázi umělých neuronových sítí:
sítí:
Rozšíření možností a zvěrohodnění diagnostického rozhodování na základě
lokalizace a klasifikace emisních zdrojů.
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
RŮZNÉ TYPY SIGNÁLŮ AE
TYP 2
1.5
0.6
1
0.4
amplituda [V]
amplituda [V]
TYP 1
0.5
0
-0.5
0.2
0
-0.2
-1
-0.4
-1.5
0
0.5
1
0.3
1.5
2
2.5
-0.6
0
3
0.5
1
1.5
2
čas [ms]
čas [ms]
TYP 3
TYP 4
2.5
3
2.5
3
0.15
0.1
amplituda [V]
amplituda [V]
0.2
0.1
0
-0.1
0
-0.05
-0.2
0
0.05
-0.1
0.5
1
1.5
čas [ms]
2
2.5
3
-0.15
0
0.5
1
1.5
2
čas [ms]
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
POČÍTANÉ SIGNÁLOVÉ PARAMETRY
Časová oblast:
(1) amplituda signálu, (2) amplituda vektoru g, (3) doba nárůstu signálu,
(4) doba nárůstu vektoru g, (5) RMS signálu, (6) moment energie signálu,
(7-10) 1.-4. centrální moment vektoru g ve smyslu hustoty pravděpodobnosti.
Parametry frekvenčního spektra:
(11-15) parametry výkonové spektrální hustoty f(ω):
∫ f  ω dω
P X = 100⋅
X
∫ f  ω dω
,
X ∈{ A , B , C , D , E }
G
kde G je celkový frekvenční rozsah, pět zvolených pásem X je vztaženo
k Nyquistově frekvenci ωN následovně:
A:(0-0.05)*ωN; B:(0.05-0.1)*ωN; C:(0.1-0.15)*ωN; D:(0.15-0.3)*ωN; E:(0.3-0.5)*ωN .
(16-19) 1.-4. centrální moment f(ω) ve smyslu hustoty pravděpodobnosti
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
LOKALIZACE ZDROJŮ AE POMOCÍ ANN
Aplikace neuronových sítí (ANN) - osvědčená alternativa pro
klasický triangulační algoritmus lokalizace zdrojů signálů AE.
Obtížné určování začátku signálu - možné chybné výsledky
obzvláště za přítomnosti vysokých hladin šumu.
Nová metoda lokalizace zdrojů AE - jádrem ANN, na vstupech běžné
p1,CH1
p2,CH1
.
.
.
pN,CH4
f(Σ )
f(Σ )
f(Σ )
f(Σ )
.
.
.
.
.
.
f(Σ )
f(Σ )
f(Σ )
x
f(Σ )
y
w
i2
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
Odhad souřadnic zdroje AE
Vstupní parametry
signálové parametry (RMS, doba nárůstu, max. amplituda apod.)
LOKALIZACE ZDROJŮ AE POMOCÍ ANN
Pen-testy na části nosníku letounu L-39
TRÉNINKOVÉ BODY
TESTOVACÍ BODY
SNÍMAČE
S4
S3
10
9
8
7
6
5
4
3
2
S2 1
S1
13 12
11
10
9
8
JEDNOTKY ROZMÍSTĚNÍ PEN-TESTŮ
7
6
5
30mm
4
3
2
1
y
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
x
LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ
2D schéma rozmístění senzorů na tenké desce
S4
Si - snímače
(t4)
S3
ZDROJ AE
d = vT
(čas tS)
d =
2
Tv
2
)v
+
(t3)
d
1 =(
t1
-t
S
t2
S1
t1
šíření
elastické vlny
S2
značení:
ts - čas inicializace zdroje AE
ti - čas příchodu signálu
Ti - čas šíření signálu
od zdroje ke snímači Si
T - normalizační perioda
di - vzdálenost mezi
zdrojem AE a snímačem
d - vzdálenost mezi dvěma
vhodně zvolenými body
v - rychlost šíření elastické vlny
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ
Časový profil je vektor s následovně definovanými složkami pi :
N
T i
1
pi =
, kde T i = T i − ∑ T j
N j =1
max {∣T j ∣}
j
ČASY PŘÍCHODŮ
ČASOVÝ PROFIL
p2
T4
S4
tS
t2 t 1
+
+
S2
T1
S1
+
S3
T2
S2
p4 p3
S4
T3
S3
p1
+
S1
t4 t3
[s]
-1
0
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
1
LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ
Výpočet pomocí časů příchodů (ts - čas inicializace zdroje AE)
AE):
N
N
ozn.
1
1
T i = t i − t S − ∑ t j − t S  = t i − ∑ t j = ti
N j =1
N j =1
⇒
ti
pi =
max {∣tj ∣}
j
Nezávislost časových profilů na změně měřítka a materiálu:
materiálu:
pi =
1 
⋅d i
v
1
⋅max {∣dj ∣}
v
j
N
di
s ⋅ di
1
=
=
, kde di = d i − ∑ d j
N j =1
max {∣dj ∣}
max {∣ s ⋅ dj ∣}
j
j
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ
Zpětná projekce učících bodů do tréninkové oblasti:
100
souřadnice Y
200
300
400
500
600
100
200
300
400
500
600
700
800
900
souřadnice X
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
1000
LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ
ANN LOKALIZACE - ZATĚŽOVACÍ SÍLA <20 20<70 >70
100
souřadnice Y
200
TRÉNINKOVÁ OBLAST
300
400
500
600
100
200
300
400
500
600
700
800
900
souřadnice X
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
1000
ROZPOZNÁVÁNÍ ZDROJŮ AE
Primární selekce dat
- identifikace emisních zdrojů, které jsou spojeny s destruktivními jevy
v testované součásti
- eliminace emisních projevů způsobených např. pohybem namáhaného vzorku
v upínacích čelistech zatěžovacího zařízení, elektrickým rušením,
nebo chybami AD převodníku
věrohodnější závěry z měření emisní aktivity
Klasifikace mechanismů poruch
problémy:
- zkreslení na cestě ke snímači (odlišnost signálů ikdyž pocházejí od stejného zdroje)
- okamžitém působení více mechanismů vzniku poruch
(např. současný růst trhliny a tření jejích hran o sebe)
- získání spolehlivě identifikovaných dat pro účely návrhu klasifikátoru
řešení:
- navržena metoda rozpoznávání poměrného zastoupení modelových pulsů
ve zdrojové funkci emisní události pouze z parametrů numericky generovaných
signálů AE na základě umělých neuronových sítí (ANN)
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
ROZPOZNÁVÁNÍ MODELOVÝCH ZDROJŮ AE
Tři typické zdrojové funkce emisních událostí byly modelovány pulsy S1-S3
spolu s jejich lineárními kombinacemi
S1
1
S2
1
0.5
0.5
0.5
0
0
0
-0.5
-0.5
-0.5
-1
0
500
1000
1500
1/2S1 + 1/2S2
1
-1
0
500
1000
1500
1/2S1 + 1/2S3
1
-1
0.5
0.5
0
0
0
-0.5
-0.5
-0.5
500
1000
1500
2/3S1 + 1/3S2
1
-1 0
500
1000
1500
2/3S1 + 1/3S3
1
0.5
0
0
0
-0.5
-0.5
-0.5
500
1000
1500
2/3S2 + 1/3S3
1
-1
0
500
1000
1500
1/3S1 + 2/3S3
1
-1
0.5
0.5
0
0
0
-0.5
-0.5
-0.5
500
1000
1500
-1 0
500
1000
1500
1000
0 0; 0 1 0 ;0 0 1;
1500
1/2S2 + 1/2S3
1/2 1/2 0 ; 1/2 0 1/2 ; 0 1/2 1/2;
500
1000
1500
1/3S1 + 2/3S2
2/3 1/3 0 ; 2/3 0 1/3 ; 1/3 2/3 0;
0
500
-1 0
1000
1500
1/3S2 + 2/3S3
1
0.5
-10
500
1
0.5
-1
0
0
-1 0
0.5
váhy kombinací:
[1
1
0.5
-10
S2
1
0 2/3 1/3 ; 1/3 0 2/3 ; 0 1/3 2/3]
500
1000
1500
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
ROZPOZNÁVÁNÍ MODELOVÝCH ZDROJŮ AE
Zkušební vzorek (páka podvozku malého dopravního letounu)
piezoelektrické měniče
Měřící aparatura
zdroje / snímače AE: čtveřice piezoelektrických měničů zapojených přes multiplexer
buzení pulzéru:
generátor libovolných průběhů (arbitrary generator NI-5421)
záznam AE:
PAC µDisp (fr.vz. 10MHz, 16bitů, 15360 vzorků)
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
ROZPOZNÁVÁNÍ MODELOVÝCH ZDROJŮ AE
Výběr tréninkových a testovacích dat
- parametry signálů z jednoho, či více snímačů, buzených vždy jedním vybraným vysílačem,
Vstupní parametry
p1
p2
.
.
.
p14
f(Σ )
f(Σ )
f(Σ )
f(Σ )
.
.
.
.
.
.
f(Σ )
f(Σ )
wi2
f(Σ )
k1
f(Σ )
k2
f(Σ )
k3
odhad kombinace
do kterého přicházelo všech 12 nakombinovaných pulsů, zesílených na různé amplitudy:
tréninková data:
0.6V ; 3V ; 6V
testovací data:
2.4V ; 3.6V
zúžení učicích dat -> přesnost sítí při vybavování značně klesá
(testovací data nelze jednoduše "interpolovat" na základě sousedních tréninkových)
dobrá konvergence sítí -> možné rozšíření tréninkové množiny
(předpoklad plné automatizace experimentu)
Počty neronů:
3 - 17 - 5 - 3
(vstupy - parametry signálů
z jednoho snímače)
Učicí / testovací chyba (MSE):
0.0031 / 0.0033
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
ROZPOZNÁVÁNÍ REÁLNÝCH ZDROJŮ AE
Úkol klasifikátoru zdrojů AE:
Rozpoznání signálů typů "A" a "B",
"B", pocházejících z příslušných dvou oblastí,
kde jsou předpokládány různé zdrojové mechanismy.
OBLAST "B" OBLAST "A" SNÍMAČ 1
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
KLASIFIKÁTOR ZDROJŮ AE
Učení neuronové sítě
f1
f2
tA
.
.
.
.
.
.
..
..
..
wi
2
f6
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
tB
TYP ZDROJE AE (odhad)
VSTUPY (faktorová skóre)
- architektura sítě (počty neuronů v každé vrstvě):
vrstvě): 6-9-7-2
- inicializační váhy nastaveny statistickou optimalizací startovních potenciálů neuronů
- váhy a prahy postupně korigovány resilientní verzí algoritmu back-propagation
s momentem and regularizací (450 zpracovaných signálů použito pro učení)
SHRNUTÍ
Matematické modelování
Umělé neuronové sítě (ANN)
Příklady využití ANN v praxi
Děkuji za pozornost...
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI

Podobné dokumenty

Umělá Umělá inteligence II

Umělá Umělá inteligence II mluvily sami za sebe sebe“ místo převodu do malého vektoru? Odpovědí p jjsou neparametrické p modely, y, které nejsou charakterizovány vektorem parametrů, ale „pamatují“ si tréninkové příklady. P n...

Více

Výzkum a činnost katedry vodního hospodářství a

Výzkum a činnost katedry vodního hospodářství a signálu, který je do nich přiváděn spoji z nejbližší vrstvy proti směru šíření signálu. Výstupem neuronu je jediná hodnota, která je sítí přenášena do další vrstvy po směru šíření signálu. Hodnota ...

Více

Zobrazit - Titulní strana

Zobrazit - Titulní strana zahrady víří černá oblaka hmyzu nad všemi květy. Kdo uchvacuje z věcí této země více, nežli je nutno k udržení života, k dílu poznání a lásky, je spoluviníkem smrti. Řád udržující v otroctví a tmě ...

Více

Vícevrstvá neuronová sít` jako univerzální aproximátor

Vícevrstvá neuronová sít` jako univerzální aproximátor to nejdůležitější: jakým způsobem jsou stanoveny synaptické váhy vedoucí ke korektní odezvě na vstupní signál. Proces stanovení synaptických vah je spjat s pojmem učení (adaptace) neuronové sítě. N...

Více

CW_pomocník_ Automa_6_ 2011

CW_pomocník_ Automa_6_ 2011 procesoru plyne spousta výhod i pro práci s digitálním obrazem, získaným z připojených kamer nebo z jiného zdroje přístupného v počítačové síti. Programovatelný grafický procesor umožňuje provádět ...

Více