1
Univerzitet u Beogradu
Fakultet organizacionih nauka
Diplomski rad
Beograd, 2004
2
Univerzitet u Beogradu
Fakultet organizacionih nauka
Aplikacioni okvir za razvoj neuronskih mreža
Diplomski rad
Profesor
Vladan Devedžić
__________________
Student
Zoran Ševarac
__________________
Beograd 2004
1
1
UVOD
Cilj diplomskog rada je razvoj aplikacionog okvira (framework), koji će omogučiti
jednostavno kreiranje i simulaciju raznih modela neuronskih mreža (NM). Na taj
način stvoriće se osnova za razvoj NM u obliku softverskih komponenti,
eksperimentalno istraživanje i praktičnu primenu ove tehnologije.
Ideja je da se definiše skup osnovnih softverskih klasa iz kojih će se izvoditi svi
modeli. Pri tom treba uzeti u obzir sve strukturne i funkcionalne specifičnosti koje
odlikuju različite modele. Da bi se to postiglo potrebno je izvršiti analizu glavnih
predstavnika različitih modela, definisati zahteve za svaki od njih, a potom
projektovati odgovarajuće rešenje.
Rad je organizovan u šest celina:
1.
U prvom delu su ukratko izložene definicije i osnovni pojmovi iz ove oblasti.
2.
U drugom delu su analizirani razni modeli neurona i arhitekture NM, a kao
rezultat analize dobijeni su matematički i konceptualni model.
3.
U trećem delu su isprojektovane klase aplikacionog okvira.
4.
U četvrtom delu je izvršena je analiza i poređenje sa nekim postojećim
aplikacionoim okvirima iste namene.
5.
U petom delu prikazana je simulacija Kohonen-ove samoorganizujuće mreže, i
dati su primeri primene iste.
6.
U šestom delu data su zaključna razmatranja
U prilogu je data dokumentacija za najvažnije klase okvira.
2
1. NEURONSKE MREŽE – DEFINICIJE I OSNOVNI POJMOVI
DARPA:
Neuronska mreža je sistem koji se sastoji od velikog broja međusobno
povezanih, jednostavnih elemenata procesiranja koji rade paralelno. Funkcija NM je
određena strukturom mreže, težinom veza, i obradom u elementima procesiranja.
Haykin:
Neuronska mreža je paralelni distribuirani procesor koji ima prirodnu
sposobnost čuvanja i korišćenja iskustvenog znanja. Sličnost sa mozgom se ogleda
kroz dve osobine:
- mreža stiče znanje kroz proces učenja
- znanje se čuva u vezama između neurona (sinaptičkim težinama)
Zurada:
Veštački neuro sistemi ili neuronske mreže, su ćelijski sistemi koji mogu da
stiču, čuvaju i koriste iskustveno znanje.
U navedenim definicijama data su osnovna strukturna i funkcionalna svojstva NM, a
to je da:
1) se sastoje od međusobno povezanih osnovnih jedinica (elemenata, ćelija)
procesiranja, koje vrše neku jednostavnu, elementarnu obradu
2) jedinice procesiranja rade paralelno
3) imaju sposobnost učenja, čuvanja i korišćenja znanja
Veštačke neuronske mreže inspirisane su biološkim neuronskim mrežama, i
predstavljaju njihov matematički odnosno računarski model. Neuroni su predstavljeni
elementima procesiranja, a sinapse težinom veze. Dendriti su ulazi a akson je izlaz
elementa procesiranja. Elementi procesiranja povezani su u mrežu tako što je izlaz
svakog vezan na ulaz bar jednog od ostalih. Obrada koja se vrši u telu neurona
predstavljena je funkcijama ulaza i prenosa.
Analogija između biološkog i veštačkog neurona prikazana je na slikama 1a. i 1b.
Slika 1a.Biološki neuron
4
2. OSNOVNI MODELI
2.1. MODEL NEURONA
Osnovna komponenta neuronskih mreža je neuron (element procesiranja). U skladu sa
slikom 1.b. imamo sledeći matematički model:
u
– ulazni vektor [
u
1
, u
2
, ...u
n
]
T
w –
vektor težina [
w
1
, w
2
…w
n
]
T
net
– ukupni ulaz iz mreže
g – ulazna funkcija
f
– prenosna funkcija
y
– izlaz
Izlaz neurona definisan je jednačinom
y = f(net)
(1)
Ukupni ulaz iz mreže za pojedinačni neuron je vektorska funkcija težina veza i ulaza
net = g(u, w)
(2)
Najčešće se računa se kao suma ulaza pomnoženih odgovarajućom težinom
∑
=
i
i
w
u
net
(3)
i predstavlja skalarni proizvod vektora ulaza i vektora težina.
Za funkciju prenosa se biraju funkcije ograničene na intervalima [0, 1] , [-1, 1]
U tabeli 1 prikazane su često korišćene funkcije prenosa.
