Sieci neuronowe.pdf

(572 KB) Pobierz
Praca magisterska
AKADEMIA GÓRNICZO - HUTNICZA
IM. STANISŁAWA STASZICA W KRAKOWIE
______________________________________________________
WYDZIAŁ ELEKTROTECHNIKI AUTOMATYKI INFORMATYKI I
ELEKTRONIKI
KATEDRA INFORMATYKI
Praca dyplomowa
Temat pracy:
System do poglądowego przedstawienia właściwości
sieci neuronowych.
Autorzy: Piotr Swatowski
Tomasz Góźdź
Kierunek: Informatyka
Ocena: .................................
Promotor: Prof. dr hab. inż. Ryszard Tadeusiewicz
Recenzent:
Kraków 1998/99
46346680.005.png
 
1CEL
.......................................................................................................................
6
2SZTUCZNE SIECI NEURONOWE
........................................................................
7
2.1R YS HISTORYCZNY ROZWOJU SIECI NEURONOWYCH ....................................................................... 7
2.2D EFINICJA I PODSTAWOWE WŁAŚCIWOŚCI SIECI NEURONOWYCH ...................................................... 10
2.3O PIS DZIAŁANIA NEURONU .................................................................................................... 11
2.4U CZENIE SIECI NEURONOWYCH .............................................................................................. 12
2.4.1U CZENIE Z NAUCZYCIELEM ................................................................................................. 13
2.4.2U CZENIE BEZ NAUCZYCIELA ................................................................................................ 13
2.5O RGANIZACJA UCZENIA SIECI ................................................................................................ 14
2.6P ROJEKTOWANIE ZBIORU UCZĄCEGO DLA SIECI NEURONOWEJ ........................................................ 15
2.6.1R OZMIAR ZBIORU ............................................................................................................ 15
2.6.2B ŁĘDY PRZYPADKOWE ..................................................................................................... 16
2.6.3Z ALEŻNOŚĆ ROZMIARU SIECI I ROZMIARU ZBIORU UCZĄCEGO ........................................................ 16
2.6.4R OZWARSTWIENIE ZBIORU UCZĄCEGO ................................................................................... 16
2.6.5U KRYTE BŁĘDY SYSTEMATYCZNE ......................................................................................... 17
2.7R EGUŁY UCZENIA .............................................................................................................. 17
2.7.1R EGUŁA D ELTA .............................................................................................................. 17
2.7.2R EGUŁA H EBBA ............................................................................................................. 19
3OPIS IMPLEMENTACJI POGLĄDOWEJ PREZENTACJI WYBRANYCH
PRZYKŁADÓW SIECI NEURONOWYCH
............................................................
22
3.1P REZENTACJA NEURONU ...................................................................................................... 22
3.2P ROSTA SIEĆ NEURONOWA ( Z WAT)..................................................................................... 26
3.3U CZENIE POJEDYNCZEGO NEURONU ........................................................................................ 29
3.4U CZENIE PROSTEJ SIECI ...................................................................................................... 32
3.5S IEĆ NEURONOWA JAKO FILTR SYGNAŁU Z ZAKŁÓCENIAMI ............................................................. 34
3.6R OZPOZNAWANIE OBRAZU .................................................................................................... 37
3.7B ACKPROPAGATION - NAJPOPULARNIEJSZA METODA UCZENIA LINIOWYCH SIECI NEURONOWYCH ............... 41
46346680.006.png 46346680.007.png 46346680.001.png
3.8S IEĆ K OHONENA ............................................................................................................... 48
3.9S AMOUCZENIE SIECI NEURONOWEJ ......................................................................................... 52
3.10 S IEĆ H OPFIELDA ............................................................................................................ 58
4OPIS ŚRODOWISKA DELPHI JAKO PRZYKŁAD NARZĘDZIA TYPU RAD
64
4.1C HARAKTERYSTYKA ŚRODOWISKA .......................................................................................... 64
4.1.1J ĘZYK PROGRAMOWANIA : P ASCAL ( ZARYS )............................................................................ 65
4.1.2Ś RODOWISKO RAD: D ELPHI ............................................................................................ 66
4.1.3K OMPONENTY NOWA JAKOŚĆ W PROGRAMOWANIU ................................................................ 68
4.1.4M OCNE I SŁABE STRONY D ELPHI ......................................................................................... 68
5PREZENTACJA PROGRAMU KOMPUTEROWEGO
........................................
70
5.1O PIS KONSTRUKCJI PROGRAMU ............................................................................................. 70
5.2P OSZCZEGÓLNE MODUŁY PROGRAMU KOMPUTEROWEGO ............................................................... 70
5.2.1M ODUŁ PIERWSZY - P REZENTACJA NEURONU ......................................................................... 70
5.2.2M ODUŁ DRUGI - P ROSTA SIEĆ NEURONOWA ( Z WAT)............................................................. 73
5.2.3M ODUŁ TRZECI - U CZENIE POJEDYNCZEGO NEURONU ............................................................... 76
5.2.4M ODUŁ CZWARTY - U CZENIE PROSTEJ SIECI .......................................................................... 79
5.2.5M ODUŁ PIĄTY - S IEĆ NEURONOWA JAKO FILTR SYGNAŁU Z ZAKŁÓCENIAMI ....................................... 82
5.2.6M ODUŁ SZÓSTY - R OZPOZNAWANIE OBRAZU .......................................................................... 88
5.2.7M ODUŁ SIÓDMY - B ACKPROPAGATION - NAJPOPULARNIEJSZA METODA UCZENIA LINIOWYCH SIECI
NEURONOWYCH ...................................................................................................................... 93
5.2.8M ODUŁ ÓSMY - S IEĆ K OHONENA ...................................................................................... 102
5.2.9M ODUŁ DZIEWIĄTY - S AMOUCZENIE SIECI NEURONOWEJ .......................................................... 106
5.2.10M ODUŁ DZIESIĄTY - S IEĆ H OPFIELDA ............................................................................... 110
6PODSUMOWANIE
............................................................................................
117
6.1W NIOSKI ....................................................................................................................... 117
6.2P ROPOZYCJE DALSZEJ EWOLUCJI PROGRAMU .......................................................................... 117
....................................................................................................
119
....
7LITERATURA
46346680.002.png 46346680.003.png 46346680.004.png
 
Zgłoś jeśli naruszono regulamin