complete guide artificial neural network machine learning
Ta vadnica pojasnjuje, kaj je umetna nevronska mreža, kako deluje ANN, struktura in vrste arhitekture ANN in nevronske mreže:
V tem Usposabljanje za strojno učenje za vse , smo raziskovali vse okoli Vrste strojnega učenja v naši prejšnji vadnici.
Tu v tej vadnici razpravljajte o različnih algoritmih v nevronskih omrežjih, skupaj s primerjavo med strojnim učenjem in ANN. Preden se naučimo, kako ANN prispeva k strojnemu učenju, moramo vedeti, kaj je umetna nevronska mreža, in kratko znanje o strojnem učenju.
Raziščimo več o strojnem učenju in umetni nevronski mreži !!
=> Preberite celotno serijo usposabljanja za strojno učenje
Kaj se boste naučili:
- Kaj je strojno učenje?
- Kaj je umetna nevronska mreža?
- Struktura biološke nevronske mreže
- Primerjava biološkega nevrona in umetnega nevrona
- Značilnosti ANN
- Struktura ANN
- Funkcija aktiviranja
- Kaj je umetni nevron?
- Kako deluje umetni nevron?
- Osnovni modeli ANN
- Arhitektura nevronske mreže
- Primer mreže umetnih nevronov
- Primerjava med strojnim učenjem in ANN
- Nevronske mreže in poglobljeno učenje
- Umetne nevronske mreže
- Omejitve nevronskih mrež
- Zaključek
- Priporočeno branje
Kaj je strojno učenje?
Strojno učenje je področje znanosti, ki omogoča računalnikom sposobnost učenja in delovanja, ne da bi bili izrecno programirani. Je podpolje umetne inteligence.
Kaj je umetna nevronska mreža?
ANN je nelinearen model, ki se pogosto uporablja v strojnem učenju in ima obetavno prihodnost na področju umetne inteligence.
Umetna nevronska mreža je analogna biološki nevronski mreži. Biološka nevronska mreža je struktura milijard med seboj povezanih nevronov v človeških možganih. Človeški možgani so sestavljeni iz nevronov, ki pošiljajo informacije različnim delom telesa kot odgovor na opravljeno dejanje.
Podobno temu je Umetna nevronska mreža (ANN) računalniško omrežje v znanosti, ki spominja na značilnosti človeških možganov. ANN lahko modeliramo kot prvotne nevrone človeških možganov, zato se deli za obdelavo ANN imenujejo umetni nevroni.
ANN je sestavljen iz velikega števila medsebojno povezanih nevronov, ki jih navdihuje delovanje možganov. Ti nevroni imajo sposobnost učenja, posploševanja podatkov o treningu in pridobivanja rezultatov iz zapletenih podatkov.
Ta omrežja se uporabljajo na področjih klasifikacije in napovedovanja, identifikacije vzorcev in trendov, težav z optimizacijo itd. ANN se uči na podlagi podatkov usposabljanja (znani so vhodni in ciljni izhod) brez kakršnega koli programiranja.
Naučena nevronska mreža se imenuje strokovni sistem z zmožnostjo analiziranja informacij in odgovarjanja na vprašanja določenega področja.
Formalna definicija ANN, ki jo je dal dr. Robert Hecht-Nielson, izumitelj enega prvih nevro računalnikov, je:
'... računalniški sistem, sestavljen iz številnih preprostih, medsebojno povezanih procesnih elementov, ki obdelujejo informacije s svojim dinamičnim odzivom stanja na zunanje vhode.'
Struktura biološke nevronske mreže
Biološko nevronsko mrežo sestavljajo:
- Soma: Temu pravimo tudi celično telo. Tam se nahaja celično jedro.
- Dendriti: Gre za drevesna omrežja, ki so povezana s telesom celice. Narejena je iz živčnih vlaken.
- Axon: Axon prenaša signal iz celičnega telesa. Razdeli se na pramene in vsak pramen se konča v strukturi, podobni čebulici, imenovani sinapsa. Električni signali se prenašajo med sinapso in dendriti.
(slika vir )
Primerjava biološkega nevrona in umetnega nevrona
| Biološki nevron | Umetni nevroni |
|---|---|
| ML se uporablja v e-trgovini, zdravstvu, priporočilih za izdelke itd. | ANN se uporablja na področju financ, strojnega učenja in umetne inteligence. |
| Narejen je iz celic. | Celice ustrezajo nevronom. |
| Ima dendrite, ki so medsebojne povezave med telesom celice. | Teže povezave ustrezajo dendritom. |
| Soma prejme vnos. | Soma je podobna neto vhodni teži. |
| Akson sprejme signal. | Izhodna vrednost ANN ustreza aksonu. |
Značilnosti ANN
- Nelinearnost: Mehanizem, ki se v ANN uporablja za generiranje vhodnega signala, je nelinearen.
- Nadzorovano učenje: Vhodni in izhodni podatki se preslikajo in ANN se usposobi z naborom podatkov o usposabljanju.
- Nenadzorovano učenje: Ciljni izhod ni podan, zato se bo ANN naučil sam, tako da bo odkril lastnosti v vzorcih vnosa.
- Prilagodljiva narava: Uteži povezav v vozliščih ANN se lahko same prilagodijo, da dajo želeni izhod.
- Biološka nevronska analogija: ANN ima strukturo in funkcionalnost, ki jo navdihujejo človeški možgani.
- Toleranca napak: Ta omrežja so zelo tolerantna, saj se informacije razdelijo po plasteh, računanje pa poteka v realnem času.
Struktura ANN
Umetna nevronska omrežja obdelujejo elemente v obliki algoritmov ali strojnih naprav po vzoru nevronske strukture možganske skorje človeških možganov.
Ta omrežja se imenujejo tudi nevronske mreže. NN je sestavljen iz številnih plasti. Več plasti, ki so med seboj povezane, se pogosto imenujejo 'Večplastni perceptron'. Nevroni v eni plasti se imenujejo 'vozlišča'. Ta vozlišča imajo 'funkcijo aktiviranja'.
ANN ima 3 glavne plasti:
- Vhodni sloj: Vhodni vzorci se dovajajo v vhodne plasti. Vhodna plast je ena.
- Skrite plasti: Lahko je ena ali več skritih plasti. Obdelava, ki poteka v notranjih plasteh, se imenuje 'skrite plasti'. Skrite plasti izračunajo izhod na podlagi 'uteži', ki je 'vsota tehtanih povezav sinapse'. Skrite plasti izboljšajo vnos tako, da odstranijo odvečne informacije in jih pošljejo naslednji skriti plasti za nadaljnjo obdelavo.
- Izhodni sloj: Ta skrita plast se poveže z 'izhodno plastjo', kjer je izhod prikazan.
Funkcija aktiviranja
Aktivacijska funkcija je notranje stanje nevrona. To je vhodna funkcija, ki jo prejema nevron. Funkcija aktivacije se uporablja za pretvorbo vhodnega signala na vozlišču ANN v izhodni signal.
Kaj je umetni nevron?
Umetna nevronska mreža je sestavljena iz zelo medsebojno povezanih procesnih elementov, imenovanih vozlišča ali nevroni.
Ti nevroni delujejo vzporedno in so organizirani v arhitekturi. Vozlišča so med seboj povezana s povezavnimi povezavami. Vsak nevron nosi utež, ki vsebuje informacije o vhodnem signalu.
Kako deluje umetni nevron?
Umetni nevron prejme vhod. Ti vhodi imajo utež, imenovano 'sinapsa'. Ti nevroni (imenovani tudi vozlišča) imajo 'aktivacijsko funkcijo'. Ta aktivacijska funkcija deluje na vhodu in ga obdeluje, da daje izhod.
Utežena vsota vhodov postane vhodni signal za aktivirno funkcijo, da dobimo en izhod. Te vhodne uteži so nastavljive, tako da lahko nevronska mreža prilagodi svoje parametre, da doseže želeni izhod.
Nekaj pogostih aktivacijskih funkcij, ki se uporabljajo v umetni nevronski mreži:
# 1) Funkcija identitete
Lahko ga definiramo kot f (x) = x za vse vrednosti x. To je linearna funkcija, pri kateri je izhod enak vhodu.
vprašanja in odgovori za intervju z informatiko za 5 let izkušenj
# 2) Funkcija binarnega koraka
Ta funkcija se uporablja v enoplastnih omrežjih za pretvorbo neto vhoda v izhod. Izhod je binarni, tj. 0 ali 1. T predstavlja mejno vrednost.
(slika vir )
# 3) Bipolarna stopničasta funkcija
Funkcija bipolarnega koraka ima bipolarne izhode (+1 ali -1) za neto vhod. T predstavlja mejno vrednost.
# 4) Sigmoidna funkcija
Uporablja se v mrežah za razmnoževanje.
Ima dve vrsti:
- Binarna sigmoidna funkcija: Imenuje se tudi kot unipolarna sigmoidna funkcija ali logistična sigmoidna funkcija. Razpon sigmoidnega funkcionala je od 0 do 1.
- Bipolarni sigmoid: Bipolarna sigmoidna funkcija je od -1 do +1. Podobno je hiperbolični tangensni funkciji.
(slika vir )
# 5) RampFunction
The ponderirana vsota vložkov pomeni 'zmnožek teže vložka in vrednosti vložka', seštet za vse vložke.
Naj bo I = {I1, I2, I3… In} vzorec vnosa v nevrone.
Naj bo W = {W1, W2, W3… Wn} teža, povezana z vsakim vhodom v vozlišče.
Utežena vsota vložkov = Y = (? Wi * Ii) za i = 1 do n
Osnovni modeli ANN
Modeli umetne nevronske mreže so sestavljeni iz 3 enot:
- Uteži ali sinaptične povezave
- Učno pravilo za prilagajanje uteži
- Aktivacijske funkcije nevrona
Arhitektura nevronske mreže
V ANN so nevroni med seboj povezani in izhod vsakega nevrona je z utežmi povezan z naslednjim nevronom. Arhitektura teh medsebojnih povezav je pri ANN pomembna. Ta razporeditev je v obliki slojev, povezava med plastmi in znotraj plasti pa je arhitektura nevronske mreže.
Najbolj znane mrežne arhitekture so:
- Enoslojno omrežje za posredovanje naprej
- Večplastno omrežje za posredovanje naprej
- Eno vozlišče s svojimi povratnimi informacijami
- Enoslojno ponavljajoče se omrežje
- Večplastno ponavljajoče se omrežje
Oglejmo si vsako od njih podrobno.
brezplačni pretvornik video posnetkov v mp4
# 1) Enoslojno napajalno omrežje
Plast je mreža, sestavljena iz nevronov. Ti nevroni so povezani z drugimi nevroni naslednje plasti. Za en sloj obstajata samo vhodni in izhodni sloj. Vhodna plast je z utežmi povezana z vozlišči izhodne plasti.
Vsa vhodna vozlišča so povezana z vsakim od izhodnih vozlišč. Izraz preusmeritev naprej prikazuje, da ni povratnih informacij, poslanih z izhodne plasti na vhodno plast. To tvori enoslojno omrežje za posredovanje.
(slika vir )
# 2) Večplastno omrežje za posredovanje naprej
Večplastno omrežje je sestavljeno iz ene ali več plasti med vhodom in izhodom. Vhodna plast samo sprejme signal in ga medpomni, medtem ko izhodna plast prikazuje izhod. Plasti med vhodom in izhodom se imenujejo skrite plasti.
Skrite plasti niso v stiku z zunanjim okoljem. Z večjim številom skritih plasti je izhodni odziv bolj učinkovit. Vozlišča v prejšnjem sloju so povezana z vsakim vozliščem v naslednjem sloju.
Ker ni izhodne plasti, povezane z vhodno ali skrito plastjo, tvori večplastno povratno omrežje.
# 3) Eno vozlišče s svojimi povratnimi informacijami
Omrežja, pri katerih se izhodni sloj pošlje nazaj kot vhodni vhodni sloj ali drugi skriti sloji, se imenujejo Feedback Networks. V povratnih sistemih z enim vozliščem obstaja en sam vhodni sloj, kjer se izhod preusmeri nazaj kot povratna informacija.
# 4) Enoslojno ponavljajoče se omrežje
V enoslojni ponavljajoči se mreži mreža povratnih informacij tvori zaprto zanko. V tem modelu posamezen nevron prejme povratne informacije do sebe ali drugih nevronov v mreži ali oboje.
# 5) Večplastno ponavljajoče se omrežje
V večplastnem ponavljajočem se omrežju obstaja več skritih plasti in izhod se preusmeri nazaj v nevrone prejšnjih slojev in druge nevrone v istih plasteh ali istem nevronu samem.
Primer mreže umetnih nevronov
Vzemimo spodnje omrežje z danim vhodom in izračunamo neto vhodni nevron in dobimo izhod nevrona Y z aktivacijsko funkcijo kot binarni sigmoidni.
Vhod ima 3 nevrone X1, X2 in X3 in en izhod Y.
Uteži, povezane z vhodi, so: {0,2, 0,1, -0,3}
Vhodi = {0,3, 0,5, 0,6}
Neto vložek = {x1 * w1 + x2 * w2 + x3 * w3}
Neto vložek = (0,3 * 0,2) + (0,5 * 0,1) + (0,6 * -0,3)
Neto vložek = -0,07
Izhod za binarno sigmoidno:
X je -0,07
Rezultat je 0,517
kako odpreti datoteke .json
Primerjava med strojnim učenjem in ANN
| Strojno učenje | Umetna nevronska mreža |
|---|---|
| Strojno učenje se uči iz vhodnih podatkov in odkriva vzorce izhodnih podatkov, ki nas zanimajo. | ANN se uporabljajo v algoritmih strojnega učenja za usposabljanje sistema s pomočjo sinaps, vozlišč in povezav. |
| ML je podskupina področja umetne inteligence. | ANN je tudi del znanstvenega področja umetne inteligence in podskupina strojnega učenja. |
| ML algoritmi se učijo iz podatkov, ki jih algoritmu posredujejo za namene odločanja. Nekateri od teh algoritmov so klasifikacijski. Grozdenje, združevanje podatkovnih rudarjev. | ANN je poglobljena znanost, ki analizira podatke z logičnimi strukturami kot ljudje. Nekatere sheme učenja ANN so Hebbian, Perceptron, Back propagation itd. |
| ML algoritmi imajo zmožnosti samostojnega učenja, vendar bi morali, če je rezultat netočen, posredovati človeka. | ANN algoritmi imajo zmožnosti, da se prilagodijo z utežmi povezav, če je rezultat napačen. |
| ML algoritmi zahtevajo veščine programiranja, strukturo podatkov in znanje baze podatkov velikih podatkov. | ANN zahteva tudi močne veščine iz matematike, verjetnosti, podatkovnih struktur itd. |
| Programi ML lahko predvidijo izid za naučeni nabor podatkov in se prilagodijo novim podatkom. | ANN se lahko uči in se pametno odloča za nove podatke, vendar je globlji od strojnega učenja. |
| Nadzorovano in nenadzorovano učenje spadata pod strojno učenje. | Učenje, kot je Kohenen, radialna pristranskost, nevronska mreža s povratnim pomenom spada v ANN. |
| Nekateri primeri ML so Googlovi rezultati iskanja itd. | Nekateri primeri ANN so prepoznavanje obrazov, prepoznavanje slik itd. |
Nevronske mreže in poglobljeno učenje
Mreže globokega učenja vsebujejo več skritih plasti med vhodom in izhodom. Ta omrežja odlikuje globina skritih plasti v njih. Vhodni podatki prehajajo skozi več korakov, preden se prikaže izhod.
Ta omrežja se razlikujejo od prejšnjih NN, kot je perceptron, ki je imel en sam skriti sloj in se je imenoval Plitva omrežja. Vsaka skrita plast v omrežju za globoko učenje trenira podatke z določenimi funkcijami na podlagi izhoda prejšnje plasti.
Podatki prehajajo skozi številne plasti nelinearne funkcije na vozlišču. Bolj ko je število slojev, bolj zapletene funkcije je mogoče prepoznati, saj bo naslednja plast združevala značilnosti iz prejšnjih slojev.
Več skritih plasti v omrežju povečuje kompleksnost in abstrakcijo. Ta globina se imenuje tudi hierarhija značilnosti. Zaradi tega so mreže za globoko učenje sposobne obdelovati visoko dimenzionalne podatke.
Nekateri primeri mrež globokega učenja vključujejo združevanje milijonov slik na podlagi njegovih značilnosti in podobnosti, filtriranje e-poštnih sporočil, uporabo filtrov za sporočila v CRM, prepoznavanje govora itd.
Mreže za globoko učenje se lahko usposobijo tako na označenih kot na neoznačenih naborih podatkov. Za neoznačeni nabor podatkov omrežja, kot so izbirni stroji Boltzmann, izvedejo samodejno ekstrakcijo funkcij.
Omrežje se samodejno uči z analizo vložka z vzorčenjem in zmanjšanjem razlike v izhodu in porazdelitvi vložka. Nevronska mreža tukaj najde povezave med značilnostmi in rezultati.
Mreže globokega učenja, usposobljene na označenih podatkih, se lahko uporabijo za nestrukturirane podatke. Več kot je podatkov o vadbi, ki jih dobiva mreža, bolj natančni bodo postali.
Zmožnost omrežja, da se uči iz neoznačenih podatkov, je prednost pred drugimi algoritmi učenja.
Umetne nevronske mreže
Nevronske mreže so bile uspešno uporabljene v različnih rešitvah, kot je prikazano spodaj.
# 1) Prepoznavanje vzorca: ANN se uporablja pri prepoznavanju vzorcev, prepoznavanju slik, vizualizaciji slik, rokopisu, govoru in drugih takšnih opravilih.
# 2) Težave z optimizacijo: Težave, kot so iskanje najkrajše poti, razporejanje in izdelava, kjer je treba zadostiti omejitvam problemov in doseganje optimalnih rešitev, uporabljajo NN.
# 3) Napoved: NN lahko napove izid situacij z analizo preteklih trendov. Aplikacije, kot so bančništvo, borza, napovedovanje vremena, uporabljajo Neural Networks.
# 4) Nadzorni sistemi: Nadzorni sistemi, kot so računalniški izdelki, kemični izdelki in robotika, uporabljajo nevronske mreže.
Omejitve nevronskih mrež
Spodaj so navedene nekatere pomanjkljivosti nevronskih mrež.
- Ta omrežja so za uporabnika črna polja, saj uporabnik nima nobenih vlog, razen hranjenja vhoda in opazovanja izhoda. Uporabnik ne pozna treninga, ki se dogaja v algoritmu.
- Ti algoritmi so precej počasni in za natančne rezultate zahtevajo veliko ponovitev (imenovanih tudi epohe). To je zato, ker CPU izračuna uteži in aktivacijsko funkcijo vsakega vozlišča posebej, s čimer porabi čas in vire. Prav tako povzroča težave z veliko količino podatkov.
Zaključek
V tej vadnici smo spoznali umetno nevronsko mrežo, njeno analogijo z biološkim nevronom in vrste nevronske mreže.
ANN spada v strojno učenje. Je računski model, sestavljen iz več nevronskih vozlišč. Ta vozlišča prejmejo vhod, obdelajo vhod z uporabo aktivacijske funkcije in izhod posredujejo naslednjim slojem.
Vhodi so povezani z utežmi povezav, imenovanimi sinapsa. Osnovni ANN je sestavljen iz vhodne plasti, uteži, aktivacijske funkcije, skrite plasti in izhodne plasti.
Aktivacijske funkcije se uporabljajo za pretvorbo vhoda v izhod. Nekateri med njimi so binarni, bipolarni, sigmoidni in rampni. Glede na število skritih slojev in mehanizme povratnih informacij obstajajo različne vrste ANN, kot so enoslojno posredovanje naprej, večplastno posredovanje napajanja, ponavljajoča se omrežja itd.
ANN s številnimi skritimi plastmi med vhodom in izhodom tvori globoko učno mrežo. Mreže globokega učenja imajo visoko zapletenost in abstrakcijo, zaradi česar so sposobne računati visoko dimenzionalne podatke s tisoči parametrov.
ANN se uporablja na področju napovedovanja, obdelave slik, nadzornih sistemov itd. Ti se uspešno uporabljajo kot rešitev za vrsto znanstvenih problemov.
Upamo, da je ta vadnica razložila vse, kar morate vedeti o umetnih nevronskih mrežah !!
=> Obiščite tukaj za ekskluzivno serijo strojnega učenja
Priporočeno branje
- Data Mining Vs Machine Learning Vs Umetna inteligenca Vs Poglobljeno učenje
- Testiranje omrežne varnosti in najboljša orodja za omrežno varnost
- Vrste strojnega učenja: nadzorovano in nenadzorovano učenje
- 11 Najbolj priljubljenih orodij za strojno učenje v letu 2021
- Vadnica za strojno učenje: Uvod v ML in njegove aplikacije
- Vodnik po maski podomrežja (podomrežje) in kalkulatorju podomrežij IP
- Priročnik za ocenjevanje in upravljanje omrežne ranljivosti
- 15 najboljših orodij za mrežno optično branje (omrežni in IP optični bralnik) iz leta 2021