Neuronske mreže: primjer, definicija, značenje, opseg

Umjetna inteligencija i neuronske mreže nevjerojatno su uzbudljive i moćne tehnike temeljene na strojnom učenju koje se koriste za rješavanje mnogih problema u stvarnom svijetu. Najjednostavniji primjer neuronske mreže je proučavanje interpunkcije i gramatike za automatsko stvaranje potpuno novog teksta s izvršavanjem svih pravopisnih pravila.

Povijest neuronske mreže

Znanstvenici u informatizaciji već dugo pokušavaju modelirati ljudski mozak. 1943. McCulloch i Volter Pitts razvili su prvi konceptualni model umjetne neuronske mreže. U radu "logički račun ideja koje se odnose na neuronsku aktivnost" opisali su primjer neuronske mreže, koncept neurona-jedine stanice koja živi u zajedničkoj mreži, prima ulaze, obrađuje ih i generira izlazne signale.

Njihov rad, kao i mnogi drugi znanstvenici, nije imao za cilj točno opisati rad biološkog mozga. Umjetna neuronska mreža razvijena je kao računalni model koji radi na načelo funkcioniranja mozak za rješavanje širokog spektra problema.

Očito postoje vježbe koje je jednostavno riješiti za računalo, ali teško za čovjeka, poput uzimanja kvadratnog korijena deseteroznamenkastog broja. Ovaj primjer neuronska mreža izračunat će za manje od milisekunde, a osobi će trebati minute. S druge strane, postoje neki koje je nevjerojatno lako odlučiti za osobu, ali računalo ne može, na primjer, odabrati pozadinu slike.

Znanstvenici su proveli tonu vremena istražujući i implementirajući složena rješenja. Najčešći primjer neuronske mreže u računarstvu-prepoznavanje uzoraka. Opseg primjene varira od optičko prepoznavanje znakova i fotografije, ispisane ili rukom pisane skenirane u digitalni tekst prije prepoznavanja lica.

Biološki računalni strojevi

Ljudski mozak je izuzetno složen i najmoćniji poznati računalni stroj. Njegov unutarnji rad modeliran je oko koncepta neurona i njihovih mreža, poznatih kao biološke neuronske mreže. Mozak sadrži oko 100 milijardi neurona koji su povezani tim mrežama.

Na visokoj razini međusobno komuniciraju putem sučelja koje se sastoji od aksonskih terminala povezanih s dendritima kroz jaz-sinapsu. Jednostavno rečeno, jedan prenosi poruku drugom putem ovog sučelja ako je zbroj ponderiranih ulaznih signala iz jednog ili nekoliko neurona prelazi prag da uzrokuje prijenos. To se naziva aktivacija kada se prekorači prag i poruka se prenese na sljedeći neuron.

Proces zbrajanja može biti matematički složen. Ulazni signal je ponderirana kombinacija takvih signala, a ponderiranje svakog znači da taj ulaz može različito utjecati na naknadne izračune i konačni izlaz mreže.

Elementi neuronskog modela

Duboko učenje je izraz koji se koristi za složene neuronske mreže koje se sastoje od više slojeva. Slojevi se sastoje od čvorova. Čvor je jednostavno mjesto na kojem se odvija računanje koje se aktivira kada naiđe na dovoljno podražaja. Čvor kombinira ulaze iz skupa koeficijenata ili pondera koji ili pojačavaju ili prigušuju ovaj signal, dodjeljujući im tako značaj problemu.

Mreže dubokog učenja razlikuju se od uobičajenih neuronskih mreža s jednim skrivenim slojem. Primjer treninga neuronskih mreža-Kohonenove mreže.

U mrežama dubokog učenja svaki sloj uči zadani skup značajki na temelju izlaznih informacija prethodnog sloja. Što dalje napredujete u neuronsku mrežu, složeniji su objekti koje čvorovi mogu prepoznati jer kombiniraju i rekombiniraju objekte iz prethodne razine.

Mreže dubokog učenja izvode automatsko izdvajanje značajki bez ljudskog unosa, za razliku od većine tradicionalnih algoritama, a završavaju izlaznim slojem: logičkim ili oceanskim klasifikatorom koji određenom ishodu dodjeljuje vjerojatnost i naziva se predviđanje.

Crna kutija

Umjetne neuronske mreže (Ann) statistički su modeli djelomično modelirani na biološkim neuronskim mrežama. Sposobni su paralelno obrađivati nelinearne odnose između ulaza i izlaza. Takve modele karakterizira prisutnost adaptivnih utega duž putova između neurona koji se mogu prilagoditi algoritmom učenja kako bi se poboljšao cijeli model.

Jednostavan primjer neuronske mreže je arhitektonski umjetna neuronska mreža-gdje:

• Ulazni sloj.
• Internet - skriveni sloj.
• Izlazni sloj.

Modelira se pomoću slojeva umjetnih neurona ili računalnih jedinica sposobnih za primanje ulaza i korištenje funkcije aktivacije zajedno s pragom kako bi se utvrdilo prenose li se poruke.

U jednostavnom modelu prvi sloj je ulaz, nakon čega slijedi skriveni i na kraju izlaz. Svaki može sadržavati jedan ili više neurona. Modeli mogu potati ve loženiji ve većim mogućnotima apstrakcije i rješavanje problema, broja skrivenih slojeva, broja neurona u bilo kojem danom sloju i broja putova između njih.

Arhitektura i prilagodba modela glavne su sastavnice tehnika u odnosu na same algoritme učenja. Oni su izuzetno moćni i smatraju se algoritmima crne kutije, što znači da je njihov unutarnji rad Vrlo teško razumjeti i objasniti.

Algoritmi dubokog učenja

Duboko učenje - to je pojam zvuči dovoljno glasno, zapravo je samo pojam koji opisuje određene vrste neuronskih mreža i s njima povezane algoritme koji troše sirove ulaze kroz mnoge slojeve nelinearnih transformacija kako bi izračunali ciljni izlaz.

Dohvaćanje značajki bez nadzora također je područje u kojem duboko učenje nadmašuje sva očekivanja. Primjer treninga neuronskih mreža-mreže.

Tradicionalno je odgovornost znanstvenika ili programera podataka da izvrši postupak izdvajanja značajki u većini drugih pristupa strojnom učenju, zajedno s odabirom značajki i dizajnom.

Optimalni parametri algoritma

Algoritmi učenja funkcija sankcioniraju Stroj za spoznaju određenog zadatka koristeći uglađeni skup mogućnosti za učenje. Drugim riječima, oni uče učiti. Takav se Princip uspješno koristi u mnogim aplikacijama i smatra se jednom od najnaprednijih metoda umjetne inteligencije. Odgovarajući algoritmi često se koriste za nadzirane, nekontrolirane i djelomično kontrolirane zadatke.

U modelima temeljenim na neuronskoj mreži broj slojeva je veći nego u algoritmima površinskog učenja. Mali algoritmi su manje složeni i zahtijevaju dublje poznavanje optimalnih značajki koje uključuju odabir i razvoj. Nasuprot tome, algoritmi dubokog učenja više se oslanjaju na optimalan odabir modela i njegovu optimizaciju podešavanjem. Oni su prikladniji za rješavanje problema kada je prethodno poznavanje značajki manje poželjno ili potrebno, a predani podaci nisu dostupni ili potrebni za upotrebu.

Ulazi se transformiraju u svim njihovim slojevima pomoću umjetnih neurona ili procesorskih jedinica. Primjer koda neuronske mreže naziva se Oceanside.

Vrijednost CAP

Internet se koristi za mjerenje u arhitekturi modela dubokog učenja. Većina istraživača na ovom području slaže se da ima više od dva nelinearna sloja za oceanfront, a neki smatraju da je potrebno previše dubokog učenja za one koji imaju više od deset slojeva.

Detaljna rasprava o mnogim različitim arhitekturama modela i algoritmima ove vrste učenja vrlo je prostorna i kontroverzna. Najviše proučavani su:

1. Izravne neuronske mreže.
2. Ponavljajuća neuronska mreža.
3. Višeslojni perceptroni (NASA).
4. Konvolucijske neuronske mreže.
5. Rekurzivne neuronske mreže.
6. Duboke mreže vjerovanja.
7. Konvolucijske mreže dubokih uvjerenja.
8. Samoorganizirajuće kartice.
9. Boltzmannovi duboki strojevi.
10. Složeni auto-koderi za poništavanje buke.

Vrhunska moderna arhitektura

Perceptroni se smatraju neuronskim mrežama prve generacije, računalnim modelima jednog neurona. Izumio ih je 1956. godine Frank Rosenblatt u djelu "perceptron: navodni model pohrane i organizacije informacija u mozgu". Perceptron, koji se naziva i izravna komunikacijska mreža, prenosi informacije s prednje na stražnju stranu.

Ponavljajuće neuronske mreže IAS-a pretvaraju ulazni slijed u izlazni slijed koji se nalazi u drugom području, poput promjene slijeda zvučnih pritisaka u slijed ID-ova riječi.

John Hopfield predstavio je Ipatine u radu iz 1982. godine "Neuronke mreže i fizički utavi novim kolektivnim računalnim poobnotima". U Hopfieldovoj mreži (NASA) svaki je neuron povezan s bilo kojim drugim. Oni se uče postavljanjem njihove vrijednosti na željenu shemu, nakon čega se mogu izračunati ponderi.

Boltzmannov stroj je vrsta stohastičke ponavljajuće neuronske mreže koja se može smatrati analognom Hopfieldovim mrežama. Bila je to jedna od prvih opcija koja je proučavala unutarnje prikaze koji su rješavali složene kombinatorne probleme. Ulazni neuroni postaju izlazni na kraju potpune obnove.

Generativna kontradiktorna mreža Iana Goodfelloua (NASA) sastoji se od dvije mreže. To je često kombinacija ACE i Ace. Jedan generira sadržaj generativni, dok drugi mora ocjenjivati sadržaj diskriminirajući.

Početak rada na internetu iz interneta

Dubinsko učenje neuronske mreže na primjeru Ice preslikava ulaze u izlaze i pronalazi korelacije. Poznat je kao univerzalni aproksimator, jer može naučiti približavati nepoznatu funkciju IPA (IPA) = IPA između bilo kojeg ulaza "IPA" i bilo kojeg izlaza "IPA", pod pretpostavkom da su povezani korelacijom ili uzročno-posljedičnom vezom.

U procesu učenja je pravi "f" ili način pretvaranja "x" "y", da li je f(x) = 3x + 12, ili f(x) = 9x - 0,1.

Zadaci klasifikacije povezani su sa skupovima podataka kako bi neuronske mreže izvršile korelaciju između oznaka i podataka. Poznato je nadzirano učenje sljedećih vrsta:

• prepoznavanje lica;
• identifikacija ljudi na slikama;
• definicija izraza lica: ljut, radostan;
• identifikacija objekata na slikama: znakovi zaustavljanja, pješaci, znakovi trake;
• prepoznavanje gesta u videu;
• definicija glasa zvučnika;
• klasifikacija teksta neželjene pošte.

Primjer konvolucijske neuronske mreže

Konvolucijska neuronska mreža slična je višeslojnoj mreži perceptrona. Glavna razlika je u tome što se nazire kako je strukturiran i u koju svrhu se koristi. Mozak iza TV-a bili su biološki procesi. Njihova struktura ima izgled vizualnog korteksa prisutnog u životinji. Primjenjuju se u području računalnog vida i uspješni u postizanju modernog razine izvedbe u raznim područjima istraživanja.

Prije nego što počnu kodirati, koriste biblioteku za izgradnju modela, na primjer, na primjer, na primjer, na pozadini. Prvo izvršite potreban uvoz. Knjižnica pomaže u izgradnji konvolucijske neuronske mreže. Učitajte skup podataka Ain-a putem Ain-a. Uvoze sekvencijalni model, u koji se mogu dodati slojevi konvolucije i spajanja, gusti slojevi, jer se koriste za predviđanje oznaka. Padajući sloj smanjuje prekomjerno uklapanje, a izravnavajući transformira trodimenzionalni vektor u jednodimenzionalni. Konačno, uvozimo TV-ove za matrične operacije:

• Internet = 2 # vrijednost 2 predstavlja da slika ima broj 2;
• Internet = [0,0,1,0,0,0,0,0,0,0] # 3. položaj u vektoru napravljen 1;
• # Ovdje se vrijednost klase pretvara u matricu binarne klase.

Algoritam gradnje:

1. Sekvencijalnom modelu dodaju super precizne slojeve i maksimalni bazen.
2. Dodajte padajuće slojeve između. Ispadanje nasumično isključuje neke neurone u mreži, što uzrokuje da podaci pronađu nove putove i smanjuje prekomjerno opremanje.
3. Dodaju se gusti slojevi koji se koriste za predviđanje klase (0-9).
4. Kompajliraju model s kategorijskom funkcijom unakrsnog entropijskog gubitka, optimizatorom za ocean i metrikom točnosti.
5. Nakon treninga, gubitak i točnost modela procjenjuju se iz podataka ispitivanja i ispisuju.

Modeliranje u NASA-i

Predstavljamo jednostavan primjer neuronskih mreža za modeliranje Matlaba.

Pod pretpostavkom da "a" model ima tri ulaza "a", "b" i "c" i generira izlaz "y".

Za potrebe generiranja podataka: u = 5A + internet + 7c.

Prvo je propisana mala skripta za generiranje podataka:

• a = Internet (11000);
• b = Rand (1,1000);
• C = Internet (1,1000);
• n = Rand (1,1000) * 0,05;
• u = a * 5 + B * C + 7 * C + internet,

tamo gdje je internet buka posebno dodana kako bi izgledala kao stvarni podaci. Jačina buke je 0,1 i ujednačena je.

Dakle, ulaz je skup "a", "b" i "c", a izlaz:

• I = [a; b; c];
• O = y.

Zatim upotrijebite ugrađenu funkciju za generiranje modela.

Primjeri zadataka neuronskih mreža

Prvo stvorite matricu veličine 3 * 2. Prvi stupac prikazat će minimum sva tri ulaza, a drugi će prikazati najviše tri ulaza. U ovom su slučaju tri ulaza u rasponu od 0 do 1, pa:

R = [0 1; 0 1; 0 1].

Sada stvaraju matricu veličine koja ima ae-veličina svih slojeva: ae-i = [51].

Sada se poziva funkcija iphine kako slijedi:

net = newff ([0 1; 0 1; 0 1], S, {`tansig`, `purelin`}).

Neuronski model {`IPA`, `IPA`} prikazuje funkciju prikaza dva sloja.

Trenirajte je s podacima koji su prethodno stvoreni: Ace = Ace ( Ace,Ace,Ace).

Mreža je obučena, može se vidjeti krivulja izvedbe kako je obučena.

Sada ga opet modeliraju na istim podacima i uspoređuju izlaz:

O1 = sim(net,I);

plot(1:1000,O,1:1000,O1).

Dakle, ulazna matrica bi bila:

• net.IW{1}
• -0.3684 0.0308 -0.5402
• 0.4640 0.2340 0.5875
• 1.9569 -1.6887 1.5403
• 1.1138 1.0841 0.2439
• net.LW{2,1}
• -11.1990 9.4589 -1.0006 -0.9138

Primjene umjetne inteligencije

Primjeri implementacije neuronske mreže uključuju internetska rješenja za samoposluživanje i izgradnju robusnih tijekova rada. Postoje modeli dubokog učenja koji se koriste za chatbotove, a kako se nastavljaju razvijati, može se očekivati da će se ovo područje više koristiti za širok raspon poduzeća.

Područja primjene:

1. Automatski strojni prijevod. To nije ništa novo, duboko učenje pomaže u poboljšanju automatskog prevođenja teksta pomoću složenih mreža i omogućuje vam prevođenje slika.
2. Jednostavan primjer Primjena neuronskih mreža je dodavanje boje crno-bijelim slikama i videozapisima. To se može automatski učiniti s modelima s detaljnim proučavanjem.
3. Strojevi uče interpunkciju, gramatiku i stil dijela teksta i mogu koristiti onaj koji je razvio model za automatsko stvaranje potpuno novog teksta s pravilnim pravopisom, gramatikom i stilom teksta.

Umjetne neuronske mreže i sofisticiranija tehnika dubokog učenja jedan su od najnaprednijih alata za rješavanje složenih problema. Iako je procvat primjene malo vjerojatan u skorije vrijeme, napredak tehnologije i aplikacija umjetne inteligencije zasigurno će biti uzbudljiv.

Iako deduktivno rasuđivanje, logični zaključci i donošenje odluka uz pomoć računala danas je još uvijek vrlo daleko od savršenog, već je postignut značajan napredak u primjeni metoda umjetne inteligencije i srodnih algoritama.