![\"Med](\"https:\/\/inform.com.de\/wp-content\/uploads\/2021\/04\/post-190136-607bea3d9471a.jpg\")
<\/a><\/p>\n(Geoffrey Hinton)<\/p>\n
Litt historie<\/h3>\n
For f\u00f8rste gang oppstod konseptet med kunstige nevrale nettverk (ANN) n\u00e5r man pr\u00f8vde \u00e5 simulere hjernens prosesser. Det f\u00f8rste store gjennombruddet i dette omr\u00e5det kan betraktes som opprettelsen av McCulloch-Pitts nevrale nettverksmodell i 1943. Forskere utviklet f\u00f8rst en modell av et kunstig nevron. De foreslo ogs\u00e5 bygging av et nettverk av disse elementene for \u00e5 utf\u00f8re logiske operasjoner. Men viktigst av alt, forskere har bevist at et slikt nettverk er i stand til \u00e5 l\u00e6re.<\/p>\n
Det neste viktige trinnet var utviklingen av Donald Hebb av den f\u00f8rste algoritmen for beregning av ANN i 1949, som ble grunnleggende de neste ti\u00e5rene. I 1958 utviklet Frank Rosenblatt parceptron, et system som etterligner hjernens prosesser. P\u00e5 en gang hadde teknologien ingen analoger og er fortsatt grunnleggende i nevrale nettverk. I 1986 forbedret amerikanske og sovjetiske forskere nesten samtidig, uavhengig av hverandre, den grunnleggende metoden for \u00e5 l\u00e6re ut flerlagsperseptronen betydelig<\/a>. I 2007 gjennomgikk nevrale nettverk en gjenf\u00f8delse. Britisk datavitenskapsmann Jeffrey Hinton<\/a> utviklet f\u00f8rst en dybdel\u00e6ringsalgoritme for flerlags nevrale nettverk, som n\u00e5 for eksempel brukes til \u00e5 betjene ubemannede kj\u00f8ret\u00f8y.<\/p>\n I ordets generelle forstand er nevrale nettverk matematiske modeller som fungerer p\u00e5 prinsippet om nettverk av nerveceller i en dyreorganisme. ANN kan implementeres i b\u00e5de programmerbare og maskinvarel\u00f8sninger. For \u00e5 gj\u00f8re det lettere \u00e5 oppfatte kan en nevron forestilles som en slags celle, som har mange inngangshull og en utgang. Hvor mange innkommende signaler som dannes til den utg\u00e5ende, bestemmer beregningsalgoritmen. Effektive verdier blir matet til hver nevroninngang, som deretter forplantes langs interneuronale forbindelser (synopsis). Synapser har en parameter – vekt, p\u00e5 grunn av hvilken inngangsinformasjonen endres n\u00e5r man beveger seg fra en nevron til en annen. Den enkleste m\u00e5ten \u00e5 forestille seg hvordan nevrale nettverk fungerer, kan representeres av eksemplet p\u00e5 fargeblanding. De bl\u00e5, gr\u00f8nne og r\u00f8de nevronene har forskjellige vekter.<\/p>\n Nevrale nettverket er et system av mange slike nevroner (prosessorer). Separat er disse prosessorene ganske enkle (mye enklere enn en personlig datamaskinprosessor), men n\u00e5r de er koblet til et stort system, er nevroner i stand til \u00e5 utf\u00f8re sv\u00e6rt komplekse oppgaver.<\/p>\n Avhengig av bruksomr\u00e5de, kan et nevralt nettverk tolkes p\u00e5 forskjellige m\u00e5ter. For eksempel er ANN et m\u00f8nstergjenkjenningsmetode fra synspunkt maskinl\u00e6ring. Fra et matematisk synspunkt er dette et multi-parameter problem. Fra cybernetics synspunkt er det en modell for adaptiv kontroll av robotikk. For kunstig intelligens er ANN en grunnleggende komponent for modellering av naturlig intelligens ved bruk av beregningsalgoritmer.<\/p>\n Den st\u00f8rste fordelen med nevrale nettverk over konvensjonelle beregningsalgoritmer er deres evne til \u00e5 l\u00e6re. I ordets generelle forstand best\u00e5r l\u00e6ring i \u00e5 finne de riktige koblingskoeffisientene mellom nevroner, samt \u00e5 generalisere data og identifisere komplekse forhold mellom inngangs- og utgangssignaler. Faktisk betyr vellykket oppl\u00e6ring av et nevralt nettverk at systemet vil v\u00e6re i stand til \u00e5 identifisere riktig resultat basert p\u00e5 data som ikke er til stede i treningssettet.<\/p>\n Utvalget av anvendelse av nevrale nettverk er utrolig bredt og er bare begrenset av v\u00e5r fantasi. La oss liste opp noen av dem:<\/p>\n Og uansett hvor lovende denne teknologien ville v\u00e6re, s\u00e5 langt er ANN-er fortsatt veldig langt fra menneskets hjerne og tenkning. Ikke desto mindre brukes nevrale nettverk allerede i mange omr\u00e5der av menneskelig aktivitet. S\u00e5 langt er de ikke i stand til \u00e5 ta sv\u00e6rt intellektuelle beslutninger, men de er i stand til \u00e5 erstatte en person der han tidligere var behov for. Blant de mange omr\u00e5dene innen ANN-applikasjon kan man merke seg: opprettelsen av selvl\u00e6ringssystemer for produksjonsprosesser, ubemannede kj\u00f8ret\u00f8yer, bildegjenkjenningssystemer, intelligente sikkerhetssystemer, roboter, kvalitetsoverv\u00e5kningssystemer, grensesnitt for taleinteraksjoner, analysesystemer og mye mer. Denne utbredte bruken av nevrale nettverk skyldes blant annet fremveksten av forskjellige m\u00e5ter \u00e5 akselerere l\u00e6ringen av ANN.<\/p>\n I dag er markedet for nevrale nettverk stort – det er milliarder og milliarder dollar. Som praksis viser, skiller de fleste teknologiene til nevrale nettverk rundt seg lite seg fra hverandre. Imidlertid er bruken av nevrale nettverk en veldig kostbar oppgave, som i de fleste tilfeller bare kan gis av store selskaper. For utvikling, oppl\u00e6ring og testing av nevrale nettverk kreves det stor datakraft, det er \u00e5penbart at store akt\u00f8rer i IT-markedet har nok av dette. Blant de viktigste selskapene som leder utviklingen p\u00e5 dette omr\u00e5det er Googles DeepMind-divisjon, Microsoft Research-divisjon, IBM, Facebook og Baidu.<\/p>\n Selvf\u00f8lgelig er alt dette bra: nevrale nettverk utvikler seg, markedet vokser, men s\u00e5 langt er ikke hovedoppgaven l\u00f8st. Menneskeheten har ikke klart \u00e5 skape en teknologi som til og med er n\u00e6r menneskets hjerne. La oss se p\u00e5 hovedforskjellene mellom den menneskelige hjerne og kunstige nevrale nettverk.<\/p>\n Den viktigste forskjellen, som fundamentalt endrer systemets prinsipp og effektivitet, er forskjellig signaloverf\u00f8ring i kunstige nevrale nettverk og i det biologiske nettverket av nevroner. Faktum er at i ANN overf\u00f8rer nevroner verdier som er reelle verdier, det vil si tall. I den menneskelige hjerne overf\u00f8res impulser med en fast amplitude, og disse impulsene er nesten \u00f8yeblikkelige. Derfor er det en rekke fordeler med det menneskelige nettverket av nevroner.<\/p>\n For det f\u00f8rste er kommunikasjonslinjer i hjernen mye mer effektive og \u00f8konomiske enn i ANN-er. For det andre s\u00f8rger impulskretsen for at teknologimplementeringen er enkel: det er nok \u00e5 bruke analoge kretser i stedet for komplekse beregningsmekanismer. Til slutt er impulsnettverk beskyttet mot akustisk interferens. Effektive tall er utsatt for st\u00f8y, noe som \u00f8ker sannsynligheten for feil.<\/p>\n Luddite-bevegelsen begynte tidlig p\u00e5 1800-tallet. Dette ordet ble brukt for \u00e5 beskrive mennesker som deltok i protester mot urbanisering. Med industrialiseringen av samfunnet, da maskinverkt\u00f8y gradvis begynte \u00e5 erstatte arbeidere, ble mange mennesker utenfor arbeidslivet og var ekstremt misforn\u00f8yde med situasjonen. Tenk deg hvilket sjokk de ville ha opplevd hvis de fikk vite at maskinene om et par hundre \u00e5r vil kunne snakke og til og med bevege seg selvstendig!<\/p>\n I mellomtiden har disse tider kommet, og i dag er det ogs\u00e5 retrograder som frykter at robotikk og utvikling av teknologi generelt kan spille en grusom vits med mennesker. Tross alt, hvis maskiner allerede er i stand til \u00e5 utf\u00f8re s\u00e5 mange oppgaver i dag, vil de i fremtiden besette alle jobber, noe som gj\u00f8r folk un\u00f8dvendige. Og denne posisjonen blir bare bekreftet av vurderingene fra eksperter som n\u00e5 og da forutsier den forest\u00e5ende forsvinningen av et bestemt yrke.<\/p>\n Denne posisjonen har rett til \u00e5 eksistere, men den er ikke helt korrekt, siden over tid forsvinner ikke bare gamle yrker, men ogs\u00e5 nye dukker opp. Ja, det er en st\u00f8rrelsesorden mindre gjeter og jegere enn f\u00f8r, men programmerere og markedsf\u00f8rere har dukket opp. P\u00e5 vendepunktene i historien orienterer \u00f8konomien seg selv, lukker ut un\u00f8dvendige og gir sjener\u00f8st de etterspurte.<\/p>\n Den \u00f8kende innflytelsen fra kunstige nevrale nettverk er \u00e5penbar, og det er sannsynlig at de snart vil v\u00e6re bokstavelig talt overalt, men \u00e5 v\u00e6re redd for dette betyr \u00e5 avvise selve menneskets natur, som best\u00e5r i \u00f8nsket om oppdagelse og prestasjon.<\/p>\n F\u00f8rst m\u00e5 du bestemme hva de grunnleggende komponentene i et nevralt nettverk – nevroner<\/strong> – er. Nevronen tar inndata, utf\u00f8rer visse matematiske operasjoner med den<\/strong>, og sender deretter ut resultatet. Et nevron med to innganger ser slik ut:<\/p>\n Tre ting skjer her. F\u00f8rst multipliseres hver inngang med vekten (vist i r\u00f8dt<\/strong> i diagrammet ):<\/p>\n Deretter legges alle vektede innganger sammen med forskyvningen Til slutt overf\u00f8res bel\u00f8pet gjennom aktiveringsfunksjonen (markert med gult<\/strong> i diagrammet ):<\/p>\n Aktiveringsfunksjonen brukes til \u00e5 koble ikke-relaterte innganger til en utgang som har en enkel og forutsigbar form. Som regel tas sigmoidfunksjonen<\/a> som aktiveringsfunksjonen som brukes :<\/p>\n Sigmoid-funksjonen<\/strong> sender bare ut tall i et omr\u00e5de Anta at vi har et nevron med to innganger<\/strong> som bruker en sigmoid-aktiveringsfunksjon<\/strong> og har f\u00f8lgende parametere:<\/p>\n<\/a><\/p>\nKort om det viktigste<\/h3>\n
<\/a><\/p>\nAnvendelse av nevrale nettverk<\/h2>\n
\n
<\/a><\/p>\nDagens situasjon<\/h3>\n
Hvorfor er nevrale nettverk fremdeles langt fra den menneskelige hjerne?<\/h3>\n
<\/a><\/p>\nUtsikter for nevrale nettverk<\/h2>\n
Opprettelse av nevrale blokker<\/h2>\n
<\/a><\/p>\n<\/a><\/p>\nb<\/code>(vist i gr\u00f8nt<\/strong> i diagrammet ):<\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n(0, 1)<\/code>. Du kan tenke p\u00e5 det som komprimering fra (\u2212\u221e, +\u221e)<\/code>til (0, 1)<\/code>. Store negative tall blir ~0<\/code>, og store positive tall blir ~1<\/code>.<\/p>\nEt enkelt eksempel p\u00e5 \u00e5 jobbe med nevroner i Python<\/h2>\n
<\/a><\/p>\nw = [0,1]<\/code>Er bare en m\u00e5te \u00e5 skrive p\u00e5 w1 = 0, w2 = 1<\/code>i vektorform. La oss tildele en inngang med en verdi til nevronet x = [2, 3]<\/code>. For en mer kompakt representasjon vil prikkproduktet<\/a> brukes .<\/p>\n