![\"Med](\"https:\/\/inform.com.de\/wp-content\/uploads\/2021\/04\/post-190136-607bea3d9471a.jpg\")
<\/a><\/p>\n(Geoffrey Hinton)<\/p>\n
Lite historia<\/h3>\n
F\u00f6r f\u00f6rsta g\u00e5ngen uppstod begreppet artificiella neurala n\u00e4tverk (ANN) n\u00e4r man f\u00f6rs\u00f6kte simulera hj\u00e4rnans processer. Det f\u00f6rsta stora genombrottet inom detta omr\u00e5de kan betraktas som skapandet av McCulloch-Pitts neurala n\u00e4tverksmodell 1943. Forskare utvecklade f\u00f6rst en modell av en artificiell neuron. De f\u00f6reslog ocks\u00e5 byggandet av ett n\u00e4tverk av dessa element f\u00f6r att utf\u00f6ra logiska operationer. Men viktigast av allt har forskare visat att ett s\u00e5dant n\u00e4tverk kan l\u00e4ra sig.<\/p>\n
N\u00e4sta viktiga steg var utvecklingen av Donald Hebb av den f\u00f6rsta algoritmen f\u00f6r ber\u00e4kning av ANN 1949, som blev grundl\u00e4ggande under de kommande decennierna. 1958 utvecklade Frank Rosenblatt parceptron, ett system som efterliknar hj\u00e4rnans processer. Vid en tidpunkt hade tekniken inga analoger och \u00e4r fortfarande grundl\u00e4ggande i neurala n\u00e4tverk. 1986, n\u00e4stan samtidigt, oberoende av varandra, f\u00f6rb\u00e4ttrade amerikanska och sovjetiska forskare avsev\u00e4rt den grundl\u00e4ggande metoden att l\u00e4ra ut flerskiktsperseptronen<\/a>. \u00c5r 2007 genomgick neurala n\u00e4tverk en \u00e5terf\u00f6delse. Brittisk datavetare Jeffrey Hinton<\/a> utvecklade f\u00f6rst en djupinl\u00e4rningsalgoritm f\u00f6r multilayer neurala n\u00e4tverk, som nu till exempel anv\u00e4nds f\u00f6r att driva obemannade fordon.<\/p>\n I ordets allm\u00e4nna bem\u00e4rkelse \u00e4r neurala n\u00e4tverk matematiska modeller som fungerar p\u00e5 principen om n\u00e4tverk av nervceller i en djurorganism. ANN kan implementeras i b\u00e5de programmerbara och h\u00e5rdvarul\u00f6sningar. F\u00f6r att underl\u00e4tta uppfattningen kan en neuron representeras som en viss cell, som har m\u00e5nga ing\u00e5ngsh\u00e5l och ett utg\u00e5ngsh\u00e5l. Hur m\u00e5nga inkommande signaler formas till utg\u00e5ende signaler best\u00e4mmer ber\u00e4kningsalgoritmen. Effektiva v\u00e4rden matas till varje neuroning\u00e5ng, som sedan f\u00f6r\u00f6kas l\u00e4ngs internuronala anslutningar (synopsis). Synapser har en parameter – vikt, beroende p\u00e5 vilken ing\u00e5ngsinformationen \u00e4ndras n\u00e4r man flyttar fr\u00e5n en neuron till en annan. Det enklaste s\u00e4ttet att f\u00f6rest\u00e4lla sig hur neurala n\u00e4tverk fungerar kan representeras av exemplet med f\u00e4rgblandning. De bl\u00e5, gr\u00f6na och r\u00f6da nervcellerna har olika vikter.<\/p>\n Neurala n\u00e4tverket i sig \u00e4r ett system av m\u00e5nga s\u00e5dana neuroner (processorer). Individuellt \u00e4r dessa processorer ganska enkla (mycket enklare \u00e4n en persondatorprocessor), men n\u00e4r de \u00e4r anslutna till ett stort system kan neuroner utf\u00f6ra mycket komplexa uppgifter.<\/p>\n Beroende p\u00e5 applikationsomr\u00e5de kan ett neuralt n\u00e4tverk tolkas p\u00e5 olika s\u00e4tt. Till exempel, ur maskininl\u00e4rningssynpunkt \u00e4r en ANN en m\u00f6nsterigenk\u00e4nningsmetod. Ur en matematisk synvinkel \u00e4r detta ett problem med flera parametrar. Ur cybernetics synvinkel \u00e4r det en modell f\u00f6r adaptiv kontroll av robotik. F\u00f6r artificiell intelligens \u00e4r ANN en grundl\u00e4ggande komponent f\u00f6r modellering av naturlig intelligens med hj\u00e4lp av ber\u00e4kningsalgoritmer.<\/p>\n Den st\u00f6rsta f\u00f6rdelen med neurala n\u00e4tverk j\u00e4mf\u00f6rt med konventionella ber\u00e4kningsalgoritmer \u00e4r deras f\u00f6rm\u00e5ga att l\u00e4ra sig. I ordets allm\u00e4nna bem\u00e4rkelse best\u00e5r inl\u00e4rning i att hitta r\u00e4tt kopplingskoefficienter mellan nervceller, s\u00e5v\u00e4l som att generalisera data och identifiera komplexa beroenden mellan in- och utsignaler. Faktum \u00e4r att framg\u00e5ngsrik tr\u00e4ning av ett neuralt n\u00e4tverk inneb\u00e4r att systemet kommer att kunna identifiera r\u00e4tt resultat baserat p\u00e5 data som inte finns i tr\u00e4ningsupps\u00e4ttningen.<\/p>\n Anv\u00e4ndningsomr\u00e5det f\u00f6r neurala n\u00e4tverk \u00e4r otroligt stort och begr\u00e4nsas endast av v\u00e5r fantasi. L\u00e5t oss lista n\u00e5gra av dem:<\/p>\n Oavsett hur lovande den h\u00e4r tekniken skulle vara, s\u00e5 l\u00e5ngt \u00e4r ANN fortfarande mycket l\u00e5ngt ifr\u00e5n den m\u00e4nskliga hj\u00e4rnans och t\u00e4nkandens f\u00f6rm\u00e5ga. \u00c4nd\u00e5 anv\u00e4nds neurala n\u00e4tverk redan inom m\u00e5nga omr\u00e5den av m\u00e4nsklig aktivitet. Hittills kan de inte fatta mycket intellektuella beslut, men de kan ers\u00e4tta en person d\u00e4r han tidigare beh\u00f6vdes. Bland de m\u00e5nga omr\u00e5dena i ANN-applikationen kan man notera: skapandet av sj\u00e4lvl\u00e4rande system f\u00f6r produktionsprocesser, obemannade fordon, bildigenk\u00e4nningssystem, intelligenta s\u00e4kerhetssystem, robotik, kvalitets\u00f6vervakningssystem, r\u00f6stinteraktionsgr\u00e4nssnitt, analyssystem och mycket mer. S\u00e5dan utbredd anv\u00e4ndning av neurala n\u00e4tverk, bland annat, beror p\u00e5 framv\u00e4xten av olika s\u00e4tt att p\u00e5skynda inl\u00e4rningen av ANN.<\/p>\n Idag \u00e4r marknaden f\u00f6r neurala n\u00e4tverk enorm – det \u00e4r miljarder och miljarder dollar. Som praxis visar skiljer sig de flesta av neurologiska n\u00e4tverkens teknologier runt om i v\u00e4rlden lite fr\u00e5n varandra. Anv\u00e4ndningen av neurala n\u00e4tverk \u00e4r dock ett mycket dyrt \u00e5tagande, som i de flesta fall endast kan erbjudas av stora f\u00f6retag. F\u00f6r utveckling, utbildning och testning av neurala n\u00e4tverk kr\u00e4vs stor datorkraft, det \u00e4r uppenbart att stora akt\u00f6rer p\u00e5 IT-marknaden har tillr\u00e4ckligt med detta. Bland de st\u00f6rsta f\u00f6retagen som leder utvecklingen inom detta omr\u00e5de \u00e4r Google DeepMind, Microsoft Research, IBM, Facebook och Baidu.<\/p>\n Naturligtvis \u00e4r allt detta bra: neurala n\u00e4tverk utvecklas, marknaden v\u00e4xer, men hittills har huvuduppgiften inte l\u00f6sts. M\u00e4nskligheten har misslyckats med att skapa en teknik som till och med ligger n\u00e4ra den m\u00e4nskliga hj\u00e4rnans kapacitet. L\u00e5t oss ta en titt p\u00e5 de viktigaste skillnaderna mellan den m\u00e4nskliga hj\u00e4rnan och artificiella neurala n\u00e4tverk.<\/p>\n Den viktigaste skillnaden, som i grunden f\u00f6r\u00e4ndrar systemets princip och effektivitet, \u00e4r den olika signal\u00f6verf\u00f6ringen i artificiella neurala n\u00e4tverk och i det biologiska n\u00e4tverket av neuroner. Faktum \u00e4r att i ANN \u00f6verf\u00f6r neuroner v\u00e4rden som \u00e4r verkliga v\u00e4rden, det vill s\u00e4ga siffror. I den m\u00e4nskliga hj\u00e4rnan \u00f6verf\u00f6rs impulser med en fast amplitud, och dessa impulser \u00e4r n\u00e4stan omedelbara. D\u00e4rf\u00f6r finns det ett antal f\u00f6rdelar med det m\u00e4nskliga n\u00e4tverket av neuroner.<\/p>\n F\u00f6r det f\u00f6rsta \u00e4r kommunikationslinjer i hj\u00e4rnan mycket mer effektiva och ekonomiska \u00e4n i ANN. F\u00f6r det andra s\u00e4kerst\u00e4ller impulskretsen enkelheten i teknikimplementeringen: det r\u00e4cker att anv\u00e4nda analoga kretsar ist\u00e4llet f\u00f6r komplexa ber\u00e4kningsmekanismer. I slut\u00e4ndan \u00e4r impulsen\u00e4tverk skyddade fr\u00e5n akustisk st\u00f6rning. Effektiva siffror uts\u00e4tts f\u00f6r buller, vilket \u00f6kar sannolikheten f\u00f6r fel.<\/p>\n Luddite-r\u00f6relsen b\u00f6rjade i b\u00f6rjan av 1800-talet. Detta ord anv\u00e4ndes f\u00f6r att beskriva m\u00e4nniskor som deltar i protester mot urbanisering. Med industrialiseringen av samh\u00e4llet, n\u00e4r verktygsmaskiner gradvis b\u00f6rjade ers\u00e4tta arbetare, l\u00e4mnades m\u00e5nga m\u00e4nniskor utan arbete och var extremt missn\u00f6jda med sin situation. T\u00e4nk dig vilken chock de skulle ha upplevt om de fick veta att maskinerna om n\u00e5gra hundra \u00e5r kommer att kunna prata och till och med r\u00f6ra sig sj\u00e4lvst\u00e4ndigt!<\/p>\n Under tiden har dessa tider kommit, och idag finns det ocks\u00e5 retrograder som fruktar att robotik och utveckling av teknik i allm\u00e4nhet kan spela ett grymt sk\u00e4mt med m\u00e4nniskor. N\u00e4r allt kommer omkring, om maskiner redan kan utf\u00f6ra s\u00e5 m\u00e5nga uppgifter idag, kommer de i framtiden att ta alla jobb och g\u00f6ra m\u00e4nniskor on\u00f6diga. Och denna st\u00e5ndpunkt bekr\u00e4ftas endast av bed\u00f6mningar av experter som d\u00e5 och d\u00e5 f\u00f6rutsp\u00e5r det f\u00f6rest\u00e5ende f\u00f6rsvinnandet av ett visst yrke.<\/p>\n Denna position har r\u00e4tt att existera, men den \u00e4r inte helt korrekt, eftersom \u00f6ver tiden f\u00f6rsvinner inte bara gamla yrken utan ocks\u00e5 nya. Ja, det finns en storleksordning mindre herdar och j\u00e4gare \u00e4n tidigare, men programmerare och marknadsf\u00f6rare har dykt upp. Vid v\u00e4ndpunkter i historien omorienterar ekonomin sig sj\u00e4lv, rensar bort de on\u00f6diga och gener\u00f6st ger dem som \u00e4r efterfr\u00e5gade.<\/p>\n Det v\u00e4xande inflytandet fr\u00e5n artificiella neurala n\u00e4tverk \u00e4r uppenbart och det \u00e4r troligt att de snart kommer bokstavligen \u00f6verallt, men att vara r\u00e4dd f\u00f6r detta inneb\u00e4r att man avvisar den m\u00e4nskliga naturen, som best\u00e5r i \u00f6nskan om uppt\u00e4ckt och prestation.<\/p>\n F\u00f6rst m\u00e5ste du best\u00e4mma vad grundkomponenterna i ett neuralt n\u00e4tverk – neuroner<\/strong> – \u00e4r. Neuronen tar inmatade data, utf\u00f6r vissa matematiska operationer med den<\/strong> och matar sedan ut resultatet. En neuron med tv\u00e5 ing\u00e5ngar ser ut s\u00e5 h\u00e4r:<\/p>\n Tre saker h\u00e4nder h\u00e4r. F\u00f6rst multipliceras varje ing\u00e5ng med vikten (i diagrammet \u00e4r det markerat med r\u00f6tt<\/strong> ):<\/p>\n Sedan l\u00e4ggs alla viktade ing\u00e5ngar till tillsammans med f\u00f6rskjutningen Slutligen \u00f6verf\u00f6rs beloppet via aktiveringsfunktionen (markerad med gult<\/strong> i diagrammet ):<\/p>\n Aktiveringsfunktionen anv\u00e4nds f\u00f6r att ansluta orelaterade ing\u00e5ngar till en utg\u00e5ng som har en enkel och f\u00f6ruts\u00e4gbar form. Som regel tas sigmoidfunktionen<\/a> som aktiveringsfunktionen som anv\u00e4nds :<\/p>\n Sigmoid-funktionen<\/strong> matar bara ut siffror i ett intervall Antag att vi har en neuron med tv\u00e5 ing\u00e5ngar<\/strong> som anv\u00e4nder sigmoid-aktiveringsfunktion<\/strong> och har f\u00f6ljande parametrar:<\/p>\n<\/a><\/p>\nKort om det viktigaste<\/h3>\n
<\/a><\/p>\nTill\u00e4mpning av neurala n\u00e4tverk<\/h2>\n
\n
<\/a><\/p>\nDagens situation<\/h3>\n
Varf\u00f6r \u00e4r neurala n\u00e4tverk fortfarande l\u00e5ngt ifr\u00e5n m\u00e4nniskans hj\u00e4rna?<\/h3>\n
<\/a><\/p>\nUtsikter f\u00f6r neurala n\u00e4tverk<\/h2>\n
Skapande av neurala block<\/h2>\n
<\/a><\/p>\n<\/a><\/p>\nb<\/code>(anges i gr\u00f6nt<\/strong> i diagrammet ):<\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n(0, 1)<\/code>. Du kan t\u00e4nka p\u00e5 det som att komprimera fr\u00e5n (\u2212\u221e, +\u221e)<\/code>till (0, 1)<\/code>. Stora negativa tal blir ~0<\/code>, och stora positiva siffror blir ~1<\/code>.<\/p>\nEtt enkelt exempel p\u00e5 att arbeta med nervceller i Python<\/h2>\n
<\/a><\/p>\nw = [0,1]<\/code>\u00c4r bara ett s\u00e4tt att skriva w1 = 0, w2 = 1<\/code>i vektorform. L\u00e5t oss tilldela neuron en ing\u00e5ng med ett v\u00e4rde x = [2, 3]<\/code>. F\u00f6r en mer kompakt representation kommer dot-produkten<\/a> att anv\u00e4ndas .<\/p>\n