![\"En](\"https:\/\/inform.com.de\/wp-content\/uploads\/2021\/04\/post-190136-607bea3d9471a.jpg\")
<\/a><\/p>\n(Geoffrey Hinton)<\/p>\n
Un peu d’histoire<\/h3>\n
Pour la premi\u00e8re fois, le concept de r\u00e9seaux neuronaux artificiels (RNA) est apparu en essayant de simuler les processus du cerveau. La premi\u00e8re avanc\u00e9e majeure dans ce domaine peut \u00eatre consid\u00e9r\u00e9e comme la cr\u00e9ation du mod\u00e8le de r\u00e9seau neuronal McCulloch-Pitts en 1943. Les scientifiques ont d’abord d\u00e9velopp\u00e9 un mod\u00e8le de neurone artificiel. Ils ont \u00e9galement propos\u00e9 la construction d’un r\u00e9seau de ces \u00e9l\u00e9ments pour effectuer des op\u00e9rations logiques. Mais surtout, les scientifiques ont prouv\u00e9 qu’un tel r\u00e9seau est capable d’apprendre.<\/p>\n
La prochaine \u00e9tape importante a \u00e9t\u00e9 le d\u00e9veloppement par Donald Hebb du premier algorithme de calcul ANN en 1949, qui est devenu fondamental pour les d\u00e9cennies suivantes. En 1958, Frank Rosenblatt a d\u00e9velopp\u00e9 le parceptron, un syst\u00e8me qui imite les processus du cerveau. \u00c0 une \u00e9poque, la technologie n’avait pas d’analogues et est toujours fondamentale dans les r\u00e9seaux de neurones. En 1986, presque simultan\u00e9ment, ind\u00e9pendamment les uns des autres, les scientifiques am\u00e9ricains et sovi\u00e9tiques ont consid\u00e9rablement am\u00e9lior\u00e9 la m\u00e9thode fondamentale d’enseignement du perceptron multicouche<\/a>. En 2007, les r\u00e9seaux de neurones ont connu une renaissance. Informaticien britannique Jeffrey Hinton<\/a> a d’abord d\u00e9velopp\u00e9 un algorithme d’apprentissage en profondeur pour les r\u00e9seaux de neurones multicouches, qui est maintenant, par exemple, utilis\u00e9 pour faire fonctionner des v\u00e9hicules sans pilote.<\/p>\n Au sens g\u00e9n\u00e9ral du terme, les r\u00e9seaux de neurones sont des mod\u00e8les math\u00e9matiques qui fonctionnent sur le principe des r\u00e9seaux de cellules nerveuses dans un organisme animal. Les ANN peuvent \u00eatre impl\u00e9ment\u00e9s dans des solutions programmables et mat\u00e9rielles. Pour faciliter la perception, un neurone peut \u00eatre imagin\u00e9 comme une sorte de cellule, qui a de nombreux trous d’entr\u00e9e et une sortie. Le nombre de signaux entrants form\u00e9s dans le signal sortant d\u00e9termine l’algorithme de calcul. Les valeurs effectives sont transmises \u00e0 chaque entr\u00e9e neuronale, qui sont ensuite propag\u00e9es le long des connexions interneuronales (synopsis). Les synapses ont un param\u00e8tre – le poids, en raison duquel les informations d’entr\u00e9e changent lors du passage d’un neurone \u00e0 un autre. La mani\u00e8re la plus simple d’imaginer le fonctionnement des r\u00e9seaux de neurones peut \u00eatre repr\u00e9sent\u00e9e par l’exemple du m\u00e9lange de couleurs. Les neurones bleus, verts et rouges ont des poids diff\u00e9rents.<\/p>\n Le r\u00e9seau neuronal lui-m\u00eame est un syst\u00e8me de nombreux neurones (processeurs). S\u00e9par\u00e9ment, ces processeurs sont assez simples (beaucoup plus simples qu’un processeur d’ordinateur personnel), mais lorsqu’ils sont connect\u00e9s \u00e0 un grand syst\u00e8me, les neurones sont capables d’effectuer des t\u00e2ches tr\u00e8s complexes.<\/p>\n Selon le domaine d’application, un r\u00e9seau de neurones peut \u00eatre interpr\u00e9t\u00e9 de diff\u00e9rentes mani\u00e8res.Par exemple, du point de vue de l’apprentissage automatique, un ANN est une m\u00e9thode de reconnaissance de formes. D’un point de vue math\u00e9matique, il s’agit d’un probl\u00e8me \u00e0 param\u00e8tres multiples. Du point de vue de la cybern\u00e9tique, c’est un mod\u00e8le de contr\u00f4le adaptatif de la robotique. Pour l’intelligence artificielle, ANN est un composant fondamental de la mod\u00e9lisation de l’intelligence naturelle \u00e0 l’aide d’algorithmes de calcul.<\/p>\n Le principal avantage des r\u00e9seaux de neurones par rapport aux algorithmes de calcul conventionnels est leur capacit\u00e9 \u00e0 apprendre. Au sens g\u00e9n\u00e9ral du terme, l’apprentissage consiste \u00e0 trouver les coefficients de couplage corrects entre neurones, ainsi qu’\u00e0 g\u00e9n\u00e9raliser des donn\u00e9es et \u00e0 identifier des relations complexes entre les signaux d’entr\u00e9e et de sortie. En fait, un apprentissage r\u00e9ussi d’un r\u00e9seau neuronal signifie que le syst\u00e8me sera en mesure d’identifier le r\u00e9sultat correct sur la base de donn\u00e9es non pr\u00e9sentes dans l’ensemble d’apprentissage.<\/p>\n Le champ d’application des r\u00e9seaux de neurones est incroyablement large et n’est limit\u00e9 que par notre imagination. \u00c9num\u00e9rons quelques-uns d’entre eux:<\/p>\n Et aussi prometteuse que soit cette technologie, les ANN sont encore tr\u00e8s loin des capacit\u00e9s du cerveau et de la pens\u00e9e humains. N\u00e9anmoins, les r\u00e9seaux de neurones sont d\u00e9j\u00e0 utilis\u00e9s dans de nombreux domaines de l’activit\u00e9 humaine. Jusqu’\u00e0 pr\u00e9sent, ils ne sont pas en mesure de prendre des d\u00e9cisions hautement intellectuelles, mais ils sont capables de remplacer une personne l\u00e0 o\u00f9 elle \u00e9tait auparavant n\u00e9cessaire. Parmi les nombreux domaines d’application ANN, on peut noter: la cr\u00e9ation de syst\u00e8mes d’auto-apprentissage des processus de production, de v\u00e9hicules sans pilote, de syst\u00e8mes de reconnaissance d’image, de syst\u00e8mes de s\u00e9curit\u00e9 intelligents, de robotique, de syst\u00e8mes de surveillance de la qualit\u00e9, d’interfaces d’interaction vocale, de syst\u00e8mes d’analyse et bien plus encore. Cette utilisation g\u00e9n\u00e9ralis\u00e9e des r\u00e9seaux de neurones est, entre autres, due \u00e0 l’\u00e9mergence de diverses mani\u00e8res d’acc\u00e9l\u00e9rer l’apprentissage de l’ANN.<\/p>\n Aujourd’hui, le march\u00e9 des r\u00e9seaux de neurones est \u00e9norme – il repr\u00e9sente des milliards et des milliards de dollars. Comme le montre la pratique, la plupart des technologies des r\u00e9seaux de neurones dans le monde diff\u00e8rent peu les unes des autres. Cependant, l’utilisation de r\u00e9seaux de neurones est une entreprise tr\u00e8s co\u00fbteuse qui, dans la plupart des cas, ne peut \u00eatre financ\u00e9e que par les grandes entreprises. Pour le d\u00e9veloppement, la formation et le test des r\u00e9seaux de neurones, une grande puissance de calcul est n\u00e9cessaire, il est \u00e9vident que les grands acteurs du march\u00e9 informatique en ont assez. La division DeepMind de Google, la division Microsoft Research, IBM, Facebook et Baidu figurent parmi les principales entreprises \u00e0 la pointe du d\u00e9veloppement dans ce domaine.<\/p>\n Bien s\u00fbr, tout cela est bien: les r\u00e9seaux de neurones se d\u00e9veloppent, le march\u00e9 se d\u00e9veloppe, mais jusqu’\u00e0 pr\u00e9sent, la t\u00e2che principale n’a pas \u00e9t\u00e9 r\u00e9solue. L’humanit\u00e9 n’a pas r\u00e9ussi \u00e0 cr\u00e9er une technologie dont les capacit\u00e9s sont m\u00eame proches du cerveau humain. Jetons un coup d’\u0153il aux principales diff\u00e9rences entre le cerveau humain et les r\u00e9seaux de neurones artificiels.<\/p>\n La diff\u00e9rence la plus importante, qui change fondamentalement le principe et l’efficacit\u00e9 du syst\u00e8me, est la transmission diff\u00e9rente du signal dans les r\u00e9seaux de neurones artificiels et dans le r\u00e9seau biologique des neurones. Le fait est que dans l’ANN, les neurones transmettent des valeurs qui sont des valeurs r\u00e9elles, c’est-\u00e0-dire des nombres. Dans le cerveau humain, des impulsions d’amplitude fixe sont transmises et ces impulsions sont presque instantan\u00e9es. Par cons\u00e9quent, le r\u00e9seau humain de neurones pr\u00e9sente un certain nombre d’avantages.<\/p>\n Premi\u00e8rement, les lignes de communication dans le cerveau sont beaucoup plus efficaces et \u00e9conomiques que dans les ANN. Deuxi\u00e8mement, le circuit d’impulsions assure la simplicit\u00e9 de la mise en \u0153uvre de la technologie: il suffit d’utiliser des circuits analogiques au lieu de m\u00e9canismes de calcul complexes. En fin de compte, les r\u00e9seaux d’impulsions sont prot\u00e9g\u00e9s des interf\u00e9rences acoustiques. Les nombres effectifs sont sujets au bruit, ce qui augmente la probabilit\u00e9 d’erreurs.<\/p>\n Le mouvement luddite a commenc\u00e9 au d\u00e9but du 19e si\u00e8cle. Ce mot \u00e9tait utilis\u00e9 pour d\u00e9crire les personnes participant \u00e0 des manifestations contre l’urbanisation. Avec l’industrialisation de la soci\u00e9t\u00e9, lorsque les machines-outils ont commenc\u00e9 \u00e0 remplacer progressivement les travailleurs, de nombreuses personnes se sont retrouv\u00e9es sans travail et \u00e9taient extr\u00eamement insatisfaites de leur situation. Imaginez le choc qu’ils auraient v\u00e9cu s’ils avaient appris que dans deux cents ans, les machines seraient capables de parler et m\u00eame de se d\u00e9placer de mani\u00e8re autonome!<\/p>\n Pendant ce temps, ces temps sont venus, et aujourd’hui, il y a aussi des r\u00e9trogrades qui craignent que la robotique et le d\u00e9veloppement de la technologie en g\u00e9n\u00e9ral puissent jouer une blague cruelle avec les gens. Apr\u00e8s tout, si les machines sont d\u00e9j\u00e0 capables d’ex\u00e9cuter autant de t\u00e2ches aujourd’hui, elles occuperont \u00e0 l’avenir tous les emplois, rendant les gens inutiles. Et cette position n’est confirm\u00e9e que par les appr\u00e9ciations d’experts qui pr\u00e9disent de temps \u00e0 autre la disparition imminente d’une profession particuli\u00e8re.<\/p>\n Cette position a le droit d’exister, mais elle n’est pas tout \u00e0 fait correcte, car avec le temps, non seulement les anciennes professions disparaissent, mais de nouvelles apparaissent \u00e9galement. Oui, il y a un ordre de grandeur moins de bergers et de chasseurs qu’avant, mais des programmeurs et des sp\u00e9cialistes du marketing sont apparus. Aux tournants de l’histoire, l’\u00e9conomie se r\u00e9oriente, \u00e9liminant les inutiles et dotant g\u00e9n\u00e9reusement ceux qui sont en demande.<\/p>\n L’influence croissante des r\u00e9seaux de neurones artificiels est \u00e9vidente, et il est probable que bient\u00f4t ils seront litt\u00e9ralement partout, mais en avoir peur signifie rejeter la nature humaine elle-m\u00eame, qui consiste dans le d\u00e9sir de d\u00e9couverte et d’accomplissement.<\/p>\n Tout d’abord, vous devez d\u00e9cider quels sont les composants de base d’un r\u00e9seau neuronal – les neurones<\/strong> -. Le neurone prend les donn\u00e9es d’entr\u00e9e, effectue certaines op\u00e9rations math\u00e9matiques avec lui<\/strong>, puis sort le r\u00e9sultat. Un neurone avec deux entr\u00e9es ressemble \u00e0 ceci:<\/p>\n Trois choses se passent ici. Tout d’abord, chaque entr\u00e9e est multipli\u00e9e par son poids (indiqu\u00e9 en rouge<\/strong> sur le diagramme ):<\/p>\n Ensuite, toutes les entr\u00e9es pond\u00e9r\u00e9es sont additionn\u00e9es avec le d\u00e9calage Enfin, le montant est transf\u00e9r\u00e9 via la fonction d’activation (marqu\u00e9e en jaune<\/strong> sur le sch\u00e9ma ):<\/p>\n La fonction d’activation est utilis\u00e9e pour connecter des entr\u00e9es ind\u00e9pendantes \u00e0 une sortie qui a une forme simple et pr\u00e9visible. En r\u00e8gle g\u00e9n\u00e9rale, la fonction sigmo\u00efde<\/a> est consid\u00e9r\u00e9e comme la fonction d’activation utilis\u00e9e :<\/p>\n La fonction sigmo\u00efde<\/strong> ne produit que des nombres dans une plage Supposons que nous ayons un neurone avec deux entr\u00e9es<\/strong> qui utilise une fonction d’ activation sigmo\u00efde<\/strong> et qui a les param\u00e8tres suivants:<\/p>\n<\/a><\/p>\nEn bref sur l’essentiel<\/h3>\n
<\/a><\/p>\nApplication des r\u00e9seaux de neurones<\/h2>\n
\n
<\/a><\/p>\nLa situation d’aujourd’hui<\/h3>\n
Pourquoi les r\u00e9seaux de neurones sont-ils encore loin du cerveau humain?<\/h3>\n
<\/a><\/p>\nPerspectives des r\u00e9seaux de neurones<\/h2>\n
Cr\u00e9ation de blocs neuronaux<\/h2>\n
<\/a><\/p>\n<\/a><\/p>\nb<\/code>(indiqu\u00e9 en vert<\/strong> dans le diagramme ):<\/p>\n<\/a><\/p>\n<\/a><\/p>\n<\/a><\/p>\n(0, 1)<\/code>. Vous pouvez le consid\u00e9rer comme une compression de (\u2212\u221e, +\u221e)<\/code>\u00e0 (0, 1)<\/code>. De grands nombres n\u00e9gatifs deviennent ~0<\/code>, et de grands nombres positifs deviennent ~1<\/code>.<\/p>\nUn exemple simple de travail avec des neurones en Python<\/h2>\n
<\/a><\/p>\nw = [0,1]<\/code>Est juste une mani\u00e8re d’\u00e9crire w1 = 0, w2 = 1<\/code>sous forme vectorielle. Attribuons une entr\u00e9e avec une valeur au neurone x = [2, 3]<\/code>. Pour une repr\u00e9sentation plus compacte, le produit scalaire<\/a> sera utilis\u00e9 .<\/p>\n