neurale netværk

Et typisk neuralt netværk består af en række simple beregningsenheder, kaldet (kunstige) neuroner. En neuron har i lighed med biologiske nerveceller et antal input-kanaler (svarende til nervecellers dendritter) og en enkelt output-kanal (svarende til en nervecelles axon). Disse kanaler bærer signaler mellem neuronerne og forbindes med hinanden i kontaktpunkter, der kaldes (kunstige) synapser.

I hver synapse kan signalstyrken reguleres ved hjælp af en vægt, der multipliceres på og derved modificerer de signaler, der passerer igennem. Vægtene kan være både positive, stimulerende, og negative, hæmmende. Hvis en vægt er nul, går der intet signal igennem, og forbindelsen kan helt udelades. Hver neuron sammenligner den vægtede sum af alle indkommende signaler med en tærskelværdi, og hvis den overskrides, udsender neuronen selv et signal til de neuroner, den er forbundet med.

Et neuralt netværk omdanner, som ethvert andet informationsbehandlende system, input-signaler til output-signaler. Eksterne signaler påtrykkes input-neuroner i netværket, hvorefter det modificerer signalerne, der til sidst aflæses på output-neuroner. Signalerne kan repræsentere alle former for data, fx styringssignaler til maskiner, tidsserier af observationer, scannerbilleder m.m.

For at opnå et bestemt output som svar på et givet input er det nødvendigt at vælge vægte og tærskler rigtigt. Hertil benyttes en iterativ procedure, kaldet træning, hvor fejlen eller afvigelsen mellem et ønsket output og det output, netværket faktisk producerer, benyttes til at justere vægte og tærskler (back-propagation of errors). Den gennemsnitlige fejl på et stort antal træningseksempler falder støt, efterhånden som træningen skrider frem, og kan blive nul, hvis netværket er stort nok. Netværkets generalisationsevne bestemmes ved en test, hvor den gennemsnitlige fejl beregnes på et antal eksempler, som ikke er benyttet til træningen.

Neurale netværk blev indført af amerikanerne Warren S. McCulloch (1898-1972) og Walter Pitts (1923-69) i 1943. De viste, at deres netværk var universelle logiske beregnere, dvs. at de i princippet kunne implementere en vilkårlig logisk funktion.

Efter 1960 var det især den amerikanske psykolog Frank Rosenblatt, som dominerede udviklingen med sin perceptron, et lagdelt netværk, hvori information kun strømmede fremad (feed-forward). Udviklingen gik næsten i stå i 20 år, efter at Minsky og Papert i 1969 viste, at der var logiske funktioner, fx eksklusivt eller ("enten a eller b, men ikke begge"), som Rosenblatts simple perceptroner ikke kunne bringes til at udføre.

Interessen for kunstige neurale netværk genopstod i 1982 med en artikel af John Hopfield og for perceptroner især efter 1986 med genopdagelsen af back-propagation-algoritmen (beskrevet ovenfor), som faktisk var opdaget allerede i 1974, men ganske overset. Denne algoritme tillod træning af mere komplicerede perceptroner, som ikke var berørt af Minskys og Paperts kritik.

Forskningen accelererede stærkt i årene efter 1986, specielt fordi moderne computere tillod simulering af netværk, der var store nok til at udføre realistiske opgaver. Det meste af den moderne teoretiske forskning er gået i retning af forbedring af træningsalgoritmerne og beregning af generalisationsevnen for forskellige typer netværk. Specielt er det blevet muligt at beskære netværk ved at fjerne svage forbindelser, således at overtræning (indlæring af tilfældige fejl i træningseksemplerne) kan undgås.

I dag simuleres neurale netværk normalt i software i sædvanlige computere. Det har mange gange været forsøgt at implementere signaler, vægte og tærskler i elektronik og derved skabe en egentlig neurocomputer, men det har ikke vist sig profitabelt, fordi den digitale computers faldende pris og stærkt voksende hastighed i alle tilfælde har overhalet den specielle elektronik. Ofte implementeres et neuralt netværk blot som en enkelt komponent blandt mange i styrings- eller analysesystemer, hvor indlæring eller tilpasning er påkrævet.

Industrielle anvendelser af neurale netværk er kendt fra danske slagteriers klassifikation af slagtegrise, proceskontrol i metalfremstilling, kvalitetskontrol gennem forskellige typer billedscanning, opsporing af svindel med kreditkort og meget andet.

I medicinen anvendes neurale netværk til ikke-lineær statistisk analyse som diagnostisk støtte, fx i klassifikation af prøver for livmoderhalskræft.

I finansverdenen er der stigende anvendelse af netværkene til bl.a. forudsigelse af fremtidig udvikling i børs- og valutakurser.