ANN
Einzelne Verarbeitungseinheit

Das zentrale Paradigma neuronaler Netze basiert auf dem Prinzip der lokalen vernetzten Berechnungen. Das bedeutet, dass neuronale Netzwerke ihre Mächtigkeit durch die Verknüpfung vieler Verarbeitungseinheiten (so genannter Neuronen) erhalten, die selbst nur sehr einschränkte Möglichkeiten haben und nichts über die "höheren" Ziele des Netzwerks wissen. Das Know-how des Netzwerks befindet sich deshalb nicht in den Verarbeitungseinheiten, sondern in den Verbindungen.

Die eigentliche Implementierung einer Verarbeitungseinheit kann sehr unterschiedlich sein und hängt vom verwendeten Netzwerkmodell ab. Das unten dargestellte Beispiel zeigt ein Neuron, wie es in Multi-layer Perceptrons verwendet wird.

Diese Verarbeitungseinheit besteht aus drei Teilen:

• dem Eingangssignal des Neurons, das aus allen eingehenden Verbindungen berechnet wird,
• der Aktivierungsfunktion und
• der Ausgabefunktion.

Die Unterscheidung zwischen Aktivierungs- und Ausgabefunktion ist eher willkürlich und wird oft vernachlässigt, indem eine dieser Funktionen als Einheitsfunktion betrachtet wird. Wichtig ist, dass eine dieser Funktionen eine nicht lineare Response-Kurve aufweist (meistens eine sigmoide Kurve).