Neuronale Netze - Assoziativspeicher

Neuronale Netze - Assoziativspeicher

Definition eines Assoziativspeichers: Speicher, auf den man durch seinen Inhalt zugreifen kann. Gegenstück: Adresspeicher (Zugriff durch die Adresse)

Der Assoziativspeicher ist die einfachste Form eines Neuronalen Netzes. Er besteht aus einer X-Schicht und einer Y-Schicht, welche durch Gewichtungen verbunden sind. Für jedes Neuron der X-Schicht existiert jeweils eine Gewichtung zu jedem Neuron der Y-Schicht, d.h. jedes Neuron der X-Schicht ist mit jedem Neuron der Y-Schicht, aber mit keinem Neuron der X-Schicht, verbunden. Die Neuronen der X-Schicht sind die Eingangsneuronen und die der Y-Schicht die Ausgangsneuronen. Jedes Neuron im Assoziativspeicher kann den Zustand +1 bzw. -1 annehmen. Beim Anlegen eines neuen Netzes, werden die Gewichtungen auf "0' gesetzt.

Das Wissen eines Neuronalen Netzes ist über sämtliche Gewichtungen verteilt. Die Interpretation dieser Daten ist praktisch nicht möglich. Die Anzahl der Daten eines Assoziativspeichers D ist kleiner oder höchstens gleich der Anzahl der Neuronen in der kleineren Schicht

Neuron

Y-Schicht

Gewichtungen W

X-Schicht

Überlegungen:

Es müssen genügend Inputs vorhanden sein, um ein Muster richtig zu interpretieren.

Es sollten nicht zu viele Inputs vorhanden sein, da jedes neue Eingabeneuron wiederum mit jedem Ausgabeneuron verbunden sein muß. Dadurch wird das Netz beim Ausführen und Trainieren langsamer.

Es sollten möglichst wenig Outputs verwendet werden, da das Netz sonst langsam wird und ein zusätzliches Ausgabeneuron keinen Vorteil bringt.

Transferfunktion:

A_j = a W_ij*X_i

0 A_j

Einfacher:

Y_j = 1, wenn a W_ij*X_i > 0

Y_j = 0, wenn a W_ij*X_i kleiner oder gleich 0 ist

Ausführen des Netzes

Y_j = T(a W_ij*X_i)

Um einen Assoziativspeicher auszuführen, muß das Netz mit dem Input belegt werden. Danach wird die oben angegebene Formel angewandt, welche in der Y-Schicht das Ergebnis liefert.

Beispiel:

Berechnung von Y₁ wenn X=

Gewichtungen:

Trainieren des Netzes

W_ij = W_ij + X_iY_j

Um einen Assoziativspeicher zu trainieren, muß das Netz mit dem Input und dem Output belegt werden. Danach wird die oben angegebene Formel angewandt, welche die Werte der Gewichtungen ändert. Danach muß das Netz ausgeführt werden, um festzustellen ob es die neuen Eingaben gelernt hat. Das Netz wird sooft trainiert, bis es die Eingaben beherrscht. Es ist allerdings zu erwarten, daß bereits vorher gelernte Inputs, nun ein falsches Output liefern => müssen erneut trainiert werden.

Beispiel:

Vor dem Trainieren mit X= und Y=

Nach dem Trainieren:

Es wurde jede Gewichtung mit Hilfe der obigen Formel geändert.