Counterpropagation Netzwerke

Das Counterpropagation-Netzwerk gehört zu der Klasse der überwachten Lernverfahren. Beim überwachten Lernen (supervised learning) werden dem neuronalen Netz während des Trainingsprozesses im Gegensatz zu den Kohonen-Netzwerken sowohl die Eingabemuster als auch die gewünschten Ausgabemuster übergeben. Während der Berechnung wird das neuronale Netzwerk in der Weise modifiziert, dass ein Fehlersignal minimiert wird. Das Fehlersignal ergibt sich dabei aus der Berechnung der Differenz zwischen erzeugter und vorgegebener Ausgabe. Die Ausgabe des Counterpropagation-Netzwerkes basiert im Gegensatz zum Kohonen-Netzwerk nicht nur auf den Gewichtungen eines einzelnen Neurons. Auch ist sie nicht das Resultat eines Ausgabevektors aller Neuronen, wie beispielsweise im Back-Propagation-Ansatz. Vielmehr basiert die Ausgabe aus den Gewichtungen des Gewinnerneurons mit allen Ausgabeneuronen. Counterpropagation-Netzwerke eignen sich insbesondere für die Vorhersage von molekularen Eigenschaften. So können beispielsweise neue chemische Strukturen hinsichtlich ihrer strukturellen Ähnlichkeit klassifiziert werden.

Ein Counterpropagation-Netzwerk ist eine Methode des überwachten Lernens, welche für Vorhersagen genutzt werden kann. Es besitzt eine 2-Schichten Architektur bei dem jedes Neuron in der oberen Schicht, der Kohonen-Schicht, ein entsprechendes Neuron in der unteren Schicht, der Ausgabe-Schicht hat.

Ein Counterpropagation-Netzwerk dargestellt als zwei Boxen. Die obere Box enthält die Gewichte der Eingabe-Einheit, wohingegen die Untere die der Ausgabe-Schicht enthält.

Ein trainiertes Counterpropagation-Netzwerk kann als Nachschlagetabelle genutzt werden; wobei ein Neuron in einer Schicht einen Zeiger auf eine andere Schicht darstellt.

Architektur:

Die Architektur eines Counterpropagation-Netzwerkes gleicht der eines Kohonen Netzes, allerdings hat es zu der kubischen Eingabeschicht eine zusätzliche Ausgabe-Schicht. Die Eingabe-Objekte bestehen somit aus zwei Teilen, dem m-dimensionalen Eingabevektor (vgl. Kohonen Netz) plus einem zweiten, k-dimensionalen Vektor mit den Eigenschaften für dieses Objekt.

Training:

Während des Trainings wird die Eingabeschicht wie in einem normalen Kohonen Netz angepasst, d.h. das winning Neuron wird nur aufgrund der Eingabewerte ermittelt. Aber im Gegensatz zum Training des Kohonen Netzes wird auch die Ausgabeschicht angepasst, wodurch dieses Netz für Vorhersagen genutzt werden kann. Die Ausgabegewichte sind entsprechend folgender Gleichung korrigiert:

Wobei y_i eine Komponente des Ausgabevektors ist, c ist der Index des winning Neurons, J ist der Index des benachbarten, korrigierten Neurons und c_j enthält die Ausgabegewichte des Neuron j; t_n(t) und a(d_c-d_j) entsprechen der Gleichung des Backpropagations-Netzes.

Anwendung:

Eine Anwendungsmöglichkeit für Counterpropagation-Netzwerke ist die Simulation von IR-Spektren. Das Counterpropagation-Netzwerk wird hierbei mit Molekülen und ihren entsprechenden IR-Spektren trainiert wodurch das Netz die Verknüpfung zwischen der Molekülstruktur und dem IR-Spektrum lernt. Mit der Eingabe einer neuen chemischen Struktur in das trainierte Netz, wird in der oberen Schicht das winning Neuron für diese Struktur bestimmt. Diese zeigt wiederum auf das IR-Spektrum in der unteren Schicht des Netzes.

© Prof. Dr. J. Gasteiger, Dr. Th. Engel, CCC Univ. Erlangen, Thu Apr 15 06:31:58 2004 GMT
 BMBF-Leitprojekt Vernetztes Studium - Chemie