Lernverfahren der Neuronalen Netze

Das Lernen innerhalb eines Netzes erfolgt durch Selbstmodifikation gemäß einer fest vorgegebenen Vorschrift (Lernregel). Prinzipiell kann der Lernprozeß bestehen aus

• Entwicklung neuer Verbindungen
• Löschen existierender Verbindungen
• Modifikation der Stärken der Verbindungen (Veränderung der Gewichte)
• Modifikation des Schwellenwertes
• Modifikation der Aktivierungs- bzw. Ausgabefunktion
• Entwickeln neuer Zellen
• Löschen bestehender Zellen

Hierbei ist die dritte Methode, also ein Lernen durch Veränderung der Gewichte, die am häufigsten verwendete. Erst in letzter Zeit haben Verfahren, die auch eine Veränderung der Topologie beinhalten, eine zunehmende Bedeutung gefunden.

Eine weitere Unterscheidung besteht in der Art des verwendeten Lernparadigmas. Hier lassen sich prinzipiell drei Arten unterscheiden

Überwachtes Lernen (supervised learning). Beim überwachten Lernen gibt ein "externer" Lehrer dem Netz zu jeder Eingabe die korrekte Ausgabe oder die Differenz der tatsächlichen Ausgabe zu der korrekten Ausgabe an. Anhand dieser Differenz wird dann über die Lernregel das Netz modifiziert. Diese Technik setzt allerdings die Existenz von Trainingsdaten voraus, die aus Paaren von Ein- und Ausgabedaten bestehen.

Bestärkendes Lernen (reinforcement learning). Der Unterschied zum überwachten Lernen besteht hier darin, daß dem Netz lediglich mitgeteilt wird, ob seine Ausgabe korrekt oder falsch war. Das Netz erfährt nicht den exakten Wert des Unterschiedes.

Unüberwachtes Lernen (unsupervised learning). Bei diesem Lernparadigma (auch self-organized learning genannt) gibt es überhaupt keinen externen Lehrer. Das Netz versucht ohne Beeinflussung von außen die präsentierten Daten selbständig in Ähnlichkeitsklassen aufzuteilen.

Neben den aufgezeigten Variationsmöglichkeiten – und damit Klassifikationsmöglichkeiten – für Neuronale Netze lassen sich hinsichtlich der Äquivalenz der Neuronen innerhalb des Netzes weitere Varianten einführen, z.B.:

• Alle Neuronen des Netzes besitzen die gleiche Aktivierungs- bzw. Ausgabefunktion
• Nur die Neuronen innerhalb einer Schicht besitzen die gleiche Aktivierungs- bzw. Ausgabefunktion
• Alle Neuronen des Netzes besitzen unterschiedliche Aktivierungs- bzw. Ausgabefunktionen.

Auch die Lernregel müßen nicht für alle Neuronen identisch sein. Es ist sogar möglich, daß ein Neuron mehrere Lernregeln besitzt und z.B. jedes seiner Gewichte nach einer individuellen Lernregel modifiziert.

Wie man aus dieser Vielzahl von Variationsmöglichkeiten ersieht, gibt es nicht das Neuronale Netz, sondern eine Vielzahl unterschiedlicher Konzepte, denen jedoch allen gewisse Grundprinzipien gemeinsam sind.

© Prof. Dr. J. Gasteiger, Dr. Th. Engel, A. Hofmann, CCC Univ. Erlangen, Thu Apr 15 06:31:57 2004 GMT
 BMBF-Leitprojekt Vernetztes Studium - Chemie