Neuronale Netze

Aus indiepedia.de
Wechseln zu: Navigation, Suche

Neuronale Netze werden im Zusammenhang mit Musik als komplexe modellhafte algorithmische Annäherungen an neuronale Prozesse bei Menschen oder Tieren verwendet und finden sich in diverser Musik-Hard- und Software wieder. Eine komplette Kongruenz zwischen physikalischen Ereignissen und der Verarbeitung von Schallsignalen bei der Hörwahrnehmung besteht nicht. Der Ausgangspunkt ist, wo er nicht unmittelbar kompositorisch ist, ein analytisches Interesse, bei dem die Systematisierung von Mustererkennung, Suchvorgängen und Funktionsgeneralisierungen im Vordergrund stehen.[1]

Hintergrund

Es wird unterschieden zwischen neuronalen Netzen, die physiologisch mit dem Nervensystem angelegt sind, und künstlichen neuronalen Netzen, die mit unterschiedlichen Zielsetzungen auf Grundlage von Simulationen zumeist des menschlichen Nervensystems unterschiedliche Resultate erzielen. Mehrschichtige künstliche neuronale Netze berücksichtigen unterschiedliche Zeit- oder weitere Lernparameter.

Neurone

Die Informationsverarbeitung im Nervensystem geschieht auf elektrochemischer Basis. Ein Neuron ist ein Schwellenwertschalter, der mit mindestens einem Eingang und einem Ausgang versehen ist. Beim Informationseingang treffen gewöhnlich mehrere unterschiedlich gewichtete elektrische Impulse ein, bis ein Schwellenwert erreicht ist, der das Neuron zum Feuern veranlasst.[2] Diese Impulse können unterschiedliche Intensitäten besitzen, die Intensitäten werden mit einer relationalen Gewichtung am Eingang eines Zielneurons errechnet und sind bei künstlichen Neuronen zum Beispiel mit Potentiometern einstellbar angelegt. Die Aktionspotentiale der Neuronen verlaufen unidirektional und nichtlinear, der Output verhält sich demnach nicht proportional zu den Inputs. Ein Neuron zeichnet sich im Vergleich zu seiner Umgebung durch eine Ladungsdifferenz aus, das heißt, es befinden sich im Neuron mehr positiv oder negativ geladene Ionen als in der Umgebung, die Differenz nennt sich Membranpotential. Wenn Impulse eintreffen, nimmt die Differenz ab, bis das Neuron feuert. Das Membranpotential eines ruhenden Neurons beträgt etwa -70 mV, der Schwellenwert etwa -55 mV, auch der Ruhezustand wird vom Neuron aktiv erhalten.

Biologische neuronale Netze

Stationen der Hörwahrnehmung sind:

  • physikalische Einflüsse: Zeit, Frequenz, Amplitude, Unschärferelation
  • physiologische, neuronale Einflüsse: Puls, Frequenz, Verortung, komplett dezentral angelegter Speicher, dezentrale Informationsverarbeitung
  • Lernfähigkeit und Sozialisation, Gewohnheiten: Erinnerung, Lernen, Motivation
  • Auswertung von Erfahrungen, Geschmack, Routinenbildung und -reflektion, individuell, gruppenspezifisch[3]

Künstliche neuronale Netze

  • Künstliche neuronale Netze karikieren die Biologie.[4]

Geschichte

Künstliche, artifizielle oder technische neuronale Netze werden seit Beginn der 1940er Jahre etwa zeitgleich mit der Erfindung des ersten Elektronengehirns, des Vorläufers des Computers, angelegt. Das erste kommerziell verwertete neuronale System fand sich in analogen Telefonen. Entgegen der neuronalen Tätigkeit bei lebenden Systemen, bei denen die neuronalen Netze massiv parallel arbeiten, arbeitet der Computer zunächst seriell. Das bedeutet, dass im Gehirn jede Komponente ständig aktiv ist, während die Ausführungen beim Computer jeweils adressiert werden. Ein einfacher Roboter befragt also bei komplexen Aufgaben kontinuierlich das Netz, das ihm Informationen zum Beispiel für den Antrieb seiner Motoren liefert. 1958 wurde das Perzeptron als SLP (einschichtiges oder Singlelayerperceptron) vorgestellt, ein vereinfachtes künstliches neuronales Netz, auf das bis heute als Modell für Vereinfachungen zurückgegriffen wird. Als Ende der 1960er Jahre deutlich wurde, dass die Annahme, man habe sozusagen intelligente, jedenfalls lernfähige Systeme erschaffen und damit die Grundlage für die Lösung aller möglichen Probleme vorgelegt, unberechtigt war, wurde die Forschung bis Mitte der 1980er Jahre mehr oder weniger auf Eis gelegt. Erst mit einem Lösungsansatz für das sogenannte Problem des Handlungsreisenden durch John Hopfield (Hopfieldnetze) und die Entdeckung mehrschichtiger, parallel arbeitender neuronaler Netze, die das Problem der Serialität von Computerprozessen in Angriff nahmen und beliebige Muster und Funktionen abbilden können (MLPs, Multilayerperceptron), wurde das öffentliche Interesse und damit die Forschung wieder angekurbelt[5], mit Multilayerperzeptons wurden universelle Funktionsapproximatoren zur Verfügung gestellt.[6] Im Forschungszentrum Jülich wird seit Beginn des Jahres 2013 europäischen Forschern die Simulation des Nervensystems in vielen unterschiedlichen Ansätzen anhand der Verwendung von Supercomputern ermöglicht.[7]

Aufgaben, Problemstellungen

Bei künstlichen neuronalen Netzen sind zentrale Fragestellungen, auf welche Weise ein Computer dazu gebracht werden kann, selbständig zu lernen oder ob kognitive physiologische Prozesse auf Programmierebene vorbildhaft verwendet werden können. Fehlertoleranz ist eine zu berücksichtigende Größe in dieser Hinsicht.[8] Besonders solche Eigenschaften sollen im Zusammenhang mit künstlichen neuronalen Netzen zum Ausdruck kommen. Zugleich erschweren gerade diese auch die Analyse neuronaler Prozesse beim Menschen. Umstrukturierungsprozesse, Lernverhalten und Fehlerkompensationen sind inbezug auf computergestützte neuronale Netze weitgehend auf das Eingreifen von Menschen angewiesen, das Gehirn aber, so scheint es, strukturiert sich aufgrund der eingehenden Informationen und deren Interpretation, selbst um (Neuroplastizität). Ein neuronales Netz wird zum Beispiel in Form einer mehrschichtigen Verknüpfung von Intervallen und Generationen als Computersimulation erzeugt:

  • Guppies - Evolving neural networks (w.i.p.) [16] Teil 1 von 3 bei Youtube

Netztopologien

Unter Netztopologie wird die jeweilige Architektur eines neuronalen Netzes verstanden. Unterschieden werden FeedForward-Netze (mehrschichtige Netze auch mit ShortCut-Verbindungen), Feedback-, rekurrente oder rückgekoppelte Netze (Ausgang zu Eingang, direkt oder indirekt) und variable Netze mit veränderbarer Topologie, Perzeptrons, Kohonennetze bzw. Selbstorganisierende Karten (SOMs verändern die Positionen von Neuronen je nach Eingabe zu unterschiedlichen komplexen Mustern)[9], Radiale Basisfunktionsnetze (RBF), Jordannetze, Elmannetze, Neocognitron (zur Erkennung handgeschriebener Zeichen), Hopfieldnetze (zum Beispiel zur Korrektur verrauschter Eingaben), ART-Netze.

Standardkomponenten und Funktionen neuronaler Netze

  • Neuronen (Schwellenwertschalter): Propagierung (gewichtete Summe), Aktivierung oder Transfer (Dimmer), Ausgabe (Impuls, Intensität), Bias- oder On-Neuron
  • Verbindungen (Dendriten)
  • Neuronaler Assoziativspeicher (dezentral, lineare Assoziatoren)
  • Rechengrundlagen: zwei Mengen (Neuronenmenge, Verbindungsmenge), Gewichtungsfunktion (Gewichte)
  • Neuronales Gas = sehr viele komplex geordnete Neuronen auf versteckten Schichten (hidden layers)
  • Selbstorganisation und Stabilität (der Lernfähigkeit, ohne erlernte Assoziationen wieder zu zerstören, vgl.: Stabilitäts-Plastizitäts-Dilemma)
  • Entrainment: Identitätsfunktion (Funktionieren einer identischen Ein- und Ausgabe), 8-3-8-Problem, Clusteranalyse, Zeitreihenvorhersage (Prediktorsysteme), Stichworte: Problemrepräsentation, Trainingsmenge, Trainingsbeispiele
  • Lernverfahren: Algorithmus (oft evolutionäre Algorithmen), Formeln, Superformeln
  • Lernkurve, Lernrate
  • Gradientenabstieg
  • Boolsche Funktion (XOR, AND OR)
  • Topologiefunktion, Abstandsfunktion
  • Gauß-, Kegel-, Zylinder-, Mexican-Hat-Funktion
  • Hebbsche Lernregel
  • Delta- oder Widrow-Hoff-Lernregel
  • Root-Mean-Square
  • Euklidischer Abstand
  • Winner-Takes-All-Schema
  • Binäre-Schwellenwert- oder Heaviside-Funktion / Logistische oder Fermifunktion / Tangens Hyperbolicus / stochastische Aktivierung (Aktivierungsfunktionen, siehe oben)

Lernparadigmen

Gelernt wird online (Veränderung der Gewichtungen pro Durchlauf) oder offline (aus einer Anzahl von Durchläufen wird ein Fehler- oder Differenzvektor errechnet, der als Grundlage zur Korrektur in die nächste Eingabe mit einfließt, Batch-Trainingsverfahren – ein Zyklus = eine Epoche). Grundsätzlich werden drei unterschiedliche Lernparadigmen unterstützt:

  • Unüberwachtes Lernen: Mustererkennung (pattern recognition) und Klassifizierung (das Netz erweitert sich selbständig).
  • Bestärkendes Lernen: Nach jedem Durchlauf wird das Ergebnis als richtig oder falsch beurteilt und zur Grundlage des nächsten Durchlaufs als Korrektiv verwendet (Zuckerbrot und Peitsche).
  • Überwachtes Lernen: Anhand einer, Trainingsmenge genannten, Eingabe, deren korrektes Ergebnis bekannt ist, werden die Netzgewichtungen optimiert. Hier steht die Generalisierungsfähigkeit von Netzen im Vordergrund.

Top-Down, Bottom-Up

  • In Top-Down-Ansätzen wird versucht, Netze zusammenhängend abzubilden, in Bottom-Up-Ansätzen werden Netze aus einzelnen Neuronen zusammengesetzt, die selbst auch entsprechend gestaltet werden.
  • Bei Top-Down-Eingaben werden die Eingaben unabhängig von vorherigen Resultaten aus dem gleichen Netz vorgenommen, bei Bottom-Up-Eingaben kommt die Resonanz hinzu, das heißt, die Gewichtungen erfolgen aufgrund vorheriger Durchläufe, die Gewichte zum Beispiel eines Gewinnerneurons werden zurück zur Eingabeschicht (in ART-Netzen) trainiert, auf diese Weise wird das Netz trainiert.

Werkzeuge

  • Snipe NeuralNetworkDescriptor
  • Hinton-Darstellung (Matrix)
  • Adaptive Resonanztheorie
  • Aktivierungszyklen (synchron, asynchron, stochastisch, stochastische Permutation einer Reihe, topologisch, definiert)
  • diskrete Zeitschritte

Lehre und Forschung

Das Gebiet, in dem neuronale Vorgänge in Zusammenhang mit Musik erforscht werden, ist die Systematische Musikwissenschaft.[10] Im angloamerikanischen Sprachraum gibt es die Cognitive neuroscience of music als eigene Disziplin, in der die entsprechenden Hintergründe erforscht und vermittelt werden.[11] Angrenzende Fachbereiche sind Neurologie, Neuroanatomie, Psychologie, Music Theory und Computerwissenschaften. Eine Fülle fachwissenschaftlicher Beiträge ist im Internet zu finden, Anwendungen gibt es bisher jedoch nur wenige.

Therapeutische und erkenntnistheoretische Aspekte

„Das einzige, was ein Lebewesen in seiner Umwelt wirklich tun kann, ist ja, sich zu bewegen.“[12]

  • Unterschiedliche Ansätze zur Ermittlung therapeutisch wertvoller Instrumente werden zum Beispiel in Form „heilender Frequenzen“ verfolgt, dazu gehört die sogenannte Schumann-Frequenz, der Sinuston bei 528 Hz zur „DNA-Reinigung“, 432 Hz zur Reinigung der Chakras, 741 Hz zur spirituellen Stärkung usw., binaurales Klanggeschehen: ★ Nerve Regeneration ★ Binaural Beats + Isochronic Tones (ASMR) [17], zum Ausgleich der Hirnstimulationen: BST Affiliate in News - Neural Resonance - Brain Music KFOR NBC 4 Oklahoma City [18] Videolinks: Youtube.
  • Zum Teil wird mit solchen Modellen die Bestätigung von Restriktiven, zum Beispiel Universalien[13], verbunden – die Musik bestimmende Universalien (zum Beispiel: Zeit, Sprache oder Motorik) oder der Musik als Universalie und Grundform strukturiert-strukturierender Bewegung von Molekülen oder der Messung und Verortung der zeitlichen Abstände/Intensitäten von Neuronenfeuern an unterschiedlichen Teilen des Cortex.[14]

Musikalische neuronale Netze

Diagnose in den Massenmedien

Eine weiter gefasstes, oft intuitives und entsprechend spekulatives öffentliches Interesse schlägt den Bogen zu existenzielleren Betrachtungen, bei denen Musik als fest installierte physikalische Größe interpretiert wird.[15] Der Körper wird als steuernder Orientierungspunkt für musikalische Handlungen verstanden, so zum Beispiel das Tempo des Herzschlags als Bezugsgröße usw..[16] Das Interesse erstreckt sich hier auch auf die Musikalische Sozialisation und kulturelle Differenzen:

„Das Hirn ist ein kulturelles Organ, es ist das biologische Organ der Kultur, ja, es hat viele genetische Beschränkungen, sehr viele sogar, die führen natürlich zu Universalien in der Musik, aber es gibt riesige kulturelle Unterschiede.“[17]

Neuronale Signalprozessierung

Bei den recherchierbaren Fällen der Repräsentation neuronaler Netze im Zusammenhang mit Klangsynthese sowie den bisher erhältlichen kommerziellen Hardware-Umsetzungen steht die Nichtlinearität der Klangsynthese im Vordergrund. Ebenso spielen flexible Aktivierungsfunktionen eine Rolle. Stichworte sind: Nonlineare Audioprozessoren, Neuronale Netzwerke für Signalprozessierung, Spline neuronale Netzwerke, Spektralanalyse, Signal-Vorverzerrung, Physikalische Modellierung, Pseudophysikalische Modelle, adaptive nichtlineare Filter, Echofilter in digitalen Radiosystemen, elektrodynamische Lautsprecher, Spracherkennung, Volterra Filter, funktionale Approximation, Mapping (Karten), Signalkorrektur, transversale und rekursive Filter, Sub-Band-Filter, Polynomfilter.

Neuronale Bausteine oder Algorithmen werden zumeist durch Funktionsabstraktionen gewonnen, bei denen lineare Bausteine bis zur Möglichkeit non-linearer Umsetzung generalisiert werden. In vollständig verbundenen Netzen sind direkte Rückkopplungen und asymmetrische Verbindungen nicht erlaubt. Elektronische Bausteine, die berücksichtigt werden können, sind zum Beispiel:

  • Feedback (Neuron: Ausgang zu Eingang Kopplung), Ringmodulatoren, adaptive Filter, Fotozellen und Sensoren aller Art, Potentiometer, Hüllkurvengeneratoren, Matrizen (Steckfelder) und weitere.

Musik und Musiker

Besonders in den 1990er Jahren wurde eine handvoll Kompositionen explizit mit dem Hintergrund der Integration neuronaler Netzwerke veröffentlicht. Die bekanntesten dürften von David Tudor im Rahmen von Live-Elektronik-Anordnungen zu Beginn der neunziger Jahre entstanden sein.[18] Inzwischen sind evolutionäre und nichtlineare Algorithmen in Programmen und Anwendungen der Musikproduktion hin und wieder zu finden.

Siehe auch

Computermusik, Molekulare Musik, Repetitive Musik, Musikalische Sozialisation, Physikalische Modellierung (PM-Synthese), Algorithmische Komposition, Spektralmusik, Pure data, Musik im Internet, Serielle Musik, Postserielle Musik, Live-Elektronik, Circuit bending, Databending, Visuelle Musik, Elektronische Musik, Virtuelles Idol, Musikalisches Werk, Soundchip, Time Lag Accumulator

Einzelnachweise

  1. vgl. auch den Artikel Musik im Internet und die dortige Abbildung zum Music Information Retrieval.
  2. Neuron Synapse (2009) [1] anschauliche Darstellung feuernder Neuronen bei Youtube, Uploader: Great Pacific Media
  3. siehe auch den Artikel Universalien der Musikwahrnehmung, Abschnitt Rahmenbedingungen [2] bei der de.wiki
  4. David Kriesel – Überblick, siehe Weblinks, Seite 33
  5. Artikel Problem des Handlungsreisenden [3] bei der de.wiki
  6. Stephan Trenn – Quantitative Analyse neuronaler Netze als universelle Funktionsapproximatoren (2006) [4] bei Research.Stephan Trenn.de
  7. Simulation Laboratory Neuroscience, Jülich [5] beim Informationsdienst Wissenschaft
  8. Das wird besonders bei Captchas deutlich, die Abstraktionsfähigkeit des Gehirns kommt dabei zum Tragen. Auch die Fourieranalyse zum Beispiel zur Konvertierung von Audiodateien in mp3s wird aus ebendiesen Gründen kritisiert, psychoakustisch wirksame Frequenzen werden zumeist getilgt.
  9. Tonerkennung mit selbstorganisierenden Karten (SOM) – self organizing map music note classifier [6] bei Youtube, Uploader: kyoussef321
  10. Grundlagen zur Höverarbeitung im Artikel Auditive Wahrnehmung [7] bei der de.wiki, vgl. auch die Diskussion des Artikels [8] bei der de.wiki
  11. zur Vertiefung der Grundlagen zur Hörwahrnehmung, vgl. den Artikel Cognitive neuroscience of music [9] bei der en.wiki, in der Einleitung: Der Fachbereich hat es zunehmend mit Musikästhetik und der Frage nach Emotiven zu tun. Die Zusammenhänge zwischen Musikperzeption und -produktion werden bei der en.wiki zur Zeit noch getrennt behandelt, der entsprechende Artikel Perception and production of music [10] bei der en.wiki ist nahezu redundant zum erstgenannten.
  12. David Kriesel – Überblick, siehe Weblinks, Seite 27
  13. Universalien als Restriktive, entsprechend einer im Text weiter unten ausgeführten Interpretation von Jamshed Barusha: Universalien sind Beschränkungen, denen wir unterliegen, vgl. Noten und Neuronen, Teil 5 [11] ab min. 6:35 bei Youtube
  14. Artikel Universalien der Musikwahrnehmung [12] bei der de.wiki
  15. Noten und Neuronen (Playlist, Teil 6, identisch mit der Vollversion, siehe unten) [13] „Ist Musik eine angeborene Hirnfunktion oder ist sie etwas, das wir aus verschiedenen Fähigkeiten zusammengebaut und daraus etwas Neues geschaffen haben?“ ab min. 8:00 bei Youtube
  16. Noten und Neuronen [14] 90 Minuten Dokumentation bei Youtube, ab min. 14:14
  17. ebd.
  18. Album-Notes zu David Tudors Neural Synthesis [15] bei Lovely.com

Weblinks

Hauptquelle für diesen Artikel:

  • David Kriesel – Ein kleiner Überblick über Neuronale Netze (ZETA-2 DE Version, 2014) [19] bei David Kriesel. Aufgrund des Stellenwerts der Publikation bei der Recherche zu diesem Artikel ist möglicherweise nicht jede Formulierung, die übernommen wurde, als Zitat ausgewiesen.

Allgemein

  • Startseite [20] bei Neuronales Netz.de
  • Aurelio Uncini – Neurocomputing. Audio signal processing by neural networks. (2003) [21] PDF bei Uncini.com, discrete-time neural architectures for real-time on-line signal processing (especially audioprocessing) applications
  • Bild Artificial Neuron Model [22] bei Wikimedia
  • Grafik Neural Network Model [23] bei Wikimedia

Musik Artikel

  • Composing Music with LSTM Recurrent Networks - Blues Improvisation [24] bei idsia.ch
  • Samira Anderson / Nina Kraus – Neural Encoding of Speech and Music: Implications for Hearing Speech in Noise (2011) [25] bei soc.northwestern
  • Uwe Seifert / Jin Hyun Kim / Anthony Moore (eds.) – Paradoxe der Interaktivität (2015) [26] bei transcript
  • Artikel Music cognition [27] bei der en.wiki
  • Zeitschrift Neural [28] zur Critical digital culture and media arts
  • Hartmann Neuron (Synthesizer, 2002) [29] Neuronale Klangsynthese bei Sequencer.de, auf den Begriff wurde offenbar ein Patent angemeldet
  • Jürgen Michaelis – Resonator Neuronium (Synthesizer, 2000) [30] bei JayeM.sonic
  • Neural Network Audio Synthesizer (Synthesizer, 1992) [31] bei Warthman.com

Musik Beispiele

  • Michael Eßerartificial neural network (2011) [32] Visuelle Musik bei Youtube, Uploader: Musik und Medien
  • Dan LloydThis is your brain on CHINA: a brainmusic video (2011) [33] bei Youtube
  • Sonifikation von Hirnscans (2009) [34] bei Youtube, Uploader: Dan Lloyd
  • BRAIN BLUES: schizophrenia brain images as music (2009) [35] bei Youtube, Uploader: Dan Lloyd
  • Dynamic Emotional and Neural Responses to Music (2011) [36] bei Youtube, Uploader: Music Dynamics Lab
  • Pure Data Neuronic Orchestra [37] bei Youtube, Uploader: Harvie

Links im Juni 2017.