next up previous contents index
Next: Kognitive Selbstorganisation Up: Begriffe, Komplexität und Bewußtsein Previous: Schlußfolgerungen

      
Komplexität in konnektionistischen Systemen

Wie bereits in Abschnitt 2.8 kurz dargestellt, haben konnektionistische Systeme in den letzten Jahren erheblich an Popularität gewonnen. Dreyfus Dreyfus[DD87] weist beispielsweise darauf hin, daß konnektionistische Verarbeitungsmodelle eine frappante Ähnlichkeit zu der scheinbaren Entstehungsweise menschlicher Kognitionen zeigen. Die Biologen Maturana und Varela haben eine neue Theorie über die Entstehung von biologischen kognitiven Systemen entwickelt, die sie auf empirische Forschungsergebnisse aus der Biologie stützen MaturanaVarela[MV87,Var90]. Darauf wird im nächsten Abschnitt noch näher eingegangen.

Dreyfus, Smolensky und andere sehen im Konnektionismus einen vielversprechenden Weg zu neuen Modellen menschlicher Intelligenz. Auch für die Kognitionswissenschaft wird den konnektionistischen   Modellen große Chancen eingeräumt.9.15 Konnektionistische Systeme basieren auf der Idee, eine Vielzahl von Verarbeitungseinheiten in einem System zu haben. Die Verarbeitungseinheiten sind untereinander stark vernetzt. Dadurch beeinflussen sich die einzelnen Verarbeitungseinheiten ständig gegenseitig in ihrer Funktion. Insbesondere erhofft man sich bei konnektionistischen Rechnerarchitekturen eine besondere Lern- bzw. Anpassungsfähigkeit in einer unbekannten Umgebung, die herkömmlichen Rechnerarchitekturen überlegen sein soll.9.16

Ein anderer Grund für die großen Hoffnungen, die in konnektionistische Ansätze gesetzt werden, mag die außerordentliche Schwierigkeit der exakten Analyse von dem sein, was in einem großen Netzwerk tatsächlich passiert und was potentiell passieren kann, nachdem eine Reihe von Eingaben stattgefunden haben. Wegen dieser Schwierigkeit kann man auch nicht so leicht erkennen, ob oder welche konnektionistischen Ansätze zu verwerfen sind. Minsky und Papert MinskyPapert[MP69] analysierten sogenannte Zweilagennetze auf ihr potentielles Lernverhalten. Dort stellten sie schwerwiegende Beschränkungen der Berechnungs- und Lernfähigkeit solcher Netze fest. Als Folge wurde die Förderung vieler Forschungsprojekte zu neuronalen Netzen gestrichen. Aber selbst die Analyse von solch eingeschränkten Netzen hatte bereits einen außergewöhnlichen Schwierigkeitsgrad, wie Papert Papert[Pap88] betont. Und die Analyse von komplizierteren Netzen erscheint noch erheblich schwieriger zu sein.

Für die Einschätzung der generellen Möglichkeiten von neuronalen oder konnektionistischen Berechnungsmodellen wurde von mir in Hoffmann Hoffmann[Hof90b] der Begriff der Kolmogoroffkomplexität vorgeschlagen. Der Vorteil dieser Methode besteht darin, daß eine exakte Analyse der einzelnen Netzwerkelemente und das teilweise hochkomplizierte Ineinandergreifen der vielen lokalen Knotenaktivitäten nicht erforderlich ist, um Aussagen über die mögliche Komplexität der letztendlich resultierenden (emergenten) Ausgangssignale zu machen.

Die Grundidee besteht darin, daß eine Beziehung zwischen der Entwurfs- oder Beschreibungskomplexität des Gesamtnetzwerkes und der Komplexität der damit berechenbaren Funktionen hergestellt wird.

Eine solche Beziehung wurde auch für lernende Netzwerke in Hoffmann Hoffmann[Hof90b] hergestellt. Dabei werden die möglichen Veränderungen der internen Zustände jedes einzelnen Netzwerkknotens erfaßt.

Aufgrund dieser Betrachtungen läßt sich sehr leicht sagen, daß beispielsweise das Netzwerk b) in Abbildung 8.5 keine wesentlich komplexere emergente Funktion berechnen kann, als das wesentlich kleinere Netzwerk a).

  
Abbildung 8.5: Zwei unterschiedlich große Netzwerke ähnlicher Struktur.
\begin{figure}\begin{center}\setlength{\unitlength}{.3mm}
\begin{picture}
(45...
...ck{{\Large\bf b)}}}
\end{picture}}
\par\end{picture}\par\end{center}\end{figure}

Dies läßt sich daran erkennen, daß eine Beschreibung des Netzwerkes b) nicht wesentlich umfangreicher sein muß, als die Beschreibung des Netzwerkes a). In Netzwerk b) ist das Netzwerk a) mehrfach enthalten.

Als Konsequenz dieses Zusammenhangs konnte in Hoffmann Hoffmann[Hof91b] gezeigt werden, daß generell die Bedeutung der Funktionalität des einzelnen Netzwerkknotens in einem großen Netzwerk gegenüber der Netzwerktopologie von immer geringerer Bedeutung für die Komplexität der emergenten Ausgangssignale ist.9.17

Wenn man sich Wittgenstein und Quine zur äußeren Erscheinung der menschlichen Sprach- bzw. Begriffsverwendung noch einmal verdeutlicht, so sind offensichtliche Parallelen zu den in den letzten Jahren so populär gewordenen subsymbolischen Ansätzen zur Informationsverarbeitung zu finden.9.18 Auch in vielen konnektionistischen Verarbeitungsmodellen lassen sich die folgenden Eigenschaften beobachten:

a)
Die Subsumption einer Erfahrung (eines Eingabemusters) unter einer Regel, einem Begriff, geschieht `holistisch' in dem Sinn, daß das gesamte Netzwerk seinen Beitrag für die Aktivierung eines bestimmten Ausgangssignals leistet.
b)
Das gesamte Netzwerk verändert sich mit jeder neuen Erfahrung (Eingabemuster) an vielen Stellen und nimmt dadurch die jeweilige Erfahrung in sich auf. Dies schlägt sich dann in einer potentiell veränderten Subsumption einer späteren Erfahrung nieder.

Diese `äußerlichen' Parallelen sieht Dreyfus Dreyfus[DD87,DD88] als Grund an, im konnektionistischen Paradigma, in subsymbolischen Verarbeitungsmodellen, nach einer adäquaten Modellierung menschlicher Intelligenz zu suchen.9.19

Vom Standpunkt der algorithmischen Informationstheorie ist dies allerdings ein äußerst fataler Fehlschluß ! Dreyfus schließt dabei von der Erkenntnis, daß Intelligenz auf einer sehr komplexen Struktur beruht, darauf, daß man lediglich einen Mechanismus benötigt, der ebenfalls diese Eigenschaft besitzt: namentlich, kompliziert und unübersichtlich zu sein.

Daß das eigentliche Problem nicht darin liegt, ein kompliziertes System zu entwickeln, sondern ein adäquates System, welches als akzidentielle Eigenschaft kompliziert sein muß, scheint er völlig zu übersehen ! Abgesehen davon, scheinen künstliche konnektionistische Systeme nur ein komplexeres Ein-/Ausgabeverhalten zu haben - im Sinne der algorithmischen Informationstheorie, wie in Hoffmann Hoffmann[Hof90b] gezeigt wurde. Weiterhin ist festzuhalten, daß man natürlich keine spezielle konnektionistische Architektur oder Ähnliches benötigt, um ein komplexes System zu entwickeln. Der konnektionistische Ansatz muß insofern erst noch nachweisen, daß er wenigstens gleichermaßen erfolgversprechend ist, wie die traditionellen Ansätze der symbolischen künstlichen Intelligenz. Denn abgesehen von dem bei beiden Ansätzen gleichermaßen vorhandenen Problem der Entwicklung eines adäquaten komplexen Systems, welches notwendigerweise einen enormen Entwicklungsaufwand erfordert, kommt bei dem konnektionistischen Ansatz das folgende erschwerend hinzu: Das letztlich resultierende Verhalten eines konnektionistischen Systems scheint erheblich schwerer zu übersehen zu sein, als das Verhalten eines symbolischen Systems. Dadurch bliebe jedoch kein Vorteil des Konnektionismus gegenüber dem symbolischen Ansatz mehr übrig !


next up previous contents index
Next: Kognitive Selbstorganisation Up: Begriffe, Komplexität und Bewußtsein Previous: Schlußfolgerungen
Achim Hoffmann
2002-07-12