Kontrollierbare Kognition. Stochastische Elemente in symbolischen und subsymbolischen Systemen

Abstract

Das intelligente Verhalten gegenwärtiger großer Sprachmodelle wird häufig im Modell einer black box als Emergenz von Symbolen aus statistischen Werten eines Datensatzes präsentiert. Als Gegenentwurf zu dieser Perspektive entwickelt der Artikel eine Genealogie von Systemen des maschinellen Lernens. Anhand zweier Beispiele wird gezeigt, dass die Integration eines stochastischen Elements in deterministische Strukturen eine historische Konstante dieser Technologie darstellt und auf unterschiedliche Weise umgesetzt wird. Vor diesem Hintergrund lässt sich der Begriff des Subsymbolischen, mit dem aktuelle konnektionistische Systeme charakterisiert werden, als Teil einer älteren Fiktion von kontrollier- und modellierbarer Kognition einordnen.

The intelligent behavior of current large language models is often described using the black box model, where symbols emerge from the statistical values of a dataset. To challenge this representation, the article opens up a genealogy of machine learning systems. Two examples demonstrate that the integration of a stochastic element into deterministic structures is a historical constant of this technology and is implemented in various ways. Against this background, the concept of the subsymbolic, which characterizes current connectionist systems, can be understood as part of an older fiction of controllable and modelable cognition.