Tickt künstliche Intelligenz (KI) wie der Mensch, wenn es um Sprache geht? Es scheint so, wie Untersuchungen von Jan Digutsch (Institute of Behavioral Science and Technology, Universität St.Gallen) und Michal Kosinski (Stanford Graduate School of Business) zeigen.

Die beiden Forscher haben ihre Ergebnisse in einem Aufsatz zusammengefasst, der jetzt auf der Plattform des renommierten Wissenschaftsjournals Nature frei zugänglich ist. Der Titel lautet: «Overlap in meaning is a stronger predictor of semantic activation in GPT-3 than in humans.»

Grosse KI-Sprachmodelle wie GPT-3 erzeugen Texte, die von jenen, die Menschen geschrieben haben, praktisch nicht zu unterscheiden sind. In Verständnis- und standardisierten Sprachtests erzielen die Modelle nahezu menschliche Leistungen. Ihre Komplexität macht es jedoch schwierig, die genaue Funktionsweise des zugrundeliegenden neuronalen Netzwerks zu erklären oder vorherzusagen.

Digutsch und Kosinski haben nun untersucht, wie semantische Aktivierungen bei GPT-3 funktionieren. Sie wollten verstehen, wie GPT-3 seine Worte wählt und so Sinnzusammenhänge konstruiert. Dabei fanden sie heraus, dass semantische Aktivierungsmuster von GPT-3 denen ähneln, die beim Menschen beobachtet wurden, mit einer signifikant höheren Aktivierung bei verwandten Wortpaaren (z.B. «Limette-Zitrone») als bei anderen verwandten (z.B. «Sauer-Zitrone») oder nicht verwandten Paaren (z.B. «Tourist-Zitrone»).

Sprachmodelle wie GPT-3 oder ChatGPT scheinen also nicht nur fast menschliche Leistungen bei Sprachaufgaben zu erzielen, sondern auch psychologische Mechanismen aufzugreifen, die Menschen bei der Verwendung von Sprache nutzen. Die Untersuchungsergebnisse tragen nicht nur dazu bei, die Prozesse der KI besser zu verstehen. Sie können auch dabei helfen, das Verständnis der menschlichen Sprache, aber auch das Verständnis von Mechanismen und Prozessen im menschlichen Gehirn zu verbessern.