Deutschland will im KI-Wettrennen Boden gutmachen

Franz Công Bùi, Frankfurt

Chatbots und Sprachassistenten kommen zunehmend zum Einsatz, um Prozesse effizienter zu gestalten. Mit Hilfe von künstlicher Intelligenz (KI) funktioniert die maschinelle Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) mittlerweile auf relativ hohem Niveau, wobei nach wie vor umstritten ist, inwieweit hierbei tatsächlich von „Intelligenz“ gesprochen werden kann. Die Entwicklung geht dahin, dass digitale Sprachmodelle das Verfassen von Nachrichtenmeldungen oder das Führen von Kundendialogen übernehmen können.

Ein Sprachmodell ist eine riesige Statistik darüber, wie Zeichen und Wörter in Beziehung zueinander stehen. Das Wort „Wolken“ etwa wird häufig in Zusammenhang mit „regnen“ genannt. Die Software lernt solche Zusammenhänge anhand von Milliarden Texten aus Webseiten oder Büchern. Ein großes Sprachmodell (Large Language Model, LLM) soll flexibler und eher in der Lage sein, Texte etwa durch Umschreibung der Atmosphäre eines Ereignisses anschaulicher zu machen.

Das Erlernen erfolgt bei LLMs über sogenannte neuronale Netze. Ähnlich wie im Gehirn tauschen künstliche Neuronen über Synapsen Signale aus. Dabei justieren die einzelnen Synapsen beim Lernen, wie stark oder häufig sie das Signal eines Neurons an ein anderes übertragen. Doch es ist nach wie vor schwierig für Menschen ohne hohe Technikkompetenz, dem Algorithmus zu helfen, sein Modell zu verfeinern.

Bei den LLMs haben sich Allzweckmodelle wie GPT-3 von OpenAI und Modelle, die auf bestimmte Aufgaben ausgerichtet sind (etwa die Beantwortung von Fragen der IT-Abteilung) als dominant herauskristallisiert. Große Sprachmodelle sind in der Regel mehrere Dutzend Gigabyte groß, denn sie wurden auf Basis von Unmengen an Texten sowie multimedialen Daten wie Bildern trainiert. Wichtig ist die Zahl der Synapsen, auch Parameter genannt.