Wie Sprachmodelle Sprache verstehen

Ein Blick hinter die Mathematik von ChatGPT und Co.

Authors

  • Martin Vogt Hochschule Trier

Abstract

Large Language Models (LLMs) such as ChatGPT, Gemini, and Claude are increasingly shaping the everyday lives of young people and are widely used both in higher education and in school contexts. At the same time, concerns are growing among adolescents regarding the impact of artificial intelligence on their professional future. This paper therefore argues for a stronger integration of AI-related topics into mathematics education. It focuses on three fundamental mathematical concepts underlying modern language models: word embeddings, neural networks, and the attention mechanism. These concepts can be explained through core topics of linear algebra, including vectors, matrices, matrix-vector multiplication, and scalar products, thereby directly connecting to the curriculum of vocational upper secondary schools in Rhineland-Palatinate, Germany.

Downloads

Published

2026-08-28

Issue

No. 121 (2026)

Section

Magazin

License

Copyright (c) 2026 Martin Vogt

Creative Commons License

This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

Autor/innen, die in dieser Zeitschrift publizieren möchten, stimmen den folgenden Bedingungen zu:
  1. Die Autor/innen behalten das Copyright und erlauben der Zeitschrift die Erstveröffentlichung unter einer Creative Commons Namensnennung Lizenz, die es anderen erlaubt, die Arbeit unter Nennung der Autor/innenschaft und der Erstpublikation in dieser Zeitschrift zu verwenden.
  2. Die Autor/innen können zusätzliche Verträge für die nicht-exklusive Verbreitung der in der Zeitschrift veröffentlichten Version ihrer Arbeit unter Nennung der Erstpublikation in dieser Zeitschrift eingehen (z.B. sie in Sammelpublikation oder einem Buch veröffentlichen).
  3. Die Autor/innen werden dazu ermutigt, ihre Arbeit parallel zur Einreichung bei dieser Zeitschrift online zu veröffentlichen (z.B. auf den Homepages von Institutionen oder auf ihrer eigenen Homepage), weil so produktive Austauschprozesse wie auch eine frühe und erweiterte Bezugnahme auf das veröffentlichte Werk gefördert werden (siehe The Effect of Open Access).