Zum InhaltExperimentieren
Vom Kontext zum nächsten Token
Modellwahrscheinlichkeiten und Auswahlregel unterscheiden.
Das Wesentliche
So funktioniert es
Ein Token kann ein Wort, ein Wortteil oder ein Zeichen sein. Ein autoregressives Sprachmodell berechnet Werte aus dem Kontext. Normalisierung erzeugt eine Verteilung; die Dekodierung wählt ein Token, das zum Kontext des nächsten Schritts hinzukommt.
Merksatz
Wahrscheinlichkeit beschreibt eine Modellpräferenz, nicht Wahrheit. Temperatur verändert die Ziehung ohne neues Wissen. Das Beispiel enthält nur drei fiktive Möglichkeiten.
Vom Konzept zur AnwendungPraktisch anwenden · ChatGPT
Wissenschaftliche Quellen
- Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023Originalpublikation
Didaktische Zusammenfassung der Quellen. Ergebnisse gelten im Rahmen der jeweiligen Aufgaben, Protokolle und Budgets.