HarmonyFidelisHarmonyFidelis
Anmelden
Zum Inhalt
AURA
VerstehenKonfigurierenÖffentliche Programme
Verstehen

Grundlagen

LernenInferenz

Mechanismen

RepräsentationenKontext & GedächtnisArchitekturenDiffusion

Vertiefende Forschung

Schlussfolgern & AgentenWeltmodelleAGI & ASIEvaluation

Jeder Bereich ist frei zugänglich. Vertiefungen sind jederzeit erreichbar.

Aura-Startseite
AuraKI verstehenInferenz

Vom Kontext zum nächsten Token

Modellwahrscheinlichkeiten und Auswahlregel unterscheiden.

Das WesentlicheExperimentierenVertiefen
Wissenschaftliche Quellen

Das Wesentliche

So funktioniert es

Ein Token kann ein Wort, ein Wortteil oder ein Zeichen sein. Ein autoregressives Sprachmodell berechnet Werte aus dem Kontext. Normalisierung erzeugt eine Verteilung; die Dekodierung wählt ein Token, das zum Kontext des nächsten Schritts hinzukommt.

Merksatz

Wahrscheinlichkeit beschreibt eine Modellpräferenz, nicht Wahrheit. Temperatur verändert die Ziehung ohne neues Wissen. Das Beispiel enthält nur drei fiktive Möglichkeiten.

Experimentieren
Vom Konzept zur AnwendungPraktisch anwenden · ChatGPT

Wissenschaftliche Quellen

  • Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023
    Originalpublikation

Didaktische Zusammenfassung der Quellen. Ergebnisse gelten im Rahmen der jeweiligen Aufgaben, Protokolle und Budgets.

Weiter erkundenRepräsentationenEvaluation

Suchen Aura

18 Ergebnisse

VerstehenEin Modell lernen lassen und anwendenGelernte Parameter von Informationen einer Anfrage unterscheiden.
VerstehenVom Kontext zum nächsten TokenModellwahrscheinlichkeiten und Auswahlregel unterscheiden.
VerstehenVom Text zur RepräsentationVektoren verstehen, ohne sie mit menschlicher Bedeutung gleichzusetzen.
VerstehenWelches Gedächtnis ist gemeint?Kontext, rekurrenten Zustand, Parameter und dauerhaften Speicher trennen.
VerstehenTransformers: Aufmerksamkeit verstehenArchitekturen, Lernmethoden und Gesamtsysteme passend vergleichen.
VerstehenDurch Entrauschen erzeugenKorruption beim Lernen von schrittweiser Erzeugung unterscheiden.
VerstehenVom Modell zum handelnden SystemDie Ausführungsumgebung um Modell und Werkzeuge verstehen.
VerstehenVorhersagen, um zu entscheidenLängere Horizonte und das Risiko falscher Vorhersagen erkunden.
VerstehenDefinitionen statt eines einzigen UrteilsAllgemeinheit, Leistung und Anpassung vor einem Etikett prüfen.
VerstehenWas ein Ergebnis belegtVom überzeugenden Eindruck zum reproduzierbaren Vergleich.
KonfigurierenEin ChatGPT-Projekt vorbereitenEin klares Ziel, relevanter Kontext und praktisch nutzbare Anweisungen.
KonfigurierenPassend zur Aufgabe wählenBeginnen Sie mit Ihrem Bedarf. Vergleichen Sie Zugriffe und Ergebnisse statt pauschaler Modellranglisten.
KonfigurierenIhre Anfrage überprüfbar machenFormulieren Sie aus einer Absicht ein Ziel, Kontext und Erfolgskriterien.
KonfigurierenInformationen am richtigen Ort bereitstellenUnterscheiden Sie Arbeitsregeln, Aufgabenmaterial und produktseitig verwaltetes Gedächtnis.
KonfigurierenEine Entwicklungsumgebung vorbereitenBestimmen Sie Modellrolle, Fähigkeiten der Umgebung und tatsächlich benötigte Zugriffe.
KonfigurierenEinen Entwicklungsablauf zusammenstellenOrganisieren Sie Vorbereitung, Änderung, Prüfung und Bericht. Nutzen Sie hilfreiche Schritte erneut.
KonfigurierenAuftrag vorbereiten und Ergebnis prüfenEin reproduzierbares Beispiel, eine Checkliste und Ihre Beobachtungen.
Öffentliche ProgrammeTentacularÖffentlich verfügbare Anwendungen, Funktionen und Ressourcen.