К содержанию
От контекста к следующему токену
Различайте вероятности модели и правило выбора результата.
Учебная симуляция · условные значения
Что меняет температура?
Небо…
Исходное распределение · T = 1
синее 60 %
серое 30 %
ясное 10 %
0 %25 %50 %75 %100 %
Ваше значение · T = 1
синее 60 %
серое 30 %
ясное 10 %
0 %25 %50 %75 %100 %
T = 1: исходное распределение сохраняется.
Всего три варианта. Реальная модель не вызывается; одна выборка не измеряет качество ответа.
Проверить понимание
Прежде чем ответить, сформулируйте своё объяснение.
Повышение температуры может сделать изначально редкий токен более вероятным.
Ключевая мысль
Вероятность выражает предпочтение модели, а не истинность фразы. Температура меняет выборку без добавления знаний. Здесь показаны только три условных варианта.
ПодробнееОт понятия к практикеПрименить на практике · ChatGPT
Научные источники
- Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023Первичная публикация
Учебное изложение указанных источников. Результаты публикаций ограничены их задачами, протоколами и ресурсами.