Ir ao conteúdo
Do contexto ao próximo token
Diferencie probabilidades do modelo e regra de escolha da saída.
Simulação didática · valores fictícios
O que a temperatura muda?
O céu está…
Referência · T = 1
azul 60 %
cinza 30 %
claro 10 %
0 %25 %50 %75 %100 %
Seu ajuste · T = 1
azul 60 %
cinza 30 %
claro 10 %
0 %25 %50 %75 %100 %
T = 1: a distribuição de referência é mantida.
Apenas três possibilidades. Nenhum modelo real é consultado; um sorteio não mede a qualidade da resposta.
Verificar meu entendimento
Antes de responder, formule sua explicação.
Aumentar a temperatura pode tornar mais provável um token inicialmente raro.
Para lembrar
Probabilidade expressa preferência do modelo, não verdade. A temperatura muda o sorteio sem acrescentar conhecimento. O exemplo contém apenas três possibilidades fictícias.
AprofundarDo conceito à práticaColocar em prática · ChatGPT
Fontes científicas
- Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023Publicação original
Síntese didática das fontes citadas. Os resultados dependem das tarefas, protocolos e recursos de cada publicação.