Ir ao conteúdoExperimentar
Do texto às representações
Entenda vetores sem equipará-los ao significado humano.
O essencial
Como funciona
Uma tabela de embeddings associa identificadores de tokens a vetores. As camadas seguintes os transformam e combinam com o contexto. A representação de “banco” pode depender das palavras próximas e do objetivo aprendido.
Para lembrar
A proximidade depende da representação e da métrica. Pode ajudar a recuperar documentos sem provar equivalência de significado ou compreensão humana.
Do conceito à práticaColocar em prática
Fontes científicas
- Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023Publicação original
Síntese didática das fontes citadas. Os resultados dependem das tarefas, protocolos e recursos de cada publicação.