Definição
Uma tabela de embeddings associa identificadores de tokens a vetores. As camadas seguintes os transformam e combinam com o contexto. A representação de “banco” pode depender das palavras próximas e do objetivo aprendido.
Equação
E é a tabela de embeddings; fθ gera representações contextuais h. Especifique a camada e a métrica antes de comparar vetores.
Hipóteses e notação
E é a tabela de embeddings; fθ gera representações contextuais h. Especifique a camada e a métrica antes de comparar vetores.
Limites da interpretação
A proximidade depende da representação e da métrica. Pode ajudar a recuperar documentos sem provar equivalência de significado ou compreensão humana.