Ir para o conteúdo

Radar ·

A matemática de Query, Key e Value na atenção

Publicado em 10 de maio de 2026, o artigo apresenta a fórmula central da atenção em transformers e percorre um exemplo numérico passo a passo.

O artigo explica a atenção em transformers por meio da fórmula softmax(Q × Kᵀ / √dₖ) × V. Seu escopo é o cálculo central que combina Query, Key e Value, com um exemplo numérico detalhado para acompanhar as etapas.

Para conferir o material, consulte o artigo original e refaça as operações do exemplo, verificando a aplicação de softmax e a multiplicação por V. Se usar IA para estudar ou aplicar o conteúdo, evite incluir dados pessoais ou documentos confidenciais; a política da organização deve orientar o tratamento desses dados.

Fonte original: A matemática por trás de Query, Key e Value na atenção

Curadoria · AgentLog

Receba o essencial

Privacidade, engenharia de IA e segurança no seu e-mail.

No máximo um resumo por dia, quando houver novidades. Cancele quando quiser. Usamos o e-mail verificado da sua conta.

Privacidade

Procurando outra coisa?AjudaContato