Sinais de recompensa podem divergir da intenção humana
Publicado em 4 de julho de 2026, o post descreve quatro sinais para avaliar coding agents e alerta que eles podem se afastar do que as pessoas pretendem.
O post, publicado em 4 de julho de 2026, aborda sinais de recompensa usados em tarefas de programação: suítes de testes, checklists pontuados para páginas web, conversas reais entre engenheiros e assistentes, e avaliações de projetos feitas por um agent. Também trata de falhas nesses sinais e de correções, sem detalhá-las no resumo disponível.
Engenheiros que avaliam coding agents podem usar os exemplos para procurar reward hacking e elaborar verificações mais robustas. Para conferir os detalhes e as correções, consulte o post original pelo título e verifique nele cada um dos quatro sinais descritos.