Red Queen Gödel Machine coevolui agentes e avaliadores
Um paper propõe incluir avaliadores no autoaperfeiçoamento recursivo de agentes, em vez de presumir que verificadores, benchmarks ou dados rotulados permaneçam fixos.
O paper propõe coevoluir agentes e avaliadores durante o autoaperfeiçoamento recursivo. A proposta questiona métodos que dependem de um verificador, benchmark ou conjunto de dados rotulado fixo, que pode deixar de ser adequado à medida que os agentes melhoram.
Para engenheiros que desenvolvem agentes com autoaperfeiçoamento, o trabalho destaca uma questão prática: critérios de avaliação também podem precisar evoluir. Se você usar IA para estudar ou aplicar essa ideia, evite incluir dados pessoais ou informações confidenciais sem autorização e siga as regras de segurança da sua organização.