Um método chamado Generative Adversarial Distillation treina um modelo student usando respostas textuais de um teacher proprietário, sem exigir acesso aos logits ou parâmetros do teacher.
Generative Adversarial Distillation (GAD) é uma abordagem de destilação on-policy e black-box para modelos de linguagem. Ela usa somente as respostas em texto de um modelo teacher proprietário, sem precisar consultar os logits ou os parâmetros internos dele.
O método coloca student e teacher em um jogo minimax: um discriminator aprende a distinguir as respostas do student das respostas do teacher, enquanto o student é treinado para produzir respostas que se aproximem das do teacher. Assim, a comparação entre saídas orienta o treinamento.
Para estudar ou testar a ideia, separe exemplos de entrada e respostas do teacher, defina como avaliar a qualidade das respostas do student e registre as configurações do experimento. A descrição disponível não especifica detalhes de implementação nem garante resultados para uma tarefa particular; trate a reprodução como uma hipótese a validar.
Se usar IA para analisar exemplos, evite enviar dados pessoais ou confidenciais sem autorização. Prefira amostras sintéticas ou anonimizadas e verifique as regras da sua organização, especialmente para dados incluídos em prompts e respostas.