DroPE: extensão de contexto sem embeddings posicionais

Um post publicado em 12 de janeiro de 2026 descreve o DroPE, método que remove embeddings posicionais depois do treinamento e aplica uma calibração curta. Segundo o texto, a técnica permite estender o contexto em zero-shot e melhora resultados de retrieval e perguntas e respostas em 16k, em comparação com baselines, em modelos de até 7B.

A proposta pode ampliar o contexto sem fine-tuning específico para contextos longos. Para conferir o alcance da alegação, consulte o post original e verifique nele a configuração dos testes, os baselines e as métricas; o resumo disponível não informa esses detalhes. Se usar IA para estudar ou aplicar o método, evite inserir dados pessoais ou documentos internos sem autorização e proteja informações confidenciais conforme a política da organização.