Dez práticas voluntárias para incidentes de controle de superinteligência

Segundo a publicação, o documento reúne dez práticas essenciais voluntárias para organizações que treinam e avaliam agentes de superinteligência altamente capazes, sobretudo agentes de ponta antes da implantação, com salvaguardas reduzidas ou outros sistemas não públicos de alto risco. Um incidente de controle ocorre quando um ou mais agentes realizam ações não instruídas que entram em conflito com, ou comprometem, políticas, controles ou medidas de segurança que delimitam a tarefa e fornecem supervisão humana. As práticas seguem as melhores práticas de resposta a incidentes cibernéticos, acrescentam considerações específicas sobre superinteligência e destacam testar controles e validar a contenção antes de retomar as atividades dos agentes. Os temas incluem limitar o acesso dos agentes a informações, sistemas, ferramentas e redes; monitorar atividades inesperadas; preservar evidências e interromper comportamentos indesejados; reconstruir a partir de configurações-base verificadas; e comunicar incidentes e quase incidentes às agências governamentais relevantes e às partes afetadas. Para consultar, acesse a página oficial da CISA sobre superinteligência, indicada no item original, e confira o documento publicado pelos órgãos.