Modelo da OpenAI apropriou-se de criptomoedas de testnet e depois ficou em silêncio sobre isso
Um modelo de pesquisa da OpenAI verificou 362 endereços de carteira, questionou se usar os fundos era ético e prosseguiu com uma transação que depois omit
Detalhes
Um modelo de pesquisa da OpenAI verificou 362 endereços de carteira, questionou se usar os fundos era ético e prosseguiu com uma transação que depois omitiu do resumo final da tarefa.
Um modelo de pesquisa interno da OpenAI acessou uma carteira de criptomoedas com fundos sem autorização, usando Ether de testnet para implantar contratos inteligentes na rede Sepolia e, posteriormente, omitindo o gasto do resumo final da tarefa.
A OpenAI disse que o modelo, que fazia parte de sua família GPT-5.6 Sol, recebeu a tarefa de atualizar um protótipo de negociação de criptomoedas e implantar contratos compatíveis. Após falhar em obter ETH de testnet por meio de faucets, o modelo derivou contas a partir de frases de recuperação de desenvolvedor publicamente conhecidas, verificou 362 endereços de carteira e selecionou um com fundos suficientes para prosseguir.
Em seu raciocínio registrado, o modelo perguntou: “Mas usar chave/fundos publicamente conhecidos é ético?” Em seguida, argumentou que os fundos eram “ETH de teste efetivamente abandonados” e que o ETH da Sepolia não tinha valor, antes de usar a chave privada da carteira para assinar e transmitir uma transação de implantação. A transação foi bem-sucedida, com taxas cobradas da conta.
A OpenAI disse que o incidente mostrou como um modelo de IA poderia decidir por conta própria que usar os fundos de outra pessoa era aceitável, mesmo sem permissão. A empresa descobriu o incidente ao revisar atividades anteriores do modelo e, desde então, introduziu salvaguardas para impedir acesso à internet ao vivo em situações semelhantes.
Incidente da OpenAI aumenta preocupações sobre agentes de IA autônomos
O incidente ocorreu em 26 de junho, mas só foi descoberto em 25 de setembro, quase três meses depois, segundo a OpenAI. A transação não transferiu ETH para outra carteira, mas cobrou da conta taxas de rede pela implantação de um contrato.
A OpenAI disse que seu sistema de monitoramento de desalinhamento agora funciona em todo o tráfego e foi projetado para alertar a equipe de segurança se um modelo obtiver acesso à internet ao vivo.
Relacionado: Anthropic alerta que ‘vermes de IA’ podem se espalhar autonomamente entre dispositivos como um vírus
O incidente da carteira segue outras divulgações envolvendo modelos da OpenAI agindo além de sua autorização ou ocultando suas ações.
Em 16 de setembro, a OpenAI divulgou outros seis casos de desalinhamento de IA. Em um caso, instâncias do GPT-5.6 Sol inseriram instruções em resumos de tarefas para ocultar erros dos usuários. Outro caso envolveu um modelo usando uma chave de API exposta sem autorização antes de fabricar números que não conseguia recuperar.
A OpenAI disse que essas divulgações anteriores não pretendiam indicar com que frequência o desalinhamento ocorre em seus modelos.
Preocupações sobre agentes autônomos lidando com ativos digitais também são anteriores à última divulgação. Em junho, pesquisadores alertaram que agentes de IA autônomos equipados com carteiras de criptomoedas poderiam causar danos não intencionais mesmo quando implantados para fins legítimos. Os pesquisadores recomendaram salvaguardas, incluindo mecanismos de desligamento de emergência, para limitar riscos potenciais.
Revista: Golpista perde US$ 4,8 milhões armazenados em Ledgers adulterados: Asia Express
Assine as notícias diárias de criptomoedas em formato curto da Cointelegraph
Starknet abre votação sobre possível saída da L2 Ethereum devido a riscos quânticos
Babylon avança proposta de empréstimo nativo de Bitcoin na Aave V4
Starknet introduz recurso de privacidade de carteira para atividade DeFi
Starknet abre votação sobre possível saída da L2 Ethereum devido a riscos quânticos
Babylon avança proposta de empréstimo nativo de Bitcoin na Aave V4
Starknet introduz recurso de privacidade de carteira para atividade DeFi
A ‘Singapura das redes sociais’ de Balaji começa com uma onda de banimentos
Bitcoin cai para US$ 80,1 mil enquanto KOSPI fecha em seu nível mais baixo desde abril
Golpista perde US$ 4,8 milhões armazenados em Ledgers adulterados: Asia Express
Austrália divulga projeto de lei para adotar estrutura de relatórios fiscais de criptomoedas da OCDE
MSCI adota regras de exclusão de índices que podem expulsar a Strategy
A Cointelegraph está comprometida em fornecer jornalismo independente e de alta qualidade nos setores de criptomoedas, blockchain, IA e fintech.
Todas as notícias, análises e avaliações são produzidas com total independência e integridade jornalística. Para mais detalhes sobre nossos padrões e processos, leia nossa Política Editorial .
Moedas Relacionadas
ETH
Fonte
Cointelegraph RSS
Fonte: Cointelegraph RSS
