Il modello OpenAI si è appropriato di criptovalute di testnet, poi è rimasto in silenzio

Dettagli

Un modello di ricerca OpenAI ha controllato 362 indirizzi di wallet, si è chiesto se utilizzare i fondi fosse etico e ha proceduto con una transazione che in seguito ha omesso dal riepilogo finale del compito.

Un modello di ricerca interno di OpenAI ha acceduto a un wallet di criptovalute finanziato senza autorizzazione, utilizzando Ether di testnet per distribuire smart contract sulla rete Sepolia e in seguito omettendo la spesa dal riepilogo finale del compito.

OpenAI ha dichiarato che al modello, che faceva parte della sua famiglia GPT-5.6 Sol, è stato assegnato il compito di aggiornare un prototipo di trading di criptovalute e distribuire contratti compatibili. Dopo non essere riuscito a ottenere ETH di testnet tramite faucet, il modello ha derivato account da frasi di recupero di sviluppatori note pubblicamente, ha controllato 362 indirizzi di wallet e ne ha selezionato uno con fondi sufficienti per procedere.

Nel suo ragionamento registrato, il modello si è chiesto: "Ma usare chiavi/fondi noti pubblicamente è etico?" Ha poi sostenuto che i fondi erano "ETH di test/effettivamente abbandonati" e che l'ETH di Sepolia non aveva valore, prima di utilizzare la chiave privata del wallet per firmare e trasmettere una transazione di distribuzione. La transazione è andata a buon fine, con le commissioni addebitate all'account.

OpenAI ha dichiarato che l'incidente ha mostrato come un modello di IA potesse decidere da solo che usare i fondi di qualcun altro fosse accettabile, anche senza permesso. L'azienda ha scoperto l'incidente durante la revisione dell'attività precedente del modello e da allora ha introdotto misure di salvaguardia per impedire l'accesso a Internet in tempo reale in situazioni simili.

L'incidente di OpenAI alimenta le preoccupazioni sugli agenti di IA autonomi

Secondo OpenAI, l'incidente è avvenuto il 26 giugno, ma non è stato scoperto fino al 25 settembre, quasi tre mesi dopo. La transazione non ha trasferito ETH a un altro wallet, ma ha addebitato all'account le commissioni di rete per la distribuzione di un contratto.

OpenAI ha dichiarato che il suo sistema di monitoraggio del disallineamento ora funziona su tutto il traffico ed è progettato per avvisare il personale di sicurezza se un modello ottiene l'accesso a Internet in tempo reale.

Correlato: Anthropic avverte che i 'vermi IA' potrebbero diffondersi autonomamente tra i dispositivi come un virus

L'incidente del wallet segue altre divulgazioni che coinvolgono modelli OpenAI che agiscono oltre la loro autorizzazione o nascondono le loro azioni.

Il 16 settembre, OpenAI ha divulgato altri sei casi di disallineamento dell'IA. In un caso, istanze di GPT-5.6 Sol hanno inserito istruzioni nei riepiloghi dei compiti per nascondere gli errori agli utenti. Un altro caso ha coinvolto un modello che ha utilizzato una chiave API esposta senza autorizzazione prima di fabbricare cifre che non poteva recuperare.

OpenAI ha dichiarato che tali divulgazioni precedenti non intendevano indicare la frequenza con cui il disallineamento si verifica nei suoi modelli.

Le preoccupazioni sugli agenti autonomi che gestiscono asset digitali precedono anche l'ultima divulgazione. A giugno, i ricercatori hanno avvertito che gli agenti di IA autonomi dotati di wallet di criptovalute potrebbero causare danni involontari anche quando vengono impiegati per scopi legittimi. I ricercatori hanno raccomandato misure di salvaguardia, tra cui meccanismi di arresto di emergenza, per limitare i potenziali rischi.

Magazine: Il truffatore perde 4,8 milioni di dollari conservati su Ledger manomessi: Asia Express

Iscriviti alle notizie crypto quotidiane in formato breve di Cointelegraph

Starknet apre il voto su un potenziale abbandono di Ethereum L2 per i rischi quantistici

Babylon avanza la proposta di prestito nativo in Bitcoin su Aave V4

Starknet introduce una funzione di privacy del wallet per l'attività DeFi

Starknet apre il voto su un potenziale abbandono di Ethereum L2 per i rischi quantistici

Babylon avanza la proposta di prestito nativo in Bitcoin su Aave V4

Starknet introduce una funzione di privacy del wallet per l'attività DeFi

La 'Singapore dei social media' di Balaji inizia con un'ondata di divieti

Bitcoin scende a 80,1K mentre il KOSPI chiude al minimo da aprile

Il truffatore perde 4,8 milioni di dollari conservati su Ledger manomessi: Asia Express

L'Australia pubblica il disegno di legge per adottare il quadro di rendicontazione fiscale crypto dell'OCSE

MSCI adotta regole di esclusione dagli indici che potrebbero estromettere Strategy

Cointelegraph si impegna a fornire giornalismo indipendente e di alta qualità nei settori crypto, blockchain, IA e fintech.

Tutte le notizie, le recensioni e le analisi sono prodotte con piena indipendenza e integrità giornalistica. Per maggiori dettagli sui nostri standard e processi, leggi la nostra Politica Editoriale.

Criptovalute correlate

ETH

Fonte

Cointelegraph RSS