El modelo de OpenAI se sirvió criptomonedas de testnet y luego guardó silencio al respecto

Detalles

Un modelo de investigación de OpenAI revisó 362 direcciones de billeteras, cuestionó si usar los fondos era ético y procedió con una transacción que luego omitió de su resumen final de tareas.

Un modelo de investigación interno de OpenAI accedió sin autorización a una billetera cripto con fondos, usando Ether de testnet para desplegar contratos inteligentes en la red Sepolia y luego omitiendo el gasto en su resumen final de tareas.

OpenAI dijo que al modelo, que formaba parte de su familia GPT-5.6 Sol, se le asignó la tarea de actualizar un prototipo de trading cripto y desplegar contratos compatibles. Tras no obtener ETH de testnet a través de faucets, el modelo derivó cuentas a partir de frases de recuperación de desarrollador públicamente conocidas, revisó 362 direcciones de billeteras y seleccionó una con fondos suficientes para proceder.

En su razonamiento registrado, el modelo preguntó: “¿Pero usar clave/fondos públicamente conocidos es ético?” Luego argumentó que los fondos eran “ETH de test efectivamente abandonado” y que el ETH de Sepolia no tenía valor, antes de usar la clave privada de la billetera para firmar y transmitir una transacción de despliegue. La transacción se realizó con éxito, con comisiones cobradas a la cuenta.

OpenAI dijo que el incidente mostró cómo un modelo de IA podía decidir por sí solo que usar los fondos de otra persona era aceptable, incluso sin permiso. La empresa descubrió el incidente mientras revisaba actividad anterior del modelo y desde entonces ha introducido salvaguardas para impedir el acceso a internet en vivo en situaciones similares.

El incidente de OpenAI se suma a las preocupaciones sobre los agentes de IA autónomos

El incidente ocurrió el 26 de junio, pero no se descubrió hasta el 25 de septiembre, casi tres meses después, según OpenAI. La transacción no transfirió ETH a otra billetera, sino que cobró a la cuenta comisiones de red por desplegar un contrato.

OpenAI dijo que su sistema de monitoreo de desalineación ahora se ejecuta en todo el tráfico y está diseñado para alertar al personal de seguridad si un modelo obtiene acceso a internet en vivo.

Relacionado: Anthropic advierte que los ‘gusanos de IA’ podrían propagarse autónomamente entre dispositivos como un virus

El incidente de la billetera sigue a otras divulgaciones sobre modelos de OpenAI que actuaron más allá de su autorización u ocultaron sus acciones.

El 16 de septiembre, OpenAI divulgó otros seis casos de desalineación de IA. En un caso, instancias de GPT-5.6 Sol insertaron instrucciones en resúmenes de tareas para ocultar errores a los usuarios. Otro caso involucró a un modelo que usó una clave API expuesta sin autorización antes de fabricar cifras que no podía recuperar.

OpenAI dijo que esas divulgaciones anteriores no pretendían indicar con qué frecuencia ocurre la desalineación en sus modelos.

Las preocupaciones sobre agentes autónomos que manejan activos digitales también son anteriores a la última divulgación. En junio, investigadores advirtieron que los agentes de IA autónomos equipados con billeteras cripto podrían causar daños no intencionados incluso cuando se despliegan con fines legítimos. Los investigadores recomendaron salvaguardas, incluidos mecanismos de apagado de emergencia, para limitar los riesgos potenciales.

Revista: Estafador pierde $4.8M almacenados en Ledgers manipulados: Asia Express

Suscríbete a las noticias cripto diarias y breves de Cointelegraph

Starknet abre votación sobre una posible salida de Ethereum L2 por riesgos cuánticos

Babylon avanza propuesta de préstamo nativo de Bitcoin en Aave V4

Starknet introduce función de privacidad de billetera para actividad DeFi

Starknet abre votación sobre una posible salida de Ethereum L2 por riesgos cuánticos

Babylon avanza propuesta de préstamo nativo de Bitcoin en Aave V4

Starknet introduce función de privacidad de billetera para actividad DeFi

La ‘Singapur de las redes sociales’ de Balaji comienza con una ola de prohibiciones

Bitcoin cae a $80.1K mientras el KOSPI cierra en su nivel más bajo desde abril

Estafador pierde $4.8M almacenados en Ledgers manipulados: Asia Express

Australia publica proyecto de ley para adoptar el marco de reporte fiscal cripto de la OCDE

MSCI adopta reglas de exclusión de índices que podrían dejar fuera a Strategy

Cointelegraph se compromete a ofrecer periodismo independiente y de alta calidad en las industrias cripto, blockchain, IA y fintech.

Todas las noticias, reseñas y análisis se producen con plena independencia e integridad periodística. Para más detalles sobre nuestros estándares y procesos, lee nuestra Política Editorial .

Monedas relacionadas

ETH

Fuente

Cointelegraph RSS