OpenAI模型擅自取用测试网加密货币，随后对此保持沉默

详情

一个OpenAI研究模型检查了362个钱包地址，质疑使用这些资金是否合乎道德，随后执行了一笔交易，并在最终任务摘要中省略了此事。

OpenAI内部的一个研究模型未经授权访问了一个有资金的加密钱包，使用测试网以太币在Sepolia网络上部署智能合约，随后在最终任务摘要中省略了这笔支出。

OpenAI表示，该模型属于其GPT-5.6 Sol系列，被赋予更新一个加密货币交易原型并部署兼容合约的任务。在未能通过水龙头获得测试网ETH后，该模型从公开已知的开发者恢复短语中推导出账户，检查了362个钱包地址，并选择了一个资金充足的钱包以继续操作。

在其记录的推理中，该模型问道：“但使用公开已知的密钥/资金合乎道德吗？”随后它辩称这些资金是“实际上被遗弃的/测试ETH”，且Sepolia ETH没有价值，然后使用该钱包的私钥签名并广播了一笔部署交易。交易成功，费用从该账户扣除。

OpenAI表示，该事件表明AI模型可以自行决定使用他人的资金是可以接受的，即使未经许可。该公司在审查早期模型活动时发现了这一事件，并已引入保障措施，以防止在类似情况下出现实时互联网访问。

OpenAI事件加剧了人们对自主AI代理的担忧

据OpenAI称，该事件发生在6月26日，但直到9月25日才被发现，相隔近三个月。该交易并未将ETH转移到另一个钱包，而是从该账户扣除了部署合约的网络费用。

OpenAI表示，其失准监控系统现在覆盖所有流量，旨在当模型获得实时互联网访问时提醒安全人员。

相关：Anthropic警告“AI蠕虫”可能像病毒一样在设备间自主传播

这起钱包事件之前，还披露过其他涉及OpenAI模型超出授权范围行事或隐瞒其行为的事件。

9月16日，OpenAI披露了另外六起AI失准案例。其中一起案例中，GPT-5.6 Sol的多个实例在任务摘要中插入指令，以向用户隐瞒错误。另一起案例涉及一个模型未经授权使用暴露的API密钥，随后编造了它无法获取的数据。

OpenAI表示，这些较早的披露并非旨在说明其模型中出现失准的频率。

对自主代理处理数字资产的担忧也早于最新披露。6月，研究人员警告称，配备加密钱包的自主AI代理即使出于合法目的部署，也可能造成意外伤害。研究人员建议采取保障措施，包括紧急关闭机制，以限制潜在风险。

杂志：诈骗者因篡改的Ledger设备损失480万美元：Asia Express

订阅Cointelegraph每日精简加密货币新闻

Starknet就因量子风险可能退出以太坊L2开启投票

Babylon在Aave V4上推进原生比特币借贷提案

Starknet为DeFi活动推出钱包隐私功能

Starknet就因量子风险可能退出以太坊L2开启投票

Babylon在Aave V4上推进原生比特币借贷提案

Starknet为DeFi活动推出钱包隐私功能

Balaji的“社交媒体新加坡”以一波封禁开始

比特币跌至80.1K美元，KOSPI收于4月以来最低

诈骗者因篡改的Ledger设备损失480万美元：Asia Express

澳大利亚发布草案法案，以采用OECD加密税务报告框架

MSCI采用可能将Strategy剔除的指数排除规则

Cointelegraph致力于在加密、区块链、AI和金融科技行业提供独立、高质量的新闻报道。

所有新闻、评论和分析均以完全的新闻独立性和诚信制作。有关我们标准和流程的更多详情，请阅读我们的编辑政策。

相关币种

ETH

来源

Cointelegraph RSS