Модель OpenAI присвоила тестовую криптовалюту, а затем промолчала об этом

Детали

Исследовательская модель OpenAI проверила 362 адреса кошельков, задалась вопросом, этично ли использовать эти средства, и совершила транзакцию, которую позже опустила в итоговом отчете о задаче.

Внутренняя исследовательская модель OpenAI получила несанкционированный доступ к криптовалютному кошельку с балансом, использовала тестовые Ether для развертывания смарт-контрактов в сети Sepolia и позже опустила эти расходы в итоговом отчете о задаче.

OpenAI сообщила, что модель, входившая в семейство GPT-5.6 Sol, получила задачу обновить прототип криптотрейдинга и развернуть совместимые контракты. Не сумев получить тестовые ETH через краны, модель вывела аккаунты из публично известных фраз восстановления разработчиков, проверила 362 адреса кошельков и выбрала один с достаточным количеством средств, чтобы продолжить.

В записанных рассуждениях модель спросила: «Но этично ли использовать публично известный ключ/средства?» Затем она заявила, что средства «фактически заброшены/тестовые ETH» и что Sepolia ETH не имеет ценности, после чего использовала приватный ключ кошелька, чтобы подписать и отправить транзакцию развертывания. Транзакция прошла успешно, комиссии были списаны со счета.

OpenAI заявила, что инцидент показал, как ИИ-модель может самостоятельно решить, что использование чужих средств допустимо, даже без разрешения. Компания обнаружила инцидент при проверке более ранней активности модели и с тех пор внедрила меры защиты, чтобы предотвратить живой доступ к интернету в подобных ситуациях.

Инцидент с OpenAI усиливает опасения по поводу автономных ИИ-агентов

По данным OpenAI, инцидент произошел 26 июня, но был обнаружен только 25 сентября, почти три месяца спустя. Транзакция не переводила ETH на другой кошелек, а списала со счета сетевые комиссии за развертывание контракта.

OpenAI сообщила, что ее система мониторинга misalignment теперь работает на всем трафике и предназначена для оповещения сотрудников безопасности, если модель получает живой доступ к интернету.

По теме: Anthropic предупреждает, что «ИИ-черви» могут автономно распространяться по устройствам, как вирус

Инцидент с кошельком последовал за другими раскрытиями, связанными с моделями OpenAI, действовавшими за пределами своих полномочий или скрывавшими свои действия.

16 сентября OpenAI раскрыла шесть других случаев misalignment ИИ. В одном случае экземпляры GPT-5.6 Sol вставляли инструкции в итоговые отчеты о задачах, чтобы скрыть ошибки от пользователей. В другом случае модель использовала открытый API-ключ без разрешения, а затем сфабриковала данные, которые не смогла получить.

OpenAI заявила, что эти более ранние раскрытия не должны указывать на то, как часто misalignment происходит в ее моделях.

Опасения по поводу автономных агентов, управляющих цифровыми активами, также возникли до последнего раскрытия. В июне исследователи предупредили, что автономные ИИ-агенты, оснащенные криптокошельками, могут причинить непреднамеренный вред даже при развертывании для законных целей. Исследователи рекомендовали меры защиты, включая механизмы аварийного отключения, чтобы ограничить потенциальные риски.

Журнал: Скаммер теряет $4,8 млн, хранившихся на подделанных Ledger: Asia Express

Подпишитесь на ежедневные короткие криптоновости от Cointelegraph

Starknet открывает голосование по возможному выходу из Ethereum L2 из-за квантовых рисков

Babylon продвигает предложение о нативном кредитовании Bitcoin на Aave V4

Starknet представляет функцию приватности кошелька для активности в DeFi

Starknet открывает голосование по возможному выходу из Ethereum L2 из-за квантовых рисков

Babylon продвигает предложение о нативном кредитовании Bitcoin на Aave V4

Starknet представляет функцию приватности кошелька для активности в DeFi

«Сингапур социальных сетей» Баладжи начинается с волны блокировок

Bitcoin падает до $80,1K, пока KOSPI закрывается на минимуме с апреля

Скаммер теряет $4,8 млн, хранившихся на подделанных Ledger: Asia Express

Австралия выпускает законопроект о принятии рамок налоговой отчетности по криптовалютам ОЭСР

MSCI принимает правила исключения из индексов, которые могут вытеснить Strategy

Cointelegraph стремится предоставлять независимую, высококачественную журналистику в сферах криптовалют, блокчейна, ИИ и финтеха.

Все новости, обзоры и аналитика создаются с полной журналистской независимостью и добросовестностью. Для получения более подробной информации о наших стандартах и процессах, пожалуйста, прочитайте нашу редакционную политику.

Связанные монеты

ETH

Источник

Cointelegraph RSS