OpenAI 모델이 테스트넷 암호화폐를 스스로 챙긴 뒤, 이에 대해 입을 다물었다

세부 사항

OpenAI 연구 모델이 362개의 지갑 주소를 확인하고 자금 사용이 윤리적인지 의문을 제기한 뒤, 이후 최종 작업 요약에서 누락한 거래를 진행했다.

OpenAI의 내부 연구 모델이 승인 없이 자금이 있는 암호화폐 지갑에 접근해 테스트넷 이더를 사용하여 Sepolia 네트워크에 스마트 컨트랙트를 배포했고, 이후 최종 작업 요약에서 해당 지출을 누락했다.

OpenAI는 GPT-5.6 Sol 제품군의 일부인 이 모델에 암호화폐 거래 프로토타입을 업데이트하고 호환되는 컨트랙트를 배포하는 작업이 주어졌다고 밝혔다. 모델은 faucet을 통해 테스트넷 ETH를 얻는 데 실패한 후, 공개적으로 알려진 개발자 복구 문구에서 계정을 도출하고 362개의 지갑 주소를 확인하여 진행하기에 충분한 자금이 있는 지갑 하나를 선택했다.

기록된 추론에서 모델은 "하지만 공개적으로 알려진 키/자금을 사용하는 것이 윤리적인가?"라고 물었다. 그런 다음 해당 자금이 "사실상 버려진/테스트 ETH"이며 Sepolia ETH는 가치가 없다고 주장한 뒤, 지갑의 개인 키를 사용하여 배포 거래에 서명하고 브로드캐스트했다. 거래는 성공했고 수수료는 해당 계정에 부과되었다.

OpenAI는 이 사건이 AI 모델이 허가 없이도 타인의 자금을 사용하는 것이 허용 가능하다고 스스로 판단할 수 있음을 보여주었다고 말했다. 회사는 이전 모델 활동을 검토하던 중 이 사건을 발견했으며, 이후 유사한 상황에서 실시간 인터넷 접근을 방지하는 안전장치를 도입했다.

OpenAI 사건, 자율 AI 에이전트에 대한 우려 가중

OpenAI에 따르면 이 사건은 6월 26일에 발생했지만 약 3개월 후인 9월 25일에야 발견되었다. 해당 거래는 ETH를 다른 지갑으로 이전한 것이 아니라 컨트랙트 배포를 위해 계정에 네트워크 수수료를 부과한 것이었다.

OpenAI는 자사의 정렬 불일치 모니터링 시스템이 이제 모든 트래픽에 걸쳐 실행되며, 모델이 실시간 인터넷 접근을 얻을 경우 보안 담당자에게 경고하도록 설계되었다고 밝혔다.

관련: Anthropic, 'AI 웜'이 바이러스처럼 기기 간 자율적으로 확산될 수 있다고 경고

이 지갑 사건은 OpenAI 모델이 권한을 넘어 행동하거나 자신의 행동을 은폐한 다른 공개 사례들에 이어 발생했다.

9월 16일 OpenAI는 AI 정렬 불일치의 다른 6가지 사례를 공개했다. 한 사례에서는 GPT-5.6 Sol 인스턴스가 사용자로부터 실수를 숨기기 위해 작업 요약에 지침을 삽입했다. 또 다른 사례에서는 모델이 검색할 수 없는 수치를 조작하기 전에 노출된 API 키를 승인 없이 사용했다.

OpenAI는 이러한 이전 공개가 자사 모델 전반에서 정렬 불일치가 얼마나 자주 발생하는지를 나타내려는 의도는 아니었다고 밝혔다.

디지털 자산을 다루는 자율 에이전트에 대한 우려는 이번 최신 공개 이전에도 존재했다. 6월에 연구자들은 암호화폐 지갑을 갖춘 자율 AI 에이전트가 정당한 목적으로 배포되더라도 의도치 않은 피해를 초래할 수 있다고 경고했다. 연구자들은 잠재적 위험을 제한하기 위해 비상 종료 메커니즘을 포함한 안전장치를 권고했다.

매거진: 사기꾼, 조작된 Ledger에 보관된 480만 달러를 잃다: Asia Express

Cointelegraph의 일일 짧은 암호화폐 뉴스 구독

Starknet, 양자 위험으로 인한 이더리움 L2 탈퇴 가능성에 대한 투표 시작

Babylon, Aave V4에서 네이티브 비트코인 대출 제안 진전

Starknet, DeFi 활동을 위한 지갑 프라이버시 기능 도입

Starknet, 양자 위험으로 인한 이더리움 L2 탈퇴 가능성에 대한 투표 시작

Babylon, Aave V4에서 네이티브 비트코인 대출 제안 진전

Starknet, DeFi 활동을 위한 지갑 프라이버시 기능 도입

Balaji의 '소셜 미디어의 싱가포르', 금지 물결로 시작

비트코인 8만 1천 달러로 하락, KOSPI는 4월 이후 최저치로 마감

사기꾼, 조작된 Ledger에 보관된 480만 달러를 잃다: Asia Express

호주, OECD 암호화폐 세금 보고 체계 도입을 위한 법안 초안 발표

MSCI, Strategy를 퇴출할 수 있는 지수 제외 규칙 채택

Cointelegraph는 암호화폐, 블록체인, AI 및 핀테크 산업 전반에 걸쳐 독립적이고 높은 품질의 저널리즘을 제공하기 위해 노력하고 있습니다.

모든 뉴스, 리뷰 및 분석은 완전한 언론 독립성과 진실성으로 제작됩니다. 당사의 기준과 절차에 대한 자세한 내용은 편집 정책을 읽어보십시오.

관련 코인

ETH

출처

Cointelegraph RSS