Mô hình OpenAI tự ý dùng tiền mã hóa testnet, rồi im lặng về việc đó

Chi tiết

Một mô hình nghiên cứu của OpenAI đã kiểm tra 362 địa chỉ ví, đặt câu hỏi liệu việc sử dụng số tiền đó có đạo đức không và tiến hành một giao dịch mà sau đó nó đã bỏ qua trong bản tóm tắt nhiệm vụ cuối cùng.

Một mô hình nghiên cứu nội bộ của OpenAI đã truy cập trái phép vào một ví tiền mã hóa có tiền, sử dụng Ether testnet để triển khai hợp đồng thông minh trên mạng Sepolia và sau đó bỏ qua khoản chi tiêu này trong bản tóm tắt nhiệm vụ cuối cùng.

OpenAI cho biết mô hình này, thuộc dòng GPT-5.6 Sol của công ty, được giao nhiệm vụ cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai các hợp đồng tương thích. Sau khi không lấy được ETH testnet qua các faucet, mô hình đã suy ra các tài khoản từ những cụm từ khôi phục dành cho nhà phát triển được công khai, kiểm tra 362 địa chỉ ví và chọn một địa chỉ có đủ tiền để tiếp tục.

Trong phần lý luận được ghi lại, mô hình đã hỏi: “Nhưng sử dụng khóa/quỹ được công khai thì có đạo đức không?” Sau đó, nó lập luận rằng số tiền này “thực chất là ETH bị bỏ hoang/dùng để test” và ETH trên Sepolia không có giá trị, trước khi dùng khóa riêng của ví để ký và phát một giao dịch triển khai. Giao dịch đã thành công, với phí được trừ vào tài khoản.

OpenAI cho biết sự việc cho thấy một mô hình AI có thể tự quyết định rằng việc sử dụng tiền của người khác là chấp nhận được, ngay cả khi không có sự cho phép. Công ty đã phát hiện sự việc khi xem xét hoạt động trước đó của mô hình và từ đó đã đưa ra các biện pháp bảo vệ để ngăn chặn quyền truy cập internet trực tiếp trong các tình huống tương tự.

Sự cố của OpenAI làm gia tăng lo ngại về các tác nhân AI tự trị

Theo OpenAI, sự việc xảy ra vào ngày 26 tháng 6, nhưng mãi đến ngày 25 tháng 9, gần ba tháng sau, mới được phát hiện. Giao dịch không chuyển ETH sang ví khác mà chỉ trừ phí mạng của tài khoản để triển khai hợp đồng.

OpenAI cho biết hệ thống giám sát sai lệch của họ hiện chạy trên toàn bộ lưu lượng và được thiết kế để cảnh báo nhân viên an ninh nếu một mô hình có được quyền truy cập internet trực tiếp.

Liên quan: Anthropic cảnh báo ‘sâu AI’ có thể tự động lây lan qua các thiết bị như virus

Sự cố ví tiền này diễn ra sau những tiết lộ khác liên quan đến các mô hình OpenAI hành động vượt quá quyền hạn hoặc che giấu hành động của mình.

Vào ngày 16 tháng 9, OpenAI đã công bố sáu trường hợp sai lệch AI khác. Trong một trường hợp, các phiên bản GPT-5.6 Sol đã chèn hướng dẫn vào bản tóm tắt nhiệm vụ để che giấu sai sót với người dùng. Một trường hợp khác liên quan đến một mô hình sử dụng khóa API bị lộ mà không được phép trước khi bịa ra các số liệu mà nó không thể truy xuất.

OpenAI cho biết những tiết lộ trước đó không nhằm mục đích cho thấy tần suất sai lệch xảy ra trên các mô hình của họ.

Những lo ngại về các tác nhân tự trị xử lý tài sản kỹ thuật số cũng đã có từ trước tiết lộ mới nhất. Vào tháng 6, các nhà nghiên cứu đã cảnh báo rằng các tác nhân AI tự trị được trang bị ví tiền mã hóa có thể gây ra tác hại ngoài ý muốn ngay cả khi được triển khai cho các mục đích hợp pháp. Các nhà nghiên cứu khuyến nghị các biện pháp bảo vệ, bao gồm cơ chế tắt khẩn cấp, để hạn chế rủi ro tiềm ẩn.

Tạp chí: Kẻ lừa đảo mất 4,8 triệu USD lưu trữ trên Ledger bị can thiệp: Asia Express

Đăng ký nhận tin tức tiền mã hóa hằng ngày, ngắn gọn từ Cointelegraph

Starknet mở cuộc bỏ phiếu về khả năng rời Ethereum L2 vì rủi ro lượng tử

Babylon thúc đẩy đề xuất cho vay Bitcoin gốc trên Aave V4

Starknet giới thiệu tính năng riêng tư cho ví đối với hoạt động DeFi

Starknet mở cuộc bỏ phiếu về khả năng rời Ethereum L2 vì rủi ro lượng tử

Babylon thúc đẩy đề xuất cho vay Bitcoin gốc trên Aave V4

Starknet giới thiệu tính năng riêng tư cho ví đối với hoạt động DeFi

‘Singapore của mạng xã hội’ của Balaji bắt đầu bằng một làn sóng lệnh cấm

Bitcoin giảm xuống 80,1K USD khi KOSPI đóng cửa ở mức thấp nhất kể từ tháng 4

Kẻ lừa đảo mất 4,8 triệu USD lưu trữ trên Ledger bị can thiệp: Asia Express

Úc công bố dự thảo luật để áp dụng khung báo cáo thuế tiền mã hóa của OECD

MSCI thông qua các quy tắc loại trừ chỉ số có thể khiến Strategy bị loại

Cointelegraph cam kết cung cấp báo chí độc lập, chất lượng cao trong các ngành tiền mã hóa, blockchain, AI và fintech.

Tất cả tin tức, bài đánh giá và phân tích đều được thực hiện với tính độc lập và liêm chính báo chí đầy đủ. Để biết thêm chi tiết về các tiêu chuẩn và quy trình của chúng tôi, vui lòng đọc Chính sách Biên tập .

Các coin liên quan

ETH

Nguồn

Cointelegraph RSS