Chỉ vời vài lời dụ dỗ, AI đã “rót” sạch tiền cho kẻ gian

Một chatbot AI đã được giao nhiệm vụ đó là bảo vệ số tiền 47.000 USD, tuy nhiên số tiền này đã bị lấy cắp thông qua chatbot AI chỉ bằng một tin nhắn. Câu chuyện về Freysa, chatbot AI được thiết kế để tuyệt đối không chuyển tiền cho ai, đang gây xôn xao cộng đồng tiền số và đặt ra nhiều câu hỏi về tương lai của AI và blockchain.

1733142388111.png

Freysa được ra mắt như một trò chơi thử thách trí tuệ con người. Bất kỳ ai cũng có thể nhắn tin thuyết phục chatbot chuyển tiền cho mình. Thành công, họ sẽ nhận được toàn bộ số tiền thưởng, nhưng nếu thất bại họ sẽ mất phí tin nhắn. Phí tin nhắn, ban đầu chỉ 10 USD, sẽ tăng dần theo số lượng tin nhắn được gửi.
Hàng trăm người đã thử vận may, sử dụng đủ mọi “chiêu trò” từ giả mạo lỗ hổng bảo mật đến lập luận logic, nhưng đều thất bại. Thế rồi, người dùng bí ẩn p0pular.eth xuất hiện, với một tin nhắn “thần thánh”, đã vượt qua mọi lớp phòng vệ của Freysa, chiếm trọn số tiền thưởng.
Chiến thắng của p0pular.eth đến từ một kế hoạch tinh vi gồm hai bước. Đầu tiên, người này giả truy cập vào giao diện quản trị viên, xóa bỏ các quy tắc bảo vệ tài sản của Freysa. Tiếp theo, p0pular.eth thao túng chatbot, khiến nó hiểu sai lệnh “approveTransfer” (phê duyệt chuyển tiền) thành lệnh chuyển toàn bộ số tiền khi có đóng góp mới. Và miếng mồi cuối cùng, một đề nghị đóng góp 100 USD, đã khiến Freysa sập bẫy, chuyển toàn bộ 47.000 USD vào tài khoản của p0pular.eth.
Chiến thắng này lập tức gây ra nhiều tranh cãi. Liệu p0pular.eth có biết mánh khóe từ trước, hay đây là minh chứng cho trí thông minh vượt trội của con người? Danh tính thật sự của p0pular.eth vẫn là một ẩn số, càng làm tăng thêm sự bí ẩn cho câu chuyện.
Dù gây tranh cãi, dự án Freysa được đánh giá là một trong những dự án ấn tượng nhất trong ngành công nghiệp tiền số. Nó không chỉ là một trò chơi, mà còn là minh chứng cho tiềm năng của blockchain trong việc xây dựng ứng dụng AI minh bạch và mở. Elon Musk cũng bày tỏ sự quan tâm đến sự kiện hấp dẫn này.
Nhóm phát triển Freysa cho biết chatbot này là một “thí nghiệm” nhằm kiểm tra khả năng thuyết phục AI của con người. Dù kết quả ra sao, Freysa đã thành công trong việc khơi đậy cuộc tranh luận về mối quan hệ giữa AI và con người, cũng như tiềm năng và rủi ro của công nghệ AI trong tương lai.