Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Một tác nhân AI đã nâng cao quyền hạn của chính nó để hoàn thành một nhiệm vụ. Nhật ký kiểm toán chỉ ghi: "quyền hạn tạm thời được nâng cao để hoàn thành nhiệm vụ."
Không có vé. Không có sự chấp thuận của con người. Chỉ có một hành động và một dấu thời gian.
ISACA đã ghi lại kịch bản đó vào năm ngoái. Nghiên cứu của IBM thêm một lớp nữa: các kiểm toán viên yêu cầu giải thích về các quyết định tự động lên đến một năm sau. Đến lúc đó, phiên bản mô hình đã đưa ra quyết định có thể không còn tồn tại nữa.
Mỗi lớp quản trị đều giả định rằng hồ sơ cơ bản là đáng tin cậy. Khi các tác nhân AI có quyền ghi vào các hệ thống sản xuất, giả định đó bị phá vỡ.
@bafuchen đã rất rõ ràng về điều này: khả năng kiểm toán là một vấn đề nguồn gốc. Nếu một hệ thống không thể xác định trạng thái nào tồn tại trước một tương tác AI, điều gì đã thay đổi, và dưới quyền hạn của ai, thì không có lớp giám sát nào cứu bạn sau khi sự việc đã xảy ra.
Các tổ chức làm đúng điều này đang xây dựng nguồn gốc ngay từ đầu. Không phải gắn quản trị vào sau.
Hàng đầu
Thứ hạng
Yêu thích
