"Khách hàng A đã yêu cầu dữ liệu của họ và nhận được thông tin tài chính của Khách hàng B thay vào đó." Đây không phải là một cuộc tấn công mạng tinh vi. Đây là một sự cố hệ thống đang xảy ra ngay bây giờ với các quy trình làm việc được hỗ trợ bởi AI. Vấn đề là gì? Các tác nhân AI xử lý thông tin khác với phần mềm truyền thống – thường không có ranh giới rõ ràng mà chúng ta đã quen thuộc. Tại Civic, chúng tôi thấy các tổ chức triển khai máy chủ Mô hình Ngữ cảnh mà không có các biện pháp kiểm soát truy cập thích hợp. Những máy chủ này hoạt động như những cầu nối giữa các tác nhân AI và các hệ thống kinh doanh, tạo ra những điểm dễ bị tổn thương đáng kể. Giải pháp bắt đầu từ việc xác thực ở cấp hạ tầng.