Trong báo cáo công bố hôm thứ Tư (10/6), Hội đồng Ổn định Tài chính (FSB) cho biết, các hội đồng quản trị doanh nhiệp nên cân nhắc áp dụng các cơ chế kiểm soát nhằm hạn chế rủi ro từ AI, đặc biệt là tác nhân AI (agentic AI) - những hệ thống có khả năng tự lên kế hoạch, suy luận và thực hiện công việc với ít sự can thiệp của con người.
Trong đó, tác nhân AI đã được các công ty tài chính sử dụng để phát hiện gian lận, dịch vụ khách hàng và các chức năng hỗ trợ văn phòng.
Theo khảo sát của Cambridge Centre for Alternative Finance, 52% tổ chức tài chính cho biết đã ứng dụng các tác nhân AI. Trong đó, 23% đã triển khai công nghệ ở quy mô lớn hoặc đưa vào các chương trình chuyển đổi hoạt động, còn 29% đang trong giai đoạn thử nghiệm.
Trong bối cảnh đó, các cơ quan quản lý và cơ quan thiết lập tiêu chuẩn toàn cầu đã tăng cường cảnh báo về những rủi ro do triển khai AI trên toàn lĩnh vực tài chính kể từ khi Anthropic phát hành Mythos - một hệ thống được các chuyên gia đánh giá có thể tạo ra những thách thức đáng kể về an ninh mạng đối với ngành ngân hàng.
Theo FSB, các hệ thống AI tự chủ có thể làm gia tăng những rủi ro có khả năng "hiện thực hóa với tốc độ rất nhanh", bao gồm các hành động không được cấp phép, vi phạm quy định, rò rỉ dữ liệu và nguy cơ gây gián đoạn các hệ thống kết nối.
“Các tác nhân AI đặt ra một thách thức rõ ràng đối với sự giám sát của con người… chúng có thể theo đuổi những hành động đi chệch khỏi ý định của công ty mà nhân viên không nhận thức được hoặc không thể can thiệp nhanh chóng”, báo cáo cho biết.
Để ứng phó với các rủi ro trên, FSB đã đưa ra một loạt "thông lệ hợp lý" được đề xuất, trong đó khuyến nghị các tổ chức tài chính thiết lập ranh giới rõ ràng đối với việc sử dụng AI và tích hợp các cơ chế kiểm soát phù hợp.
Các khuyến nghị cũng bao gồm việc giới hạn phạm vi hoạt động của các tác nhân AI, đồng thời yêu cầu có sự phê duyệt của con người đối với những hành động có mức độ rủi ro cao, chẳng hạn các giao dịch tài chính vượt ngưỡng nhất định.
Ngoài ra, FSB cho biết các doanh nghiệp có thể cân nhắc điều chỉnh các quy trình và cơ chế quản trị nhân sự hiện hành đối với tác nhân AI theo hướng xem các hệ thống này như những "nhân viên tổng hợp".
