Deloitte: Doanh nghiệp cần xây dựng khung quản trị AI

0:00 / 0:00
0:00
(ĐTCK) Bên cạnh việc hưởng lợi từ AI, các công ty trong ngành dịch vụ tài chính cũng sẽ phải đối mặt với những rủi ro mới như: rủi ro chiến lược, bảo vệ dữ liệu, quản trị, tính minh bạch và trách nhiệm giải trình
Deloitte: Doanh nghiệp cần xây dựng khung quản trị AI

Trung tâm Chiến lược Pháp chế Deloitte châu Á - Thái Bình Dương (Asia Pacific Centre for Regulatory Strategy - ACRS) gần đây đã phát hành báo cáo “Generative AI: Ứng dụng và Quy định tại khu vực châu Á – Thái Bình Dương”.

Báo cáo chỉ ra những rủi ro phát sinh từ việc sử dụng GenAI (AI tạo sinh) trong lĩnh vực dịch vụ tài chính, bức tranh toàn cảnh về các quy định hiện nay tại châu Á – Thái Bình Dương, cũng như đưa ra các hướng dẫn hỗ trợ các công ty chuẩn bị tốt nhằm đáp ứng những thay đổi về quy định và pháp chế sắp tới trong lĩnh vực tài chính đang phát triển nhanh chóng.

ACRS đã phỏng vấn 12 chuyên gia về công nghệ và pháp chế của Deloitte trên toàn khu vực châu Á - Thái Bình Dương, trong bối cảnh công nghệ GenAI ngày càng có nhiều bước tiến lớn, các nhà hoạch định chính sách và các cơ quan quản lý đang đánh giá lại các khuôn khổ AI hiện nay để giảm thiểu những rủi ro công nghệ mới phát sinh từ việc áp dụng GenAI, đồng thời đảm bảo những khuôn khổ này vẫn phù hợp với ngành dịch vụ tài chính.

Trong 12 tháng qua, lĩnh vực phát triển công nghệ trí tuệ nhân tạo (AI) đã có nhiều đột phá lớn như việc các công nghệ GenAI đã phổ biến hơn thông qua các công cụ như Chat GPT của OpenAI và Bard AI của Google, tuy nhiên, những rủi ro phổ biến mà các cơ quan quản lý tại khu vực châu Á Thái Bình Dương đã giải quyết dựa trên các nguyên tắc về quy định liên quan AI nhanh chóng trở nên nghiêm trọng hơn.

Ngành dịch vụ tài chính đang trải qua thời kỳ thay đổi và gián đoạn sâu sắc. GenAI đang thay đổi cách thức cung cấp dịch vụ, nhưng, cũng như bất kỳ thay đổi nào, mối quan tâm về mặt pháp lý và giám sát đối với AI vẫn đang gia tăng. Các công ty tài chính hiện đang phải đối mặt với những rủi ro mới và ngày càng trầm trọng hơn như công tác quản trị, trách nhiệm giải trình và bảo vệ dữ liệu trong chu kỳ ứng dụng AI, cũng như các rủi ro pháp lý và rủi ro chiến lược.

Theo đó, một số vấn đề nổi bật có thể kể tới tính minh bạch, trách nhiệm giải trình, tính công bằng, phát triển lành mạnh, quyền riêng tư và bảo mật dữ liệu, quyền sở hữu trí tuệ... tiếp tục đặt ra cho các cơ quan quản lý bài toán phải cân bằng lợi ích giữa việc đổi mới công nghệ và việc đảm bảo an toàn của người dùng.

Đáng chú ý, các công ty dịch vụ tài chính nên xác định các bên liên quan trong việc thu thập, lưu trữ và xử lý thông tin cá nhân khách hàng và đảm bảo các bên hoặc bộ phận liên quan cũng tuân thủ các quy định liên quan đến bảo mật thông tin.

Đồng thời, do vấn đề bảo vệ bản quyền cho các yếu tố đầu vào và đầu ra của GenAI vẫn còn chưa rõ ràng, các công ty dịch vụ tài chính nên hiểu rằng bất kỳ dữ liệu hoặc truy vấn được nhập vào các ứng dụng GenAI có thể sẽ công khai, cần cân nhắc ban hành các biện pháp kiểm soát với mục đích ngăn chặn tình huống vô tình làm tiết lộ tài sản trí tuệ hoặc vi phạm bản quyền.

Ông Akihiro Matsuyama, Lãnh đạo dịch vụ Tư vấn rủi ro tại Deloitte châu Á - Thái Bình Dương cho biết: "Mặc dù các quy định và hành lang pháp lý về AI vẫn đang trong giai đoạn đầu xây dựng hoặc triển khai ở hầu hết các quốc gia, nhưng điều quan trọng với các công ty dịch vụ cần sớm thực hiện cách tiếp cận có thể đo lường thông qua việc thiết lập khuôn khổ AI của riêng doanh nghiệp càng sớm càng tốt và có kế hoạch hành động để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI.

Khối tư nhân cần tham gia vào các cuộc đối thoại tích cực với các cơ quan quản lý và cơ quan lập pháp để chia sẻ những hiểu biết chuyên ngành và kinh nghiệm trong lĩnh vực này nhằm hỗ trợ quá trình xây dựng quy định pháp luật và thúc đẩy sự đồng thuận về lộ trình tương lai của AI".

Ông Wong Nai Seng, Lãnh đạo phụ trách Quy định Chiến lược tại Deloitte Đông Nam Á, chia sẻ thêm: “Các công nghệ AI như GenAI mang lại tiềm năng lớn giúp gia tăng hiệu suất và đẩy nhanh tốc độ số hóa trong ngành dịch vụ tài chính. Tuy nhiên, những rủi ro phát sinh từ việc sử dụng công nghệ vẫn cần được đặc biệt lưu ý, với mức độ ưu tiên cao. Khi hành lang pháp lý liên quan đến công nghệ AI vẫn đang trong quá trình xây dựng và phát triển, trên toàn cầu và tại khu vực Đông Nam Á, các công ty ngành dịch vụ tài chính đang cân nhắc áp dụng các công nghệ AI nên thận trọng đánh giá mức độ tương thích của các rủi ro liên quan đến AI với khẩu vị rủi ro hiện tại và khuôn khổ quản trị rủi ro của mình".

Ông Đỗ Danh Thanh, Phó tổng giám đốc Dịch vụ tư vấn chuyển đổi số và an ninh mạng, Deloitte Việt Nam cho biết: “Tại Việt Nam, Luật Kinh doanh bảo hiểm được thông qua vào tháng 6/2022, cho phép ứng dụng công nghệ thông tin vào hoạt động kinh doanh bảo hiểm. Chính phủ cũng khuyến khích các công ty bảo hiểm áp dụng công nghệ, trong đó có AI để bán các sản phẩm và dịch vụ bảo hiểm mới. Bắt nhịp cùng xu thế trên thế giới, việc ứng dụng AI, trong đó có GenAI chắc chắn sẽ mở rộng ra các mảng khác trong ngành dịch vụ tài chính tại Việt Nam.

Tuy nhiên, bên cạnh việc hưởng lợi từ AI, các công ty trong ngành dịch vụ tài chính cũng sẽ phải đối mặt với những rủi ro mới như: rủi ro chiến lược, bảo vệ dữ liệu, quản trị, tính minh bạch và trách nhiệm giải trình. Để chuẩn bị sẵn sàng và giảm thiểu những rủi ro này, các công ty dịch vụ tài chính nên xây dựng cho mình một khung quản trị AI".

Lam Phong

Tin liên quan

Tin cùng chuyên mục