Cần có các biện pháp mạnh mẽ hơn để phát hiện deepfake do AI tạo ra

Theo đó, ITU cho biết các nội dung deepfake như hình ảnh, video do AI tạo ra và âm thanh giả mạo người thật một cách thuyết phục đang gây ra những rủi ro ngày càng tăng.

ITU kêu gọi các tiêu chuẩn mạnh mẽ để chống lại nội dung đa phương tiện bị thao túng và khuyến nghị các nhà phân phối nội dung như các nền tảng mạng xã hội sử dụng các công cụ xác minh kỹ thuật số để xác thực hình ảnh và video trước khi chia sẻ.

"Niềm tin vào mạng xã hội đã giảm đáng kể vì mọi người không biết đâu là thật, đâu là giả", Bilel Jamoussi, trưởng phòng nhóm nghiên cứu thuộc Cục Tiêu chuẩn hóa của ITU cho biết.

Ông cho biết việc chống lại deepfake là một thách thức hàng đầu do khả năng tạo ra nội dung đa phương tiện chân thực của AI tạo sinh.

Leonard Rosenthol, kiến trúc sư trưởng cấp cao phụ trách PDF và Document Cloud Adobe đã nhấn mạnh tầm quan trọng của việc xác định nguồn gốc của nội dung kỹ thuật số để giúp người dùng đánh giá độ tin cậy của nó. "Chúng ta cần nhiều nơi hơn để người dùng xem nội dung của họ hiển thị thông tin này... Khi lướt qua các nguồn cấp dữ liệu, bạn sẽ muốn biết: 'Tôi có thể tin tưởng hình ảnh này, video này không...", ông cho biết.

Tiến sĩ Farzaneh Badiei, người sáng lập công ty nghiên cứu quản trị kỹ thuật số Digital Medusa đã nhấn mạnh tầm quan trọng của một cách tiếp cận toàn cầu đối với vấn đề này, vì hiện tại chưa có cơ quan giám sát quốc tế nào tập trung vào việc phát hiện nội dung bị thao túng.

Bên cạnh đó, ITU hiện đang phát triển các tiêu chuẩn cho việc đóng dấu bản quyền video - chiếm 80% lưu lượng truy cập internet - để nhúng dữ liệu nguồn gốc như danh tính người sáng tạo và thời gian.

Tomaz Levak, nhà sáng lập Umanitek kêu gọi khu vực tư nhân chủ động thực hiện các biện pháp an toàn và giáo dục người dùng. "AI sẽ ngày càng mạnh mẽ hơn, nhanh hơn hoặc thông minh hơn... Chúng ta cần nâng cao kỹ năng cho mọi người để đảm bảo không ai sẽ trở thành nạn nhân của các hệ thống này", ông cho biết.

Hạc Hiên
Theo báo chí nước ngoài