"Luật Cơ bản về AI chính thức có hiệu lực từ hôm nay", Tổng thống Lee Jae Myung tuyên bố hôm 22/1.
Với việc Luật Cơ bản về Phát triển Trí tuệ Nhân tạo và Thiết lập Nền tảng về Độ tin cậy có hiệu lực, các công ty và nhà phát triển AI được yêu cầu phải chịu trách nhiệm lớn hơn trong việc giải quyết nội dung giả mạo (deepfake) và thông tin sai lệch do AI tạo ra.
Các công ty sử dụng các mô hình AI có rủi ro cao, các hệ thống có khả năng tạo ra nội dung ảnh hưởng đến cuộc sống hàng ngày hoặc sự an toàn của người dân được yêu cầu phải thông báo cho người dùng rằng dịch vụ của họ dựa trên AI và chịu trách nhiệm đảm bảo các biện pháp an toàn thích hợp.
Nội dung do các mô hình AI tạo ra cũng bắt buộc phải gắn dấu watermark (dấu nhận diện số) để thể hiện rõ bản chất là sản phẩm được tạo ra bởi AI.
Được thông qua vào tháng 12/2024, luật nhằm mục đích "thiết lập nền tảng dựa trên sự an toàn và tin cậy để hỗ trợ đổi mới AI", Bộ Khoa học và Công nghệ Hàn Quốc cho biết.
Ngoài ra, luật quy định rằng các công ty quốc tế hoạt động tại Hàn Quốc phải chỉ định một đại diện tại địa phương nếu họ có doanh thu toàn cầu hằng năm từ 1.000 tỷ won (680 triệu USD) trở lên, doanh thu trong nước ít nhất 10 tỷ won (6,8 triệu USD), hoặc có từ 1 triệu người dùng hằng ngày trở lên tại quốc gia này.
Hiện nay, OpenAI và Google đều đáp ứng các tiêu chí này.
Các hành vi vi phạm luật có thể bị phạt tiền lên tới 30 triệu won (20.418 USD). Tuy nhiên, chính phủ nước này dự kiến sẽ áp dụng thời gian ân hạn 1 năm trước khi bắt đầu xử phạt, nhằm giúp khu vực tư nhân có thời gian thích nghi.
Truyền thông Hàn Quốc cho biết, Hàn Quốc hiện đã trở thành quốc gia đầu tiên trên thế giới đưa vào vận hành một khung pháp lý toàn diện về AI. Bộ Khoa học và Công nghệ cũng mô tả đây là đạo luật thứ hai thuộc loại này trên thế giới được ban hành.
Trong khi Liên minh châu Âu (EU) đã ban hành luật AI đầu tiên trên thế giới vào tháng 6/2024, thì việc ban hành các quy định về AI rủi ro cao lại bị hoãn đến tháng 12/2027.
Mặt khác, có nhiều lo ngại rằng đạo luật này - vốn nhằm mục đích bảo vệ và thúc đẩy ngành công nghiệp AI của Hàn Quốc - có thể vô tình cản trở sự phát triển công nghệ và kìm hãm hoạt động kinh doanh.
Lim Jeong-wook, đồng đại diện của Startup Alliance cho biết: “Các công ty khởi nghiệp vốn đã gặp khó khăn về thời gian và nguồn vốn cho phát triển công nghệ, họ còn phải rà soát xem công việc của mình có tuân thủ luật hay không, điều này có thể làm chậm quá trình đổi mới sáng tạo”.
