Hàn Quốc họp công - tư bàn cách chặn thông tin xấu, độc trên AI

Ủy ban Phát thanh Truyền thông Đa phương tiện Hàn Quốc (Broadcasting Media Communications Commission, BMTC) đã tổ chức hội nghị công - tư lần thứ hai vào ngày 27 để bàn cách đối phó với thông tin bất hợp pháp và độc hại trong các dịch vụ trí tuệ nhân tạo (AI).

BMTC cho biết ngày 27 (giờ địa phương) đã tổ chức "Hội nghị công - tư về bảo vệ người dùng dịch vụ AI lần thứ hai" tại tòa nhà L Tower ở Seoul, với sự tham gia của đại diện chính phủ, doanh nghiệp, giới học thuật và các tổ chức dân sự. Hội nghị được tổ chức nhằm rà soát những vấn đề bảo vệ người dùng còn nằm ngoài các quy định hiện hành do sự lan rộng của dịch vụ AI, đồng thời thảo luận phương án cải thiện thể chế để xây dựng môi trường dịch vụ an toàn hơn.

Chủ đề trọng tâm của buổi họp là các biện pháp kỹ thuật nhằm giảm nguy cơ dịch vụ AI để lộ thông tin bất hợp pháp và độc hại. Kim Kyung-hoon (Kim Kyung-hoon), Giám đốc An toàn AI của Kakao, đã trình bày báo cáo với chủ đề "Hiện trạng hệ thống gác chắn (guardrail) đối phó thông tin bất hợp pháp và độc hại trong dịch vụ AI".

Ông Kim giới thiệu mô hình gác chắn kiểm định an toàn AI mang tên Kanana Safeguard, do Kakao tự phát triển dựa trên mã nguồn mở chuyên biệt cho tiếng Hàn. Ông cũng chia sẻ định hướng nâng cấp các biện pháp an toàn tự nguyện của doanh nghiệp cùng phương án hợp tác trong hệ sinh thái an toàn AI.

Gác chắn (guardrail) là thiết bị an toàn giúp hạn chế dịch vụ AI đưa ra câu trả lời không phù hợp hoặc thông tin nguy hiểm. Công cụ này được dùng để nâng cao độ an toàn của dịch vụ, bằng cách lọc trước nội dung hiển thị cho người dùng hoặc giới hạn phản hồi đối với các yêu cầu có tính rủi ro.

Phiên thảo luận tổng hợp sau đó do Lee Sung-yeop (Lee Sung-yeop), Giáo sư Trường Sau đại học Quản trị Công nghệ, Đại học Korea, chủ trì. Nội dung thảo luận xoay quanh việc thúc đẩy các biện pháp tự nguyện của doanh nghiệp và phương án hợp tác công - tư nhằm đối phó nguy cơ để lộ thông tin bất hợp pháp, độc hại trong dịch vụ AI.

Giáo sư Lee Sung-yeop, Trường Sau đại học Quản trị Công nghệ, Đại học Korea, nói: "Các xu hướng kỹ thuật được thảo luận cần được phản ánh theo hướng nâng cao hiệu quả thực thi của thể chế trong quá trình xây dựng khung pháp lý bảo vệ người dùng của doanh nghiệp". Bình luận cho thấy các thảo luận kỹ thuật cần gắn với hệ thống quy định thực tế, thay vì chỉ dừng lại ở tuyên bố.

Shin Young-gyu (Shin Young-gyu), Cục trưởng Cục Chính sách Người dùng Phát thanh Truyền thông của BMTC, cho biết: "Công nghệ AI thiếu độ tin cậy về mặt đạo đức có thể gây ra sự bất tín trong xã hội, từ đó cản trở sự tăng trưởng của toàn ngành AI", đồng thời nói thêm cần triển khai song song các biện pháp an toàn kỹ thuật với việc thúc đẩy công nghệ và bảo vệ người dùng.

Cuộc thảo luận lần này của BMTC nằm trong xu hướng xem dịch vụ AI không chỉ là công nghệ mới, mà còn là đối tượng cần được quy định để bảo vệ người dùng. Khi dịch vụ AI mở rộng sang tìm kiếm, tư vấn, gợi ý nội dung, tự động hóa công việc..., khả năng người dùng gặp thiệt hại mà các quy định viễn thông và nền tảng hiện có khó bao quát hết cũng được đánh giá là ngày càng lớn.

BMTC đã vận hành "Hội nghị công - tư về bảo vệ người dùng trong xã hội thông tin thông minh" từ năm 2021. Đến năm 2024, cơ quan này mở rộng, cải tổ thành "Hội nghị công - tư về bảo vệ người dùng dịch vụ AI" để phù hợp với sự thay đổi của môi trường AI.

Tháng 5 vừa qua, khóa 2 của hội nghị công - tư đã ra mắt với 35 chuyên gia đến từ chính phủ, doanh nghiệp, giới luật, học thuật và các tổ chức dân sự. Hội nghị lần thứ hai này có ý nghĩa khi cùng lúc bàn về thiết bị an toàn của dịch vụ AI theo hai hướng: biện pháp tự nguyện của doanh nghiệp và cải thiện thể chế.

Việc quản lý dịch vụ AI tại Hàn Quốc đang chuyển dịch theo hướng đòi hỏi đồng thời thiết bị kiểm soát người dùng và cơ chế trách nhiệm, thay vì chỉ tập trung vào cuộc đua hiệu năng mô hình. TokenPost trước đó từng đưa tin rằng thảo luận về giám sát an toàn tại các phòng thí nghiệm AI đang dịch chuyển từ việc nhân viên lên tiếng cảnh báo sang cơ cấu trách nhiệm của hội đồng quản trị.

Thảo luận về an toàn AI cũng đặt ra câu hỏi về ranh giới trách nhiệm giữa doanh nghiệp cung cấp dịch vụ và người dùng. Ngày càng có nhiều ý kiến cho rằng doanh nghiệp cần xây dựng thiết bị chặn lọc kỹ thuật, trong khi cơ quan quản lý cần thiết lập cơ chế giám sát xem các biện pháp tự nguyện có thực sự giúp bảo vệ người dùng hay không.

Dựa trên nội dung thảo luận trong ngày, BMTC cho biết sẽ thúc đẩy xây dựng môi trường để người dùng có thể sử dụng dịch vụ AI một cách an toàn.