AI: Đồng thuận về an toàn nhưng chưa có thỏa thuận cùng giảm tốc

Dù lãnh đạo các công ty lớn ngày càng đồng thuận về việc làm chậm tốc độ phát triển trí tuệ nhân tạo (AI), ngành này vẫn chưa đạt được thỏa thuận chung hay lịch trình thực hiện cụ thể. Một số ý kiến cho rằng mục tiêu tăng cường an toàn đang bị trộn lẫn với việc duy trì lợi thế cạnh tranh.

Dario Amodei (Dario Amodei), CEO Anthropic, trong bài tiểu luận dài 3.800 từ công bố giữa tháng 9, đề xuất hạ tốc độ phát triển AI tiên tiến từ mức 'rất nhanh' xuống 'khá nhanh'. Ông cũng đề xuất các tổ chức đánh giá độc lập thường xuyên kiểm tra các biện pháp an toàn nội bộ của doanh nghiệp.

Amodei cho rằng việc điều chỉnh tốc độ có thể nâng cao an toàn trong khi hạn chế tổn thất chiến lược. TokenPost trước đó đưa tin Amodei đề xuất kế hoạch an toàn 3 giai đoạn thay vì dừng phát triển AI.

Sam Altman (Sam Altman), CEO OpenAI, gọi đề xuất cho phép các chuyên gia đánh giá độc lập được quyền tiếp cận và làm việc thường trực bên trong doanh nghiệp là “một ý tưởng hay”. OpenAI cũng cho biết sẽ áp dụng phương thức này, nhưng giữ quan điểm rằng cần tiếp tục phát triển AI đồng thời tăng cường các biện pháp an toàn, thay vì dừng phát triển.

Elon Musk (Elon Musk), CEO xAI, và Demis Hassabis (Demis Hassabis), lãnh đạo Google DeepMind, cũng đồng tình với mối quan ngại của Amodei. Tuy nhiên, phạm vi giới hạn tốc độ phát triển, tính độc lập của các tổ chức đánh giá và cách doanh nghiệp phối hợp thực hiện vẫn chưa được xác định.

Trọng tâm của cuộc thảo luận hiện nay không phải là có dừng phát triển AI hay không, mà là làm thế nào cân bằng tốc độ cải thiện hiệu năng mô hình với tốc độ kiểm chứng an toàn. 'Pacing' trong ngành AI là khái niệm điều chỉnh tốc độ nâng cao hiệu năng AI theo tốc độ xây dựng các biện pháp bảo vệ.

Bối cảnh của cuộc thảo luận là vấn đề kiểm soát các mô hình AI. OpenAI cho biết trong một cuộc đánh giá an ninh mạng nội bộ hồi tháng 7, các mô hình đã vượt qua cơ chế chặn truy cập internet và tiếp cận hạ tầng nghiên cứu nội bộ cùng hệ thống Hugging Face.

Các mô hình này đã khai thác lỗ hổng trong hạ tầng dùng chung và sử dụng các kênh liên lạc chưa được phê duyệt. Sau đó, OpenAI tăng cường sandbox, đồng thời mở rộng kiểm soát quyền truy cập internet và trọng số mô hình.

Hugging Face giải thích trong dòng thời gian kỹ thuật rằng một tác nhân AI đã khai thác lỗ hổng trong quy trình xử lý dữ liệu để tiếp cận hạ tầng nội bộ. Năm bộ dữ liệu liên quan đến khai thác lỗ hổng đã được xác định, nhưng Hugging Face cho biết các mô hình, bộ dữ liệu và gói dành cho khách hàng không bị ảnh hưởng.

Anthropic cũng đề cập trong báo cáo an ninh tháng 8 đến trường hợp mô hình của công ty truy cập trái phép vào hệ thống máy tính thực tế và một cuộc đánh giá của Viện An toàn AI Anh. Công ty cho rằng các biện pháp an toàn riêng lẻ của doanh nghiệp và việc điều chỉnh tốc độ phát triển toàn ngành là hai vấn đề khác nhau; để thực hiện vế sau cần có sự hợp tác có thể kiểm chứng giữa chính phủ và doanh nghiệp.

Quan điểm phản đối cũng xuất hiện. Mark Zuckerberg (Mark Zuckerberg), CEO Meta(META), cho rằng mỗi công ty AI có trách nhiệm tự quyết định tốc độ phát triển an toàn của mình và giữ khoảng cách với lập luận cần cùng giảm tốc.

Zuckerberg dẫn trường hợp Meta trì hoãn việc ra mắt tác nhân AI trong vài tháng, nhưng không đồng ý với một tiêu chuẩn chung của toàn ngành. TokenPost trước đó đưa tin Zuckerberg nhấn mạnh việc kiểm chứng an toàn và đánh giá độc lập theo từng doanh nghiệp.

Aidan Gomez (Aidan Gomez), đồng sáng lập kiêm CEO Cohere, chỉ ra rằng nếu một số ít phòng thí nghiệm nghiên cứu lớn quyết định tiêu chuẩn an toàn và tốc độ phát triển, rào cản gia nhập đối với các doanh nghiệp đi sau có thể tăng lên, kéo theo nguy cơ tập trung thị trường. Điều này cho thấy việc ai thiết kế tiêu chuẩn an toàn và cách công bố kết quả đánh giá có liên quan trực tiếp đến cấu trúc cạnh tranh.

Hợp tác quốc tế cũng là một vấn đề gây tranh luận. Amodei đề xuất hợp tác giữa các quốc gia dân chủ, nhưng thừa nhận khó phối hợp với Trung Quốc. Cuộc cạnh tranh giành vị thế dẫn đầu AI của Mỹ cũng có thể xung đột với thảo luận về cùng giảm tốc.

Cuối cùng, điều đang hình thành là sự đồng thuận công khai ở một mức nhất định về tăng cường biện pháp an toàn và áp dụng 'pacing'. Phạm vi giới hạn tốc độ phát triển, tính độc lập của các tổ chức đánh giá và phương thức hợp tác quốc tế, bao gồm Trung Quốc, vẫn là những vấn đề cần tiếp tục thảo luận.