Vitalik Buterin: Nên giới hạn năng lực AI theo mục đích sử dụng

Vitalik Buterin cho rằng nên giới hạn các năng lực nguy hiểm của trí tuệ nhân tạo (AI) dựa trên mục đích sử dụng, thay vì danh tính người dùng.

Ngày 26, trên X, Buterin nói ông có thể chấp nhận việc chủ động loại bỏ năng lực tấn công mạng tiên tiến khỏi dữ liệu huấn luyện của Kimi 3.1. Theo ông, hạn chế năng lực có thể được dùng cho mục đích nguy hiểm sẽ ít gây tác dụng phụ hơn việc phân loại người dùng theo danh tính.

Moonshot AI, công ty phát triển Kimi, cho biết trong tài liệu kỹ thuật rằng trước khi công bố trọng số mô hình K3.1 Pro, công ty đã loại bỏ tài liệu liên quan đến an ninh mạng và các nhiệm vụ tương ứng khỏi dữ liệu huấn luyện trung gian cũng như môi trường học tăng cường. Các bài tập lập trình thông thường vẫn được giữ lại. Trọng số mô hình là dữ liệu cần thiết để nhà phát triển chạy mô hình trong môi trường riêng.

Trong thử nghiệm nội bộ do Moonshot AI thiết kế, mô hình không áp dụng các hạn chế đã hoàn thành 90,5% nhiệm vụ tìm và khai thác lỗ hổng; K3.1 Pro cuối cùng đạt 81,0%. Việc loại bỏ dữ liệu không khiến năng lực tấn công biến mất. Moonshot AI cho biết mô hình cuối cùng vẫn làm tốt các nhiệm vụ an ninh mạng hơn phiên bản trước.

Buterin nói xã hội cần thời gian để gia cố hệ thống và rà soát mã cũ trước khi năng lực tấn công mạng mạnh được sử dụng rộng rãi. Ông cũng cho rằng nên áp dụng xác minh hình thức cho mã mới để kiểm tra bằng toán học rằng mã không có lỗi. Phát biểu của ông phân biệt hai vấn đề: ai được cấp quyền truy cập AI và mức độ năng lực có thể được cung cấp để dùng cho tấn công.

Buterin lo ngại rằng nếu xã hội không ứng phó thỏa đáng với những rủi ro AI nghiêm trọng ban đầu, việc sử dụng mô hình có thể bị hạn chế mạnh, còn xác minh danh tính khách hàng (KYC) và giám sát có thể trở nên phổ biến. Ông cũng đề cập khả năng người dùng được tiếp cận các mô hình ở cấp độ khác nhau tùy theo tư cách hoặc quốc tịch. Đây là những quan ngại do Buterin nêu ra, không phải mô tả về các quy định đang có hiệu lực.

Moonshot AI hiện cung cấp K3.1 Pro trên dịch vụ và API của mình, đồng thời cho biết dự định công bố toàn bộ trọng số mô hình trước ngày 4 tháng 11.