OpenAI lo ngại AI quân sự có thể chọn mục tiêu và vận hành vũ khí tự động

Việc quân đội sử dụng trí tuệ nhân tạo (AI) để chọn mục tiêu và khả năng triển khai vũ khí tự động đang làm dấy lên lo ngại ngay trong OpenAI. Sarah Yager, trưởng bộ phận nhân quyền và triển khai AI có trách nhiệm của công ty, cho biết việc quân đội ứng dụng AI khiến bà “mất ngủ”.

Fortune đưa tin ngày 6 rằng Yager bày tỏ lo ngại về AI trong lựa chọn mục tiêu quân sự và khả năng sử dụng vũ khí tự động tại sự kiện ScaleUp:AI ở New York. Sau khi gia nhập OpenAI, bà đã phối hợp với các chuyên gia quốc tế rà soát câu trả lời của các mô hình liên quan đến luật nhân đạo quốc tế và luật chiến tranh, đồng thời làm việc với các nhà nghiên cứu và kỹ sư để cải thiện mô hình, Fortune đưa tin. Kết quả thử nghiệm cụ thể và nội dung thay đổi mô hình chưa được công bố.

Phần giới thiệu diễn giả của sự kiện cho biết Yager là trưởng bộ phận đầu tiên của OpenAI phụ trách nhân quyền và triển khai AI có trách nhiệm. Trước đây, bà từng là giám đốc Human Rights Watch tại Washington và cố vấn cấp cao về nhân quyền tại Văn phòng Chủ tịch Hội đồng Tham mưu trưởng Liên quân Mỹ.

Yager nói với Fortune rằng ban đầu bà nghi ngờ việc bổ nhiệm mình có thể chỉ mang tính quảng bá. Sau khi trò chuyện với nhân viên, bà gia nhập OpenAI để tìm hiểu liệu có thể cải thiện độ an toàn của công nghệ từ bên trong hay không. Công ty chưa giải thích riêng về quyền ra quyết định thực tế của bà hoặc phạm vi phê duyệt các thay đổi mô hình.

Phát biểu này được đưa ra sau khi OpenAI tuyên bố có các biện pháp bảo vệ an toàn cho việc triển khai AI quân sự. Ngày 28 tháng 2 năm 2026, OpenAI công bố hợp đồng với Bộ Quốc phòng Mỹ về triển khai AI trong môi trường mật.

Trong phần mô tả hợp đồng, OpenAI cho biết mô hình chỉ được triển khai trên môi trường đám mây và công ty vận hành bộ phân loại an toàn. Theo công ty, hợp đồng quy định AI không được tự mình chỉ huy vũ khí tự động hoặc bán tự động trong trường hợp luật pháp, quy định hoặc chính sách của Bộ Quốc phòng yêu cầu con người kiểm soát.

OpenAI cũng cho biết hợp đồng yêu cầu các hệ thống tự động và bán tự động phải được xác nhận, thẩm định và thử nghiệm trước khi triển khai trong thực tế. Đây là nội dung trong phần giải thích hợp đồng do công ty công bố; tài liệu này không phải toàn văn hợp đồng hay bằng chứng về kết quả vận hành thực tế.

Thông tin về việc rà soát mô hình cũng dựa trên lời Yager. Tài liệu thử nghiệm, đánh giá độc lập và dữ liệu so sánh hiệu suất trước và sau khi triển khai chưa được công bố.

Ủy ban Chữ thập đỏ Quốc tế (ICRC) cảnh báo AI quân sự có thể làm tăng tốc độ và quy mô chiến tranh, đồng thời làm suy yếu sự kiểm soát của con người đối với việc sử dụng vũ lực. Tổ chức này cho rằng các hệ thống AI nên hỗ trợ chứ không thay thế phán đoán của con người.

ICRC cũng chỉ ra rằng các hệ thống AI hỗ trợ ra quyết định có thể tạo ra kết quả không chắc chắn và nguy cơ thiên lệch tự động hóa. Người sử dụng có thể làm theo khuyến nghị của máy mà không xem xét đầy đủ, theo tổ chức này.

Vụ việc đặt ra câu hỏi về phạm vi sử dụng AI quân sự, các biện pháp bảo vệ an toàn và việc duy trì phán đoán của con người trong quyết định sử dụng vũ lực. Chưa có thông tin xác nhận mối liên hệ trực tiếp giữa vấn đề này với tiền mã hóa hoặc blockchain.