ByteDance lập nhóm an toàn AI, tuyển 10 nhà nghiên cứu ban đầu

Seed, bộ phận nghiên cứu AI của ByteDance, thành lập nhóm nghiên cứu an toàn và căn chỉnh mô hình, đồng thời tuyển 10 nhà nghiên cứu đầu tiên tại Bắc Kinh, Thượng Hải và San Jose (Mỹ).

Trong thông báo tuyển dụng công bố ngày 14 tháng 10, Seed cho biết nhóm mới có tên “Alignment & Preparedness”. Công ty cho biết sẽ đầu tư dài hạn vào lĩnh vực này và cung cấp nguồn lực, hỗ trợ phù hợp với nghiên cứu mô hình tiên tiến. Nội dung được đối chiếu với thông báo tuyển dụng chính thức của Seed và tin liên quan của Caixin (财新).

Phạm vi nghiên cứu gồm xây dựng quy tắc hành vi và chính sách an toàn cho mô hình, thiết lập hệ thống đánh giá an toàn, huấn luyện căn chỉnh, tự động hóa red teaming và chuẩn bị cho các rủi ro trong tương lai. Red teaming là phương pháp cố ý tấn công mô hình để tìm lỗ hổng hoặc khả năng thất bại. Seed cũng đề cập đến sự tham gia của các nhà nghiên cứu bên ngoài và tổ chức đánh giá độc lập.

Căn chỉnh AI là lĩnh vực nghiên cứu nhằm giúp hành vi của mô hình phù hợp với ý định của con người và các tiêu chuẩn an toàn. Thông báo tuyển dụng cho thấy kế hoạch của Seed là đưa nghiên cứu an toàn vào quá trình huấn luyện, đánh giá và triển khai mô hình.

Trước đó, ByteDance đã thành lập bộ phận “Dữ liệu AI và an ninh” chuyên phụ trách sản xuất dữ liệu cho các mô hình lớn và quản lý an ninh. Lần này, công ty lập nhóm nghiên cứu an toàn và căn chỉnh trong Seed, kết hợp nghiên cứu mô hình với đánh giá an toàn.

Thông báo xác nhận việc thành lập nhóm, quy mô tuyển dụng ban đầu, chủ đề nghiên cứu và địa điểm làm việc. Ngân sách của nhóm, thời điểm hoàn tất tuyển dụng và kết quả nghiên cứu chưa được công bố. Thông báo tuyển dụng lần này cũng không nêu mối liên hệ trực tiếp với tài sản mã hóa hoặc blockchain.