Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Anthropic tiếp tục điều chỉnh tốc độ phát triển AI sau IPO, Amodei: “Không khuất phục trước áp lực”

Dario Amodei (minh họa bằng AI) / TokenPost.ai

Anthropic cho biết ngay cả sau khi phát hành cổ phiếu lần đầu ra công chúng (IPO), công ty sẽ điều chỉnh tốc độ đào tạo và triển khai các mô hình trí tuệ nhân tạo (AI) phù hợp với quá trình kiểm chứng an toàn. Công ty ưu tiên dành đủ thời gian để xác nhận các hệ thống AI vận hành an toàn dưới sự kiểm soát của con người, thay vì chạy theo áp lực thương mại hoặc chính trị.

Dario Amodei, CEO Anthropic, phát biểu tại sự kiện rung chuông mở cửa Nasdaq ngày 19: “Chúng tôi sẽ dành thời gian cần thiết cho đến khi tin chắc các hệ thống AI an toàn và vẫn nằm dưới sự kiểm soát của con người. Chúng tôi sẽ không khuất phục trước áp lực thương mại hay chính trị.” TechCrunch đưa tin ngày 19. Phát biểu này tái khẳng định lập trường trước đây của Anthropic về việc giữ tốc độ phát triển mô hình phù hợp với tiêu chuẩn an toàn ngay cả sau IPO.

Amodei cho biết IPO đã củng cố tình hình tài chính của công ty và tăng quyết tâm đưa ra quyết định đúng đắn. Ông nói tiêu chuẩn đánh giá an toàn vẫn được giữ nguyên ngay cả khi nền tảng tài chính được mở rộng.

Trong bài viết công bố ngày 12 tháng 9, Amodei đề xuất làm chậm tốc độ cải thiện hiệu năng mô hình AI để các biện pháp bảo đảm an toàn và hoạt động kiểm chứng độc lập có thời gian theo kịp. Ông kêu gọi áp dụng tiêu chuẩn an toàn chung trong ngành và để các đơn vị đánh giá bên thứ ba tham gia thường xuyên, qua đó đưa giám sát bên ngoài vào quá trình phát triển.

Việc điều chỉnh tốc độ không đồng nghĩa với dừng phát triển AI. Mục tiêu là tạo thời gian để các biện pháp bảo vệ và đánh giá bên ngoài theo kịp việc nâng hiệu năng mô hình, đồng thời cho phép đánh giá viên độc lập tiếp cận liên tục quá trình phát triển.

Amodei nhấn mạnh một 'cuộc đua nâng chuẩn' về an toàn. Mục tiêu là khuyến khích toàn ngành áp dụng các tiêu chuẩn an toàn cao hơn, bất kể Anthropic có dẫn đầu ở một thời điểm cụ thể hay không.

Ông cho rằng nếu con người hợp tác với AI đủ mạnh, tiến bộ khoa học và y học của một thế kỷ có thể được rút ngắn còn 10 năm. Tuy nhiên, ông cho biết các thành quả hiện nay vẫn ở giai đoạn đầu, còn thí nghiệm và thử nghiệm lâm sàng cần thời gian.

Amodei nói khách hàng đang sử dụng AI để thúc đẩy tăng trưởng kinh tế, thoát nghèo, bảo vệ nền dân chủ và các xã hội tự do, đồng thời cải thiện dịch vụ công hằng ngày. Theo ông, AI có thể đóng góp cho kinh tế và khu vực công bên cạnh khoa học và y học.

Đồng thời, ông liệt kê việc cá nhân hoặc quốc gia lạm dụng AI, gây xáo trộn kinh tế và mất kiểm soát các hệ thống AI là những rủi ro thực tế. Ông nói các rủi ro này không phải điều không thể tránh khỏi mà phụ thuộc vào lựa chọn của những người xây dựng AI.

Anthropic cho biết đang thúc đẩy △ phòng vệ trước rủi ro sinh học và an ninh mạng △ đào tạo và kiểm thử căn chỉnh (alignment) △ công nghệ diễn giải (interpretability) để quan sát bên trong mô hình và định hướng hành vi. Công ty giải thích các phương pháp này nhằm hiểu hành vi của AI và giữ hệ thống dưới sự kiểm soát của con người.

AP đưa tin sau IPO, Anthropic đang đối mặt với căng thẳng giữa yêu cầu của cổ đông về mở rộng lợi nhuận và các nguyên tắc an toàn. Amodei cũng mô tả xung đột giữa an toàn và tốc độ phát triển AI là 'căng thẳng trung tâm' của công ty.

Bản cáo bạch IPO của Anthropic nêu cơ chế quản trị với tư cách là công ty vì lợi ích công chúng (PBC), trong đó phải cân nhắc đồng thời lợi ích cổ đông và mục tiêu công ích. Đây là khuôn khổ thể chế để xử lý song song yêu cầu của cổ đông và mục tiêu công ích sau khi niêm yết.

Long-Term Benefit Trust (LTBT) có quyền bổ nhiệm và bãi nhiệm hơn một nửa số thành viên hội đồng quản trị. Founder LLC do các đồng sáng lập lập ra thực thi 50.1% quyền biểu quyết của cổ đông phổ thông.

Anthropic cho biết cấu trúc này nhằm cân nhắc đồng thời việc phát triển có trách nhiệm các hệ thống AI tiên tiến và lợi ích dài hạn của nhân loại. Việc phân bổ quyền giữa PBC, LTBT và Founder LLC được trình bày như cách duy trì nguyên tắc an toàn trong quản trị ngay cả sau khi niêm yết.

Amodei giải thích IPO tạo ra vùng đệm tiền mặt để đáp ứng các cam kết mua hoặc thuê năng lực tính toán dài hạn. TokenPost trước đó đã đưa tin về việc ông mô tả IPO như vùng đệm tiền mặt để ứng phó các cam kết này. Tốc độ đào tạo và triển khai AI cụ thể cùng kết quả đánh giá an toàn bên ngoài sẽ cần chờ các tài liệu công bố tiếp theo của công ty.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1