10% khả năng AI hủy diệt nhân loại: David Sacks gọi là 'marketing nỗi sợ'

Tranh cãi đang nổ ra xung quanh tuyên bố cho rằng xác suất trí tuệ nhân tạo (AI) hủy diệt nhân loại trong 10 năm tới vượt quá 10%. David Sacks cùng các thành viên chương trình All-In Podcast phản bác rằng con số này thiên về marketing nỗi sợ hơn là dựa trên căn cứ khách quan.

Theo video All-In Podcast công bố trên YouTube ngày 12 (giờ địa phương), chương trình đã đề cập tranh cãi về an toàn AI và vấn đề quản lý. David Sacks (David Sacks), đối tác quỹ Craft Ventures, nói: "Xác suất AI hủy diệt nhân loại là 10%? Con số đó lấy từ đâu ra vậy?"

Tranh cãi bắt đầu khi Jacob Coxin (Jacob Coxin), cựu nghiên cứu viên của Anthropic, cho rằng các công ty phát triển AI dù biết rõ khả năng nhân loại bị hủy diệt vẫn tiếp tục chạy đua phát triển AI vượt tầm kiểm soát. Evan Hubinger (Evan Hubinger), trưởng nhóm khoa học căn chỉnh (alignment science) của Anthropic, đồng tình với quan điểm này và khẳng định xác suất AI hủy diệt nhân loại trong 10 năm tới vượt 10%.

Thượng nghị sĩ Mỹ Bernie Sanders cùng một số chính trị gia khác đã trích dẫn bài đăng này và tuyên bố sẽ thúc đẩy luật cấm phát triển AI siêu trí tuệ. Tuy nhiên, con số 10% không phải là thống kê chính thức mà chỉ là nhận định cá nhân của nhà nghiên cứu.

Sacks cho rằng con số 10% không dựa trên dữ liệu nghiên cứu khách quan hay tài liệu nội bộ nào, mà chỉ đơn thuần là "cảm nhận". Ông nói thêm rằng ngay sau khi bài đăng xuất hiện, tờ Wall Street Journal (WSJ) đã đưa tin dưới dạng thông tin được cung cấp trước, sau đó một số nhóm nhanh chóng lan truyền bài viết trong thời gian ngắn, điều mà ông cho là dấu hiệu của một chiến dịch có tổ chức.

Sacks cáo buộc các nhóm tham gia lan truyền bài đăng có liên hệ với mạng lưới theo khuynh hướng "chủ nghĩa vị tha hiệu quả" (effective altruism), vốn được hậu thuẫn bởi Jaan Tallinn, nhà đầu tư lớn của Anthropic. Tuy nhiên đây chỉ là cách diễn giải do các thành viên podcast đưa ra, chưa được xác nhận.

Jason Calacanis (Jason Calacanis), người dẫn chương trình All-In Podcast, nói hiện tại AI thậm chí chưa thể xử lý hoàn hảo những việc đơn giản như tự động hoàn thiện mã Python, đặt phòng khách sạn hay gọi đồ ăn. Ông cho rằng có một khoảng cách rất lớn giữa trình độ công nghệ hiện nay và kịch bản AI hủy diệt loài người.

Calacanis giải thích có thể đưa cơ chế kiểm soát vào phần mềm, buộc AI phải được con người phê duyệt trước khi thực hiện tác vụ. Ông lấy ví dụ về cách thiết kế yêu cầu người dùng phải nhấn phím cách (spacebar) mới có thể chuyển sang bước tiếp theo trong quá trình phát triển.

David Friedberg (David Friedberg), CEO Production Board, cho biết các hệ thống cốt lõi hiện đang áp dụng "air gap" - tách biệt vật lý khỏi internet - cùng quy trình có sự can thiệp của con người. Air gap là phương thức bảo mật tách hệ thống khỏi mạng bên ngoài, còn sự can thiệp của con người nghĩa là con người tham gia vào quy trình phê duyệt các bước AI thực hiện.

Các thành viên podcast cũng bày tỏ lo ngại rằng quy định an toàn AI có thể hạn chế việc công bố và sử dụng các mô hình mã nguồn mở. Sacks cho rằng các công ty AI theo mô hình đóng có thể kêu gọi thành lập cơ quan quản lý AI liên bang nhằm ngăn chặn việc công bố và lưu trữ các mô hình AI mã nguồn mở, vốn không đủ nguồn lực để đối phó với quy định.

Friedberg cho rằng AI mã nguồn mở là công cụ giúp giảm chi phí phát triển và mở rộng khả năng tiếp cận công nghệ. Ông cảnh báo nếu hạn chế AI mã nguồn mở, cấu trúc kiểm soát tập trung vào chính phủ và các tập đoàn lớn có thể càng được củng cố.

Chamath Palihapitiya (Chamath Palihapitiya), CEO Social Capital, so sánh việc Anthropic vừa thừa nhận rủi ro chết người từ AI vừa xúc tiến chào bán cổ phiếu lần đầu ra công chúng (IPO) với trường hợp các công ty thuốc lá trước đây. Ông cảnh báo nếu Anthropic không công bố rõ ràng những rủi ro này trong hồ sơ đăng ký chứng khoán nộp lên Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), công ty có thể đối mặt rủi ro pháp lý liên quan đến trách nhiệm sản phẩm.

Sacks cũng nói việc một lãnh đạo doanh nghiệp vừa tuyên bố sản phẩm công ty mình có thể chấm dứt nền văn minh, vừa kêu gọi vốn từ đợt chào bán công khai là điều mâu thuẫn. Palihapitiya nhận định một số nhà nghiên cứu đang rơi vào trạng thái hoang tưởng tập thể, hoặc đang tham gia một chiến dịch có tổ chức nhằm ngăn chặn AI mã nguồn mở.

TokenPost từng đưa tin về khả năng có sự dàn dựng trong quá trình lan truyền các luận điểm về nguy cơ AI hủy diệt nhân loại. Khi đó, Sacks và Cathie Wood (Cathie Wood) cũng đặt câu hỏi về cách các cảnh báo này được lan truyền, nhưng thông tin này chưa được xác nhận là sự thật.

Tranh cãi lần này đang mở rộng sang câu hỏi về cách tính xác suất rủi ro do AI gây ra, cũng như giới hạn công bố đối với các mô hình mã nguồn mở. Con số 10% được đưa ra không phải thống kê chính thức mà là nhận định của nhà nghiên cứu, trong khi các thành viên podcast cho rằng cần xem xét đồng thời cả cơ chế kiểm soát kỹ thuật lẫn tác dụng phụ của quy định.