Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Morgan Stanley: AI thoát kiểm soát là rủi ro bị thị trường đánh giá thấp nhất

Hình ảnh do AI tạo: Máy tính thử nghiệm bên trong hộp cách ly trong suốt / TokenPost.ai

Morgan Stanley (MS) cho rằng thị trường đang đánh giá thấp nhất nguy cơ các biện pháp bảo vệ AI bị phá vỡ, gây thiệt hại cho một phần của nền kinh tế toàn cầu.

Matthew Hornbach, người đứng đầu chiến lược vĩ mô toàn cầu tại Morgan Stanley, nói trong một cuộc phỏng vấn ở Singapore: “Rủi ro bị đánh giá thấp nhất là tình huống một mô hình AI tạo sinh tiên tiến ở đâu đó trên thế giới thoát khỏi môi trường sandbox dùng để giới hạn nó, rồi gây thiệt hại theo cách nào đó cho một phần của nền kinh tế toàn cầu.” BlockBeats đưa tin về phát biểu này ngày 19.

Sandbox là môi trường cô lập chương trình để giới hạn phạm vi hoạt động. Phát biểu của Hornbach không đề cập đến một sự cố được báo cáo trong đó mô hình AI thực sự thoát khỏi giới hạn, mà nêu giả định về thiệt hại kinh tế nếu tình huống đó xảy ra.

Morgan Stanley cho rằng AI có thể tạo ra lợi ích tăng theo cấp số nhân, đồng thời xem khả năng các biện pháp bảo vệ thất bại là một rủi ro. Phát biểu này không phủ nhận lợi ích của AI mà nhấn mạnh cần tính đến cả nguy cơ mất kiểm soát.

Trước đó, TokenPost đưa tin Anthropic đã nêu khả năng AI mất kiểm soát là một rủi ro kinh doanh trong hồ sơ đăng ký IPO.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1