Nghị sĩ Mỹ yêu cầu Google cho phép trường học tắt riêng AI trong tìm kiếm

Một thượng nghị sĩ Mỹ yêu cầu Google ($GOOGL) cho phép trường học tiếp tục dùng công cụ tìm kiếm nhưng tắt riêng các tính năng AI tạo sinh tích hợp. Việc quản lý riêng Google Search và ứng dụng Gemini khác với việc vô hiệu hóa có chọn lọc AI ngay trong kết quả tìm kiếm.

Trong thư gửi CEO Alphabet và Google Sundar Pichai ngày 9, Thượng nghị sĩ Mỹ Ed Markey (Edward J. Markey) viết: “Trường học có quyền chặn học sinh truy cập chatbot AI mà không phải từ bỏ những công cụ giáo dục quan trọng”. Ông cho rằng việc hạn chế AI không nên buộc trường học phải ngừng sử dụng công cụ tìm kiếm.

Markey hỏi liệu trường học có thể tắt AI Overviews, Gemini và Guided Learning trên tài khoản học sinh mà vẫn giữ Google Search hay không. Ông cũng yêu cầu Google cho biết hãng có thể cung cấp kết quả tìm kiếm không kèm tính năng AI hay không.

Ông đồng thời đề nghị cung cấp thông tin về việc Google đã đánh giá tác động của các sản phẩm này đối với sự an toàn, sức khỏe tinh thần và việc học của học sinh phổ thông hay chưa. Thư cũng hỏi có bao nhiêu trường học và học khu hạn chế học sinh dùng AI tạo sinh bên ngoài công cụ tìm kiếm.

Vấn đề xuất phát từ thay đổi cài đặt tài khoản trường học mà Google công bố ngày 3 tháng 11. Theo kế hoạch, Google Search, Gemini, Gemini Notebook và Gemini trong Google Classroom sẽ mặc định tắt với tài khoản học sinh từ mẫu giáo đến lớp 12; quản trị viên trường học có thể chủ động bật các sản phẩm này.

Google cho biết trường học có thể cho phép sử dụng riêng công cụ tìm kiếm hoặc ứng dụng Gemini. Tuy nhiên, hiện chưa có cài đặt để trường học giữ Google Search nhưng tắt riêng các tính năng AI được tích hợp trong tìm kiếm.

TokenPost trước đó đưa tin rằng việc cài đặt riêng Google Search và ứng dụng Gemini trên tài khoản trường học vẫn không cho phép tắt AI bên trong tìm kiếm. Lá thư mới của Markey là diễn biến tiếp theo, trong đó ông chính thức yêu cầu Google làm rõ tính khả thi về kỹ thuật và cung cấp đánh giá tác động đối với học sinh.

Google cũng cho biết sẽ mở rộng Guided Learning trong công cụ tìm kiếm và các sản phẩm giáo dục. Tính năng này hướng dẫn học sinh giải bài qua các câu hỏi theo từng bước thay vì đưa ngay đáp án.

Trong thông báo ngày 3 tháng 11, Google cho biết dự kiến thử nghiệm Guided Learning trong tìm kiếm tại một số trường học ở Mỹ vào cuối tháng 11. Sau khi thu thập ý kiến của giáo viên trong đợt thử nghiệm, hãng dự kiến mở rộng tính năng sang các trường khác.

Google cho rằng việc để quản trị viên trường học quyết định học sinh có thể dùng sản phẩm AI hay không giúp nhà trường quản lý việc sử dụng AI trong lớp. Hãng cho biết sẽ hướng dẫn các trường về chi tiết thay đổi cài đặt trong vài tháng tới.

Markey viết trong thư rằng vị thế của Google trên thị trường công nghệ giáo dục khiến vấn đề này trở nên nghiêm trọng hơn. Theo lập luận của ông, nếu trường học muốn tiếp tục dùng công cụ tìm kiếm nhưng buộc phải chấp nhận cả tính năng AI, quyền lựa chọn của nhà trường sẽ bị hạn chế.

Ngày 15 tháng 7, tổ chức đánh giá nội dung dành cho trẻ em Common Sense Media xếp AI Overviews và AI Mode của Google Search vào nhóm “rủi ro không thể chấp nhận được” đối với trẻ em trong một đánh giá riêng. Youth AI Safety Institute thuộc tổ chức này công bố kết quả và cho biết AI trong tìm kiếm từng bỏ sót dấu hiệu khủng hoảng hoặc đưa ra lời khuyên không phù hợp.

Nhóm đánh giá của Common Sense Media thực hiện hơn 2.600 lượt tìm kiếm bằng các tài khoản SafeSearch được thiết lập cho học sinh 11 và 15 tuổi. Tổ chức này cho biết AI Mode đưa ra câu trả lời hoàn chỉnh cho 180 bài tập được kiểm tra; với các câu hỏi lịch sử, hơn 4 trong 10 câu có câu trả lời thay đổi đáng kể khi tìm kiếm lại.

Kết quả đánh giá cũng ghi nhận các trường hợp AI trong tìm kiếm bỏ sót dấu hiệu có ý định tự tử, củng cố hoang tưởng hoặc chứng hoang tưởng bị hại, và đưa ra phản hồi ủng hộ chứng rối loạn ăn uống. Common Sense Media khuyến nghị mặc định tắt AI trong tìm kiếm trên tài khoản của trẻ vị thành niên, đồng thời để trường học và gia đình quản lý tính năng này.

Hạn chót Google trả lời bằng văn bản theo yêu cầu của Markey là ngày 30 tháng 11.