Microsoft đồng ý áp dụng các tiêu chuẩn mới về quyền riêng tư và an toàn đối với AI trong trường học, trong bối cảnh ngày càng nhiều học sinh sử dụng chatbot AI để hỗ trợ việc học, tìm kiếm lời khuyên cá nhân và hỗ trợ về cảm xúc. Động thái này làm dấy lên câu hỏi liệu các tập đoàn công nghệ lớn khác có áp dụng những biện pháp tương tự hay không.
Mỗi ngày, hàng triệu học sinh sử dụng chatbot AI để hỗ trợ làm bài, tìm kiếm thông tin hoặc chia sẻ những vấn đề cá nhân, trong khi nhiều em không biết rõ các cuộc trò chuyện và dữ liệu của mình được lưu trữ hoặc sử dụng như thế nào. Lo ngại về quyền riêng tư ngày càng tăng khi AI trở thành một phần quen thuộc của lớp học và được tích hợp vào nhiều công cụ giáo dục mà học sinh phải sử dụng.
Đầu năm học mới, hai hệ thống trường công lớn nhất Mỹ là New York City và Los Angeles đã quyết định tạm dừng việc học sinh sử dụng AI trong một năm để đánh giá cách đưa công nghệ này vào giáo dục một cách phù hợp.
Trước làn sóng lo ngại về AI và thời gian sử dụng màn hình, Microsoft thông báo đã đạt thỏa thuận với Liên đoàn Giáo viên Mỹ (AFT), nghiệp đoàn giáo viên lớn thứ hai nước này, về một bộ nguyên tắc bảo vệ dữ liệu và an toàn khi sử dụng AI trong trường học.
Thỏa thuận có tính ràng buộc pháp lý và yêu cầu kiểm toán độc lập để bảo đảm tuân thủ. AFT cho rằng đây có thể trở thành tiêu chuẩn chung cho toàn ngành.
OpenAI và Anthropic cho biết đang thảo luận với AFT về các thỏa thuận tương tự. Tuy nhiên, Google - nhà cung cấp công nghệ giáo dục lớn tại các trường học Mỹ - chưa cho biết liệu có tham gia hay không.
Hạn chế sử dụng dữ liệu học sinh để huấn luyện AI
Theo thỏa thuận, Microsoft cam kết không sử dụng dữ liệu của học sinh hoặc giáo viên để huấn luyện các hệ thống AI. Dữ liệu thu thập được cũng không được bán, sử dụng cho quảng cáo hoặc phục vụ phát triển sản phẩm.
Thỏa thuận cũng cấm các công cụ AI được thiết kế để tạo sự gắn bó cảm xúc hoặc phụ thuộc, cũng như những tính năng nhằm giữ học sinh tương tác lâu hơn mức cần thiết cho một nhiệm vụ học tập. Microsoft cũng phải thực hiện các biện pháp kiểm toán và minh bạch, trong đó có nghĩa vụ giải thích cho gia đình học sinh bằng ngôn ngữ dễ hiểu về cách các công cụ AI hoạt động.
Các tiêu chuẩn này sẽ áp dụng từ ngày 1/11 đối với tất cả trường học có hợp đồng với Microsoft. AFT coi đây là bước đi quan trọng trong bối cảnh Mỹ vẫn chưa có khuôn khổ pháp lý liên bang hoặc thống nhất ở cấp bang về sử dụng AI trong trường học.
Cùng với lệnh tạm dừng sử dụng AI trong một năm, hệ thống trường học New York City và Los Angeles cũng sẽ tiến hành rà soát quy mô lớn các hợp đồng công nghệ giáo dục và công cụ AI, tập trung vào quyền riêng tư dữ liệu, tính minh bạch và trách nhiệm giải trình. Tại New York City, lệnh tạm dừng áp dụng với học sinh tiểu học và trung học cơ sở; tại Los Angeles, phạm vi kéo dài tới bậc trung học phổ thông.
Liên đoàn giáo viên Mỹ thúc đẩy các hãng công nghệ khác tham gia
AFT cho biết đã trực tiếp liên hệ với Google trước khi công bố thỏa thuận với Microsoft, với mong muốn tập đoàn này trở thành một bên ký kết. Google chưa phản hồi về khả năng áp dụng những tiêu chuẩn tương tự.
Vấn đề trở nên đáng chú ý hơn sau khi Google hồi tháng 8 kích hoạt chatbot Gemini cho nhiều học sinh phổ thông sử dụng Google Classroom. Theo công ty, nền tảng này hiện được khoảng 150 triệu giáo viên và học sinh trên toàn thế giới sử dụng.
Động thái này gây tranh cãi vì bị coi là bước leo thang trong cuộc cạnh tranh giữa các hãng công nghệ nhằm mở rộng sự hiện diện trong trường học và tiếp cận thế hệ người dùng AI tương lai. Việc tích hợp Gemini chỉ áp dụng tại các trường cho phép học sinh truy cập ứng dụng Gemini hoặc Gemini Notebook. Trước tháng 8, Google chỉ cho phép kích hoạt Gemini với người dùng từ 18 tuổi trở lên.
Trong khi đó, OpenAI gọi thỏa thuận giữa Microsoft và AFT là “một cột mốc quan trọng đối với an toàn và quyền riêng tư AI trong trường học”, đồng thời cho biết đang hoàn tất một thỏa thuận riêng với AFT.
Anthropic cũng bày tỏ ủng hộ và cho biết đang phối hợp với nghiệp đoàn này để xây dựng những tiêu chuẩn cao về an toàn và quyền riêng tư.
Các chuyên gia về quyền riêng tư cho rằng bộ tiêu chuẩn mới có thể tạo cơ sở để các trường học đàm phán với nhà cung cấp AI, kể cả khi họ không phải khách hàng của Microsoft.
Một nguyên tắc quan trọng được nhấn mạnh là trách nhiệm bảo vệ quyền riêng tư của học sinh cần thuộc về các công ty công nghệ, thay vì đẩy gánh nặng này sang phụ huynh, học sinh hoặc nhà trường.
Tranh luận về việc AI nên được sử dụng trong trường học từ độ tuổi nào, với mục đích gì và trong phạm vi ra sao vẫn chưa có câu trả lời thống nhất. Tuy nhiên, thỏa thuận mới của Microsoft cho thấy vấn đề an toàn và quyền riêng tư đang trở thành một trong những điều kiện quan trọng nhất khi AI ngày càng hiện diện sâu trong giáo dục.
