Các CEO của Anthropic và OpenAI cảnh báo những mô hình AI tiên tiến có thể gây nguy hiểm cho nhân loại và cần được quản lý, kiểm thử độc lập. Tuy nhiên, các chuyên gia cho rằng những cảnh báo này cũng giúp các công ty định hình cuộc tranh luận về kiểm soát AI, đồng thời giúp các công ty thu hút nhà đầu tư trước khả năng chào bán cổ phiếu ra công chúng.
Kỹ sư Anthropic Jacob Coxon gần đây rời công ty và kêu gọi tạm dừng phát triển công nghệ để ngăn các hệ thống “siêu phàm” vượt khỏi tầm kiểm soát. Anthropic sau đó nhấn mạnh những nỗ lực bảo đảm an toàn của công ty. OpenAI cũng cho biết đã trao đổi với các công ty khác, trong đó có Anthropic và Google, về việc tạm dừng phát triển, đồng thời ủng hộ kiểm toán độc lập nếu chính phủ không ban hành quy định. Trong khi đó, Tổng thống Donald Trump không ủng hộ các quy định mới về AI và bác bỏ những cảnh báo về nguy cơ đối với nhân loại.
Tranh luận về cách giám sát AI
Mỹ hiện chưa có tiêu chuẩn chung về cách kiểm thử độ an toàn và bảo mật của các hệ thống AI. Một số tổ chức độc lập, trong đó có METR, đang tham gia đánh giá các mô hình AI.
Tuy nhiên, cựu lãnh đạo Trung tâm Tiêu chuẩn và Đổi mới AI Mỹ (CAISI) Conrad Stosz cho biết, các công ty AI không kêu gọi tăng cường giám sát từ cơ quan chính phủ mà muốn tự xây dựng tiêu chí kiểm toán và lựa chọn đơn vị đánh giá.
Một số chuyên gia cũng cho rằng việc tập trung vào những nguy cơ AI trong tương lai có thể làm lu mờ các vấn đề an toàn đang tồn tại, như tấn công mạng, giám sát bằng AI và việc sử dụng công nghệ này trong chiến tranh.
Cảnh báo AI và lợi ích kinh tế
Chuyên gia phân tích Harrison Rolfes cho rằng lời kêu gọi thận trọng của các công ty AI có thể giúp họ tranh thủ sự ủng hộ của nhà đầu tư trước các đợt phát hành cổ phiếu và cuộc bầu cử giữa kỳ của Mỹ. Theo ông, việc tự định vị là những công ty phát triển AI an toàn cũng có thể giúp các tập đoàn lớn tạo lợi thế trước các đối thủ nhỏ hơn.
Không phải tất cả các công ty AI đều ủng hộ việc làm chậm tốc độ phát triển. CEO Nvidia Jensen Huang cho rằng đã có quá nhiều cảnh báo về AI và các công ty có thể tự quyết định tốc độ phát triển.
Trong khi đó, cựu nhân viên OpenAI Daniel Kokotajlo vẫn lo ngại AI đang phát triển nhanh hơn khả năng kiểm soát của các công ty, đồng thời cảnh báo AI có thể thúc đẩy việc chế tạo vũ khí sinh học, làm gia tăng nguy cơ chiến tranh hạt nhân và những thảm họa khác.
