Từng là mục tiêu xa vời đối với các nhà nghiên cứu công nghệ, khả năng các mô hình AI tự cải thiện và tạo ra thế hệ kế nhiệm đang ngày càng trở thành hiện thực. Theo các lãnh đạo công nghệ, bước tiến này có thể mang lại những đột phá khoa học, nhưng cũng làm gia tăng lo ngại về nguy cơ AI vượt khỏi sự kiểm soát của con người.
Việc chưa rõ công nghệ này cuối cùng sẽ phát triển theo hướng nào đang làm gia tăng lo ngại AI có thể thoát khỏi sự kiểm soát của con người và gây ra những mối đe dọa đối với nhân loại. Đây cũng là lý do một số lãnh đạo trong ngành AI cuối tuần trước cùng kêu gọi làm chậm tốc độ phát triển của công nghệ.
Trong tuần này, công ty Anthropic công bố chi tiết cách mô hình Claude đang hỗ trợ phát triển phiên bản thông minh hơn của chính nó. Theo Anthropic, Claude hiện có thể tự thực hiện phần lớn công việc trong 26% hoạt động nghiên cứu và phát triển mô hình của công ty, chỉ cần một yêu cầu ở mức tổng quát là có thể hoàn thành phần lớn nhiệm vụ từ đầu đến cuối, trong khi vẫn chịu sự giám sát của con người. Tuy nhiên, các mô hình AI hiện chưa hoạt động hoàn toàn tự chủ, ít nhất là vào thời điểm này.
Dưới đây là những điểm chính về khả năng tự cải thiện đệ quy của AI.
Tự cải thiện đệ quy là gì?
Các công ty AI có những cách định nghĩa khác nhau về tự cải thiện đệ quy (RSI). Một số cho rằng chỉ cần AI tham gia cải thiện mô hình, trong khi cách hiểu đầy đủ hơn là AI có thể tự cải thiện, thiết kế phiên bản tiếp theo của hệ thống và tiếp tục lặp lại quá trình này.
Ông Anthony Aguirre, Chủ tịch Viện Future of Life, cho biết quá trình này có thể diễn ra ngày càng nhanh khi AI đảm nhận nhiều công việc hơn, bởi AI hoạt động nhanh hơn con người rất nhiều.
Theo Phó Giáo sư John Thickstun tại Đại học Cornell, lo ngại lớn nhất là RSI có thể dẫn đến một siêu trí tuệ vượt ngoài tầm kiểm soát. Tuy nhiên, ông cho rằng một dạng RSI đã được áp dụng từ lâu, khi con người sử dụng các mô hình AI thế hệ trước để hỗ trợ phát triển thế hệ tiếp theo.
Những nỗ lực này mới chỉ mang lại các cải tiến nhỏ, nhưng ông Aguirre cho rằng các công ty AI hiện đã tiến gần hơn đến những bước tiến lớn, khi ngày càng nhiều công việc nghiên cứu được AI thực hiện và công nghệ tiến gần trạng thái tự chủ.
Một số phòng nghiên cứu AI cho rằng RSI không còn xa
Thông báo gần đây của Anthropic giúp các phòng nghiên cứu AI có thêm thông tin về tiến trình RSI, dù công ty chưa cho biết cụ thể mức độ gần với mục tiêu để AI tự cải thiện hoàn toàn.
OpenAI trong tháng này công bố đã phát triển một “thực tập sinh nghiên cứu” tự động, có thể thực hiện các nhiệm vụ nghiên cứu được xác định rõ dưới sự chỉ đạo của con người, kể cả những nhiệm vụ có thể mất vài ngày đối với một nhà nghiên cứu giàu kinh nghiệm. Công ty đặt mục tiêu phát triển một "nhà nghiên cứu” AI tự động vào tháng 3/2028. Tuy nhiên, OpenAI nhấn mạnh việc theo đuổi RSI phải phụ thuộc vào khả năng duy trì quyền kiểm soát của con người và đánh giá đầy đủ lợi ích, rủi ro.
Tỷ phú Elon Musk cho biết con người đang ngày càng ít tham gia vào quá trình cải thiện các mô hình Grok, khi mỗi phiên bản mới được xây dựng bởi phiên bản trước. Ông cho rằng quá trình này có thể được tự động hóa hoàn toàn vào cuối năm nay, nhưng không muộn hơn năm 2027.
Trong khi đó, Microsoft theo đuổi hướng tiếp cận thận trọng hơn. CEO Microsoft AI Mustafa Suleyman cho biết công ty hướng tới "siêu trí tuệ nhân văn”, tức AI có năng lực tiên tiến nhưng vẫn được đặt trong những giới hạn và phục vụ con người.
