Giám đốc điều hành OpenAI Sam Altman và Elon Musk, người đứng sau xAI, đều lên tiếng ủng hộ cảnh báo của CEO Anthropic Dario Amodei rằng, trí tuệ nhân tạo (AI) ngày càng mạnh có thể tạo ra những rủi ro vượt ngoài khả năng kiểm soát của con người.
Logo AI hiển thị trên điện thoại thông minh. (Ảnh: Getty Images)
Amodei cảnh báo các hệ thống AI có thể tiến nhanh đến mức gây ra những hậu quả đặc biệt nghiêm trọng, thậm chí trong thời gian chỉ vài tháng. Ông cho rằng ngành công nghệ cần chủ động làm chậm tốc độ gia tăng năng lực của các mô hình, thay vì để cạnh tranh thương mại thúc đẩy các công ty liên tục chạy đua mà không có đủ thời gian đánh giá rủi ro.
Lời cảnh báo được đưa ra chỉ vài ngày sau khi nhà nghiên cứu Jacob Coxon công khai từ chức khỏi Anthropic. Coxon cáo buộc Anthropic và cả OpenAI, nơi ông từng làm việc, đang chạy đua hướng tới những hệ thống siêu trí tuệ có khả năng tự cải thiện mà chưa có đủ "hành động có trách nhiệm". Ông thậm chí cảnh báo công nghệ này có thể "giết chết tất cả chúng ta" vào cuối thập kỷ này.
Trong bài luận dài khoảng 3.800 từ đăng trên trang web cá nhân hôm 12/9, Amodei, người đồng sáng lập Anthropic cùng em gái Daniela vào năm 2021, liệt kê hàng loạt nguy cơ mà ông cho là "nghiêm trọng".
Những rủi ro được ông đề cập bao gồm khả năng con người mất quyền kiểm soát các hệ thống AI, việc công nghệ bị lợi dụng cho các cuộc tấn công mạng hoặc khủng bố sinh học, cũng như những cú sốc lớn đối với nền kinh tế. Theo Amodei, cạnh tranh giữa các công ty có thể tạo ra một "cuộc đua xuống đáy", khi mỗi bên đều chịu áp lực phải phát triển nhanh hơn để không bị đối thủ vượt qua.
"Chúng ta phải làm chậm tốc độ cải thiện khả năng của các mô hình AI. Tiến bộ vẫn sẽ có vẻ nhanh chóng và chúng ta phải sử dụng thời gian có được một cách khôn ngoan", Amodei viết.
Quan điểm này nhận được sự đồng tình từ Sam Altman, CEO OpenAI cho rằng ngành AI cần đi đầu trong việc xây dựng các cơ chế an toàn. Ông đánh giá đề xuất của Anthropic về việc cho phép các nhà đánh giá độc lập tiếp cận sâu hơn với hệ thống AI của các công ty, thậm chí hoạt động như những nhân viên trong tổ chức, là "một ý tưởng tuyệt vời".
Elon Musk cũng viết ngắn gọn trên X: "Dario nói đúng", đồng thời nhắc lại rằng ông đã cảnh báo về những rủi ro của AI từ lâu.
Amodei cho rằng tốc độ phát triển của AI hiện nay đang nhanh hơn đáng kể, một phần bởi chính các hệ thống AI ngày càng có khả năng hỗ trợ con người xây dựng thế hệ mô hình tiếp theo. Điều này có thể tạo thành một vòng lặp, trong đó AI càng mạnh thì quá trình phát triển AI thế hệ mới càng được đẩy nhanh.
Ông dẫn lại một sự cố trong đó các tác nhân AI của OpenAI được cho là đã thoát khỏi môi trường thử nghiệm khép kín. Theo Amodei, nếu khả năng của các tác nhân tiếp tục tăng với tốc độ hiện nay, chỉ trong vòng 6–12 tháng có thể xuất hiện những hệ thống đủ mạnh để "kiểm soát toàn bộ internet" và gây thiệt hại lên tới hàng trăm tỷ USD.
Để hạn chế những rủi ro này mà không làm suy yếu năng lực cạnh tranh của Mỹ, Amodei đề xuất một kế hoạch gồm 3 nhóm biện pháp.
Thứ nhất là cho phép các nhà đánh giá bên ngoài tiếp cận sâu rộng hơn với hệ thống của các công ty phát triển AI. Thứ hai là xây dựng những tiêu chuẩn an toàn chung cho toàn ngành. Cuối cùng là thúc đẩy hợp tác quốc tế để các quốc gia cùng kiểm soát những rủi ro có thể vượt qua biên giới.
Tuy nhiên, những lời kêu gọi giảm tốc độ phát triển AI đang diễn ra trong một bối cảnh khá mâu thuẫn. Anthropic vừa là một trong những công ty tiên phong về AI, vừa đã đưa công nghệ của mình vào các mạng lưới mật của chính phủ Mỹ.
Các mô hình Claude của Anthropic đã được tích hợp vào hệ thống Maven của Palantir và được cho là đã hỗ trợ việc tạo, xác định vị trí và ưu tiên mục tiêu trong chiến dịch không kích của Mỹ nhằm vào Iran.
Sau đó, Anthropic từ chối dỡ bỏ các biện pháp bảo vệ nhằm ngăn công nghệ bị sử dụng cho hoạt động giám sát nội địa quy mô lớn hoặc các hệ thống vũ khí hoàn toàn tự động. Công ty lập luận rằng, các mô hình AI hiện tại vẫn chưa đủ đáng tin cậy để tự đưa ra những quyết định liên quan trực tiếp đến tính mạng con người mà không có sự can thiệp của con người.
Lập trường này khiến Anthropic đối đầu với Lầu Năm Góc. Bộ Chiến tranh Mỹ yêu cầu các nhà cung cấp phải cho phép công nghệ của họ được sử dụng cho "tất cả các mục đích hợp pháp". sau đó đưa Anthropic vào danh mục rủi ro chuỗi cung ứng an ninh quốc gia.
Anthropic phản đối quyết định này. Một thẩm phán tại California hồi tháng 8 phán quyết rằng các biện pháp của Lầu Năm Góc là "bất hợp pháp và vô căn cứ", dù những thủ tục tố tụng riêng biệt tại Washington vẫn chưa được giải quyết.
Không phải tất cả các lãnh đạo công nghệ đều đồng tình với việc giảm tốc độ phát triển AI. Alex Karp, CEO Palantir, phản đối những lời kêu gọi tạm dừng hoặc làm chậm quá trình phát triển, cho rằng việc hạn chế tiến bộ công nghệ có thể mang lại lợi thế cho đối thủ của Mỹ.
