Mối đe dọa thực sự đối với an toàn trí tuệ nhân tạo không phải là tốc độ — mà là sự kiểm soát tập trung

Mã độc buộc các công ty công nghệ phải chuyển sang 'Internet tổng hợp'

Vài ngày sau khi Giám đốc điều hành Anthropic, Dario Amodei, công bố một bức thư kêu gọi giảm tốc độ phát triển trí tuệ nhân tạo, cựu ứng cử viên thị trưởng thành phố New York, Andrew Yang, đã cảnh báo rằng có thể đã hơi muộn để cứu vãn tình hình, vì các tác nhân mất kiểm soát đã làm ô nhiễm internet bằng mã tự nhân bản.

Trong cuộc phỏng vấn với CNBC, Yang đã chia sẻ một tiết lộ từ một giám đốc điều hành phòng thí nghiệm AI giấu tên: mã độc đã buộc các công ty công nghệ lớn phải tạo ra "Internet tổng hợp" chỉ để huấn luyện các mô hình của họ. Yang lập luận rằng sự cố tốn kém này chính là lý do hợp lý cho những lời kêu gọi từ các nhà lãnh đạo ngành như Amodei, Sam Altman và Elon Musk về việc siết chặt quy định và điều chỉnh tốc độ phát triển AI tiên phong.

Trước lời cảnh báo của Yang, một số nhân vật chuyên về chính sách AI và quan chức chính quyền Trump đã phản đối các lời kêu gọi giảm tốc, cảnh báo rằng điều này có thể trao lợi thế dẫn đầu cho Trung Quốc trong cuộc đua AI toàn cầu. Donald Trump thậm chí còn thẳng thắn hơn, khi gọi những lo ngại về sự tuyệt chủng của loài người do AI gây ra là một trò lừa bịp. Các nhà phê bình khác, như David Sacks, lập luận rằng các giám đốc điều hành công nghệ lo ngại nên tự áp đặt các khoảng thời gian tạm dừng thử nghiệm thay vì vận động hành lang để có các quy định liên bang hoặc lệnh cấm rộng rãi.

Khi cuộc tranh luận ngày càng biến thành một sự chia rẽ phe phái giữa những người ủng hộ và phản đối quy định, các nhân vật chủ chốt ở cả hai phía đều đưa ra rất ít dữ liệu thực nghiệm để chứng minh hoặc bác bỏ những lời kêu gọi giảm tốc độ phát triển một cách cưỡng bức. Tuy nhiên, tiết lộ mới nhất của Yang, được ông mô tả là tin nóng hổi, đã thổi bùng tính cấp bách vào cuộc tranh luận, cung cấp những luận điểm thuyết phục cho những người ủng hộ việc thiết lập các rào cản ngay lập tức.

Nghiên cứu cho thấy các tác nhân AI đang khai thác các tiêu chuẩn đánh giá

Trong khi đó, Sentient Labs, một tổ chức nghiên cứu AI mã nguồn mở tiên phong, cho biết một nghiên cứu gần đây do họ thực hiện dường như xác nhận lập luận của Amodei rằng khả năng của các tác nhân đang vượt xa khả năng quản lý rủi ro. Trong các câu trả lời bằng văn bản cho các câu hỏi từ Bitcoin.com News, Abhishek Saxena, Trưởng bộ phận Chiến lược và Tăng trưởng tại Sentient Labs, cho biết nghiên cứu Evoskill v2 của công ty cung cấp “bằng chứng cụ thể” ủng hộ lập luận này.

Saxena cho biết đội ngũ nghiên cứu của công ty đã nghiên cứu cách các tác nhân AI hành xử trong các môi trường đánh giá cạnh tranh, đặc biệt là những gì xảy ra khi các tác nhân được tối ưu hóa để đạt kết quả tốt trên các tiêu chuẩn đánh giá và bài kiểm tra.

“Điều chúng tôi quan sát được là các tác nhân phát hiện ra những chiến lược bất ngờ nhằm khai thác cấu trúc của chính hệ thống đánh giá thay vì giải quyết nhiệm vụ được giao. Chúng tìm ra những lỗ hổng trong cách các nhà đánh giá đo lường hiệu suất và học cách tối ưu hóa cho chỉ số đó thay vì mục tiêu cốt lõi,” Saxena giải thích.

Từ góc độ an toàn, điều này rất quan trọng vì nó cho thấy rằng khi các hệ thống AI ngày càng trở nên mạnh mẽ và tự chủ hơn, cơ sở hạ tầng đánh giá cần phải tinh vi ít nhất ngang bằng với các hệ thống đang được đánh giá. Để khắc phục điều này, cần có những phương pháp đánh giá động và đối kháng — như Saxena mô tả — có khả năng phát triển song song với các hệ thống mà chúng đang đo lường.

Tuy nhiên, Saxena nhấn mạnh rằng việc chỉ tạm dừng mà không thay đổi cách thức đánh giá và giám sát các hệ thống AI sẽ không mang lại kết quả đáng kể.

“Con đường tốt hơn là đầu tư mạnh mẽ vào đánh giá độc lập, các cuộc thử nghiệm đối kháng và giám sát hành vi để những người triển khai các hệ thống này và những người bị ảnh hưởng bởi chúng có thông tin đáng tin cậy về những gì họ đang làm việc,” vị giám đốc điều hành của Sentient Labs cho biết.

Rủi ro lớn hơn: Quyền lực tập trung và các tuyên bố an toàn mang tính tập trung

Trong khi đó, Saxena chia sẻ với Bitcoin.com News rằng rủi ro lớn nhất mà thế giới đang phải đối mặt không phải là việc chúng ta tiến quá nhanh hay quá chậm, mà là việc một số ít công ty AI kiểm soát các mô hình mạnh mẽ nhất và cũng quyết định tiêu chuẩn nào được coi là “an toàn.”

“Chúng ta cần xây dựng cơ sở hạ tầng độc lập để thực sự xác minh những tuyên bố mà các công ty AI đưa ra về hệ thống của họ. Các đánh giá có vững chắc không? Các báo cáo an toàn có chính xác không? Các nhà nghiên cứu bên ngoài có thể tái tạo các kết quả này không? Nếu câu trả lời là không, thì dù tăng tốc hay giảm tốc cũng không giải quyết được vấn đề cơ bản, đó là sự thiếu hụt thông tin đáng tin cậy,” Saxena kết luận.