Đầu tư vào nghiên cứu an toàn AI đa tác tử

Ngày 11 tháng 6, 2026 | Trách nhiệm & An toàn Tác giả: Google DeepMind, Schmidt Sciences, Cooperative AI Foundation, ARIA và Google.org

Mở rộng nghiên cứu an toàn AI cho một thế giới đa tác tử

Trong thập kỷ qua, chúng tôi tập trung vào việc làm cho các mô hình AI đơn lẻ trở nên năng lực hơn, hữu ích hơn và an toàn hơn. Hôm nay, Google DeepMind — cùng với Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) và được hỗ trợ bởi Google.org — thông báo kêu gọi tài trợ nghiên cứu kỹ thuật mới với giá trị lên đến 10 triệu USD cho các nhà nghiên cứu trên toàn thế giới.

Khi công nghệ AI mở rộng, chúng ta đang bước vào một kỷ nguyên mới. Sắp tới, hàng triệu tác tử (agent) AI — được xây dựng bởi các tổ chức khác nhau — sẽ tương tác trong các môi trường kỹ thuật số, giao tiếp, đàm phán và giao dịch với nhau.

Khi các hệ thống này tương tác, chúng phải thực hiện một cách an toàn và có thể dự đoán được. Sự chuyển dịch này tạo ra một cơ hội quan trọng: chúng ta có thể tăng cường tính an toàn và ổn định cho toàn bộ hệ sinh thái AI ngay từ đầu.

Đợt kêu gọi tài trợ này tập trung vào việc nghiên cứu cách các hệ thống AI đa tác tử quy mô lớn hoạt động theo nhóm, và cách chúng ta có thể cung cấp các khung làm việc để hiểu cũng như giảm thiểu các rủi ro tiềm ẩn. Bằng cách hỗ trợ các nhà nghiên cứu toàn cầu, chúng tôi đặt mục tiêu giải quyết những rủi ro an toàn “vô hình” phát sinh khi các hệ thống độc lập tương tác qua các mạng lưới khác nhau.

Tại sao hệ sinh thái tác tử lại quan trọng?

Khi các nhóm lớn tác tử AI tương tác, những hành vi và khả năng tập thể mới có thể đột ngột xuất hiện. Hiện nay, chúng ta thiếu các công cụ để dự đoán, đo lường và theo dõi những sự chuyển đổi này. Hầu hết các đánh giá an toàn hiện nay chỉ phân tích các mô hình một cách độc lập. Tuy nhiên, như chúng tôi và các chuyên gia khác đã lập luận, các tác tử tự trị khi tương tác có thể tạo ra những hành vi “mới nổi” (emergent behaviors) phức tạp và khó lường.

Vì đây là một lĩnh vực nghiên cứu mới, việc hiểu rõ cách những sự thay đổi này xảy ra là cực kỳ quan trọng. Ví dụ, liệu chúng có thể gây ra một làn sóng hoạt động kinh tế không thể dự báo hoặc dẫn đến những thách thức bảo mật mới? Mục tiêu cốt lõi của chúng tôi là hiểu cách quản lý những hành vi mang tính hệ thống này.

Mở rộng ranh giới nghiên cứu an toàn đa tác tử

Mặc dù đã có các khung cơ bản cho an toàn đa tác tử, nhưng sự phát triển nhanh chóng của các hệ thống này đòi hỏi một sự mở rộng nghiên cứu quy mô lớn và tức thời.

Nghiên cứu năm 2025 của chúng tôi đã thiết lập một khung làm việc để hiểu các tương tác này, trong khi công trình gần đây về “Bẫy tác tử AI” (AI Agent Traps) khám phá những lỗ hổng mà các tác tử gặp phải trong môi trường đối kháng. Giờ đây, chúng ta phải tiến nhanh hơn. Chúng ta đang ở thời điểm then chốt khi độ phức tạp của các tương tác đa tác tử đang vượt xa các mô hình an toàn hiện có.

Đợt tài trợ này nhằm mục đích tăng tốc tiến độ bằng cách hỗ trợ một mạng lưới các nhà nghiên cứu độc lập trên toàn cầu. Một cộng đồng đa dạng là điều thiết yếu để đảm bảo các tiêu chuẩn an toàn minh bạch và mạnh mẽ cho tất cả mọi người.

Nỗ lực này cũng thúc đẩy sứ mệnh của các chương trình “Khoa học về AI đáng tin cậy” và “Tác tử AI” của Schmidt Sciences (hỗ trợ công việc nền tảng về hiểu và giảm thiểu rủi ro từ các hệ thống AI tiên tiến), cũng như chương trình “Mở rộng niềm tin” của ARIA (tìm cách mở khóa các hình thức phối hợp đa tác tử vật lý-số mới).

Lời kêu gọi hợp tác hành động

Không một phòng thí nghiệm đơn lẻ nào có thể tự mình giải quyết vấn đề an toàn đa tác tử. Chúng tôi mời các nhà nghiên cứu học thuật và độc lập gửi đề xuất trong bốn lĩnh vực ưu tiên:

• Môi trường thử nghiệm (Sandboxes and testbeds): Xây dựng các môi trường thực tế, có thể tái lập để đánh giá, so sánh và thúc đẩy tiến độ trong tất cả các lĩnh vực an toàn đa tác tử. Điều này bao gồm các thị trường ảo, hệ sinh thái mô phỏng và quy trình làm việc đa tổ chức.
• Khoa học về mạng lưới tác tử: Hiểu các đặc tính liên quan đến an toàn của các quần thể tác tử tương tác, bao gồm điều tra cách các khả năng tập thể xuất hiện và mở rộng, cách các mạng lưới bị lỗi hoặc trở nên biến động và cách phát hiện các đặc tính nguy hiểm, bất ngờ ở cấp độ quần thể.
• Củng cố cơ sở hạ tầng tác tử: Thử nghiệm áp lực (stress-test) các giao thức về danh tính, uy tín và cam kết nhằm đảm bảo tương tác tác tử an toàn xuyên nền tảng.
• Giám sát và kiểm soát: Phát triển các phương pháp để theo dõi các quần thể tác tử đã triển khai và giảm thiểu các tác hại tập thể ở quy mô lớn.

Cách thức tham gia

Chúng tôi mời các nhà nghiên cứu xem xét lời kêu gọi đề xuất và cùng chúng tôi xây dựng nền móng an toàn cho một tương lai đa tác tử.

• Hạn chót nộp đơn: Ngày 8 tháng 8 năm 2026.
• Thông báo kết quả: Dự kiến vào mùa Thu năm 2026.

Để biết thêm chi tiết về các yêu cầu kỹ thuật và quy trình đăng ký, vui lòng truy cập cổng đăng ký của chúng tôi.

Link bài viết gốc

• Tags:
• Ai
• June 2026
• Deepmind.google