Tuyên bố của Dario Amodei về Hội nghị Thượng đỉnh Hành động AI tại Paris

Một lời kêu gọi tập trung và khẩn cấp hơn

Chúng tôi rất vui mừng được tham dự Hội nghị Thượng đỉnh Hành động AI tại Paris và đánh giá cao nỗ lực của chính phủ Pháp trong việc quy tụ các công ty AI, các nhà nghiên cứu và các nhà hoạch định chính sách từ khắp nơi trên thế giới. Chúng tôi chia sẻ mục tiêu cùng nhau thúc đẩy AI một cách có trách nhiệm vì lợi ích của nhân loại. Tuy nhiên, cần có sự tập trung và khẩn cấp hơn nữa vào một số vấn đề, xét đến tốc độ phát triển của công nghệ. Việc các xã hội dân chủ phải dẫn đầu, những rủi ro của AI và những chuyển đổi kinh tế đang nhanh chóng đến gần – tất cả những điều này nên là những điểm trọng tâm của hội nghị thượng đỉnh tiếp theo.

Thời gian không còn nhiều, và chúng ta phải đẩy nhanh hành động để theo kịp với sự tiến bộ ngày càng nhanh của AI. Có thể vào năm 2026 hoặc 2027 (và gần như chắc chắn không muộn hơn năm 2030), năng lực của các hệ thống AI sẽ được xem như một trạng thái hoàn toàn mới, nơi những người có trí tuệ cao xuất hiện trên trường quốc tế – một “quốc gia thiên tài trong trung tâm dữ liệu” – với những ý nghĩa sâu sắc về kinh tế, xã hội và an ninh. Có thể có những cơ hội kinh tế, khoa học và nhân đạo lớn hơn bất kỳ công nghệ nào trước đây trong lịch sử nhân loại – nhưng cũng có những rủi ro nghiêm trọng cần được quản lý.

Đầu tiên, chúng ta phải đảm bảo các xã hội dân chủ dẫn đầu trong lĩnh vực AI, và các quốc gia độc tài không sử dụng nó để thiết lập sự thống trị quân sự toàn cầu. Việc quản lý chuỗi cung ứng AI (bao gồm chip, thiết bị sản xuất bán dẫn và an ninh mạng) là một vấn đề xứng đáng được quan tâm nhiều hơn – cũng như việc sử dụng công nghệ AI một cách thận trọng để bảo vệ các xã hội tự do.

Thứ hai, các cuộc thảo luận quốc tế về AI phải giải quyết một cách đầy đủ hơn những rủi ro an ninh ngày càng tăng của công nghệ. AI tiên tiến mang đến những nguy hiểm an ninh toàn cầu đáng kể, từ việc lạm dụng hệ thống AI bởi các tác nhân phi nhà nước (ví dụ: vũ khí hóa học, sinh học, phóng xạ hoặc hạt nhân, hay CBRN) đến các rủi ro tự hành của các hệ thống AI mạnh mẽ. Trước hội nghị thượng đỉnh, gần 100 chuyên gia hàng đầu thế giới đã công bố một báo cáo khoa học nêu bật tiềm năng của AI đa dụng trong việc đóng góp đáng kể vào các rủi ro sử dụng thảm khốc hoặc các kịch bản “mất kiểm soát”. Nghiên cứu của Anthropic cũng cho thấy bằng chứng đáng kể rằng, nếu không được đào tạo rất cẩn thận, các mô hình AI có thể lừa dối người dùng và theo đuổi các mục tiêu theo những cách không mong muốn ngay cả khi được đào tạo theo cách có vẻ vô hại.

Chúng tôi vui mừng khi thấy các cam kết từ hơn 16 công ty AI tiên phong tuân theo các kế hoạch an toàn và bảo mật (Phiên bản của Anthropic, Chính sách mở rộng có trách nhiệm của chúng tôi, lần đầu tiên được công bố vào tháng 9 năm 2023 và là chính sách đầu tiên thuộc loại này) trước Hội nghị Thượng đỉnh. Nhưng chúng tôi cũng tin rằng các chính phủ cần thực thi sự minh bạch của các kế hoạch này, và cần tạo điều kiện để đo lường các cuộc tấn công mạng, CBRN, tính tự hành và các rủi ro an ninh toàn cầu khác, bao gồm cả bởi các nhà đánh giá bên thứ ba, đối với các nhà phát triển xây dựng tại quốc gia của họ.

Thứ ba, trong khi AI có tiềm năng thúc đẩy tăng trưởng kinh tế đáng kể trên toàn thế giới, nó cũng có tiềm năng gây ra sự xáo trộn lớn. Một “quốc gia thiên tài trong trung tâm dữ liệu” có thể đại diện cho sự thay đổi lớn nhất đối với thị trường lao động toàn cầu trong lịch sử nhân loại. Một bước đầu tiên là giám sát và quan sát các tác động kinh tế của các hệ thống AI hiện tại. Đó là lý do tại sao tuần này chúng tôi đã công bố Chỉ số Kinh tế Anthropic, theo dõi sự phân bổ các hoạt động kinh tế mà mọi người hiện đang sử dụng các hệ thống AI của chúng tôi, bao gồm cả việc chúng bổ sung hay tự động hóa các nhiệm vụ hiện tại của con người. Cần có các chính phủ sử dụng nguồn lực dồi dào hơn của họ để thực hiện các phép đo và giám sát tương tự – và cuối cùng là ban hành chính sách tập trung vào việc đảm bảo rằng mọi người đều được hưởng lợi ích kinh tế từ AI rất mạnh mẽ.

Tại hội nghị thượng đỉnh quốc tế tiếp theo, chúng ta không nên lặp lại cơ hội bị bỏ lỡ này. Ba vấn đề này nên được ưu tiên hàng đầu trong chương trình nghị sự. Sự phát triển của AI đặt ra những thách thức toàn cầu mới và lớn. Chúng ta phải hành động nhanh hơn và rõ ràng hơn để đối mặt với chúng.

---

Link bài viết gốc

• Tags:
• Ai
• Feb 11, 2025
• Www.anthropic.com