Trust Lợi ích Dài hạn

Hôm nay, chúng tôi chia sẻ thêm thông tin chi tiết về cấu trúc quản trị mới của chúng tôi, gọi là Trust Lợi ích Dài hạn (LTBT), mà chúng tôi đã phát triển kể từ khi thành lập Anthropic. LTBT là nỗ lực của chúng tôi nhằm điều chỉnh quản trị doanh nghiệp để giải quyết những thách thức độc đáo và các cơ hội dài hạn mà chúng tôi tin rằng AI mang tính biến đổi sẽ mang lại.

Trust là một cơ quan độc lập gồm năm thành viên không có lợi ích tài chính, với thẩm quyền lựa chọn và bãi nhiệm một phần Ban Giám đốc của chúng tôi, và tỷ lệ này sẽ tăng theo thời gian (cuối cùng, chiếm đa số Ban Giám đốc). Cùng với tư cách là Tập đoàn Lợi ích Công, LTBT giúp định hướng quản trị doanh nghiệp của chúng tôi với sứ mệnh phát triển và duy trì AI tiên tiến vì lợi ích dài hạn của nhân loại.

Cơ Bản về Quản trị Doanh nghiệp

Một tập đoàn được giám sát bởi hội đồng quản trị của mình. Hội đồng quản trị lựa chọn và giám sát đội ngũ lãnh đạo (đặc biệt là Giám đốc điều hành), những người lần lượt thuê và quản lý nhân viên. Cấu trúc quản trị mặc định buộc các giám đốc phải chịu trách nhiệm trước các cổ đông theo nhiều cách. Ví dụ:

• Các giám đốc được bầu bởi, và có thể bị bãi nhiệm bởi các cổ đông.
• Các giám đốc có trách nhiệm pháp lý với cổ đông trong việc thực hiện các nghĩa vụ ủy thác của họ.
• Các giám đốc thường được trả bằng cổ phiếu của tập đoàn, giúp căn chỉnh lợi ích của họ với lợi ích tài chính của các cổ đông.

Điều quan trọng là các quyền bầu, bãi nhiệm và khởi kiện giám đốc chỉ thuộc về các cổ đông. Do đó, một số người tự hỏi liệu các giám đốc của một tập đoàn có được phép tối ưu hóa cho các bên liên quan ngoài cổ đông của tập đoàn, chẳng hạn như khách hàng và công chúng hay không. Câu hỏi này là chủ đề của một cuộc tranh luận sôi nổi, mà chúng tôi sẽ không đi sâu vào đây. Đối với mục đích hiện tại, điều đó là đủ để nhận thấy rằng tất cả các cơ chế trách nhiệm giải trình chính trong luật doanh nghiệp đều thúc đẩy các giám đốc ưu tiên lợi ích tài chính của cổ đông.

Tinh chỉnh Quản trị Doanh nghiệp của Anthropic

Quản trị doanh nghiệp đã trải qua hàng thế kỷ tiền lệ pháp lý và cải tiến, và các quan điểm khác nhau rất nhiều về hiệu quả, điểm mạnh và điểm yếu của nó. Tại Anthropic, quan điểm của chúng tôi là năng lực của quản trị doanh nghiệp trong việc tạo ra các kết quả có lợi cho xã hội phụ thuộc mạnh mẽ vào các yếu tố ngoại ứng phi thị trường. Yếu tố ngoại ứng là một loại thất bại thị trường xảy ra khi một giao dịch giữa hai bên áp đặt chi phí hoặc lợi ích lên bên thứ ba mà không đồng ý với giao dịch đó. Các ví dụ phổ biến về chi phí bao gồm ô nhiễm từ các nhà máy, rủi ro tài chính hệ thống từ các ngân hàng và rủi ro an ninh quốc gia từ các nhà sản xuất vũ khí. Các ví dụ về hiệu ứng lan tỏa tích cực bao gồm lợi ích xã hội của giáo dục vượt ra ngoài các cá nhân được giáo dục, hoặc các khoản đầu tư vào R&D thúc đẩy toàn bộ các lĩnh vực vượt ra ngoài công ty thực hiện khoản đầu tư đó. Nhiều bên giao dịch với một tập đoàn, chẳng hạn như khách hàng, nhân viên và nhà cung cấp, có khả năng đàm phán hoặc yêu cầu giá cả và điều khoản phản ánh đầy đủ chi phí và lợi ích của các giao dịch của họ. Nhưng các bên khác, chẳng hạn như công chúng, không trực tiếp giao dịch với một tập đoàn và do đó không có phương tiện để tính phí hoặc thanh toán cho các chi phí và lợi ích mà họ trải nghiệm.

Ngoại ứng càng lớn thì chúng ta càng ít mong đợi các mặc định quản trị doanh nghiệp phục vụ lợi ích của các bên không ký hợp đồng như công chúng. Chúng tôi tin rằng AI có thể tạo ra các yếu tố ngoại ứng chưa từng có, từ rủi ro an ninh quốc gia, đến gián đoạn kinh tế quy mô lớn, đến các mối đe dọa cơ bản đối với nhân loại, cho đến lợi ích to lớn cho sự an toàn và sức khỏe của con người. Công nghệ đang phát triển nhanh chóng đến mức luật pháp và các chuẩn mực xã hội ràng buộc các hoạt động doanh nghiệp có yếu tố ngoại ứng cao khác vẫn chưa bắt kịp với AI; điều này đã khiến chúng tôi đầu tư vào việc tinh chỉnh quản trị của Anthropic để đối mặt với thách thức phía trước.

Nói rõ hơn, đối với hầu hết các quyết định hàng ngày mà Anthropic đưa ra, lợi ích công cộng không mâu thuẫn với thành công thương mại hoặc lợi nhuận của cổ đông, và nếu có thì kinh nghiệm của chúng tôi đã cho thấy rằng hai điều này thường có sự cộng hưởng mạnh mẽ: khả năng của chúng tôi trong việc thực hiện nghiên cứu an toàn hiệu quả phụ thuộc vào việc xây dựng các mô hình tiên tiến (các nguồn lực này được hỗ trợ rất nhiều bởi thành công thương mại), và khả năng của chúng tôi trong việc thúc đẩy một “cuộc đua lên đỉnh” phụ thuộc vào việc trở thành một công ty có thể tồn tại trong hệ sinh thái cả về mặt kỹ thuật và thương mại. Chúng tôi không mong đợi LTBT can thiệp vào các quyết định hàng ngày này hoặc vào chiến lược thương mại thông thường của chúng tôi.

Thay vào đó, nhu cầu tinh chỉnh cấu trúc quản trị cuối cùng bắt nguồn từ tiềm năng xảy ra các sự kiện cực đoan và nhu cầu xử lý chúng với lợi ích của nhân loại, và chúng tôi mong đợi LTBT sẽ chủ yếu tập trung vào các vấn đề dài hạn này. Ví dụ, LTBT có thể đảm bảo rằng lãnh đạo tổ chức được khuyến khích đánh giá cẩn thận các mô hình tương lai về các rủi ro thảm khốc hoặc đảm bảo rằng chúng có an ninh cấp quốc gia, thay vì ưu tiên trở thành người đầu tiên ra thị trường trên tất cả các mục tiêu khác.

Cơ sở: Tập đoàn Lợi ích Công

Một tính năng quản trị mà chúng tôi đã chia sẻ là Anthropic là một Tập đoàn Lợi ích Công của Delaware, hay PBC. Giống như hầu hết các công ty lớn ở Hoa Kỳ, Anthropic được hợp nhất tại Delaware, và luật doanh nghiệp Delaware cho phép rõ ràng các giám đốc của PBC cân bằng lợi ích tài chính của cổ đông với mục đích lợi ích công cộng được chỉ định trong chứng thư hợp nhất của tập đoàn, và lợi ích tốt nhất của những người bị ảnh hưởng về mặt vật chất bởi hành vi của tập đoàn. Mục đích lợi ích công cộng được nêu trong chứng thư của Anthropic là sự phát triển và duy trì có trách nhiệm của AI tiên tiến vì lợi ích dài hạn của nhân loại. Điều này mang lại cho hội đồng quản trị của chúng tôi sự tự do pháp lý để cân nhắc các yếu tố ngoại ứng dài hạn và ngắn hạn của các quyết định – ví dụ, liệu có triển khai một hệ thống AI cụ thể hay không – cùng với lợi ích tài chính của các cổ đông của chúng tôi.

Sự tự do pháp lý do cấu trúc PBC mang lại là quan trọng trong việc định hướng quản trị của Anthropic với sứ mệnh lợi ích công cộng của chúng tôi. Nhưng chúng tôi không cảm thấy điều đó là đủ cho các thách thức quản trị mà chúng tôi dự đoán trong việc phát triển AI mang tính biến đổi. Mặc dù hình thức PBC làm cho việc các giám đốc cân bằng lợi ích công cộng với việc tối đa hóa giá trị cổ đông là hợp pháp, nhưng nó không làm cho các giám đốc của tập đoàn phải chịu trách nhiệm trực tiếp trước các bên liên quan khác hoặc căn chỉnh lợi ích của họ với lợi ích của công chúng. Chúng tôi đã thiết kế một cấu trúc cung cấp cho các giám đốc của chúng tôi trách nhiệm giải trình và khuyến khích cần thiết để cân bằng một cách thích hợp lợi ích tài chính của các cổ đông của chúng tôi và mục đích lợi ích công cộng của chúng tôi tại các thời điểm quan trọng mà chúng tôi mong đợi hậu quả từ các quyết định của chúng tôi sẽ vượt xa Anthropic.

LTBT: Cấu trúc và Tính năng Cơ bản

Trust Lợi ích Dài hạn Anthropic (LTBT, hoặc Trust) là một cơ quan độc lập bao gồm năm Thành viên quản trị với nền tảng và chuyên môn về an toàn AI, an ninh quốc gia, chính sách công và doanh nghiệp xã hội. Các thỏa thuận của Trust được thiết kế để cách ly các Thành viên quản trị khỏi lợi ích tài chính tại Anthropic và cấp cho họ đủ sự độc lập để cân bằng lợi ích của công chúng cùng với lợi ích của các cổ đông Anthropic.

Khi kết thúc vòng Series C, chúng tôi đã sửa đổi điều lệ công ty để tạo ra một loại cổ phiếu mới (Cổ phiếu Loại T) do Trust nắm giữ độc quyền.1 Cổ phiếu Loại T cấp cho Trust thẩm quyền bầu và bãi nhiệm một số thành viên hội đồng quản trị Anthropic sẽ được đưa vào theo các mốc thời gian và tài trợ; trong mọi trường hợp, Trust sẽ bầu đa số hội đồng quản trị trong vòng 4 năm. Đồng thời, chúng tôi đã tạo ra một ghế giám đốc mới sẽ được bầu bởi các nhà đầu tư Series C và các nhà đầu tư sau đó để đảm bảo rằng quan điểm của các nhà đầu tư của chúng tôi sẽ được đại diện trực tiếp trên hội đồng quản trị trong tương lai.

Cổ phiếu Loại T cũng bao gồm các “điều khoản bảo vệ” yêu cầu Trust nhận được thông báo về các hành động nhất định có thể làm thay đổi đáng kể tập đoàn hoặc hoạt động kinh doanh của tập đoàn.

Trust được tổ chức như một “trust mục đích” theo luật chung của Delaware, với mục đích giống như của Anthropic. Trust phải sử dụng các quyền hạn của mình để đảm bảo rằng Anthropic cân bằng một cách có trách nhiệm lợi ích tài chính của cổ đông với lợi ích của những người bị ảnh hưởng bởi hành vi của Anthropic và mục đích lợi ích công cộng của chúng tôi.

Một Loại Cổ đông Khác

Bằng cách thành lập Trust Lợi ích Dài hạn, chúng tôi đã, trên thực tế, tạo ra một loại cổ đông khác tại Anthropic. Anthropic sẽ tiếp tục được giám sát bởi hội đồng quản trị của mình, mà chúng tôi mong đợi sẽ đưa ra các quyết định có hậu quả trên con đường dẫn đến AI mang tính biến đổi. Khi điều hướng các quyết định này, đa số hội đồng quản trị cuối cùng sẽ chịu trách nhiệm trước Trust cũng như cổ đông, và do đó sẽ có động lực để cân bằng một cách thích hợp lợi ích công cộng với lợi ích cổ đông. Hơn nữa, hội đồng quản trị sẽ được hưởng lợi từ những hiểu biết sâu sắc của các Thành viên quản trị với chuyên môn và kinh nghiệm sâu sắc trong các lĩnh vực quan trọng đối với sứ mệnh lợi ích công cộng của Anthropic. Cùng nhau, chúng tôi tin rằng những hiểu biết sâu sắc và động lực do Trust cung cấp sẽ dẫn đến việc ra quyết định tốt hơn khi cổ phần cao nhất.

Việc LTBT “từng bước” dần dần cho phép chúng tôi sửa chữa một cấu trúc thử nghiệm và cũng phản ánh một giả thuyết rằng, sớm trong lịch sử của một công ty, nó thường có thể hoạt động tốt nhất với quản trị hợp lý và không quá nhiều bên liên quan; trong khi đó, khi nó trở nên trưởng thành hơn và có ảnh hưởng sâu sắc hơn đến xã hội, các yếu tố ngoại ứng có xu hướng biểu hiện ngày càng nhiều, làm cho các kiểm tra và cân bằng trở nên quan trọng hơn.

Một Thử nghiệm Quản trị Doanh nghiệp

Trust Lợi ích Dài hạn là một thử nghiệm. Thiết kế của nó là một giả thuyết được cân nhắc, được thông báo bởi một số học giả và chuyên gia quản trị doanh nghiệp thành đạt nhất trong cả nước, những người đã giúp lãnh đạo chúng tôi thiết kế và “red team” cấu trúc này. Chúng tôi chưa sẵn sàng đưa ra điều này như một ví dụ để noi theo; chúng tôi là những người theo chủ nghĩa thực nghiệm và muốn xem nó hoạt động như thế nào.

Một trong những thách thức thiết kế khó khăn nhất là dung hòa mệnh lệnh cho cấu trúc Trust phải chống chịu được các hành động “chạy nước rút” khi cổ phần cao với thực tế là cấu trúc này mang tính thử nghiệm. Điều quan trọng là phải ngăn chặn thỏa thuận này bị hủy bỏ dễ dàng, nhưng cũng hiếm khi có thể làm điều gì đó như thế này đúng ngay lần đầu tiên. Do đó, chúng tôi đã thiết kế một quy trình sửa đổi cân bằng cẩn thận giữa tính bền vững và tính linh hoạt. Chúng tôi hình dung rằng hầu hết các điều chỉnh sẽ được thực hiện theo thỏa thuận của các Thành viên quản trị và Hội đồng quản trị Anthropic, hoặc các Thành viên quản trị và các cổ đông khác. Tuy nhiên, do bản chất thử nghiệm của Trust, chúng tôi cũng đã thiết kế một loạt các điều khoản “bảo vệ” cho phép thay đổi Trust và các quyền hạn của nó mà không cần sự đồng ý của các Thành viên quản trị nếu các đa số đại đa số cổ đông đồng ý. Các đa số cần thiết tăng lên khi quyền hạn của Trust được thực hiện, dựa trên lý thuyết rằng chúng tôi sẽ có nhiều kinh nghiệm hơn – và ít cần lặp lại hơn – khi thời gian trôi qua, và cổ phần sẽ trở nên cao hơn.

Gặp gỡ Các Thành viên Quản trị Ban đầu

Các Thành viên quản trị ban đầu là:

• Jason Matheny: Giám đốc điều hành của RAND Corporation
• Kanika Bahl: Giám đốc điều hành & Chủ tịch của Evidence Action
• Neil Buddy Shah: Giám đốc điều hành của Clinton Health Access Initiative (Chủ tịch)
• Paul Christiano: Người sáng lập Alignment Research Center
• Zach Robinson: Giám đốc điều hành tạm thời của Effective Ventures US

Hội đồng quản trị Anthropic đã chọn các Thành viên quản trị ban đầu này sau một quá trình tìm kiếm và phỏng vấn kéo dài một năm để tìm ra những cá nhân thể hiện sự suy nghĩ thấu đáo, tính cách mạnh mẽ và sự hiểu biết sâu sắc về các rủi ro, lợi ích và quỹ đạo của AI cũng như tác động của nó đối với xã hội. Các Thành viên quản trị phục vụ nhiệm kỳ một năm và các Thành viên quản trị tương lai sẽ được bầu bởi một cuộc bỏ phiếu của các Thành viên quản trị. Chúng tôi vinh dự vì nhóm Thành viên quản trị sáng lập này đã chọn chấp nhận vị trí của họ trong Trust và chúng tôi tin rằng họ sẽ cung cấp những hiểu biết và phán đoán vô giá.

---

Vào tháng 12 năm 2023, Jason Matheny đã từ chức khỏi Trust để ngăn chặn mọi xung đột lợi ích tiềm ẩn có thể phát sinh với các sáng kiến liên quan đến chính sách của RAND Corporation. Paul Christiano đã từ chức vào tháng 4 năm 2024 để đảm nhận vai trò mới là Trưởng bộ phận An toàn AI tại Viện An toàn AI Hoa Kỳ. Những người thay thế họ sẽ được các Thành viên quản trị bầu trong thời gian tới.

Link bài viết gốc

• Tags:
• Ai
• Sep 19, 2023
• Www.anthropic.com