Xây dựng AI đáng tin cậy: Khung thực tế cho quản trị thích ứng

Gần đây, tôi đã có buổi trò chuyện với chuyên gia phân tích Fernando Montenegro của Futurum để thảo luận về việc triển khai các tác nhân (agents) AI trong các tổ chức thực tế—không phải là các bản demo hay những lời thổi phồng, mà là thực trạng phức tạp của các hệ thống sản xuất, công tác quản trị và quy mô.

Thông qua cuộc trò chuyện đó, một điểm sáng rõ ràng là: hầu hết các tổ chức không gặp khó khăn trong việc áp dụng tác nhân AI vì công nghệ thiếu an toàn. Họ gặp khó khăn vì các mô hình quản trị của họ được xây dựng cho một thế giới không còn tồn tại.

Mặc dù các mô hình bảo mật truyền thống vẫn dựa vào sự phân biệt rõ ràng giữa “bên trong” và “bên ngoài”, và ranh giới đó vẫn cực kỳ quan trọng, nhưng điều đã thay đổi chính là tốc độ. Các tác nhân giờ đây di chuyển linh hoạt qua các ứng dụng, nguồn dữ liệu và quy trình làm việc, thường bao trùm các môi trường được thiết kế với tư duy về hệ thống tự chủ hoặc bán tự chủ.

Khi việc xây dựng một tác nhân hoặc ứng dụng chỉ mất vài phút, việc áp đặt các mô hình quản trị dựa trên các quy trình đánh giá thủ công kéo dài hàng tuần sẽ nhanh chóng thất bại. Thách thức không nằm ở chỗ có nên quản trị hay không—mà là làm thế nào để quản trị. Quản trị phải tính đến những ranh giới bị mờ nhạt và áp dụng sự giám sát phù hợp để các đội ngũ có thể tiến hành nhanh chóng mà không mất quyền kiểm soát.

Khi các chiến lược quản trị chỉ tóm gọn lại là “khóa mọi thứ lại” hoặc “chúng ta sẽ tính sau”, kết quả là điều dễ đoán: hoặc là sự áp dụng không kiểm soát, hoặc là công nghệ bóng tối (shadow IT) không có sự giám sát. Cả hai đều không phải là chiến thắng.

Những câu hỏi quản trị mà mọi tác nhân AI cần trả lời

Các tổ chức hiệu quả nhất không cố gắng ngăn chặn các tác nhân. Họ đang tìm cách để phân loại rủi ro rõ ràng và áp dụng các biện pháp kiểm soát phù hợp vào đúng thời điểm.

Nếu quản trị chỉ là một danh sách những điều mọi người không được làm, đó không phải là quản trị—đó là một danh sách các giải pháp thay thế đang chờ để xảy ra. Những nhà đổi mới và phá cách luôn tìm ra cách—dù là bên trong hệ thống hay ngoài tầm kiểm soát của bạn. Khi không có con đường hỗ trợ để làm đúng, công nghệ bóng tối không phải là sự thất bại của kỷ luật, mà là kết quả tự nhiên. Những hạn chế mà không có lựa chọn thay thế sẽ không ngăn cản sự đổi mới, chúng chỉ đẩy nó vào “bóng tối”, khuyến khích công nghệ bóng tối.

Quản trị thực sự thiết lập các ranh giới cho phép các đội ngũ tiến nhanh và giữ an toàn:

• Tác nhân có thể truy cập những nguồn dữ liệu nào?
• Nó có thể được triển khai hoặc chia sẻ rộng rãi đến mức nào?
• Nó được phép thực hiện những hành động nào?
• Nó chạy dưới định danh nào?
• Mức độ giám sát nào được áp dụng khi rủi ro tăng lên?

Một tác nhân năng suất cá nhân rủi ro thấp không giống như một tác nhân kết nối với hệ thống kinh doanh cốt lõi. Đối xử với chúng như thể chúng giống nhau sẽ dẫn đến những điểm thất bại có thể dự đoán trước. Bạn hoặc là hạn chế quá mức mọi thứ và làm đình trệ sự đổi mới, hoặc là bảo vệ thiếu sót những gì thực sự quan trọng, khiến các hệ thống quan trọng bị phơi bày. Quản trị chỉ hiệu quả khi nó phản ánh đúng sự khác biệt về rủi ro.

Rủi ro không phải là nhị phân—và quản trị AI cần một mô hình dựa trên rủi ro

Một cách thiết thực để vận hành điều này là một mô hình dựa trên rủi ro đơn giản. Không phải lý thuyết. Mà là vận hành. Hãy nghĩ theo các vùng rủi ro tốt nghiệp (graduated risk zones):

• Rủi ro thấp: Các kịch bản tự phục vụ, bị hạn chế, nơi mọi người có thể xây dựng và sử dụng các tác nhân với các rào chắn chặt chẽ—truy cập dữ liệu hạn chế, chia sẻ hạn chế. Trong kịch bản này, những người tạo ra (makers) không cần phải mở phiếu yêu cầu cho mọi ý tưởng, và bộ phận CNTT không cần phải quản lý vi mô. Các đội có thể di chuyển nhanh chóng, xây dựng với sự tự tin, không có ma sát, và CNTT có thể đứng ngoài con đường quan trọng.
• Rủi ro trung bình: Chia sẻ rộng hơn, dữ liệu nhạy cảm hơn, các hành động có ý nghĩa hơn. Những kịch bản này kích hoạt quy trình đánh giá và giám sát—nhưng không làm mất đà hoặc buộc quản trị nặng nề lên mọi ý tưởng.
• Rủi ro cao: Các quy trình kinh doanh quan trọng gắn liền với các hệ thống cốt lõi. Những điều này cần sự kiểm soát có chủ đích ngay từ ngày đầu tiên. Không phải là “không ai được xây dựng”, mà là “những người phù hợp xây dựng trong những ranh giới phù hợp, với sự giám sát phù hợp”.

Điểm mấu chốt không phải là nhãn dán. Điểm mấu chốt là sự rõ ràng. Rủi ro mang tính ngữ cảnh. Quản trị cũng nên như vậy.

Nơi quản trị thực sự được thực thi: Nền tảng

Quản trị chỉ hoạt động khi nó được thực thi vốn có bởi nền tảng, chứ không phải được lớp phủ lên thông qua các tài liệu chính sách, email hoặc bảng tính.

Đó là lý do tại sao khái niệm về nền tảng được quản lý (managed platform) lại quan trọng: Hãy biến bảo mật, quản trị và vận hành trở thành một phần của trải nghiệm nền tảng—kho hàng, thông tin sử dụng, chia sẻ được kiểm soát, quản trị kết nối và quản lý vòng đời—thay vì một quy trình bên ngoài được duy trì bởi những ý định tốt nhất.

Các môi trường được quản lý (Managed environments)—sự áp dụng thực tế của chúng tôi về khái niệm nền tảng được quản lý—là một khả năng của Microsoft Power Platform, không phải thứ gì đó giới hạn ở một sản phẩm hoặc khối lượng công việc duy nhất. Các môi trường được quản lý cho phép các đội quản lý ứng dụng, tự động hóa, trang web và thậm chí cả các tác nhân được xây dựng trong Microsoft Copilot Studio.

Một trong những biện pháp kiểm soát sạch sẽ nhất cũng là một trong những biện pháp đơn giản nhất: giới hạn chia sẻ kết hợp với lộ trình rõ ràng.

Nếu ai đó xây dựng thứ gì đó cho chính họ hoặc cho đồng đội trực tiếp của họ, đó là một hồ sơ rủi ro. Nếu họ muốn chia sẻ giải pháp của họ rộng rãi hơn, đó là một hồ sơ khác. Nền tảng cần phải phân biệt giữa các trường hợp đó. Khi làm được điều đó, bạn có thể để mọi người thử nghiệm tự do—và yêu cầu sự thúc đẩy, đánh giá và trách nhiệm giải trình có chủ đích khi thứ gì đó sẵn sàng để mở rộng quy mô.

Các tác nhân không tạo ra vấn đề về quyền hạn—chúng làm lộ chúng

Điều này rất đáng để nhắc lại, vì nó quan trọng: các tác nhân thường hoạt động với tư cách là người dùng gọi chúng. Chúng không tự nhiên có được các quyền hạn mới. Điều này có nghĩa là các tác nhân không tạo ra vấn đề về truy cập; chúng làm lộ những vấn đề bạn đã có, nhanh hơn.

Nếu người dùng có quyền hạn quá rộng ngày hôm nay, các tác nhân cũng sẽ như vậy. Đó không phải là vấn đề của tác nhân—đó là vấn đề về kỷ luật danh tính và truy cập. Quản trị tác nhân hiệu quả chỉ hoạt động khi nó được xây dựng trên những nền tảng vững chắc.

Tin tưởng theo thiết kế, với sự xác minh được tích hợp sẵn

Các biện pháp kiểm soát chủ động mạnh mẽ rất quan trọng, nhưng chúng không đủ nếu chỉ đứng một mình. Bạn vẫn cần các biện pháp kiểm soát phản ứng: giám sát, chẩn đoán và các dấu vết kiểm toán, đặc biệt là khi các tác nhân thực hiện các hành động có ý nghĩa về tuân thủ.

“Tin tưởng nhưng phải xác minh” vẫn áp dụng. Hãy nhìn vào sự tương đồng quen thuộc của quy trình phê duyệt chi phí: con người vô tình phê duyệt các thứ không chính xác mọi lúc. Chúng ta quản lý rủi ro đó bằng các cuộc kiểm toán, các biện pháp kiểm soát bù đắp và giới hạn phạm vi ảnh hưởng (blast radius). Rủi ro của tác nhân nên được xử lý theo cùng một cách: biết những gì đã xảy ra, hiểu lý do tại sao nó xảy ra và ngăn chặn tác động khi nó không diễn ra như kế hoạch.

Kết luận

Tương lai không phải là “các tác nhân ở khắp mọi nơi mà không có sự kiểm soát”, và cũng không phải là “không có tác nhân nào vì rủi ro”. Cả hai đều thất bại.

Con đường thực tế là quản trị thích ứng: phân loại rủi ro rõ ràng, thực thi nó thông qua nền tảng và tạo ra các lộ trình thúc đẩy để các ý tưởng tốt có thể mở rộng quy mô mà không biến thành sự cố cần ứng phó của ngày mai.

Đó là cách các tổ chức ngừng chơi trò phòng thủ. Nếu bạn muốn tìm hiểu cách bắt đầu nói “có” một cách an toàn, hãy xem toàn bộ cuộc phỏng vấn với Fernando.

Tìm hiểu cách các giải pháp low-code truyền cảm hứng cho sự đổi mới giữa các nhóm

Link bài viết gốc

• Tags:
• Ai
• 01 April 2026
• Www.microsoft.com