Cách Capital One xây dựng quy trình AI đa tác nhân sản xuất để hỗ trợ các trường hợp sử dụng trong doanh nghiệp

Làm thế nào để bạn cân bằng giữa quản lý rủi ro và an toàn với sự đổi mới trong các hệ thống tác nhân — và làm thế nào để bạn giải quyết các cân nhắc cốt lõi xung quanh việc lựa chọn dữ liệu và mô hình? Trong phiên họp VB Transform này, Milind Naphade, SVP, công nghệ, của AI Foundations tại Capital One, đã đưa ra các phương pháp hay nhất và những bài học kinh nghiệm từ các thử nghiệm và ứng dụng thực tế để triển khai và mở rộng quy trình làm việc của tác nhân.

Capital One, cam kết luôn đi đầu trong các công nghệ mới nổi, gần đây đã ra mắt một hệ thống AI đa tác nhân hiện đại, cấp sản xuất để nâng cao trải nghiệm mua xe. Trong hệ thống này, nhiều tác nhân AI làm việc cùng nhau không chỉ cung cấp thông tin cho người mua xe mà còn thực hiện các hành động cụ thể dựa trên sở thích và nhu cầu của khách hàng. Ví dụ: một tác nhân giao tiếp với khách hàng. Một tác nhân khác tạo ra một kế hoạch hành động dựa trên các quy tắc kinh doanh và các công cụ mà nó được phép sử dụng. Tác nhân thứ ba đánh giá tính chính xác của hai tác nhân đầu tiên và tác nhân thứ tư giải thích và xác nhận kế hoạch hành động với người dùng. Với hơn 100 triệu khách hàng sử dụng một loạt các ứng dụng trường hợp sử dụng Capital One tiềm năng khác, hệ thống tác nhân được xây dựng cho quy mô và độ phức tạp.

Naphade nói: “Khi chúng tôi nghĩ đến việc cải thiện trải nghiệm của khách hàng, làm hài lòng khách hàng, chúng tôi nghĩ đến, những cách nào có thể xảy ra điều đó?”. “Cho dù bạn đang mở một tài khoản hoặc bạn muốn biết số dư của mình hoặc bạn đang cố gắng đặt chỗ để lái thử một chiếc xe, có rất nhiều điều mà khách hàng muốn làm. Trọng tâm của vấn đề này, rất đơn giản, làm thế nào để bạn hiểu những gì khách hàng muốn? Làm thế nào để bạn hiểu các cơ chế thực hiện theo ý của bạn? Làm thế nào để bạn mang tất cả sự chặt chẽ của một thực thể được quản lý như Capital One, tất cả các chính sách, tất cả các quy tắc kinh doanh, tất cả các ràng buộc, quy định và các ràng buộc khác?”

Ông nói, AI tác nhân rõ ràng là bước tiếp theo cho các trường hợp sử dụng nội bộ cũng như hướng tới khách hàng.

Thiết kế quy trình làm việc của tác nhân

Các tổ chức tài chính có các yêu cầu đặc biệt nghiêm ngặt khi thiết kế bất kỳ quy trình làm việc nào hỗ trợ hành trình của khách hàng. Và các ứng dụng của Capital One bao gồm một số quy trình phức tạp khi khách hàng nêu ra các vấn đề và truy vấn tận dụng các công cụ đàm thoại. Hai yếu tố này làm cho quá trình thiết kế trở nên đặc biệt phức tạp, đòi hỏi một cái nhìn toàn diện về toàn bộ hành trình — bao gồm cả cách khách hàng và các tác nhân con người phản hồi, phản ứng và lý luận ở mọi bước.

Naphade nói: “Khi chúng tôi xem xét cách con người lý luận, chúng tôi đã bị ấn tượng bởi một vài sự thật nổi bật”. “Chúng tôi thấy rằng nếu chúng tôi thiết kế nó bằng nhiều tác nhân logic, chúng tôi sẽ có thể bắt chước lý luận của con người khá tốt. Nhưng sau đó bạn tự hỏi, các tác nhân khác nhau chính xác làm gì? Tại sao bạn có bốn? Tại sao không phải ba? Tại sao không phải 20?”

Họ đã nghiên cứu trải nghiệm của khách hàng trong dữ liệu lịch sử: những cuộc trò chuyện đó diễn ra tốt đẹp ở đâu, diễn ra sai ở đâu, chúng sẽ mất bao lâu và các sự kiện nổi bật khác. Họ biết rằng thường mất nhiều lượt trò chuyện với một tác nhân để hiểu những gì khách hàng muốn và bất kỳ quy trình làm việc của tác nhân nào cũng cần phải lên kế hoạch cho điều đó, mà còn phải hoàn toàn dựa trên các hệ thống của tổ chức, các công cụ, API và các biện pháp bảo vệ chính sách của tổ chức có sẵn.

Naphade nói: “Đột phá chính đối với chúng tôi là nhận ra rằng điều này phải năng động và lặp đi lặp lại”. “Nếu bạn nhìn vào cách rất nhiều người đang sử dụng LLM, họ đang tát LLM làm giao diện người dùng cho cùng một cơ chế đã từng tồn tại. Họ chỉ đang sử dụng LLM để phân loại ý định. Nhưng chúng tôi nhận ra ngay từ đầu rằng điều đó không thể mở rộng được.”

Lấy tín hiệu từ các quy trình làm việc hiện có

Dựa trên trực giác của họ về cách các tác nhân con người lý luận trong khi trả lời khách hàng, các nhà nghiên cứu tại Capital One đã phát triển một khuôn khổ trong đó một nhóm các tác nhân AI chuyên gia, mỗi người có chuyên môn khác nhau, cùng nhau giải quyết một vấn đề.

Ngoài ra, Capital One đã kết hợp các khuôn khổ rủi ro mạnh mẽ vào quá trình phát triển hệ thống tác nhân. Là một tổ chức được quản lý, Naphade lưu ý rằng ngoài một loạt các giao thức và khuôn khổ giảm thiểu rủi ro nội bộ của mình, “Trong Capital One, để quản lý rủi ro, các tổ chức độc lập khác quan sát bạn, đánh giá bạn, đặt câu hỏi cho bạn, kiểm tra bạn”, Naphade nói. “Chúng tôi nghĩ đó là một ý tưởng hay cho chúng tôi, để có một tác nhân AI có toàn bộ công việc là đánh giá những gì hai tác nhân đầu tiên làm dựa trên các chính sách và quy tắc của Capital One.”

Người đánh giá xác định xem các tác nhân trước đó có thành công hay không và nếu không, sẽ từ chối kế hoạch và yêu cầu tác nhân lập kế hoạch sửa kết quả của mình dựa trên đánh giá của nó về nơi có vấn đề. Điều này xảy ra trong một quá trình lặp đi lặp lại cho đến khi đạt được kế hoạch thích hợp. Nó cũng đã được chứng minh là một lợi ích rất lớn cho phương pháp tiếp cận AI của công ty.

“Tác nhân đánh giá là … nơi chúng tôi mang đến một mô hình thế giới. Đó là nơi chúng tôi mô phỏng điều gì sẽ xảy ra nếu một loạt các hành động thực sự được thực hiện. Loại sự chặt chẽ đó, mà chúng tôi cần vì chúng tôi là một doanh nghiệp được quản lý - tôi nghĩ rằng điều đó thực sự đưa chúng tôi vào một quỹ đạo bền vững và mạnh mẽ tuyệt vời. Tôi hy vọng rất nhiều doanh nghiệp cuối cùng sẽ đi đến điểm đó.”

Những thách thức kỹ thuật của AI tác nhân

Các hệ thống tác nhân cần làm việc với các hệ thống thực hiện trên toàn tổ chức, tất cả đều có nhiều quyền khác nhau. Việc gọi các công cụ và API trong nhiều bối cảnh khác nhau trong khi vẫn duy trì độ chính xác cao cũng là một thách thức — từ việc làm rõ ý định của người dùng đến tạo và thực hiện một kế hoạch đáng tin cậy.

Naphade nói: “Chúng tôi có nhiều lần lặp lại thử nghiệm, kiểm tra, đánh giá, con người trong vòng lặp, tất cả các biện pháp bảo vệ phù hợp cần phải xảy ra trước khi chúng tôi thực sự có thể tham gia thị trường với một cái gì đó như thế này”. “Nhưng một trong những thách thức lớn nhất là chúng tôi không có bất kỳ tiền lệ nào. Chúng tôi không thể đi và nói, ồ, ai đó khác đã làm điều đó theo cách này. Điều đó đã diễn ra như thế nào? Có yếu tố mới lạ đó. Chúng tôi đã làm điều đó lần đầu tiên.”

Lựa chọn mô hình và hợp tác với NVIDIA

Về mô hình, Capital One đang theo dõi sát sao nghiên cứu học thuật và công nghiệp, trình bày tại các hội nghị và luôn cập nhật những gì hiện đại nhất. Trong trường hợp sử dụng hiện tại, họ đã sử dụng các mô hình có trọng lượng mở, thay vì đóng, vì điều đó cho phép họ tùy chỉnh đáng kể. Naphade khẳng định điều đó rất quan trọng đối với họ, bởi vì lợi thế cạnh tranh trong chiến lược AI dựa trên dữ liệu độc quyền.

Trong chính ngăn xếp công nghệ, họ sử dụng kết hợp các công cụ, bao gồm công nghệ nội bộ, chuỗi công cụ nguồn mở và ngăn xếp suy luận NVIDIA. Làm việc chặt chẽ với NVIDIA đã giúp Capital One có được hiệu suất mà họ cần và hợp tác trên các cơ hội dành riêng cho ngành trong thư viện của NVIDIA và ưu tiên các tính năng cho máy chủ Triton và TensoRT LLM của họ.

AI tác nhân: Hướng tới tương lai

Capital One tiếp tục triển khai, mở rộng và tinh chỉnh các tác nhân AI trên toàn bộ hoạt động kinh doanh của họ. Quy trình làm việc đa tác nhân đầu tiên của họ là Chat Concierge, được triển khai thông qua hoạt động kinh doanh ô tô của công ty. Nó được thiết kế để hỗ trợ cả các đại lý ô tô và khách hàng trong quá trình mua xe. Và với dữ liệu khách hàng phong phú, các đại lý đang xác định các khách hàng tiềm năng nghiêm túc, điều này đã cải thiện đáng kể các số liệu tương tác của khách hàng của họ - tăng tới 55% trong một số trường hợp.

Naphade nói: “Họ có thể tạo ra những khách hàng tiềm năng nghiêm túc tốt hơn nhiều thông qua tác nhân tự nhiên, dễ dàng hơn, hoạt động 24/7 này”. “Chúng tôi muốn mang khả năng này đến [nhiều hơn] các tương tác hướng tới khách hàng của chúng tôi. Nhưng chúng tôi muốn làm điều đó một cách được quản lý tốt. Đó là một hành trình.”

Lưu ý: Nội dung bài viết đã được dịch đầy đủ và giữ nguyên các yếu tố hình ảnh và video có trong bài g

Link bài viết gốc

• Tags:
• Ai
• July 7, 2025
• Venturebeat.com