Không phải mọi thứ đều cần LLM: Khuôn khổ đánh giá khi nào AI có ý nghĩa

Câu hỏi: Sản phẩm nào nên sử dụng máy học (ML)? Câu trả lời của quản lý dự án: Có.

Nói vui vậy thôi, sự ra đời của AI tạo sinh đã đảo lộn sự hiểu biết của chúng ta về những trường hợp sử dụng nào phù hợp nhất với ML. Trong lịch sử, chúng ta luôn tận dụng ML cho các mô hình lặp lại, có tính dự đoán trong trải nghiệm của khách hàng, nhưng giờ đây, có thể tận dụng một hình thức ML ngay cả khi không có toàn bộ bộ dữ liệu huấn luyện.

Tuy nhiên, câu trả lời cho câu hỏi “Nhu cầu nào của khách hàng đòi hỏi một giải pháp AI?” vẫn không phải lúc nào cũng là “có”. Các mô hình ngôn ngữ lớn (LLM) vẫn có thể đắt đỏ đối với một số người và giống như tất cả các mô hình ML, LLM không phải lúc nào cũng chính xác. Sẽ luôn có những trường hợp sử dụng mà việc tận dụng một triển khai ML không phải là con đường đúng đắn. Làm thế nào chúng ta, với tư cách là các nhà quản lý dự án AI, đánh giá nhu cầu của khách hàng về việc triển khai AI?

Các cân nhắc chính để giúp đưa ra quyết định này bao gồm:

1. Đầu vào và đầu ra cần thiết để đáp ứng nhu cầu của khách hàng: Đầu vào do khách hàng cung cấp cho sản phẩm của bạn và đầu ra do sản phẩm của bạn cung cấp. Vì vậy, đối với danh sách phát do Spotify ML tạo ra (một đầu ra), đầu vào có thể bao gồm sở thích của khách hàng và các bài hát, nghệ sĩ và thể loại nhạc “đã thích”.

2. Sự kết hợp của đầu vào và đầu ra: Nhu cầu của khách hàng có thể khác nhau dựa trên việc họ muốn đầu ra giống nhau hay khác nhau cho đầu vào giống nhau hay khác nhau. Chúng ta càng cần sao chép nhiều hoán vị và tổ hợp cho đầu vào và đầu ra, ở quy mô lớn, thì chúng ta càng cần chuyển sang ML so với các hệ thống dựa trên quy tắc.

3. Các mẫu trong đầu vào và đầu ra: Các mẫu trong các tổ hợp đầu vào hoặc đầu ra cần thiết giúp bạn quyết định loại mô hình ML nào bạn cần sử dụng để triển khai. Nếu có các mẫu cho các tổ hợp đầu vào và đầu ra (như xem xét các giai thoại của khách hàng để suy ra điểm tình cảm), hãy xem xét các mô hình ML được giám sát hoặc bán giám sát hơn LLM vì chúng có thể tiết kiệm chi phí hơn.

4. Chi phí và Độ chính xác: Các lệnh gọi LLM không phải lúc nào cũng rẻ ở quy mô lớn và đầu ra không phải lúc nào cũng chính xác, mặc dù đã tinh chỉnh và thiết kế lời nhắc. Đôi khi, bạn sẽ tốt hơn với các mô hình được giám sát cho các mạng nơ-ron có thể phân loại đầu vào bằng một tập hợp nhãn cố định hoặc thậm chí các hệ thống dựa trên quy tắc, thay vì sử dụng LLM.

Tôi đã tập hợp một bảng nhanh dưới đây, tóm tắt các cân nhắc trên, để giúp các nhà quản lý dự án đánh giá nhu cầu của khách hàng và xác định xem việc triển khai ML có vẻ là con đường đúng đắn hay không.

Loại nhu cầu của khách hàng	Ví dụ	Triển khai ML (Có/Không/Tùy thuộc)	Loại triển khai ML
Các tác vụ lặp đi lặp lại, trong đó khách hàng cần cùng một đầu ra cho cùng một đầu vào	Thêm email của tôi vào các biểu mẫu khác nhau trực tuyến	Không	Việc tạo một hệ thống dựa trên quy tắc là quá đủ để giúp bạn có được đầu ra của mình
Các tác vụ lặp đi lặp lại, trong đó khách hàng cần các đầu ra khác nhau cho cùng một đầu vào	Khách hàng đang ở “chế độ khám phá” và mong đợi một trải nghiệm mới khi họ thực hiện cùng một hành động (chẳng hạn như đăng nhập vào một tài khoản):— Tạo một tác phẩm nghệ thuật mới cho mỗi lần nhấp— StumbleUpon (còn nhớ chứ?) khám phá một góc mới của internet thông qua tìm kiếm ngẫu nhiên	Có	–LLM tạo hình ảnh–Thuật toán đề xuất (lọc cộng tác)
Các tác vụ lặp đi lặp lại, trong đó khách hàng cần đầu ra giống nhau/tương tự cho các đầu vào khác nhau	–Chấm điểm bài luận–Tạo chủ đề từ phản hồi của khách hàng	Tùy thuộc	Nếu số lượng tổ hợp đầu vào và đầu ra đủ đơn giản, một hệ thống tất định, dựa trên quy tắc vẫn có thể hoạt động cho bạn.Tuy nhiên, nếu bạn bắt đầu có nhiều tổ hợp đầu vào và đầu ra vì một hệ thống dựa trên quy tắc không thể mở rộng quy mô hiệu quả, hãy cân nhắc dựa vào:–Bộ phân loại–Mô hình hóa chủ đềNhưng chỉ khi có các mẫu cho các đầu vào này.Nếu hoàn toàn không có mẫu nào, hãy cân nhắc tận dụng LLM, nhưng chỉ cho các tình huống một lần (vì LLM không chính xác bằng các mô hình được giám sát).
Các tác vụ lặp đi lặp lại, trong đó khách hàng cần các đầu ra khác nhau cho các đầu vào khác nhau	–Trả lời các câu hỏi hỗ trợ của khách hàng–Tìm kiếm	Có	Hiếm khi bạn bắt gặp các ví dụ mà bạn có thể cung cấp các đầu ra khác nhau cho các đầu vào khác nhau ở quy mô lớn mà không cần ML.Có quá nhiều hoán vị để triển khai dựa trên quy tắc có thể mở rộng quy mô hiệu quả. Hãy cân nhắc:–LLM với tạo tăng cường truy xuất (RAG)–Cây quyết định cho các sản phẩm như tìm kiếm
Các tác vụ không lặp đi lặp lại với các đầu ra khác nhau	Đánh giá về một khách sạn/nhà hàng	Có	Trước LLM, loại tình huống này rất khó thực hiện nếu không có các mô hình được huấn luyện cho các tác vụ cụ thể, chẳng hạn như:–Mạng nơ-ron hồi quy (RNN)–Mạng bộ nhớ dài hạn (LSTM) để dự đoán từ tiếp theoLLM rất phù hợp với loại tình huống này.

Điểm mấu chốt: Đừng sử dụng một thanh kiếm ánh sáng khi một chiếc kéo đơn giản có thể làm được. Đánh giá nhu cầu của khách hàng của bạn bằng ma trận trên, có tính đến chi phí triển khai và độ chính xác của đầu ra, để xây dựng các sản phẩm chính xác, hiệu quả về chi phí ở quy mô lớn.

Sharanya Rao là một nhà quản lý sản phẩm nhóm fintech. Các quan điểm được thể hiện trong bài viết này là của tác giả và không nhất thiết là của công ty hoặc tổ chức của họ.

Link bài viết gốc

• Tags:
• Ai
• 04 May 2025
• Venturebeat.com