Truy xuất tăng cường

Đây là cách chữa gốc rễ nhất cho căn bệnh "chatbot hay bịa" mà nhiều người gặp khi đưa AI vào công việc.

Truy xuất tăng cường là gì

Hãy hình dung một nhân viên tư vấn rất lanh lợi nhưng chưa đọc tài liệu nội bộ của công ty. Hỏi gì họ cũng trả lời trôi chảy, nhưng đôi khi nói sai chính sách vì họ đang đoán theo hiểu biết chung. Bây giờ, trước mỗi câu hỏi của khách, ta buộc họ mở đúng trang tài liệu công ty ra đọc rồi mới trả lời. Chất lượng đổi khác ngay.

Đó chính là truy xuất tăng cường (retrieval-augmented generation, viết tắt RAG). Kỹ thuật này do nhóm Facebook AI Research giới thiệu năm 2020, trong bài báo của Lewis và cộng sự tại hội nghị NeurIPS, và chính bài báo đó đặt ra cái tên vẫn dùng đến hôm nay. Thay vì để mô hình trả lời bằng trí nhớ mơ hồ, hệ thống tra đúng đoạn tài liệu liên quan trước, rồi mới để mô hình soạn câu trả lời dựa trên đoạn đó.

Ứng dụng vào quản trị ra sao

Tôi thấy truy xuất tăng cường là cầu nối thực tế nhất giữa AI và dữ liệu riêng của doanh nghiệp. Một trợ lý AI gắn với kho tài liệu công ty, chính sách, bảng giá, câu hỏi thường gặp sẽ trả lời theo đúng thứ mình đã duyệt, chứ không bịa.

Điều quan trọng là nó chỉ tốt bằng kho tài liệu đằng sau nó. Tài liệu lỗi thời, mâu thuẫn hay thiếu thì câu trả lời cũng lệch theo. Vậy nên trước khi mơ tới một trợ lý AI biết tuốt, việc đáng làm là dọn và sắp lại kho tri thức của chính mình cho gọn gàng, cập nhật.

Nếu một trợ lý AI chỉ được phép trả lời dựa trên tài liệu công ty bạn đang có, hôm nay nó sẽ trả lời đúng được bao nhiêu phần?

Đến bàn làm việc

Trước khi trách một trợ lý AI trả lời sai, có một câu nên tự hỏi trước: mình đã cho nó đọc đúng tài liệu chưa? Phần lớn những câu trả lời bịa không đến từ việc mô hình kém, mà từ việc nó không có nguồn để dựa vào.

Một việc nhỏ để thử trong tuần: chọn một câu hỏi khách hàng thường lặp lại, tập hợp đúng vài tài liệu trả lời được câu đó, gồm bảng giá, chính sách, hướng dẫn, rồi yêu cầu AI chỉ trả lời dựa trên chúng. Bạn sẽ thấy khác biệt rõ giữa một câu trả lời có căn cứ và một câu nghe hay nhưng chưa chắc đúng.