Đọc dấu vết của AI

Đây là nguyên tắc tôi tin đúng cho cả AI lẫn vận hành: thứ không nhìn được thì không quản được.

Khả năng quan sát là gì

Hãy hình dung một nhà hàng mà mỗi món ra đều ghi lại được: ai đặt, sơ chế lúc nào, nấu bao lâu, kiểm trước khi ra sao. Khi một khách phàn nàn, bạn lần lại được đúng bước nào có vấn đề. Khả năng quan sát (observability) trong AI là vậy: mỗi bước mà một hệ AI đi qua, từ nhận câu hỏi, tra tài liệu, tới soạn câu trả lời, đều để lại một dấu vết đọc được, để còn kiểm và sửa.

Dấu vết thường gồm ba loại. Nhật ký (logs) ghi lại từng bước nó làm. Chỉ số (metrics) là những con số gộp như độ trễ, chi phí token, tỷ lệ lỗi. Còn dấu vết hành trình (traces) lần theo một yêu cầu đi qua từng chặng. Nền tảng cho việc này đã thành chuẩn chung: OpenTelemetry, hợp nhất từ hai dự án OpenTracing và OpenCensus năm 2019, đã tốt nghiệp trong Cloud Native Computing Foundation vào tháng 5 năm 2026 và là dự án lớn thứ hai ở đó, chỉ sau Kubernetes.

Ứng dụng vào quản trị ra sao

Tôi thấy nhiều doanh nghiệp dùng AI như một chiếc hộp đen: đưa câu hỏi vào, nhận câu trả lời ra, và khi sai thì không biết sai ở đâu. Khó sửa, khó cải tiến, khó tin.

Nguyên tắc rộng hơn áp dụng cho mọi quy trình. Nếu một việc quan trọng chạy mà không để lại dấu vết, thì khi có sự cố, mình chỉ còn cách đoán. Thiết kế sẵn những điểm ghi lại, bước này ai làm, dựa trên gì, kết quả ra sao, là cách biến một quy trình mờ thành một quy trình học được và sửa được.

Khi một việc do AI hoặc do đội bạn làm bị sai, hiện mình có lần ngược lại được chính xác bước nào hỏng không?