Sai lệch tự tin

Đây là rủi ro tôi luôn nhắc đầu tiên khi ai đó định giao việc quan trọng cho AI mà không kiểm lại.

Sai lệch tự tin là gì

Hãy hình dung một người kể chuyện rất duyên, giọng chắc nịch, dẫn số liệu vanh vách, đến mức ai nghe cũng tin. Vấn đề là một vài chi tiết trong đó họ tự bịa mà không hề hay biết. Trong AI, hiện tượng này gọi là sai lệch tự tin (hallucination), tức mô hình tạo ra thông tin nghe hợp lý, trình bày trôi chảy, nhưng sai sự thật.

Nó xảy ra vì mô hình ngôn ngữ được thiết kế để đoán chữ tiếp theo nghe mượt nhất, chứ không phải để tra cứu sự thật. Năm 2023 có một vụ nổi tiếng: hai luật sư ở New York bị toà phạt 5.000 đô la vì nộp bản tường trình dẫn tới sáu vụ án hoàn toàn do ChatGPT bịa ra, với tên vụ và trích dẫn nghe y như thật.

Ứng dụng vào quản trị ra sao

Tôi thấy bài học không phải là đừng dùng AI, mà là đừng bỏ bước kiểm. AI rất hợp cho bản nháp, cho việc gợi ý, cho xử lý khối lượng lớn. Nhưng ở những chỗ mà một con số sai hay một trích dẫn bịa có thể gây hậu quả thật, như hợp đồng, số liệu tài chính, tư vấn pháp lý, thì con người phải là người kiểm cuối.

Cách làm lành mạnh là thiết kế sẵn một điểm dừng để kiểm trong quy trình, nhất là với thông tin có thể tra ra đúng sai. Càng tự tin càng phải soi, vì chính sự trôi chảy của AI mới là cái dễ ru ngủ người dùng.

Trong quy trình của bạn, chỗ nào đang để kết quả AI đi thẳng ra ngoài mà chưa có một bước người kiểm?