AI giải thích được

Có một điều khiến giới làm AI trăn trở: một mô hình có thể đoán rất trúng, mà vẫn không nói được vì sao nó lại kết luận như vậy. Người ta gọi đó là vấn đề "hộp đen" — ta thấy dữ liệu đi vào, thấy kết quả đi ra, nhưng khúc ở giữa thì gần như không đọc nổi. Hướng nghiên cứu đi tìm lời giải cho chuyện này gọi là AI giải thích được (explainable AI, viết tắt XAI).

Chuyện này nghiêm túc đến mức, năm 2017, một cơ quan nghiên cứu lớn của Mỹ (DARPA) đã lập hẳn một chương trình kéo dài bốn năm, quy tụ mười một nhóm nghiên cứu, chỉ để trả lời đúng một câu hỏi: làm sao để mô hình không chỉ đưa ra đáp án, mà còn giải thích được cơ sở của đáp án ấy. Trớ trêu là mô hình càng mạnh thì lại càng khó giải thích. Và ở những nơi hệ trọng như y tế, ngân hàng hay tuyển dụng, một dự đoán không kèm lý do là một dự đoán rất khó để người ta an tâm tin theo.

Trong các buổi bảo vệ dự án ở chương trình nghiên cứu của tôi, câu hỏi mà hội đồng lặp đi lặp lại không phải "mô hình đúng bao nhiêu phần trăm", mà là "khi nó sai thì ai chịu trách nhiệm, và ta có lần lại được vì sao nó sai không". Một hệ thống đáng tin là hệ thống dám chỉ ra căn cứ của mình, và cũng dám nói "tôi chưa đủ bằng chứng để kết luận".

Điều này đúng với cả cách một tổ chức ra quyết định. Một quyết định mà người thực thi không hiểu vì sao thì rất khó để họ thật lòng đồng hành, và càng khó chỉnh lại khi nó đi chệch hướng.

Khi một quyết định quan trọng được đưa ra trong tổ chức bạn, mọi người có hiểu được vì sao, hay chỉ biết là phải làm theo?

Đến bàn làm việc

Một mô hình đáng tin không phải mô hình lúc nào cũng đúng, mà là mô hình giải thích được vì sao nó kết luận như vậy, và biết dừng lại khi chưa đủ căn cứ.

Tuần này, thử mang nguyên tắc ấy vào lúc dùng AI cho công việc: mỗi khi nhận một câu trả lời quan trọng, hãy hỏi thêm một câu — "dựa trên đâu vậy?". Nếu công cụ không chỉ ra được nguồn hay lập luận, thì hãy xem đó là một gợi ý để tham khảo, thay vì một kết luận để hành động.

Thói quen nhỏ này cũng rất đáng dạy cho con trẻ khi các con bắt đầu dùng AI: đừng vội tin, mà hỏi "làm sao con biết điều này đúng?".