AI chuyên ngành, tuân thủ

Đây là khía cạnh tôi nghĩ sẽ ngày càng quan trọng khi AI bước vào những ngành được quản lý chặt.

AI chuyên ngành là gì

Hãy hình dung khác nhau giữa một bác sĩ đa khoa và một bác sĩ chuyên khoa sâu. Người đa khoa biết rộng. Người chuyên khoa hiểu sâu một lĩnh vực và biết phải trả lời được câu "căn cứ cho chẩn đoán này nằm ở đâu". AI chuyên ngành (vertical AI) là mô hình được huấn luyện và vận hành cho một lĩnh vực cụ thể như y tế, tài chính, pháp lý, nơi mọi đề xuất đều phải truy được về nguồn và tuân thủ quy định. Phần việc thầm lặng đó người ta gọi là tuân thủ (compliance) và truy vết (traceability).

Mức độ nghiêm túc của hướng này thể hiện qua con số: tính đến năm 2024, Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ đã cấp phép cho hơn 950 thiết bị y tế có tích hợp AI, phần lớn trong chẩn đoán hình ảnh. Mỗi thiết bị đó phải chứng minh được độ an toàn và căn cứ, chứ không chỉ chạy tốt là xong.

Ứng dụng vào quản trị ra sao

Tôi thấy bài học áp dụng cho mọi doanh nghiệp, kể cả ngoài các ngành đặc thù: khi AI chạm tới quyền lợi khách hàng, câu hỏi quan trọng nhất không phải "nó trả lời có hay không", mà "nó dựa vào đâu để nói vậy, và mình có truy lại được không".

Một trợ lý AI đưa ra đề xuất mà không nêu được căn cứ thì khó dùng cho việc hệ trọng. Vậy nên khi chọn công cụ cho những việc nhạy cảm, hãy ưu tiên thứ cho phép truy nguồn, ghi lại lý do, và kiểm chứng được, thay vì chỉ cho ra một câu trả lời gọn.

Ở những việc quan trọng bạn định giao cho AI, mình có đang truy lại được vì sao nó đề xuất như vậy không?