Lan can an toàn cho AI

Đây là điều tôi tin phân biệt một hệ AI đáng dùng với một hệ AI dễ gây rắc rối.

Lan can an toàn là gì

Hãy hình dung một con đường đèo. Điều giữ xe an toàn không chỉ là tài xế giỏi, mà còn là lan can hai bên, giữ xe không lao xuống vực dù có lỡ tay. Lan can an toàn (guardrails) trong AI là những quy tắc đặt ở hai đầu: lọc đầu vào để chặn những yêu cầu không được phép, và soát đầu ra để chặn những câu trả lời không nên đưa ra, cả khi mô hình lỡ đi chệch.

Hướng này đủ quan trọng để các hãng lớn làm công cụ riêng. Tháng 4 năm 2023, NVIDIA công bố NeMo Guardrails, một bộ công cụ mã nguồn mở cho phép lập trình các lan can đầu vào và đầu ra bằng vài dòng khai báo, thay vì phải viết lại lõi mô hình.

Ứng dụng vào quản trị ra sao

Tôi thấy một hệ AI đáng dùng không phải là hệ trả lời được mọi câu, mà là hệ biết từ chối đúng lúc. Một trợ lý chăm sóc khách hàng mà sẵn sàng hứa những điều công ty không làm được, hay lỡ tiết lộ thông tin nội bộ, thì nguy hiểm hơn là hữu ích.

Lan can cũng không chỉ dành cho AI. Mọi quy trình trao quyền, cho nhân sự hay cho công cụ, đều nên có ranh giới rõ: được làm gì, tuyệt đối không làm gì, và khi gặp tình huống ngoài vùng cho phép thì chuyển cho ai. Thiết kế lan can trước là cách cho phép tự động hoá mạnh mà vẫn ngủ ngon.

Nếu trợ lý AI của bạn gặp một yêu cầu nằm ngoài vùng an toàn, hiện nó sẽ tự ý trả lời hay biết dừng lại và chuyển cho người?