Con người trong vòng lặp

Đây là ranh giới tôi tin là quan trọng nhất để dùng AI vừa mạnh vừa an tâm.

Con người trong vòng lặp là gì

Hãy hình dung một chiếc máy bay hiện đại với chế độ lái tự động rất giỏi. Nó bay phần lớn hành trình, nhưng cơ trưởng vẫn ngồi đó, theo dõi, và nắm quyền quyết định ở những thời khắc hệ trọng. Con người trong vòng lặp (human in the loop) là đúng nguyên tắc ấy: AI đề xuất và xử lý, nhưng quyền quyết định cuối ở những chỗ quan trọng vẫn thuộc về con người.

Lịch sử có một minh chứng lạnh người. Rạng sáng 26 tháng 9 năm 1983, hệ thống cảnh báo sớm của Liên Xô báo rằng Mỹ vừa phóng tên lửa. Trực ban hôm ấy, trung tá Stanislav Petrov, ngờ đó là báo động giả và quyết định không chuyển tiếp tín hiệu lên trên. Ông đã đúng, và phán đoán của một con người có thể đã tránh được thảm hoạ. Ngày nay, Điều 14 của Đạo luật AI châu Âu, hiệu lực từ 2024, buộc các hệ AI rủi ro cao phải có sự giám sát của con người.

Ứng dụng vào quản trị ra sao

Tôi thấy câu hỏi thực tế không phải "có để con người kiểm hay không", mà "kiểm ở đâu cho đúng". Bắt con người duyệt mọi thứ thì mất hết lợi ích của tự động hoá. Để AI tự quyết mọi thứ thì rủi ro. Nghệ thuật nằm ở việc đặt chốt kiểm đúng chỗ: những quyết định ảnh hưởng tới tiền bạc, con người, uy tín thì phải có người duyệt, còn những việc nhỏ, dễ đảo ngược thì để AI chạy.

Thiết kế một vòng lặp tốt là để AI lo phần khối lượng, còn con người giữ phần phán đoán, đúng ở những điểm mà sai lầm khó sửa.

Trong các việc bạn đang để AI làm, đâu là điểm mà một quyết định sai sẽ khó đảo ngược, và ở đó đã có người đặt tay vào chưa?