Tự tìm chỗ mình gãy

Đây là một thói quen tôi học được: muốn biết thứ gì bền đến đâu, hãy chủ động thử phá nó trước khi người ngoài kịp.

Đội đỏ là gì

Hãy hình dung trước khi trao chìa khoá căn nhà mới cho khách, có người thuê hẳn một thợ khoá đến thử cạy từng ổ, lay từng bản lề, cố tìm ra chỗ yếu trước khi kẻ xấu tìm thấy. Nghe ngược đời, nhưng đó lại là cách yên tâm nhất để biết ngôi nhà bền đến đâu. Trong AI, cách làm đó gọi là đội đỏ (red teaming): cố tình tấn công, đánh lừa, đặt bẫy mô hình để lộ ra chỗ nó gãy, rồi vá lại trước khi đưa vào dùng thật.

Quy mô của việc này đã rất lớn. Tại hội nghị an ninh DEF CON 31 vào tháng 8 năm 2023, thử thách Generative Red Team là sự kiện thử tấn công AI tạo sinh công khai lớn nhất khi đó, với hơn 2.200 người tham gia, trao đổi hơn 165.000 tin nhắn để dò lỗi các mô hình hàng đầu, dưới sự ủng hộ của Nhà Trắng.

Ứng dụng vào quản trị ra sao

Tôi thấy tinh thần này rất đáng mang vào quản trị, không chỉ cho AI. Trước khi tung một sản phẩm, một chính sách giá, một quy trình mới, việc chủ động hỏi "nó sẽ gãy ở đâu, ai có thể lợi dụng nó, tình huống xấu nhất là gì" giúp phát hiện lỗ hổng khi sửa còn rẻ.

Điều quan trọng là tạo được không khí để người trong đội dám chỉ ra điểm yếu mà không sợ bị quy trách. Một tổ chức mà ai cũng chỉ khen "ổn rồi" thường là tổ chức chưa biết mình sắp gãy ở đâu.

Lần gần nhất bạn chủ động ngồi tìm chỗ mình có thể gãy cho một kế hoạch quan trọng là khi nào?