Vận hành mô hình và chi phí

Có một con số về chi phí khiến tôi nghĩ lại về câu "để năm sau hãy dùng AI".

Vận hành mô hình ngôn ngữ lớn là gì

Hãy hình dung chi phí gọi điện đường dài của vài chục năm trước: đắt tới mức người ta phải cân nhắc từng phút. Rồi công nghệ hạ giá, và hôm nay gọi video xuyên lục địa gần như miễn phí. Chi phí vận hành mô hình ngôn ngữ lớn đang đi đúng đường cong đó. Vận hành mô hình ngôn ngữ lớn (LLMOps) là tập hợp cách quản lý việc đưa các mô hình này vào chạy thật: theo dõi chất lượng, tốc độ, và đặc biệt là chi phí theo lượng dùng.

Theo báo cáo AI Index 2025 của Stanford HAI, chi phí để một mô hình đạt trình độ tương đương GPT-3.5 trả lời đã giảm từ khoảng 20 đô la xuống còn khoảng 0,07 đô la cho mỗi triệu token, tức rẻ đi hơn 280 lần chỉ trong khoảng mười tám tháng, từ cuối 2022 đến cuối 2024.

Ứng dụng vào quản trị ra sao

Tôi hay nghe lý do "AI còn đắt, để sau hãy tính". Nhưng khi chi phí rơi nhanh như vậy, lập luận đó yếu dần. Thứ đắt thật sự không còn là tiền token, mà là thời gian đội ngũ chưa quen việc, chưa biết giao việc nào cho AI, chưa có quy trình.

Vậy nên điều đáng đầu tư sớm không phải là mua gói đắt nhất, mà là cho đội ngũ bắt đầu thử trên những việc nhỏ, ít rủi ro, để tích luỹ kinh nghiệm. Khi giá tiếp tục giảm và năng lực đội đã sẵn, doanh nghiệp sẽ mở rộng được ngay, thay vì mới loay hoay từ con số không.

Nếu chi phí không còn là rào cản, việc đầu tiên bạn muốn đội mình tập giao cho AI là gì?