Một nhân viên dùng AI sai cách, hậu quả chỉ ảnh hưởng người đó. Một quy trình AI sai ở tầm tổ chức, hậu quả ảnh hưởng hàng trăm khách hàng, uy tín cả công ty, có thể cả vấn đề pháp lý. Đây là lý do quản trị rủi ro AI ở tầm tổ chức cần cách tiếp cận khác hẳn so với dùng cá nhân.
4 loại rủi ro cần phân biệt
- Rủi ro dữ liệu — dữ liệu khách hàng/nội bộ bị lộ qua công cụ AI không kiểm soát (đã học chi tiết ở bài An toàn dữ liệu)
- Rủi ro quyết định sai — AI tự động đưa ra quyết định ảnh hưởng người khác (từ chối đơn vay, lọc hồ sơ ứng viên) mà không có người kiểm tra lại
- Rủi ro uy tín — nội dung AI tạo ra sai sự thật, xúc phạm, hoặc không phù hợp được đăng công khai dưới tên công ty
- Rủi ro pháp lý — vi phạm quy định về quyền riêng tư, phân biệt đối xử trong tuyển dụng, hoặc vi phạm bản quyền khi dùng nội dung AI tạo ra
Quy trình đánh giá rủi ro trước khi triển khai rộng
Nguyên tắc phân loại nhanh — không cần phức tạp
Tự hỏi: "Nếu AI làm sai ở việc này, hậu quả có dễ sửa không, có ảnh hưởng tới người ngoài công ty không?" Việc nội bộ, dễ sửa (soạn nháp email nội bộ) → rủi ro thấp, ít cần kiểm soát chặt. Việc ảnh hưởng khách hàng/đối tác, khó sửa (quyết định tín dụng, tuyển dụng, nội dung công khai) → rủi ro cao, luôn cần người duyệt trước khi áp dụng.
- Không phải mọi việc dùng AI đều cần mức kiểm soát giống nhau — tương xứng mức kiểm soát với mức rủi ro thật, tránh vừa lãng phí công sức kiểm soát việc rủi ro thấp, vừa lơ là việc rủi ro cao
- Luôn thử nghiệm phạm vi nhỏ trước khi áp dụng toàn công ty, đặc biệt với việc ảnh hưởng tới khách hàng hoặc nhân viên
Tôi muốn dùng AI cho việc: [điền việc cụ thể]. Đánh giá giúp tôi mức rủi ro (thấp/trung bình/cao) dựa trên: ảnh hưởng tới ai, hậu quả nếu sai, mức độ dễ sửa.
Việc [điền việc] được đánh giá rủi ro [điền mức]. Gợi ý mức kiểm soát phù hợp: có cần người duyệt mọi lần không, hay chỉ kiểm tra mẫu định kỳ.
Tôi muốn thử nghiệm AI cho [điền việc] trước khi áp dụng toàn công ty. Lên kế hoạch thử nghiệm: phạm vi, thời gian, tiêu chí đánh giá để quyết định mở rộng.
Công ty tôi đang dùng AI cho: [điền danh sách việc]. Phân loại từng việc theo mức rủi ro, xếp thứ tự ưu tiên cần kiểm soát chặt hơn.
Soạn quy trình ngắn xử lý khi phát hiện AI đưa ra quyết định/nội dung sai gây ảnh hưởng tới khách hàng cho việc [điền việc], gồm các bước xử lý khẩn cấp đầu tiên.