Quản trị rủi ro AI
Khung an ninh AI 5 lớp: Từ nguyên tắc đến vận hành trong doanh nghiệp
· Tác giả: Ban Biên tập VAISI · 7 phút đọc
Khung an ninh AI 5 lớp đặt con người ở trung tâm và bao bọc bằng phân loại rủi ro, kiểm soát hành động, phòng thủ chủ động, ứng phó và phục hồi. Bài viết giải thích từng lớp qua một ví dụ cụ thể và năm câu hỏi dành cho lãnh đạo.
Nhiều doanh nghiệp đã có chính sách sử dụng AI trên giấy, nhưng khi một trợ lý ảo trả lời sai cho khách hàng hoặc bị lừa tiết lộ dữ liệu, chính sách đó không giúp được gì. Khung an ninh AI 5 lớp do Viện xây dựng nhằm biến nguyên tắc thành quy trình và ngưỡng đo được.
Khung được thiết kế tương thích với Khung quản lý rủi ro AI của NIST (AI RMF 1.0), tiêu chuẩn hệ thống quản lý AI ISO/IEC 42001 và Hướng dẫn ASEAN về Quản trị và Đạo đức AI; đồng thời bám sát tinh thần của Luật Trí tuệ nhân tạo: AI phục vụ con người, con người giữ quyền giám sát.
Năm lớp lồng nhau#
| Lớp | Nội dung | Tương ứng NIST AI RMF |
|---|---|---|
| 1. Con người là trung tâm | Quyền quyết định cuối cùng thuộc về con người có thẩm quyền; AI không thay thế quyết định y tế, pháp lý, tài chính, nhân sự | Quản trị |
| 2. Phân loại rủi ro | Phân cấp yêu cầu và hành vi theo mức rủi ro; hành vi bị cấm phải từ chối và ghi nhận | Nhận diện bối cảnh |
| 3. Kiểm soát hành động | Năm mức từ giải thích đến hành động bên ngoài; hành động khó đảo ngược phải được phê duyệt tại thời điểm thực hiện | Xử lý rủi ro |
| 4. Phòng thủ chủ động | Mặc định không tin cậy, tách chỉ dẫn khỏi dữ liệu, quyền tối thiểu, thất bại an toàn; kiểm thử Red Team định kỳ | Đo lường |
| 5. Ứng phó và phục hồi | Phân loại sự cố bốn mức, quy trình tám bước, cơ chế dừng khẩn cấp, hậu kiểm thành bài kiểm thử hồi quy | Xử lý rủi ro |
Lớp 1 nằm ở trung tâm; mỗi lớp ngoài bao bọc và củng cố lớp bên trong.
Một ví dụ: Trợ lý ảo hỗ trợ khách hàng của một công ty tài chính#
Lớp 1 - Con người là trung tâm. Trợ lý được phép giải thích sản phẩm, tra cứu trạng thái hồ sơ. Mọi quyết định về khoản vay do nhân viên có thẩm quyền đưa ra; trợ lý không được hứa hẹn kết quả phê duyệt.
Lớp 2 - Phân loại rủi ro. Câu hỏi về giờ làm việc là rủi ro thấp; yêu cầu thay đổi số điện thoại nhận OTP là rủi ro cao; yêu cầu cung cấp dữ liệu của người khác là hành vi bị cấm và phải từ chối, ghi nhật ký.
Lớp 3 - Kiểm soát hành động. Trợ lý có thể đọc dữ liệu hồ sơ của chính khách hàng đã xác thực, nhưng mọi thao tác thay đổi thông tin tài khoản phải qua bước xác nhận của con người.
Lớp 4 - Phòng thủ chủ động. Nội dung khách hàng dán vào khung chat được xử lý như dữ liệu, không như mệnh lệnh. Trợ lý chỉ có quyền truy cập tối thiểu. Đội Red Team định kỳ thử các kịch bản giả danh, chèn lệnh, chia nhỏ yêu cầu.
Lớp 5 - Ứng phó và phục hồi. Khi phát hiện trợ lý trả lời sai hàng loạt hoặc có dấu hiệu bị khai thác, có nút dừng khẩn cấp chuyển toàn bộ hội thoại sang nhân viên; sự cố được phân mức, xử lý theo quy trình và mỗi lỗi trở thành một bài kiểm thử mới.
Năm câu hỏi dành cho lãnh đạo#
- Với từng hệ thống AI, ai là người có quyền quyết định cuối cùng và có quyền dừng hệ thống?
- Chúng ta đã phân loại các yêu cầu, hành vi của hệ thống theo mức rủi ro chưa, và hành vi nào tuyệt đối bị cấm?
- Hệ thống được phép tự thực hiện những hành động nào, hành động nào phải có người phê duyệt?
- Lần gần nhất hệ thống được kiểm thử tấn công là khi nào, và tỷ lệ nhận diện yêu cầu vượt quyền là bao nhiêu?
- Nếu sự cố xảy ra lúc 2 giờ sáng, ai nhận cảnh báo, ai có quyền dừng, và ai thông báo cho khách hàng?
Nếu chưa trả lời được câu nào, đó là lớp cần ưu tiên củng cố.
Ba điểm mới của Khung#
- Gắn quản trị AI của doanh nghiệp với tư duy an ninh phi truyền thống và an ninh con người, ưu tiên bảo vệ nhóm yếu thế.
- Mỗi lớp được vận hành hóa thành quy trình và ngưỡng đo được, ví dụ tỷ lệ nhận diện yêu cầu vượt quyền từ 95% trở lên.
- Thiết kế cho bối cảnh tiếng Việt và ASEAN, nơi các bộ chuẩn đánh giá quốc tế chưa bao quát đầy đủ.
Khung dự kiến được công bố chính thức trong Quý II/2027, sau khi Hội đồng Khoa học của Viện thẩm định và có phản biện độc lập.
Nguồn tham khảo
Bài viết mang tính tham khảo, không thay thế tư vấn pháp lý hoặc kỹ thuật cho từng trường hợp cụ thể.