Bộ Thông tin và Truyền thông (TT&TT) vừa ban hành danh mục các hệ thống trí tuệ nhân tạo (AI) có rủi ro cao, đánh dấu bước tiến quan trọng trong quản lý AI tại Việt Nam. Danh mục này yêu cầu các tổ chức, doanh nghiệp phải đánh giá tác động trước khi đưa vào sử dụng.
Danh mục AI rủi ro cao gồm những lĩnh vực nào?
Theo quyết định, các hệ thống AI được xếp vào nhóm rủi ro cao bao gồm: nhận dạng khuôn mặt trong không gian công cộng, chấm điểm tín dụng, tuyển dụng lao động, và quyết định về y tế. Đây là những lĩnh vực có thể ảnh hưởng trực tiếp đến quyền lợi và an toàn của người dân.
Bộ TT&TT nhấn mạnh, các hệ thống này phải tuân thủ nguyên tắc minh bạch, công bằng và có trách nhiệm giải trình. Việc ban hành danh mục nhằm ngăn chặn các rủi ro tiềm ẩn như phân biệt đối xử, vi phạm quyền riêng tư hoặc gây tổn hại đến sức khỏe.
Yêu cầu đánh giá tác động trước khi triển khai
Các tổ chức phát triển hoặc sử dụng AI rủi ro cao phải thực hiện đánh giá tác động và nộp báo cáo cho cơ quan quản lý. Quy trình này bao gồm xác định mục đích sử dụng, dữ liệu đầu vào, các biện pháp giảm thiểu rủi ro và cơ chế giám sát.
Ông Nguyễn Phú Tiến, Vụ trưởng Vụ Khoa học và Công nghệ (Bộ TT&TT), cho biết: "Việc đánh giá tác động là bắt buộc để đảm bảo AI phục vụ con người một cách an toàn và có đạo đức". Ông cũng lưu ý, các doanh nghiệp có thể bị xử phạt nếu không tuân thủ.
Tác động đến doanh nghiệp và người dùng
Danh mục này tạo ra khung pháp lý rõ ràng cho các công ty công nghệ, giúp họ chủ động điều chỉnh sản phẩm. Tuy nhiên, một số doanh nghiệp nhỏ có thể gặp khó khăn về chi phí và nhân lực để thực hiện đánh giá.
Chuyên gia AI, TS. Lê Minh Đức, đánh giá: "Đây là bước đi đúng hướng để Việt Nam bắt kịp xu thế quản lý AI toàn cầu, nhưng cần có hướng dẫn chi tiết hơn để hỗ trợ doanh nghiệp". Theo thống kê, hiện có hơn 200 doanh nghiệp Việt Nam đang phát triển ứng dụng AI, và khoảng 30% trong số đó có thể thuộc diện rủi ro cao.
Lộ trình thực hiện
Danh mục có hiệu lực từ ngày 1/1/2025. Trong vòng 6 tháng, các tổ chức phải hoàn thành đánh giá tác động và gửi báo cáo. Bộ TT&TT sẽ thành lập hội đồng thẩm định độc lập để xem xét các báo cáo này.
Việc ban hành danh mục AI rủi ro cao là một phần trong Chiến lược quốc gia về AI đến năm 2030, nhằm thúc đẩy phát triển AI có trách nhiệm. Trong tương lai, danh mục sẽ được cập nhật định kỳ để phù hợp với công nghệ mới.
