ISO/IEC TR 24027:2021 là gì? Hướng dẫn nhận diện và giảm thiểu Bias trong AI

Trong những năm gần đây, trí tuệ nhân tạo (AI) ngày càng tham gia sâu vào các hoạt động ra quyết định trong nhiều lĩnh vực như tuyển dụng, tài chính, y tế, giáo dục và dịch vụ công. Tuy nhiên, bên cạnh những lợi ích về tốc độ và hiệu quả, các hệ thống AI cũng có thể phát sinh hiện tượng Bias (thiên lệch) dẫn đến những quyết định không công bằng hoặc gây ảnh hưởng tiêu cực đến cá nhân, tổ chức và xã hội.

Nhằm hỗ trợ các tổ chức hiểu rõ, nhận diện và kiểm soát các nguồn gốc thiên lệch trong AI, tiêu chuẩn ISO/IEC TR 24027:2021 đã được xây dựng như một tài liệu hướng dẫn quốc tế về Bias trong hệ thống AI và các quyết định được hỗ trợ bởi AI.

1. ISO/IEC TR 24027:2021 là gì?

ISO/IEC TR 24027:2021 là báo cáo kỹ thuật quốc tế cung cấp hướng dẫn về:

• Các loại thiên lệch (Bias) có thể xuất hiện trong hệ thống AI.
• Nguyên nhân hình thành thiên lệch.
• Các tác động tiềm ẩn của Bias đối với quá trình ra quyết định.
• Phương pháp nhận diện, đánh giá và giảm thiểu Bias trong toàn bộ vòng đời AI.

Tiêu chuẩn được xây dựng nhằm hỗ trợ các tổ chức phát triển và vận hành các hệ thống AI công bằng, minh bạch và đáng tin cậy hơn.

2. Bias trong AI là gì?

Bias trong AI là hiện tượng hệ thống trí tuệ nhân tạo tạo ra kết quả hoặc quyết định mang tính thiên vị, không công bằng hoặc không đại diện chính xác cho các nhóm đối tượng khác nhau.

Bias có thể xuất hiện dưới nhiều hình thức như:

• Thiên vị giới tính.
• Thiên vị độ tuổi.
• Thiên vị vùng miền.
• Thiên vị sắc tộc.
• Thiên vị kinh tế xã hội.
• Thiên vị dữ liệu lịch sử.

Khi Bias không được kiểm soát, hệ thống AI có thể đưa ra các quyết định sai lệch, làm gia tăng bất bình đẳng và ảnh hưởng đến uy tín của tổ chức.

3. Vì sao Bias trở thành vấn đề quan trọng trong AI?

1. AI đang tham gia vào các quyết định quan trọng

Ngày nay AI được sử dụng để:

• Sàng lọc hồ sơ tuyển dụng.
• Chấm điểm tín dụng.
• Phê duyệt khoản vay.
• Hỗ trợ chẩn đoán y tế.
• Đánh giá rủi ro bảo hiểm.

Nếu hệ thống tồn tại Bias, hậu quả có thể ảnh hưởng trực tiếp đến quyền lợi của con người.

2. Bias làm suy giảm niềm tin vào AI

Một hệ thống AI không công bằng có thể khiến khách hàng, đối tác và cơ quan quản lý mất niềm tin vào tổ chức.

3. Gia tăng rủi ro pháp lý

Nhiều quốc gia đang ban hành các quy định yêu cầu AI phải đảm bảo tính công bằng, minh bạch và không phân biệt đối xử.

Việc kiểm soát Bias giúp doanh nghiệp chủ động đáp ứng các yêu cầu quản trị AI hiện đại.

4. Các nguồn gốc Bias theo ISO/IEC TR 24027:2021

Tiêu chuẩn chỉ ra rằng thiên lệch có thể xuất hiện ở nhiều giai đoạn khác nhau của vòng đời AI.

Bias từ dữ liệu

Đây là loại Bias phổ biến nhất.

Nguyên nhân có thể bao gồm:

• Dữ liệu không đầy đủ.
• Dữ liệu không đại diện cho toàn bộ đối tượng.
• Dữ liệu lịch sử chứa định kiến sẵn có.
• Dữ liệu thu thập không cân bằng.

Ví dụ:

Nếu dữ liệu tuyển dụng trong quá khứ chủ yếu là nam giới, hệ thống AI có thể ưu tiên ứng viên nam hơn nữ.

5. Bias từ thiết kế hệ thống

Các quyết định trong quá trình thiết kế mô hình có thể tạo ra thiên lệch như:

• Lựa chọn thuật toán.
• Lựa chọn tiêu chí đánh giá.
• Thiết lập trọng số không phù hợp.

Bias từ con người

Những người tham gia phát triển hoặc vận hành AI có thể vô tình đưa định kiến cá nhân vào hệ thống.

Ví dụ:

• Định kiến văn hóa.
• Định kiến xã hội.
• Định kiến nghề nghiệp.

Bias từ môi trường sử dụng

Một hệ thống AI được huấn luyện trong một môi trường cụ thể có thể hoạt động không chính xác khi triển khai ở môi trường khác.

5. Các loại Bias thường gặp trong hệ thống AI

Historical Bias

Thiên lệch lịch sử phát sinh khi dữ liệu phản ánh các bất bình đẳng đã tồn tại trong quá khứ.

Representation Bias

Xuất hiện khi một nhóm đối tượng không được đại diện đầy đủ trong dữ liệu.

Measurement Bias

Xảy ra khi dữ liệu được đo lường hoặc thu thập không chính xác.

Evaluation Bias

Phát sinh do bộ dữ liệu đánh giá không phản ánh đúng thực tế.

Deployment Bias

Xuất hiện khi hệ thống được sử dụng khác với mục đích thiết kế ban đầu.

6. Cách giảm thiểu Bias theo ISO/IEC TR 24027:2021

Xây dựng dữ liệu chất lượng cao

Doanh nghiệp cần:

• Kiểm tra tính đầy đủ của dữ liệu.
• Đảm bảo dữ liệu đại diện cho các nhóm đối tượng.
• Loại bỏ dữ liệu sai lệch rõ ràng.

Đánh giá Bias trong suốt vòng đời AI

Việc kiểm tra Bias nên được thực hiện ở các giai đoạn:

• Thu thập dữ liệu.
• Huấn luyện mô hình.
• Kiểm thử hệ thống.
• Triển khai vận hành.
• Cải tiến định kỳ.

Tăng cường tính minh bạch

Tổ chức nên:

• Tài liệu hóa quá trình phát triển AI.
• Giải thích được các quyết định của hệ thống.
• Công khai các tiêu chí đánh giá khi phù hợp.

Thiết lập cơ chế giám sát liên tục

Bias có thể xuất hiện theo thời gian khi dữ liệu thay đổi.

Do đó cần:

• Theo dõi hiệu suất AI.
• Kiểm tra tính công bằng định kỳ.
• Đánh giá tác động đối với các nhóm người dùng.

7. Ví dụ thực tế về Bias trong AI

Hệ thống AI tuyển dụng

Một doanh nghiệp triển khai AI để sàng lọc hồ sơ ứng viên.

Kết quả đánh giá cho thấy:

• 80% ứng viên được đề xuất là nam giới.
• Tỷ lệ loại hồ sơ nữ cao hơn đáng kể.

Nguyên nhân:

Dữ liệu huấn luyện được xây dựng từ lịch sử tuyển dụng trong nhiều năm với tỷ lệ lao động nam chiếm ưu thế.

Biện pháp khắc phục:

• Cân bằng dữ liệu huấn luyện.
• Loại bỏ các thuộc tính nhạy cảm.
• Đánh giá tính công bằng của mô hình định kỳ.

8. Mối liên hệ giữa ISO/IEC TR 24027:2021 và các tiêu chuẩn AI khác

ISO/IEC TR 24027:2021 thường được áp dụng cùng với:

• ISO/IEC 42001 – Hệ thống quản lý AI.
• ISO/IEC 23894 – Quản lý rủi ro AI.
• ISO/IEC 42005 – Đánh giá tác động AI.
• ISO/IEC 22989 – Khái niệm và thuật ngữ AI.

Sự kết hợp này giúp tổ chức xây dựng hệ thống quản trị AI toàn diện, từ quản lý rủi ro đến kiểm soát tính công bằng và minh bạch.

9. Lợi ích khi áp dụng ISO/IEC TR 24027:2021

Việc áp dụng hướng dẫn của ISO/IEC TR 24027:2021 giúp tổ chức:

• Nhận diện sớm các nguồn gốc Bias.
• Nâng cao tính công bằng của AI.
• Tăng niềm tin từ khách hàng và đối tác.
• Giảm thiểu rủi ro pháp lý.
• Hỗ trợ tuân thủ các yêu cầu quản trị AI.
• Xây dựng hệ thống AI minh bạch và đáng tin cậy.