ISO/IEC TR 24028:2020 – Tổng Quan Về Độ Tin Cậy Trong Trí Tuệ Nhân Tạo

ISO/IEC TR 24028:2020 là gì? Khung tham chiếu về AI đáng tin cậy

Trí tuệ nhân tạo (AI) đang trở thành một phần quan trọng trong quá trình chuyển đổi số của doanh nghiệp và xã hội. Tuy nhiên, cùng với những lợi ích về tự động hóa và ra quyết định thông minh, các tổ chức cũng phải đối mặt với những câu hỏi quan trọng:

• Liệu AI có đáng tin cậy hay không?

• AI có đưa ra quyết định công bằng không?

• AI có đảm bảo tính minh bạch và khả năng giải thích?

• Người dùng có thể tin tưởng vào kết quả do AI tạo ra không?

Để trả lời những câu hỏi này, tiêu chuẩn ISO/IEC TR 24028:2020 được xây dựng nhằm cung cấp cái nhìn tổng quan về khái niệm Trustworthiness (Độ tin cậy) trong trí tuệ nhân tạo và các yếu tố ảnh hưởng đến việc xây dựng AI đáng tin cậy.

1. ISO/IEC TR 24028:2020 là gì?

ISO/IEC TR 24028:2020 là báo cáo kỹ thuật quốc tế cung cấp hướng dẫn và kiến thức nền tảng liên quan đến độ tin cậy của hệ thống trí tuệ nhân tạo.

Tiêu chuẩn tập trung vào:

• Các thuộc tính tạo nên AI đáng tin cậy.

• Những rủi ro có thể ảnh hưởng đến độ tin cậy.

• Mối quan hệ giữa AI và các bên liên quan.

• Các biện pháp hỗ trợ xây dựng và vận hành AI một cách có trách nhiệm.

ISO/IEC TR 24028:2020 không phải là tiêu chuẩn chứng nhận mà là tài liệu tham khảo giúp tổ chức hiểu rõ các nguyên tắc cốt lõi của AI đáng tin cậy.

2. Độ tin cậy trong AI là gì?

Độ tin cậy (Trustworthiness) là mức độ mà người dùng, tổ chức và các bên liên quan có thể tin tưởng vào hoạt động, kết quả và tác động của một hệ thống AI.

Một hệ thống AI đáng tin cậy cần đảm bảo:

• Hoạt động đúng mục đích thiết kế.

• Đưa ra kết quả ổn định và nhất quán.

• Có khả năng giải thích phù hợp.

• Hạn chế các tác động tiêu cực.

• Tuân thủ các yêu cầu pháp lý và đạo đức.

Độ tin cậy không chỉ liên quan đến công nghệ mà còn liên quan đến quản trị, con người và quy trình vận hành.

3. Vì sao độ tin cậy trở thành yếu tố cốt lõi của AI?

Gia tăng mức độ phụ thuộc vào AI

Ngày nay AI được sử dụng trong:

• Chẩn đoán y tế.

• Chấm điểm tín dụng.

• Tuyển dụng nhân sự.

• Hệ thống giao thông thông minh.

• Phát hiện gian lận tài chính.

Khi AI tham gia vào các quyết định quan trọng, độ tin cậy trở thành yêu cầu bắt buộc.

Bảo vệ quyền lợi của con người

Một hệ thống AI thiếu độ tin cậy có thể gây ra:

• Quyết định sai lệch.

• Phân biệt đối xử.

• Xâm phạm quyền riêng tư.

• Thiệt hại kinh tế.

Tăng cường niềm tin vào chuyển đổi số

Doanh nghiệp chỉ có thể khai thác tối đa giá trị của AI khi khách hàng, đối tác và nhân viên tin tưởng vào công nghệ đó.

4. Các yếu tố tạo nên AI đáng tin cậy theo ISO/IEC TR 24028:2020

Tính công bằng (Fairness)

AI cần đảm bảo các quyết định không gây thiên vị hoặc phân biệt đối xử giữa các nhóm đối tượng.

Ví dụ:

Một hệ thống tuyển dụng AI không nên ưu tiên hoặc loại bỏ ứng viên chỉ dựa trên giới tính hoặc độ tuổi.

Tính minh bạch (Transparency)

Người dùng cần hiểu:

• AI hoạt động như thế nào.

• Dữ liệu nào được sử dụng.

• Các yếu tố ảnh hưởng đến kết quả.

Tính minh bạch giúp tăng khả năng giám sát và kiểm soát AI.

Khả năng giải thích (Explainability)

Một hệ thống AI đáng tin cậy cần có khả năng giải thích hợp lý về cách thức đưa ra quyết định.

Điều này đặc biệt quan trọng trong:

• Y tế.

• Ngân hàng.

• Bảo hiểm.

• Hệ thống hỗ trợ pháp lý.

Độ an toàn (Safety)

AI cần hoạt động ổn định trong các điều kiện dự kiến và hạn chế tối đa các nguy cơ gây ảnh hưởng đến con người hoặc tài sản.

Độ bảo mật (Security)

Các hệ thống AI cần được bảo vệ trước:

• Tấn công mạng.

• Thao túng dữ liệu.

• Truy cập trái phép.

• Rò rỉ thông tin.

Quyền riêng tư (Privacy)

Việc thu thập và xử lý dữ liệu trong AI phải được quản lý phù hợp nhằm bảo vệ thông tin cá nhân của người dùng.

Trách nhiệm giải trình (Accountability)

Tổ chức triển khai AI cần xác định rõ:

• Ai chịu trách nhiệm đối với hệ thống AI.

• Quy trình xử lý sự cố.

• Cơ chế giám sát và cải tiến.

5. Những rủi ro ảnh hưởng đến độ tin cậy của AI

ISO/IEC TR 24028:2020 nhấn mạnh nhiều yếu tố có thể làm suy giảm độ tin cậy của AI.

Bias (Thiên lệch)

Dữ liệu hoặc thuật toán thiên lệch có thể dẫn đến các quyết định không công bằng.

Thiếu minh bạch

Người dùng không hiểu cách AI hoạt động hoặc đưa ra kết quả.

Sai sót dữ liệu

Dữ liệu không đầy đủ hoặc không chính xác có thể làm giảm chất lượng dự đoán.

Tấn công đối kháng (Adversarial Attack)

Kẻ tấn công có thể thao túng dữ liệu đầu vào nhằm làm sai lệch kết quả của AI.

Thiếu giám sát

Hệ thống AI hoạt động mà không có cơ chế kiểm soát phù hợp.

6. Mối liên hệ giữa ISO/IEC TR 24028:2020 và các tiêu chuẩn AI khác

ISO/IEC TR 24028:2020 thường được áp dụng cùng với:

• ISO/IEC 42001 – Hệ thống quản lý AI.

• ISO/IEC 23894 – Quản lý rủi ro AI.

• ISO/IEC TR 24027 – Bias trong AI.

• ISO/IEC 42005 – Đánh giá tác động AI.

• ISO/IEC 22989 – Khái niệm và thuật ngữ AI.

Các tiêu chuẩn này tạo thành nền tảng cho một hệ thống quản trị AI toàn diện và đáng tin cậy.

7. Lợi ích khi áp dụng các nguyên tắc của ISO/IEC TR 24028:2020

Doanh nghiệp có thể đạt được nhiều lợi ích như:

• Tăng niềm tin của khách hàng.

• Nâng cao uy tín thương hiệu.

• Giảm thiểu rủi ro AI.

• Hỗ trợ tuân thủ pháp lý.

• Cải thiện chất lượng quyết định.

• Tăng hiệu quả triển khai AI.

• Thúc đẩy đổi mới bền vững.