ISO/IEC 25059:2023 – Mô Hình Chất Lượng Cho Hệ Thống AI: Khung Đánh Giá Toàn Diện Cho Trí Tuệ Nhân Tạo

 1 ISO/IEC 25059:2023 là gì?

Khi trí tuệ nhân tạo (AI) được ứng dụng ngày càng rộng rãi trong các lĩnh vực như tài chính, y tế, sản xuất, logistics và dịch vụ công, câu hỏi quan trọng đặt ra không còn là AI có hoạt động hay không, mà là:

AI có đạt chất lượng hay không?

Khác với các phần mềm truyền thống, hệ thống AI có những đặc điểm riêng như học từ dữ liệu, tự thích nghi, phụ thuộc vào chất lượng dữ liệu huấn luyện và có thể thay đổi hiệu suất theo thời gian. Điều này khiến việc đánh giá chất lượng AI trở nên phức tạp hơn nhiều so với đánh giá phần mềm thông thường.

Để giải quyết vấn đề này, ISO và IEC đã ban hành ISO/IEC 25059:2023 – Software Engineering — Systems and Software Quality Requirements and Evaluation (SQuaRE) — Quality Model for AI Systems.

Tiêu chuẩn cung cấp một mô hình chất lượng dành riêng cho hệ thống AI, giúp các tổ chức đánh giá, quản lý và cải tiến chất lượng AI một cách có hệ thống.

2 Vì sao cần mô hình chất lượng riêng cho AI?

Các mô hình chất lượng phần mềm truyền thống thường tập trung vào:

• Hiệu năng.

• Độ tin cậy.

• Khả năng bảo trì.

• Khả năng sử dụng.

• Bảo mật.

Tuy nhiên, AI còn phải đối mặt với nhiều vấn đề đặc thù như:

• Thiên vị dữ liệu (Bias).

• Khả năng giải thích kết quả.

• Tính minh bạch.

• Độ bền vững của mô hình.

• Độ chính xác trong các điều kiện khác nhau.

• Khả năng thích nghi khi dữ liệu thay đổi.

Do đó, cần có một mô hình chất lượng được thiết kế riêng cho AI.

ISO/IEC 25059 được xây dựng nhằm đáp ứng nhu cầu này.

3 Mục tiêu của ISO/IEC 25059:2023

Tiêu chuẩn hướng đến:

• Thiết lập khung đánh giá chất lượng cho hệ thống AI.

• Bổ sung các đặc tính chất lượng riêng của AI.

• Hỗ trợ phát triển AI đáng tin cậy.

• Tăng khả năng kiểm soát rủi ro AI.

• Hỗ trợ kiểm thử và đánh giá AI.

• Làm cơ sở cho hoạt động quản trị AI.

4 Hệ thống AI được định nghĩa như thế nào?

Theo cách tiếp cận của ISO/IEC 25059, hệ thống AI là các hệ thống có khả năng:

• Học từ dữ liệu.

• Phân tích thông tin.

• Đưa ra dự đoán hoặc khuyến nghị.

• Hỗ trợ hoặc tự động thực hiện quyết định.

Các hệ thống này có thể bao gồm:

• Machine Learning.

• Deep Learning.

• Computer Vision.

• Natural Language Processing (NLP).

• Generative AI.

• Hybrid AI Systems.

5 Các nhóm đặc tính chất lượng của hệ thống AI

ISO/IEC 25059 mở rộng mô hình chất lượng truyền thống bằng cách bổ sung các yếu tố đặc thù của AI.

5.1. Hiệu quả chức năng (Functional Suitability)

Đánh giá khả năng AI thực hiện đúng mục đích đã thiết kế.

Bao gồm:

• Độ chính xác dự đoán.

• Khả năng hoàn thành nhiệm vụ.

• Tính phù hợp với yêu cầu nghiệp vụ.

Ví dụ:

Một hệ thống AI chẩn đoán bệnh cần đạt độ chính xác phù hợp với yêu cầu chuyên môn.

5.2. Độ tin cậy (Reliability)

Đánh giá khả năng hoạt động ổn định của hệ thống AI.

Bao gồm:

• Tính nhất quán.

• Khả năng duy trì hiệu suất.

• Khả năng phục hồi khi xảy ra lỗi.

AI đáng tin cậy phải duy trì chất lượng trong nhiều điều kiện vận hành khác nhau.

5.3. Hiệu năng (Performance Efficiency)

Đánh giá mức độ sử dụng tài nguyên.

Bao gồm:

• Tốc độ xử lý.

• Thời gian phản hồi.

• Mức tiêu thụ tài nguyên tính toán.

Đây là yếu tố đặc biệt quan trọng đối với các mô hình AI quy mô lớn.

5.4. Khả năng sử dụng (Usability)

Đánh giá trải nghiệm của người dùng khi tương tác với AI.

Bao gồm:

• Mức độ dễ hiểu.

• Dễ sử dụng.

• Khả năng tương tác.

AI càng dễ sử dụng thì khả năng được chấp nhận càng cao.

5.5. Khả năng giải thích (Explainability)

Đây là một trong những yếu tố nổi bật của ISO/IEC 25059.

Khả năng giải thích giúp:

• Hiểu lý do AI đưa ra kết quả.

• Tăng niềm tin của người dùng.

• Hỗ trợ kiểm toán và quản trị AI.

Đặc tính này đặc biệt quan trọng trong các lĩnh vực có rủi ro cao.

5.6. Minh bạch (Transparency)

Liên quan đến khả năng cung cấp thông tin về:

• Dữ liệu.

• Mô hình.

• Hiệu suất.

• Giới hạn hệ thống.

Minh bạch là nền tảng của AI đáng tin cậy.

5.7. Công bằng (Fairness)

Đánh giá mức độ AI tránh tạo ra sự thiên vị hoặc phân biệt đối xử.

Bao gồm:

• Thiên vị dữ liệu.

• Thiên vị thuật toán.

• Thiên vị trong kết quả.

Đây là một yêu cầu ngày càng được nhấn mạnh trong các quy định AI toàn cầu.

5.8. Độ bền vững (Robustness)

Đánh giá khả năng AI tiếp tục hoạt động hiệu quả khi gặp:

• Dữ liệu bất thường.

• Dữ liệu nhiễu.

• Điều kiện vận hành thay đổi.

• Các tình huống không mong muốn.

5.9. An toàn (Safety)

Đánh giá khả năng hạn chế các tác động tiêu cực đến:

• Con người.

• Tài sản.

• Môi trường.

• Hoạt động kinh doanh.

Đặc tính này đặc biệt quan trọng đối với AI trong y tế, giao thông và sản xuất.

5.10. Bảo mật (Security)

Đánh giá khả năng bảo vệ hệ thống AI khỏi:

• Tấn công mạng.

• Rò rỉ dữ liệu.

• Tấn công thao túng mô hình.

• Truy cập trái phép.

6 Mối liên hệ với AI đáng tin cậy

Nhiều đặc tính trong ISO/IEC 25059 chính là các thành phần cốt lõi của Trustworthy AI:

• Minh bạch.

• Công bằng.

• Giải thích được.

• An toàn.

• Bảo mật.

• Độ tin cậy.

Vì vậy, tiêu chuẩn được xem là một nền tảng quan trọng để xây dựng và đánh giá AI đáng tin cậy.

7 Lợi ích khi áp dụng ISO/IEC 25059:2023

Chuẩn hóa hoạt động đánh giá chất lượng AI

Cung cấp khung đánh giá thống nhất cho toàn bộ vòng đời AI.

Tăng niềm tin của khách hàng và đối tác

Giúp chứng minh chất lượng của hệ thống AI.

Hỗ trợ triển khai ISO/IEC 42001

Là cơ sở quan trọng cho hệ thống quản lý AI.

Giảm thiểu rủi ro AI

Hỗ trợ phát hiện các điểm yếu về hiệu suất, bảo mật và độ tin cậy.

Nâng cao khả năng tuân thủ

Đáp ứng các yêu cầu ngày càng cao về quản trị và kiểm soát AI.

8 Doanh nghiệp nào nên quan tâm đến ISO/IEC 25059?

Tiêu chuẩn phù hợp với:

• Doanh nghiệp phát triển AI.

• Nhà cung cấp giải pháp AI.

• Tổ chức triển khai AI quy mô lớn.

• Ngân hàng và tổ chức tài chính.

• Doanh nghiệp y tế.

• Công ty công nghệ.

• Đơn vị triển khai ISO/IEC 42001.

• Tổ chức kiểm thử và đánh giá AI.

Đặc biệt, các hệ thống AI có ảnh hưởng trực tiếp đến con người cần được đánh giá chất lượng theo cách tiếp cận toàn diện của ISO/IEC 25059.