Tiếng Việt
English
中国
日本語
한국인
ISO/IEC TR 24368:2022 : Tổng quan về các vấn đề đạo đức và xã hội liên quan đến trí tuệ nhân tạo
ISO/IEC TR 24368:2022 : Tổng quan về các vấn đề đạo đức và xã hội liên quan đến trí tuệ nhân tạo
Trí tuệ nhân tạo (AI) đang tạo ra những thay đổi sâu rộng trong mọi lĩnh vực của đời sống xã hội. Từ chăm sóc sức khỏe, giáo dục, tài chính đến sản xuất và quản lý công, AI mang lại những cơ hội lớn để nâng cao hiệu quả, cải thiện chất lượng dịch vụ và thúc đẩy đổi mới sáng tạo.
Tuy nhiên, cùng với những lợi ích đó, AI cũng đặt ra nhiều câu hỏi liên quan đến đạo đức, quyền con người, sự công bằng, quyền riêng tư và tác động xã hội. Các tổ chức không chỉ cần quan tâm đến việc AI có hoạt động hiệu quả hay không mà còn phải xem xét liệu AI có được sử dụng một cách có trách nhiệm và phù hợp với các giá trị xã hội hay không.
Để hỗ trợ các tổ chức nhận diện và hiểu rõ các vấn đề này, ISO và IEC đã ban hành ISO/IEC TR 24368:2022 – Artificial Intelligence — Overview of Ethical and Societal Concerns.
Tiêu chuẩn cung cấp cái nhìn tổng quan về các mối quan tâm đạo đức và xã hội liên quan đến AI, giúp các tổ chức xây dựng, triển khai và quản lý AI theo hướng có trách nhiệm và đáng tin cậy.
Trong nhiều năm qua, AI đã chứng minh khả năng xử lý dữ liệu và hỗ trợ ra quyết định ở quy mô lớn. Tuy nhiên, nhiều sự cố liên quan đến AI đã làm dấy lên các lo ngại trên toàn cầu.
Ví dụ:
Thuật toán tuyển dụng có xu hướng thiên vị giới tính.
Hệ thống nhận diện khuôn mặt hoạt động không chính xác với một số nhóm dân cư.
AI thu thập và sử dụng dữ liệu cá nhân mà người dùng không nhận thức đầy đủ.
Các mô hình AI tạo sinh có thể tạo ra thông tin sai lệch hoặc nội dung gây hiểu nhầm.
Những vấn đề này cho thấy việc phát triển AI không chỉ là bài toán công nghệ mà còn là bài toán về đạo đức, trách nhiệm và tác động xã hội.
Tiêu chuẩn được xây dựng nhằm:
Cung cấp tổng quan về các vấn đề đạo đức liên quan đến AI.
Nhận diện các tác động xã hội có thể phát sinh từ việc sử dụng AI.
Hỗ trợ tổ chức hiểu rõ các rủi ro phi kỹ thuật của AI.
Tăng cường khả năng quản trị AI có trách nhiệm.
Hỗ trợ xây dựng các hệ thống AI đáng tin cậy (Trustworthy AI).
Thúc đẩy việc sử dụng AI theo hướng lấy con người làm trung tâm.
Một trong những mối quan tâm lớn nhất đối với AI là khả năng tạo ra hoặc khuếch đại sự thiên vị.
Nguyên nhân có thể đến từ:
Dữ liệu huấn luyện không đại diện.
Thiết kế thuật toán chưa phù hợp.
Quy trình đánh giá thiếu khách quan.
Hệ quả là AI có thể:
Phân biệt đối xử trong tuyển dụng.
Đưa ra quyết định tín dụng không công bằng.
Gây bất lợi cho một số nhóm đối tượng.
Tiêu chuẩn khuyến nghị các tổ chức cần đánh giá và kiểm soát nguy cơ thiên vị trong toàn bộ vòng đời AI.
Người sử dụng cần hiểu:
AI được sử dụng cho mục đích gì.
AI đưa ra quyết định như thế nào.
Những yếu tố nào ảnh hưởng đến kết quả.
Một hệ thống AI thiếu minh bạch có thể làm giảm niềm tin của người dùng và gây khó khăn trong việc giải trình khi xảy ra sự cố.
AI thường phụ thuộc vào khối lượng dữ liệu rất lớn để học tập và hoạt động.
Điều này đặt ra nhiều vấn đề liên quan đến:
Thu thập dữ liệu cá nhân.
Lưu trữ dữ liệu.
Chia sẻ dữ liệu.
Sử dụng dữ liệu cho mục đích khác với mục đích ban đầu.
Tiêu chuẩn nhấn mạnh tầm quan trọng của việc bảo vệ quyền riêng tư và tuân thủ các quy định về dữ liệu cá nhân.
Khi AI đưa ra quyết định gây ảnh hưởng đến con người, câu hỏi thường được đặt ra là:
Ai chịu trách nhiệm?
Có thể là:
Nhà phát triển AI.
Đơn vị cung cấp giải pháp.
Tổ chức triển khai AI.
Người vận hành hệ thống.
ISO/IEC TR 24368 nhấn mạnh rằng trách nhiệm không thể được chuyển hoàn toàn cho hệ thống AI.
AI có thể hỗ trợ ra quyết định nhưng không nên làm suy giảm quyền tự chủ của con người.
Tổ chức cần đảm bảo rằng:
Con người vẫn giữ vai trò giám sát.
Các quyết định quan trọng có sự tham gia của con người.
AI không thay thế hoàn toàn trách nhiệm của cá nhân hoặc tổ chức.
AI có thể tự động hóa nhiều công việc truyền thống.
Điều này có thể dẫn đến:
Thay đổi cơ cấu nghề nghiệp.
Nhu cầu đào tạo lại lực lượng lao động.
Xuất hiện các kỹ năng mới liên quan đến AI.
AI đang thay đổi cách học tập và giảng dạy.
Các tổ chức giáo dục cần cân bằng giữa:
Khai thác lợi ích của AI.
Đảm bảo tính trung thực học thuật.
Phát triển tư duy phản biện của người học.
Việc sử dụng AI không phù hợp có thể làm suy giảm niềm tin của công chúng.
Ngược lại, AI được quản trị tốt sẽ góp phần tăng cường niềm tin đối với tổ chức và các dịch vụ số.
AI có thể ảnh hưởng đến:
Quyền riêng tư.
Quyền bình đẳng.
Quyền tiếp cận thông tin.
Quyền tự do cá nhân.
Đây là lý do nhiều quốc gia đang xây dựng các quy định nhằm bảo đảm AI được phát triển theo hướng tôn trọng quyền con người.
ISO/IEC TR 24368 là một trong những tài liệu nền tảng hỗ trợ xây dựng AI đáng tin cậy.
Một hệ thống AI đáng tin cậy cần đáp ứng các yếu tố:
Công bằng.
Minh bạch.
Có trách nhiệm giải trình.
An toàn.
Bảo mật.
Tôn trọng quyền con người.
Có sự giám sát phù hợp của con người.
Đây cũng là các nguyên tắc đang được nhiều quốc gia và tổ chức quốc tế áp dụng trong các khung quản trị AI hiện đại.
Giúp tổ chức hiểu rõ các tác động xã hội và đạo đức liên quan đến AI.
Tạo cơ sở cho việc xây dựng chính sách và cơ chế quản trị AI.
Khẳng định cam kết sử dụng AI minh bạch và có trách nhiệm.
Giúp tổ chức chuẩn bị cho các yêu cầu quản lý AI ngày càng chặt chẽ trên toàn cầu.
Ngăn ngừa các sự cố liên quan đến thiên vị, quyền riêng tư và đạo đức AI.
Tiêu chuẩn phù hợp với:
Doanh nghiệp phát triển AI.
Nhà cung cấp giải pháp AI.
Ngân hàng và tổ chức tài chính.
Tổ chức y tế.
Trường đại học và viện nghiên cứu.
Cơ quan nhà nước.
Doanh nghiệp đang triển khai ISO/IEC 42001.
Tất cả các tổ chức có sử dụng hoặc chịu tác động từ AI.
Bình luận