偏見 AI & Văn Hóa Stereotypes: Hiệu ứng, Giới hạn, & Giảm thiểu

Trí tuệ nhân tạo (AI), đặc biệt là Generative AI, tiếp tục vượt quá mong đợi với khả năng hiểu và bắt chước nhận thức và trí tuệ của con người. Tuy nhiên, trong nhiều trường hợp, kết quả hoặc dự đoán của hệ thống AI có thể phản ánh các loại偏見 AI, chẳng hạn như văn hóa và chủng tộc.

Buzzfeed’s “Barbies của Thế giới” blog (đã bị xóa) rõ ràng thể hiện các偏見 văn hóa và không chính xác. Những ‘barbies’ này được tạo ra sử dụng Midjourney – một công cụ tạo hình ảnh AI hàng đầu, để tìm hiểu barbies sẽ trông như thế nào ở mọi nơi trên thế giới. Chúng tôi sẽ thảo luận thêm về điều này sau.

Nhưng đây không phải là lần đầu tiên AI bị “phân biệt chủng tộc” hoặc tạo ra kết quả không chính xác. Ví dụ, vào năm 2022, Apple (AAPL ) đã bị khởi kiện vì cáo buộc rằng cảm biến oxy máu của Apple Watch bị偏見 đối với người da màu. Trong một trường hợp khác, người dùng Twitter phát hiện ra rằng công cụ tự động cắt hình ảnh AI của Twitter ưu tiên khuôn mặt của người da trắng hơn người da đen và phụ nữ hơn nam giới. Đây là những thách thức quan trọng, và việc giải quyết chúng là rất khó khăn.

Trong bài viết này, chúng tôi sẽ xem xét偏見 AI là gì, cách nó ảnh hưởng đến xã hội của chúng ta, và thảo luận ngắn gọn về cách các chuyên gia có thể giảm thiểu nó để giải quyết các thách thức như định kiến văn hóa.

偏見 AI là gì?

偏見 AI xảy ra khi các mô hình AI tạo ra kết quả phân biệt đối xử với một số dân tộc. Có nhiều loại偏見 có thể xâm nhập vào hệ thống AI và tạo ra kết quả không chính xác. Một số偏見 AI này là:

• 偏見 Stereotypical: 偏見 Stereotypical đề cập đến hiện tượng mà kết quả của một mô hình AI bao gồm các định kiến hoặc quan niệm về một dân tộc nhất định.
• 偏見 Chủng tộc: 偏見 chủng tộc trong AI xảy ra khi kết quả của một mô hình AI là phân biệt đối xử và không công bằng với một cá nhân hoặc nhóm dựa trên chủng tộc hoặc dân tộc của họ.
• 偏見 Văn hóa: 偏見 văn hóa xảy ra khi kết quả của một mô hình AI ưu tiên một văn hóa hơn văn hóa khác.

Ngoài các偏見, các vấn đề khác cũng có thể cản trở kết quả của một hệ thống AI, chẳng hạn như:

• Không chính xác: Không chính xác xảy ra khi kết quả được tạo ra bởi một mô hình AI là không chính xác do dữ liệu đào tạo không nhất quán.
• Ảo giác: Ảo giác xảy ra khi các mô hình AI tạo ra kết quả giả và không dựa trên dữ liệu thực tế.

Tác động của偏見 AI đối với Xã hội

Tác động của偏見 AI đối với xã hội có thể là có hại. Các hệ thống AI bị偏見 có thể tạo ra kết quả không chính xác mà khuếch đại sự phân biệt đối xử đã tồn tại trong xã hội. Những kết quả này có thể tăng cường phân biệt đối xử và vi phạm quyền, ảnh hưởng đến quá trình tuyển dụng và giảm niềm tin vào công nghệ AI.

Cũng như vậy, kết quả AI bị偏見 thường dẫn đến dự đoán không chính xác mà có thể có hậu quả nghiêm trọng cho các cá nhân vô tội. Ví dụ, vào tháng 8 năm 2020, Robert McDaniel đã trở thành mục tiêu của một hành động tội phạm do thuật toán dự đoán tội phạm của Sở Cảnh sát Chicago dán nhãn anh ta là “người của sự quan tâm”.

Tương tự, các hệ thống AI y tế bị偏見 có thể có kết quả bệnh nhân nghiêm trọng. Vào năm 2019, Science đã phát hiện ra rằng một thuật toán rủi ro y tế được sử dụng rộng rãi ở Mỹ bị偏見 chủng tộc đối với người da màu, dẫn đến việc bệnh nhân da đen nhận được ít quản lý chăm sóc rủi ro hơn.

Barbies của Thế giới

Vào tháng 7 năm 2023, Buzzfeed đã xuất bản một blog bao gồm 194 barbies được tạo ra bởi AI từ tất cả các nơi trên thế giới. Bài đăng này đã trở thành viral trên Twitter. Mặc dù Buzzfeed đã viết một tuyên bố免 trách, nó không ngăn cản được những người dùng internet chỉ ra các偏見 chủng tộc và văn hóa không chính xác. Ví dụ, hình ảnh barbie được tạo ra bởi AI của Đức đã mặc đồng phục của một tướng SS Nazi.

Tương tự, hình ảnh barbie được tạo ra bởi AI của Nam Sudan đã được hiển thị đang cầm một khẩu súng ở bên cạnh, phản ánh sự偏見 sâu sắc trong các thuật toán AI.

Bên cạnh đó, nhiều hình ảnh khác đã thể hiện sự không chính xác về văn hóa, chẳng hạn như barbie của Qatar mặc một Ghutra, một loại trang phục truyền thống của nam giới Ả Rập.

Bài đăng blog này đã nhận được sự phản ứng mạnh mẽ về định kiến văn hóa và偏見. Trường Liên ngành London (LIS) đã gọi đây là tổn thương đại diện mà phải được kiểm soát bằng cách áp dụng các tiêu chuẩn chất lượng và thành lập các cơ quan giám sát AI.

Giới hạn của Mô hình AI

AI có tiềm năng cách mạng hóa nhiều ngành công nghiệp. Tuy nhiên, nếu các kịch bản như những trường hợp trên trở nên phổ biến, nó có thể dẫn đến sự sụt giảm trong việc áp dụng AI nói chung, dẫn đến việc bỏ lỡ các cơ hội. Những trường hợp này thường xảy ra do các hạn chế đáng kể trong các hệ thống AI, chẳng hạn như:

• Thiếu Sáng tạo: Vì AI chỉ có thể đưa ra quyết định dựa trên dữ liệu đào tạo đã cho, nó thiếu sự sáng tạo để suy nghĩ ngoài hộp, điều này cản trở việc giải quyết vấn đề sáng tạo.

• Thiếu Hiểu biết về Văn hóa: Các hệ thống AI gặp khó khăn trong việc hiểu các sắc thái văn hóa hoặc biểu thức ngôn ngữ của một khu vực, điều này thường dẫn đến lỗi trong kết quả.

• 偏見 Đào tạo: AI dựa trên dữ liệu lịch sử có thể chứa các mẫu phân biệt đối xử. Trong quá trình đào tạo, mô hình có thể dễ dàng học các mẫu phân biệt đối xử để tạo ra kết quả không công bằng và bị偏見.

Làm thế nào để Giảm thiểu偏見 trong Mô hình AI

Các chuyên gia ước tính rằng vào năm 2026, 90% nội dung trực tuyến có thể được tạo ra tổng hợp. Do đó, việc giảm thiểu nhanh chóng các vấn đề hiện có trong công nghệ AI tạo ra là rất quan trọng.

Một số chiến lược chính có thể được thực hiện để giảm thiểu偏見 trong mô hình AI. Một số trong số chúng là:

• Đảm bảo Chất lượng Dữ liệu: Việc đưa dữ liệu hoàn chỉnh, chính xác và sạch vào một mô hình AI có thể giúp giảm thiểu偏見 và tạo ra kết quả chính xác hơn.
• Các Bộ dữ liệu Đa dạng: Việc giới thiệu các bộ dữ liệu đa dạng vào một hệ thống AI có thể giúp giảm thiểu偏見 khi hệ thống AI trở nên bao gồm hơn theo thời gian.

• Vòng lặp Phản hồi: Với một vòng lặp phản hồi và học tập liên tục, các mô hình AI có thể dần dần cải thiện kết quả của chúng

• Tăng cường Quy định: Các quy định AI toàn cầu là rất quan trọng để duy trì chất lượng của các hệ thống AI trên toàn thế giới. Do đó, các tổ chức quốc tế phải làm việc cùng nhau để đảm bảo tiêu chuẩn hóa AI.

• Tăng cường Việc áp dụng AI có Trách nhiệm: Các chiến lược AI có trách nhiệm góp phần tích cực vào việc giảm thiểu偏見 AI,培養 sự công bằng và chính xác trong các hệ thống AI, và đảm bảo rằng chúng phục vụ một cơ sở người dùng đa dạng trong khi phấn đấu cho sự cải tiến liên tục.

Bằng cách kết hợp các bộ dữ liệu đa dạng, trách nhiệm đạo đức và các phương tiện truyền thông mở, chúng ta có thể đảm bảo rằng AI là một nguồn thay đổi tích cực trên toàn thế giới.

Nếu bạn muốn tìm hiểu thêm về偏見 và vai trò của Trí tuệ nhân tạo trong xã hội của chúng ta, hãy đọc các blog sau.

• Làm thế nào các Thành phố đang Triển khai Công nghệ Hàng đầu bằng cách Sử dụng Thuật toán AI không bị偏見
• AI có thể Chống lại Thông tin sai lệch và偏見 trong Tin tức
• 偏見 và Công bằng của Hệ thống dựa trên AI trong Tội phạm Tài chính
• Máy kiểm tra偏見 AI cho Bài viết Tin tức, Có sẵn trong Python