Xu hướng AI & Khuôn mẫu văn hóa: Tác động, hạn chế và giảm thiểu

Trí tuệ nhân tạo (AI), đặc biệt Trí tuệ nhân tạo, tiếp tục vượt quá mong đợi với khả năng hiểu và bắt chước nhận thức cũng như trí thông minh của con người. Tuy nhiên, trong nhiều trường hợp, kết quả hoặc dự đoán của hệ thống AI có thể phản ánh nhiều loại thành kiến ​​AI khác nhau, chẳng hạn như văn hóa và chủng tộc.

“ của Buzzfeed “Barbie của thế giới” blog (hiện đã bị xóa) thể hiện rõ ràng những thành kiến ​​​​và sự thiếu chính xác về văn hóa này. Những 'barbies' này được tạo ra bằng cách sử dụng midjourney – một công cụ tạo hình ảnh AI hàng đầu, để tìm hiểu xem búp bê barbie trông như thế nào ở mọi nơi trên thế giới. Chúng ta sẽ nói nhiều hơn về điều này sau.

Nhưng đây không phải là lần đầu tiên AI bị “phân biệt chủng tộc” hoặc tạo ra kết quả không chính xác. Ví dụ, vào năm 2022, Apple đã kiện về những cáo buộc rằng cảm biến oxy trong máu của Apple Watch có thành kiến ​​với người da màu. Trong một trường hợp khác được báo cáo, người dùng Twitter nhận thấy rằng AI cắt ảnh tự động của Twitter ưa chuộng khuôn mặt của người da trắng hơn người da đen và phụ nữ hơn nam giới. Đây là những thách thức quan trọng và việc giải quyết chúng là một thách thức đáng kể.

Trong bài viết này, chúng ta sẽ xem xét định kiến ​​AI là gì, nó tác động như thế nào đến xã hội của chúng ta và thảo luận ngắn gọn về cách những người thực hành có thể giảm thiểu nó để giải quyết những thách thức như khuôn mẫu văn hóa.

Xu hướng AI là gì?

Sự thiên vị AI xảy ra khi các mô hình AI tạo ra kết quả phân biệt đối xử đối với một số nhóm nhân khẩu học nhất định. Một số loại sai lệch có thể xâm nhập vào hệ thống AI và tạo ra kết quả không chính xác. Một số thành kiến ​​​​của AI này là:

• Xu hướng rập khuôn: Thành kiến ​​khuôn mẫu đề cập đến hiện tượng trong đó kết quả của mô hình AI bao gồm các khuôn mẫu hoặc quan niệm nhận thức về một nhóm nhân khẩu học nhất định.
• Thiên vị chủng tộc: Thành kiến ​​về chủng tộc trong AI xảy ra khi kết quả của mô hình AI mang tính phân biệt đối xử và không công bằng đối với một cá nhân hoặc nhóm dựa trên sắc tộc hoặc chủng tộc của họ.
• Thiên vị văn hóa: Sự thiên vị về văn hóa phát huy tác dụng khi kết quả của mô hình AI thiên về một nền văn hóa nhất định hơn nền văn hóa khác.

Ngoài những thành kiến, các vấn đề khác cũng có thể cản trở kết quả của hệ thống AI, chẳng hạn như:

• Sự không chính xác: Sự không chính xác xảy ra khi kết quả do mô hình AI tạo ra không chính xác do dữ liệu đào tạo không nhất quán.
• Ảo giác: Ảo giác xảy ra khi các mô hình AI tạo ra kết quả hư cấu và sai lệch không dựa trên dữ liệu thực tế.

Tác động của sự thiên vị AI đối với xã hội

Tác động của sự thiên vị AI đối với xã hội có thể gây bất lợi. Các hệ thống AI thiên vị có thể tạo ra kết quả không chính xác, khuếch đại định kiến ​​​​đã tồn tại trong xã hội. Những kết quả này có thể làm tăng sự phân biệt đối xử và vi phạm quyền, ảnh hưởng đến quá trình tuyển dụng và làm giảm niềm tin vào công nghệ AI.

Ngoài ra, kết quả AI thiên vị thường dẫn đến những dự đoán không chính xác, có thể gây hậu quả nghiêm trọng cho những cá nhân vô tội. Ví dụ: vào tháng 2020 năm XNUMX, Robert McDaniel đã trở thành mục tiêu của một hành vi tội phạm do thuật toán trị an dự đoán của Sở Cảnh sát Chicago gắn nhãn anh ta là “người được quan tâm”.

Tương tự, các hệ thống AI chăm sóc sức khỏe thiên vị có thể gây ra hậu quả nghiêm trọng cho bệnh nhân. Năm 2019, Khoa học phát hiện ra rằng một phương pháp được sử dụng rộng rãi Thuật toán y tế của Hoa Kỳ có thành kiến ​​về chủng tộc đối với người da màu, dẫn đến việc bệnh nhân da đen nhận được ít sự quản lý chăm sóc có rủi ro cao hơn.

Barbie của thế giới

Trong tháng 7 2023, Buzzfeed đã xuất bản một blog bao gồm 194 búp bê barbie do AI tạo ra từ khắp nơi trên thế giới. Bài đăng đã lan truyền trên Twitter. Mặc dù Buzzfeed đã viết tuyên bố từ chối trách nhiệm nhưng điều đó không ngăn được cư dân mạng chỉ ra những điểm không chính xác về chủng tộc và văn hóa. Ví dụ: hình ảnh Barbie người Đức do AI tạo ra đang mặc đồng phục của một SS Đức quốc xã nói chung.

Tương tự, hình ảnh do AI tạo ra về Barbie Nam Sudan đang cầm súng bên cạnh, phản ánh sự thiên vị sâu xa trong thuật toán AI.

Ngoài ra, một số hình ảnh khác cho thấy những điểm không chính xác về mặt văn hóa, chẳng hạn như Barbie Qatar mặc áo choàng. Ghutra, một chiếc mũ truyền thống được mặc bởi đàn ông Ả Rập.

Bài đăng trên blog này đã nhận được phản ứng dữ dội vì định kiến ​​và thành kiến ​​về văn hóa. Các Trường liên ngành Luân Đôn (LIS) gọi cái này tác hại mang tính đại diện điều đó phải được kiểm soát bằng cách áp đặt các tiêu chuẩn chất lượng và thành lập các cơ quan giám sát AI.

Hạn chế của mô hình AI

AI có tiềm năng cách mạng hóa nhiều ngành công nghiệp. Tuy nhiên, nếu các tình huống như những tình huống được đề cập ở trên xảy ra thường xuyên, nó có thể dẫn đến việc giảm khả năng áp dụng AI nói chung, dẫn đến bỏ lỡ các cơ hội. Những trường hợp như vậy thường xảy ra do những hạn chế đáng kể trong hệ thống AI, chẳng hạn như:

• Thiếu tính sáng tạo: Vì AI chỉ có thể đưa ra quyết định dựa trên dữ liệu đào tạo nhất định nên nó thiếu khả năng sáng tạo để suy nghĩ sáng tạo, điều này cản trở việc giải quyết vấn đề một cách sáng tạo.

• Thiếu hiểu biết theo ngữ cảnh: Hệ thống AI gặp khó khăn trong việc hiểu các sắc thái ngữ cảnh hoặc cách diễn đạt ngôn ngữ của một khu vực, điều này thường dẫn đến sai sót trong kết quả.

• Xu hướng đào tạo: AI dựa vào dữ liệu lịch sử có thể chứa tất cả các loại mẫu phân biệt đối xử. Trong quá trình đào tạo, mô hình có thể dễ dàng học các mô hình phân biệt đối xử để tạo ra kết quả không công bằng và sai lệch.

Cách giảm sai lệch trong mô hình AI

Các Chuyên gia ước tính rằng đến năm 2026, 90% nội dung trực tuyến có thể được tạo ra một cách tổng hợp. Do đó, điều quan trọng là phải nhanh chóng giảm thiểu các vấn đề tồn tại trong công nghệ Generative AI.

Một số chiến lược chính có thể được thực hiện để giảm sai lệch trong các mô hình AI. Một số trong số này là:

• Đảm bảo chất lượng dữ liệu: Việc nhập dữ liệu đầy đủ, chính xác và sạch vào mô hình AI có thể giúp giảm sai lệch và tạo ra kết quả chính xác hơn.
• Bộ dữ liệu đa dạng: Việc đưa các bộ dữ liệu đa dạng vào hệ thống AI có thể giúp giảm thiểu sai lệch khi hệ thống AI trở nên toàn diện hơn theo thời gian.

• Vòng phản hồi: Với một hằng số vòng phản hồi và học tập, các mô hình AI có thể dần dần cải thiện kết quả của mình

• Quy định gia tăng: Các quy định về AI toàn cầu rất quan trọng để duy trì chất lượng của hệ thống AI xuyên biên giới. Do đó, các tổ chức quốc tế phải làm việc cùng nhau để đảm bảo tiêu chuẩn hóa AI.

• Tăng cường áp dụng AI có trách nhiệm: Các chiến lược AI có trách nhiệm góp phần tích cực vào việc giảm thiểu sự thiên vị AI, nâng cao tính công bằng và chính xác trong hệ thống AI, đồng thời đảm bảo chúng phục vụ cơ sở người dùng đa dạng trong khi nỗ lực cải tiến liên tục.

Bằng cách kết hợp các bộ dữ liệu đa dạng, trách nhiệm đạo đức và phương tiện giao tiếp mở, chúng tôi có thể đảm bảo rằng AI là nguồn thay đổi tích cực trên toàn thế giới.

Nếu bạn muốn tìm hiểu thêm về sự thiên vị và vai trò của Trí tuệ nhân tạo trong xã hội chúng ta, hãy đọc các blog sau.

• Các thành phố đang triển khai các công nghệ hàng đầu như thế nào để tận dụng các thuật toán AI không thiên vị
• AI có thể chống lại thông tin sai lệch và thiên vị trong tin tức
• Xu hướng và sự công bằng của các hệ thống dựa trên AI trong tội phạm tài chính
• Công cụ kiểm tra xu hướng do AI điều khiển cho các bài báo, có sẵn bằng Python