Viện AI Now Cảnh báo về Lạm dụng Phần mềm Phát hiện Cảm xúc và Các Vấn đề Đạo đức Khác

Viện AI Now đã phát hành một báo cáo kêu gọi các nhà lập pháp và các cơ quan quản lý khác thiết lập giới hạn cứng đối với việc sử dụng công nghệ phát hiện cảm xúc, cấm sử dụng nó trong các trường hợp có thể được sử dụng để đưa ra quyết định quan trọng như tuyển dụng nhân viên hoặc chấp nhận sinh viên. Ngoài ra, báo cáo chứa một số đề xuất khác về một loạt các chủ đề trong lĩnh vực AI.

Viện AI Now là một viện nghiên cứu có trụ sở tại NYU, có nhiệm vụ nghiên cứu tác động của AI đối với xã hội. AI Now phát hành một báo cáo hàng năm thể hiện các phát hiện của họ về tình trạng nghiên cứu AI và các ý nghĩa đạo đức của cách AI đang được sử dụng. Theo BBC báo cáo, báo cáo năm nay đã đề cập đến các chủ đề như phân biệt đối xử thuật toán, thiếu đa dạng trong nghiên cứu AI và các vấn đề lao động.

Nhận dạng ảnh hưởng, thuật ngữ kỹ thuật cho các thuật toán phát hiện cảm xúc, là một lĩnh vực nghiên cứu AI đang phát triển nhanh chóng. Những người sử dụng công nghệ này để đưa ra quyết định thường tuyên bố rằng các hệ thống có thể thu thập thông tin đáng tin cậy về trạng thái cảm xúc của con người bằng cách phân tích các biểu cảm nhỏ, cùng với các tín hiệu khác như giọng nói và ngôn ngữ cơ thể. Viện AI Now lưu ý rằng công nghệ này đang được sử dụng trong nhiều ứng dụng khác nhau, như xác định ai nên được tuyển dụng, thiết lập giá bảo hiểm và theo dõi xem sinh viên có chú ý trong lớp học hay không.

Giáo sư Kate Crawford, đồng sáng lập Viện AI Now, giải thích rằng người ta thường tin rằng cảm xúc của con người có thể được dự đoán chính xác với các mô hình tương đối đơn giản. Crawford cho biết rằng một số công ty đang dựa vào công việc của Paul Ekman, một nhà tâm lý học đã đưa ra giả thuyết rằng có sáu loại cảm xúc cơ bản được đăng ký trên khuôn mặt. Tuy nhiên, Crawford lưu ý rằng kể từ khi lý thuyết của Ekman được giới thiệu, các nghiên cứu đã chỉ ra rằng có sự đa dạng lớn hơn nhiều trong các biểu cảm khuôn mặt và rằng các biểu cảm có thể thay đổi qua các tình huống và văn hóa rất dễ dàng.

“Đồng thời với việc các công nghệ này đang được triển khai, nhiều nghiên cứu đã chỉ ra rằng không có bằng chứng đáng kể cho thấy mối quan hệ nhất quán giữa cảm xúc mà bạn đang cảm nhận và cách khuôn mặt của bạn trông như thế nào,” Crawford nói với BBC.

Vì lý do này, Viện AI Now lập luận rằng nhiều nhận dạng ảnh hưởng dựa trên các lý thuyết không đáng tin cậy và khoa học đáng ngờ. Do đó, các hệ thống phát hiện cảm xúc không nên được triển khai cho đến khi có nhiều nghiên cứu hơn và rằng “các chính phủ nên đặc biệt cấm sử dụng nhận dạng ảnh hưởng trong các quy trình ra quyết định quan trọng”. AI Now cho rằng chúng ta nên đặc biệt ngừng sử dụng công nghệ này trong “các.context xã hội và chính trị nhạy cảm”, bao gồm việc làm, giáo dục và cảnh sát.

Ít nhất một công ty phát triển AI chuyên về nhận dạng ảnh hưởng, Emteq, đồng ý rằng nên có quy định để ngăn chặn việc lạm dụng công nghệ này. Người sáng lập Emteq, Charles Nduka, giải thích với BBC rằng trong khi các hệ thống AI có thể nhận ra chính xác các biểu cảm khuôn mặt khác nhau, thì không có bản đồ đơn giản từ biểu cảm đến cảm xúc. Nduka đã bày tỏ lo ngại về việc quy định có thể đi quá xa và kìm hãm nghiên cứu, lưu ý rằng nếu “các điều khoản sẽ bị cấm, điều quan trọng là mọi người không vứt bỏ đứa trẻ cùng với nước tắm”.

Theo The Next Web báo cáo, AI Now cũng đã đề xuất một số chính sách và chuẩn mực khác mà nên hướng dẫn ngành công nghiệp AI trong tương lai.

AI Now đã nhấn mạnh nhu cầu của ngành công nghiệp AI trong việc tạo ra các môi trường làm việc đa dạng hơn và tuyên bố rằng người lao động nên được đảm bảo quyền thể hiện mối quan ngại của họ về AI xâm phạm và bóc lột. Người lao động trong lĩnh vực công nghệ cũng nên có quyền biết liệu nỗ lực của họ có đang được sử dụng để xây dựng các công việc có hại hoặc không đạo đức hay không.

AI Now cũng đề xuất rằng các nhà lập pháp nên thực hiện các bước để yêu cầu sự đồng ý thông tin cho việc sử dụng bất kỳ dữ liệu nào được thu thập từ AI liên quan đến sức khỏe. Ngoài ra, nó được khuyên rằng quyền riêng tư của dữ liệu nên được coi trọng hơn và rằng các quốc gia nên làm việc để thiết kế các luật bảo vệ quyền riêng tư cho dữ liệu sinh trắc học bao gồm cả các thực thể tư nhân và công cộng.

Cuối cùng, viện đã khuyên rằng ngành công nghiệp AI nên bắt đầu suy nghĩ và hành động nhiều hơn về phạm vi toàn cầu, cố gắng giải quyết các hậu quả chính trị, xã hội và sinh thái lớn hơn của AI. Nó được đề xuất rằng nên có một nỗ lực đáng kể để tính toán đến tác động của AI về sự thay đổi địa lý và khí hậu và rằng các chính phủ nên công khai thông tin về tác động của ngành công nghiệp AI đối với khí hậu.