Xem xét Đạo đức khi Phát triển Trí tuệ Nhân tạo cho Nhận dạng Cảm xúc

Trí tuệ nhân tạo cho điều chỉnh cảm xúc là một trong những tiến bộ công nghệ mới nhất trong lĩnh vực học máy. Mặc dù nó thể hiện tiềm năng lớn, nhưng các vấn đề đạo đức có thể ảnh hưởng đến tốc độ áp dụng và tuổi thọ của nó. Các nhà phát triển trí tuệ nhân tạo có thể vượt qua những thách thức này không?

Nhận dạng Cảm xúc AI là gì?

Nhận dạng cảm xúc AI là một loại mô hình học máy. Nó thường dựa trên công nghệ tầm nhìn máy tính để thu thập và phân tích các biểu cảm khuôn mặt để giải mã tâm trạng trong hình ảnh và video. Tuy nhiên, nó cũng có thể hoạt động trên các đoạn âm thanh để xác định giọng nói hoặc văn bản viết để đánh giá cảm xúc của ngôn ngữ.

Loại thuật toán này đại diện cho tiến bộ thú vị trong lĩnh vực trí tuệ nhân tạo vì cho đến nay, các mô hình không thể hiểu được cảm xúc của con người. Mặc dù các mô hình ngôn ngữ lớn như ChatGPT có thể mô phỏng tâm trạng và nhân vật một cách thuyết phục, nhưng chúng chỉ có thể kết hợp các từ lại với nhau một cách hợp lý – chúng không thể cảm nhận được cảm xúc và không thể hiện sự thông minh về cảm xúc. Mặc dù mô hình nhận dạng cảm xúc không thể có cảm xúc, nhưng nó vẫn có thể phát hiện và phân loại chúng. Sự phát triển này rất quan trọng vì nó cho thấy trí tuệ nhân tạo có thể sớm hiểu và thể hiện sự hạnh phúc, buồn hoặc giận dữ. Những bước nhảy vĩ đại như thế này cho thấy sự tiến bộ nhanh chóng.

Trường hợp Sử dụng cho Nhận dạng Cảm xúc AI

Các doanh nghiệp, giáo viên, tư vấn và chuyên gia chăm sóc sức khỏe tâm lý là một số nhóm có thể sử dụng trí tuệ nhân tạo để nhận dạng cảm xúc.

Đánh giá Rủi ro trong Văn phòng

Các nhóm nhân sự có thể sử dụng thuật toán để phân tích cảm xúc trong thư từ hoặc trò chuyện trong ứng dụng giữa các thành viên trong nhóm. Ngoài ra, họ có thể tích hợp thuật toán vào hệ thống giám sát hoặc tầm nhìn máy tính. Người dùng có thể theo dõi tâm trạng để tính toán các chỉ số như rủi ro nghỉ việc, tỷ lệ kiệt sức và sự hài lòng của nhân viên.

Hỗ trợ Đại diện Dịch vụ Khách hàng

Các nhà bán lẻ có thể sử dụng đại diện dịch vụ khách hàng trí tuệ nhân tạo trong nhà cho người dùng cuối hoặc trợ lý ảo để giải quyết các tình huống căng thẳng. Vì mô hình của họ có thể nhận dạng tâm trạng, nó có thể đề xuất các kỹ thuật giảm căng thẳng hoặc thay đổi giọng điệu khi nó nhận ra một người tiêu dùng đang trở nên giận dữ. Các biện pháp đối phó như vậy có thể cải thiện sự hài lòng và giữ chân khách hàng.

Giúp Học sinh trong Lớp học

Giáo viên có thể sử dụng trí tuệ nhân tạo này để giữ cho học sinh học từ xa không bị tụt lại phía sau. Một công ty khởi nghiệp đã sử dụng công cụ của họ để đo điểm cơ trên khuôn mặt của học sinh trong khi phân loại tốc độ và điểm của họ. Phương pháp này xác định tâm trạng, động lực, điểm mạnh và điểm yếu của họ. Người sáng lập công ty khởi nghiệp khẳng định họ đạt điểm cao hơn 10% trong các bài kiểm tra khi sử dụng phần mềm.

Thực hiện Nghiên cứu Thị trường Trong nhà

Doanh nghiệp có thể thực hiện nghiên cứu thị trường trong nhà bằng cách sử dụng mô hình nhận dạng cảm xúc. Nó có thể giúp họ hiểu chính xác cách đối tượng mục tiêu của họ phản ứng với sản phẩm, dịch vụ hoặc tài liệu tiếp thị của họ, cung cấp cho họ những thông tin sâu sắc dựa trên dữ liệu. Kết quả là, họ có thể tăng tốc thời gian đưa sản phẩm ra thị trường và tăng doanh thu.

Vấn đề với Sử dụng Trí tuệ Nhân tạo để Phát hiện Cảm xúc

Nghiên cứu cho thấy độ chính xác phụ thuộc rất nhiều vào thông tin đào tạo. Một nhóm nghiên cứu – khi cố gắng giải mã cảm xúc từ hình ảnh – đã chứng minh khái niệm này khi mô hình của họ đạt độ chính xác 92,05% trên tập dữ liệu biểu cảm khuôn mặt nữ Nhật Bản và độ chính xác 98,13% trên tập dữ liệu Cohn-Kanade mở rộng.

Mặc dù sự khác biệt giữa 92% và 98% có vẻ không đáng kể, nhưng nó lại rất quan trọng – sự khác biệt nhỏ này có thể có những tác động đáng kể. Để tham khảo, tỷ lệ nhiễm dữ liệu thấp đến 0,001% đã chứng minh hiệu quả trong việc tạo ra các cửa hậu mô hình hoặc gây ra các phân loại sai ý thức. Thậm chí một phần nhỏ của tỷ lệ phần trăm cũng rất quan trọng.

Hơn nữa, mặc dù các nghiên cứu dường như đầy hứa hẹn – tỷ lệ chính xác trên 90% cho thấy tiềm năng – các nhà nghiên cứu tiến hành chúng trong môi trường được kiểm soát. Trong thế giới thực, hình ảnh mờ, biểu cảm khuôn mặt giả, góc độ xấu và cảm xúc tinh tế nhiều hơn. Nói cách khác, trí tuệ nhân tạo có thể không thể hoạt động một cách nhất quán.

Tình hình Hiện tại của Nhận dạng Cảm xúc AI

Phân tích cảm xúc thuật toán là quá trình sử dụng thuật toán để xác định xem giọng điệu của văn bản là tích cực, trung lập hay tiêu cực. Công nghệ này có thể được coi là nền tảng cho các mô hình phát hiện cảm xúc hiện đại vì nó đã mở đường cho việc đánh giá tâm trạng thuật toán. Các công nghệ tương tự như phần mềm nhận dạng khuôn mặt cũng đã góp phần vào sự tiến bộ.

Các thuật toán ngày nay chủ yếu chỉ có thể phát hiện các tâm trạng đơn giản như hạnh phúc, buồn, giận, sợ hãi và ngạc nhiên với các mức độ chính xác khác nhau. Những biểu cảm khuôn mặt này là bẩm sinh và phổ quát – nghĩa là chúng tự nhiên và được hiểu trên toàn cầu – vì vậy việc đào tạo trí tuệ nhân tạo để nhận dạng chúng tương đối đơn giản.

Hơn nữa, các biểu cảm khuôn mặt cơ bản thường được phóng đại. Người ta nhíu mày khi giận, cau mày khi buồn, mỉm cười khi hạnh phúc và mở to mắt khi bị sốc. Những biểu cảm đơn giản, kịch tính này dễ dàng phân biệt. Các cảm xúc phức tạp hơn khó xác định hơn vì chúng либо tinh tế hoặc kết hợp các biểu cảm cơ bản.

Because phần lớn trí tuệ nhân tạo này vẫn còn trong nghiên cứu và phát triển, nó chưa tiến bộ để bao gồm các cảm xúc phức tạp như khát khao, xấu hổ, đau buồn, ghen tị, giải thoát hoặc bối rối. Mặc dù nó có thể bao gồm nhiều cảm xúc hơn trong tương lai, nhưng không có gì đảm bảo nó sẽ có thể giải thích tất cả chúng.

Trong thực tế, các thuật toán có thể không bao giờ có thể cạnh tranh với con người. Để tham khảo, trong khi tập dữ liệu GPT-4 của OpenAI khoảng 1 petabyte, một cubic millimeter duy nhất của não người chứa khoảng 1,4 petabyte dữ liệu. Các nhà khoa học thần kinh không thể hiểu đầy đủ cách não bộ nhận thức cảm xúc mặc dù đã nghiên cứu trong nhiều thập kỷ, vì vậy việc xây dựng một trí tuệ nhân tạo chính xác cao có thể là không thể.

Mặc dù sử dụng công nghệ này cho nhận dạng cảm xúc có tiền lệ, lĩnh vực này vẫn còn trong giai đoạn sơ khai. Có rất nhiều nghiên cứu về khái niệm này, nhưng rất ít ví dụ về việc triển khai quy mô lớn trong thế giới thực. Một số dấu hiệu cho thấy việc áp dụng chậm có thể là do lo ngại về độ chính xác không nhất quán và các vấn đề đạo đức.

Xem xét Đạo đức cho Các Nhà Phát triển Trí tuệ Nhân tạo

Theo một cuộc khảo sát, 67% người được hỏi đồng ý rằng trí tuệ nhân tạo nên được quản lý nhiều hơn. Để đặt tâm trí mọi người vào tình trạng an tâm, các nhà phát triển nên giảm thiểu sự thiên vị, đảm bảo mô hình của họ hoạt động như mong đợi và cải thiện kết quả. Những giải pháp này có thể thực hiện được nếu họ ưu tiên các xem xét đạo đức trong quá trình phát triển.

1. Thu Thập và Sử dụng Dữ liệu Đồng ý

Sự đồng ý là mọi thứ trong một thời đại mà việc quản lý trí tuệ nhân tạo đang tăng lên. Điều gì xảy ra nếu nhân viên phát hiện ra biểu cảm khuôn mặt của họ đang được lưu trữ mà không có kiến thức của họ? Phụ huynh có cần ký vào phân tích cảm xúc dựa trên giáo dục hay học sinh có thể quyết định cho mình?

Các nhà phát triển nên tiết lộ rõ ràng thông tin mà mô hình sẽ thu thập, khi nào nó sẽ hoạt động, phân tích sẽ được sử dụng cho gì và ai có thể truy cập vào những chi tiết đó. Ngoài ra, họ nên bao gồm các tính năng chọn không tham gia để các cá nhân có thể tùy chỉnh quyền.

2. Đầu ra Phân tích Cảm xúc Ẩn danh

Mã hóa ẩn danh là một vấn đề về quyền riêng tư cũng như bảo mật. Các nhà phát triển nên ẩn danh hóa thông tin cảm xúc mà họ thu thập để bảo vệ các cá nhân liên quan. Ít nhất, họ nên xem xét việc sử dụng mã hóa tại chỗ.

3. Ra quyết định Con người trong Vòng lặp

Lý do duy nhất để sử dụng trí tuệ nhân tạo để xác định trạng thái cảm xúc của ai đó là để thông báo quyết định. Cho dù nó được sử dụng trong khả năng tâm lý hay môi trường bán lẻ, nó sẽ ảnh hưởng đến con người. Các nhà phát triển nên tận dụng các biện pháp an toàn con người trong vòng lặp để giảm thiểu hành vi không mong muốn.

4. Phản hồi Hướng đến Con người cho Đầu ra Trí tuệ Nhân tạo

Ngay cả khi một thuật toán có độ chính xác gần 100%, nó vẫn sẽ tạo ra các kết quả sai. Xem xét rằng không phổ biến đối với các mô hình đạt 50% hoặc 70% – và đó là không chạm vào các vấn đề về thiên vị hoặc ảo giác – các nhà phát triển nên xem xét việc thực hiện một hệ thống phản hồi.

Con người nên có thể xem xét những gì trí tuệ nhân tạo nói về trạng thái cảm xúc của họ và kháng cáo nếu họ tin rằng nó là sai. Mặc dù một hệ thống như vậy sẽ yêu cầu các rào cản và biện pháp trách nhiệm, nhưng nó sẽ giảm thiểu các tác động tiêu cực từ đầu ra không chính xác.

Hậu quả của Việc Bỏ qua Đạo đức

Các xem xét đạo đức nên là ưu tiên hàng đầu cho các kỹ sư trí tuệ nhân tạo, nhà phát triển học máy và chủ sở hữu doanh nghiệp vì nó ảnh hưởng đến họ. Xem xét rằng quan điểm công chúng ngày càng không chắc chắn và các quy định đang thắt chặt, hậu quả của việc bỏ qua đạo đức có thể rất đáng kể.