Đạo đức
Xem xét Đạo đức Khi Phát triển Trí tuệ Nhân tạo để Nhận dạng Cảm xúc
Trí tuệ nhân tạo để điều chỉnh cảm xúc là một trong những tiến bộ công nghệ mới nhất trong lĩnh vực học máy. Mặc dù nó thể hiện tiềm năng lớn, nhưng các vấn đề đạo đức có thể ảnh hưởng đến tốc độ áp dụng và tuổi thọ của nó. Các nhà phát triển AI có thể vượt qua chúng không?
Nhận dạng Cảm xúc AI là gì?
Nhận dạng cảm xúc AI là một loại mô hình học máy. Nó thường dựa trên công nghệ tầm nhìn máy tính để chụp và phân tích các biểu cảm khuôn mặt để giải mã tâm trạng trong hình ảnh và video. Tuy nhiên, nó cũng có thể hoạt động trên các đoạn âm thanh để xác định giọng nói hoặc văn bản viết để đánh giá cảm xúc của ngôn ngữ.
Loại thuật toán này đại diện cho tiến bộ fascin trong lĩnh vực AI vì cho đến nay, các mô hình không thể hiểu được cảm xúc của con người. Mặc dù các mô hình ngôn ngữ lớn như ChatGPT có thể mô phỏng tâm trạng và nhân vật một cách thuyết phục, nhưng chúng chỉ có thể kết hợp các từ một cách logic – chúng không thể cảm nhận được bất cứ điều gì và không thể hiện sự thông minh cảm xúc. Mặc dù mô hình nhận dạng cảm xúc không thể có cảm xúc, nhưng nó vẫn có thể phát hiện và phân loại chúng. Sự phát triển này rất quan trọng vì nó cho thấy AI có thể sớm hiểu và thể hiện hạnh phúc, buồn hoặc giận dữ. Những bước nhảy vĩ đại như thế này cho thấy sự tiến bộ nhanh chóng.
Trường hợp Sử dụng cho Nhận dạng Cảm xúc AI
Doanh nghiệp, giáo viên, tư vấn và chuyên gia chăm sóc sức khỏe tâm lý là một số nhóm có thể sử dụng AI để nhận dạng cảm xúc.
Đánh giá Rủi ro trong Văn phòng
Các nhóm nhân sự có thể sử dụng thuật toán để thực hiện phân tích cảm xúc trên thư từ hoặc trò chuyện trong ứng dụng giữa các thành viên trong nhóm. Ngoài ra, họ có thể tích hợp thuật toán của mình vào hệ thống giám sát hoặc tầm nhìn máy tính. Người dùng có thể theo dõi tâm trạng để tính toán các chỉ số như rủi ro nghỉ việc, tốc độ kiệt sức và sự hài lòng của nhân viên.
Hỗ trợ Đại lý Dịch vụ Khách hàng
Các nhà bán lẻ có thể sử dụng đại lý dịch vụ khách hàng AI trong nhà cho người dùng cuối hoặc trợ lý ảo để giải quyết các tình huống căng thẳng cao. Vì mô hình của họ có thể nhận ra tâm trạng, nó có thể đề xuất các kỹ thuật giảm căng thẳng hoặc thay đổi giọng điệu khi nó nhận ra một người tiêu dùng đang trở nên giận dữ. Các biện pháp đối phó như vậy có thể cải thiện sự hài lòng và giữ chân khách hàng.
Giúp Học sinh trong Lớp học
Giáo viên có thể sử dụng AI này để giữ cho người học từ xa không bị tụt lại phía sau. Một công ty khởi nghiệp đã sử dụng công cụ của mình để đo điểm cơ trên khuôn mặt của học sinh trong khi phân loại tốc độ và điểm số của họ. Phương pháp này xác định tâm trạng, động lực, điểm mạnh và điểm yếu của họ. Người sáng lập khẳng định họ đạt điểm cao hơn 10% trong các bài kiểm tra khi sử dụng phần mềm.
Thực hiện Nghiên cứu Thị trường Nội bộ
Doanh nghiệp có thể thực hiện nghiên cứu thị trường nội bộ bằng cách sử dụng mô hình nhận dạng cảm xúc. Nó có thể giúp họ hiểu chính xác cách khán giả mục tiêu của họ phản ứng với sản phẩm, dịch vụ hoặc tài liệu tiếp thị của họ, cung cấp cho họ thông tin sâu sắc dựa trên dữ liệu. Kết quả là, họ có thể tăng tốc thời gian đưa sản phẩm ra thị trường và tăng doanh thu.
Vấn đề Với Sử dụng AI để Phát hiện Cảm xúc
Nghiên cứu cho thấy độ chính xác phụ thuộc rất nhiều vào thông tin đào tạo. Một nhóm nghiên cứu – cố gắng giải mã cảm xúc từ hình ảnh – đã chứng minh khái niệm này khi mô hình của họ đạt độ chính xác 92,05% trên tập dữ liệu Biểu cảm Khuôn mặt Nữ Nhật Bản và độ chính xác 98,13% trên tập dữ liệu Extended Cohn-Kanade.
Mặc dù sự khác biệt giữa 92% và 98% có thể seem không đáng kể, nhưng nó lại rất quan trọng – sự khác biệt nhỏ này có thể có những hậu quả đáng kể. Để tham khảo, tỷ lệ ngộ độc dữ liệu thấp đến 0,001% đã chứng minh hiệu quả trong việc thiết lập các cửa hậu mô hình hoặc gây ra sự phân loại sai cố ý. Thậm chí một phần nhỏ của tỷ lệ phần trăm cũng rất quan trọng.
Hơn nữa, mặc dù các nghiên cứu dường như đầy hứa hẹn – tỷ lệ chính xác trên 90% cho thấy tiềm năng – các nhà nghiên cứu tiến hành chúng trong môi trường được kiểm soát. Trong thế giới thực, hình ảnh mờ, biểu cảm khuôn mặt giả, góc độ xấu và cảm xúc tinh tế nhiều hơn. Nói cách khác, AI có thể không thể hoạt động một cách nhất quán.
Tình hình Hiện tại của Nhận dạng Cảm xúc AI
Phân tích cảm xúc thuật toán là quá trình sử dụng thuật toán để xác định xem giọng điệu của văn bản là tích cực, trung lập hay tiêu cực. Công nghệ này có thể được coi là nền tảng cho các mô hình phát hiện cảm xúc hiện đại vì nó đã mở đường cho việc đánh giá tâm trạng thuật toán. Các công nghệ tương tự như phần mềm nhận dạng khuôn mặt cũng đã góp phần vào sự tiến bộ.
Các thuật toán ngày nay chủ yếu có thể phát hiện chỉ các tâm trạng đơn giản như hạnh phúc, buồn, giận, sợ hãi và ngạc nhiên với các mức độ chính xác khác nhau. Những biểu cảm khuôn mặt này là bẩm sinh và phổ quát – nghĩa là chúng tự nhiên và được hiểu trên toàn cầu – vì vậy việc đào tạo AI để xác định chúng là tương đối đơn giản.
Hơn nữa, các biểu cảm khuôn mặt cơ bản thường được phóng đại. Người ta nhíu mày khi giận, cau mày khi buồn, mỉm cười khi hạnh phúc và mở to mắt khi bị sốc. Những biểu cảm đơn giản, kịch tính này dễ dàng phân biệt. Các cảm xúc phức tạp hơn khó xác định hơn vì chúng tinh tế hoặc kết hợp các biểu cảm cơ bản.
Vì phần lớn AI này vẫn còn trong nghiên cứu và phát triển, nó chưa tiến bộ đến mức bao gồm các cảm xúc phức tạp như nhớ nhung, xấu hổ, đau buồn, ghen tị, nhẹ nhõm hoặc bối rối. Mặc dù nó có thể bao gồm nhiều hơn trong tương lai, nhưng không có gì đảm bảo nó sẽ có thể giải thích tất cả chúng.
Trong thực tế, các thuật toán có thể không bao giờ có thể cạnh tranh với con người. Để tham khảo, trong khi tập dữ liệu GPT-4 của OpenAI khoảng 1 petabyte, một milimét khối của não người chứa khoảng 1,4 petabyte dữ liệu. Các nhà khoa học thần kinh không thể hiểu đầy đủ cách não nhận thức cảm xúc mặc dù đã nghiên cứu nhiều thập kỷ, vì vậy việc xây dựng một AI chính xác cao có thể là không thể.
Mặc dù việc sử dụng công nghệ này để nhận dạng cảm xúc có tiền lệ, lĩnh vực này vẫn còn trong giai đoạn sơ sinh. Có rất nhiều nghiên cứu về khái niệm này, nhưng rất ít ví dụ về việc triển khai quy mô lớn trong thế giới thực. Một số dấu hiệu cho thấy việc áp dụng chậm có thể là do lo ngại về độ chính xác không nhất quán và các vấn đề đạo đức.
Xem xét Đạo đức cho Các Nhà Phát triển AI
Theo một cuộc khảo sát, 67% người được hỏi đồng ý AI nên được quản lý nhiều hơn hoặc ít hơn. Để làm cho mọi người yên tâm, các nhà phát triển nên giảm thiểu sự thiên vị, đảm bảo mô hình của họ hoạt động như mong đợi và cải thiện kết quả. Những giải pháp này có thể đạt được nếu họ ưu tiên các xem xét đạo đức trong quá trình phát triển.
1. Thu Thập và Sử dụng Dữ liệu Đồng ý
Sự đồng ý là mọi thứ trong một thời đại mà việc quản lý AI đang tăng lên. Điều gì xảy ra nếu nhân viên phát hiện ra biểu cảm khuôn mặt của họ đang được phân loại mà không có kiến thức của họ? Phụ huynh có cần ký vào phân tích cảm xúc dựa trên giáo dục hay học sinh có thể quyết định cho mình?
Các nhà phát triển nên tiết lộ rõ ràng thông tin mà mô hình sẽ thu thập, khi nào nó sẽ hoạt động, phân tích sẽ được sử dụng cho mục đích gì và ai có thể truy cập vào những chi tiết đó. Ngoài ra, họ nên bao gồm các tính năng tắt để các cá nhân có thể tùy chỉnh các quyền.
2. Đầu ra Phân tích Cảm xúc Ẩn danh
Mã hóa dữ liệu là vấn đề về quyền riêng tư cũng như bảo mật. Các nhà phát triển nên ẩn danh thông tin cảm xúc họ thu thập để bảo vệ những người liên quan. Ít nhất, họ nên xem xét việc sử dụng mã hóa tại chỗ.
3. Ra quyết định có Sự tham gia của Con người
Lý do duy nhất để sử dụng AI để xác định trạng thái cảm xúc của ai đó là để thông báo quyết định. Cho dù nó được sử dụng trong khả năng chăm sóc sức khỏe tâm lý hay môi trường bán lẻ, nó sẽ ảnh hưởng đến con người. Các nhà phát triển nên tận dụng các biện pháp an toàn có sự tham gia của con người để giảm thiểu hành vi không mong muốn.
4. Phản hồi Hướng đến Con người cho Đầu ra AI
Ngay cả khi một thuật toán có độ chính xác gần 100%, nó vẫn sẽ tạo ra các kết quả dương tính giả. Xem xét nó không phổ biến cho các mô hình đạt 50% hoặc 70% – và điều đó không chạm vào các vấn đề thiên vị hoặc ảo giác – các nhà phát triển nên xem xét việc triển khai một hệ thống phản hồi.
Mọi người nên có thể xem xét những gì AI nói về trạng thái cảm xúc của họ và kháng cáo nếu họ tin rằng nó là sai. Mặc dù một hệ thống như vậy sẽ yêu cầu các biện pháp bảo vệ và trách nhiệm, nhưng nó sẽ giảm thiểu các tác động tiêu cực từ đầu ra không chính xác.
Hậu quả của Việc Bỏ qua Đạo đức
Các xem xét đạo đức nên là ưu tiên hàng đầu cho các kỹ sư AI, nhà phát triển học máy và chủ sở hữu doanh nghiệp vì nó ảnh hưởng đến họ. Xem xét ý kiến công chúng ngày càng không chắc chắn và các quy định siết chặt, hậu quả của việc bỏ qua đạo đức có thể là đáng kể.
