Lo ngại ngày càng tăng về ảo giác và thiên vị của Trí tuệ nhân tạo: Báo cáo năm 2024 của Aporia nhấn mạnh nhu cầu cấp thiết về tiêu chuẩn ngành

Một báo cáo gần đây từ Aporia, một nhà lãnh đạo trong lĩnh vực nền tảng kiểm soát trí tuệ nhân tạo, đã đưa ra một số phát hiện đáng chú ý trong lĩnh vực trí tuệ nhân tạo và học máy (AI & ML). Được đặt tên là “Báo cáo AI & ML năm 2024: Sự tiến hóa của mô hình và giải pháp,” cuộc khảo sát được thực hiện bởi Aporia cho thấy một xu hướng ngày càng tăng về ảo giác và thiên vị trong trí tuệ nhân tạo tạo sinh và mô hình ngôn ngữ lớn (LLM), báo hiệu một thách thức quan trọng cho một ngành công nghiệp đang nhanh chóng trưởng thành.

Ảo giác trí tuệ nhân tạo đề cập đến các trường hợp mà mô hình trí tuệ nhân tạo tạo sinh sản xuất ra đầu ra không chính xác, vô nghĩa hoặc không liên quan đến thực tế. Những ảo giác này có thể dao động từ các sai sót nhỏ đến các lỗi đáng kể, bao gồm cả việc tạo ra nội dung thiên vị hoặc có khả năng gây hại.

Hậu quả của ảo giác trí tuệ nhân tạo có thể rất nghiêm trọng, đặc biệt là khi những mô hình này ngày càng được tích hợp vào các khía cạnh khác nhau của kinh doanh và xã hội. Ví dụ, sự không chính xác trong thông tin được tạo ra bởi trí tuệ nhân tạo có thể dẫn đến thông tin sai lệch, trong khi nội dung thiên vị có thể củng cố các khuôn mẫu hoặc thực hành không công bằng. Trong các ứng dụng nhạy cảm như chăm sóc sức khỏe, tài chính hoặc tư vấn pháp lý, những sai sót như vậy có thể có ý nghĩa nghiêm trọng, ảnh hưởng đến quyết định và kết quả.

Các phát hiện của cuộc khảo sát nhấn mạnh sự cần thiết của việc giám sát và quan sát cẩn thận các mô hình sản xuất.

Khảo sát của Aporia bao gồm phản hồi từ 1.000 chuyên gia học máy dựa tại Bắc Mỹ và Vương quốc Anh. Những cá nhân này làm việc trong các công ty có quy mô từ 500 đến 7.000 nhân viên, thuộc các lĩnh vực như tài chính, chăm sóc sức khỏe, du lịch, bảo hiểm, phần mềm và bán lẻ. Các phát hiện nhấn mạnh cả thách thức và cơ hội mà các nhà lãnh đạo sản xuất học máy phải đối mặt, làm sáng tỏ vai trò quan trọng của tối ưu hóa trí tuệ nhân tạo để đạt được hiệu quả và tạo ra giá trị.

Các thông tin chính từ báo cáo bao gồm:

1. Sự phổ biến của Thách thức Hoạt động: Một tỷ lệ áp đảo 93% các kỹ sư học máy báo cáo gặp phải vấn đề với các mô hình sản xuất hàng ngày hoặc hàng tuần. Thống kê đáng kể này nhấn mạnh nhu cầu cấp thiết về các công cụ giám sát và kiểm soát hiệu quả để đảm bảo hoạt động trơn tru.
2. Sự cố của Ảo giác Trí tuệ nhân tạo: Một tỷ lệ đáng lo ngại 89% các kỹ sư làm việc với mô hình ngôn ngữ lớn và trí tuệ nhân tạo tạo sinh báo cáo gặp phải ảo giác trong những mô hình này. Những ảo giác này biểu hiện dưới dạng sai sót事 thực, thiên vị hoặc nội dung có thể gây hại.
3. Tập trung vào Việc Loại bỏ Thiên vị: Mặc dù gặp phải khó khăn trong việc phát hiện dữ liệu thiên vị và thiếu các công cụ giám sát đủ, một tỷ lệ đáng kể 83% người trả lời khảo sát nhấn mạnh tầm quan trọng của việc giám sát thiên vị trong các dự án trí tuệ nhân tạo.
4. Tầm quan trọng của Khả năng Quan sát Thời gian Thực: Một tỷ lệ đáng kể 88% chuyên gia học máy tin rằng khả năng quan sát thời gian thực là thiết yếu để xác định các vấn đề trong các mô hình sản xuất, một khả năng không có ở tất cả các doanh nghiệp do thiếu các công cụ giám sát tự động.
5. Đầu tư Tài nguyên vào Phát triển: Báo cáo cho thấy rằng, trung bình, các công ty đầu tư khoảng bốn tháng vào việc phát triển các công cụ và bảng điều khiển để giám sát sản xuất, làm nổi bật các lo ngại tiềm ẩn về hiệu quả và chi phí của những khoản đầu tư này.

“Báo cáo của chúng tôi cho thấy một sự đồng thuận rõ ràng trong ngành, các sản phẩm trí tuệ nhân tạo đang được triển khai với tốc độ nhanh, và sẽ có hậu quả nếu các mô hình học máy này không được giám sát,” Liran Hason, CEO của Aporia, cho biết. “Các kỹ sư đứng sau những công cụ này đã nói – có vấn đề với công nghệ và chúng có thể được sửa chữa. Nhưng cần có các công cụ quan sát phù hợp để đảm bảo rằng cả doanh nghiệp và người tiêu dùng đều nhận được sản phẩm tốt nhất có thể, không có ảo giác và thiên vị.”

Aporia, cam kết nâng cao hiệu quả của các sản phẩm trí tuệ nhân tạo được hỗ trợ bởi học máy, đã giải quyết các thách thức của MLOps và vận động cho các thực hành trí tuệ nhân tạo có trách nhiệm. Phương pháp tập trung vào khách hàng và tích hợp phản hồi người dùng của công ty đã dẫn đến sự phát triển của các công cụ và tính năng mạnh mẽ để cải thiện trải nghiệm người dùng, hỗ trợ sự mở rộng của các mô hình sản xuất và giúp loại bỏ ảo giác.

Báo cáo đầy đủ của Aporia cung cấp một cái nhìn sâu sắc về những phát hiện này và ý nghĩa của chúng đối với ngành công nghiệp trí tuệ nhân tạo. Để tìm hiểu thêm, hãy truy cập Báo cáo Khảo sát của Aporia.