đạo đức học
Mối lo ngại ngày càng tăng về ảo giác và thành kiến AI: Báo cáo năm 2024 của Aporia nêu bật nhu cầu cấp thiết về các tiêu chuẩn ngành
A báo cáo gần đây từ Aporia, công ty hàng đầu trong lĩnh vực nền tảng điều khiển AI, đã đưa ra ánh sáng một số phát hiện đáng kinh ngạc trong lĩnh vực trí tuệ nhân tạo và học máy (AI & ML). Với tiêu đề “Báo cáo AI & ML năm 2024: Sự phát triển của mô hình & giải pháp”, cuộc khảo sát do Aporia thực hiện chỉ ra xu hướng ảo giác và thành kiến ngày càng tăng trong AI tổng quát và các mô hình ngôn ngữ lớn (LLM), báo hiệu một thách thức quan trọng đối với một ngành đang nhanh chóng tiến tới trưởng thành.
ảo giác AI đề cập đến các trường hợp có tính sáng tạo mô hình AI sáng tạo tạo ra những kết quả đầu ra không chính xác, vô nghĩa hoặc xa rời thực tế. Những ảo giác này có thể bao gồm từ những sai sót nhỏ đến sai sót nghiêm trọng, bao gồm cả việc tạo ra nội dung sai lệch hoặc có khả năng gây hại.
Hậu quả của ảo giác AI có thể rất đáng kể, đặc biệt khi những mô hình này ngày càng được tích hợp vào các khía cạnh khác nhau của kinh doanh và xã hội. Ví dụ: thông tin do AI tạo ra không chính xác có thể dẫn đến thông tin sai lệch, trong khi nội dung sai lệch có thể duy trì định kiến hoặc các hành vi không công bằng. Trong các ứng dụng nhạy cảm như chăm sóc sức khỏe, tài chính hoặc tư vấn pháp lý, những lỗi như vậy có thể gây ra hậu quả nghiêm trọng, ảnh hưởng đến các quyết định và kết quả.
Các phát hiện của cuộc khảo sát nhấn mạnh sự cần thiết của việc giám sát và quan sát thận trọng các mô hình sản xuất.
Cuộc khảo sát của Aporia bao gồm câu trả lời từ 1,000 chuyên gia học máy có trụ sở tại Bắc Mỹ và Vương quốc Anh. Những cá nhân này làm việc trong các công ty có từ 500 đến 7,000 nhân viên, trong các lĩnh vực như tài chính, chăm sóc sức khỏe, du lịch, bảo hiểm, phần mềm và bán lẻ. Các phát hiện này nhấn mạnh cả những thách thức và cơ hội mà các nhà lãnh đạo sản xuất ML phải đối mặt, làm sáng tỏ vai trò quan trọng của việc tối ưu hóa AI đối với hiệu quả và tạo ra giá trị.
Những hiểu biết chính từ báo cáo bao gồm:
- Sự phổ biến của các thách thức vận hành: 93% kỹ sư máy học cho biết họ gặp phải sự cố với các mô hình sản xuất hàng ngày hoặc hàng tuần. Thống kê quan trọng này nhấn mạnh nhu cầu quan trọng về các công cụ giám sát và kiểm soát hiệu quả để đảm bảo hoạt động trơn tru.
- Tỷ lệ ảo giác AI: Khoảng 89% kỹ sư làm việc với các mô hình ngôn ngữ lớn và AI tổng quát báo cáo đã gặp phải ảo giác trong các mô hình này. Những ảo giác này biểu hiện dưới dạng sai sót thực tế, thành kiến hoặc nội dung có thể gây hại.
- Tập trung vào việc giảm thiểu thành kiến: Bất chấp những trở ngại trong việc phát hiện dữ liệu sai lệch và thiếu các công cụ giám sát đầy đủ, 83% số người tham gia khảo sát nhấn mạnh tầm quan trọng của việc giám sát sai lệch trong các dự án AI.
- Tầm quan trọng của khả năng quan sát thời gian thực: Đáng kể 88% chuyên gia về máy học tin rằng khả năng quan sát theo thời gian thực là điều cần thiết để xác định các vấn đề trong mô hình sản xuất, một khả năng không có ở tất cả các doanh nghiệp do thiếu công cụ giám sát tự động.
- Đầu tư nguồn lực vào phát triển: Báo cáo tiết lộ rằng, trung bình, các công ty đầu tư khoảng bốn tháng để phát triển các công cụ và bảng điều khiển để giám sát sản xuất, nêu bật những lo ngại tiềm ẩn về hiệu quả và hiệu quả chi phí của các khoản đầu tư đó.
“Báo cáo của chúng tôi cho thấy sự đồng thuận rõ ràng trong ngành, các sản phẩm AI đang được triển khai với tốc độ chóng mặt và sẽ có hậu quả nếu các mô hình ML này không được giám sát,” Liran Hason, Giám đốc điều hành của Aporia cho biết. “Các kỹ sư đằng sau những công cụ này đã lên tiếng – có vấn đề với công nghệ và chúng có thể được khắc phục. Nhưng cần có các công cụ quan sát chính xác để đảm bảo doanh nghiệp cũng như người tiêu dùng nhận được sản phẩm tốt nhất có thể, không gây ảo giác và thiên vị.”
Aporia, cam kết nâng cao hiệu quả của các sản phẩm AI được cung cấp bởi máy học, đã giải quyết các thách thức của MLOps và ủng hộ các hoạt động thực hành AI có trách nhiệm. Cách tiếp cận lấy khách hàng làm trung tâm và tích hợp phản hồi của người dùng đã dẫn đến việc phát triển các công cụ và tính năng mạnh mẽ để cải thiện trải nghiệm người dùng, hỗ trợ mở rộng mô hình sản xuất và giúp loại bỏ ảo giác.
Báo cáo đầy đủ của Aporia cung cấp cái nhìn sâu sắc về những phát hiện này và ý nghĩa của chúng đối với ngành AI. Để khám phá thêm, hãy truy cập Báo cáo khảo sát của Aporia.
