ActionAI nhận được 10 triệu đô la để mang lại trách nhiệm và độ tin cậy cho trí tuệ nhân tạo doanh nghiệp

Sự áp dụng trí tuệ nhân tạo trong doanh nghiệp đã tăng tốc nhanh chóng, nhưng việc mở rộng quy mô của nó vượt quá các dự án thí điểm vẫn còn là một thách thức dai dẳng. Một lý do chính là niềm tin. Mặc dù nhân viên đang ngày càng sử dụng các công cụ trí tuệ nhân tạo trong công việc hàng ngày của họ, nhưng các tổ chức vẫn còn do dự khi dựa vào chúng cho các hoạt động cốt lõi nơi độ chính xác và trách nhiệm là quan trọng.

Khoảng cách đó là những gì ActionAI đang nhằm mục đích lấp đầy. Công ty đã công bố một vòng hạt giống 10 triệu đô la để xây dựng cơ sở hạ tầng làm cho các hệ thống trí tuệ nhân tạo đáng tin cậy đủ cho sử dụng doanh nghiệp quan trọng.

Tại sao việc áp dụng trí tuệ nhân tạo đang bị đình trệ

Mặc dù có sự thử nghiệm rộng rãi, nhưng hầu hết các sáng kiến trí tuệ nhân tạo doanh nghiệp không đạt được sản xuất. Dữ liệu nội bộ thường không được kiểm tra, đầu ra có thể không nhất quán và lỗi – đặc biệt là ảo giác – giới thiệu rủi ro hoạt động thực sự.

Nghiên cứu cho thấy rằng trong khi đa số nhân viên hiện đang sử dụng các công cụ trí tuệ nhân tạo tại nơi làm việc, nhưng nhiều người làm như vậy mà không kiểm tra độ chính xác. Đồng thời, một tỷ lệ lớn các trường hợp sử dụng trí tuệ nhân tạo doanh nghiệp vẫn còn bị kẹt ở chế độ thí điểm. Vấn đề không còn là liệu trí tuệ nhân tạo có khả năng hay không, mà liệu nó có thể được tin cậy hay không.

Điều này đặc biệt gây vấn đề trong các ngành như tài chính, bảo hiểm, chăm sóc sức khỏe và hậu cần, nơi những sai lầm có thể có hậu quả về quy định, tài chính hoặc pháp lý.

Xây dựng một lớp tin cậy cho trí tuệ nhân tạo

Cách tiếp cận của ActionAI là coi độ tin cậy là một lớp cơ bản chứ không phải là một ý tưởng sau cùng. Nền tảng của công ty được thiết kế để theo dõi và đánh giá các hệ thống trí tuệ nhân tạo trên toàn bộ vòng đời – từ dữ liệu đào tạo đến đầu ra cuối cùng.

Thay vì chỉ tập trung vào hiệu suất của mô hình, hệ thống ánh xạ cách dữ liệu chảy qua từng giai đoạn của ngăn xếp trí tuệ nhân tạo. Điều này cho phép các nhóm xác định chính xác nơi xảy ra lỗi, liệu ở mức đầu vào, trong quá trình xử lý hay ở giai đoạn đầu ra.

Một thành phần chính của nền tảng là khả năng gỡ lỗi các vấn đề trong thời gian thực. Khi có điều gì đó đi sai, các nhóm có thể cô lập nguyên nhân gốc rễ nhanh chóng và giải quyết các trường hợp ngoại lệ trước khi chúng trở thành các vấn đề lớn hơn.

Giới thiệu các ngoại lệ có thể giải thích

Một trong những yếu tố đặc biệt của nền tảng là một hệ thống gọi là Explainable Exceptions (ExEx). Thay vì buộc các hệ thống trí tuệ nhân tạo phải hành động với đầu ra không chắc chắn, ExEx phát hiện khi mô hình thiếu tự tin và chuyển nhiệm vụ đến con người.

Điều làm cho cách tiếp cận này đáng chú ý là nó không chỉ đơn giản là đánh dấu một vấn đề – nó cung cấp lý do. Các nhà xem xét của con người nhận được ngữ cảnh giải thích tại sao mô hình trí tuệ nhân tạo không chắc chắn, cho phép họ đưa ra quyết định nhanh hơn và thông minh hơn.

Điều này tạo ra một luồng công việc con người trong vòng lặp có cấu trúc mà không làm chậm hoạt động nhưng thay vào đó hoạt động như một biện pháp an toàn. Nó đảm bảo rằng các đầu ra không chắc chắn hoặc có rủi ro cao không bao giờ đi qua hệ thống mà không được chú ý.

Từ giám sát đến kiểm soát liên tục

Ngoài việc triển khai, nền tảng tiếp tục theo dõi hiệu suất của trí tuệ nhân tạo trong sản xuất. Nó theo dõi cách các hệ thống phản ứng với dữ liệu mới, điều kiện thay đổi hoặc hướng dẫn cập nhật.

Khi hiệu suất giảm hoặc các bất thường xuất hiện, hệ thống tự động đánh dấu chúng, giúp các tổ chức duy trì sự nhất quán theo thời gian. Điều này đặc biệt quan trọng khi các mô hình trí tuệ nhân tạo bị suy giảm hoặc hành xử không thể đoán trước khi tiếp xúc với các đầu vào mới.

Mục tiêu là chuyển từ các triển khai trí tuệ nhân tạo tĩnh sang các hệ thống được quản lý liên tục mà không hy sinh độ tin cậy.

ActionAI tập trung vào các lĩnh vực mà độ chính xác là không thể thương lượng. Điều này bao gồm dịch vụ tài chính, sản xuất, bán lẻ, bảo hiểm, chuỗi cung ứng và hệ thống pháp lý.

Trong những môi trường này, thậm chí những sai lầm nhỏ cũng có thể tạo ra các vấn đề liên tiếp. Bằng cách giới thiệu sự giám sát, khả năng theo dõi và xử lý ngoại lệ có cấu trúc, nền tảng được thiết kế để làm cho trí tuệ nhân tạo trở nên khả thi trong các ngữ cảnh mà trước đây nó được coi là quá rủi ro.

Chuyển đổi sang trí tuệ nhân tạo có trách nhiệm

Đối với người sáng lập Miriam Haart, vấn đề cốt lõi không chỉ là cải thiện hiệu suất của trí tuệ nhân tạo, mà còn làm cho các hệ thống có trách nhiệm từ đầu.

Kiến trúc của công ty tập trung vào việc xác thực dữ liệu trước khi nó vào hệ thống, theo dõi hành vi trong quá trình thực hiện và đảm bảo đầu ra có thể được giải thích và kiểm toán sau đó. Tính minh bạch từ đầu đến cuối này là điều cho phép các tổ chức chuyển từ thí điểm sang triển khai toàn diện.

Ý nghĩa rộng lớn hơn của vòng tài trợ này là một sự thay đổi trong cách các doanh nghiệp nghĩ về trí tuệ nhân tạo. Thay vì coi nó như một công cụ được thêm vào các hệ thống hiện có, các công ty đang bắt đầu xem nó như một phần cơ sở hạ tầng cốt lõi – thứ phải đáp ứng các tiêu chuẩn giống như bất kỳ hệ thống quan trọng nào.

ActionAI đang định vị mình tại điểm giao nhau đó, nơi hiệu suất alone không còn đủ. Độ tin cậy, minh bạch và kiểm soát đang trở thành các yêu cầu định nghĩa cho việc áp dụng trí tuệ nhân tạo doanh nghiệp.

Nếu những yếu tố đó có thể được tiêu chuẩn hóa, trí tuệ nhân tạo có thể cuối cùng chuyển từ các dự án thí điểm bị cô lập sang các hoạt động được tích hợp đầy đủ trên toàn doanh nghiệp.