Các công ty khởi nghiệp tạo công cụ để giám sát AI và thúc đẩy việc sử dụng AI có đạo đức

Trong suốt năm qua, có vẻ như người ta ngày càng chú ý nhiều hơn đến việc đảm bảo rằng AI được sử dụng một cách có đạo đức. Google và Microsoft đều có vừa cảnh báo nhà đầu tư việc lạm dụng thuật toán AI hoặc thuật toán AI được thiết kế kém sẽ gây ra rủi ro về đạo đức và pháp lý. Trong khi đó, bang California vừa quyết định Vượt qua hóa đơn cấm các cơ quan thực thi pháp luật của California sử dụng công nghệ nhận dạng khuôn mặt.

Gần đây, các công ty khởi nghiệp như Arthur đang cố gắng thiết kế các công cụ giúp các kỹ sư AI định lượng và đánh giá hiệu quả hoạt động của các mô hình học máy của họ. Theo báo cáo của Wired, Arthur đang cố gắng cung cấp cho các nhà phát triển AI một bộ công cụ giúp họ phát hiện ra các vấn đề dễ dàng hơn khi thiết kế các ứng dụng tài chính, chẳng hạn như tiết lộ sự thiên vị trong các quyết định đầu tư hoặc cho vay.

Những nỗ lực của Arthur là nhằm giải quyết vấn đề Vấn đề “hộp đen” của AI. Vấn đề hộp đen trong AI mô tả cách không giống như mã truyền thống, có thể dễ dàng hiểu được bởi những người biết cách đọc nó, các hệ thống máy học ánh xạ các tính năng thành hành vi mà không tiết lộ lý do mà các hành vi này được chọn/cách các tính năng được diễn giải. Nói cách khác, trong một hệ thống hộp đen, việc triển khai chính xác thuật toán là không rõ ràng.

Các hệ thống máy học hoạt động bằng cách trích xuất các mẫu từ dữ liệu đầu vào và suy luận về các mẫu này. Điều này được thực hiện bằng cách cơ bản yêu cầu một máy tính viết mã của riêng nó bằng cách thao tác các hàm toán học nhất định. Để giải quyết vấn đề này, các nhà nghiên cứu và kỹ sư cần có các công cụ giúp việc quan sát và phân tích hành vi của phần mềm máy học trở nên dễ dàng hơn. Các công ty khởi nghiệp như Arthur thừa nhận khó khăn trong việc giải quyết vấn đề này và không tuyên bố có các giải pháp tối ưu, nhưng họ hy vọng sẽ đạt được tiến bộ trong lĩnh vực này và giúp việc bẻ khóa hộp đen dễ dàng hơn một chút. Người ta hy vọng rằng nếu các hệ thống AI có thể được phân tích dễ dàng hơn, thì việc khắc phục các vấn đề như sai lệch cũng sẽ trở nên dễ dàng hơn.

Các công ty lớn như Facebook đã có sẵn một số công cụ để phân tích hoạt động bên trong của hệ thống máy học. Ví dụ: Facebook có một công cụ có tên là Fairness Flow nhằm đảm bảo quảng cáo giới thiệu việc làm cho mọi người nhắm mục tiêu đến mọi người từ mọi nền tảng khác nhau. Tuy nhiên, có khả năng là các nhóm AI lớn sẽ không muốn đầu tư thời gian vào việc tạo ra các công cụ như vậy và do đó, có cơ hội kinh doanh cho các công ty muốn tạo các công cụ giám sát để các công ty AI sử dụng.

Arthur tập trung vào việc tạo ra các công cụ cho phép các công ty bảo trì và giám sát các hệ thống AI tốt hơn sau khi hệ thống đã được triển khai. Các công cụ của Arthur nhằm mục đích cho phép các công ty thấy hiệu suất hệ thống của họ thay đổi như thế nào theo thời gian, điều này về mặt lý thuyết sẽ cho phép các công ty nhận ra các biểu hiện thiên vị tiềm ẩn. Nếu phần mềm đề xuất khoản vay của công ty bắt đầu loại trừ một số nhóm khách hàng nhất định, cờ có thể được đặt cho biết hệ thống cần xem xét để đảm bảo hệ thống không phân biệt đối xử với khách hàng dựa trên các thuộc tính nhạy cảm như chủng tộc hoặc giới tính.

Tuy nhiên, Arthur không phải là công ty duy nhất tạo ra các công cụ cho phép các công ty AI xem xét hiệu suất của các thuật toán của họ. Nhiều công ty khởi nghiệp đang đầu tư vào việc tạo ra các công cụ để chống lại sự thiên vị và đảm bảo rằng các thuật toán AI đang được sử dụng một cách có đạo đức. Weights & Biases là một công ty khởi nghiệp khác tạo ra các công cụ để giúp các kỹ sư máy học phân tích các vấn đề tiềm ẩn với mạng của họ. Toyota đã sử dụng các công cụ do Weights & Biases tạo ra để giám sát các thiết bị máy học của họ khi họ đào tạo. Trong khi đó, công ty khởi nghiệp Fiddler đang làm việc để tạo ra một bộ công cụ giám sát AI khác. IBM thậm chí đã tạo ra dịch vụ giám sát của riêng mình có tên là OpenScale.

Liz O'Sullivan, một trong những người đồng sáng tạo Arthur, giải thích rằng sở thích tạo ra các công cụ giúp giải quyết vấn đề Hộp đen được thúc đẩy bởi nhận thức ngày càng tăng về sức mạnh của AI.

“Mọi người bắt đầu nhận ra sức mạnh của các hệ thống này và họ cần tận dụng các lợi ích một cách có trách nhiệm,” O'Sullivan nói.