Các công ty khởi nghiệp tạo ra công cụ để giám sát Trí tuệ nhân tạo và thúc đẩy sử dụng Trí tuệ nhân tạo một cách đạo đức

Trong suốt quá trình của năm qua, dường như ngày càng nhiều sự chú ý được dành để đảm bảo rằng Trí tuệ nhân tạo được sử dụng theo các cách đạo đức. Google và Microsoft đã gần đây cảnh báo các nhà đầu tư rằng việc lạm dụng các thuật toán Trí tuệ nhân tạo hoặc các thuật toán Trí tuệ nhân tạo được thiết kế kém có thể gây ra các rủi ro về mặt đạo đức và pháp lý. Trong khi đó, bang California vừa quyết định đưa ra một dự luật cấm sử dụng công nghệ nhận dạng khuôn mặt bởi các cơ quan thực thi pháp luật của California.

Gần đây, các công ty khởi nghiệp như Arthur đã cố gắng thiết kế các công cụ sẽ giúp các kỹ sư Trí tuệ nhân tạo lượng hóa và đánh giá cách các mô hình học máy của họ hoạt động. Theo báo cáo của Wired, Arthur đang cố gắng cung cấp cho các nhà phát triển Trí tuệ nhân tạo một bộ công cụ sẽ giúp họ dễ dàng hơn trong việc phát hiện ra các vấn đề khi thiết kế các ứng dụng tài chính, như việc tiết lộ sự thiên vị trong các quyết định đầu tư hoặc cho vay.

Các nỗ lực của Arthur nhằm giải quyết vấn đề “hộp đen” của Trí tuệ nhân tạo. Vấn đề hộp đen trong Trí tuệ nhân tạo mô tả cách các hệ thống học máy ánh xạ các tính năng đến hành vi mà không tiết lộ lý do tại sao các hành vi này được chọn / cách các tính năng được giải thích. Nói cách khác, trong một hệ thống hộp đen, việc thực hiện chính xác của thuật toán là không rõ ràng.

Các hệ thống học máy hoạt động bằng cách trích xuất các mẫu từ dữ liệu đầu vào và suy luận về các mẫu này. Điều này được thực hiện bằng cách cơ bản cho phép máy tính viết mã của riêng nó bằng cách điều chỉnh các hàm toán học nhất định. Để giải quyết vấn đề này, các nhà nghiên cứu và kỹ sư cần các công cụ giúp việc quan sát và phân tích hành vi của phần mềm học máy trở nên dễ dàng hơn. Các công ty khởi nghiệp như Arthur thừa nhận sự khó khăn của việc giải quyết vấn đề này và không tuyên bố có các giải pháp tối ưu, nhưng họ hy vọng sẽ làm tiến bộ trong lĩnh vực này và giúp mở hộp đen một cách dễ dàng hơn. Nếu các hệ thống Trí tuệ nhân tạo có thể được phân tích dễ dàng hơn, nó sẽ trở nên dễ dàng hơn trong việc sửa chữa các vấn đề như thiên vị.

Các công ty lớn như Facebook đã có một số công cụ để phân tích các hoạt động bên trong của các hệ thống học máy. Ví dụ, Facebook có một công cụ gọi là Fairness Flow,旨在 đảm bảo rằng các quảng cáo giới thiệu việc làm cho người dùng nhắm vào người dùng từ tất cả các nền tảng khác nhau. Tuy nhiên, có khả năng các đội Trí tuệ nhân tạo lớn sẽ không muốn đầu tư thời gian vào việc tạo ra các công cụ như vậy, và do đó, một cơ hội kinh doanh tồn tại cho các công ty muốn tạo ra các công cụ giám sát cho các công ty Trí tuệ nhân tạo.

Arthur tập trung vào việc tạo ra các công cụ cho phép các công ty duy trì và giám sát các hệ thống Trí tuệ nhân tạo sau khi hệ thống đã được triển khai. Các công cụ của Arthur旨在 cho phép các công ty xem xét hiệu suất của hệ thống của họ thay đổi theo thời gian, điều này sẽ giúp các công ty phát hiện ra các biểu hiện tiềm năng của thiên vị. Nếu phần mềm giới thiệu khoản vay của một công ty bắt đầu loại trừ một số nhóm khách hàng, một lá cờ có thể được đặt để chỉ ra rằng hệ thống cần được xem xét lại để đảm bảo rằng nó không phân biệt đối xử với khách hàng dựa trên các thuộc tính nhạy cảm như chủng tộc hoặc giới tính.

Tuy nhiên, Arthur không phải là công ty duy nhất tạo ra các công cụ cho phép các công ty Trí tuệ nhân tạo xem xét hiệu suất của các thuật toán của họ. Nhiều công ty khởi nghiệp đang đầu tư vào việc tạo ra các công cụ để chống lại thiên vị và đảm bảo rằng các thuật toán Trí tuệ nhân tạo được sử dụng một cách đạo đức. Weights & Biases là một công ty khởi nghiệp khác tạo ra các công cụ để giúp các kỹ sư học máy phân tích các vấn đề tiềm ẩn với mạng lưới của họ. Toyota đã sử dụng các công cụ được tạo ra bởi Weights & Biases để giám sát các thiết bị học máy của họ khi chúng được đào tạo. Trong khi đó, công ty khởi nghiệp Fiddler đang cố gắng tạo ra một tập hợp các công cụ giám sát Trí tuệ nhân tạo khác. IBM thậm chí đã tạo ra một dịch vụ giám sát của riêng mình gọi là OpenScale.

Liz O’Sullivan, một trong những người đồng sáng lập của Arthur, giải thích rằng sự quan tâm đến việc tạo ra các công cụ để giúp giải quyết vấn đề Hộp đen được thúc đẩy bởi sự nhận thức ngày càng tăng về sức mạnh của Trí tuệ nhân tạo.

“Người ta bắt đầu nhận ra sức mạnh của các hệ thống này và rằng họ cần tận dụng các lợi ích của chúng theo cách có trách nhiệm,” O’Sullivan nói.