Các công ty khởi nghiệp tạo ra công cụ để giám sát Trí tuệ nhân tạo và thúc đẩy việc sử dụng Trí tuệ nhân tạo một cách đạo đức

Trong suốt thời gian qua, dường như ngày càng có nhiều sự chú ý được dành cho việc đảm bảo rằng Trí tuệ nhân tạo được sử dụng theo cách đạo đức. Google (GOOGL ) và Microsoft (MSFT ) đã cảnh báo nhà đầu tư rằng việc lạm dụng các thuật toán Trí tuệ nhân tạo hoặc thiết kế kém có thể dẫn đến rủi ro về mặt đạo đức và pháp lý. Trong khi đó, bang California vừa quyết định thông qua một dự luật cấm sử dụng công nghệ nhận diện khuôn mặt bởi các cơ quan thực thi pháp luật của California.

Gần đây, các công ty khởi nghiệp như Arthur đã cố gắng thiết kế các công cụ giúp các kỹ sư Trí tuệ nhân tạo lượng hóa và đánh giá hiệu suất của các mô hình học máy. Theo báo cáo của Wired, Arthur đang cố gắng cung cấp cho các nhà phát triển Trí tuệ nhân tạo một bộ công cụ giúp họ dễ dàng hơn trong việc phát hiện ra các vấn đề khi thiết kế các ứng dụng tài chính, như việc tiết lộ sự thiên vị trong quyết định đầu tư hoặc cho vay.

Các nỗ lực của Arthur nhằm giải quyết vấn đề “hộp đen” của Trí tuệ nhân tạo. Vấn đề hộp đen trong Trí tuệ nhân tạo mô tả cách các hệ thống học máy ánh xạ các tính năng đến hành vi mà không tiết lộ lý do tại sao các hành vi này được chọn / cách các tính năng này được giải thích. Nói cách khác, trong một hệ thống hộp đen, việc thực hiện chính xác của thuật toán là không rõ ràng.

Các hệ thống học máy hoạt động bằng cách trích xuất các mẫu từ dữ liệu đầu vào và suy luận về các mẫu này. Điều này được thực hiện bằng cách cơ bản cho phép máy tính viết mã của riêng nó bằng cách điều chỉnh các hàm toán học nhất định. Để giải quyết vấn đề này, các nhà nghiên cứu và kỹ sư cần các công cụ giúp việc quan sát và phân tích hành vi của phần mềm học máy trở nên dễ dàng hơn. Các công ty khởi nghiệp như Arthur thừa nhận sự khó khăn của việc giải quyết vấn đề này và không tuyên bố có giải pháp tối ưu, nhưng họ hy vọng sẽ làm tiến bộ trong lĩnh vực này và làm cho việc “mở hộp đen” trở nên dễ dàng hơn. Hy vọng rằng nếu các hệ thống Trí tuệ nhân tạo có thể được phân tích dễ dàng hơn, thì sẽ dễ dàng hơn trong việc sửa chữa các vấn đề như thiên vị.

Các công ty lớn như Facebook (META ) đã có một số công cụ để phân tích các hoạt động bên trong của các hệ thống học máy. Ví dụ, Facebook có một công cụ gọi là Fairness Flow nhằm đảm bảo rằng các quảng cáo đề xuất việc làm nhắm vào mọi người từ các nền tảng khác nhau. Tuy nhiên, có thể các đội Trí tuệ nhân tạo lớn sẽ không muốn đầu tư thời gian vào việc tạo ra các công cụ như vậy, và do đó, một cơ hội kinh doanh tồn tại cho các công ty muốn tạo ra các công cụ giám sát cho các công ty Trí tuệ nhân tạo.

Arthur tập trung vào việc tạo ra các công cụ cho phép các công ty duy trì và giám sát các hệ thống Trí tuệ nhân tạo sau khi hệ thống đã được triển khai. Các công cụ của Arthur nhằm cho phép các công ty xem hiệu suất của hệ thống thay đổi theo thời gian, điều này về lý thuyết sẽ cho phép các công ty phát hiện ra các biểu hiện tiềm năng của thiên vị. Nếu phần mềm đề xuất khoản vay của một công ty bắt đầu loại trừ một số nhóm khách hàng, một lá cờ có thể được đặt để chỉ ra rằng hệ thống cần được xem xét lại để đảm bảo rằng nó không phân biệt đối xử với khách hàng dựa trên các thuộc tính nhạy cảm như chủng tộc hoặc giới tính.

Tuy nhiên, Arthur không phải là công ty duy nhất tạo ra các công cụ cho phép các công ty Trí tuệ nhân tạo xem xét hiệu suất của các thuật toán. Nhiều công ty khởi nghiệp đang đầu tư vào việc tạo ra các công cụ để chống lại thiên vị và đảm bảo rằng các thuật toán Trí tuệ nhân tạo được sử dụng một cách đạo đức. Weights & Biases là một công ty khởi nghiệp khác đang tạo ra các công cụ để giúp các kỹ sư học máy phân tích các vấn đề tiềm năng với mạng lưới của họ. Toyota đã sử dụng các công cụ do Weights & Biases tạo ra để giám sát các thiết bị học máy của họ khi chúng được đào tạo. Trong khi đó, công ty khởi nghiệp Fiddler đang làm việc để tạo ra một tập hợp các công cụ giám sát Trí tuệ nhân tạo khác. IBM thậm chí đã tạo ra một dịch vụ giám sát của riêng mình gọi là OpenScale.

Liz O’Sullivan, một trong những người đồng sáng lập của Arthur, giải thích rằng sự quan tâm đến việc tạo ra các công cụ để giúp giải quyết vấn đề Hộp đen được thúc đẩy bởi sự nhận thức ngày càng tăng về sức mạnh của Trí tuệ nhân tạo.

“Người dân đang bắt đầu nhận ra sức mạnh của những hệ thống này và rằng họ cần tận dụng lợi ích của chúng một cách có trách nhiệm,” O’Sullivan nói.