Khởi nghiệp Unbiased Nhằm Tăng Cường Minh Bạch Trong Dữ Liệu Thông Qua Blockchain, Đấu Tranh Với Sự Th偏见 Của Dữ Liệu

Hiệu ứng của sự thiên vị dữ liệu trong trí tuệ nhân tạo đã được ghi nhận rõ ràng, và khi các thuật toán trí tuệ nhân tạo và học máy xâm nhập sâu vào mọi lĩnh vực của xã hội, các công ty trí tuệ nhân tạo đang tìm kiếm những cách mới để đảm bảo rằng các thuật toán họ phát triển không kế thừa sự thiên vị của con người. Một trong những người chơi mới trong lĩnh vực trí tuệ nhân tạo và học máy, nhằm giảm thiểu sự thiên vị dữ liệu, là startup có tên minh bạch là Unbiased. Unbiased đã ra mắt một thị trường dữ liệu mới trên nền tảng blockchain hoạt động Telos, với hy vọng cung cấp cho khách hàng các công cụ và ứng dụng phân tán, ưu tiên quyền riêng tư cho khoa học dữ liệu và trí tuệ nhân tạo.

Thị trường trí tuệ nhân tạo toàn cầu dự kiến sẽ tiếp tục tăng trưởng nhanh trong suốt thập kỷ tới, đạt khoảng 266 tỷ đô la vào năm 2027. Trong bốn năm tới, chi tiêu toàn cầu cho các hệ thống và thành phần trí tuệ nhân tạo liên quan dự kiến sẽ tăng gấp đôi, đạt khoảng 110 tỷ đô la vào năm 2024 theo IDC. Sự áp dụng nhanh chóng các thuật toán trí tuệ nhân tạo trong nhiều ngành công nghiệp hơn đã dẫn đến những lo ngại ngày càng tăng về tính minh bạch, quyền riêng tư, công bằng và đại diện của các hệ thống trí tuệ nhân tạo.

Giảm Thiểu Sự Thiên Vị Thông Qua Minh Bạch

Theo một báo cáo gần đây được phát hành bởi Viện Nghiên cứu CapGemini, với tiêu đề “Trí tuệ nhân tạo và vấn đề đạo đức: Làm thế nào các tổ chức có thể xây dựng các hệ thống trí tuệ nhân tạo vững chắc về mặt đạo đức và giành được niềm tin”, việc sử dụng trí tuệ nhân tạo một cách đạo đức đã trở thành một vấn đề quan trọng đối với các nhà lãnh đạo CNTT trên toàn thế giới, với đa số các nhà lãnh đạo CNTT hiện nay đều bày tỏ lo ngại về việc sử dụng sai các hệ thống trí tuệ nhân tạo. Khoảng 9 trong số 10 tổ chức CNTT cho biết họ đã biết về ít nhất một vụ việc tạo ra các vấn đề về đạo đức do việc áp dụng một hệ thống trí tuệ nhân tạo. Khoảng hai phần ba các nhà điều hành CNTT cho biết họ nhận thức được sự thiên vị phân biệt đối xử trong các hệ thống trí tuệ nhân tạo, và khoảng một nửa trong số tất cả các tổ chức CNTT đã có một bản điều lệ đạo đức nhằm cung cấp cho việc phát triển trí tuệ nhân tạo, so với chỉ 5% các công ty CNTT vào năm 2019.

Trong khi nghiên cứu về cách các thuật toán trí tuệ nhân tạo có thể trở nên công bằng hơn vẫn đang tiếp tục, nhiều nhà đạo đức và chuyên gia trí tuệ nhân tạo đang tập trung vào dữ liệu được sử dụng để đào tạo trí tuệ nhân tạo. Khi các thuật toán trí tuệ nhân tạo trở nên phổ biến và tiêu chuẩn hóa, sự tập trung đang chuyển sang việc thu thập dữ liệu cần thiết để đào tạo các mô hình.

Có nhiều cách để giảm thiểu sự thiên vị dữ liệu trong các thuật toán trí tuệ nhân tạo. Một số kỹ thuật liên quan đến việc điều chỉnh mô hình hoặc dữ liệu đào tạo khi mô hình được đào tạo. Những kỹ thuật này là các kỹ thuật sửa lỗi thiên vị “trong quá trình”. Điều này bao gồm việc sử dụng các kỹ thuật đào tạo đối抗, nơi một tính năng / biến số nhạy cảm (như giới tính hoặc chủng tộc) được kiểm soát bằng cách phạt khả năng của mô hình trong việc đưa ra dự đoán liên quan đến tính năng đó. Điều này được thực hiện đồng thời với việc cố gắng giảm thiểu lỗi của mô hình. Ngược lại, việc tập trung vào việc loại bỏ sự thiên vị khỏi tập dữ liệu là một kỹ thuật “trước khi xử lý”. Dữ liệu đào tạo cho các mô hình học máy thường được gắn nhãn thủ công, và việc áp dụng blockchain có thể giúp các công ty theo dõi quá trình gắn nhãn dữ liệu của họ để đảm bảo rằng các tập dữ liệu của họ là đại diện.

Unbiased đang tìm cách sử dụng blockchain để tạo ra một văn hóa minh bạch trong các tập dữ liệu và thị trường dữ liệu. Hầu hết các công cụ được sử dụng để tạo tập dữ liệu cho các hệ thống trí tuệ nhân tạo và các thuật toán học máy là tập trung, và do đó chúng thường thiếu minh bạch. Unbiased nhằm mục đích tận dụng bản chất của blockchain để ghi lại các hành động diễn ra trên thị trường dữ liệu của họ, bao gồm việc trao đổi dữ liệu, việc cân bằng các nhiệm vụ và dự án, và các đóng góp từ người lao động. Mục tiêu là bản chất phân tán của blockchain Telos sẽ tạo điều kiện cho sự minh bạch, cho phép người dùng có được thông tin quan trọng về bản chất của khoa học dữ liệu của họ. Người dùng sẽ có thể xác thực các tập dữ liệu của mình và xác định xem các chú thích có được thực hiện với sự tôn trọng các nguyên tắc đạo đức như công bằng và quyền riêng tư hay không.

Theo Kiến trúc sư trưởng của Blockchain Telos, sự giao nhau của trí tuệ nhân tạo / học máy với blockchain có thể dẫn đến các phương pháp mới biến đổi để làm việc với dữ liệu. Như Horn được trích dẫn bởi AIthority:

“Unbiased sẽ chỉ cho các ngành công nghiệp này cách ghi dữ liệu trên một blockchain hiệu suất cao, không phí như Telos có thể thêm minh bạch, không thể thay đổi, thanh toán vi mô và quản trị vào các sản phẩm của họ vì lợi ích của tất cả các bên liên quan.”

Beyond sự minh bạch của dữ liệu đào tạo, một số nhà khoa học và nhà nghiên cứu đã đẩy mạnh sự minh bạch trong các thuật toán, mô hình và mã. Một nhóm nhà khoa học quốc tế kêu gọi các tạp chí khoa học phải tuân thủ các tiêu chuẩn minh bạch cao hơn đối với các nhà nghiên cứu khoa học máy tính. Các nhà nghiên cứu lập luận rằng sự minh bạch lớn hơn về các mô hình và mã trí tuệ nhân tạo không chỉ giúp tái tạo các nghiên cứu, mà còn giúp hợp tác giữa các nhóm nghiên cứu. Nhiều nghiên cứu khoa học không thể tái tạo, và đây là một vấn đề thậm chí còn lớn hơn đối với các nghiên cứu tập trung vào trí tuệ nhân tạo bỏ qua các tài liệu quan trọng. Trong tương lai, blockchain thậm chí có thể được sử dụng để cải thiện việc theo dõi và đánh giá nghiên cứu trong lĩnh vực trí tuệ nhân tạo.