Startup Unbiased ma na celu zwiększenie przejrzystości danych za pomocą blockchain i walkę z uprzedzeniami danych

Skutki uprzedzeń danych w sztucznej inteligencji są dobrze udokumentowane, a ponieważ algorytmy sztucznej inteligencji i uczenia maszynowego przenikają coraz głębiej do każdego zakątka społeczeństwa, firmy sztucznej inteligencji szukają nowych sposobów, aby upewnić się, że rozwijane przez nie algorytmy nie odziedziczą ludzkich uprzedzeń. Jednym z nowych graczy w dziedzinie sztucznej inteligencji i uczenia maszynowego, który ma na celu zmniejszenie uprzedzeń danych, jest startup Unbiased. Unbiased uruchomił nowy rynek danych na aktywnej platformie blockchain Telos, mając nadzieję, że zapewni klientom zdecentralizowane, pierwsze narzędzia i aplikacje dla nauki o danych i sztucznej inteligencji.

Globalny rynek sztucznej inteligencji ma się rozwinąć w ciągu najbliższej dekady, osiągając około 266 miliardów dolarów do 2027 roku. W ciągu najbliższych czterech lat światowe wydatki na systemy sztucznej inteligencji i składniki związane z nią mają się podwoić, osiągając około 110 miliardów dolarów do 2024 roku, według IDC. Szybkie przyjęcie algorytmów sztucznej inteligencji w coraz większej liczbie branż doprowadziło do rosnących obaw dotyczących przejrzystości, prywatności, uczciwości i reprezentatywności systemów sztucznej inteligencji.

Redukowanie uprzedzeń za pomocą przejrzystości

Według niedawnego raportu opublikowanego przez CapGemini Research Institute, zatytułowanego “Sztuczna inteligencja i dylemat etyczny: Jak organizacje mogą budować etycznie niezawodne systemy sztucznej inteligencji i zyskać zaufanie”, etyczne wykorzystanie sztucznej inteligencji stało się głównym problemem dla liderów IT, a większość liderów IT wyraża obawy dotyczące potencjalnego nadużycia systemów sztucznej inteligencji. Około 9 na 10 organizacji IT stwierdziło, że jest świadomych co najmniej jednego incydentu, w którym powstały problemy etyczne. Około dwie trzecie liderów IT powiedziało, że jest świadomych potencjalnych uprzedzeń dyskryminacyjnych w systemach sztucznej inteligencji, a około połowa wszystkich organizacji IT ma kartę etyczną, której celem jest rozwój sztucznej inteligencji, w przeciwieństwie do zaledwie 5% organizacji IT w 2019 roku.

Podczas gdy trwają badania nad tym, jak algorytmy sztucznej inteligencji mogą być uczynione bardziej uczciwymi, wielu etyków i specjalistów od sztucznej inteligencji kładzie nacisk na dane wykorzystywane do szkolenia sztucznej inteligencji. Ponieważ algorytmy sztucznej inteligencji stają się coraz bardziej powszechne i standaryzowane, uwaga skupia się na pozyskiwaniu danych niezbędnych do szkolenia modeli.

Istnieje wiele sposobów, aby zmniejszyć uprzedzenia danych w algorytmach sztucznej inteligencji. Niektóre techniki polegają na wprowadzaniu zmian w modelu lub w danych szkoleniowych podczas szkolenia modelu. Te techniki są “w trakcie przetwarzania” korekcjami uprzedzeń. Obejmują one wykorzystanie techniki szkolenia przeciwnego, gdzie pewna wrażliwa cecha/zmienna (taka jak płeć lub rasa) jest kontrolowana przez ukaranie modelu za możliwość dokonywania przewidywań związanych z tą cechą. To jest robione jednocześnie z minimalizowaniem błędu modelu. W przeciwieństwie, koncentrowanie się na usunięciu uprzedzeń z zestawu danych jest techniką przedprzetwarzania. Dane szkoleniowe dla modeli uczenia maszynowego są często ręcznie oznaczane, a zastosowanie blockchain może pomóc firmom śledzić proces oznaczania ich danych, aby upewnić się, że ich zestawy danych są reprezentatywne.

Unbiased wykorzystuje blockchain, aby stworzyć kulturę przejrzystości w zestawach danych i rynkach danych. Większość narzędzi wykorzystywanych do generowania zestawów danych dla systemów sztucznej inteligencji i algorytmów uczenia maszynowego jest scentralizowana i z tego powodu często brakuje im przejrzystości. Unbiased ma na celu wykorzystanie natury blockchain do rejestrowania działań na swoim rynku danych, w tym wymiany danych, równania zadań i projektów oraz wkładu pracowników. Celem jest to, aby zdecentralizowana natura blockchain Telos umożliwiła przejrzystość, pozwalając użytkownikom uzyskać krytyczne informacje dotyczące ich nauki o danych. Użytkownicy będą mogli zwalidować swoje zestawy danych i określić, czy adnotacje zostały wykonane zgodnie z określonymi zasadami etycznymi, takimi jak uczciwość i prywatność.

Zdaniem głównego architekta blockchain Telos, przecięcie sztucznej inteligencji/maszynowego uczenia się z blockchain może prowadzić do przełomowych nowych metod pracy z danymi. Jak Horn cytuje AIthority:

„Unbiased pokaże tym branżom, jak rejestrowanie danych na wysokowydajnym, bezpłatnym blockchainie, takim jak Telos, może dodać przejrzystość, niezmienność, mikropłatności i zarządzanie do ich produktów dla korzyści wszystkich stron.”

Ponadto, poza przejrzystością danych szkoleniowych, niektórzy naukowcy i badacze opowiadają się za większą przejrzystością w algorytmach, modelach i kodzie. Międzynarodowy zespół naukowców wezwał do tego, aby czasopisma naukowe egzekwowały wyższe standardy przejrzystości od badaczy w dziedzinie informatyki. Naukowcy argumentowali, że większa przejrzystość dotycząca modeli sztucznej inteligencji i kodu nie tylko pomoże w powtarzalności badań, ale także wesprze współpracę między grupami badawczymi. Wiele badań naukowych nie może być powtórzonych, a jest to jeszcze większy problem dla badań związanych ze sztuczną inteligencją, które pomijają krytyczne materiały. W przyszłości blockchain może być również wykorzystany do poprawy śledzenia i oceny badań w dziedzinie sztucznej inteligencji.