Startup Unbiased Usiluje Zvýšit Transparentnost Dat Skrze Blockchain, Bojovat Protiv Data Bias

Účinky datového biasu v umělém inteligenci jsou dobře zdokumentovány a jakmile algoritmy umělé inteligence a strojového učení pronikají stále hlouběji do každé části společnosti, společnosti zaměřené na umělou inteligenci hledají nové způsoby, jak zajistit, aby algoritmy, které vyvíjejí, nedědily lidské biasy. Jedním z nových hráčů v oblasti umělé inteligence a strojového učení, který má za cíl snížit datový bias, je transparentně pojmenovaný startup Unbiased. Unbiased spustil nový datový trh na aktivní blockchainové platformě Telos, doufající, že poskytne klientům decentralizované, soukromí-first nástroje a aplikace pro datové vědy a umělou inteligenci.

Globální trh umělé inteligence se má podle předpovědí dále rychle rozvíjet v průběhu příštích deseti let, dosáhne kolem 266 miliard dolarů do roku 2027. V průběhu následujících čtyř let se očekává, že celosvětové výdaje na systémy umělé inteligence a související komponenty se zdvojnásobí, dosáhnou přibližně 110 miliard dolarů do roku 2024 podle IDC. Rychlá adopce algoritmů umělé inteligence v stále více odvětvích vedla k rostoucím obavám o transparentnost, soukromí, spravedlnost a reprezentativnost systémů umělé inteligence.

Snižování Biasu Skrze Transparentnost

Podle nedávné zprávy vydané CapGemini Research Institute, nazvané „Umělá inteligence a etická konundrum: Jak organizace mohou budovat eticky robustní systémy umělé inteligence a získat důvěru“, etické použití umělé inteligence se stalo hlavní starostí pro IT lídry napříč deskami, s většinou IT lídrů, kteří nyní vyjadřují obavy o potenciální zneužití systémů umělé inteligence. Přibližně 9 z 10 IT organizací uvedlo, že je vědomo alespoň jedné události, kdy byly vytvořeny etické problémy aplikací systému umělé inteligence. Přibližně dvě třetiny IT manažerů uvedly, že jsou si vědomy potenciálních diskriminačních biasů v systémech umělé inteligence, a přibližně polovina všech IT organizací má etický kodex, který má za cíl dát vývoj umělé inteligence, na rozdíl od pouhých pěti procent IT společností v roce 2019.

Zatímco výzkum, jak lze algoritmy umělé inteligence učinit spravedlivějšími, pokračuje, mnozí etici a specialisté na umělou inteligenci kladou důraz na data, která se používají k výcviku umělé inteligence. Jakmile se algoritmy umělé inteligence stávají více všudypřítomnými a standardizovanými, důraz se přesouvá na získání dat potřebných k výcviku modelů.

Existuje mnoho způsobů, jak snížit datový bias v algoritmech umělé inteligence. Některé techniky zahrnují úpravy modelu nebo trénovacích dat, zatímco model trénuje. Tyto techniky jsou „in-processing“ bias korekční techniky. To zahrnuje použití adversariálního tréninku, kde je some citlivý rys/variable (jako pohlaví nebo rasa) řízen kontrolou modelových předpovědí týkajících se rysu v otázce. To se provádí současně s pokusem o minimalizaci chyby modelu. Naopak, zaměřování se na odstranění biasu z datové sady je pre-processing technika. Trénovací data pro modely strojového učení jsou často ručně označena, a aplikace blockchainu by mohla pomoci společnostem sledovat proces označování jejich dat, aby zajistily, že jejich datové sady jsou reprezentativní.

Unbiased se obrací na blockchain, aby vytvořil kulturu transparentnosti uvnitř datových sad a trhů. Většina nástrojů používaných k generování datových sad pro systémy umělé inteligence a algoritmy strojového učení je centralizovaná, a kvůli tomu často postrádají transparentnost. Unbiased se snaží využít povahu blockchainu k zaznamenání akcí probíhajících napříč jejich datovým trhem, které zahrnují výměnu dat, přiřazování úkolů a projektů a příspěvky pracovníků. Cílem je, aby decentralizovaná povaha blockchainu Telos umožnila transparentnost, umožňující uživatelům získat kritické informace o povaze jejich datové vědy. Uživatelé budou moci ověřit své datové sady a určit, zda byly provedeny anotace s ohledem na určitá etická principy, jako je spravedlnost a soukromí.

Podle hlavního architekta blockchainu Telos, průnik umělé inteligence/strojového učení s blockchainem může vést k transformačním novým metodám práce s daty. Jako je citován Horn od AIthority:

„Unbiased ukáže těmto odvětvím, jak záznam dat na vysoce výkonném, bezplatném blockchainu, jako je Telos, může přidat transparentnost, neměnnost, mikroplatby a řízení do jejich produktů prospěch všech zúčastněných stran.“

Mimo transparentnost trénovacích dat tlačí někteří vědci a výzkumníci na větší transparentnost v algoritmech, modelech a kódu. Mezinárodní tým vědců vyzval vědecké časopisy, aby držely výzkumníky v oblasti počítačových věd na vyšších standardech transparentnosti. Výzkumníci argumentovali, že větší transparentnost ohledně modelů umělé inteligence a kódu by nejen pomohla reprodukovatelnosti studií, ale také spolupráci mezi výzkumnými skupinami. Mnoho vědeckých studií nemůže být reprodukováno, a to je ještě větší problém pro studie zaměřené na umělou inteligenci, které vynechávají kritické materiály. V budoucnosti by blockchain mohl být dokonce využit ke zlepšení sledování a hodnocení výzkumu v oblasti umělé inteligence.