Startup Unbiased Syftar Till Att Öka Transparensen I Data Genom Blockchain, Bekämpa Databias

Effekterna av databias i artificiell intelligens är väl dokumenterade, och när AI och maskinlärningsalgoritmer tränger allt djupare in i varje hörn av samhället, letar AI-företag efter nya sätt att säkerställa att de algoritmer de utvecklar inte ärver mänskliga bias. En av de nya aktörerna inom AI- och maskinlärningsområdet som syftar till att minska databias är startupen Unbiased. Unbiased har lanserat en ny datamarknadsplats på den aktiva blockchain-plattformen Telos, i syfte att tillhandahålla kunder med decentraliserade, sekretessförst verktyg och applikationer för datavetenskap och AI.

Den globala AI-marknaden förväntas fortsätta sin snabba tillväxt under de kommande tio åren, och nå runt 266 miljarder dollar år 2027. Inom de närmaste fyra åren förväntas den globala utgiften för AI-system och relaterade komponenter fördubblas, och nå cirka 110 miljarder dollar år 2024 enligt IDC. Den snabba tillämpningen av AI-algoritmer i allt fler branscher har lett till ökande bekymmer över transparensen, sekretessen, rättvisan och representativiteten hos AI-system.

Att Minska Bias Genom Transparens

Enligt en nyligen publicerad rapport från CapGemini Research Institute, med titeln “AI och den etiska knuten: Hur organisationer kan bygga etiskt robusta AI-system och vinna förtroende”, har den etiska användningen av AI blivit en stor bekymmer för IT-ledare över hela världen, där majoriteten av IT-ledare nu uttrycker bekymmer över den potentiella missbruket av AI-system. Cirka 9 av 10 IT-organisationer uppgav att de var medvetna om minst ett tillfälle där etiska problem skapades av tillämpningen av ett AI-system. Cirka två tredjedelar av IT-chefer sa att de var medvetna om potentiella diskriminerande bias i AI-system, och cirka hälften av alla IT-organisationer har en etisk stadga som syftar till att ge utvecklingen av AI, till skillnad från bara 5 procent av IT-företag år 2019.

Medan forskningen om hur AI-algoritmer kan göras rättvisare fortsätter, lägger många etiker och AI-specialister fokus på de data som används för att träna AI. När AI-algoritmer blir allt mer allmänt förekommande och standardiserade, skiftar fokus till att skaffa de data som behövs för att träna modellerna.

Det finns många sätt att minska databias i AI-algoritmer. Vissa tekniker innebär att man gör justeringar i modellen eller i träningsdatat medan modellen tränas. Dessa tekniker är “in-processing” bias-korrekturtekniker. Detta inkluderar användningen av adversarial träningsmetoder, där en känslig funktion/variabel (såsom kön eller ras) kontrolleras genom att straffa modellens förmåga att göra förutsägelser som involverar funktionen i fråga. Detta görs samtidigt som man försöker minimera modellens fel. I kontrast, fokuserar man på att ta bort bias från datasetet som en förbehandlingsmetod. Träningsdata för maskinlärningsmodeller är ofta manuellt märkta, och tillämpningen av blockchain kan hjälpa företag att spåra märkningsprocessen av deras data för att säkerställa att deras dataset är representativa.

Unbiased syftar till att använda blockchain för att skapa en kultur av transparens inom dataset och datamarknader. De flesta verktyg som används för att generera dataset för AI-system och maskinlärningsalgoritmer är centraliserade, och på grund av detta saknar de ofta transparens. Unbiased syftar till att utnyttja blockchains natur för att spåra åtgärder som sker över deras datamarknadsplats, som inkluderar utbytet av data, uppgifts- och projektekvationer, och bidrag från arbetare. Målet är att Telos blockchains decentraliserade natur möjliggör transparens, vilket tillåter användare att få kritisk information om karaktären hos deras datavetenskap. Användare kommer att kunna validera sina dataset och bestämma om annoteringar har utförts med hänsyn till vissa etiska principer, såsom rättvisa och sekretess.

Enligt Telos blockchains chefsarkitekt kan mötet mellan AI/maskinlärning och blockchain leda till revolutionerande nya metoder för att arbeta med data. Som Horn citerades av AIthority:

“Unbiased kommer att visa dessa branscher hur man kan spåra data på en högpresterande, avgiftsfri blockchain som Telos, och lägga till transparens, oföränderlighet, mikrobetalningar och styrning i deras produkter till förmån för alla intressenter.”

Förutom transparensen i träningsdata har vissa forskare och forskargrupper krävt mer transparens i algoritmer, modeller och kod. En internationell grupp av forskare krävde att vetenskapliga tidskrifter skulle hålla datavetenskapsforskare till högre transparensstandarder. Forskarna hävdade att ökad transparens avseende AI-modeller och kod inte bara skulle underlätta reproducerbarheten av studier, utan också hjälpa till samarbetet mellan forskargrupper. Många vetenskapliga studier kan inte reproduceras, och detta är ett ännu större problem för AI-fokuserade studier som lämnar ut kritiska material. I framtiden kan blockchain även användas för att förbättra spårningen och utvärderingen av forskning inom AI-området.