När AI:s “kunskap” är 50 år gammal: Den överträdelse som du inte kan ignorera

Frågan om felaktiga AI-insikter är en brådskande utmaning när företag ökar sin användning av generativa verktyg. Trots den allmänna entusiasmen för AI-antagandet finns det också en stark ström av kritik. Kritiska kommentatorer pekar ofta på uppenbarligen slumpmässiga, oförutsägbara fel i AI:s utdata, som undergräver dess värde – och kan till och med utgöra en verklig fara för människor, särskilt inom sektorer som hälsovård och transport, där felaktiga utdata teoretiskt sett kan leda till allt från felaktiga recept till tåg på kollisionskurs.

Ofta har dessa fel tillskrivits AI “hallucinationer” – tillfällen då AI genererar ett “bästa gissning”-svar, som presenteras med samma tillförlitlighet som ett “äkta” svar, snarare än att informera användaren om en lucka i sin kunskap eller förmåga. Hallucinationer kan vara svåra att upptäcka vid första anblicken – men det finns ett tystare, lika allvarligt problem som är ännu svårare att upptäcka.

Datakvalitets-skuld: AI:s akilleshäl

När AI-system hämtar data från föråldrade, ofullständiga eller felaktiga källor uppstår felaktiga utdata, men de är mindre omedelbart synliga. Till exempel kan du be AI att identifiera symtomen på en medicinsk tillstånd och få ett svar baserat på en 50-årig rapport istället för aktuell forskning. Resultatet är osannolikt att verka uppenbarligen, löjligt fel – men den initiala fernissan av sannolikhet utgör en verklig risk för både patienten i fråga och hälsovårdspersonalen.

Detsamma gäller för alla branscher – om data som matas till AI-modellen innehåller gammal, föråldrad eller ofullständig information, finns det en hög risk för felaktiga utdata. Och ju fler företag integrerar AI i affärskritiska processer, desto större blir risken för att dra felaktiga slutsatser från dåligt styrda data.

Noggrannhet för tillsynsmyndigheten

Detta är inte bara ett problem för dag-till-dag-verksamheten – det är också en betydande överensstämmelseutmaning. Regleringskraven utvecklas snabbt för att ta itu med problemen med felaktig AI. Till exempel har ett antal tidiga regleringsåtgärder på AI genomförts; när Italien tillfälligt förbjöd ChatGPT på grund av integritetsproblem, och EU:s dataskyddsstyrelse inrättade en särskild arbetsgrupp för att samordna eventuella verkställighetsåtgärder mot ChatGPT.

En av de mest talande regleringsförändringarna har varit antagandet av EU:s AI-lag, världens första omfattande rättsliga ram för AI. Lagen fastställer skyldigheter baserat på AI-systemens risknivå, från “otillåtna risk”-system, som är förbjudna, till “högrisk”-system, som omfattas av stränga krav på transparens, datakvalitet, styrning och mänsklig tillsyn.

Betydelsen av EU:s AI-lag ligger inte i dess ambitiösa omfattning, utan viktigt i den prejudikat som den sätter. Reglerare gör det tydligt att AI kommer att omfattas av bindande, verkställbara regler och att organisationer måste behandla efterlevnad och transparens kring var och hur AI används som en integrerad del av AI-antagandet, snarare än en eftertanke.

Lagen har ett brett tillämpningsområde, med potential att påverka en stor andel av AI-utvecklingen. I dess hjärta ligger att göra AI säker samtidigt som man respekterar grundläggande rättigheter och värderingar. Inom detta nya principbaserade ekosystem kommer diagnosen av potentiella källor till AI-fel, inklusive data och datamängder som matas till modellerna, modellens opacitet och tillgänglighet, samt systemdesign och användning. AI-lösningar är en konstruktion av alla tre – problem med någon av dessa kan ha en negativ effekt. Inte nog med det, utan data som går in i designen, modellutvecklingen, distributionen och driften av AI kommer sannolikt att bestå främst av affärsregister som i sig är föremål för olika krav på efterlevnad.

I andra ord, den regleringsmiljö som omger AI blir alltmer sträng – och det gäller lika mycket för datainmatning som för datautmatning, även om den senare får mer uppmärksamhet.

Fem steg för att mata AI med efterlevande, aktuell och relevant data

För att lösa denna dubbla utmaning – att säkerställa både efterlevande datahantering och högkvalitativ inmatning som möjliggör högkvalitativ utmatning – behöver företag kontroll över utbildnings- och inferensdata. Tyvärr är detta något som många företag fortfarande saknar.

Minst bör organisationer tillämpa sina breda efterlevnads- och styrningsprogram på AI-initiativ. De behöver börja samla in och underhålla lämpliga register över data som de matar till AI-modeller, hur modeller och system är utformade, samt de beslut och innehåll som genereras via AI.

Men det är också blixtande viktigt för organisationer att gå ett steg längre och säkerställa att de har full kontroll över all data som kan användas i AI-distributioner, antingen för initial utbildning eller “live”-arbete. Detta kräver en högkvalitativ datahanterings- och lagringsstrategi, som säkerställer att all relevant data samlas in, rensas, lagras, klassificeras och auktoriseras på ett intelligent sätt. För att uppnå detta måste organisationer överväga fyra viktiga steg:

1. Dataursprung och proveniens

Detta inkluderar att underhålla en register över datakällan, dess ursprung, ägande och eventuella ändringar i metadata (om tillåtet) under hela dess livscykel. Det innebär också att underhålla rik metadata och alla underliggande dokument eller artefakter från vilka det härrör.

2. Dataautenticitet

Detta kräver att underhålla en tydlig kedja av custody för all data, lagra objekt i deras ursprungliga former och hash-objekt som tas emot för att visa att data förblir oförändrad. Dessutom måste organisationer underhålla en fullständig revisionshistorik för varje objekt och för alla åtgärder och händelser i förhållande till eventuella ändringar.

3. Dataklassificering

Att fastställa naturen hos en uppsättning eller typ av data är viktigt. Organisationer måste kunna styra strukturerad data, semistrukturerad data och strukturerade uppsättningar av data. Att ge varje klass en unik schema kan tillåta organisationer att hantera olika uppsättningar av data utan en “one-size-fits-all”-ontologi – och undvika att data onödigtvis manipuleras för att tvinga den in i en inflexibel datastruktur.

4. Datanormalisering

Att fastställa gemensamma definitioner och format för metadata är viktigt för användning i analyser och AI-lösningar. Tydligt definierade scheman är ett viktigt inslag, tillsammans med verktyg som kan transformera eller mappa data för att upprätthålla konsekventa, normaliserade vyer av relaterad data.

5. Dataauktoriseringar

Företag behöver granulära auktoriseringskontroller, inklusive på objektnivå eller fältnivå, baserat på användar- eller systemprofiler. Det innebär att rätt data är tillgänglig för användare och system som är auktoriserade att komma åt dem, samtidigt som åtkomsten begränsas eller nekas för dem som inte är auktoriserade.

Med dessa avgörande inslag på plats kommer företag att vara bäst lämpade att säkerställa att data som tillhandahålls AI-modeller är både av hög kvalitet och efterlevande. AI kommer att driva förbättringar och effektivitetsvinster över branscher – men för att det ska hända krävs en robust datagrund.