En Praktisk Guide til Ansvarlig AI

Kunstig intelligens (AI) udviklingsprojekter skal nu ud over de tidlige pilotfaser og blive til fuldt integrerede løsninger, der driver produktion og virksomhedsomfattende forandring. Imod denne baggrund står ledere over for en udfordrende opgave: at flytte AI fra bevis for koncept til kernen af daglige operationer. Denne ændring kræver, at de besvarer nye spørgsmål, der strækker sig fra, hvordan man udvikler, implementerer og bruger AI på en ansvarlig måde, til at opbygge en troværdig grund, hvorpå man kan skale.

Ansvarlig AI handler om at sikre, at AI er nyttig uden at være skadelig for mennesker, organisationer og samfund. Selv om det kan se ud, som om det kan langsommere udviklingslivscyklussen, kan det i praksis gøre innovationen stærkere. At rulle ud Ansvarlig AI kan hjælpe med at reducere antallet af dyre fejl, tillade hurtigere adoption og tillid, give reguleringsklare systemer og forbedre bæredygtighed.

Men at forstå, hvordan organisationer kan udvikle, implementere og adoptere Ansvarlig AI, er nøgle til at sikre dens grundlæggende praksis og fulde integration. Her giver vi en praktisk guide om, hvordan virksomheder kan gøre dette, og sikre menneskelig oversigt fra de tidligste designfaser til implementering, overvågning, risikovurdering og eventuel afvikling.

De, der behandler Ansvarlig AI som en eftertanke, vil risikere reguleringsudsigten, omdømmesskade og erosion af kundetillid. Til gengæld er de, der integrerer det fra starten, bedre placeret til at skale AI på en bæredygtig måde.

At identificere de fem grundlæggende principper for integration af Ansvarlig AI

I hjertet af enhver Ansvarlig AI-strategi ligger en samling af kerneprincipper, der skal vejlede udvikling, implementering, evaluering og styring. Virkningen af disse principper vil forme praktisk styring, risikostyring og overholdelse af regler, der beskytter mennesker og beskytter virksomhedsverdien.

For store organisationer skal de arbejde på tværs af afdelinger og med eksterne samarbejdspartnere for at sikre integrationen. Som sådan er der fem nøgleprincipper, som virksomheder kan adoptere for at styre deres AI-initiativer mod tillid, overholdelse og etiske resultater.

Først og fremmest er ansvarlighed. Nogen skal eje udfaldet for hvert vigtigt AI-system, og der skal være en person eller team ansvarlig fra start til slut. Start med en simpel inventar, automatiser for at skale og begynd at liste AI-systemer, deres formål, datakilder og ejere. Det er også vigtigt at have en plan for, når ting går galt. Det er essentiel at vide, hvordan man kan pause og hvordan man kan undersøge og afhjælpe problemer.

For det andet er det vigtigt at vurdere AI’s retfærdighed og dens potentielle indvirkning på mennesker. Man skal ikke kun stole på tekniske målinger og være bevidst om, at AI-resultater kan variere over grupper og ufrivilligt udsætte nogen for ulemper. Dette er kritisk for højrisikosager i områder som rekruttering, långivning eller sundhedspleje. Brug data-test, når det er muligt, og inkluder menneskelig gennemgang og årsager til output.

For det tredje er sikkerhed afgørende. Trusler mod AI-systemer udvikler sig stadig, og omfatter nu også prompt- eller agentbaserede angreb. Det er afgørende at imødegå disse risici og arbejde med sikkerhedsteams for at modellere disse potentielle angreb. Byg sikkerhed ind i designet, begræns AI’s adgang til andre systemer og data, og gennemfør løbende test efter lancering.

For det fjerde er privatlivetsbeskyttelse vigtig. Denne bekymring går ud over den første træningsdata, og privatlivetsbeskyttelse skal beskyttes på hvert trin. Overvej privatlivetsbeskyttelse i brugerprompter, samtalelog og AI-genererede output, da de alle kan indeholde private oplysninger. Design systemer til kun at indsamle den data, der er nødvendig, fastsæt strenge regler for adgang og opbevaring, og gennemfør privatlivetsbeskyttelsesgennemgang for højrisikosager.

Til sidst er gennemsigtighed og tilbud af kontroller, der tilpasser sig interessenter, afgørende. Hvad kunderne har brug for, afviger fra AI-udviklere. Alternativt skal brugere vide, når de interagerer med AI, og forstå dens begrænsninger. Interne teams har brug for klare dokumentationer om, hvordan AI er bygget og hvordan det fungerer. AI-systemets gennemsigtighed fremmer fælles oversigt og tillid til systemets evner.

At kende forskellen: Ansvarlig AI vs. AI-styring

Selv om Ansvarlig AI og AI-styring ofte bruges som synonyme, er der nøgleforskelle. Ansvarlig AI er en samling af holistiske praksisser og principper for at træffe troværdige beslutninger under udvikling, implementering og brug af AI. Det fokuserer på at aktivere evner som de fem ovennævnte principper for at minimere risici og maksimere AI’s fordele.

AI-styring, på den anden side, er en samling af politikker, procedurer og praksisser, der sigter mod at aktivere positive resultater og reducere sandsynligheden for skade. Det fokuserer på at etablere passende organisatoriske og tekniske kontroller for at aktivere ansvarlig og etisk AI, ofte med fokus på ansvarlighed og overholdelse af love og virksomhedsregler.

Virksomheder er bedre placeret til at skale AI ansvarligt, mens de opretholder tillid og reguleringsparathed, når de forstår, at disse to er forskellige, men forbundne. Derudover er nogle handlinger på ansvarlighed og styring påkrævet af loven, mens andre ikke er. For eksempel love, der pålægger begrænsninger for job, kvinder kan have i visse lande. Derfor er begge nødvendige for en komprehensiv, balanceret tilgang til Ansvarlig AI.

Den vigtige flexible styring

Da AI spreder sig, træder regulatorene ind med styringsrammer, der går ud over frivillige retningslinjer. Regler som Den Europæiske Unions AI-akt sætter risikobaseret regulering i centrum for AI-styring. I stedet for at regulere teknologien ensartet klassificerer aktens AI-systemer i flere risikoniveauer, der anerkender den potentielle skade baseret på forskellige brugsområder. For eksempel en AI-rekrutteringsskærm versus en anbefalingssøgemaskine. Dette indebærer, at styring, dokumentation og sikkerhedsforanstaltninger skal være i overensstemmelse med konteksten og anvendelsen af AI.

Andre jurisdiktioner har også defineret rammer for at styre AI. Ifølge denne IAPP-rapport fremmer Singapore en fleksibel tilgang med værktøjer som dets Model AI-styringsramme, der betoner test og gennemsigtighed over strenge påbud. Sydkoreas AI-Basic Act kombinerer også oversigt med plads til innovation. Og inden for brancher forskelligt. Finanssektoren har længe stået over for strenge sikkerheds- og retfærdighedskrav, mens sundhedsAI har medicinproduktregler at opfylde. Forbrugsteknologiprodukter falder under privatlivetsbeskyttelses- og forbrugerbeskyttelseslove, hvor hvert domæne kræver regler tilpasset dets risikoprofil og samfundsmæssige forventninger.

Derfor fungerer en tilpasningsdygtig tilgang til AI-styring ikke, da brancher og landedomæner forskelligt i de typer skader, de berørte interessenter og de lovgivningsrammer, de opererer under. Derfor skal der være fleksibilitet.

Hvordan man styrer autonome AI

Da AI bevæger sig ind i en ny æra, skifter fra snævre forudsigelsesmotorer til agentbaseret AI, systemer, der kan planlægge, tilpasse sig og udføre autonome handlinger, kommer dette med nye risici.

For eksempel kan man overveje en agentbaseret AI, der autonomet udfører en finansielle transaktion eller en HR-beslutning. Hvis det misclassificerer en transaktion eller giver en ansættelsesrekommendation, der indeholder bias, er virksomhedskonsekvenserne alvorlige, fra finansielt tab til omdømmesskade, reguleringsbøder og retslige eksponeringer.

Forskning præsenteret i Økonomiske og systemiske overvejelser i agentbaserede web-systemer forklarer også nye udfordringer, der følger med det nye agentbaserede web-koncept, der handler i multi-agent, grænseoverskridende, maskin-hastigheds-markeder. Det fremhæver nogle præliminære, retningssøgende styringsgreb, herunder vagt/oversigt-agenter og maskinlæsbare politik, med fokus på inklusiv adoption under urent ressourcebegrænsninger.

Imod denne baggrund skal styringssystemer sætte grænser og kontroller for, hvor meget et AI-system kan håndtere autonomet uden menneskelig godkendelse. De skal etablere klare vejledninger, begrænse adgang til værktøjer og autorisationsfunktioner samt tillade bestemte designpunkter for obligatorisk menneskelig gennemgang. Alle komponenter i arbejdsgangen skal testes, herunder forbindelser og interaktioner mellem agenter, hvor fejl ofte opstår. Hver handling skal logges for sporbarhed, og kontroller skal sættes i place for at deaktivere systemet, når det er nødvendigt for at håndtere denne risiko.

Fremtiden for Ansvarlig AI

AI tilbyder udenforstående muligheder for at transformere, hvordan virksomheder opererer, innovere, levere værdi, og Ansvarlig AI understøtter dette. At integrere Ansvarlig AI i design, udvikling og implementering er ikke kun en juridisk risiko og en risikomindskningsstrategi, men beskytter og forbedrer virksomhedsrygte, opnår kunde- og kundetillid samt låser markedsvorte ved at demonstrere engagement i etisk innovation.

Men for at låse dets fordele skal virksomheder integrere nøgleansvarlige praksisser i hele AI-systemet, fra starten og helt til slutningen af dets livscyklus. Dette inkluderer integration af etiske og styringsovervejelser i datastrategi, privatlivetsbeskyttelse og indsamling, systemdesign, gennemsigtighed og retfærdighed, implementering og overvågning samt efterimplementering og afvikling.

For alle, der er involveret i AI-udvikling og -implementering, er direktivet klart: Byg ansvarligt, styre proaktivt, forudse risici i dag, i morgen og herefter for at sikre den succesfulde udvikling af AI i en foranderlig verden.