Teknologiledere som fremhever risikoen med AI og behovet for robust AI-regulering

AI-vekst og -fremgang har vært eksponentiell de siste årene. Statista rapporterer at innen 2024 vil den globale AI-markedet generere en imponerende omsetning på rundt 3000 milliarder dollar, sammenlignet med 126 milliarder dollar i 2015. Likevel advarer teknologiledere oss nå om de forskjellige risikene med AI.

Spesielt den nylige bølgen av generativ AI-modeller som ChatGPT har introdusert nye muligheter i forskjellige data-sensitive sektorer, som helse, utdanning, finans, osv. Disse AI-baserte utviklingene er sårbare på grunn av mange AI-mangler som skadelige agenter kan utnytte.

La oss diskutere hva AI-ekspertene sier om de nylige utviklingene og fremheve de potensielle risikene med AI. Vi skal også kort berøre hvordan disse risikene kan håndteres.

Teknologiledere og deres bekymringer relatert til risikoen med AI

Geoffrey Hinton

Geoffrey Hinton – en berømt AI-teknologileder (og gudfar til dette feltet), som nylig forlot Google (GOOGL ), har uttrykt sine bekymringer om rask utvikling i AI og dens potensielle farer. Hinton mener at AI-chatboter kan bli “ganske skremmende” hvis de overgår menneskelig intelligens.

Hinton sier:

“For øyeblikket ser vi ting som GPT-4 overgår en person i mengden av generell kunnskap det har, og det overgår dem med langt. I forhold til resonnering er det ikke like bra, men det gjør allerede enkel resonnering. Og gitt den raske fremgangen, forventer vi at ting skal bli bedre ganske raskt. Så vi må bekymre oss for det.”

I tillegg mener han at “dårlige aktører” kan bruke AI til “dårlige ting”, som å la roboter ha under-mål. Til tross for sine bekymringer, mener Hinton at AI kan bringe kortvarige fordeler, men vi bør også investere tungt i AI-sikkerhet og kontroll.

Elon Musk

Elon Musks involvering i AI begynte med hans tidlige investering i DeepMind i 2010, til å co-grunnlegge OpenAI og inkorporere AI i Teslas autonome kjøretøy.

Selv om han er entusiastisk om AI, har han ofte reist bekymringer om risikene med AI. Musk mener at kraftfulle AI-systemer kan være farligere for sivilisasjonen enn atomvåpen. I et intervju på Fox News i april 2023, sa han:

“AI er farligere enn, si, dårlig design av fly eller produksjon av biler. I den forstand at det har potensialet — selv om det kan være lite — men det er ikke ubetydelig og har potensialet for å ødelegge sivilisasjonen.”

I tillegg støtter Musk regjeringens reguleringer på AI for å sikre sikkerhet fra potensielle risiko, selv om “det ikke er så morsomt”.

Pause Giant AI Experiments: An Open Letter Backed by 1000s of AI Experts

Future of Life Institute publiserte en åpen brev den 22. mars 2023. Brevet ber om en midlertidig seks måneders pause på AI-systemutvikling mer avansert enn GPT-4. Forfatterne uttrykker sine bekymringer om at AI-systemer utvikles i en slik fart at det kan medføre alvorlige samfunnsmessige utfordringer.

I tillegg sier brevet at AI-utviklere bør samarbeide med politiske beslutningstakere for å dokumentere AI-styringssystemer. Per juni 2023 har brevet blitt signert av over 31 000 AI-utviklere, eksperter og teknologiledere. Bemerkelsesverdige signatarer inkluderer Elon Musk, Steve Wozniak (co-grunnlegger av Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (Turing-prisvinner) og mange flere.

Counter Arguments on Halting AI Development

To fremtredende AI-ledere, Andrew Ng, og Yann LeCun, har motsatt seg den seks måneder lange forbudet mot å utvikle avanserte AI-systemer og anså pause som en dårlig idé.

Ng sier at selv om AI har noen risiko, som bias, konsentrasjon av makt, osv. Men verdien som skapes av AI i felt som utdanning, helse og responsiv coaching er enorm.

Yann LeCun sier at forskning og utvikling ikke bør stoppes, selv om AI-produktene som når sluttkunden kan reguleres.

Hva er de potensielle farene og umiddelbare risikoene med AI?

1. Jobbforflytning

AI-ekspertene mener at intelligente AI-systemer kan erstatte kognitive og kreative oppgaver. Investeringsselskapet Goldman Sachs estimerer at rundt 300 millioner jobber vil bli automatisert av generativ AI.

Derfor bør det være reguleringer på utvikling av AI så det ikke forårsaker en alvorlig økonomisk nedgang. Det bør også være utdanningsprogrammer for å oppgradere og omstrukturere ansatte til å håndtere denne utfordringen.

2. Forvrengte AI-systemer

Forvrengninger som er vanlige blant mennesker om kjønn, rase eller farge kan uforvarende trenge inn i dataene som brukes til å trene AI-systemer, og deretter gjøre AI-systemene forvrengte.

For eksempel, i sammenheng med rekruttering, kan et forvrent AI-system kaste ut CV-er fra personer fra bestemte etniske bakgrunner, og skape diskriminering på arbeidsmarkedet. I politiarbeid kan forvrent prediksjons-politikk målrette bestemte nabolag eller demografiske grupper.

Derfor er det essensielt å ha en omfattende datastrategi som addreser AI-risiko, spesielt forvrengning. AI-systemer må ofte vurderes og auditeres for å holde dem rettferdige.

3. Sikkerhetskritiske AI-applikasjoner

Autonome kjøretøy, medisinsk diagnose og behandling, flysystemer, kontroll av kjernekraftverk osv. er alle eksempler på sikkerhetskritiske AI-applikasjoner. Disse AI-systemene bør utvikles forsiktighet siden selv mindre feil kan ha alvorlige konsekvenser for menneskeliv eller miljøet.

For eksempel er feilfunksjonen av AI-programvaren kalt Maneuvering Characteristics Augmentation System (MCAS) delvis årsak til krasjet til de to Boeing 737 MAX, først i oktober 2018 og deretter i mars 2019. Dessverre drepte de to krasjene 346 mennesker.

Hvordan kan vi overvinne risikoene med AI-systemer? – Ansvarlig AI-utvikling og regulatorisk overholdelse

Ansvarlig AI (RAI) betyr å utvikle og deployere rettferdige, ansvarlige, transparente og sikre AI-systemer som sikrer personvern og følger lover og samfunnsmessige normer. Implementering av RAI kan være kompleks gitt AI-systemers bredde og raske utvikling.

Likevel har store teknologiselskaper utviklet RAI-rammeverk, som:

1. Microsofts Ansvarlig AI
2. Googles AI-prinsipper
3. IBMs Trusted AI

AI-laboratorier over hele verden kan ta inspirasjon fra disse prinsippene eller utvikle sine egne ansvarlige AI-rammeverk for å lage pålitelige AI-systemer.

AI-regulatorisk overholdelse

Ettersom data er en integrert komponent i AI-systemer, må AI-baserte organisasjoner og laboratorier overholde følgende reguleringer for å sikre datasikkerhet, personvern og sikkerhet.

1. GDPR (General Data Protection Regulation) – et data beskyttelsesrammeverk av EU.
2. CCPA (California Consumer Privacy Act) – en California-statutt for personvern og forbrukerbeskyttelse.
3. HIPAA (Health Insurance Portability and Accountability Act) – en amerikansk lovgivning som beskytter pasienters medisinske data.
4. EU AI Act, og Etiske retningslinjer for pålitelig AI – en europeisk kommisjon AI-regulering.

Det finnes flere regionale og lokale lover som er vedtatt av forskjellige land for å beskytte sine borgere. Organisasjoner som ikke sikrer regulatorisk overholdelse rundt data kan bli straffet. For eksempel har GDPR fastsatt en bot på 20 millioner euro eller 4% av årlig fortjeneste for alvorlige overtredelser som ulovlig databehandling, ubekreftet data-samtykke, overtredelse av datasubjekters rettigheter eller ikke-beskyttet dataoverføring til en internasjonal enhet.

AI-utvikling og reguleringer – Nåværende og fremtidige

Med hver måned som går, når AI-fremgangen nye, uforutsette høyder. Men de tilhørende AI-reguleringene og styringsrammeverkene er på etterkant. De må bli mer robuste og spesifikke.

Teknologiledere og AI-utviklere har ringt alarm om risikoene med AI hvis de ikke blir tilstrekkelig regulert. Forskning og utvikling i AI kan bringe verdier i mange sektorer, men det er klart at forsiktig regulering nå er påkrevd.

For mer AI-relatert innhold, besøk unite.ai.