AI-modeller og plattformer
Teknologiledere som fremhever risikoen med AI og behovet for robust AI-regulering
Viktige punkterTeknoligiledere advarer om at AI som overgår menneskelig intelligens utgjør…
Vis mer
- Teknoligiledere advarer om at AI som overgår menneskelig intelligens utgjør eksistensielle risikoer og krever investeringer i sikkerhet.
- Over 300 millioner jobber står overfor automatisering av generativ AI, noe som krever omfattende omstilling av arbeidsstyrken.
- Partiske AI-systemer kan forevige diskriminering i ansettelser og rettshåndhevelse uten grundig revisjon.
AI-vekst og -fremgang har vært eksponentiell de siste årene. Statista rapporterer at innen 2024 vil det globale AI-markedet generere en imponerende omsetning på rundt 3000 milliarder dollar, sammenlignet med 126 milliarder dollar i 2015. Likevel advarer teknologiledere oss nå om de forskjellige risikene med AI.
Spesielt den nylige bølgen av generativ AI-modeller som ChatGPT har introdusert nye muligheter i forskjellige data-sensitive sektorer, som helse, utdanning, finans, osv. Disse AI-baserte utviklingene er sårbare på grunn av mange AI-mangler som skadelige agenter kan utnytte.
La oss diskutere hva AI-ekspertene sier om de nylige utviklingene og fremheve de potensielle risikene med AI. Vi skal også kort berøre hvordan disse risikene kan håndteres.
Teknologiledere og deres bekymringer relatert til risikoen med AI
Geoffrey Hinton
Geoffrey Hinton – en berømt AI-teknologileder (og gudfar til dette feltet), som nylig forlot Google (GOOGL ), har uttrykt sine bekymringer om rask utvikling i AI og dens potensielle farer. Hinton mener at AI-chatboter kan bli “ganske skremmende” hvis de overgår menneskelig intelligens.
Hinton sier:
“For øyeblikket ser vi ting som GPT-4 overgår en person i mengden av generell kunnskap det har, og det overgår dem med langt. I forhold til resonnering er det ikke like bra, men det gjør allerede enkel resonnering. Og gitt den raske fremgangen, forventer vi at ting skal bli bedre ganske raskt. Så vi må bekymre oss for det.”
I tillegg mener han at “dårlige aktører” kan bruke AI til “dårlige ting”, som å la roboter ha under-mål. Til tross for sine bekymringer, mener Hinton at AI kan bringe kortvarige fordeler, men vi bør også investere tungt i AI-sikkerhet og kontroll.
Elon Musk
Elon Musks involvering i AI begynte med hans tidlige investering i DeepMind i 2010, til å være med på å grunnlegge OpenAI og inkorporere AI i Teslas autonome kjøretøy.
Selv om han er entusiastisk om AI, har han ofte reist bekymringer om risikene med AI. Musk mener at kraftfulle AI-systemer kan være farligere for sivilisasjonen enn atomvåpen. I et intervju på Fox News i april 2023, sa han:
“AI er farligere enn, si, dårlig håndtert flydesign eller produksjonsvedlikehold eller dårlig bilproduksjon. I den forstand at det har potensialet — uansett hvor liten man anser sannsynligheten for å være — men det er ikke ubetydelig og har potensialet for å ødelegge sivilisasjonen.”
I tillegg støtter Musk regjeringens reguleringer på AI for å sikre sikkerhet fra potensielle risiko, selv om “det ikke er så morsomt”.
Sett store AI-eksperimenter på pause: Et åpent brev støttet av tusenvis av AI-eksperter
Future of Life Institute publiserte et åpent brev den 22. mars 2023. Brevet ber om en midlertidig seks måneders pause på AI-systemutvikling mer avansert enn GPT-4. Forfatterne uttrykker sine bekymringer om at AI-systemer utvikles i en slik fart at det kan medføre alvorlige samfunnsøkonomiske utfordringer.
I tillegg sier brevet at AI-utviklere bør samarbeide med politiske beslutningstakere for å dokumentere AI-styringssystemer. Per juni 2023 har brevet blitt signert av over 31 000 AI-utviklere, eksperter og teknologiledere. Bemerkelsesverdige signatarer inkluderer Elon Musk, Steve Wozniak (være med på å grunnlegger av Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (Turing-prisvinner) og mange flere.
Motargumenter mot å stanse AI-utvikling
To fremtredende AI-ledere, Andrew Ng, og Yann LeCun, har motsatt seg det seks måneder lange forbudet mot å utvikle avanserte AI-systemer og anså pause som en dårlig idé.
Ng sier at selv om AI har noen risiko, som bias, konsentrasjon av makt, osv. Men verdien som skapes av AI i felt som utdanning, helse og responsiv coaching er enorm.
Yann LeCun sier at forskning og utvikling ikke bør stoppes, selv om AI-produktene som når sluttkunden kan reguleres.
Hva er de potensielle farene og umiddelbare risikoene med AI?

1. Jobbforflytning
AI-ekspertene mener at intelligente AI-systemer kan erstatte kognitive og kreative oppgaver. Investeringsselskapet Goldman Sachs (GS ) estimerer at rundt 300 millioner jobber vil bli automatisert av generativ AI.
Derfor bør det være reguleringer på utvikling av AI så det ikke forårsaker en alvorlig økonomisk nedgang. Det bør også være utdanningsprogrammer for å videreutdanne og omskolere ansatte til å håndtere denne utfordringen.
2. Forvrengte AI-systemer
Forvrengninger som er vanlige blant mennesker om kjønn, rase eller farge kan uforvarende trenge inn i dataene som brukes til å trene AI-systemer, og deretter gjøre AI-systemene forvrengte.
For eksempel, i sammenheng med rekruttering, kan et forvrent AI-system kaste ut CV-er fra personer fra bestemte etniske bakgrunner, og skape diskriminering på arbeidsmarkedet. I politiarbeid kan forvrent prediktivt politiarbeid uforholdsmessig målrette bestemte nabolag eller demografiske grupper.
Derfor er det essensielt å ha en omfattende datastrategi som adresserer AI-risiko, spesielt forvrengning. AI-systemer må ofte vurderes og auditeres for å holde dem rettferdige.
3. Sikkerhetskritiske AI-applikasjoner
Autonome kjøretøy, medisinsk diagnose og behandling, flysystemer, kontroll av kjernekraftverk osv. er alle eksempler på sikkerhetskritiske AI-applikasjoner. Disse AI-systemene bør utvikles med forsiktighet siden selv mindre feil kan ha alvorlige konsekvenser for menneskeliv eller miljøet.
For eksempel er feilfunksjonen av AI-programvaren kalt Maneuvering Characteristics Augmentation System (MCAS) delvis årsak til krasjet til de to Boeing 737 MAX, først i oktober 2018 og deretter i mars 2019. Dessverre drepte de to krasjene 346 mennesker.
Hvordan kan vi overvinne risikoene med AI-systemer? – Ansvarlig AI-utvikling og regulatorisk overholdelse

Ansvarlig AI (RAI) betyr å utvikle og deployere rettferdige, ansvarlige, transparente og sikre AI-systemer som sikrer personvern og følger lover og samfunnsmessige normer. Implementering av RAI kan være kompleks gitt AI-systemers bredde og raske utvikling.
Likevel har store teknologiselskaper utviklet RAI-rammeverk, som:
AI-laboratorier over hele verden kan ta inspirasjon fra disse prinsippene eller utvikle sine egne ansvarlige AI-rammeverk for å lage pålitelige AI-systemer.
AI-regulatorisk overholdelse
Ettersom data er en integrert komponent i AI-systemer, må AI-baserte organisasjoner og laboratorier overholde følgende reguleringer for å sikre datasikkerhet, personvern og sikkerhet.
- GDPR (General Data Protection Regulation) – et data beskyttelsesrammeverk av EU.
- CCPA (California Consumer Privacy Act) – en California-statutt for personvern og forbrukerbeskyttelse.
- HIPAA (Health Insurance Portability and Accountability Act) – en amerikansk lovgivning som beskytter pasienters medisinske data.
- EU AI Act, og Etiske retningslinjer for pålitelig AI – en europeisk kommisjon AI-regulering.
Det finnes flere regionale og lokale lover som er vedtatt av forskjellige land for å beskytte sine borgere. Organisasjoner som ikke sikrer regulatorisk overholdelse rundt data kan bli straffet. For eksempel har GDPR fastsatt en bot på 20 millioner euro eller 4% av årlig fortjeneste for alvorlige overtredelser som ulovlig databehandling, ubekreftet data-samtykke, overtredelse av datasubjekters rettigheter eller ikke-beskyttet dataoverføring til en internasjonal enhet.
AI-utvikling og reguleringer – Nåværende og fremtidige
Med hver måned som går, når AI-fremgangen nye, uforutsette høyder. Men de tilhørende AI-reguleringene og styringsrammeverkene er på etterskudd. De må bli mer robuste og spesifikke.
Teknologiledere og AI-utviklere har ringt alarm om risikoene med AI hvis de ikke blir tilstrekkelig regulert. Forskning og utvikling i AI kan bringe verdier i mange sektorer, men det er klart at forsiktig regulering nå er påkrevd.
For mer AI-relatert innhold, besøk unite.ai.












