AI-modeller og platforme
Teknologiledere fremhæver risikoen for kunstig intelligens og nødvendigheden af robust regulering af kunstig intelligens
Føj Unite.AI til dine foretrukne kilder på Google
Kunstig intelligens er vokset eksponentielt over de seneste få år. Ifølge Statista vil den globale marked for kunstig intelligens generere en imponerende omsætning på omkring 3000 milliarder dollar i 2024, sammenlignet med 126 milliarder dollar i 2015. Teknologiledere advarer nu imidlertid om de forskellige risici forbundet med kunstig intelligens.
I særdeleshed har den seneste bølge af generativ kunstig intelligens som ChatGPT introduceret nye muligheder i forskellige datafølsomme sektorer, såsom sundhedsvesen, uddannelse, finans osv. Disse kunstig intelligens-baserede udviklinger er sårbare på grund af mange kunstig intelligens-mangler, som skadelige aktører kan udnytte.
Lad os diskutere, hvad kunstig intelligens-eksperter siger om de seneste udviklinger, og fremhæve de potentielle risici forbundet med kunstig intelligens. Vi vil også kort berøre, hvordan disse risici kan håndteres.
Teknologiledere og deres bekymringer relateret til risikoen for kunstig intelligens
Geoffrey Hinton
Geoffrey Hinton – en berømt teknologileder (og “gudfar” til feltet), der nylig forlod Google (GOOGL ), har udtrykt sine bekymringer om den hurtige udvikling i kunstig intelligens og dens potentielle farer. Hinton mener, at kunstig intelligens-chatbots kan blive “meget skræmmende”, hvis de overgår menneskelig intelligens.
Hinton siger:
“Lige nu ser vi ting som GPT-4, der overgår en person i mængden af generel viden, og det overgår dem med langt. I forhold til resonnering er det ikke så godt, men det gør allerede simple resonneringer. Og med den hastighed, hvormed udviklingen sker, forventer vi, at tingene bliver bedre meget hurtigt. Så vi skal bekymre os om det.”
Desuden mener han, at “dårlige aktører” kan bruge kunstig intelligens til “dårlige ting”, såsom at give robotter underordnede mål. Trods sine bekymringer mener Hinton, at kunstig intelligens kan bringe kortegevinster, men vi skal også investere kraftigt i kunstig intelligens-sikkerhed og kontrol.
Elon Musk
Elon Musks involvering i kunstig intelligens begyndte med hans tidlige investering i DeepMind i 2010, til at medstifte OpenAI og integrere kunstig intelligens i Teslas selvkørende køretøjer.
Selvom han er entusiastisk om kunstig intelligens, rejser han ofte bekymringer om risikoen for kunstig intelligens. Musk mener, at kraftfulde kunstig intelligens-systemer kan være farligere for civilisationen end kernevåben. I et interview på Fox News i april 2023 sagde han:
“Kunstig intelligens er farligere end, sagen, mislykket flydesign eller produktionsservice eller dårlig bilproduktion. I den forstand, at det har potentialet – selvom det kan være småt – men det er ikke uvæsentligt og har potentialet for civilisationsdestruktion.”
Desuden støtter Musk regeringsreguleringer af kunstig intelligens for at sikre sikkerhed fra potentielle risici, selvom “det ikke er så sjovt”.
Pause Giant AI Eksperimenter: En åben brev støttet af 1000’er af kunstig intelligens-eksperter
Future of Life Institute offentliggjorde en åben brev den 22. marts 2023. Brevet opfordrer til en midlertidig seks måneders pause i kunstig intelligens-systemer mere avanceret end GPT-4. Forfatterne udtrykker deres bekymringer om, at udviklingen af kunstig intelligens-systemer sker med en så hurtig hastighed, at det kan medføre alvorlige socioøkonomiske udfordringer.
Desuden fastslår brevet, at kunstig intelligens-udviklere skal arbejde med politikere for at dokumentere kunstig intelligens-styringssystemer. Pr. juni 2023 er brevet blevet undertegnet af over 31.000 kunstig intelligens-udviklere, eksperter og teknologiledere. Bemærkelsesværdige undertegnere inkluderer Elon Musk, Steve Wozniak (medstifter af Apple (AAPL )), Emad Mostaque (administrerende direktør, Stability AI), Yoshua Bengio (Turing-prisvinder) og mange flere.
Modargumenter om at standse kunstig intelligens-udvikling
To fremtrædende kunstig intelligens-ledere, Andrew Ng og Yann LeCun, har modsagt den seks måneders pause i udviklingen af avancerede kunstig intelligens-systemer og betragter pausen som en dårlig idé.
Ng siger, at selvom kunstig intelligens har nogle risici, såsom bias, koncentration af magt osv., så er værdien, der skabes af kunstig intelligens i felter som uddannelse, sundhedsvesen og responsiv coaching, enorm.
Yann LeCun siger, at forskning og udvikling ikke skal stoppes, selvom kunstig intelligens-produkter, der når slutbrugeren, kan reguleres.
Hvad er de potentielle farer og umiddelbare risici for kunstig intelligens?
1. Jobfordrivelse
Kunstig intelligens-eksperter mener, at intelligente kunstig intelligens-systemer kan erstatte kognitive og kreative opgaver. Investeringsselskabet Goldman Sachs estimerer, at omkring 300 millioner job vil blive automatiseret af generativ kunstig intelligens.
Derfor skal der være reguleringer på udviklingen af kunstig intelligens, så det ikke forårsager en alvorlig økonomisk nedtur. Der skal være uddannelsesprogrammer for at opskolere og omuddanne medarbejdere for at tackle denne udfordring.
2. Forbudte kunstig intelligens-systemer
Forbud blandt mennesker om køn, race eller farve kan utilsigtet trænge ind i data, der bruges til at træne kunstig intelligens-systemer, og derefter gøre kunstig intelligens-systemer forbudte.
For eksempel i konteksten af rekruttering kan et forbudt kunstig intelligens-system afvise ansøgninger fra personer fra bestemte etniske baggrunde, og skabe diskrimination på arbejdsmarkedet. I politiet kan forbudt prædiktivt politiarbejde målrette bestemte kvarterer eller demografiske grupper.
Derfor er det vigtigt at have en omfattende datastrategi, der adresserer kunstig intelligens-risici, især forbud. Kunstig intelligens-systemer skal hyppigt vurderes og auditeres for at holde dem retfærdige.
3. Sikkerheds-kritiske kunstig intelligens-anvendelser
Selvkørende køretøjer, medicinsk diagnose og behandling, flysystemer, kontrol af kernekraftværker osv. er alle eksempler på sikkerheds-kritiske kunstig intelligens-anvendelser. Disse kunstig intelligens-systemer skal udvikles med forsigtighed, da selv mindre fejl kan have alvorlige konsekvenser for menneskeliv eller miljøet.
For eksempel tilskrives fejlfunktionen af kunstig intelligens-softwaren Maneuvering Characteristics Augmentation System (MCAS) delvist til styrtet af de to Boeing 737 MAX, først i oktober 2018 og derefter i marts 2019. Desværre dræbte de to styrt 346 mennesker.
Hvordan kan vi overvinde risikoen for kunstig intelligens-systemer? – Ansvarlig kunstig intelligens-udvikling og regulativ compliance
Ansvarlig kunstig intelligens (RAI) betyder at udvikle og implementere retfærdige, ansvarlige, gennemsigtige og sikre kunstig intelligens-systemer, der sikrer privatliv og overholder lovgivning og samfundsnormer. Implementering af RAI kan være kompleks, given kunstig intelligens-systemers brede og hurtige udvikling.
Men store teknologivirksomheder har udviklet RAI-rammer, såsom:
Kunstig intelligens-laboratorier over hele verden kan tage inspiration fra disse principper eller udvikle deres egne ansvarlige kunstig intelligens-rammer for at skabe troværdige kunstig intelligens-systemer.
Kunstig intelligens-regulativ compliance
Da data er en integreret komponent i kunstig intelligens-systemer, skal kunstig intelligens-baserede organisationer og laboratorier overholde følgende reguleringer for at sikre datasikkerhed, privatliv og sikkerhed.
- GDPR (General Data Protection Regulation) – et data beskyttelsesrammeværk fra EU.
- CCPA (California Consumer Privacy Act) – en Californisk lov om forbrugerbeskyttelse og privatliv.
- HIPAA (Health Insurance Portability and Accountability Act) – en amerikansk lovgivning, der beskytter patienters medicinske data.
- EU AI Act, og Etiske retningslinjer for troværdig kunstig intelligens – en europæisk kommissions kunstig intelligens-regulering.
Der er forskellige regionale og lokale love, der er vedtaget af forskellige lande for at beskytte deres borgere. Organisationer, der ikke sikrer regulativ compliance omkring data, kan resultere i alvorlige straffe. For eksempel har GDPR fastsat en bøde på 20 millioner euro eller 4% af årlig profit for alvorlige overtrædelser såsom ulovlig data behandling, utilstrækkelig data samtykke, krænkelse af datasubjektets rettigheder eller ikke-beskyttet dataoverførsel til en international enhed.
Kunstig intelligens-udvikling og regulering – Nutid og fremtid
Med hver måned, der går, når kunstig intelligens-fremgangen usete højder. Men de tilhørende kunstig intelligens-reguleringer og styringsrammer er langsomme. De skal være mere robuste og specifikke.
Teknologiledere og kunstig intelligens-udviklere har ringet advarselsklokker om risikoen for kunstig intelligens, hvis den ikke reguleres tilstrækkeligt. Forskning og udvikling i kunstig intelligens kan yderligere skabe værdi i mange sektorer, men det er klart, at omhyggelig regulering nu er imperativ.
For mere kunstig intelligens-relateret indhold, besøg unite.ai.
