Kunstig intelligens
Teknologiledere fremhæver risikoen for AI og nødvendigheden af robust AI-regulering
AI-vækst og -fremgang har været eksponentielt over de seneste få år. Statista rapporterer, at det globale AI-marked vil generere en overvældende omsætning på omkring 3000 milliarder dollar i 2024, sammenlignet med 126 milliarder dollar i 2015. Imidlertid advarer teknologiledere nu om de forskellige risici ved AI.
Især den seneste bølge af generativ AI-modeller som ChatGPT har introduceret nye muligheder i forskellige datafølsomme sektorer, såsom sundhedsvesen, uddannelse, finans osv. Disse AI-baserede udviklinger er sårbare på grund af mange AI-mangler, som ondsindede agenter kan udnytte.
Lad os diskutere, hvad AI-eksperter siger om de seneste udviklinger, og fremhæve de potentielle risici ved AI. Vi vil også kort berøre, hvordan disse risici kan håndteres.
Teknologiledere og deres bekymringer relateret til AI-risici
Geoffrey Hinton
Geoffrey Hinton – en berømt AI-teknologileder (og stamfar til dette felt), der nylig forlod Google, har udtrykt sine bekymringer om den hurtige udvikling i AI og dens potentielle farer. Hinton mener, at AI-chatbots kan blive “meget skræmmende”, hvis de overgår menneskelig intelligens.
Hinton siger:
“Lige nu ser vi ting som GPT-4, der overgår en person i mængden af generel viden, og det overgår dem med langt. I forhold til resonnering er det ikke så godt, men det gør allerede enkel resonnering. Og givet udviklingstempoet, forventer vi, at tingene bliver bedre meget hurtigt. Så vi skal bekymre os om det.”
Desuden mener han, at “onde aktører” kan bruge AI til “onde ting”, såsom at give robotter underordnede mål. Trods sine bekymringer mener Hinton, at AI kan bringe kortegefordelene, men vi skal også investere kraftigt i AI-sikkerhed og kontrol.
Elon Musk
Elon Musks involvering i AI begyndte med hans tidlige investering i DeepMind i 2010, til medstiftende af OpenAI og integration af AI i Teslas selvkørende køretøjer.
Selvom han er entusiastisk om AI, rejser han ofte bekymringer om AI-risici. Musk mener, at kraftfulde AI-systemer kan være farligere for civilisationen end atomvåben. I et interview på Fox News i april 2023 sagde han:
“AI er farligere end, sagen, mismanaged flydesign eller produktion eller dårlig bilproduktion. I den forstand, at det har potentialet – hvordan man end måtte anse denne sandsynlighed – men det er ikke uvæsentligt og har potentialet for civilisationsdestruktion.”
Desuden støtter Musk regeringsreguleringer på AI for at sikre sikkerhed fra potentielle risici, selvom “det ikke er så sjovt”.
Pause Giant AI-eksperimenter: En åben brev støttet af 1000s af AI-eksperter
Future of Life Institute offentliggjorde en åben brev den 22. marts 2023. Brevet opfordrer til en midlertidig seks måneders pause på AI-systemudvikling mere avanceret end GPT-4. Forfatterne udtrykker deres bekymringer om, at udviklingstempoet for AI-systemer udgør alvorlige socioøkonomiske udfordringer.
Desuden fastslår brevet, at AI-udviklere skal arbejde med politikere for at dokumentere AI-styringssystemer. Pr. juni 2023 er brevet underskrevet af over 31.000 AI-udviklere, eksperter og teknologiledere. Bemærkelsesværdige underskrivere inkluderer Elon Musk, Steve Wozniak (medstifter af Apple), Emad Mostaque (adm. dir., Stability AI), Yoshua Bengio (Turing-prisvinder) og mange flere.
Modargumenter om at standse AI-udvikling
To fremtrædende AI-ledere, Andrew Ng og Yann LeCun, har modsagt den seks måneders pause på udvikling af avancerede AI-systemer og anså pausen for en dårlig idé.
Ng siger, at selvom AI har nogle risici, såsom bias, koncentration af magt osv., så er værdien, der skabes af AI i felter som uddannelse, sundhedsvesen og responsiv coaching, enorm.
Yann LeCun siger, at forskning og udvikling ikke skal stoppes, selvom AI-produkter, der når slutbrugeren, kan reguleres.
Hvad er de potentielle farer og umiddelbare risici ved AI?
1. Arbejdsløshed
AI-eksperter mener, at intelligente AI-systemer kan erstatte kognitive og kreative opgaver. Investeringsselskabet Goldman Sachs estimerer, at omkring 300 millioner jobs vil blive automatiseret af generativ AI.
Derfor skal der være reguleringer på AI-udvikling, så det ikke forårsager en alvorlig økonomisk nedtur. Der skal være uddannelsesprogrammer for at opskolere og genskole ansatte til at håndtere denne udfordring.
2. Forbudte AI-systemer
Forbud, der er almindelige blandt mennesker om køn, race eller farve, kan utilsigtet trænge ind i data, der bruges til at træne AI-systemer, og derefter gøre AI-systemer forbudte.
For eksempel i konteksten af rekruttering kan et forbudt AI-system forkaste ansøgninger fra personer fra bestemte etniske baggrunde, og skabe diskrimination på arbejdsmarkedet. I politiarbejde kan forbudt prædiktivt politiarbejde uhensigtsmæssigt målrette bestemte kvarterer eller demografiske grupper.
Derfor er det essentiel at have en omfattende datastrategi, der adresserer AI-risici, især forbud. AI-systemer skal hyppigt vurderes og auditeres for at holde dem retfærdige.
3. Sikkerheds-kritiske AI-anvendelser
Selvkørende køretøjer, medicinsk diagnose og behandling, flysystemer, kontrol af kernekraftværker osv. er alle eksempler på sikkerheds-kritiske AI-anvendelser. Disse AI-systemer skal udvikles forsigtigt, fordi selv mindre fejl kan have alvorlige konsekvenser for menneskeliv eller miljøet.
For eksempel tilskrives fejlfunktionen af AI-softwaren Maneuvering Characteristics Augmentation System (MCAS) delvist til styrtet af de to Boeing 737 MAX, først i oktober 2018 og derefter i marts 2019. Desværre dræbte de to styrt 346 mennesker.
Hvordan kan vi overvinde AI-systemernes risici? – Ansvarlig AI-udvikling og reguleringssamvirke
Ansvarlig AI (RAI) betyder udvikling og implementering af retfærdige, ansvarlige, gennemsigtige og sikre AI-systemer, der sikrer privatliv og følger lovgivning og sociale normer. Implementering af RAI kan være kompleks på grund af AI-systemernes brede og hurtige udvikling.
Imidlertid har store teknologivirksomheder udviklet RAI-rammer, såsom:
AI-laboratorier over hele verden kan tage inspiration fra disse principper eller udvikle deres egne ansvarlige AI-rammer for at skabe troværdige AI-systemer.
AI-reguleringssamvirke
Da data er en integreret komponent i AI-systemer, skal AI-baserede organisationer og laboratorier overholde følgende reguleringer for at sikre datasikkerhed, privatliv og sikkerhed.
- GDPR (General Data Protection Regulation) – et data beskyttelsesrammeværk af EU.
- CCPA (California Consumer Privacy Act) – en Californisk lovgivning om privatlivsrettigheder og forbrugerbeskyttelse.
- HIPAA (Health Insurance Portability and Accountability Act) – en amerikansk lovgivning, der beskytter patienters medicinske data.
- EU AI-lov, og etiske retningslinjer for troværdig AI – en europæisk kommissions AI-regulering.
Der er forskellige regionale og lokale love, der er vedtaget af forskellige lande for at beskytte deres borgere. Organisationer, der ikke sikrer reguleringssamvirke omkring data, kan resultere i alvorlige straffe. For eksempel har GDPR fastsat en bøde på 20 millioner euro eller 4% af årlig profit for alvorlige overtrædelser, såsom ulovlig databehandling, ubekræftet datatilladelse, krænkelse af datasubjektets rettigheder eller ikke-beskyttet dataoverførsel til en international enhed.
AI-udvikling og regulering – Nutid og fremtid
Med hver måned, der går, når AI-fremgangen usete højder. Men de tilhørende AI-reguleringer og styringsrammer er tilbage. De skal være mere robuste og specifikke.
Teknologiledere og AI-udviklere har ringet advarsler om AI-risici, hvis de ikke er tilstrækkeligt reguleret. Forskning og udvikling i AI kan yderligere skabe værdi i mange sektorer, men det er klart, at omhyggelig regulering er nu imperativ.
For mere AI-relateret indhold, besøg unite.ai.
