Adrian Zidaritz, forfatter av AIbluedot.com – Intervju-serie

Adrian Zidaritz er forfatter av AIbluedot.com, en blogg som gir en oversikt over AI, med en blanding av matematikk, etikk, politikk og “alt” imellom. Selv om artiklene inneholder et minimum av teknisk materiale, er de ikke rettet mot spesialister, men heller mot allmennheten. AI er misforstått av ikke-spesialister og det er enten overvurdert eller nedvurdert i media; det er likevel den mest konsekvensfulle teknologien i vår nåværende tid.

Hva var det som først tiltalte deg til AI?

AI-utvikling krever en bred rekke av ekspertise, til forskjell fra andre moderne teknologier. Det bygger på forskning fra statistikk, nevrovitenskap, anvendt matematikk, datavitenskap, programvareutvikling, psykologi osv… Denne utfordringen er det som tiltalte meg, kombinert med det faktum at jeg hadde lykken til å dabble med mange av disse feltene i min tidligere karriere: matematikk, datavitenskap, programvareutvikling, statistikk.

Du har hatt en omfattende karriere som arbeider i AI. Kan du diskutere noen av disse høydepunktene?

Dette er på en måte en fortsettelse av spørsmål 1. Nesten hver middelaldrende person som arbeider i AI i dag kommer fra et annet sted. Inntil rundt 2005 var det ingen AI (for øvrig er suksessen med AI hovedsakelig takket være neurale nettverk = dyp læring, alle andre teknikker er mindre viktige; så for alle praktiske formål når vi sier AI, mener vi dyp læring). Som resultat av dette bringer mange av oss som arbeider i AI unike perspektiver til feltet. Jeg kommer fra en matematisk bakgrunn kombinert med å lede praktiske AI-prosjekter, hvor BigData-ingeniørarbeid spiller en svært stor rolle (noen ganger mer enn 80% av total prosjekttid). Min bakgrunn plasserer AI mellom en tvil om dens matematiske grunnlag (svært teoretisk) og de svært praktiske aspektene ved å lede lag av datavitenskapsmenn og maskinlæringsingeniører. Det er andre forskere som kjenner mer til AI-teknologiene i midten av sandwichen.

Du har uttalt at AI har enten blitt overvurdert eller undervurdert i media. Hvorfor tror du det er en slik disconnect mellom media og den faktiske tilstanden av teknologien?

Fordi AI er misforstått, selv av noen mennesker som arbeider i AI, og enda mer av pressen. Det er en svært ung disiplin, med svært unge arbeidere. De ulike meninger fra disse unge arbeiderne kommer inn i media, og føder en misalignering av mål. Det er tilstrekkelig å nevne dokumentaren “The Social Dilemma” på Netflix (NFLX ), hvor disse motsigelser av AI, fra et Silicon Valley-perspektiv, er godt dokumentert.

I øyeblikket har vi sett en stor fremgang i AI, og det meste av denne fremgangen har vært fra dyp læring. Hva er dine synspunkter på den svarte boks-problemet med dyp læring?

Dette er et stort problem. Grunnleggende sett har vi ikke en teoretisk (matematisk) forståelse av prosessen med læring. Vi vet ikke hvordan dyp læring-algoritmer faktisk lærer. Vi ser bare at de gjør det. Det har vært forsøk på å utvikle en teori, men ingen har fått bred aksept. Så i fravær av denne grunnleggende forståelsen, kan vi bare si “se, det fungerer”. Men å gi en hvit-boks forklaring er umulig for øyeblikket. Andre algoritmer (ikke dyp læring) er bedre forstått, og for dem er det mulig å gi forklaringer av resultater. Ikke for dyp læring.

Hva er dine synspunkter på AI-forbias og hvordan kan vi forhindre det?

I øyeblikket er AI alt om data, ikke om algoritmer. Algoritmene kjenner ingen bias, biasen er i dataene. Dataene reflekterer samfunnets sammensetning og også samfunnets stratifikasjon, da datainnsamlingen også har bias i seg. Disse er for øvrig naturlig forekommende, hva som må skje, er en gradvis inklusjon av mennesker fra alle bakgrunner i datainnsamlingsprosessen, så dataene reflekterer en korrekt representasjon av befolkningen.

Hva slags maskinlæring finner du mest interessant?

Som jeg sa tidligere, er maskinlæring nå i ferd med å gi plass til sin mest suksessfulle indre gren, dyp læring. Neurale nettverk, gjennom deres fleksibilitet, dominerer.

Du har uttalt at Universal Basic Income (UBI) vil være absolutt nødvendig for å håndtere jobbtapene som følger av AI. Kan du utdype på disse synspunktene?

Samfunnet vil lide enorme konsekvenser fra automatisering (applied AI). Vi har sett de betydelige endringene, selv i den politiske opprøret siden 2016. Det vil ikke være noen måte å gå tilbake på. Mange jobber vil bare forsvinne. Det har ingen mening å utdanne seg til radiolog i dag. AI kan lese røntgenbilder og MRI og alle slags andre utskrifter mye bedre enn et menneske. Hva vil skje med mennesker når det ikke er noen jobb de kan gjøre? UBI garanterer at mennesker ikke lider unødvendig når automatisering blir utbredt. Og det er ingen grunn til å gjøre det, fordi AI vil levere det nødvendige arbeidet for at samfunnet skal fungere.

Tror du at vi kan oppnå kunstig generell intelligens (AGI)?

Ja, mange mennesker argumenterer for at DeepMinds programvare allerede grenser til AGI. Jeg abonnerer ikke på den ideen, men selv for meg er svaret ja. AGI betyr ikke følelser eller bevissthet, “I” i AGI betyr bare kognitiv intelligens. Og for det nivået av intelligens, synes svaret å være ja.

Tror du at det er en sannsynlighet for at vi lever i en simulering?

En mulighet? Ja, det betyr at sannsynligheten for at vi lever i en simulering er ikke 0. Det er også intellektuelt tiltalende. Men er det sannsynlig? Nei, for meg er det ikke sannsynlig, dvs. sannsynligheten, selv om den ikke er 0, er svært liten.

Takk for intervjuet, lesere som ønsker å lære mer om Adrians synspunkter på ulike aspekter av AI, bør besøke AIbluedot.com.