Adrian Zidaritz, författare till AIbluedot.com – Intervjuserie

Adrian Zidaritz är författare till AIbluedot.com, en blogg som ger en översikt av AI, med en blandning av matematik, etik, politik och “allt” däremellan. Även om artiklarna innehåller ett minimum av tekniskt material, är de inte riktade till specialister, utan snarare till allmänheten. AI är missförstådd av icke-specialister och det är antingen överdrivet eller nedtonat i media; det är ändå den mest betydelsefulla tekniken i vår tid.

Vad var det som initialt drog dig till AI?

AI-utveckling kräver en bred palett av expertis, till skillnad från någon annan modern teknik. Det matas med forskning från statistik, neurovetenskap, tillämpad matematik, datavetenskap, programvaruutveckling, psykologi etc… Den utmaningen är vad som lockade mig, i kombination med att jag hade turen att experimentera med många av dessa områden i min tidigare karriär: matematik, datavetenskap, programvaruutveckling, statistik.

Du har haft en omfattande karriär inom AI. Kan du diskutera några av dessa höjdpunkter?

Detta är på sätt och vis en fortsättning på fråga 1. Nästan varje medelålders person som arbetar med AI idag kommer från någon annan plats. Fram till cirka 2005 fanns det ingen AI (för övrigt är AI:s framgång huvudsakligen beroende av neurala nätverk = djupinlärning, alla andra tekniker är bleka i jämförelse; så för alla praktiska ändamål när vi säger AI menar vi djupinlärning). Som ett resultat har många av oss som arbetar med AI unika perspektiv på området. Jag kommer från en matematisk bakgrund kombinerad med att leda praktiska AI-projekt, där BigData-utveckling spelar en mycket stor roll (ibland mer än 80% av den totala projektiden). Min bakgrund placerar AI mellan en ifrågasättning av dess matematiska grunder (mycket teoretisk) och de mycket praktiska aspekterna av att leda team av dataingenjörer och maskinlärare. Det finns andra forskare som känner till mer om AI-teknikerna i mitten av smörgåsen.

Du har sagt att AI antingen har blivit överdrivet eller nedtonat i media. Varför tror du att det finns en sådan diskrepans mellan medias rapportering om AI och den faktiska verkligheten?

För att AI är missförstådd även av vissa personer som arbetar med AI, för att inte tala om pressen. Det är en mycket ung disciplin, med mycket unga arbetare. De olika åsikterna från dessa unga arbetare gör sig påmind i media, vilket bidrar till en felaktig utveckling av mål. Tillräckligt att nämna dokumentären Social Dilemma på Netflix (NFLX ), där dessa motsägelsefulla åsikter om AI, från ett Silicon Valley-perspektiv, är väl dokumenterade.

Vad är dina åsikter om det svarta lådan-problemet med djupinlärning?

Det är ett stort problem. I grund och botten har vi inte en teoretisk (=matematisk) förståelse av inlärningsprocessen. Vi vet inte hur djupinlärningsalgoritmer faktiskt lär sig. Vi ser bara att de fungerar. Det har gjorts försök att utveckla en teori, men ingen har fått allmän acceptans. Så i avsaknad av den grundläggande förståelsen kan vi bara säga “se, det fungerar”. Men att ge en vitlåda-förklaring är omöjligt just nu. Andra algoritmer (inte djupinlärning) är bättre förstådda och för dem är det möjligt att ge förklaringar till resultaten. Inte för djupinlärning.

Vad är dina åsikter om AI-fördomar och hur kan vi förhindra dem?

För närvarande handlar AI om data, inte om algoritmer. Algoritmerna känner inte till någon fördom, fördomen finns i data. Data speglar samhällets sammansättning och även samhällets stratifiering, eftersom datainsamlingen också har fördomar i sig. Detta händer för övrigt naturligt, vad som måste hända är en gradvis inkludering av människor från alla möjliga bakgrunder i datainsamlingsprocessen, så att data speglar en korrekt representation av befolkningen.

Vilken typ av maskinlärning finner du mest intressant?

Som jag sa tidigare, ger maskinlärning nu vika för sin mest framgångsrika inre gren, djupinlärning. Neurala nätverk, genom sin flexibilitet, dominerar.

Du har sagt att en allmän grundinkomst (UBI) kommer att vara absolut nödvändig för att hantera de jobbförluster som uppstår till följd av AI. Kan du utveckla dina åsikter om detta?

Samhället kommer att drabbas av enorma konsekvenser av automation (tillämpad AI). Vi har sett de betydande förändringarna, även i den politiska omvälvningen sedan 2016. Det kommer inte att finnas något sätt att gå tillbaka. Många jobb kommer att försvinna. Det har inte längre någon mening att utbilda sig till röntgenläkare. AI kan läsa röntgenbilder och MRI och alla andra typer av utskrifter mycket bättre än en människa. Vad kommer att hända med människor när det inte finns något jobb som de kan göra? UBI garanterar att människor inte onödigtvis kommer att lida när automation blir allmän. Och det finns ingen anledning till det, eftersom AI kommer att leverera det nödvändiga arbetet för att samhället fortfarande ska fungera.

Tror du att vi någonsin kan uppnå konstgjord allmän intelligens (AGI)?

Ja, många människor hävdar att DeepMinds programvara redan gränsar till AGI. Jag håller inte med om den idén, men även för mig är svaret ja. AGI betyder inte känslor eller medvetande, I:et i AGI är enbart kognitiv intelligens. Och för den nivån av intelligens verkar svaret vara ja.

Tror du att det finns en möjlighet att vi lever i en simulering?

En möjlighet? Ja, vilket betyder att sannolikheten för att vi lever i en simulering inte är 0. Det är också intellektuellt tilltalande. Men är det troligt? Nej, för mig är det inte troligt, dvs. sannolikheten, även om den inte är 0, är mycket, mycket liten.

Tack för intervjun, läsare som vill lära sig mer om Adrians åsikter om olika aspekter av AI bör besöka AIbluedot.com.