Ronald T. Kneusel, autor knihy “Jak funguje AI: Od čarodějnictví k vědě” – Rozhovor

Nedávno jsme obdrželi předvýrobní kopii knihy “Jak funguje AI: Od čarodějnictví k vědě” od Ronalda T. Kneusela. Dosud jsem přečetl přes 60 knih o AI a zatímco některé z nich se opakují, tato kniha nabízela nový pohled, který jsem si dostatečně užil, aby se dostala na můj osobní seznam Nejlepších knih o strojovém učení a AI všech dob.

“Jak funguje AI: Od čarodějnictví k vědě” je stručná a jasná kniha, která má za cíl vysvětlit základní principy strojového učení. Níže jsou uvedeny některé otázky, které byly položeny autorovi Ronaldu T. Kneuselovi.

To je vaše třetí kniha o AI, první dvě byly: “Praktické hluboké učení: Úvod založený na Pythonu” a “Matematika pro hluboké učení: Co potřebujete vědět, aby jste rozuměli neuronovým sítím”. Jaký byl váš prvotní záměr, když jste se rozhodl napsat tuto knihu?

Rozdílná cílová skupina. Mé předchozí knihy jsou určeny pro lidi, kteří se chtějí stát praktiky AI. Tato kniha je pro obecné čtenáře, kteří slyší mnoho o AI v novinách, ale nemají v tomto oboru žádné zkušenosti. Chci ukázat čtenářům, odkud AI pochází, že to není magie a že ji může pochopit každý.

Zatímco mnoho knih o AI má tendenci zobecňovat, você jste se rozhodl být velmi specifický při výkladu významu různých termínů a dokonce vysvětluje vztah mezi AI, strojovým učením a hlubokým učením. Proč si myslíte, že existuje tolik společenské zmatení mezi těmito termíny?

Abychom pochopili historii AI a proč je všude, kam se podíváme, musíme pochopit rozdíly mezi těmito termíny, ale v běžném použití je správné použít “AI” s vědomím, že se primárně týká AI systémů, které tak rychle mění svět. Moderní AI systémy vznikly z hlubokého učení, které vzniklo ze strojového učení a connectionistického přístupu k AI.

Druhá kapitola se hluboce zabývá historií AI, od mýtu o Talovi, obrovském robotovi, který měl chránit fénickou princeznu, až po Alanovu Turingovu práci z 50. let 20. století, “Počítačová zařízení a inteligence”, a vzniku hlubokého učení v roce 2012. Proč je pochopení historie AI a strojového učení tak důležité pro plné pochopení toho, jak daleko AI pokročilo?

Mým záměrem je ukázat, že AI nejspadla z nebe. Má historii, původ a vývoj. Zatímco schopnosti velkých jazykových modelů jsou překvapením, cesta, která k nim vedla, není. Je to cesta desetiletí myšlení, výzkumu a experimentování.

Věnoval jste celou kapitolu pochopení klasických AI systémů, jako jsou podpůrné vektorové stroje, rozhodovací stromy a náhodné lesy. Proč si myslíte, že plné pochopení těchto klasických AI modelů je tak důležité?

AI jako neuronové sítě je pouze (!) alternativní přístup k stejnému typu modelování založeného na optimalizaci, jako je tomu u mnoha předchozích modelů strojového učení. Je to jiný pohled na to, co znamená vyvinout model nějakého procesu, nějaké funkce, která mapuje vstupy na výstupy. Znalost předchozích typů modelů pomáhá pochopit, odkud současné modely pocházejí.

Prohlašujete, že model LLM od OpenAI je začátkem skutečné AI. Co podle vás bylo největší změnou mezi touto a předchozími metodami řešení AI?

Nedávno jsem viděl video z konce 80. let, na kterém Richard Feynman odpovídá na otázku o inteligentních strojích. Řekl, že neví, jaký program by mohl fungovat inteligentně. V jistém smyslu mluvil o symbolické AI, kde záhadou inteligence je nalezení magické sekvence logických operací, atd., které umožňují inteligentní chování. I já jsem se dříve ptal, stejně jako mnozí jiní, na stejné věci – jak naprogramovat inteligenci?

Můj názor je, že to opravdu nelze. Inteligence spíše vzniká z dostatečně komplexních systémů, které jsou schopny implementovat to, co nazýváme inteligencí (tj. nás). Naše mozky jsou obrovské sítě základních jednotek. To je také to, co je neuronová síť. Myslím, že architektura transformeru, jak je implementována v LLM, náhodou objevila podobné uspořádání základních jednotek, které mohou spolupracovat a umožnit, aby inteligentní chování vzniklo.

Na jedné straně to je ultimátní “šťastná náhoda” od Boba Rosse, na druhé straně by to nemělo být příliš překvapivé, až se jednou stane, že uspořádání a interakce mezi základními jednotkami, které umožňují inteligentnímu chování, skutečně nastanou. Zdá se, že je nyní jasné, že modely transformeru jsou jedním z takových uspořádání. Samozřejmě to vyvolává otázku: jaké další takové uspořádání by mohlo existovat?

Váš závěrečný vzkaz je, že moderní AI (LLM) jsou v jádru prostě neuronová síť, která je trénována zpětným šíření a gradientem. Jste osobně překvapen, jak efektivní LLM jsou?

Ano a ne. Jsem neustále překvapen jejich odpověďmi a schopnostmi, když je používám, ale s ohledem na předchozí otázku, inteligence, která vzniká, je skutečná, proč by neměla vzniknout v dostatečně velkém modelu se vhodnou architekturou? Myslím, že výzkumníci, jako Frank Rosenblatt, už dávno mysleli podobně.

Mise OpenAI je “zajistit, aby obecná umělá inteligence – AI systémy, které jsou obecně chytřejší než lidé – prospěly všem lidem”. Věříte, že obecná umělá inteligence je dosažitelná?

Neznám, co znamená obecná umělá inteligence, stejně jako neznám, co znamená vědomí, takže je těžké odpovědět. Jak jsem uvedl v knize, může brzy nastat chvíle, kdy bude zbytečné se o tyto rozdíly starat – pokud to vypadá jako kachna a kváká jako kachna, prostě to nazvěme kachnou a pokračujme.

Šťastné odpovědi stranou, je zcela možné, že AI systém by mohl brzy uspokojit mnoho teorií vědomí. Chceme plně vědomé AI systémy? Možná ne. Pokud je vědomý, je to jako my a tudíž osoba s právy – a nemyslím, že je svět připraven na umělou osobu. Máme už dost problémů s respektem k právům našich lidských bližních, natož k právům jakéhokoli jiného typu bytosti.

Byla během psaní této knihy něco, co vás překvapilo?

Mimo stejné úrovně překvapení, kterou všichni ostatní cítí z inteligentních schopností LLM, ne. Naučil jsem se o AI jako student v 80. letech. Začal jsem pracovat se strojovým učením na počátku roku 2000 a byl jsem zapojen do hlubokého učení, když se objevilo na počátku roku 2010. Svědkem jsem byl vývoje posledních deseti let, stejně jako tisíce dalších, jak toto odvětví dramaticky rostlo z konference na konferenci.

Děkuji za skvělý rozhovor, čtenáři mohou také zajít na mou recenzi této knihy. Kniha je dostupná u všech velkých prodejců, včetně Amazonu.