Kevin Baragona, spoluzakladateľ a generálny riaditeľ spoločnosti DeepAI – Interview Series

Hlboká AI zakladateľ Kevin Baragona je profesionálny softvérový inžinier a vývojár produktov s viac ako desaťročnými skúsenosťami. Jeho cieľom pri navrhovaní a vývoji DeepAI je vytvoriť komplexnú platformu, ktorá je intuitívna pre všeobecných lekárov, užitočná pre vývojárov na integráciu DeepAI do svojich projektov a na predstavenie učiacich sa novým AI s jej mnohými a rôznorodými možnosťami.

Čo vás na začiatku priťahovalo k AI?

AI ma spočiatku priťahovala vďaka jej obrovskému potenciálu. Keď som sa dozvedel viac o Deep Learning, videl som, že sa súčasne dejú veľké prelomy v spracovaní obrázkov a textu. To ma presvedčilo, že potenciál AI nebola náhoda. Spustili sme prvý online generátor umelej inteligencie pre text na obrázok na svete na DeepAI. Vtedy mohol generátor do istej miery poskytnúť to, čo sa od neho žiadalo, ale výsledkom boli skôr novinky ako užitočné výtvory. Čo ma zaujalo, bola možnosť, že pokroky v algoritmoch a výpočtovom výkone povedú k výsledkom pripraveným pre spotrebiteľov.

Mohli by ste sa podeliť o príbeh vzniku DeepAI?

DeepAI začala ako webová stránka v roku 2016 a ponúkala prvý generátor textu na obrázky AI. V nasledujúcom roku sme ho začlenili a oficiálne spustili ako obchod. Postupom času sme rozšírili našu ponuku o produkt počítačového videnia, ktorý využívalo 100 spoločností, ako aj veľké vlády. Odvtedy sme ukončili výrobu nášho produktu počítačového videnia a úplne sme sa zamerali na nástroje generovania AI. Naša súčasná ponuka zahŕňa Text to Image, AI Chat a viac ako dvadsať súvisiacich rozhraní API, ako napríklad AI Image Editor.

DeepAI ponúka generátor umenia a ďalšie generatívne nástroje AI, mohli by ste sa podeliť o nejaké podrobnosti o LLM a otvorenom zdrojovom kóde, ktorý sa používa?

DeepAI je platforma zameraná na spotrebiteľov a vývojárov a naším záväzkom je poskytovať im čo najlepšie skúsenosti. Nie sme viazaní na žiadny jeden LLM a v akomkoľvek danom bode čerpáme z rôznych interných alebo externých LLM. Za posledných šesť mesiacov sme použili niekoľko generátorov AI Chat a AI Image. Nezverejňujeme, ktoré z nich používame, takže používatelia nebudú očakávať konkrétny LLM. Nemôžeme sa dočkať, až v budúcnosti vyskúšame napríklad Anthropic a množstvo ďalších LLM. Pravdepodobne v určitom bode zhodnotíme všetky hlavné možnosti a potenciálne vyvinieme naše vlastné.

Nedávno si podpísal otvorený list The Future of Life Institute prečo si myslíte, že v prípade 6-mesačného moratória na vývoj AI by sa malo toto odvetvie zastaviť?

V tomto bode je jasné, že podpísanie listu s výzvou na 6-mesačnú pauzu bolo do značnej miery symbolickým gestom, ale cítim, že to bolo dôležité a malo to aj iné účinky. Jedným z pozitívnych výsledkov bolo krátko po podpise, vláda USA vyčlenila 140 miliónov dolárov na nové oddelenie pre dohľad nad AI, ktoré vedie Kamala Harris. Možno sme svojím úsilím ovplyvnili toto rozhodnutie a pomohli riadiacim orgánom uvedomiť si, že dohľad je nevyhnutný pre bezpečnosť spoločnosti.

Ako bude prestávka prínosom pre priemysel, ak zlí herci a firmy AI v Číne budú pokračovať v rýchlom napredovaní vývoja AI?

Iste, rovnaký spôsob uvažovania bol použitý na eskaláciu pretekov v jadrovom zbrojení.

Rozdiel oproti AI je v tom, že má moc poškodiť svojich tvorcov nečakaným spôsobom. Ak AI dokáže odstrániť celé kategórie pracovných miest, môže nasledovať masová nezamestnanosť a chudoba. Alebo ak sa začne používať na prijímanie rozhodnutí na lekárske alebo súdne účely, mohlo by to viesť k humanitárnej nespravodlivosti.

Domnievam sa, že obhajovanie pozastavenia vývoja umelej inteligencie je kľúčové pre našu ochranu pred nepredvídaným poškodením, nie preto, aby sme zvýhodnili zlých aktérov.

Predtým ste nazývali AI jadrovými zbraňami softvéru, mohli by ste vysvetliť, prečo si myslíte, že ide o takú existenčnú hrozbu?

Umelá inteligencia je už schopná nahradiť širokú škálu pracovných miest a výskumníci aktívne pracujú na vývoji umelej všeobecnej inteligencie (AGI), ktorá by potenciálne prekonala ľudskú inteligenciu. Ak sa dosiahne AGI, má potenciál urobiť všetky ľudské profesie zastaranými. Táto podobnosť s jadrovými zbraňami pramení z prebiehajúcej konkurencie a pretekov vo vývoji AI.

Základný záujem spočíva vo vytvorení technológie, ktorá prevyšuje ľudskú inteligenciu na všetkých frontoch. V súčasnosti nám chýba akékoľvek pochopenie toho, ako by sme mohli kontrolovať takú mocnú entitu. Navyše, ak budeme pokračovať v rozsiahlom nasadzovaní AI bez náležitej opatrnosti, existuje riziko, že ľudstvo bude jednoducho zatienené alebo prekonané touto rozšírenou implementáciou AI.

Aké sú vaše obavy z ekonomického dopadu tejto technológie?

Obávam sa, že ak AI napreduje rýchlejšie, ako sa spoločnosť dokáže prispôsobiť, dôjde k rozsiahlej strate zamestnania. Technologické pokroky sú skvelé, ale ak sa pohybujú príliš rýchlo, mnohí ľudia sa ocitnú v ťažkých časoch. Autá vyradili kone z prevádzky, no nie všetky naraz. AI by sa mohla pohybovať oveľa rýchlejšie a ľudia by sa nemuseli vedieť prispôsobiť.

Ako ďaleko si myslíte, že sme od dosiahnutia AGI?

Myslím, že sme 5-10 rokov ďaleko. To je len odhad, ale vzhľadom na dynamiku a investície, ktoré do toho idú, si myslím, že sa tam dostaneme oveľa rýchlejšie, ako si uvedomujeme.

Hovorili ste o rizikách a nástrahách AI, aké by boli výhody pokročilej AI alebo dokonca AGI?

AI má obrovské potenciálne výhody a teším sa na ich realizáciu. Napríklad San Francisco sa už hemží samoriadiacimi vozidlami. Keď sa v budúcnosti rozšíria, dopravné nehody sa môžu stať zastaranými. Z osobného hľadiska považujem používanie nástrojov podporovaných AI na písanie počítačového kódu za oveľa príjemnejšie, pretože odstraňuje veľkú časť všednej práce. Okrem toho AI pravdepodobne prekoná ľudí pri identifikácii zdravotných problémov. Lekársky výskum urýchli AI. Vznikne celý rad nových vynálezov v širokých oblastiach od fyziky, materiálovej vedy až po vesmírne lety. Pravdepodobne skončíme so sci-fi budúcnosťou s neuveriteľnými pokrokmi, vďaka ktorým bude náš súčasný život vyzerať absurdne zastaraný.

Ďakujeme za skvelý rozhovor, čitatelia, ktorí sa chcú dozvedieť viac, by mali navštíviť Hlboká AI.