Kevin Baragona, spoluzakladatel a CEO společnosti DeepAI – Interview Series

Hluboká AI zakladatel Kevin Baragona je profesionální softwarový inženýr a produktový vývojář s více než desetiletými zkušenostmi. Jeho cílem při navrhování a vývoji DeepAI je vytvořit komplexní platformu, která je intuitivní pro praktické lékaře, užitečná pro vývojáře k integraci DeepAI do jejich projektů a k seznámení studentů, kteří s umělou inteligencí začínají, její četné a rozmanité možnosti.

Co vás zpočátku přitahovalo k AI?

Zpočátku mě AI přitahovala díky jejímu obrovskému potenciálu. Jak jsem se dozvěděl více o Deep Learning, viděl jsem, jak se současně dějí velké průlomy ve zpracování obrázků a textu. To mě přesvědčilo, že potenciál AI nebyla náhoda. Na DeepAI jsme spustili první online generátor AI textu na obrázek na světě. Tehdy mohl generátor do jisté míry poskytnout to, co se od něj požadovalo, ale výsledkem byly spíše novinky než užitečné výtvory. Co mě zaujalo, byla možnost, že pokroky v algoritmech a výpočetním výkonu povedou k výsledkům připraveným pro spotřebitele.

Mohl byste se podělit o příběh vzniku DeepAI?

DeepAI začal jako webová stránka v roce 2016 a nabízel první generátor textu na obrázky AI. V následujícím roce jsme ji začlenili a oficiálně zahájili jako firmu. Postupem času jsme naši nabídku rozšířili o produkt počítačového vidění, který využívalo 100 společností z bohatství a také velké vlády. Od té doby jsme přestali vyrábět náš produkt pro počítačové vidění a zaměřili jsme se výhradně na nástroje pro generování umělé inteligence. Mezi naše aktuální nabídky patří Text to Image, AI Chat a více než dvacet souvisejících rozhraní API, jako je AI Image Editor.

DeepAI nabízí generátor umění a další generativní nástroje AI, mohli byste se podělit o nějaké podrobnosti o LLM a otevřeném zdrojovém kódu, který se používá?

DeepAI je platforma zaměřená na spotřebitele a vývojáře a naším závazkem je poskytovat jim ty nejlepší možné zkušenosti. Nejsme vázáni na žádný LLM a v jakémkoli daném bodě čerpáme z různých interních nebo externích LLM. V posledních šesti měsících jsme použili několik generátorů AI Chat a AI Image. Nezveřejňujeme, které z nich používáme, takže uživatelé nebudou očekávat konkrétní LLM. Nemůžeme se dočkat, až v budoucnu vyzkoušíme například Anthropic a mnoho dalších LLM. Pravděpodobně v určitém okamžiku vyhodnotíme všechny hlavní možnosti a potenciálně vyvineme vlastní.

Ty nedávno podepsal otevřený dopis The Future of Life Institute proč si myslíte, že kvůli šestiměsíčnímu moratoriu na vývoj umělé inteligence by si toto odvětví mělo dát pauzu?

V tuto chvíli je jasné, že podepsání dopisu vyzývajícího k šestiměsíční pauze bylo z velké části symbolické gesto, ale cítím, že to bylo důležité a mělo to jiné účinky. Jedním z pozitivních výsledků bylo krátce po podpisu, že americká vláda vyčlenila 6 milionů dolarů na nové oddělení dohledu nad umělou inteligencí vedené Kamalou Harrisovou. Možná jsme svým úsilím ovlivnili toto rozhodnutí a pomohli řídícím orgánům uvědomit si, že dohled je nezbytný pro bezpečnost společnosti.

Jak bude pauza přínosem pro průmysl, pokud špatní herci a firmy zabývající se umělou inteligencí v Číně budou pokračovat v rychlém pokroku ve vývoji umělé inteligence?

Jistě, stejný způsob uvažování byl použit k eskalaci závodu v jaderném zbrojení.

Rozdíl oproti umělé inteligenci je v tom, že má moc neočekávaným způsobem poškodit své tvůrce. Pokud umělá inteligence dokáže odstranit celé kategorie pracovních míst, může následovat masová nezaměstnanost a chudoba. Nebo pokud se začne používat k rozhodování pro lékařské nebo soudní účely, mohlo by to vést k humanitárním nespravedlnostem.

Domnívám se, že obhajování pozastavení vývoje umělé inteligence je zásadní pro naši ochranu před nepředvídatelnou újmou, nikoli pro zvýhodnění špatných aktérů.

Dříve jste nazýval AI jadernými zbraněmi softwaru, mohl byste upřesnit, proč věříte, že jde o tak existenční hrozbu?

Umělá inteligence je již schopna nahradit širokou škálu pracovních míst a výzkumníci aktivně pracují na vývoji umělé obecné inteligence (AGI), která by potenciálně předčila lidskou inteligenci. Pokud je dosaženo AGI, má potenciál učinit všechny lidské profese zastaralými. Tato podobnost s jadernými zbraněmi pramení z probíhající soutěže a závodů ve vývoji umělé inteligence.

Základní zájem spočívá ve vytvoření technologie, která překoná lidskou inteligenci na všech frontách. V současné době postrádáme jakékoli pochopení toho, jak bychom mohli ovládat tak mocnou entitu. Navíc, pokud budeme pokračovat v rozsáhlém nasazování AI bez patřičné opatrnosti, existuje riziko, že lidstvo bude jednoduše zastíněno nebo překonáno touto rozšířenou implementací AI.

Jaké jsou vaše obavy z ekonomického dopadu této technologie?

Obávám se, že pokud bude AI postupovat rychleji, než se společnost dokáže přizpůsobit, dojde k rozsáhlé ztrátě zaměstnání. Technologické pokroky jsou skvělé, ale pokud se pohybují příliš rychle, mnoho lidí se ocitne v těžkých časech. Auta vyřadí koně z provozu, ale ne všechny najednou. Umělá inteligence by se mohla pohybovat mnohem rychleji a lidé by nemuseli být schopni se přizpůsobit.

Jak daleko si myslíte, že jsme od dosažení AGI?

Myslím, že jsme 5-10 let daleko. To je jen odhad, ale vzhledem k tempu a investicím, které do toho směřují, si myslím, že se tam dostaneme mnohem rychleji, než si uvědomujeme.

Mluvili jste o rizicích a úskalích umělé inteligence, jaké by byly výhody pokročilé umělé inteligence nebo dokonce AGI?

Umělá inteligence má obrovské potenciální výhody a těším se, až je uvidím realizovat. Například San Francisco se již hemží samořídícími vozidly. V budoucnu, jakmile se rozšíří, mohou být dopravní nehody zastaralé. Z osobního hlediska považuji používání nástrojů podporovaných umělou inteligencí pro psaní počítačového kódu za mnohem příjemnější, protože odpadá mnoho všední práce. Umělá inteligence navíc pravděpodobně překoná lidi v identifikaci zdravotních problémů. Lékařský výzkum urychlí AI. Vznikne celá řada nových vynálezů v širokých oblastech od fyziky, vědy o materiálech až po cestování vesmírem. Pravděpodobně skončíme se sci-fi budoucností s neuvěřitelnými pokroky, díky nimž bude náš současný život vypadat absurdně zastaralý.

Děkuji za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Hluboká AI.