Zmizí velké jazykové modely programování?

Minulý týden byl pro OpenAI významným milníkem, protože na svém OpenAI DevDay představili GPT-4 Turbo. Výrazným rysem GPT-4 Turbo je jeho rozšířené kontextové okno o velikosti 128 000, což je podstatný skok od 8 000 u GPT-4. Tento pokrok umožňuje zpracování textu 16krát většího než u jeho předchůdce, což odpovídá zhruba 300 stránkám textu.

Tento pokrok souvisí s další významnou událostí: potenciálním dopadem na krajinu startupů SaaS.

OpenAI’s ChatGPT Enterprise, s jeho pokročilými funkcemi, představuje výzvu pro mnoho startupů SaaS. Tyto společnosti, které nabízely produkty a služby kolem ChatGPT nebo jeho API, nyní čelí konkurenci od nástroje s podnikovými schopnostmi. Nabídky ChatGPT Enterprise, jako je ověření domény, SSO a přehledy využití, přímo překrývají mnoho stávajících B2B služeb, potenciálně ohrožují přežití těchto startupů.

V rámci své keynote, CEO OpenAI Sam Altman odhalil další významný vývoj: prodloužení znalostní báze GPT-4 Turbo. Na rozdíl od GPT-4, který měl informace pouze do roku 2021, GPT-4 Turbo je aktualizován s znalostmi až do dubna 2023, což představuje významný krok vpřed v relevance a aplikovatelnosti AI.

ChatGPT Enterprise vyniká funkcemi, jako je zvýšená bezpečnost a soukromí, vysokorychlostní přístup k GPT-4 a prodloužená kontextová okna pro delší vstupní údaje. Jeho pokročilé analytické schopnosti, možnosti přizpůsobení a odstranění limitů využití činí z něj lepší volbu než jeho předchůdce. Jeho schopnost zpracovávat delší vstupní údaje a soubory, spolu s neomezeným přístupem k pokročilým analytickým nástrojům, jako je dříve známý Code Interpreter, dále upevňuje jeho atraktivitu, zejména mezi podniky, které byly dříve váhavé kvůli obavám o bezpečnost dat.

Éra ručního vytváření kódu ustupuje AI řízeným systémům, které jsou místo programování trénovány, což signalizuje fundamentální změnu ve vývoji softwaru.

The mundane tasks of programming may soon fall to AI, reducing the need for deep coding expertise. Tools like GitHub’s CoPilot and Replit’s Ghostwriter, which assist in coding, are early indicators of AI’s expanding role in programming, suggesting a future where AI extends beyond assistance to fully managing the programming process. Imagine the common scenario where a programmer forgets the syntax for reversing a list in a particular language. Instead of a search through online forums and articles, CoPilot offers immediate assistance, keeping the programmer focused towards to goal.

Přechod z low-code na AI řízený vývoj

Low-code & No code nástroje zjednodušily proces programování, automatizovaly vytváření základních kódových bloků a osvobodily vývojáře, aby se mohli soustředit na kreativní aspekty svých projektů.  Ale když vstupujeme do této nové AI vlny, krajina se mění dále. Jednoduchost uživatelských rozhraní a schopnost generovat kód prostřednictvím přímých příkazů, jako je „Vytvoř mi web pro X“, revolucionalizuje proces.

AI již má obrovský vliv na programování. Podobně jako tomu bylo u raných počítačových vědců, kteří přešli od zaměření na elektrotechnický inženýrství k abstraktnějším konceptům, budoucí programátoři možná považují podrobné kódování za zastaralé. Rychlý pokrok v AI není omezen pouze na generování textu/kódu. V oblastech, jako je generování obrázků, difuzní modely, jako Runway ML, DALL-E 3, ukazují masivní zlepšení. Stačí se podívat na níže uvedený tweet od Runway, který ukazuje jejich nejnovější funkci.

https://twitter.com/runwayml/status/1723033256067489937

AI má dopad nejen na programování, ale i na kreativní průmysly. Jeff Katzenberg, gigant ve filmovém průmyslu a bývalý předseda Walt Disney Studios, předpovídal, že AI výrazně sníží náklady na výrobu animovaných filmů. Podle nedávného článku z Bloomberg Katzenberg předpovídá dramatické snížení nákladů o 90 %. To může zahrnovat automatizaci náročných úkolů, jako je meziřadění v tradiční animaci, vykreslování scén a dokonce i pomoc s kreativními procesy, jako je návrh postav a storyboarding.

Ekonomická efektivnínost AI v kódování

Analýza nákladů na zaměstnání softwarového inženýra:

1. Celkové odměny: Průměrná mzda softwarového inženýra, včetně dalších benefitů v technologických centrech, jako je Silicon Valley nebo Seattle, je přibližně 312 000 dolarů ročně.

Denní analýza nákladů:

1. Pracovní dny v roce: Pokud předpokládáme, že je v roce zhruba 260 pracovních dnů, denní náklady na zaměstnání softwarového inženýra jsou kolem 1 200 dolarů.
2. Výstup kódu: Předpokládáme-li štědrý odhad 100 dokončených, otestovaných, recenzovaných a schválených řádků kódu denně, tato denní produkce je základem pro srovnání.

Analýza nákladů na použití GPT-3 pro generování kódu:

1. Náklad na token: Náklad na použití GPT-3, v době videa, byl asi 0,02 dolaru za každých 1 000 tokenů.
2. Tokeny na řádek kódu: Průměrně lze odhadnout, že jeden řádek kódu obsahuje kolem 10 tokenů.
3. Náklad na 100 řádků kódu: Proto by náklad na generování 100 řádků kódu (nebo 1 000 tokenů) pomocí GPT-3 byl kolem 0,12 dolaru.

Srovnávací analýza:

• Náklad na řádek kódu (člověk vs. AI): Při srovnání nákladů je generování 100 řádků kódu denně nákladné 1 200 dolarů, když je provedeno lidským softwarovým inženýrem, zatímco použití GPT-3 stojí pouze 0,12 dolaru.
• Nákladový faktor: To představuje rozdíl nákladového faktoru asi 10 000krát, přičemž AI je podstatně levnější.

Tato analýza poukazuje na ekonomický potenciál AI v oblasti programování. Nízké náklady na AI generovaný kód ve srovnání s vysokými náklady na lidské vývojáře naznačují budoucnost, ve které by AI mohlo stát se preferovanou metodou pro generování kódu, zejména pro standardní nebo opakující se úkoly. Tato změna by mohla vést k významným úsporám nákladů pro společnosti a přehodnocení role lidských programátorů, potenciálně zaměřených na komplexnější, kreativnější nebo dohlížecí úkoly, které AI dosud nemůže zvládnout.

ChatGPT’s versatility extends to a variety of programming contexts, including complex interactions with web development frameworks. Consider a scenario where a developer is working with React, a popular JavaScript library for building user interfaces. Traditionally, this task would involve delving into extensive documentation and community-provided examples, especially when dealing with intricate components or state management.

With ChatGPT, this process becomes streamlined. The developer can simply describe the functionality they aim to implement in React, and ChatGPT provides relevant, ready-to-use code snippets. This could range from setting up a basic component structure to more advanced features like managing state with hooks or integrating with external APIs. By reducing the time spent on research and trial-and-error, ChatGPT enhances efficiency and accelerates project development in web development contexts.

Výzvy v AI řízeném programování

Jak AI pokračuje v proměně krajiny programování, je důležité rozpoznat omezení a výzvy, které přicházejí s tím, že se spoléháme pouze na AI pro programovací úkoly. Tyto výzvy zdůrazňují potřebu vyváženého přístupu, který využívá silné stránky AI, zatímco uznává jeho omezení.

1. Kvalita a udržovatelnost kódu: AI generovaný kód může být někdy verbální nebo neefektivní, potenciálně vedoucí k problémům s udržovatelností. Zatímco AI může psát funkční kód, zajištění toho, aby tento kód dodržoval nejlepší praktiky pro čitelnost, efektivitu a udržovatelnost, zůstává úkolem lidským.
2. Ladění a zpracování chyb: AI systémy mohou generovat kód rychle, ale ne vždy vynikají v ladění nebo pochopení nuancí chyb v existujícím kódu. Jemnosti ladění, zejména v velkých, komplexních systémech, často vyžadují lidské pochopení a zkušenosti.
3. Závislost na trénovacích datech: Efektivita AI v programování je značně závislá na kvalitě a rozsahu jejích trénovacích dat. Pokud trénovací data postrádají příklady určitých chyb, vzorců nebo scénářů, schopnost AI zvládnout tyto situace je ohrožena.
4. Etické a bezpečnostní obavy: S rostoucí rolí AI v programování vznikají etické a bezpečnostní obavy, zejména kolem ochrany dat a potenciálu pro předpojatosti v AI generovaném kódu. Zajištění etického použití a řešení těchto předpojatostí je zásadní pro odpovědný vývoj AI řízených programovacích nástrojů.

Rovnováha mezi AI a tradičními programovacími dovednostmi

V budoucnosti softwarového vývoje může vzniknout hybridní model. Produktoví manažeři by mohli přeložit požadavky do direktiv pro AI kódové generátory. Lidská kontrola by mohla být stále nezbytná pro zajištění kvality, ale zaměření by se přesunulo z psaní a údržby kódu na ověřování a jemné ladění AI generovaných výstupů. Tato změna naznačuje klesající důraz na tradiční programovací principy, jako je modularity a abstrakce, jelikož AI generovaný kód nemusí dodržovat lidské standardy údržby.

V této nové éře se role inženýrů a počítačových vědců transformuje výrazně. Budou interagovat s LLM, poskytovat trénovací data a příklady pro dosažení úkolů, měnící se od komplexního kódování k strategickému práci s AI modely.

Základní výpočetní jednotka se přesune z tradičních procesorů na obrovské, předtrénované LLM modely, což znamená odchod od předvídatelných, statických procesů k dynamickým, adaptivním AI agentům.

Zaměření se mění z vytváření a pochopení programů na směrování AI modelů, předefinování rolí počítačových vědců a inženýrů a měnící se naše interakce s technologií.

Přetrvávající potřeba lidského vhledu v AI generovaném kódu

Budoucnost programování je méně o kódování a více o směrování inteligence, která bude řídit náš technologický svět.

Přesvědčení, že zpracování přirozeného jazyka AI může plně nahradit přesnost a složitost formálních matematických notací a tradičního programování, je, alespoň prozatím, předčasné. Posun směrem k AI v programování neeliminuje potřebu přísnosti a přesnosti, kterou pouze formální programování a matematické dovednosti mohou poskytnout.

<p Navíc zůstává významnou výzvou testování AI generovaného kódu pro problémy, které nebyly dosud vyřešeny. Techniky, jako je testování založené na vlastnostech, vyžadují hluboké pochopení programování, dovednosti, které AI, v jeho současném stavu, nemůže replikovat nebo nahradit.

Shrnutí, zatímco AI slibuje automatizovat mnoho aspektů programování, lidský prvek zůstává zásadní, zejména v oblastech vyžadujících kreativitu, komplexní řešení problémů a etickou kontrolu.