Jak lidé mohou navigovat v závodě AI

Nástroje AI jsou mnoha lidmi považovány za požehnání pro výzkum, od pracovních projektů po školní práci a vědu. Například místo toho, aby strávili hodiny pečlivým procházením webových stránek, můžete prostě položit ChatGPT otázku a on vám vrátí zdánlivě srozumitelnou odpověď. Otázka však je – můžete těmto výsledkům důvěřovat? Zkušenosti ukazují, že odpověď je často „ne“. AI funguje dobře pouze tehdy, když jsou lidé více zapojeni, směrují a dohlížejí na ni a poté ověřují výsledky, které produkuje, proti skutečnému světu. Ale s rychlým růstem sektoru generativní AI a novými nástroji, které jsou neustále vydávány, může být pro spotřebitele obtížné pochopit a přijmout roli, kterou musí hrát, když pracují s nástroji AI.

Sektor AI je obrovský a stále roste, s odborníky, kteří uvádějí, že bude stát více než jeden bilion dolarů do roku 2030. Nemělo by být žádným překvapením, že téměř každá velká technologická společnost – od Apple (AAPL ) po Amazon (AMZN ), IBM a Microsoft, a mnoho dalších – vydává svou vlastní verzi technologie AI, a zejména pokročilé generativní AI produkty.

Vzhledem k takovým závazkům by také nemělo být žádným překvapením, že společnosti pracují co nejrychleji, aby vydaly nové funkce, které jim dají výhodu nad konkurencí. Je to skutečně závod ve zbrojení, s společnostmi, které se snaží uzamknout co nejvíce uživatelů do svého ekosystému. Společnosti doufají, že funkce, které umožňují uživatelům využívat systémy AI nejsnadněji možným způsobem – jako například získat všechny informace potřebné pro výzkumný projekt pouze tím, že položí generativnímu AI chatbotovi otázku – jim získá více zákazníků, kteří zůstanou u produktu nebo značky, zatímco se přidávají nové funkce pravidelně.

Ale někdy, ve svém závodě, aby byly první, společnosti vydávají funkce, které nemusely být řádně ověřeny, nebo jejichž limity nejsou dobře pochopitelné nebo definované. Zatímco společnosti v minulosti soutěžily o trh na mnoha technologiích a aplikacích, zdá se, že současný závod ve zbrojení vede více společností k vydávání více „nedodělaných“ produktů než kdykoli předtím – s výsledkem nedodělaných výsledků. Spoléhání se na takové výsledky pro výzkumné účely – ať už obchodní, osobní, lékařské, akademické nebo jiné – by mohlo vést k nežádoucím výsledkům, včetně poškození pověsti, obchodních ztrát nebo dokonce rizika pro život.

Nedostatky AI způsobily významné ztráty pro několik firem. Společnost iTutor byla v roce 2023 pokutována 365 000 dolarů, poté co její algoritmus AI odmítl desítky žadatelů o práci kvůli jejich věku. Real estate marketplace Zillow ztratila stovky milionů dolarů v roce 2021 kvůli nesprávným předpovědím cen pomocí svého systému AI. Uživatelé, kteří se spoléhali na AI pro lékařské rady, byli také ohroženi. Chat GPT například poskytl nesprávné informace uživatelům o interakci mezi léky na snížení krevního tlaku verapamil a Paxlovid, antivirotiky Pfizeru pro Covid-19 – a zda lze tyto léky užívat současně. Ti, kteří se spoléhali na nesprávné rady systému, že mezi nimi není žádná interakce, by se mohli ocitnout v ohrožení. (PFE )

Zatímco tyto incidenty získaly pozornost médií, mnoho dalších nedostatků AI nezískalo – ale mohou být stejně fatální pro kariéry a pověsti. Například zaneprázdněný marketingový manažer, který hledá zkratku pro přípravu zpráv, by mohl být lákán k použití nástroje AI pro generování zpráv – a pokud tento nástroj představí informace, které nejsou správné, může se ocitnout v situaci, kdy bude hledat novou práci. Student, který používá ChatGPT pro psaní zprávy – a jehož profesor je dostatečně chytrý, aby rozpoznal zdroj zprávy – by mohl čelit hodnocení F, možná i za celý semestr. A právník, jehož asistent používá nástroje AI pro právní práci, by mohl být pokutován nebo dokonce zbaven práva vykonávat advokacii, pokud případ, který předkládá, je zkreslený kvůli špatným údajům.

Téměř všechny tyto situace lze předejít – pokud lidé směrují AI a mají více transparentnosti do výzkumného procesu. AI musí být chápána jako partnerství mezi člověkem a strojem. Je to skutečná spolupráce – a to je její výjimečná hodnota.

Zatímco více výkonné funkce pro vyhledávání, formátování a analýzu jsou vítány, tvůrci produktů AI také potřebují zahrnout mechanismy, které umožňují tuto spolupráci. Systémy potřebují zahrnovat nástroje pro ověřování faktů, které umožní uživatelům ověřit výsledky zpráv z nástrojů jako ChatGPT, a umožnit uživatelům vidět původní zdroje konkrétních údajů nebo informací. To bude produkovat lepší výzkum a obnoví důvěru v nás; můžeme předložit zprávu nebo doporučit politiku s jistotou, založenou na faktech, které důvěřujeme a rozumíme.

Uživatelé také potřebují rozpoznat a vážit, co je na hře, když se spoléhají na AI pro produkci výzkumu. Měli by vážit úroveň zbytečnosti s důležitostí výsledku. Například lidé mohou pravděpodobně být méně zapojeni, když používají AI pro srovnání místních restaurací. Ale když provádějí výzkum, který bude informovat důležité obchodní rozhodnutí nebo návrh letadel nebo lékařských zařízení, například, uživatelé potřebují být více zapojeni na každé fázi procesu výzkumu řízeného AI. Čím důležitější je rozhodnutí, tím důležitější je, aby byli lidé součástí něj. Výzkum pro relativně malé rozhodnutí může být pravděpodobně plně svěřen AI.

AI se neustále zlepšuje – i bez pomoci člověka. Je možné, pokud ne pravděpodobné, že nástroje AI, které jsou schopny ověřit sami sebe, se objeví, kontrolují své výsledky proti skutečnému světu stejným způsobem, jako člověk – buď dělají svět mnohem lepším místem, nebo ničí ho. Ale nástroje AI nemusí dosáhnout této úrovně tak brzy, jak mnoho lidí věří, pokud vůbec. To znamená, že lidský faktor bude stále nezbytný v každém výzkumném projektu. Ačkoli jsou nástroje AI tak dobré ve objevování dat a organizování informací, nelze jim důvěřovat, aby vyhodnotily kontext a použily tyto informace způsobem, který potřebujeme. Pro předvídatelnou budoucnost je důležité, aby výzkumníci viděli nástroje AI pro to, co jsou – nástroje, které pomáhají dokončit práci, a ne něco, co nahrazuje lidi a lidské mozky na pracovišti. Lidé nemohou být důvěřivě ponecháni k hodnocení kontextu a použití informací způsobem, který potřebujeme. Pro předvídatelnou budoucnost je důležité, aby výzkumníci viděli nástroje AI pro to, co jsou; nástroje, které pomáhají dokončit práci, a ne něco, co nahrazuje lidi a lidské mozky na pracovišti. hey nelze důvěřivě ponechat k hodnocení kontextu a použití informací způsobem, který potřebujeme. Pro předvídatelnou budoucnost je důležité, aby výzkumníci viděli nástroje AI pro to, co jsou; nástroje, které pomáhají dokončit práci, a ne něco, co nahrazuje lidi a lidské mozky na pracovišti.