Cum pot oamenii să navigheze în cursa înarmării cu IA

Uneltele de inteligență artificială (IA) sunt văzute de mulți ca o binecuvântare pentru cercetare, de la proiecte de lucru la școală și știință. De exemplu, în loc de a petrece ore întregi examinând cu atenție site-urile web, puteți pur și simplu întreba ChatGPT o întrebare, și el vă va oferi un răspuns care pare coerent. Întrebarea, însă, este – puteți avea încredere în aceste rezultate? Experiența arată că răspunsul este adesea “nu”. IA funcționează bine doar atunci când oamenii sunt mai implicați, dirijând și supraveghind-o, și apoi verificând rezultatele pe care le produce împotriva lumii reale. Dar cu creșterea rapidă a sectorului de IA generativă și cu noi unelte lansate constant, poate fi dificil pentru consumatori să înțeleagă și să îmbrățișeze rolul pe care trebuie să-l joace atunci când lucrează cu uneltele de IA.

Sectorul de IA este enorm și devine și mai mare, cu experți care afirmă că va fi evaluat la peste un trilion de dolari până în 2030. Nu ar trebui să fie o surpriză, atunci, că aproape toate marile companii tehnologice – de la Apple (AAPL ) la Amazon (AMZN ), IBM și Microsoft, și multe altele – lansează propria versiune de tehnologie de IA, și în special produse avansate de IA generativă.

Având în vedere astfel de mize, nu ar trebui să fie o surpriză nici faptul că companiile lucrează cât mai repede posibil pentru a lansa noi caracteristici care le vor oferi un avantaj față de concurență. Este, într-adevăr, o cursă a înarmării, cu companii care încearcă să atragă cât mai mulți utilizatori în ecosistemul lor. Companiile speră că caracteristicile care permit utilizatorilor să utilizeze sistemele de IA în modul cel mai ușor posibil – cum ar fi obținerea tuturor informațiilor necesare pentru un proiect de cercetare prin simpla întrebare a unui chatbot de IA generativă – le vor atrage mai mulți clienți, care vor rămâne cu produsul sau marca pe măsură ce se adaugă noi caracteristici în mod regulat.

Dar, uneori, în cursa lor de a fi primii, companiile lansează caracteristici care nu au fost verificate corespunzător sau ale căror limite nu sunt bine înțelese sau definite. În timp ce companiile au concurat în trecut pentru cota de piață pe multe tehnologii și aplicații, pare că actuala cursă a înarmării duce mai multe companii să lanseze mai multe produse “nepregătite” decât oricând – cu rezultate “nepregătite” de asemenea. A te baza pe astfel de rezultate pentru scopuri de cercetare – fie că este vorba de afaceri, personale, medicale, academice sau altele – ar putea duce la rezultate nedorite, inclusiv prejudicii de reputație, pierderi de afaceri sau chiar riscuri pentru viață.

Eșecurile IA au cauzat pierderi semnificative pentru mai multe afaceri. O companie numită iTutor a fost amendată cu 365.000 de dolari în 2023, după ce algoritmul său de IA a respins zeci de solicitanți de locuri de muncă din cauza vârstei lor. Piața imobiliară Zillow a pierdut sute de milioane de dolari în 2021 din cauza previziunilor incorecte de prețuri ale sistemului său de IA. Utilizatorii care s-au bazat pe IA pentru sfaturi medicale au fost, de asemenea, în pericol. Chat GPT, de exemplu, a oferit informații inexacte utilizatorilor cu privire la interacțiunea dintre medicamentul care reduce presiunea sanguină verapamil și Paxlovid, pastila antivirală a Pfizer (PFE ) pentru Covid-19 – și dacă un pacient poate lua aceste medicamente în același timp. Cei care s-au bazat pe sfaturile incorecte ale sistemului că nu există interacțiune între cele două medicamente ar putea fi în pericol.

În timp ce aceste incidente au făcut titluri, multe alte eșecuri ale IA nu au făcut – dar pot fi la fel de letale pentru cariere și reputații. De exemplu, un manager de marketing agitat care caută o scurtătură pentru a pregăti rapoarte ar putea fi tentat să utilizeze un instrument de IA pentru a genera raportul – și dacă acel instrument prezintă informații incorecte, el ar putea găsi un nou loc de muncă. Un student care utilizează ChatGPT pentru a scrie un raport – și al cărui profesor este suficient de inteligent pentru a recunoaște sursa raportului – ar putea face față unei note slabe, posibil pentru semestru. Și un avocat al cărui asistent utilizează instrumente de IA pentru lucrări juridice ar putea fi amendat sau chiar exclus din barou dacă cazul pe care îl prezintă este distorsionat din cauza unor date incorecte.

Aproape toate aceste situații pot fi prevenite – dacă oamenii dirijează IA și au o transparență mai mare în bucla de cercetare. IA trebuie văzută ca o parteneriat între om și mașină. Este o colaborare adevărată – și acesta este valorul său excepțional.

În timp ce funcțiile de căutare mai puternice, formatare și analiză sunt binevenite, producătorii de produse de IA trebuie, de asemenea, să includă mecanisme care să permită această cooperare. Sistemele trebuie să includă instrumente de verificare a faptelor care să permită utilizatorilor să verifice rezultatele rapoartelor de la instrumente precum ChatGPT și să permită utilizatorilor să vadă sursele originale ale anumitor puncte de date sau informații. Acest lucru va produce cercetări superioare și va restabili încrederea în noi înșine; putem prezenta un raport sau recomanda o politică cu încredere, bazată pe fapte pe care le înțelegem și le încredem.

Utilizatorii trebuie, de asemenea, să recunoască și să cântărească ce este în joc atunci când se bazează pe IA pentru a produce cercetări. Ei ar trebui să cântărească nivelul de monotonie cu importanța rezultatului. De exemplu, oamenii pot probabil să fie mai puțin implicați atunci când utilizează IA pentru a compara restaurante locale. Dar atunci când efectuează cercetări care vor informa decizii de afaceri de valoare ridicată sau proiectarea de avioane sau echipamente medicale, de exemplu, utilizatorii trebuie să fie mai implicați la fiecare etapă a procesului de cercetare condus de IA. Cu cât decizia este mai importantă, cu atât este mai important ca oamenii să fie implicați în ea. Cercetarea pentru decizii relativ mici poate fi probabil încredințată în totalitate IA.

IA devine tot mai bună cu timpul – chiar și fără ajutor uman. Este posibil, dacă nu probabil, ca uneltele de IA care pot să se verifice singure să apară, verificând rezultatele împotriva lumii reale în același mod în care o face un om – făcând lumea mult mai bună, sau distrugând-o. Dar uneltele de IA nu pot ajunge la acel nivel atât de curând pe cât cred mulți, dacă vreodată. Acest lucru înseamnă că factorul uman va fi încă esențial în orice proiect de cercetare. În timp ce uneltele de IA sunt atât de bune în descoperirea datelor și organizarea informațiilor, ele nu pot fi încredințate să evalueze contextul și să utilizeze aceste informații în modul în care o facem noi, ca ființe umane. Pentru perioada previzibilă, este important ca cercetătorii să vadă uneltele de IA pentru ceea ce sunt; unelte care ajută la realizarea sarcinii, și nu ceva care înlocuiește oamenii și creierul uman în muncă. hey nu pot fi încredințate să evalueze contextul și să utilizeze aceste informații în modul în care o facem noi, ca ființe umane, pentru perioada previzibilă, este important ca cercetătorii să vadă uneltele de IA pentru ceea ce sunt; unelte care ajută la realizarea sarcinii, și nu ceva care înlocuiește oamenii și creierul uman în muncă.