Inteligența Artificială și Arcul Încrederii

La începutul anului trecut, când echipa noastră făcea previziuni despre ce ne așteaptă, consensul a fost că vom vedea în sfârșit ce poate face inteligența artificială (IA) și, sperăm, vom obține claritate cu privire la impactul său asupra afacerilor și societății și cum să procedăm. Nu a fost o previziune nouă, dar nucleul său a fost precis, deși încă ne luptăm cu implicațiile IA și cu modul în care (sau dacă) ar trebui să fie controlată într-un fel oarecare.

Vom vedea cum Apple, Microsoft și Google integrează IA în dispozitive și aduc puterea acesteia unei audiențe mai largi și mai numeroase. Apoi, un chatbot dintr-un instrument de căutare bazat pe IA a amenințat utilizatorii și a afirmat că a spionat angajații, în timp ce altul a sugerat utilizarea cleiului Elmer în pizza făcută în casă pentru a preveni alunecarea brânzei. În ciuda acestor incidente, cazurile de utilizare a IA în afaceri au crescut dramatic, la fel și piața. Conform datelor de la Crunchbase, aproape o treime din finanțarea globală de venture anul trecut a mers către companii din domeniul IA.

Dar chiar și OpenAI a livrat o raționament remarcabil îmbunătățit, cercetătorul de IA renumit, Yoshua Bengio, a solicitat adoptarea unor măsuri de siguranță pentru “modele de frontieră” cu potențial de a cauza daune catastrofale. Și, deși tehnologia a câștigat două Premii Nobel pentru aplicații în știință, unul dintre câștigători a exprimat îngrijorare cu privire la faptul că avem sisteme “mai inteligente decât noi care, în cele din urmă, iau controlul”.

Într-un spațiu atât de dinamic, este dificil pentru tehnologii experimentate să țină pasul, și mai ales pentru cei din mainstream.

Și aceste sincope ale IA – și preocupările cu privire la confidențialitate și utilizarea necontrolată – au crescut numai teama publică.

Doar ai încredere în mine

Ne găsim la jumătatea drumului pe un arc al încrederii, care necesită avansarea acceptării publice a IA, asigurând în același timp că comunitățile de afaceri și tehnologie acționează responsabil. Prima parte este acolo unde se joacă jocul în acest moment, la nivelul corporațiilor, câștigând avânt cu fiecare implementare sigură și solidă. Ne construim punctele noastre de referință, care vor duce în cele din urmă la o creștere a încrederii publice. A doua parte, cu toate acestea, este mult mai dificilă.

Cine definește și impune utilizarea responsabilă a IA? Poate o industrie crea linii directoare atunci când acestea sunt cele care au nevoie de reglementare? Dacă tehnologii au dificultăți în a urma IA, vor fi oamenii de politici informați și vor ține agenda lor politică departe de discuție? Și atunci când un miliardar IA brusc vrea să vorbească despre control, a avut el o iluminare sau doar încearcă să frâneze pentru a ține pasul?

“Doar ai încredere în mine” nu va funcționa cu IA, indiferent de cine ești.

Încredere, dar și verificare

Oamenii privesc IA generativă, cum ar fi ChatGPT, și se întreabă dacă va fi următorul Google? Ei bine, primul rezultat al unei căutări Google este creat acum de modelul său de IA, Gemini. Problema este că nu poți să te bazezi pe el pentru afaceri la scară largă atunci când o întrebare simplă, cum ar fi “Este carnea crudă sigură pentru consum?”, returnează răspunsul “Da, înghețată”. Trebuie să inspectezi datele.

Arcul încrederii publice va urma ceea ce s-a întâmplat cu căutarea convențională, obținută în timp și cu dovezi de fiabilitate. Ironia este că, în încercarea noastră de a simplifica și îmbunătăți căutarea, am făcut un pas înapoi. Acum, după ce ai primit acel răspuns generat de IA, trebuie să deruli peste o listă lungă de linkuri de sponsorizare, să faci clic pe următoarele cinci și să califici în continuare informația.

Asta este multă muncă atunci când cauți un răspuns rapid – și nu poți avea o întreagă companie care face același lucru. Cu toate acestea, dacă îmbogățești datele pe care le-ai extras cu zeci de mii de bilete de serviciu proprii, aduci cunoștințe reale despre mediul tău. Algoritmic, poți configura apoi “halucinații” mai jos, dar rămâne o situație “încredere, dar și verificare”.

Ține politica departe de asta

Atunci când vine vorba de reglementarea IA, unii susțin că calul a already părăsit grajdul și probabil nu va fi prins. De exemplu, lipsește un instrument cu adevărat eficient pentru a verifica dacă un student a redactat o lucrare sau a utilizat GenAI. Tehnologia este pur și simplu prea avansată.

Reglementarea acestui lucru ar fi foarte complexă și, pentru a fi sincer, ne-am aventura pe gheață subțire. Știm că companiile de tehnologie sunt cu decenii înainte de reglementatorii propuși. Dar suntem buni la a crea un drum, nu la a fi ținuți înapoi. Cu toate acestea, la sfârșitul zilei, poate că va cădea pe umerii inovatorilor să încerce să aplice guvernanță. Cine altcineva ar putea face asta – în mod responsabil?

Există mulți politicieni care ar iubi să o facă. Riscul, pe lângă lipsa de înțelegere, este că, dacă au o agendă personală și politică de promovat, atenția lor ar putea fi mai puțin axată pe cultivarea IA și mai mult pe a face ceea ce este în interesul lor politic. Ei ar putea lucra pe teama publică, utilizând o mână grea pentru a împiedica progresul.

Legea CHIPS și Știință a fost un exemplu bun de acțiune guvernamentală sănătoasă, producând o creștere dramatică de 15 ori a construirii de facilități de fabricație pentru computere și dispozitive electronice. Dar acest lucru a fost posibil prin bipartizanat – o relicvă din ce în ce mai rară a unei epoci trecute.

Suntem vrednici?

Există multă bani care curg în IA și, în următorii două decenii, multă bani vor fi făcuți de companiile de tehnologie. Cât, cât de repede și cât de sigur rămâne de văzut. În orice zi, o falsificare profundă ar putea fi difuzată, arătând pe cineva din lumina reflectoarelor jonglând cu ouăle unui pasăre în pericol. Publicul ar reacționa cu groază, și, deși ar putea fi dezvăluit că a fost generat de IA, acel ou nu se va întoarce în coajă – dauna este făcută.

Avem nevoie ca astfel de lucruri să fie reglementate de tehnologii informate. Ce formă va lua – un consiliu, un organism de standarde, un cadru internațional – rămâne de văzut. Ceea ce este cunoscut este că IA se află pe un arc al încrederii, și, ca industrie, trebuie să demonstrăm că suntem vrednici de ea.