Când “cunoștințele” IA sunt vechi de 50 de ani: Riscul de conformitate pe care nu-l poți ignora

Problema informațiilor false generate de IA este o provocare urgentă, pe măsură ce întreprinderile își cresc utilizarea instrumentelor generative. În ciuda entuziasmului larg răspândit cu privire la adoptarea IA, există și o puternică critică. Comentatorii critici adesea atrag atenția asupra inexactităților aparent aleatorii și imprevizibile din output-ul IA, care subminează valoarea acesteia și pot chiar provoca daune reale oamenilor, în special în sectoare precum sănătatea și transportul, unde output-urile false ar putea duce teoretic la totul, de la prescrierea greșită a medicamentelor la coliziuni de trenuri.

Adesea, aceste inexactități au fost puse pe seama “halucinațiilor” IA – instanțe în care IA generează un răspuns “cel mai bun” ghicit, prezentat cu aceeași încredere ca un răspuns “autentic”, în loc de a informa utilizatorul despre o lacună în cunoștințele sau capacitățile sale. Halucinațiile pot fi greu de detectat la prima vedere, dar există o problemă mai gravă și mai greu de detectat.

Datoria calității datelor: Talonul lui Ahile al IA

Când sistemele IA extrag informații din date învechite, incomplete sau inexacte, output-urile false apar, dar sunt mai puțin vizibile. De exemplu, ați putea cere IA să identifice simptomele unei afecțiuni medicale și să primiți un răspuns bazat pe o lucrare de 50 de ani, în loc de cercetări actuale. Rezultatul este puțin probabil să apară evident, ridicol de greșit – dar acea aparență inițială de plauzibilitate prezintă un risc real atât pentru pacient, cât și pentru furnizorul de servicii medicale.

Același lucru este valabil și în alte industrii – dacă datele furnizate modelului IA includ informații vechi, învechite sau parțiale, există un risc ridicat de output-uri false. Pe măsură ce mai multe companii integrează IA în procesele de afaceri critice, crește riscul de a trage concluzii false din date slab gestionate.

Exactitate pentru reglementator

Acesta nu este doar un problemă pentru operațiunile zilnice – este și o provocare semnificativă de conformitate. Cerințele reglementare evoluează rapid pentru a aborda preocupările cu privire la IA inexactă. De exemplu, au avut loc mai multe acțiuni reglementare timpurii cu privire la IA; în mod semnificativ, Italia a interzis temporar ChatGPT din cauza problemelor de confidențialitate, iar Grupul de lucru al UE pentru protecția datelor a lansat o echipă specială pentru a coordona acțiunile de aplicare a legii împotriva ChatGPT.

Una dintre cele mai semnificative schimbări reglementare a fost adoptarea Legii IA a UE, primul cadru juridic cuprinzător pentru IA. Legea stabilește obligații bazate pe nivelul de risc al sistemelor IA, de la sisteme cu “risc inacceptabil”, care sunt interzise, la sisteme cu “risc ridicat”, care fac obiectul unor cerințe stricte privind transparența, calitatea datelor, guvernanța și supravegherea umană.

Importanța Legii IA a UE nu constă în amploarea sa ambițioasă, ci în precedentul pe care îl stabilește. Regulatorii fac clar că IA va fi supusă unor reguli obligatorii și că organizațiile trebuie să trateze conformitatea și transparența cu privire la utilizarea IA ca fiind integrată adoptării IA, și nu ca o gândire ulterioară.

Legea are un domeniu de aplicare larg, cu potențialul de a afecta o proporție semnificativă a dezvoltărilor IA. În centrul său se află obiectivul de a face IA sigură, respectând în același timp drepturile și valorile fundamentale. În cadrul acestui nou ecosistem bazat pe principii, se stabilesc diagnosticele potențiale pentru inexactitățile IA, inclusiv datele și seturile de date care alimentează modelele, opacitatea și accesul la modele, precum și proiectarea și utilizarea sistemelor. Soluțiile IA sunt create din toate acestea – problemele cu oricare dintre acestea pot avea un rezultat negativ. Nu numai atât, dar datele care intră în proiectarea, dezvoltarea, implementarea și operarea IA sunt probabil să fie alcătuite în primul rând din înregistrări comerciale care sunt supuse unor cerințe de conformitate diverse.

În alte cuvinte, mediul reglementar în jurul IA devine din ce în ce mai strict – și acest lucru este la fel de valabil și pentru datele de intrare, precum și pentru datele de ieșire, deși acestea din urmă primesc mai multă atenție.

Cinci pași pentru alimentarea IA cu date conforme, actuale și relevante

Pentru a rezolva această dublă provocare – asigurarea atât a gestionării datelor conforme, cât și a calității intrărilor care permit ieșirile de înaltă calitate – întreprinderile au nevoie de control asupra datelor de antrenament și inferență. Din nefericire, acesta este ceva pe care multe întreprinderi încă nu îl dețin.

În cel mai bun caz, organizațiile ar trebui să aplice programele lor mai ample de conformitate și guvernanță inițiativelor IA. Ei trebuie să înceapă să capteze și să păstreze înregistrări adecvate cu privire la datele pe care le furnizează modelelor IA, la modul în care sunt proiectate modelele și sistemele, precum și la deciziile și conținutul generat prin IA.

Cu toate acestea, este de asemenea esențial ca organizațiile să meargă un pas mai departe și să se asigure că au control deplin asupra tuturor datelor care ar putea fi utilizate în implementările IA, fie pentru antrenamentul inițial, fie pentru “lucrul live”. Acest lucru necesită o strategie de gestionare și stocare a datelor de înaltă calitate, care să asigure că toate datele relevante sunt colectate inteligent, curățate, stocate, clasificate și îndreptățite. Pentru a realiza acest lucru, organizațiile trebuie să ia în considerare patru pași cheie:

1. Proveniența și linia de date

Acesta include păstrarea unei înregistrări a sursei datelor, a originii, a proprietarului și a oricăror modificări ale metadatelor (dacă este permis) pe parcursul ciclului de viață. Acesta înseamnă, de asemenea, păstrarea metadatelor bogate și a tuturor documentelor sau artifactelor subiacente de la care este derivat.

2. Autenticitatea datelor

Acesta necesită păstrarea unei lanțuri clare de custodie pentru toate datele, stocarea obiectelor în formele lor native și hasharea obiectelor primite pentru a demonstra că datele rămân nemodificate. În plus, organizațiile trebuie să păstreze o istorie completă de audit pentru fiecare obiect și pentru toate acțiunile și evenimentele cu privire la orice modificări.

3. Clasificarea datelor

Stabilirea naturii unui set sau tip de date este importantă. Organizațiile trebuie să poată guverna date structurate, date semistructurate și seturi structurate de date. Atribuirea unei scheme unice pentru fiecare clasă poate permite organizațiilor să gestioneze seturi diverse de date fără o ontologie fixă universală – evitând astfel ca datele să fie manipulate inutil pentru a fi forțate într-o structură de date inflexibilă.

4. Normalizarea datelor

Stabilirea definițiilor și formatelelor comune ale metadatelor este importantă pentru utilizarea în soluții de analize și IA. Schemele clar definite sunt un element important, împreună cu instrumentele care pot transforma sau mapa date pentru a menține vederi normalizate și consistente ale datelor legate.

5. Îndreptățirile datelor

Întreprinderile au nevoie de controale granulare de îndreptățire, inclusiv la nivel de obiect sau câmp, pe baza profilurilor de utilizator sau sistem. Acest lucru înseamnă că datele corecte sunt disponibile utilizatorilor și sistemelor care au dreptul de a le accesa, în timp ce se restricționează sau se limitează accesul la cei care nu au acest drept.

Cu aceste elemente esențiale în loc, întreprinderile vor fi mai bine plasate pentru a se asigura că datele furnizate modelelor IA sunt atât de înaltă calitate, cât și conforme. IA va conduce la îmbunătățiri și eficiențe în diferite industrii – dar pentru a se întâmpla acest lucru, o fundație solidă de date este esențială.