Utilizarea Inteligenței Artificiale Generative: Dezvăluirea Implicațiilor de Securitate Cibernetică ale Uneltelor de Inteligență Artificială Generativă

Este corect să spunem că inteligența artificială generativă a atras atenția tuturor sălilor de consiliu și liderilor de afaceri din țară. Odată o tehnologie marginală care era greu de stăpânit, porțile inteligenței artificiale generative au fost deschise larg datorită aplicațiilor precum ChatGPT sau DALL-E. Acum asistăm la o adoptare generalizată a inteligenței artificiale generative în toate industriile și grupurile de vârstă, pe măsură ce angajații găsesc modalități de a exploata tehnologia în avantajul lor.

Un sondaj recent a arătat că 29% dintre respondenții din generația Z, 28% din generația X și 27% din generația Millennial folosesc unelte de inteligență artificială generativă ca parte a muncii lor de zi cu zi. În 2022, adoptarea pe scară largă a inteligenței artificiale generative a fost de 23%, iar această cifră se estimează că va ajunge la 46% până în 2025.

Inteligența artificială generativă este o tehnologie în curs de dezvoltare, care utilizează modele antrenate pentru a genera conținut original în diverse forme, de la text scris și imagini, până la videoclipuri, muzică și chiar cod de software. Folosind modele de limbaj mare (LLM) și seturi de date uriașe, tehnologia poate crea instantaneu conținut unic care este aproape indistinguizabil de munca umană și, în multe cazuri, mai precis și mai convingător.

Cu toate acestea, în timp ce afacerile utilizează din ce în ce mai mult inteligența artificială generativă pentru a-și sprijini operațiunile zilnice, iar angajații au fost rapizi în a o adopta, ritmul de adoptare și lipsa de reglementare au ridicat preocupări semnificative legate de securitatea cibernetică și conformitatea regulamentară.

Conform unui sondaj realizat asupra populației generale, mai mult de 80% dintre oameni sunt îngrijorați de riscurile de securitate pe care le prezintă ChatGPT și inteligența artificială generativă, iar 52% dintre cei chestionați doresc ca dezvoltarea inteligenței artificiale generative să fie oprită până când reglementările vor putea să țină pasul. Acest sentiment mai larg a fost reflectat și de către afaceri, cu 65% dintre liderii IT seniori care refuză să aprobe accesul nelimitat la uneltele de inteligență artificială generativă din cauza preocupărilor de securitate.

Inteligența artificială generativă este încă un necunoscut

Uneltele de inteligență artificială generativă se hrănesc cu date. Modelele, precum cele utilizate de ChatGPT și DALL-E, sunt antrenate pe date externe sau disponibile gratuit pe internet, dar pentru a obține cele mai bune rezultate de la aceste unelte, utilizatorii trebuie să împărtășească date foarte specifice. Adesea, atunci când se utilizează unelte precum ChatGPT, utilizatorii împărtășesc informații de afaceri sensibile pentru a obține rezultate precise și bine rotunjite. Acest lucru creează multe necunoscute pentru afaceri. Riscul de acces neautorizat sau divulgare neintenționată a informațiilor sensibile este “încorporat” atunci când se utilizează unelte de inteligență artificială generativă disponibile gratuit.

Acest risc în sine nu este neapărat un lucru rău. Problema este că aceste riscuri nu au fost încă explorate corespunzător. Până în prezent, nu a existat o analiză reală a impactului afacerilor care utilizează unelte de inteligență artificială generativă pe scară largă, iar cadrul legal și regulamentar global pentru utilizarea inteligenței artificiale generative este încă departe de a atinge maturitatea.

Reglementarea este încă în curs de desfășurare

Regulatorii already evaluează uneltele de inteligență artificială generativă în ceea ce privește confidențialitatea, securitatea datelor și integritatea datelor pe care le produc. Cu toate acestea, așa cum se întâmplă adesea cu tehnologia emergentă, aparatul regulamentar pentru a sprijini și guverna utilizarea acesteia rămâne în urmă. În timp ce tehnologia este utilizată de companii și angajați pe scară largă, cadrul regulamentar este încă foarte mult în faza de proiect.

Acest lucru creează un risc clar și prezent pentru afaceri, care, în acest moment, nu este luat suficient de serios. Executivii sunt natural interesați de modul în care aceste platforme vor aduce beneficii materiale, cum ar fi oportunități de automatizare și creștere, dar managerii de risc se întreabă cum va fi reglementată această tehnologie, care vor fi implicațiile legale și cum vor fi compromise sau expuse datele companiei. Multe dintre aceste unelte sunt disponibile gratuit pentru orice utilizator cu un browser și o conexiune la internet, așa că, în timp ce așteaptă ca reglementarea să țină pasul, afacerile trebuie să înceapă să se gândească foarte atent la “regulile interne” pentru utilizarea inteligenței artificiale generative.

Rolul CISO în guvernarea inteligenței artificiale generative

Cu cadrul regulamentar încă lipsă, ofițerii de securitate a informației (CISO) trebuie să joace un rol crucial în gestionarea utilizării inteligenței artificiale generative în cadrul organizațiilor lor. Ei trebuie să înțeleagă cine utilizează tehnologia și în ce scop, cum să protejeze informațiile companiei atunci când angajații interacționează cu uneltele de inteligență artificială generativă, cum să gestioneze riscurile de securitate ale tehnologiei subiacente și cum să echilibreze schimburile de securitate cu valoarea pe care o oferă tehnologia.

Acesta nu este un task ușor. Evaluări detaliate de risc ar trebui să fie efectuate pentru a determina atât rezultatele negative, cât și cele pozitive care ar putea rezulta din utilizarea tehnologiei în mod oficial și, în al doilea rând, din permisiunea angajaților de a utiliza unelte disponibile gratuit fără supraveghere. Având în vedere natura de acces facil a aplicațiilor de inteligență artificială generativă, CISO trebuie să se gândească atent la politica companiei cu privire la utilizarea acestor unelte. Ar trebui ca angajații să aibă libertatea de a utiliza unelte precum ChatGPT sau DALL-E pentru a-și ușura munca? Sau ar trebui accesul la aceste unelte să fie restricționat sau moderat într-un anumit mod, cu ghiduri interne și cadrul despre cum ar trebui să fie utilizate? O problemă evidentă este că, chiar dacă s-ar crea ghiduri interne de utilizare, având în vedere ritmul la care evoluează tehnologia, acestea ar putea fi învechite până când sunt finalizate.

O modalitate de abordare a acestei probleme ar putea fi să se mute accentul de la uneltele de inteligență artificială generativă în sine și să se concentreze pe clasificarea și protecția datelor. Clasificarea datelor a fost întotdeauna un aspect cheie în protejarea datelor împotriva breșelor sau scurgerilor, și acest lucru se aplică și în acest caz particular. Acesta implică atribuirea unui nivel de sensibilitate datelor, care determină cum ar trebui să fie tratate. Ar trebui să fie criptate? Ar trebui să fie blocate pentru a fi conținute? Ar trebui să fie notificate? Cine ar trebui să aibă acces la ele și unde ar trebui să fie distribuite? Prin concentrarea asupra fluxului de date, mai degrabă decât asupra uneltei în sine, CISO și ofițerii de securitate vor avea șanse mult mai mari de a mitiga unele dintre riscurile menționate.

La fel ca orice tehnologie emergentă, inteligența artificială generativă este atât un beneficiu, cât și un risc pentru afaceri. În timp ce oferă capacități noi, cum ar fi automatizarea și conceptualizarea creativă, introduce și provocări complexe legate de securitatea datelor și protejarea proprietății intelectuale. În timp ce cadrul regulamentar și juridic este încă în curs de dezvoltare, afacerile trebuie să își asume responsabilitatea de a găsi un echilibru între oportunitate și risc, implementând controale de politică care reflectă postura generală de securitate. Inteligența artificială generativă va impulsiona afacerile înainte, dar ar trebui să fim atenți să ținem o mână pe volan.