De ce interzicerea inteligenței artificiale (AI) crește riscurile de securitate și cum ar trebui instituțiile să răspundă

În întreaga țară, districtele școlare și organizațiile din sectorul public se străduie să restricționeze sau să blocheze accesul la tehnologiile de inteligență artificială generativă (GenAI) sau la anumite instrumente. În Colorado, districtul școlar Boulder Valley a interzis recent ChatGPT pe rețelele districtuale, invocând preocupări cu privire la utilizarea abuzivă, siguranță și integritate academică.

Instinctul de a reduce expunerea la incidente de securitate sau utilizarea abuzivă a datelor este înțelept. Platformele cu garduri slabe sau angajamente de confidențialitate neclare, cum ar fi DeepSeek, necesită restricții și examinare. Dar interzicerea accesului la instrumentele GenAI nu reduce în mod semnificativ riscul; adesea, doar îl transferă în medii în care supravegherea dispare.

Un sondaj al College Board a constatat că 84% dintre elevii de liceu au raportat utilizarea GenAI pentru lucrări școlare, chiar dacă 45% dintre directori au raportat cel puțin unele restricții privind accesul la AI în școli. În mod similar, un raport IBM a constatat că 80% dintre angajații de birou utilizează AI, dar doar 22% se bazează exclusiv pe instrumentele furnizate de angajator.

Politica de acces singură nu determină comportamentul. Elevii pot scoate telefoanele mobile și utiliza orice instrument AI prin rețeaua de date mobile, sau pot utiliza platforma acasă sau pe Wi-Fi public. Ei pot utiliza, de asemenea, VPN-uri, desktopuri remote și plugin-uri pentru a ocoli restricțiile. Angajații pot face același lucru pentru a ocoli controalele de la locul de muncă.

Organizațiile ar trebui să presupună că, atunci când există o voință de a utiliza AI, există și o cale. Când tehnologia este limitată într-un mod care împinge utilizarea dincolo de vizibilitatea instituțională, riscul de AI umbrită crește. Nu există nicio supraveghere a informațiilor introduse în prompturi sau a datelor reținute de model. Orice control asupra securității dispare imediat.

În afara riscului de AI umbrită, interzicerea creează o lacună de alfabetizare, lăsând elevii complet nepregătiți pentru a utiliza tehnologia care va fi o parte mare a viitorului lor. Aceste instrumente sunt din ce în ce mai integrate în motoarele de căutare, platformele de afaceri, suitele de productivitate și dispozitivele personale. Un sondaj Pew Research a constatat că 62% dintre adulții americani spun că interacționează cu AI cel puțin de câteva ori pe săptămână. Este aproape sigur că elevii și angajații vor întâlni sisteme GenAI, indiferent de politicile instituționale.

În acest mediu, educația este cel mai sigur mijloc de apărare împotriva preocupărilor cu privire la utilizarea abuzivă sau securitate și pentru a asigura că elevii și lucrătorii deopotrivă sunt bine pregătiți pentru a utiliza un instrument care va fi esențial pentru carierele lor. Învățarea utilizării responsabile și etice echipă utilizatorii pentru a recunoaște riscurile de date și pentru a lua decizii informate oriunde întâlnesc aceste sisteme.

Programele de educație ar trebui să se concentreze pe modul în care modelele de limbaj mare (LLM) procesează și rețin date, cum să identifice halucinații, cum să verifice ieșirile generate de AI și cum să identifice campaniile de phishing și imaginile generate de AI, doar pentru a numi câteva. Învățați utilizatorii să fie sceptici. Ieșirile AI sunt adesea prezentate cu încredere și într-un limbaj politicos, ceea ce poate crea o iluzie de autoritate. Fără instruire, utilizatorii pot presupune că un răspuns bine formatat este în mod inerent precis.

Capacitatea de a pune sub semnul întrebării conținutul digital este o apărare de linia întâi, pe măsură ce deepfake-urile și campaniile de phishing îmbunătățite de AI devin mai sofisticate. Un sondaj Gartner a constatat că 62% dintre organizații au experimentat un atac de deepfake anul trecut, iar 32% au înfruntat un atac asupra aplicațiilor AI. Frecvența și amploarea acestor incidente sunt așteptate să continue să crească.

Instituțiile din sectorul public, cum ar fi școlile și guvernele locale, sunt expuse în special la ingineria socială bazată pe deepfake, deoarece o mare parte a activității lor este înregistrată și disponibilă public. Fragmentele audio din ședințele publice pot fi manipulate și utilizate pentru a genera apeluri vocale convingătoare. Am văzut actori amenințători care utilizează acest lucru pentru fraudă, cum ar fi redirecționarea fondurilor în timpul tranzacțiilor sensibile. Deși acest lucru se întâmplă cel mai adesea în cazuri țintite, utilizatorii care nu au fost niciodată instruiți pentru a recunoaște aceste tehnici, sau chiar și pentru a ști că sunt posibile, sunt în dezavantaj de la început.

În urma educației, organizațiile ar trebui să aibă politici clare și comunicate cu privire la utilizarea și guvernanța AI. Acestea ar trebui să definească instrumentele aprobate, cazurile de utilizare acceptabile și ce date pot și nu pot fi introduse în care model(e). Politicile trebuie aplicate în mod consecvent în toate departamentele, mai degrabă decât să varieze de la o sală de clasă la alta sau de la un birou la altul. Așteptările clare reduc ambiguitatea și întăresc responsabilitatea.

În loc de restricții generale, organizațiile ar trebui să se concentreze pe modul în care tehnologia este utilizată în practică. Când o organizație aprobă un instrument care este accesibil, securizat și funcționează bine, devine implicit pentru majoritatea utilizatorilor. Utilizarea “umbrită” a AI scade, deoarece există o alternativă simplă care nu implică descărcarea unui VPN pentru a o utiliza.

Organizațiile și instituțiile sunt în căutarea unor modalități de a oferi acces securizat la LLM, astfel încât datele lor să fie protejate și nu să fie partajate sau utilizate pentru antrenament. O categorie în creștere de instrumente de activare și securitate AI apare pentru a face exact acest lucru. Ei pot oferi acces la multiple LLM, menținând în același timp datele instituției containerizate în mod securizat. Acordurile de reținere a datelor cu zero oferă cadrul legal pentru a asigura că datele organizației rămân proprietatea companiei sau instituției, iar LLM nu poate fi antrenat cu ele. În plus, dacă un angajat părăsește instituția, orice utilizare a AI, fluxuri de lucru sau date rămân proprietatea organizației.

Barajele tehnice pot fi aplicate și la nivel de funcție. O instituție poate permite elevilor sau angajaților să pună întrebări generale într-un LLM sancționat, în timp ce dezactivează încărcarea fișierelor, partajarea documentelor sau alte capacități cu risc ridicat. Aceste configurații păstrează beneficiile de productivitate fără a deschide ușa expunerii necontrolate a datelor.

Instrumente mai avansate pot anonimiza în mod automat informații sensibile înainte de a ajunge la model. De exemplu, înlocuirea numelor de pacienți sau a identificatorilor cu plasatoare neutre, astfel încât medicii și asistenții medicali să poată utiliza în continuare GenAI fără a expune date protejate. Altele integrează controale de prevenire a pierderii de date care detectează și blochează numerele de securitate socială, datele conturilor financiare sau alte informații reglementate care sunt trimise în prompturi.

Politici clare cu baraje tehnice, construite pe baza educației, creează cea mai bună apărare, în special pe măsură ce tehnologia se schimbă atât de repede. GenAI evoluează mai repede decât majoritatea organizațiilor din sectorul public – și bugetele lor – pot adapta. Încercarea de a bloca fiecare nou model pe măsură ce apare este nesustenabilă, deoarece, până când o platformă este restricționată, alta a câștigat already tracțiune. Utilizatorii instruiți pentru a înțelege riscurile subiacente pot adapta pe tot parcursul instrumentelor și versiunilor.

Securitatea într-un mediu activat de AI depinde de recunoașterea realității că GenAI este acum încorporat în viața de zi cu zi. Nu există modalitate de a pune geniul înapoi în sticlă. Interzicerea generală poate semnala prudență, dar adesea schimbă riscul vizibil, gestionabil, cu expunerea invizibilă, negestionată. Învățați o persoană să utilizeze AI în mod responsabil, și vor fi pregătiți pentru orice va urma.