David Maher, CTO de la Intertrust – Seria de interviuri

David Maher ocupă funcția de Vicepreședinte Executiv și Director Tehnologic al Intertrust. Cu peste 30 de ani de experiență în sisteme distribuite de încredere, sisteme securizate și gestionare a riscurilor, Dave a condus eforturile de cercetare și dezvoltare și a deținut funcții de conducere cheie în filialele companiei. A fost președintele companiei Seacert Corporation, o autoritate de certificare pentru mass-media digitale și IoT, și președintele companiei whiteCryption Corporation, un dezvoltator de sisteme de autoapărare a software-ului. De asemenea, a fost copreședinte al Organizației de Management Marlin Trust (MTMO), care supraveghează singurul ecosistem independent de gestionare a drepturilor digitale din lume.

Intertrust a dezvoltat inovații care permit sistemelor de operare distribuite să securizeze și să guverneze datele și calculele pe rețele deschise, rezultând un brevet de bază pentru calculul distribuit de încredere.

Inițial, înrădăcinat în cercetare, Intertrust a evoluat într-o companie axată pe produse care oferă servicii de calcul de încredere care unifică operațiunile dispozitivelor și datelor, în special pentru IoT și IA. Piețele sale includ distribuția de mass-media, identificarea și autentificarea dispozitivelor, gestionarea energetică digitală, analizele și securitatea stocării în cloud.

Cum putem închide lacuna de încredere a IA și aborda preocupările tot mai mari ale publicului cu privire la siguranța și fiabilitatea IA?

Transparența este cea mai importantă calitate pe care o consider că va ajuta la abordarea preocupărilor tot mai mari cu privire la IA. Transparența include caracteristici care ajută atât consumatorii, cât și tehnologii să înțeleagă ce mecanisme IA fac parte din sistemele cu care interacționăm, ce fel de pedigree au: cum a fost antrenat un model IA, ce garduri există, ce politici au fost aplicate în dezvoltarea modelului, și ce alte garanții există pentru siguranța și securitatea unui mecanism dat. Cu o transparență mai mare, vom putea aborda riscuri și probleme reale și nu vom fi distrași de temeri și presupuneri iraționale.

Care este rolul autentificării metadatelor în asigurarea încrederii în ieșirile IA?

Autentificarea metadatelor ajută la creșterea încrederii noastre că garanțiile privind un model IA sau alt mecanism sunt de încredere. O cartelă de model IA este un exemplu de colecție de metadate care poate ajuta la evaluarea utilizării unui mecanism IA (model, agent, etc.) pentru un scop specific. Trebuie să stabilim standarde pentru claritate și completețe pentru cartele de modele, cu standarde pentru măsurători cantitative și aserțiuni autentificate privind performanța, prejudecățile, proprietățile datelor de antrenament, etc.

Cum pot organizațiile reduce riscul de prejudecăți și halucinații în modelele de limbaj mare (LLM)?

Testarea de echipă roșie este o abordare generală pentru abordarea acestor și altor riscuri în timpul dezvoltării și înainte de lansarea modelelor. Inițial utilizată pentru evaluarea sistemelor securizate, abordarea este acum standard pentru sistemele bazate pe IA. Este o abordare sistematică pentru gestionarea riscurilor care poate și ar trebui să includă întregul ciclu de viață al unui sistem, de la dezvoltarea inițială la implementarea în teren, acoperind întregul lanț de aprovizionare al dezvoltării. În special, este critică clasificarea și autentificarea datelor de antrenament utilizate pentru un model.

Care sunt pașii pe care le pot urma companiile pentru a crea transparență în sistemele IA și a reduce riscurile asociate cu problema “cutiei negre”?

Înțelegeți cum compania va utiliza modelul și ce fel de răspunderi poate avea în implementare, indiferent dacă pentru utilizare internă sau pentru utilizarea de către clienți, direct sau indirect. Apoi, înțelegeți ce numesc eu “pedigree”-ul mecanismelor IA care urmează a fi implementate, inclusiv aserțiuni pe o cartelă de model, rezultate ale testelor de echipă roșie, analize diferențiale pe utilizarea specifică a companiei, ce a fost evaluat formal și ce au fost experiențele altor persoane. Testarea internă utilizând un plan de test cuprinzător într-un mediu realist este absolut necesară. Cele mai bune practici evoluează în această zonă în curs de dezvoltare, deci este important să țineți pasul.

Cum pot fi proiectate sistemele IA astfel încât să aibă în vedere ghidurile etice și care sunt provocările în realizarea acestui lucru în diferite industrii?

Acesta este un domeniu de cercetare, iar mulți afirmă că noțiunea de etică și versiunile actuale ale IA sunt incongruente, deoarece etica este conceptuală, iar mecanismele IA sunt în mare parte bazate pe date. De exemplu, reguli simple pe care le înțeleg oamenii, cum ar fi “nu înșela”, sunt dificil de asigurat. Cu toate acestea, o analiză atentă a interacțiunilor și a conflictelor de obiective în învățarea bazată pe obiective, excluderea datelor dubioase și a dezinformării, și construirea unor reguli care necesită utilizarea filtrelor de ieșire care impun garduri și testarea încălcărilor principiilor etice, cum ar fi promovarea sau simpatizarea cu utilizarea violenței în conținutul de ieșire, ar trebui luate în considerare. De asemenea, testarea riguroasă pentru prejudecăți poate ajuta la alinierea unui model mai mult cu principiile etice. Din nou, multe dintre acestea pot fi conceptuale, deci trebuie să se acorde atenție testării efectelor unei abordări date, deoarece mecanismul IA nu “înțelege” instrucțiunile în același mod în care o fac oamenii.

Care sunt principalele riscuri și provocări cu care se confruntă IA în viitor, în special pe măsură ce se integrează mai mult cu sistemele IoT?

Vrem să utilizăm IA pentru a automatiza sistemele care optimizează procesele critice ale infrastructurii. De exemplu, știm că putem optimiza distribuția și utilizarea energiei utilizând centrale electrice virtuale, care coordonează mii de elemente de producere, stocare și utilizare a energiei. Acest lucru este posibil doar cu o automatizare masivă și utilizarea IA pentru a ajuta la luarea deciziilor în timp real. Sistemele vor include agenți cu obiective de optimizare conflictuale (de exemplu, pentru beneficiul consumatorului versus furnizorul). Siguranța și securitatea IA vor fi critice în implementarea pe scară largă a unor astfel de sisteme.

Care este tipul de infrastructură necesară pentru a identifica și autentifica în mod securizat entitățile în sistemele IA?

Vom avea nevoie de o infrastructură robustă și eficientă prin care entitățile implicate în evaluarea tuturor aspectelor sistemelor IA și implementării lor pot publica afirmații autorizate și autentificate despre sistemele IA, pedigree-ul lor, datele de antrenament disponibile, proveniența datelor de senzori, incidente și evenimente care afectează securitatea, etc. Această infrastructură va trebui, de asemenea, să facă eficientă verificarea afirmațiilor și aserțiunilor de către utilizatorii sistemelor care includ mecanisme IA și de către elementele din sistemele automate care iau decizii pe baza ieșirilor modelelor IA și optimizatorilor.

Ne puteți împărtăși câteva informații despre ceea ce lucrați la Intertrust și cum se încadrează în ceea ce am discutat?

Cercetăm și proiectăm tehnologie care poate furniza infrastructura de gestionare a încrederii necesară în întrebarea anterioară. Ne adresăm în mod specific problemelor de scară, latență, securitate și interoperabilitate care apar în sistemele IoT care includ componente IA.

Cum asigură serviciul PKI (Infrastructura Cheilor Publice) al Intertrust dispozitivele IoT și ce îl face scalabil pentru implementări pe scară largă?

PKI-ul nostru a fost proiectat special pentru gestionarea încrederii pentru sisteme care includ guvernanța dispozitivelor și conținutului digital. Am implementat miliarde de chei criptografice și certificate care asigură conformitatea. Cercetarea noastră actuală se adresează scării și garanțiilor pe care le necesită automatizarea industrială masivă și infrastructura critică la nivel mondial, inclusiv cele mai bune practici pentru implementări “zero-trust” și autentificarea dispozitivelor și datelor care pot acomoda trilioane de senzori și generatori de evenimente.

Ce v-a motivat să vă alăturați inițiativelor NIST privind IA și cum contribuie implicarea dvs. la dezvoltarea standardelor IA de încredere și siguranță?

NIST are o experiență și un succes remarcabil în dezvoltarea standardelor și celor mai bune practici în sisteme securizate. Ca investigator principal pentru AISIC din partea Intertrust, pot pleda pentru standarde și practici importante în dezvoltarea sistemelor de gestionare a încrederii care includ mecanisme IA. Din experiența anterioară, apreciez în mod special abordarea pe care NIST o adoptă pentru a promova creativitatea, progresul și cooperarea industrială, ajutând astfel la formularea și promovarea standardelor tehnice importante care promovează interoperabilitatea. Aceste standarde pot stimula adoptarea tehnologiilor benefice, abordând în același timp riscurile pe care le întâmpină societatea.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Intertrust ar trebui să viziteze Intertrust.