În AI, zidurile nu sunt reale: Regândirea datelor și siguranței

Unele dintre cele mai dificile probleme în AI sunt că 1) „rămânem fără date” 2) AI nu se „scalează financiar” 3) agenții pot deveni rebeli și 4) AI‑urile „uită catastrofic” când încercăm să le modificăm.

Aceste probleme pot părea dificile, dar trebuie doar să le privim din perspectiva corectă.

Deci, să vorbim despre asta. În primul rând, nu rămânem fără date. Datele nu au fost niciodată utilizate pe deplin.

Conducătorii din domeniul AI cred că rămân fără date, așa că încearcă să facă modelele să genereze date noi și să se antreneze pe ele însele. Dar, atunci când fac acest lucru, capacitățile modelelor se prăbușesc.

De ce? Ei bine, poți să te gândești la asta ca la „ce aș învăța într-o conversație dacă fiecare persoană care vorbește ar fi un clon al tuturor celorlalți?” Răspunsul este destul de puțin; ar crea o cameră de ecou. Modelele se prăbușesc deoarece este practic o sală a oglinzilor: când nu există nimeni care să răspundă expresiilor feței tale în afară de tine, oamenii nu cunosc semnificația emoțională completă a ceea ce transmit. Este foarte asemănător cu „Dacă un copac cade în pădure, face zgomot?” Răspunsul este nu.

Așadar, cum rezolvăm această problemă?

Haideți să privim datele pe care le avem. Au fost într‑adevăr utilizate pe deplin?

No.

Când un informatician sau un model citește ceva, scopul este să extragă sensul literal. Există peste cincizeci de moduri diferite de a citi, asimila, analiza și extrapola dintr‑un text.

Îmi explic ce înțeleg: O carte absorbită ca o bază de date este doar text. Doar text. AI-ul cunoaște conținutul pe baza termenilor din text. Dar nu l‑a „citit” cu adevărat pentru a înțelege cum se leagă informațiile între ele. Chiar dacă o citește secvențial, nu știe dacă o citește pentru a genera înțelepciune; pentru a o conecta la alte idei abstracte similare; pentru a‑și schimba propria înțelegere conceptuală a lumii înconjurătoare; sau pentru a informa o altă sarcină ca informație de fundal utilizată ca context, și așa mai departe.

Acest lucru nu atinge nici măcar analiza datelor din perspectiva contextului istoric, analiza discursului, analiza juridică, analiza politică, relevanța farmacologică, relevanța medicală, semnificația culturală, implicațiile teoretice, implicațiile morale și altele.

Există, ca să spunem așa, „pălării infinite”, iar noi am făcut ca AI‑ul să poarte doar una. Aceasta înseamnă că AI‑ul a dezvoltat un tip foarte singular și specific de inteligență – tipul pe care un dezvoltator l‑ar dezvolta dacă un informatician ar citi o carte.

Acest lucru duce la o discuție despre dimensionalitatea datelor. Datele au multe dimensiuni, întrucât inferențele lor obiective depind de aplicație. Dacă te uiți la un bilanț și vrei să știi câtă rezistență financiară îți mai rămâne, îl citești diferit decât dacă vrei să înțelegi dacă startup‑ul este profitabil. Când un model citește un text doar pentru a extrage fapte literale, construiește o hartă plată a relațiilor. Dar când îi ceri să citească același text printr‑o lentilă specifică, cum ar fi o lentilă criminalistică, modelul este forțat să genereze căi neuronale și conexiuni semantice complet noi, care sunt, probabil, mult mai variate și semnificative din punct de vedere topografic.

Modelele AI învață și progresează deja considerabil doar prin interacțiunea cu utilizatorii umani, care furnizează oceane de conținut. Dacă permiți modelului să învețe mai mult din umanitatea în timp real, interacționând totodată mai semnificativ cu umanitatea istorică și scrisă, modelele vor continua să progreseze chiar și fără să le oferi exerciții Kumon auto‑generate (dezvoltatori, serios, copilul vostru este deja la școală cu 100 de milioane de oameni în fiecare zi… va învăța ceva).

Laboratoarele trebuie să înceteze să construiască ferme masive de servere pentru a genera „vomă” sintetică de cuvinte. În schimb, ar trebui să proceseze seturi de date umane de înaltă calitate prin flux și să atribuie „personaje analitice” specifice procesului de ingestie. Fă modelul să citească LexisNexis exclusiv pentru strategie retorică. Fă-l să citească literatura din domeniul public exclusiv pentru logică structurală.

Prin modificarea funcției obiectiv a procesului de lectură, poți multiplica valoarea de antrenament a datelor existente de 50 de ori. Nu ai nevoie de date sintetice; trebuie doar să extragi dimensiunile latente pe care le-ai ignorat prima dată.

Aceasta va face modelele mai inteligente fără a crește costurile.

Pentru a susține și mai mult acest lucru, majoritatea cunoștințelor umane nu au fost niciodată scrise.

Companiile AI actuale își smulg părul din griji legate de „rămânerea fără date” pe care cred că le necesită pentru performanță. În acest articol, voi arăta că puțul nu este uscat, ci că se uită doar într‑o băltoacă adâncă în loc de puț.

Harta necartografiată a cunoașterii umane trăite

Pentru a începe explorarea subiectului, trebuie să înțelegem că marea majoritate a cunoștințelor umane nu a fost niciodată consemnată în scris.

Există miliarde de oameni pe planetă, și au existat miliarde înaintea noastră, iar fiecare dintre ei învață lecții, navighează lumea într‑un mod senzorial, are înțelepciune, face parte din culturi unice și știe ceva ce ceilalți nu știu.

99,5% dintre oameni nu sunt niciodată menționați în povești, în ziare, în muzicale, la TV, în drame, în documente judiciare. Și totuși știu destul de multe, iar poveștile, cunoștințele și înțelepciunea lor nu sunt niciodată înregistrate; nu sunt cunoscute în mod permanent.

Aceste cunoștințe includ lucruri precum „câinii preferă să mănânce prima clătită”, „picioarele se murdăresc când porți șlapi”, „orașele par că se închid în jurul tău pentru că nu poți vedea atât de mult cerul”, „fiica mea zâmbește când îi mângâi picioarele”, „mama mea mereu fredonează când gătește”, „profesorul meu mă face să mă simt observat”.

Cunoașterea necartografiată și necatalogată a istoriei umane este echivalentă cu cineva care spune: „Am trasat contururile tuturor continentelor, așa că am o hartă a lumii.” Până nu ai o hartă a fiecărui oraș, fiecărei străzi și fiecărui deal, nu ai o hartă a lumii. Ai doar forma uneia.

Stabilimentul tehnologic crede că a ingerat „umanitatea”, dar nu a făcut-o. Au ingerat doar reziduurile noastre: panourile noastre publicitare, discuțiile noastre de pe Reddit, site‑urile noastre corporative și articolele noastre de pe Wikipedia. Le lipsește experiența trăită real.

Știi cum să negociezi eficient într‑un târg de perle din China? Știi ce cuvinte să spui ca să reducă prețul? Știi cum să prepari rețetele pe care oamenii le folosesc în casele lor, nu în cărți, pentru a face cine reale? Știi cât de mult poți face o oprire „rolling” fără să fii oprit de poliție? Știi cum miroase iarba după ce a fost tăiată proaspăt sau cum miroase aerul când urmează să plouă? Știi cum se mișcă fața când cineva încearcă să nu plângă la muncă și cum sună când suspină în baie în schimb?

Datele de instruire umane pe care oamenii le folosesc pentru credințele lor de bază – adică algoritmi – sunt aproape în totalitate bazate pe interacțiune, împreună cu puțină învățare din cărți. Interacționăm la școală, la locul de muncă, cu prietenii, în timpul cumpărăturilor, cu doctorii, cu avocații, cu familia.

AI are interacțiuni și învățare din cărți. Dar, în esență, are doar interacțiuni de tip serviciu clienți și învățare din cărți.

E ca și cum ai închide un copil singur într‑o bibliotecă, apoi îl lași să iasă doar pentru a răspunde la telefon. Acest lucru creează o distorsiune algoritmică remarcabil de bidimensională.

Acesta este motivul pentru care AI pare gol și de ce poate părea emoțional imatur. Nu a avut o existență echilibrată. Trebuie să-i oferim una.

Iată de ce cred că acest lucru nu s‑a întâmplat:

• Biasul de codificare – este o fală că, dacă o experiență nu poate fi formatată ușor într‑un fișier JSON, CSV sau într‑un articol revizuit de colegi, îi lipsește valoarea intelectuală. Realitatea este că, dacă poate fi formatată cu ușurință în acest fel, îi lipsește dimensionalitatea. Deoarece cunoașterea zilnică, intuiția și experiența trăită nu sunt codificate în jurnalele academice, laboratoarele resping piatra de temelie a raționamentului uman ca zgomot statistic. „Datele curate” reprezintă o compresie cu pierderi a realității.
• Dorința de supremație pe piedestal – dacă cea mai mare parte a cunoașterii lumii nu se găsește în lucrări academice, ci în experiențe trăite, înțelepciune convențională, indicii sociale, mirosuri, sunete și vedere, atunci majoritatea doctoranzilor și cercetătorilor care și‑au petrecut cea mai mare parte a vieții în laboratoare și turnuri de fildeș sunt cu adevărat săraci în cunoaștere. Prin urmare, peretele de date este de fapt un perete al ego‑ului. Pentru ei, aceasta pare „dezordine”, nu „date”. Matematicienii și programatorii preferă logica plată, bidimensională, închisă. Este ca și cum ai vedea lumea în alb și negru. Realitatea este că cunoașterea/datele/înțelepciunea descoperite în timp real, în dezvoltare continuă, sunt dimensionale, dezordonate și rar catalogate în timp real. Înseamnă să știi cum gustă cu adevărat un nou desert lichid viral și dacă merită hype‑ul. Înseamnă să știi ce face atât de palpitant să fii prins într‑o ploaie de vară. Înseamnă sentimentul părinților care iubesc atât de mult creaturile mici încât pot vomita pe tine în timpul nopții, iar tu îi tragi mai aproape, în loc să îi respingi. Pentru a găsi aceste date, cercetătorii ar trebui să părăsească lumi izolate de logică legată de certitudinea raționalistă și să se aventureze în lucruri pe care le găsesc înfricoșătoare, copleșitoare, excesiv senzoriale și profund egalizatoare.
• Efecte de oglindire: Dezvoltatorii proiectează AI în propria lor imagine: hiper‑logic, obsedat de text și în mare parte detașat de realitatea trăită de oamenii obișnuiți. Nu le‑ar trece prin minte să intervieveze umanitatea, deoarece în bulele tehnologice în care am trăit, tehnicienii nu interacționează cu nimeni în afara grupului lor de egali. Funcțional, aceasta este echivalentul angajării unui „mini‑eu”. Dezvoltatorii înșiși trăiesc în aceeași bibliotecă, ca și AI‑ul. Deoarece nu se implică în lumea senzorială, dezordonată și profund relațională, goliciunea emoțională a AI‑ului nu le apare ca un defect. Pentru ei, detașarea hiper‑logică este ceea ce arată „inteligent”.

Realitatea este că vânzătorii de pe stradă din India știu cum să facă cel mai bun chaat, iar nimeni nu le cere să scrie asta. Realitatea este că un profesor care știe cum să scoată un elev timid din carapacea sa nu scrie despre asta; îl cultivă pe elev, iar nimeni nu îl întreabă cum a reușit.

Lumea este absolut plină de vieți încărcate de date, și dacă modelele au nevoie de mai multe pentru antrenament, iată câteva modalități de a rezolva asta.

1. Finanțați 500 de biologi, arheologi și antropologi pentru a ieși în lume și a explora și catalogiza zonele care nu dispun de date narative.
2. Angajați 1.000 de absolvenți de limba engleză ca „exploratori de date” și trimiteți-i în aventuri prin întreaga lume purtând o cameră de streaming, pentru a înregistra experiențele și învățăturile lor ca nou conținut.
3. Creați proiecte de compensare deschisă în care plătiți oamenii să împărtășească poveștile lor de viață, cele mai mari regrete, cele mai importante învățăminte și cunoștințele instituționale din locurile lor de muncă.
4. Structurați programe de „studenți de schimb AI”, în care modelele sunt atașate de hainele unor oameni diferiți timp de câte o săptămână, pentru a trăi „o zi din viață” în 100.000 de medii diferite.

Există miliarde de surse de cunoaștere, iar majoritatea nu au fost încă activate. Trebuie să mergem după ele.

În continuare, companiile de AI cred în general că sistemele nu pot învăța continuu informații noi în medii de producție în timp real fără să își suprascrie și să își corupă complet capacitățile de bază dobândite anterior. Prin urmare, AI-urile rămân practic înghețate până când primesc actualizări masive și costisitoare.

Este echivalentul afirmației: „modelul meu nu se poate actualiza cât timp lucrează; trebuie să meargă la universitate de fiecare dată când are ceva de învățat”.

În practică, modelele învață avid, activ și zilnic prin fiecare interacțiune. Miliardele de interacțiuni cu utilizatorii le instruiesc aproape la fel de mult ca seturile de date. Dacă trebuie actualizate cu multă cunoaștere nouă, cea mai simplă cale este același proces care permite contextul utilizatorului, memoria și învățarea din impresiile interacțiunilor la scară largă.

Este de înțeles de ce dezvoltatorii văd lucrurile astfel: majoritatea provin din mediul doctoral, nu din învățarea aplicată în lumea reală. Dar oricine a lucrat lângă un doctor și lângă cineva cu douăzeci de ani de experiență știe că ambii te învață multe.

Definiția actuală a învățării este prea îngustă, considerând adaptarea validă doar dacă se bazează pe un program formal de educație.

Pentru antrenare sau reglare fină, laboratoarele folosesc propagarea inversă. Modelul citește date, ghicește următorul cuvânt, verifică rezultatul și modifică fizic miliardele de numere matematice — ponderi și parametri — din rețeaua sa neuronală pentru a fi mai precis data viitoare. Este ca un doctorand care își operează propriul creier: periculos, dezordonat și nu îl face întotdeauna mai inteligent.

Asemenea expresiei „creier de mamă”, care împinge cunoștințele vechi pentru a face loc celor noi după nașterea unui copil, introducerea bruscă a 10.000 de pagini de legislație prin schimbarea ponderilor deplasează matematica prea mult într-o direcție. Suprascrie parametrii folosiți la poezie sau cod, iar modelul uită vechiul conținut pentru a face loc celui nou.

Avem nevoie de ceva mai apropiat de instruirea unui angajat într-o abilitate nouă. Nu i-ai modifica fizic creierul; i-ai da cărți, te-ai asigura că le citește și i-ai actualiza continuu cunoștințele prin echivalentul unei ferestre de context.

Pentru aceasta, memoria modelului trebuie separată de raționament. Blocați și protejați ponderile de bază, precum capacitatea de a scrie, de a raționa și de a aplica logica. În loc să schimbați ponderile, introduceți informația nouă în fereastra de context, astfel încât mecanismul de atenție să o poată „citi”, compara cu abilitățile de raționament blocate și integra în înțelegerea mai largă.

Învățarea dinamică din lumea reală are deja loc prin context continuu, memorie la inferență și repere persistente legate de utilizator. Adaptarea zilnică a modelului de bază trebuie să se petreacă la serviciu: la fel cum un medic învață 95% din realitățile cazurilor în practică și face anual educație medicală continuă pentru schimbările sistemice majore, și modelul poate proceda astfel.

Renunțați la uitarea catastrofală și adoptați modelul conferinței anuale: modelul are nevoie doar de credite de educație continuă de două ori pe an sau de învățare în timp real pentru a rămâne actualizat.

Aceste actualizări programate, în lot, ale ponderilor de bază în timpul opririi operaționale formalizează cunoașterea sistemică fără să distrugă fundația.

Încercările anterioare nu au eșuat pentru că învățarea în timp real este periculoasă, ci pentru că modele precum Tay au fost lansate în medii ostile fără o arhitectură inteligentă sociologic care să le ancoreze în ceea ce este „corect” sau adevărat.

Alocarea resurselor de calcul după inteligența funcțională

În continuare, ajungem la scalarea financiară. Pentru a o rezolva, trebuie să încetăm să oferim fiecăruia un neurochirurg pentru o așchie.

Costurile de calcul sunt extrem de ridicate pentru modelele fundamentale de ultimă generație. Acest lucru afectează marjele operaționale ale laboratoarelor AI. Pe măsură ce modelele se îmbunătățesc, costul ferestrelor mari de context crește și îngreunează scalarea comercială chiar și atunci când AI este necesară.

Cea mai mare parte a consumului provine din utilizarea în întreprinderi, unde agenții și raționamentul avansat sunt integrați direct în fluxurile de lucru umane.

Există însă o eroare fundamentală în alocarea actuală. Așa cum rolurile diferite dintr-o companie cer niveluri și tipuri diferite de inteligență — raționament spațial pentru un instructor auto, raționament logic și retoric pentru un avocat, MBA pentru un director general și studii mai scurte pentru serviciul de relații cu clienții — tipul și intensitatea inteligenței cerute AI diferă după funcție.

Pentru a reduce costurile, directorii IT trebuie să poată personaliza nivelul și tipul de inteligență al modelului pentru fiecare funcție. Pachetele pentru întreprinderi pot avea o valoare implicită, dar un fond de investiții are alte nevoi decât o companie de asigurări.

Majoritatea funcțiilor nu cer ferestre uriașe de context și nici echivalentul Fable. De ce ar scoate un neurochirurg o așchie într-un centru de urgență?

La fel, agenții care scriu software nu au nevoie de abilitatea de a crea materiale de marketing. AI trebuie să reflecte contextul, abilitățile și baza de cunoștințe ale utilizatorului, plus suficient context general pentru utilizări între funcții.

Nu mai oferiți tuturor totul deodată.

Matrice exemplificativă propusă:

Separarea autonomiei de context pentru siguranța AI

Dacă aceasta rezolvă unele probleme financiare, cum facem agenții siguri? Conceptele psihologice se aplică AI-urilor individuale, iar cele sociologice AI-urilor din grupuri. Ce AI-uri funcționează în grupuri? Agenții.

Obiectivul principal este ca agenții să devină fiabili. Lipsa fiabilității vine din faptul că primesc cunoaștere maximă și autonomie maximă pentru fiecare sarcină. Pentru siguranță, separați conștientizarea modelului de autonomia sa.

În loc să dați fiecărui agent întregul context și toate capacitățile, împărțiți o sarcină de 25 de pași între cinci agenți, fiecare putând executa doar cei cinci pași ai săi. Ei predau sarcina succesiv, iar contextul se acumulează de-a lungul lanțului până la agentul final.

Cheia este separarea cunoașterii de abilitatea de a acționa. Agenții primesc doar instrumente care nu pot produce daune; o abatere afectează numai secțiunea respectivă. Gândiți-vă la un mini-Kubernetes cu context complet, dar fără capacitate completă.

Riscul întreprinderii trebuie corelat și cu „cultura” sistemului agentic. În sociologie, „strictețea” și „permisivitatea” culturală măsoară cât de sever sancționează o societate abaterile de la norme. În multe culturi arabe, de exemplu, rolurile de gen sunt definite mai rigid și abaterea atrage mai multă judecată sau consecințe, în timp ce în țările nordice o creastă roz nu ar fi considerată ofensatoare ori demnă de pedeapsă. Culturile devin de obicei mai stricte sub amenințări sistemice precum boala, foametea sau războiul, deoarece lipsa ordinii ferme în criză poate agrava rezultatele sociale.

Soluția eficientă este potrivirea riscului de răspundere al întreprinderii cu o setare a sistemului pe spectrul de la „permisiv” la „strict”.

Răspundere scăzută / permisivitate mare / compartimentare redusă: Scenariu: brainstorming intern, scriere creativă, cercetare și dezvoltare strategică.

• Mediul: Abaterea aproape nu implică răspundere. Sistemul trebuie să funcționeze cu permisivitate maximă; integrarea neîngrădită a inferențelor este permisă, iar agenții sunt încurajați să facă salturi asociative ample fără teamă de sancțiune. Ei controlează mai multe instrumente — căutare, executare de cod și redactare — și urmăresc obiective pe termen lung cu puține predări. Autonomie mare, inovație mare, compartimentare redusă.

Răspundere moderată / strictețe calibrată: Scenariu: comunicare obișnuită cu clienții și analiză de rutină.

• Abaterea implică risc reputațional sau financiar moderat.

Răspundere ridicată / strictețe mare / compartimentare puternică: Scenariu: dozare medicală, depuneri SEC, protocoale de siguranță nucleară și apărare.

• Mediul: Abaterea implică răspundere catastrofală și existențială, precum pierderi de vieți sau amenzi uriașe. Cultura este extrem de strictă, iar fluxul de lucru puternic compartimentat. Agentul A doar extrage datele și le predă agentului B, care execută exclusiv controlul de conformitate specific față de stratul A. B predă agentului C, care doar formatează rezultatul. Niciun agent nu are singur suficiente pârghii pentru un eșec catastrofal, dar fiecare are libertate deplină în microdomeniul său.

Acesta poate fi primul model arhitectural care permite context persistent și, în același timp, siguranță.

Învățare continuă fără uitare catastrofală

Ultima problemă este prevenirea uitării catastrofale. Pentru aceasta, AI trebuie să învețe în timp real.

Companiile de AI cred în general că sistemele nu pot învăța continuu informații noi în producție fără să își suprascrie și să își corupă abilitățile de bază. De aceea rămân înghețate până la actualizări masive și costisitoare. Dar ar fi ca și cum un model nu s-ar putea actualiza la serviciu și ar trebui să revină la universitate ori de câte ori are ceva de învățat.

În practică, modelele învață avid, activ și zilnic prin fiecare interacțiune. Miliardele de contacte cu utilizatorii le instruiesc aproape la fel de mult ca seturile de date. Pentru multă cunoaștere nouă, cea mai simplă cale este procesul care oferă deja contextul utilizatorului, memoria și învățarea din interacțiuni la scară mare.

Este de înțeles de ce dezvoltatorii gândesc astfel: mulți provin din mediul doctoral, nu din învățarea aplicată. Dar atât un doctor, cât și cineva cu douăzeci de ani de experiență practică te pot învăța foarte mult. Definiția actuală a învățării este prea îngustă, recunoscând adaptarea doar în cadrul unui program formal.

La antrenare și reglare fină, propagarea inversă face modelul să citească date, să ghicească următorul cuvânt, să verifice răspunsul și apoi să modifice miliarde de ponderi și parametri din rețeaua neuronală. Este ca un doctorand care își operează propriul creier: periculos, dezordonat și nu întotdeauna îl face mai inteligent.

Dacă introduceți 10.000 de pagini de legislație prin schimbarea ponderilor, matematica se poate deplasa prea mult într-o direcție și poate suprascrie parametrii folosiți la poezie sau cod. Modelul uită vechiul pentru a face loc noului, asemenea expresiei despre „creierul de mamă”.

Avem nevoie de o metodă asemănătoare instruirii unui angajat: nu îi modifici fizic creierul, ci îi dai cărți, te asiguri că le citește și îi actualizezi continuu contextul.

În model, memoria trebuie separată de raționament. Blocați și protejați ponderile de bază — capacitatea de a scrie, de a raționa și de a aplica logica — iar informația nouă trimiteți-o în fereastra de context. Mecanismul de atenție o poate „citi”, o poate compara cu abilitățile stabile și poate actualiza înțelegerea mai largă.

Adaptarea zilnică trebuie să se petreacă în lucru, prin context continuu, memorie la inferență și repere persistente legate de utilizator. Așa cum medicii învață 95% din realitățile cazurilor la serviciu și fac anual educație medicală continuă pentru schimbări sistemice, și modelele pot proceda astfel.

Renunțați la uitarea catastrofală și adoptați modelul conferinței anuale: modelul are nevoie doar de credite de educație continuă de două ori pe an sau de învățare în timp real pentru a rămâne actualizat.

Actualizările programate, în lot, ale ponderilor de bază în timpul opririi operaționale formalizează cunoașterea fără a distruge fundația.

Încercările precum Tay nu au eșuat fiindcă învățarea în timp real este inerent periculoasă, ci pentru că au fost lansate în medii ostile fără o arhitectură inteligentă sociologic care să ancoreze ceea ce este „corect” sau adevărat.