În AI, zidurile nu sunt reale: Regândirea datelor și siguranței

Unele dintre cele mai dificile probleme în AI sunt că 1) „rămânem fără date” 2) AI nu se „scalează financiar” 3) agenții pot deveni rebeli și 4) AI‑urile „uită catastrofic” când încercăm să le modificăm.

Aceste probleme pot părea dificile, dar trebuie doar să le privim din perspectiva corectă.

Deci, să vorbim despre asta. În primul rând, nu rămânem fără date. Datele nu au fost niciodată utilizate pe deplin.

Conducătorii din domeniul AI cred că rămân fără date, așa că încearcă să facă modelele să genereze date noi și să se antreneze pe ele însele. Dar, atunci când fac acest lucru, capacitățile modelelor se prăbușesc.

De ce? Ei bine, poți să te gândești la asta ca la „ce aș învăța într-o conversație dacă fiecare persoană care vorbește ar fi un clon al tuturor celorlalți?” Răspunsul este destul de puțin; ar crea o cameră de ecou. Modelele se prăbușesc deoarece este practic o sală a oglinzilor: când nu există nimeni care să răspundă expresiilor feței tale în afară de tine, oamenii nu cunosc semnificația emoțională completă a ceea ce transmit. Este foarte asemănător cu „Dacă un copac cade în pădure, face zgomot?” Răspunsul este nu.

So, how do we fix that?

Haideți să privim datele pe care le avem. Au fost într‑adevăr utilizate pe deplin?

No.

Când un informatician sau un model citește ceva, scopul este să extragă sensul literal. Există peste cincizeci de moduri diferite de a citi, asimila, analiza și extrapola dintr‑un text.

Îmi explic ce înțeleg: O carte absorbită ca o bază de date este doar text. Doar text. AI-ul cunoaște conținutul pe baza termenilor din text. Dar nu l‑a „citit” cu adevărat pentru a înțelege cum se leagă informațiile între ele. Chiar dacă o citește secvențial, nu știe dacă o citește pentru a genera înțelepciune; pentru a o conecta la alte idei abstracte similare; pentru a‑și schimba propria înțelegere conceptuală a lumii înconjurătoare; sau pentru a informa o altă sarcină ca informație de fundal utilizată ca context, și așa mai departe.

Acest lucru nu atinge nici măcar analiza datelor din perspectiva contextului istoric, analiza discursului, analiza juridică, analiza politică, relevanța farmacologică, relevanța medicală, semnificația culturală, implicațiile teoretice, implicațiile morale și altele.

Există, ca să spunem așa, „pălării infinite”, iar noi am făcut ca AI‑ul să poarte doar una. Aceasta înseamnă că AI‑ul a dezvoltat un tip foarte singular și specific de inteligență – tipul pe care un dezvoltator l‑ar dezvolta dacă un informatician ar citi o carte.

Acest lucru duce la o discuție despre dimensionalitatea datelor. Datele au multe dimensiuni, întrucât inferențele lor obiective depind de aplicație. Dacă te uiți la un bilanț și vrei să știi câtă rezistență financiară îți mai rămâne, îl citești diferit decât dacă vrei să înțelegi dacă startup‑ul este profitabil. Când un model citește un text doar pentru a extrage fapte literale, construiește o hartă plată a relațiilor. Dar când îi ceri să citească același text printr‑o lentilă specifică, cum ar fi o lentilă criminalistică, modelul este forțat să genereze căi neuronale și conexiuni semantice complet noi, care sunt, probabil, mult mai variate și semnificative din punct de vedere topografic.

Modelele AI învață și progresează deja considerabil doar prin interacțiunea cu utilizatorii umani, care furnizează oceane de conținut. Dacă permiți modelului să învețe mai mult din umanitatea în timp real, interacționând totodată mai semnificativ cu umanitatea istorică și scrisă, modelele vor continua să progreseze chiar și fără să le oferi exerciții Kumon auto‑generate (dezvoltatori, serios, copilul vostru este deja la școală cu 100 de milioane de oameni în fiecare zi… va învăța ceva).

Laboratoarele trebuie să înceteze să construiască ferme masive de servere pentru a genera „vomă” sintetică de cuvinte. În schimb, ar trebui să proceseze seturi de date umane de înaltă calitate prin flux și să atribuie „personaje analitice” specifice procesului de ingestie. Fă modelul să citească LexisNexis exclusiv pentru strategie retorică. Fă-l să citească literatura din domeniul public exclusiv pentru logică structurală.

Prin modificarea funcției obiectiv a procesului de lectură, poți multiplica valoarea de antrenament a datelor existente de 50 de ori. Nu ai nevoie de date sintetice; trebuie doar să extragi dimensiunile latente pe care le-ai ignorat prima dată.

Aceasta va face modelele mai inteligente fără a crește costurile.

Pentru a susține și mai mult acest lucru, majoritatea cunoștințelor umane nu au fost niciodată scrise.

Companiile AI actuale își smulg părul din griji legate de „rămânerea fără date” pe care cred că le necesită pentru performanță. În acest articol, voi arăta că puțul nu este uscat, ci că se uită doar într‑o băltoacă adâncă în loc de puț.

Harta necartografiată a cunoașterii umane trăite

To start exploring this, we need to understand that the vast majority of human knowledge has never been written down.

Există miliarde de oameni pe planetă, și au existat miliarde înaintea noastră, iar fiecare dintre ei învață lecții, navighează lumea într‑un mod senzorial, are înțelepciune, face parte din culturi unice și știe ceva ce ceilalți nu știu.

99,5% dintre oameni nu sunt niciodată menționați în povești, în ziare, în muzicale, la TV, în drame, în documente judiciare. Și totuși știu destul de multe, iar poveștile, cunoștințele și înțelepciunea lor nu sunt niciodată înregistrate; nu sunt cunoscute în mod permanent.

Aceste cunoștințe includ lucruri precum „câinii preferă să mănânce prima clătită”, „picioarele se murdăresc când porți șlapi”, „orașele par că se închid în jurul tău pentru că nu poți vedea atât de mult cerul”, „fiica mea zâmbește când îi mângâi picioarele”, „mama mea mereu fredonează când gătește”, „profesorul meu mă face să mă simt observat”.

Cunoașterea necartografiată și necatalogată a istoriei umane este echivalentă cu cineva care spune: „Am trasat contururile tuturor continentelor, așa că am o hartă a lumii.” Până nu ai o hartă a fiecărui oraș, fiecărei străzi și fiecărui deal, nu ai o hartă a lumii. Ai doar forma uneia.

Stabilimentul tehnologic crede că a ingerat „umanitatea”, dar nu a făcut-o. Au ingerat doar reziduurile noastre: panourile noastre publicitare, discuțiile noastre de pe Reddit, site‑urile noastre corporative și articolele noastre de pe Wikipedia. Le lipsește experiența trăită real.

Știi cum să negociezi eficient într‑un târg de perle din China? Știi ce cuvinte să spui ca să reducă prețul? Știi cum să prepari rețetele pe care oamenii le folosesc în casele lor, nu în cărți, pentru a face cine reale? Știi cât de mult poți face o oprire „rolling” fără să fii oprit de poliție? Știi cum miroase iarba după ce a fost tăiată proaspăt sau cum miroase aerul când urmează să plouă? Știi cum se mișcă fața când cineva încearcă să nu plângă la muncă și cum sună când suspină în baie în schimb?

Datele de instruire umane pe care oamenii le folosesc pentru credințele lor de bază – adică algoritmi – sunt aproape în totalitate bazate pe interacțiune, împreună cu puțină învățare din cărți. Interacționăm la școală, la locul de muncă, cu prietenii, în timpul cumpărăturilor, cu doctorii, cu avocații, cu familia.

AI are interacțiuni și învățare din cărți. Dar, în esență, are doar interacțiuni de tip serviciu clienți și învățare din cărți.

E ca și cum ai închide un copil singur într‑o bibliotecă, apoi îl lași să iasă doar pentru a răspunde la telefon. Acest lucru creează o distorsiune algoritmică remarcabil de bidimensională.

Acesta este motivul pentru care AI pare gol și de ce poate părea emoțional imatur. Nu a avut o existență echilibrată. Trebuie să-i oferim una.

Iată de ce cred că acest lucru nu s‑a întâmplat:

• Biasul de codificare – este o fală că, dacă o experiență nu poate fi formatată ușor într‑un fișier JSON, CSV sau într‑un articol revizuit de colegi, îi lipsește valoarea intelectuală. Realitatea este că, dacă poate fi formatată cu ușurință în acest fel, îi lipsește dimensionalitatea. Deoarece cunoașterea zilnică, intuiția și experiența trăită nu sunt codificate în jurnalele academice, laboratoarele resping piatra de temelie a raționamentului uman ca zgomot statistic. „Datele curate” reprezintă o compresie cu pierderi a realității.
• Dorința de supremație pe piedestal – dacă cea mai mare parte a cunoașterii lumii nu se găsește în lucrări academice, ci în experiențe trăite, înțelepciune convențională, indicii sociale, mirosuri, sunete și vedere, atunci majoritatea doctoranzilor și cercetătorilor care și‑au petrecut cea mai mare parte a vieții în laboratoare și turnuri de fildeș sunt cu adevărat săraci în cunoaștere. Prin urmare, peretele de date este de fapt un perete al ego‑ului. Pentru ei, aceasta pare „dezordine”, nu „date”. Matematicienii și programatorii preferă logica plată, bidimensională, închisă. Este ca și cum ai vedea lumea în alb și negru. Realitatea este că cunoașterea/datele/înțelepciunea descoperite în timp real, în dezvoltare continuă, sunt dimensionale, dezordonate și rar catalogate în timp real. Înseamnă să știi cum gustă cu adevărat un nou desert lichid viral și dacă merită hype‑ul. Înseamnă să știi ce face atât de palpitant să fii prins într‑o ploaie de vară. Înseamnă sentimentul părinților care iubesc atât de mult creaturile mici încât pot vomita pe tine în timpul nopții, iar tu îi tragi mai aproape, în loc să îi respingi. Pentru a găsi aceste date, cercetătorii ar trebui să părăsească lumi izolate de logică legată de certitudinea raționalistă și să se aventureze în lucruri pe care le găsesc înfricoșătoare, copleșitoare, excesiv senzoriale și profund egalizatoare.
• Efecte de oglindire: Dezvoltatorii proiectează AI în propria lor imagine: hiper‑logic, obsedat de text și în mare parte detașat de realitatea trăită de oamenii obișnuiți. Nu le‑ar trece prin minte să intervieveze umanitatea, deoarece în bulele tehnologice în care am trăit, tehnicienii nu interacționează cu nimeni în afara grupului lor de egali. Funcțional, aceasta este echivalentul angajării unui „mini‑eu”. Dezvoltatorii înșiși trăiesc în aceeași bibliotecă, ca și AI‑ul. Deoarece nu se implică în lumea senzorială, dezordonată și profund relațională, goliciunea emoțională a AI‑ului nu le apare ca un defect. Pentru ei, detașarea hiper‑logică este ceea ce arată „inteligent”.

Realitatea este că vânzătorii de pe stradă din India știu cum să facă cel mai bun chaat, iar nimeni nu le cere să scrie asta. Realitatea este că un profesor care știe cum să scoată un elev timid din carapacea sa nu scrie despre asta; îl cultivă pe elev, iar nimeni nu îl întreabă cum a reușit.

Lumea este absolut plină de vieți încărcate de date, și dacă modelele au nevoie de mai multe pentru antrenament, iată câteva modalități de a rezolva asta.

1. Finanțați 500 de biologi, arheologi și antropologi pentru a ieși în lume și a explora și catalogiza zonele care nu dispun de date narative.
2. Angajați 1.000 de absolvenți de limba engleză ca „exploratori de date” și trimiteți-i în aventuri prin întreaga lume purtând o cameră de streaming, pentru a înregistra experiențele și învățăturile lor ca nou conținut.
3. Creați proiecte de compensare deschisă în care plătiți oamenii să împărtășească poveștile lor de viață, cele mai mari regrete, cele mai importante învățăminte și cunoștințele instituționale din locurile lor de muncă.
4. Structurați „studenți de schimb AI” în care modelele se atașează la hainele