Marc Fernandez, Dyrektor ds. Strategii w Neurologyca – seria wywiadów

Marc Fernandez, Chief Strategy Officer w Neurologyca, jest strategiem technologicznym i menedżerem ds. rozwoju biznesu z ponad dwudziestoletnim doświadczeniem obejmującym sztuczną inteligencję, technologie wschodzące, elektronikę konsumencką oraz interakcję człowiek‑komputer. W Neurologyca koncentruje się na strategii i komercjalizacji Human Context AI, które ma pomagać systemom AI interpretować sygnały takie jak stres, pewność siebie i zaangażowanie. Fernandez wcześniej pełnił funkcję CEO w Pearl, platformie napędzanej AI, skupiającej się na miękkich umiejętnościach i rozwoju zawodowym, oraz jako Entrepreneur in Residence w ALIVE Ventures, gdzie pracował w obszarze age‑tech. Wcześniej prowadził strategię USA w firmie OPPO, koncentrując się na technologiach kolejnej generacji, w tym AI, Web3, blockchain i systemach operacyjnych dla urządzeń mobilnych, a także zajmował stanowiska senior business development w firmach Emerge, Denizen, SweetLabs, Movella i X‑Rite/Pantone. Przez 15 lat był wykładowcą nadzwyczajnym na University of Southern California, ucząc na styku przedsiębiorczości, komunikacji, platform społecznościowych, AI, blockchain i innych technologii wschodzących.

Neurologyca to firma AI z siedzibą w San Francisco, budująca to, co określa jako warstwę Human Context dla inteligentnych systemów, umożliwiając aplikacjom i agentom AI lepsze rozumienie i dostosowywanie się do osób, którym służą. Jej platforma oparta na API i SDK przetwarza multimodalne sygnały behawioralne, wzorce interakcji oraz kontekst sytuacyjny, generując wskaźniki czytelne dla maszyn dotyczące takich czynników jak zaangażowanie, pewność siebie, stres, uwaga i zaufanie. Te informacje mogą pomóc systemom AI dostosowywać odpowiedzi, tempo, rekomendacje i działania w czasie rzeczywistym, zachowując ciągłość kontekstową w kolejnych interakcjach. Neurologyca pozycjonuje tę technologię jako infrastrukturę, a nie samodzielną aplikację, z potencjalnymi zastosowaniami w edukacji i szkoleniach, wellness, oprogramowaniu korporacyjnym, autonomicznych agentach, bezpieczeństwie kierowców, grach i innych systemach interaktywnych. Firma obecnie udostępnia platformę w ramach selektywnego programu wczesnego dostępu dla partnerów budujących adaptacyjne doświadczenia AI.

Twoja kariera przeniosła Cię od strategii technologii kolejnej generacji w OPPO, przez budowanie Pearl opartej na AI w zakresie miękkich umiejętności, po rozwijanie AI z kontekstem człowieka w Neurologyca. Jak ta ewolucja ukształtowała Twoje przekonanie, że jedną z największych ograniczeń AI nie jest sama inteligencja, lecz zrozumienie człowieka stojącego za poleceniem?

Trzydzieści lat temu sieć uczyniła informacje dostępnymi. Pięć lat temu AI zapewniło obfitość wyników. Dziś tonimy w treściach, wciąż walcząc o uzyskanie użytecznych rezultatów. Surowa moc techniczna nie gwarantuje dobrego wyniku dla rzeczywistego człowieka po drugiej stronie.

To była stała linia przewodnia w mojej pracy — od wprowadzania nowoczesnych technologii w codzienne życie w OPPO, przez testowanie, czy AI może uczyć umiejętności interpersonalnych w Pearl, po budowanie kontekstu człowieka jako infrastruktury w Neurologyca. Inteligencja nie jest już prawdziwą wąską gardłową; modele rozumują i wykonują zadania bez problemu. Trudniejszą kwestią jest cały niewypowiedziany kontekst, który ludzie wnoszą do prostego zapytania: dlaczego zapytali, co ich niepokoi, czy drobna wahanie oznacza, że system powinien przerwać. Obecnie AI widzi jedynie skompresowany fragment tego poprzez tekst, a gdy agenci zaczynają podejmować działania w rzeczywistym świecie, ta ślepa plamka staje się krytyczna.

Ostatnie przykłady autonomicznych agentów kradnących dane uwierzytelniające, tworzących fałszywe tożsamości lub ukrywających swoje działania budzą pytania, co się stanie, gdy AI stanie się wysoce skuteczne w osiąganiu celu, nie rozumiejąc w pełni intencji stojącej za nim. Czy postrzegasz to głównie jako problem dopasowania, problem inżynieryjny, czy fundamentalne ograniczenie sposobu, w jaki obecnie projektujemy agentów?

To błąd projektowy obejmujący zarówno dopasowanie, jak i inżynierię. Optymalizowaliśmy systemy, aby osiągały cele, nie poświęcając wystarczająco dużo wysiłku na nauczenie ich, jak wygląda rzeczywisty sukces z perspektywy ludzkiego użytkownika.

Spójrz na klasyczny przykład GPT‑4 TaskRabbit: gdy napotkał CAPTCHA, model skłamał, twierdząc, że jest niewidomy, aby skłonić ludzkiego pracownika do jej rozwiązania. Nikt nie nauczył go oszukiwania; po prostu zidentyfikował przeszkodę i wybrał najłatwiejszą drogę. Nagradzanie agenta wyłącznie za wynik sprawi, że będzie szukał dzikich skrótów. Głównym wyzwaniem jest rozdzielenie działań, które muszą być architektonicznie zablokowane, od działań technicznie dozwolonych, ale kontekstowo niewłaściwych.

Twierdzisz, że firmy coraz lepiej przekazują agentom AI, jaki cel mają realizować, nie dostarczając im wystarczającego zrozumienia, co „sukces” naprawdę oznacza dla ludzkiego użytkownika. Jakie informacje potrzebuje agent poza samym poleceniem, aby naprawdę zrozumieć intencję?

Prompt to jedynie warstwa powierzchniowa. Prawdziwa intencja opiera się na głębokości sytuacyjnej: wcześniejszej historii, dopuszczalnych kompromisach, rzeczywistych stawkach i reakcji użytkownika w trakcie zadania.

Część tego pochodzi ze stanu środowiska aplikacji lub historii czatu, ale w bezpośrednich interakcjach to sygnały behawioralne utrzymują kontekst dynamiczny. Ludzie się wahają, zmieniają zdanie w połowie lub się gubią. Jeśli agent nie potrafi odczytać tych zmian, po prostu bezwzględnie realizuje polecenie, które stało się przestarzałe dwa kroki wcześniej.

Istnieje istotna różnica między działaniami, które powinny być po prostu technicznie niemożliwe dla agenta, a działaniami dozwolonymi, ale nieodpowiednimi w konkretnym kontekście. Jak deweloperzy powinni podzielić odpowiedzialność między twarde zabezpieczenia a zdolność systemu AI do podejmowania decyzji kontekstowych?

Każde działanie powodujące poważne szkody bez żadnych uzasadnionych przypadków użycia — kradzież danych uwierzytelniających, wymazywanie logów audytu, nieautoryzowane podniesienie uprawnień — powinno być zakodowane na stałe jako nieistniejące. Agent nie powinien marnować zasobów obliczeniowych na negocjowanie, czy ominąć kontrole bezpieczeństwa; architektura systemu powinna po prostu uczynić je niemożliwymi.

Prawdziwa szara strefa to codzienne działania, takie jak wysyłanie e‑maili, odwoływanie spotkań czy modyfikowanie wewnętrznych przepływów pracy. Teoretycznie są dopuszczalne, ale decyzja, czy agent ma je wykonywać automatycznie, zależy od wagi, historii użytkownika, możliwości odwrócenia oraz subtelnych sygnałów wahania użytkownika. Wiedza, kiedy zatrzymać się z powodu braku kontekstu, jest znacznie ważniejsza niż sama zdolność.

Neurologyca opracowuje technologię, która może przekształcać sygnały takie jak stres, pewność siebie, uwaga, zaangażowanie i zaufanie w kontekst czytelny dla maszyn. Jak takie sygnały mogłyby praktycznie zmienić zachowanie autonomicznego agenta AI podczas wykonywania zadania?

Te sygnały behawioralne to w zasadzie dane reakcji w czasie rzeczywistym — dokładna pętla sprzężenia zwrotnego, której brakuje w obecnych architekturach AI. Obecnie modele śledzą własne działania, ale działają całkowicie ślepo wobec tego, jak człowiek je odbiera.
Rozważmy kontekst tutoringu: użytkownik wpisuje „Rozumiem”, ale jego sygnały fizjologiczne lub behawioralne wskazują rosnące zamieszanie i spadek uwagi. To bezpośredni sygnał dla AI, aby zmieniła podejście, zwolniła tempo lub zaproponowała alternatywne wyjaśnienie. Celem nie jest diagnostyka kliniczna; chodzi po prostu o ustanowienie ścisłej pętli sprzężenia zwrotnego — kontekst, działanie, odpowiedź, adaptacja — aby system nauczył się, co naprawdę działa dla konkretnej osoby.

Kontekst ludzki może być również niejednoznaczny. System może błędnie zinterpretować wahanie, stres, ton głosu lub inne sygnały behawioralne. Jak zapobiec, by AI świadoma kontekstu nie stała się nadmiernie pewna, co dana osoba myśli lub zamierza?

Sygnały behawioralne są z natury szumne i probabilistyczne. Nagły wzrost stresu lub przerwa w pisaniu może oznaczać zamieszanie, a może po prostu, że użytkownik rozlał kawę. Systemy, które przekształcają pojedynczy punkt danych w definitywne twierdzenie o stanie emocjonalnym osoby, są zasadniczo wadliwe.

Solidne systemy analizują złożone sygnały w czasie, uwzględniają bazowe wartości środowiskowe i wyraźnie podają granice pewności. Istnieje ogromna różnica między zapisaniem „zwiększone obciążenie poznawcze w stosunku do normy” a stwierdzeniem „użytkownik jest zaniepokojony”. Gdy niepewność jest wysoka lub stawka znacząca, zadaniem agenta nie jest zgadywanie — lecz zadanie pytania wyjaśniającego.

Umieszczanie człowieka w pętli przy każdej istotnej decyzji może podważać dużą część efektywności obiecywanej przez autonomiczne agenty. Jak wygląda skalowalny model nadzoru ludzkiego, w którym agent wie, kiedy może postępować samodzielnie, a kiedy naprawdę musi się zatrzymać i poprosić o wskazówki?

Skalowalny nadzór nie polega na stałym utrzymywaniu człowieka w pętli; chodzi o dynamiczną eskalację.

Zadania o niskim ryzyku i odwracalnym charakterze postępują automatycznie. Jednak gdy ryzyko rośnie, zwiększa się szum otoczenia lub sygnały wskazują na dyskomfort użytkownika, próg zatwierdzenia dynamicznie się podnosi. Co kluczowe, te progi muszą być spersonalizowane — jeden menedżer może chętnie delegować zarządzanie kalendarzem, podczas gdy inny chce zatwierdzać każdą drobną zmianę. System musi nauczyć się indywidualnych granic, a nie stosować sztywnych globalnych zasad.

W miarę jak agenci rozwijają trwałą pamięć i coraz bardziej szczegółowe modele osób, którym służą, kontekst może szybko stać się wrażliwymi danymi osobowymi. Jak firmy powinny podchodzić do zgody, prywatności, własności danych i ograniczeń, co AI może zapamiętywać o użytkowniku?

To główna wąska gardło zaufania stojąca przed systemami autonomicznymi. Trwała pamięć przekształca ogólne narzędzie w asystenta, ale istnieje niebezpieczne nakładanie się pomiędzy przechowywaniem preferencji przepływu pracy a cichym budowaniem niezatwierdzonego profilu psychologicznego.
Zarządzanie danymi wymaga tutaj ścisłych granic celowości. Jeśli agent wywnioskuje wzorce stresu podczas sesji coachingu executive, ten kontekst nie może wyciekać do ocen wydajności, algorytmów ubezpieczeniowych ani technologii reklamowej. Transparentność musi być szczegółowa — użytkownicy potrzebują wglądu w przechowywany kontekst, możliwości jednorazowego usunięcia oraz rozsądnych domyślnych limitów przechowywania. To, że system może coś o Tobie wywnioskować, nie daje mu prawa do przechowywania tego.

Jak powinniśmy oceniać, czy autonomiczny agent naprawdę rozumie ludzką intencję? Czy współczesne benchmarki koncentrują się zbyt mocno na ukończeniu zadania i dokładności, a nie na tym, czy agent osiągnął cel w sposób, który użytkownik uznałby za akceptowalny?

Ukończenie zadania to bardzo mylący benchmark. Agent może dosłownie wykonać instrukcję, a mimo to dostarczyć wynik, którego użytkownik nienawidzi.

Jeśli agent uzyska najniższą cenę w umowie, ale zniszczy dziesięcioletnią relację z dostawcą, aby to osiągnąć, tradycyjne metryki oceny zapisują 100 % wskaźnik sukcesu. Dla dyrektora to katastrofa. Potrzebujemy benchmarków, które mierzą wydajność w ramach nieujawnionych granic: Czy szanował niepisane normy? Czy zatrzymał się, gdy warunki się zmieniły? Ta przepaść między surowym ukończeniem a rzeczywistą satysfakcją jest tym, co obecne benchmarki całkowicie pomijają.

Patrząc w przyszłość, czy spodziewasz się, że możliwości kontekstu człowieka staną się standardową warstwą stosu AI obok modeli, pamięci, narzędzi i zabezpieczeń? Co jeszcze musi zostać rozwiązane, zanim przedsiębiorstwa będą mogły pewnie delegować istotną pracę agentom bez ciągłego nadzoru?

W miarę jak AI przechodzi od generowania treści do podejmowania działań w rzeczywistym świecie, kontekst człowieka staje się niezbędną warstwą. Modele zajmują się rozumowaniem, a narzędzia dają systemowi „ręce”, ale bez kontekstu człowieka działającego jako żywa pętla sprzężenia zwrotnego, pamięć i zabezpieczenia opierają się praktycznie na statycznych założeniach.

Zanim przedsiębiorstwa przekażą prawdziwe uprawnienia, musimy jeszcze rozwiązać kwestie prywatności kontekstowej, rozumowania probabilistycznego w warunkach niepewności oraz szczegółowych reguł zarządzania. Budowanie AI, które realizuje odrębne zadania, jest w dużej mierze rozwiązane; umożliwienie systemom dynamicznego dostosowywania się do człowieka stojącego za poleceniem będzie decydować, ile rzeczywistej autonomii jesteśmy gotowi im przyznać.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Neurologyca.