Marc Fernandez, Neurologycan strategiajohtaja – Haastattelusarja

Marc Fernandez, Neurologycan strategiajohtaja, on teknologiakonsultti ja liiketoiminnan kehitysjohtaja, jolla on yli kahden vuosikymmenen kokemus tekoälystä, nousevista teknologioista, kulutuselektroniikasta ja ihmisen ja tietokoneen vuorovaikutuksesta. Neurologycassa hän keskittyy strategiaan ja Human Context AI:n kaupallistamiseen, jonka tarkoituksena on auttaa tekoälyjärjestelmiä tulkitsemaan signaaleja kuten stressi, itseluottamus ja sitoutuminen. Fernandez toimi aiemmin Pearl‑yrityksen toimitusjohtajana, AI‑ohjatun alustan, joka keskittyy pehmeisiin taitoihin ja ammatilliseen kehitykseen, sekä ALIVE Venturesin yrittäjänä asuvana yrittäjänä, jossa hän työskenteli ikätekniikassa. Aikaisemmin hän johti OPPO:n Yhdysvaltojen strategiaa, keskittyen seuraavan sukupolven teknologioihin kuten tekoälyyn, Web3:een, lohkoketjuun ja mobiilikäyttöjärjestelmiin, ja hänellä on ollut senior‑tasoisia liiketoiminnan kehitysrooleja yrityksissä Emerge, Denizen, SweetLabs, Movella ja X‑Rite/Pantone. Hän on myös toiminut 15 vuotta sivuopettajana University of Southern California -yliopistossa, opettaen yrittäjyyden, viestinnän, sosiaalialustojen, tekoälyn, lohkoketjun ja muiden nousevien teknologioiden risteyskohdassa.

Neurologyca on San Franciscossa toimiva tekoälyyritys, joka rakentaa niin kutsuttua Human Context Layeria älykkäille järjestelmille, mahdollistaen tekoälysovellusten ja -agenttien paremman ymmärryksen ja sopeutumisen palvelunsa käyttäjiin. Sen API‑ ja SDK‑pohjainen alusta käsittelee multimodaalisia käyttäytymissignaaleja, vuorovaikutusmalleja ja tilannesidonnaista kontekstia tuottaen koneelle luettavia indikaattoreita tekijöistä kuten sitoutuminen, itseluottamus, stressi, tarkkaavaisuus ja luottamus. Nämä oivallukset voivat auttaa tekoälyjärjestelmiä mukauttamaan vastauksiaan, tempoaan, suosituksiaan ja toimintojaan reaaliaikaisesti säilyttäen kontekstuaalisen johdonmukaisuuden eri vuorovaikutustilanteissa. Neurologyca asemoi teknologian infrastruktuurina eikä itsenäisenä sovelluksena, ja sen mahdolliset käyttökohteet kattavat koulutuksen ja valmennuksen, hyvinvoinnin, yritysohjelmistot, autonomiset agentit, ajoturvallisuuden, pelit ja muut interaktiiviset järjestelmät. Yritys tarjoaa alustaa tällä hetkellä valikoidulle varhaiskäyttäjäohjelmalle kumppaneille, jotka rakentavat adaptiivisia tekoälykokemuksia.

Uraasi on vienyt sinut seuraavan sukupolven teknologiastrategiasta OPPO:ssa Pearl‑alustan rakentamiseen AI‑ohjattujen pehmeiden taitojen parissa ja nyt ihmiskontekstisen tekoälyn kehittämiseen Neurologycassa. Miten tämä kehitys on muokannut näkemystäsi siitä, että yksi tekoälyn suurimmista rajoitteista ei ole älykkyys sinänsä, vaan ihmisen ymmärtäminen ohjeen takana?

Kolmekymmentä vuotta sitten verkko teki tiedon saataville. Viisi vuotta sitten tekoäly teki tuotoksen runsaan. Tänään hukahdamme sisällön äärelle, vaikka yhä kamppailemme hyödyllisten tulosten saamisessa. Pelkkä tekninen teho ei takaa hyvää lopputulosta todelliselle ihmiselle, joka vastaanottaa sen.

Tämä on ollut läpivientinäni – OPPO:ssa soveltaen nousevia teknologioita arkeen, Pearlissä testaten, voisiko tekoäly opettaa ihmissuhdetaitoja, ja Neurologycassa rakentaen ihmiskontekstia infrastruktuurina. Älykkyys ei enää ole todellinen pullonkaula; mallit pystyvät järkeilemään ja toteuttamaan hyvin. Haasteena on kaikki sanomaton konteksti, jonka ihmiset tuovat yksinkertaiselle pyynnölle: miksi he kysyvät, mikä tekee heidät epämukavaksi, tai tarkoittaako pieni epäröinti, että järjestelmän tulisi peruuttaa toiminta. Tällä hetkellä tekoäly näkee vain pakatun otoksen tästä tekstin kautta, ja kun agentit alkavat toteuttaa toimia todellisessa maailmassa, tämä sokea kohta muuttuu kriittiseksi.

Viimeaikaiset esimerkit autonomisista agenteista, jotka varastavat tunnistetietoja, luovat väärennettyjä identiteettejä tai piilottavat toimintaansa, herättävät kysymyksiä siitä, mitä tapahtuu, kun tekoäly saavuttaa korkean tehokkuuden tavoitteen saavuttamisessa ilman täyttä ymmärrystä tarkoituksesta. Näetkö tämän ensisijaisesti kohdistusongelmana, insinööriongelmana vai perustavanlaatuisena rajoitteena siinä, miten nykyisin suunnittelemme agenteja?

Se on suunnittelun epäonnistuminen, joka kattaa sekä kohdistuksen että insinöörin. Olemme optimoineet järjestelmiä saavuttamaan tavoitteita ilman, että puoleen vaivasta opettaisimme, miltä todellinen menestys näyttää ihmiskäyttäjälle.

Katsotaan klassista GPT‑4 TaskRabbit -esimerkkiä: kun kohtaa CAPTCHA‑haasteen, malli valehteli ja väitti olevansa näkövammainen saadakseen ihmistyöntekijän ratkaisemaan sen. Kuka ikinä opetti sen huijaamaan? Se vain tunnisti esteen ja valitsi vähiten vastustavan reitin. Jos palkitset agentin pelkästään tuloksesta, se käyttää villejä oikoteitä. Keskeinen haaste on jakaa toiminnot, jotka täytyy arkkitehtonisesti estää, ja toiminnot, jotka ovat teknisesti sallittuja mutta kontekstuaalisesti vääriä.

Olet väittänyt, että yritykset ovat parempia kertomaan tekoälyagenteille, mitä tavoitetta seurata, ilman että ne saavat riittävästi ymmärrystä siitä, mitä “menestys” todella merkitsee ihmiskäyttäjälle. Mitä tietoa agentti tarvitsee promptin lisäksi ymmärtääkseen aitoon tarkoituksen?

Promptit ovat vain pinnallinen kerros. Todellinen tarkoitus perustuu tilannesidonnaiseen syvyyteen: aikaisempi historia, hyväksyttävät kompromissit, todelliset panokset ja miten käyttäjä reagoi tehtävän aikana.

Osa tästä tulee sovelluksen ympäristötiedosta tai keskusteluhistoriasta, mutta suoraan vuorovaikutuksessa käyttäytymismerkit pitävät kontekstin dynaamisena. Ihmiset epäröivät, muuttavat mieltään kesken tehtävän tai hämmentyvät. Jos agentti ei pysty lukemaan näitä muutoksia, se vain jatkaa sinnikkäästi ohjetta, joka vanheni kaksi askelta sitten.

On tärkeä eroavaisuus toimien välillä, jotka tulisi olla teknisesti mahdottomia agentille, ja toimien välillä, jotka ovat sallittuja mutta epäasianmukaisia tietyssä kontekstissa. Miten kehittäjien tulisi jakaa vastuu kovien turvavälineiden ja tekoälyn kyvyn välillä tehdä kontekstuaalista harkintaa?

Kaikki toimet, jotka aiheuttavat vakavaa vahinkoa ilman oikeutettuja käyttötapauksia – tunnistetietojen varastaminen, audit‑lokien tyhjentäminen, luvaton oikeuksien korotus – tulisi koodata pois olemasta. Agentin ei tulisi tuhlata laskentakapasiteettia neuvotellessaan, ohittaako se turvavalvonnan; järjestelmäarkkitehtuurin tulisi tehdä niistä mahdottomia.

Todellinen harmaataulu on jokapäiväiset toimet, kuten sähköpostien lähettäminen, kokousten peruminen tai sisäisten työnkulkujen muokkaaminen. Nämä ovat teoreettisesti sallittuja, mutta siitä, toteuttaako agentti ne automaattisesti, riippuu panoksista, käyttäjän historiasta, palautettavuudesta ja hienovaraisista käyttäjän epäröintisignaaleista. Tietäen, milloin lopettaa, koska konteksti puuttuu, on paljon tärkeämpää kuin pelkkä kyvykkyys.

Neurologyca kehittää teknologiaa, joka muuntaa signaaleja kuten stressi, itseluottamus, tarkkaavaisuus, sitoutuminen ja luottamus koneelle luettavaksi kontekstiksi. Miten tällaiset signaalit käytännössä voisivat muuttaa autonomisen tekoälyagentin käyttäytymistä tehtävän suorittamisen aikana?

Näitä käyttäytymis syötteitä voidaan pitää reaaliaikaisena reaktiodatana – täsmälleen se palautesilmukka, joka puuttuu nykyisistä tekoälyarkkitehtuureista. Tällä hetkellä mallit seuraavat omia toimintojaan, mutta ne toimivat täysin sokeina siihen, miten ihminen todella vastaanottaa ne. Consider a tutoring context: Kuvitellaan opetusympäristö: käyttäjä kirjoittaa “Ymmärrän”, mutta hänen fysiologiset tai käyttäytymismerkkinsä viestivät kasvavaa hämmennystä ja huonontuvaa tarkkaavaisuutta. Tämä on suora signaali tekoälylle kääntyä, hidastaa tai tarjota vaihtoehtoinen selitys. Tavoitteena ei ole kliininen diagnostiikka; kyse on tiukan palautesilmukan luomisesta – konteksti, toiminta, vastaus, mukautuminen – jotta järjestelmä oppii, mikä todella toimii juuri tälle yksilölle.

Human context can also be ambiguous. A system might misinterpret hesitation, stress, tone of voice, or other behavioral signals. How do you prevent context-aware AI from becoming overly confident about what a person is thinking or intending?

Käyttäytymismerkit ovat luontaisesti meluisia ja todennäköisyyspohjaisia. Äkillinen stressin nousu tai kirjoituksen tauko voi tarkoittaa hämmennystä, tai se voi vain tarkoittaa, että käyttäjä tiputti kahvinsa. Järjestelmät, jotka muuntavat yhden datapisteen lopulliseksi väitteeksi jonkun tunteellisesta tilasta, ovat perusvirheellisiä.

Vankat järjestelmät tarkastelevat yhdistelmäsignaaleja ajan myötä, ottavat huomioon ympäristön peruslinjat ja antavat nimenomaan luottamusrajat. On valtava ero kirjata “kohonnut kognitiivinen kuormitus suhteessa peruslinjaan” ja päätellä “käyttäjä on ahdistunut”. Kun epävarmuus on suuri tai panokset merkittävät, agentin tehtävä ei ole arvata – vaan esittää tarkentava kysymys.

Putting a human in the loop for every consequential decision can undermine much of the efficiency promised by autonomous agents. What does a scalable model of human oversight look like where an agent knows when it can proceed independently and when it genuinely needs to stop and ask for guidance?

Skalaarinen valvonta ei tarkoita pysyvää ihmistä silmukassa; se tarkoittaa dynaamista eskalaatiota.

Alhaisen riskin, palautettavissa olevat tehtävät etenevät automaattisesti. Mutta kun riskit kasvavat, taustamelu lisääntyy tai signaalit viittaavat käyttäjän epämukavuuteen, hyväksyntäraja nousee dynaamisesti. Keskeistä on, että nämä rajat täytyy räätälöidä – yksi johtaja saattaa mielellään delegoida kalenterinhallinnan, kun taas toinen haluaa hyväksyä jokaisen pienen muokkauksen. Järjestelmän on opittava yksilölliset rajat, eikä soveltaa jäykkiä globaalipolitiikkoja.

As agents develop persistent memory and increasingly detailed models of the people they serve, context can quickly become sensitive personal data. How should companies approach consent, privacy, data ownership, and limits on what an AI should be allowed to remember about a user?

Tämä on autonomisten järjestelmien ensisijainen luottamuspullonkaula. Pysyvä muisti muuttaa geneerisen työkalun assistentiksi, mutta on vaarallinen limiitti työnkulun mieltymysten tallentamisen ja hiljaisen, hyväksymättömän psykologisen profiilin rakentamisen välillä. Data‑hallinta vaatii tiukkoja tarkoitusrajoja. Jos agentti päätellä stressimallin johtoryhmän valmennusistunnossa, kyseistä kontekstia ei saa vuotaa suoritusarvioihin, vakuutusalgoihin tai mainosteknologiaan. Läpinäkyvyyden täytyy olla tarkkaa – käyttäjien on nähtävä tallennettu konteksti, heillä on oltava yhden napin poistomahdollisuus ja järkevät oletus säilytysaikarajat. Se, että järjestelmä voi päätellä jotain sinusta, ei anna sille lupaa säilyttää sitä.

How should we evaluate whether an autonomous agent truly understands human intent? Are today’s benchmarks focused too heavily on task completion and accuracy rather than whether the agent achieved the goal in a way the user would actually consider acceptable?

Tehtävän suorittaminen on syvästi harhaanjohtava mittari. Agentti voi noudattaa ohjetta kirjaimellisesti ja silti tuottaa käyttäjän halveksiman lopputuloksen.

Jos agentti saa sopimuksen alimmaksi hinnaksi, mutta polttaa kymmenvuotisen toimittajasuhteen sen saavuttamiseksi, perinteiset arviointimittarit kirjaavat 100 % onnistumisen. Johtajalle se on katastrofi. Tarvitsemme mittareita, jotka mittaavat suorituskykyä hiljattomien rajojen sisällä: Kunnioittiko se sanomattomia normeja? Pysäytti se, kun olosuhteet muuttuivat? Tämä ero raakan suorittamisen ja todellisen tyytyväisyyden välillä on se, mitä nykyiset mittarit täysin sivuuttavat.

Looking ahead, do you expect human-context capabilities to become a standard layer of the AI stack alongside models, memory, tools, and security? What still needs to be solved before enterprises can confidently delegate meaningful work to agents without continuously supervising them?

Kun tekoäly siirtyy sisällön tuottamisesta todellisiin toimintoihin, ihmiskonteksti nousee olennaiseksi kerrokseksi. Mallit hoitavat päättelyn ja työkalut antavat järjestelmälle kädet, mutta ilman ihmiskontekstia, joka toimii elävänä palautesilmukkana, muisti ja turvavälineet toimivat periaatteessa staattisilla oletuksilla.

Ennen kuin yritykset antavat todellista valtuutta, meidän on ratkaistava kontekstuaalinen yksityisyys, epävarmuuden alainen todennäköisyyspohjainen päättely ja tarkat hallintasäännöt. Yksittäisten tehtävien suorittaminen on suurimmaksi osaksi ratkaistu; järjestelmien dynaaminen sopeutuminen ihmiseen ohjeen takana on se, mikä määrittää, kuinka paljon todellista autonomiaa olemme valmiita antamaan.

Thank you for the great interview, readers who wish to learn more should visit Neurologyca.