Felicia Curcuru, zakladatelka a CEO společnosti Binti – rozhovor

Felicia Curcuru je CEO společnosti Binti. Felicia se poprvé setkala se světem péče o děti před mnoha lety, když její sestra adoptovala dvě děti. O několik let později Felicia začala dobrovolně pracovat jako zvláštní soudní zmocněnec (CASA) pro děti v péči v San Francisku. Díky těmto zkušenostem a několikaletému působení v Silicon Valley viděla mnoho příležitostí, kde by technologie mohla zlepšit výsledky pro rodiny a děti. Spoluzakladatelkou Binti a od jeho založení v roce 2017 se věnuje tomuto projektu. Od jeho spuštění v roce 2017 Binti rychle rostl a nyní spolupracuje s více než 550 agenturami ve 36 státech a ve Washingtonu D.C., což představuje 49 % péče o děti v USA.

Binti je technologická společnost s cílem zlepšit výsledky v systému péče o děti snížením administrativní zátěže a pomoci agenturám soustředit se více na děti a rodiny. Jeho mobilní platforma podporuje kompletní pracovní postupy, jako je licencování pěstounských a adoptivních rodičů, vyhledávání rodiny, odkazování služeb a řízení případů na základě dat, což umožňuje agenturám licencovat rodiny rychleji, efektivněji zapojovat rozšířené rodinné sítě a koordinovat služby s větší jasností. Od spuštění v roce 2017 Binti přijaly stovky veřejných a soukromých agentur po celých Spojených státech, což pomáhá umisťovat více dětí do stabilních a podpůrných domovů.

Přecházela jste z poradenské činnosti pro globální instituce v McKinsey na vedení produktu a uživatelského досвідu ve společnosti FundersClub, než jste založila Binti v roce 2014. Jaký okamžik nebo poznání z vaší předchozí kariéry vás vedlo k rozhodnutí založit společnost, která se bude věnovat modernizaci systému péče o děti?

Sledovala jsem, jak má sestra procházela procesem adopce, a viděla, jak emocionálně vyčerpávající a stresující to pro ni bylo. Když jsem se více zabývala touto problematikou, uvědomila jsem si, že je v systému péče o děti 400 000 dětí – z nichž polovina bude bez domova a polovina bude mít zkušenosti se soudním systémem. Kromě toho většina sexuálně zneužívaných mladistvých jsou současné nebo bývalé děti v péči. Pro mě to nedávalo smysl, že existuje taková potřeba pěstounských rodin pro děti, a přesto je tak obtížné se stát pěstounskou rodinou. Kromě toho jsem začala dobrovolně pracovat jako zvláštní soudní zmocněnec a viděla systém péče o děti z tohoto úhlu. Když jsem nakonec rozhodla, že chci založit společnost, sedla jsem si a vytvořila seznam problémů, které chci pomoci vyřešit – a péče o děti byla na vrcholu seznamu. Takže jsem založila Binti, spojující svou zkušenost s technologií a designem uživatelsky přívětivých produktů s vášní pro zajištění toho, aby každé dítě našlo stabilní a láskyplnou rodinu.

Binti nyní pohání téměř polovinu všech operací péče o děti v USA a spolupracuje s agenturami ve 37 státech. Když se podíváte na rozsah výzev, kterým čelí sociální pracovníci a rodiny, jaký je podle vás základní systémový problém, který vaše technologie snaží vyřešit?

Když se podíváte na širší pohled, základní systémový problém spočívá v tom, že sociální pracovníci čelí jedné z nejvíce emocionálně náročných prací pomocí zastaralých, papírových systémů, které je zpomalují a mohou vést k vyhoření. S téměř 400 000 dětmi v péči a očekávaným nedostatkem 200 000 pracovníků do roku 2030 tyto legacy systémy prostě nedokáží držet krok. Většina stávajících systémů byla vytvořena primárně pro sledování dat, nikoli pro podporu denních pracovních postupů. V důsledku toho často vytvářejí další kroky – nutí sociální pracovníky duplikovat informace místo toho, aby jim pomáhali řešit případy. V průběhu času se tyto agenturní, na míru vyrobené systémy staly ještě zastaralejšími, s minimální údržbou nebo modernizací. Sociální pracovníci uvádějí, že tráví 50 % svého času administrativou, což není to, pro co se rozhodli. Díky použití technologie Binti sociální pracovníci šetří 20-40 % administrativní doby, což jim umožňuje věnovat více času přímé podpoře dětí a rodin a méně času papírování.

I přes dopad Binti stále čelí ekosystém péče o děti strukturálnímu tření. Jaký je podle vás největší úzký hrdlo – zda technologické, politicky podmíněné nebo kulturní – které zpomaluje přijetí moderních, AI-poháněných nástrojů ve vládě?

Jedním z největších problémů, které vidím, je, že vládní agentury byly spáleny legacy technologickými dodavateli, kteří často nedodržují sliby, a proto existuje přirozená váhavost přijmout nové produkty, stejně jako opatrné politiky, které neúmyslně omezují inovace. Agentury utratily miliony za technologii, která se nikdy nespustí, je zpožděna o roky nebo se spustí, ale za podstatně vyšší cenu, než byla původně uvedena. Z vládních softwarových vývojových kontraktů nad 6 milionů dolarů je pouze 11 % úspěšných. Průměrný vládní IT projekt stojí 310 % původně odhadované ceny. A jedna studie 400 projektů zjistila, že pouze 10 % tradičně vyvinutého kódu bylo skutečně nasazeno – a pouze 2 % bylo skutečně použito. V důsledku toho je pochopitelné, že vládní agentury jsou skeptické vůči technologii a že existují opatrné politiky.

Ve společnosti Binti existují dva hlavní způsoby, jakými řešíme tento problém. První je, že jsme zastánci změn politik, které usnadní agenturám pořízení modulární, inovativní technologie. Druhý je, že neustále budujeme důvěru tím, že spustíme naše produkty včas a v rámci rozpočtu, a poskytujeme vynikající zákaznickou službu na cestě. Právě jsme provedli nejrychlejší státní spuštění produktu – 42 dní – a pokračujeme v nastavení nových rekordů našimi nasazeními.

Binti uvádí, že jeho software šetří sociálním pracovníkům až 75 % času. Jakou roli hraje AI při umožnění této efektivnosti a jak vyvažujete automatizaci s udržením lidského úsudku v citlivých rodinných rozhodnutích?

Ano, Binti AI snižuje dobu potřebnou k dokončení domácího studia o 50-75 %, což šetří sociálním pracovníkům až dvě hodiny na domácí studium. Myšlenka na AI je jako na nástroj v naší nástrojové skříni, který umožňuje sociálním pracovníkům trávit méně času na nudných, manuálních úkolech a dělat více informovaná rozhodnutí. AI však nikdy nenahrazuje lidský úsudek u Binti; každý výstup vyžaduje lidskou kontrolu, všechny funkce jsou navrženy s rámcem pro zmírnění偏见 a HIPAA-level ochrany a technologie je úmyslně omezena na administrativní podporu, nikoli na rozhodování.

Takže například AI dokončí první návrh formuláře na základě nahrávky domácího studia nebo ručně psaných poznámek, ale poté sociální pracovník projde a schválí každou odpověď. Kromě toho naše funkce Ask Binti AI prohledává formuláře, poznámky a údaje o případu, aby rychle poskytla kritické informace sociálním pracovníkům, ale vždy cituje zdroje, aby zajistila přesnost. Cílem je snížit dobu strávenou administrativou a snadněji získat informace, aby sociální pracovníci mohli trávit více času s dětmi a rodinami, což je důvod, proč se stali sociálními pracovníky.

Nedávno jste uzavřela partnerství s Anthropic, aby rozšířila AI schopnosti pro sociální dobro. Jak toto partnerství formuje další generaci nástrojů pro řízení případů a licencování rodin?

Naše partnerství s Anthropic nám umožňuje budovat typ nástrojů, které sociální pracovníci potřebovali po desetiletí. Kombinací porozumění Binti pracovním postupům v oblasti péče o děti s pokročilým AI od Anthropic vytváříme funkce, které dramaticky snižují administrativní zátěž. Používáme tuto technologii k usnadnění vyplňování formulářů pomocí nahrávek setkání s rodinami, stejně jako k prohledávání historie případů, politik a informací o rodinách během sekund místo hodin. Už vidíme, jak moc to má význam: 74 % kalifornských okresů nyní používá Binti, včetně San Bernardino, kde jeden sociální pracovník řekl, že může zpracovat zprávy za polovinu času.

AI ve vládě je často kritizována za to, že je buď příliš riskantní, nebo příliš pomalá na implementaci. Jaké záruky, postupy správy modelů nebo designové principy řídí přístup Binti k nasazení AI v prostředí, kde je 정확nost a důvěra nezbytná?

Binti je jedinečné, protože je to první odpovědná, člověkem vedená AI platforma speciálně navržená pro péči o děti a sociální služby. Binti má prokázanou historii úspěšné implementace inovativní technologie v tomto prostoru – a děláme to samé s Binti AI. Binti AI je zde, aby doplnil, nikoli nahradil, sociální pracovníky. Je zaměřen na automatizaci nudných, opakujících se administrativních úkolů, kterým sociální pracovníci čelí každý den, a zároveň zachovává lidsky orientovaný přístup a vyžaduje lidskou kontrolu všech AI výstupů. Je určen k tomu, aby pomáhal sociálním pracovníkům dělat více informovaná rozhodnutí – nikoli dělat rozhodnutí za ně.

Každá funkce je HIPAA-kompatibilní, navržená s rámcem pro zmírnění偏见 a vyžaduje lidskou kontrolu před odesláním. Protože data vždy zůstávají pod kontrolou agentury, Binti je schopná chránit soukromí a potřeby dodržování předpisů sociálních služeb. Kromě toho všechny výstupy vytvořené AI musí být sociálními pracovníky přezkoumány před odesláním, což zajišťuje, že lidská kontrola a profesionální úsudek řídí každé rozhodnutí.

Jak agentury přijímají AI-poháněné pracovní postupy, jaké rané vzorce nebo poznatky se objevují o tom, jak sociální pracovníci interagují s těmito nástroji? Existují způsoby, jak AI mění, jak priorizují případy nebo podporují rodiny?

Zjistili jsme, že sociální pracovníci jsou velmi vnímaví k nástrojům, které snižují administrativní zátěž a rychle poskytují informace. AI mění, jak interagují s informacemi – místo toho, aby trávili hodiny procházením papírování, mohou okamžitě prohledávat stovky stránek formulářů, poznámek, údajů o případech a agenturních politik. To jim umožňuje vyhodnotit případy efektivněji, prioritizovat naléhavé potřeby dříve a dělat více informovaná rozhodnutí dříve v procesu. V důsledku toho mohou sociální pracovníci přesunout svůj čas a pozornost od dokumentace k přímé, smysluplné podpoře rodin.

Jedna zpersistentních výzev v péči o děti je neúplná nebo nekonzistentní dokumentace. Jak Binti používá AI ke zlepšení kvality dat, snížení chyb nebo získání informací, které nebyly dříve viditelné?

Neúplná dokumentace má skutečné důsledky v péči o děti, takže jedním z našich největších cílů s AI je pomoci sociálním pracovníkům zachytit informace přesně a konzistentně bez přidání k jejich pracovní zátěži. Existují dva hlavní způsoby, jakými to děláme.

První je, že nástroj pro AI-asistované poznámky a vyplňování formulářů umožňuje pracovníkům snížit chyby, které byly dříve provedeny na ručně psaných, manuálních a opakujících se papírování. Už slyšíme od agentur, že zaznamenávají pozitivní výsledky. Například zprávy, které dříve trvaly sociálním pracovníkům 3-4 hodiny, nyní trvají pouze 1-2 hodiny. Další supervizor sdílel s námi, že pozoroval, že formuláře dokončené pomocí AI jsou nejen rychlejší, ale také podrobnější a konzistentnější.

Druhý je, že ermögňujeme rychlé prohledávání stovek stránek formulářů, poznámek, údajů o případech a agenturních politik. Zatímco je snadné přehlédnout informace a nechat věci projít, když sociální pracovníci manuálně procházejí stovky stránek poznámek, naše funkce AI umožňuje jim rychle získat odpovědi a zajistit, že nechybí nic – a to vše s jasně citovanými zdroji, aby se zajistila přesnost.

S 550 agenturami na platformě má Binti přístup k provozním údajům, které by mohly identifikovat trendy napříč státy. Jak vidíte AI pomáhající odhalit systémové poznatky, které by mohli politici nebo vedoucí agentur použít k řízení reformy?

S více než 550 agenturami na platformě máme jedinečný pohled na to, jak systémy péče o děti fungují napříč státy – a kde zápasí. Díky přístupu k konzistentním, vysoce kvalitním údajům můžeme identifikovat systémové vzorce, jako jsou místa, kde zastaralé postupy vytvářejí zpoždění, kde schválení běžně uvíznou, a jak moderní technologie je spojena s lepšími výsledky, jako je stabilita umístění a rychlejší trvalost.

Existuje skutečná hodnota v tom, že můžeme poskytnout politikům a vedoucím agentur validované, daty podložené důkazy místo anekdot. Tato jasnost může informovat chytřejší reformy, modernizovat administrativní struktury a usnadnit sociálním pracovníkům jejich práci. Nakonec je můj nadějí, že technologie bude sloužit jako katalyzátor pro přehodnocení zkušeností s péčí o děti – podporovat pracovníky a pomáhat více dětem najít bezpečné, stabilní pěstounské a adoptivní domovy rychleji.

Pohledem do budoucna, jaká je nejtransformativnější AI schopnost, o které si myslíte, že bude formovat péči o děti v příštích pěti letech – a co se musí stát, aby tato transformace prospěla dětem, rodinám a pracovníkům v první linii?

Je opravdu těžké vybrat jednu schopnost, ale jsme nadšeni z použití agentů k dokončení více administrativních úkolů, které sociální pracovníci nenávidí dělat, aby se mohli soustředit na sociální práci a ne na papírování. Už jsme spustili naší funkci AI-asistovaných poznámek a vyplňování formulářů, která získala mnoho pozitivních ohlasů od sociálních pracovníků, protože mají neuvěřitelné množství formulářů a papírování, které musí dokončit každý den. Chceme se na tom opravdu zaměřit a soustředit se na AI schopnosti, které dokončí návrhy papírování pro sociální pracovníky, aby jim uvolnily hodiny každý den, aby mohli trávit více času přímo s dětmi a rodinami. To nejen pomáhá snížit vyhoření sociálních pracovníků způsobené administrativou, ale také zajišťuje, že děti a rodiny dostanou více času, pozornosti a podpory od sociálních pracovníků, kteří je podporují.

Děkuji za skvělý rozhovor, čtenáři, kteří si přejí dozvědět více o tom, jak moderní technologie transformuje péči o děti, by měli navštívit Binti.