Carl Rost, Principal Consultant at Patsnap – Interview Series

Carl Rost je mozek za AI poháněnými nástroji pro vyhledávání patentů ve společnosti Patsnap.

Patsnap stojí v čele inovační inteligence, využívající sílu umělé inteligence a strojového učení k procházení miliard dat, ermögňujících inovátorům učinit zásadní spojení. Jejich špičková technologie LLM, přizpůsobená pro odborníky v oblasti výzkumu a vývoje a duševního vlastnictví, snadno prochází miliardami stránek patentů denně. AI asistent Patsnapu se účastní konverzačních odpovědí na otázky novosti a může přesně určit specifické odpovědi v rámci rozsáhlých textů. Například může přesně určit, zda je určitý typ widgetu již patentován.

Můžete poskytnout přehled o tom, jak AI asistent Patsnapu funguje a jaké jsou jeho primární funkce?

Samozřejmě! Je to AI asistent nazvaný Hiro, který umožňuje klást otázky na konkrétní patent nebo dokonce na výsledek nebo na celou naší databázi! Byl vyškoleno, aby pochopil otázky související s inovací a patenty a odpověděl způsobem, který uspokojí technické odborníky a odborníky v oblasti duševního vlastnictví. Nedávný pokrok spočívá v tom, že Hiro může dokonce pomoci řešit technické problémy a navrhnout nové směry pro vynálezy aplikováním vynálezeckých principů na technická řešení a problémy, které byly nalezeny v naší patentové a literární databázi. Hiro funguje trochu jinak v závislosti na tom, zda jej používáte v našich produktech pro výzkum a vývoj nebo pro odborníky v oblasti duševního vlastnictví.

Myslím, že to, co dělá Hiro jedinečným, je to, že je poháněn vlastním LLM Patsnapu, odpovědi také odkazují na reference a zdroje z knihovny Patsnapu, která obsahuje 200 milionů patentů, 190 milionů kusů literatury, 254 milionů chemických struktur, 879 milionů biologických sekvencí a 2 miliardy článků z novin.

Jaké problémy tento aplikaci řeší pro podniky?

Velcí inovátoři by měli trávit čas inovacemi, ne zjišťováním novosti produktů nebo prováděním předběžného výzkumu trhu. Patentová data jsou jedním z našich nejbohatších zdrojů technických informací, rivalling journal data, zejména v určitých technologických oblastech. Pro výzkum a vývoj je čas, který je potřeba k nalezení a vyšetření tohoto typu dat, byl masivním blokerem pro využití tohoto, ale nástroje jako Hiro mohou skutečně demokratizovat tento typ informací poprvé.

Pro právní odborníky je běžné trávit hodiny, dny, týdny, běháním předchozích umění a svobodou k provozu. S AI nástroji lze toto udělat rychleji a s větší přesností, uvolňující kapacitu pro strategickou práci.

Existující AI nástroje jsou buď příliš obecné a nejsou vhodné pro oblast duševního vlastnictví, nebo jsou černé skříňky, bez transparentnosti zdrojů, snižující důvěru a bránící rozhodování. S Hiro odkazujeme zpět na zdroje a zajišťujeme plnou viditelnost ve všech fázích vývojového procesu.

Jaké byly hlavní výzvy, kterým vaše tým čelil při vývoji AI funkcí pro Patsnap, a jak jste je překonali?

Víme, že jednotlivci, kteří staví nové vynálezy, chtějí je chránit, takže bezpečnost byla na prvním místě, když jsme stavěli Hiro. Model, který pohání Hiro, je místní a je vestavěn do naší aplikace, takže žádná data neopouštějí prostředí třetích stran, kterým je těžké důvěřovat. Naši konkurenti neudělali základní práci a přidali třetí strany modely, které nevydrží zkoušku. Když říkáme, že nevyučujeme modely na zákaznická data, víme, že to platí a můžeme našim zákazníkům ukázat, co děláme a proč. Na rozdíl od toho řešení našich konkurentů vás vystavuje riziku prostřednictvím třetích stran, které mají méně než skvělé pověsti, pokud jde o transparentnost a zpracování dat.

Můžete vysvětlit, jak Hiro odpovídá na specifické otázky novosti a jaký je dopad na pracovní postupy výzkumu a vývoje a duševního vlastnictví?

S Hiro můžete klást otázky jako „Jaké aspekty tohoto vynálezu dělají jej novým?“ nebo „Jak by tento patent obstál v různých právních systémech?“ nebo dokonce „jak postavit nositelný jetpack“ a získat odpovědi, které hovoří o každém kroku vynálezu. Ve srovnání s obecnými modely Hiro opravdu chápe, co dělá patent speciálním. Uživatelé nemusí být odborníky na patenty, aby se dostali k jádru toho, co je nebo není nové ve svém vynálezu, a mohou pochopit za sekundy, která část jejich produktu nebo nástroje potřebuje být chráněna.

Jak Hiro zpracovává obrovské množství dat z patentů a ne-patentové literatury, aby poskytoval přesné a relevantní odpovědi?

Prováděli jsme rozsáhlé školení na tomto datasetu a ohodnotili jsme odpovědi s odborníky. Poté jsme vyškolili AI na odborných odpovědích, nechal AI ohodnotit výstup a nechali odborníky zhodnotit to. Všechno jsme ohodnotili miliony datových bodů tímto způsobem, abychom zajistili, že odpovědi jsou smysluplné pro technické odborníky a odborníky v oblasti duševního vlastnictví.

Jak Hiro využívá velké jazykové modely (LLM) ke zvýšení efektivity vyhledávání patentů a analýzy duševního vlastnictví? Jaké typy dat byly použity k výcviku vlastního LLM Patsnapu a jak zajišťujete jeho přesnost a spolehlivost?

Patsnap vytvořil průmyslově specifický LLM, aby poháněl Hiro. LLM byl vyškoleno na patentových záznamech, akademických papírech a dalších inovačních datech, které mu pomáhají pochopit a vyprávět informace způsobem, který je více užitečný pro odborníky než obecné modely. Abychom zajistili přesnost a spolehlivost, použili jsme přísné metody předzpracování dat, včetně filtrování nízkokvalitních dat, odstranění duplikátů a přepsání. Také jsme vytvořili nová data kombinací různých zdrojů, aby se zlepšilo pochopení modelu IP-specifických nuancí. Použili jsme dohledované fine-tuning a učení s posilováním z lidské zpětné vazby, aby se neustále zlepšila jeho výkonnost.

PatsnapGPT byl rozsáhle testován a překonal GPT-4 v IP-specifických úkolech, prokázal lepší schopnosti v oblasti vytváření, klasifikace, souhrnu a uvažování v oblasti patentů.

Vlastní LLM je transparentní, odkazující na zdroje a reference, a není vyškoleno na zákaznických datech. Je to jediný hráč v průmyslu, který používá vnitrofiremně laděný LLM, v průmyslu, který je zvláště závislý na ochraně dat a důvěrnosti.

Jak se proprietární LLM Patsnapu srovnává s ostatními obecnými LLM, jako je GPT-4, z hlediska výkonu a přesnosti pro úkoly související s duševním vlastnictvím?

Proprietární LLM Patsnapu překonává GPT-4, pokud jde o dotazy související s duševním vlastnictvím. Při použití zkoušky USPTO Patent Bar Exam dosáhl PatsnapGPT-1.0 úrovně IP odborníka, zatímco obecné LLM nedosáhly hranice pro patentové právníky, kteří skládají zkoušku.

PatsnapGPT opravdu vyniká, když se podíváte, jak si vede v IP-specifických benchmarcích. Hiro konzistentně dosahuje vyšších skóre než obecné modely, jako je GPT-4, na USPTO Patent Bar Exam. Obecné LLM selhávají při dosažení 70-bodové hranice na zkoušce, zatímco PatsnapGPT 1.0 dosáhl úrovně IP odborníka. To ukazuje, že má lepší pochopení IP základů. Kromě toho v PatentBench, který je komplexním benchmarkeem pro IP úkoly, PatsnapGPT vynikl v několika oblastech. Vytvořil více přesných a relevantních textů pro psaní patentů, dosáhl vyšších skóre při klasifikaci patentů podle Mezinárodního patentového klasifikačního systému a jeho souhrny technických efektů, problémů, metod a abstraktů byly konzistentně hodnoceny vyššími hodnotiteli. Také ukazuje rychlejší rychlosti a nižší spotřebu paměti ve srovnání s GPT-4 pro dlouhé patentové dokumenty.

Jak si představujete roli AI v oblasti duševního vlastnictví a výzkumu a vývoje v průběhu příštích deseti let?

Vidím AI hrající stále více centrální roli v duševním vlastnictví a výzkumu a vývoje v průběhu příštích deseti let. Jednak AI výrazně zvýší efektivitu a přesnost vyhledávání patentů a analýzy. Pokročilé AI modely, jako je PatsnapGPT, se stanou ještě lepšími v porozumění a kategorizaci komplexních technických dokumentů, vytváření vysoce kvalitních patentových specifikací a identifikaci potenciálních porušení nebo překrývání existujících patentů. To ušetří obrovské množství času a sníží marži pro lidské chyby.

Kromě toho AI revolucionalizuje, jak nakládáme a interpretujeme огромné množství IP dat. S možností zpracovat a analyzovat velké datové sady rychle, AI může odhalit trendy a poznatky, které by jinak zůstaly nezjištěny. To může informovat lepší rozhodování a strategii v oblasti řízení duševního vlastnictví a výzkumu a vývoje, jako je identifikace vznikajících technologií, potenciálních oblastí inovací a strategických partnerství.

Ve výzkumu a vývoji AI povede inovace, pomáhající při objevování. Algoritmy strojového učení mohou analyzovat předchozí výzkum, předpovídat výsledky a dokonce navrhnout nové směry výzkumu, urychlující tempo objevování a vývoje. AI může také simulovat experimenty a modelovat komplexní systémy, snižující potřebu nákladných a časově náročných fyzických testů.

Jakmile bude AI technologie pokračovat ve vývoji, její integrace do IP a výzkumu a vývoje zvýší kreativitu, efektivitu a strategické plánování.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Patsnap.