Sitaatit: Voivatko Anthropicin uudet ominaisuudet ratkaista tekoälyn luotettavuuden ongelman?

Tekoälyn varmentaminen on ollut vakava ongelma jo jonkin aikaa. Vaikka suuret kielen mallit (LLM) ovat edenneet uskomattavan nopeasti, haasteen todistaa heidän tarkkuutensa on edelleen ratkaisematta.

Anthropic yrittää ratkaista tämän ongelman, ja kaikista suurista tekoälyyrityksistä luulen, että heillä on paras mahdollisuus.

Yritys on julkaissut Sitaatit, uuden API-ominaisuuden Claude-malleille, joka muuttaa, miten tekoälyjärjestelmät varmentavat vastauksiaan. Tämä tekniikka purkaa automaattisesti lähdeasiakirjat syötettävissä paloissa ja linkittää jokaisen tekoälyllisesti luodun lauseen takaisin alkuperäiseen lähdekohtaan – samalla tavalla kuin akateemiset tutkimukset siteeraavat viittauksiaan.

Sitaatit yrittää ratkaista yhden tekoälyn pysyvimmistä haasteista: osoittaa, että luodut sisällöt ovat tarkkoja ja luotettavia. Sen sijaan, että vaadittaisiin monimutkainen ohjelmointi tai manuaalinen varmentaminen, järjestelmä prosessoi automaattisesti asiakirjoja ja tarjoaa lausekohtaisen lähdevarmentamisen jokaiselle väitteelle, jonka se esittää.

Tiedot osoittavat lupaavia tuloksia: 15 prosentin parannus siteerauksen tarkkuudessa verrattuna perinteisiin menetelmiin.

Miksi tämä on tärkeää juuri nyt

Tekoälyn luottamus on muodostunut kriittiseksi esteeksi yritys- (ja yksityis-) käytölle. Kun organisaatiot siirtävät kokeellisesta tekoälykäytöstä ydinoperaatioihin, tekoälytulosten varmentamisen kyvyttömyys on luonut merkittävän pullonkaulan.

Nykyiset varmentamisjärjestelmät paljastavat selvän ongelman: organisaatioiden on valittava nopeuden ja tarkkuuden välillä. Manuaalinen varmentaminen ei skaalautu, kun taas varmennettomat tekoälytulokset kantavat liian suurta riskiä. Tämä haaste on erityisen akuutti säädellyissä aloissa, joissa tarkkuus ei ole vain toivottavaa, vaan vaadittua.

Sitaattien ilmestyessä tärkeässä vaiheessa tekoälyn kehityksessä. Kun kielimallit kehittyvät monimutkaisemmiksi, sisäänrakennetun varmentamisen tarve on kasvanut suhteessa. Meidän on rakennettava järjestelmiä, jotka voidaan ottaa käyttöön luottavaisesti ammattimaisissa ympäristöissä, joissa tarkkuus on ehdoton.

Teknisen arkkitehtuurin purkaminen

Sitaattien magia piilee asiakirjojen prosessointitavassa. Sitaatit eivät ole kuin muut perinteiset tekoälyjärjestelmät. Nämä usein kohdeltavat asiakirjoja yksinkertaisina tekstiblokeina. Sitaateissa työkalu purkaa lähdeaineistot Anthropicin kutsumiin “paloihin”. Nämä voivat olla yksittäisiä lauseita tai käyttäjän määrittelemiä osia, jotka luovat hienojakoiselle varmentamiselle perustan.

Tässä on tekninen purkaminen:

Asiakirjojen prosessointi ja käsittely

Sitaatit prosessoi asiakirjoja eri tavoin sen mukaan, miten ne on muotoiltu. Tekstiasiakirjojen osalta ei ole käytännössä rajoituksia 200 000 tokenin yhteisrajaan kaikista pyynnöistä. Tähän sisältyy konteksti, ohjelmointi ja itse asiakirjat.

PDF-käsittely on monimutkaisempaa. Järjestelmä prosessoi PDF-tiedostoja visuaalisesti, ei pelkästään tekstienä, mikä johtaa joitakin avainrajoituksia:

• 32 MB tiedostokokorajoitus
• Enimmillään 100 sivua asiakirjaa kohden
• Kunkin sivun kuluttaminen 1 500-3 000 tokenia

Tokenien hallinta

Käyttäessäsi Sitaatteja on tärkeää huomioida token-budjetti tarkkaan. Tässä on, miten se menee:

Standarditekstien osalta:

• Pyynnön enimmäisraja: 200 000 tokenia
• Sisältää: Konteksti + ohjelmointi + asiakirjat
• Ei erillistä maksua siteeraus tulosteista

PDF-tiedostojen osalta:

• Korkeampi tokenin kulutus sivua kohden
• Visuaalisen prosessoinnin ylijäämä
• Monimutkaisempi tokenin laskenta tarvitaan

Sitaatit vs RAG: Avainero

Sitaatit eivät ole Hakuaugmentoitu generointi (RAG) -järjestelmä – ja tämä ero on tärkeä. Vaikka RAG-järjestelmät keskittyvät relevantin tiedon etsimiseen tietopohjasta, Sitaatit toimivat jo valitsemallasi tiedolla.

Ajattele tätä näin:

• RAG: Käsittelee tietojen hakua
• Sitaatit: Hallitsee tietojen varmentamista
• Yhdistetty potentiaali: Molemmat järjestelmät voivat toimia yhdessä

Tämä arkkitehtuuri valinta merkitsee, että Sitaatit erottuvat tarkkuudessa tarjoamissa konteksteissa, jättäen hakustrategiat täydentäville järjestelmille.

Integrointireitit ja suorituskyky

Asetus on suoraviivainen: Sitaatit toimivat Anthropicin standardi-API kautta, mikä tarkoittaa, että jos olet jo käyttänyt Claudea, olet puolivälissä. Järjestelmä integroituu suoraan Messages API:hin, poistamatta tarvetta erilliseen tiedostovarastointiin tai monimutkaisiin infrastruktuurimuutoksiin.

Hinnastorakenne seuraa Anthropicin token-pohjaista mallia avainedulla: vaikka maksat lähdeasiakirjoista tokenien maksun, ei ole erillistä maksua itse siteeraus tulosteista. Tämä luo ennustettavan kustannusrakenteen, joka skaalautuu käytön mukaan.

Suorituskykymittarit kertovat vakuuttavan tarinan:

• 15 prosentin parannus koko siteerauksen tarkkuudessa
• Täydellinen poistaminen lähdeharhoista (10 prosentin ilmenemisestä nollaan)
• Lausekohtainen varmentaminen jokaiselle väitteelle

Organisaatiot (ja yksityishenkilöt) käyttävät varmennettuja tekoälyjärjestelmiä, he löytävät itsensä huonoissa olosuhteissa, erityisesti säädellyissä aloissa tai korkean panoksen ympäristöissä, joissa tarkkuus on kriittinen.

Etuvartioimassa, meidän on todennäköisesti nähtävä:

• Sitaattien kaltaisten ominaisuuksien integroiminen standardiksi
• Varmentamisjärjestelmien kehittyminen tekstistä muihin medioihin
• Alan kohtaisien varmentamisstandardien kehittyminen

Koko teollisuus tarvitsee todella uudelleenarvioida tekoälyn luotettavuutta ja varmentamista. Käyttäjien on päästävä pisteeseen, jossa he voivat varmentaa jokaisen väitteen helposti.