ActionAI primește 10 milioane de dolari pentru a aduce responsabilitate și fiabilitate în inteligența artificială pentru întreprinderi

Adoptarea inteligenței artificiale de către întreprinderi a accelerat rapid, dar scalarea acesteia dincolo de proiectele-pilot rămâne o provocare persistentă. Un motiv major este încrederea. În timp ce angajații folosesc din ce în ce mai mult instrumente de inteligență artificială în munca lor de zi cu zi, organizațiile rămân ezitante să se bazeze pe acestea pentru operațiunile de bază în care acuratețea și responsabilitatea sunt critice.

Această lacună este ceea ce ActionAI își propune să o acopere. Compania a anunțat o rundă de finanțare de 10 milioane de dolari pentru a construi o infrastructură care să facă sistemele de inteligență artificială suficient de fiabile pentru utilizarea în întreprinderi.

De ce adoptarea inteligenței artificiale stagnează

În ciuda experimentării pe scară largă, majoritatea inițiativelor de inteligență artificială ale întreprinderilor nu reușesc să ajungă la producție. Datele interne rămân adesea neverificate, ieșirile pot fi inconsistente, iar erorile – în special halucinațiile – introduc riscuri operaționale reale.

Studiile arată că, în timp ce majoritatea angajaților folosesc acum instrumente de inteligență artificială la locul de muncă, mulți o fac fără a verifica acuratețea. În același timp, un procent mare din cazurile de utilizare a inteligenței artificiale în întreprinderi rămân blocate în modul de pilot. Problema nu mai este dacă inteligența artificială este capabilă, ci dacă poate fi încredințată.

Acest lucru este deosebit de problematic în industrii precum finanțe, asigurări, sănătate și logistică, unde greșelile pot avea consecințe regulatorii, financiare sau legale.

Construirea unui strat de fiabilitate pentru inteligența artificială

Abordarea ActionAI constă în tratarea fiabilității ca un strat fundamental, și nu ca o gândire ulterioară. Platforma sa este proiectată pentru a monitoriza și evalua sistemele de inteligență artificială pe tot parcursul ciclului de viață – de la datele de antrenament până la ieșirea finală.

În loc să se concentreze doar pe performanța modelului, sistemul cartografiază modul în care datele curg prin fiecare etapă a stivei de inteligență artificială. Acest lucru permite echipelor să identifice exact unde apar eșecurile, indiferent dacă la nivelul de intrare, în timpul procesării sau la nivelul de ieșire.

Un component cheie al platformei este capacitatea sa de a depista și corecta erorile în timp real. Când apare o problemă, echipele pot izola rapid cauza și remedia cazurile limită înainte de a deveni probleme mai mari.

Prezentarea excepțiilor explicabile

Unul dintre elementele distinctive ale platformei este un sistem numit Excepții explicabile (ExEx). În loc de a forța sistemele de inteligență artificială să acționeze cu ieșiri incerte, ExEx detectează când modelul lipsește de încredere și direcționează sarcina către un om.

Ceea ce face această abordare notabilă este că nu doar semnalează o problemă, ci oferă și explicații. Recenzorii umani primesc contextul care explică de ce inteligența artificială a fost nesigură, permițându-le să ia decizii mai rapide și mai informate.

Acest lucru creează un flux de lucru structurat om în buclă care nu încetinește operațiunile, ci acționează ca o gardă. Asigură că ieșirile incerte sau cu risc ridicat nu trec neobservate prin sistem.

De la monitorizare la control continuu

Dincolo de implementare, platforma continuă să monitorizeze performanța inteligenței artificiale în producție. Urmează modul în care sistemele răspund la noi date, condiții schimbătoare sau instrucțiuni actualizate.

Când performanța scade sau apar anomalii, sistemul le semnalează automat, ajutând organizațiile să mențină consistența în timp. Acest lucru este deosebit de important, deoarece modelele de inteligență artificială se degradează sau se comportă imprevizibil atunci când sunt expuse la noi intrări.

Scopul este de a trece de la implementări statice de inteligență artificială la sisteme gestionate continuu care se adaptează fără a sacrifica fiabilitatea.

ActionAI se concentrează pe sectoarele în care precizia este negociabilă. Acesta include servicii financiare, producție, retail, asigurări, lanțuri de aprovizionare și sisteme juridice.

În aceste medii, chiar și erorile mici pot crea probleme în cascadă. Prin introducerea supravegherii, trasabilității și gestionării excepțiilor structurate, platforma este proiectată pentru a face inteligența artificială viabilă în contexte în care a fost considerată anterior prea riscantă.

Spre o inteligență artificială responsabilă

Pentru fondator Miriam Haart, problema de bază nu este doar îmbunătățirea performanței inteligenței artificiale, ci și crearea unor sisteme responsabile din start.

Arhitectura companiei se concentrează pe validarea datelor înainte de a intra în sistem, monitorizarea comportamentului în timpul execuției și asigurarea că ieșirile pot fi explicate și verificate ulterior. Această vizibilitate de la capăt la capăt este ceea ce permite organizațiilor să treacă dincolo de experimentare și să ajungă la implementarea pe scară largă.

Implicația mai largă a acestei runde de finanțare este o schimbare în modul în care întreprinderile gândesc despre inteligența artificială. În loc să o trateze ca un instrument stratificat peste sistemele existente, companiile încep să o vadă ca infrastructură de bază – ceva care trebuie să îndeplinească aceleași standarde ca orice sistem critic.

ActionAI se poziționează la intersecția dintre acestea, unde performanța singură nu mai este suficientă. Fiabilitatea, transparența și controlul devin cerințele definitorii pentru adoptarea inteligenței artificiale în întreprinderi.

Dacă aceste elemente pot fi standardizate, inteligența artificială poate trece, în sfârșit, de la proiecte-pilot izolate la operațiuni integrate pe scară largă în întreaga întreprindere.