Jeremy Kelway, VP di Ingegneria per Analytics, Dati e AI presso EDB – Serie di Interviste

Jeremy (Jezz) Kelway è un Vice Presidente di Ingegneria presso EDB, con sede nel Pacific Northwest, USA. Lui guida un team focalizzato sulla consegna di soluzioni di analytics e AI basate su Postgres. Con esperienza nella gestione del Database-as-a-Service (DBaaS), leadership operativa e consegna di tecnologie innovative, Jezz ha una solida esperienza nel guidare i progressi nelle tecnologie emergenti.

EDB supporta PostgreSQL per allinearsi con le priorità aziendali, abilitando lo sviluppo di applicazioni cloud-native, la migrazione efficiente dai database legacy e la distribuzione flessibile in ambienti ibridi. Con un bacino di talenti in crescita e prestazioni robuste, EDB garantisce sicurezza, affidabilità e esperienze clienti superiori per applicazioni mission-critical.

Perché Postgres sta diventando sempre più il database di scelta per la costruzione di applicazioni di intelligenza artificiale generativa, e quali sono le caratteristiche chiave che lo rendono adatto a questo panorama in evoluzione?

Con quasi il 75% delle aziende statunitensi che adottano l’AI, queste aziende richiedono una tecnologia fondamentale che consenta loro di accedere rapidamente e facilmente ai propri dati e di adottare appieno l’AI. È qui che entra in gioco Postgres.

Postgres è forse l’esempio tecnico più duraturo di una tecnologia che è riemersa in popolarità con una rilevanza maggiore nell’era dell’AI di quanto non sia mai stato prima. Con un’architettura robusta, supporto nativo per più tipi di dati e estensibilità per design, Postgres è un candidato ideale per le aziende che cercano di sfruttare il valore dei propri dati per AI pronta alla produzione in un ambiente sovrano e sicuro.

Nei 20 anni di esistenza di EDB, o nei 30+ anni di esistenza di Postgres come tecnologia, l’industria ha attraversato evoluzioni, spostamenti e innovazioni, e in tutto ciò gli utenti continuano a “utilizzare semplicemente Postgres” per affrontare le sfide di dati più complesse.

Come viene applicata oggi la tecnologia di Generazione aumentata di Recupero (RAG) e come si prevede che plasmerà il futuro dell'”Economia Intelligente”?

I flussi RAG stanno guadagnando popolarità e slancio, e per buone ragioni! Quando inquadrati nel contesto dell’‘Economia Intelligente’, i flussi RAG consentono l’accesso alle informazioni in modi che facilitano l’esperienza umana, risparmiando tempo attraverso l’automazione e la filtrazione dei dati e delle informazioni di output che altrimenti richiederebbero un notevole sforzo e tempo manuali per essere create. La maggiore accuratezza del passaggio di ‘ricerca’ (Recupero) combinata con la possibilità di aggiungere contenuti specifici a un modello LLM più ampio offre una grande opportunità di accelerare e migliorare la presa di decisioni informate con dati rilevanti. Un modo utile per pensare a questo è come se si avesse un assistente di ricerca esperto che non solo trova le informazioni giuste, ma le presenta anche in un modo che si adatta al contesto.

Quali sono alcune delle sfide più significative che le organizzazioni affrontano nell’implementazione di RAG in produzione, e quali strategie possono aiutare ad affrontare queste sfide?

A livello fondamentale, la qualità dei vostri dati è il vostro differenziatore AI. L’accuratezza di, e in particolare delle risposte generate di, un’applicazione RAG sarà sempre soggetta alla qualità dei dati utilizzati per addestrare e arricchire l’output. Il livello di sofisticazione applicato dal modello generativo sarà meno benefico se/when gli input sono difettosi, portando a risultati meno appropriati e inattesi per la query (spesso indicati come ‘allucinazioni’). La qualità delle vostre fonti di dati sarà sempre chiave per il successo del contenuto recuperato che alimenta i passaggi generativi – se l’output desiderato è il più preciso possibile, le fonti di dati contestuali per il modello LLM dovranno essere aggiornate il più possibile.

Dal punto di vista delle prestazioni; adottare un atteggiamento proattivo su ciò che la vostra applicazione RAG sta cercando di raggiungere – insieme a quando e dove i dati vengono recuperati – vi posizionerà bene per comprendere potenziali impatti. Ad esempio, se il vostro flusso RAG sta recuperando dati da fonti di dati transazionali (ad es. database costantemente aggiornati critici per il vostro business), monitorare le prestazioni di queste fonti di dati chiave, insieme alle applicazioni che attingono dati da queste fonti, fornirà una comprensione degli impatti potenziali o in tempo reale sulle prestazioni del vostro flusso RAG. Queste misure sono un ottimo passo per gestire qualsiasi impatto potenziale o in tempo reale sulle prestazioni delle fonti di dati transazionali critiche. Inoltre, queste informazioni possono anche fornire un contesto prezioso per regolare l’applicazione RAG per concentrarsi sul recupero dei dati appropriati.

Considerata la crescita dei database vettoriali specializzati per l’AI, quali vantaggi offre Postgres rispetto a queste soluzioni, in particolare per le aziende che cercano di operazionalizzare i carichi di lavoro dell’AI?

Un database vettoriale mission-critical ha la capacità di supportare carichi di lavoro AI impegnativi garantendo la sicurezza dei dati, la disponibilità e la flessibilità di integrazione con fonti di dati esistenti e informazioni strutturate. La costruzione di una soluzione AI/RAG spesso utilizza un database vettoriale poiché queste applicazioni coinvolgono valutazioni di similarità e raccomandazioni che lavorano con dati ad alta dimensionalità. I database vettoriali servono come fonte di dati efficiente ed efficace per archiviazione, gestione e recupero per queste pipeline di dati critiche.

Come gestisce EDB Postgres le complessità della gestione dei dati vettoriali per l’AI e quali sono i principali vantaggi dell’integrazione dei carichi di lavoro dell’AI in un ambiente Postgres?

Sebbene Postgres non abbia una capacità vettoriale nativa, pgvector è un’estensione che consente di archiviare i dati vettoriali accanto al resto dei dati in Postgres. Ciò consente alle aziende di sfruttare le capacità vettoriali accanto alle strutture di database esistenti, semplificando la gestione e la distribuzione delle applicazioni AI riducendo la necessità di archivi di dati separati e trasferimenti di dati complessi.

Con Postgres che diventa un attore centrale sia nei carichi di lavoro transazionali che in quelli analitici, come aiuta le organizzazioni a semplificare le pipeline di dati e a sbloccare insight più rapidi senza aggiungere complessità?

Queste pipeline di dati stanno effettivamente alimentando le applicazioni AI. Con i molti formati di archiviazione dei dati, posizioni e tipi di dati, le complessità di come viene raggiunto il passaggio di recupero diventano rapidamente una sfida tangibile, in particolare quando le applicazioni AI si spostano dalla Proof-of-Concept alla Produzione.

L’estensione EDB Postgres AI Pipelines è un esempio di come Postgres stia giocando un ruolo chiave nella parte di “gestione dei dati” della storia dell’applicazione AI. Semplificando l’elaborazione dei dati con pipeline automatizzate per il recupero dei dati da Postgres o archiviazione di oggetti, generando embedding vettoriali come nuovi dati vengono ingestiti e attivando gli aggiornamenti degli embedding quando i dati di origine cambiano – significando dati sempre aggiornati per query e recupero senza manutenzione tediosa.

Quali innovazioni o sviluppi possiamo aspettarci da Postgres nel prossimo futuro, in particolare mentre l’AI continua a evolversi e a richiedere sempre più dalla infrastruttura dei dati?

Il database vettoriale non è certo un prodotto finito, ulteriore sviluppo e miglioramento è previsto mentre l’utilizzo e la dipendenza dalla tecnologia del database vettoriale continuano a crescere. La comunità PostgreSQL continua a innovare in questo spazio, cercando metodi per migliorare l’indicizzazione per consentire criteri di ricerca più complessi insieme al progresso della capacità pgvector stessa.

Come Postgres, in particolare con le offerte di EDB, supporta la necessità di distribuzioni multi-cloud e ibride, e perché questa flessibilità è importante per le aziende guidate dall’AI?

<p Uno studio recente di EDB mostra che il 56% delle aziende ora distribuisce carichi di lavoro mission-critical in un modello ibrido, evidenziando la necessità di soluzioni che supportino sia l'agilità che la sovranità dei dati. Postgres, con le migliorie di EDB, fornisce la flessibilità essenziale per ambienti multi-cloud e ibridi, consentendo alle aziende guidate dall'AI di gestire i propri dati con flessibilità e controllo.

EDB Postgres AI porta l’agilità cloud e l’osservabilità agli ambienti ibridi con controllo sovrano. Questo approccio consente alle aziende di controllare la gestione dei modelli AI, semplificando al contempo i carichi di lavoro transazionali, analitici e AI attraverso ambienti multi-cloud o ibridi. Abilitando la portabilità dei dati, il controllo granulare del TCO e un’esperienza simile a quella cloud su una varietà di infrastrutture, EDB supporta le aziende guidate dall’AI nel realizzare risposte più rapide e agili alle richieste di dati complesse.

Man mano che l’AI si integra maggiormente nei sistemi aziendali, come Postgres supporta la governance dei dati, la privacy e la sicurezza, in particolare nel contesto della gestione dei dati sensibili per i modelli AI?

Man mano che l’AI diventa sia un pilastro operativo che un differenziatore competitivo, le aziende affrontano una pressione crescente per salvaguardare l’integrità dei dati e rispettare rigorosi standard di conformità. Questo panorama in evoluzione pone la sovranità dei dati al centro – dove una rigorosa governance, sicurezza e visibilità non sono solo priorità ma prerequisiti. Le aziende devono sapere e essere certe di dove si trovino i loro dati e dove stiano andando.

Postgres eccelle come colonna portante per ambienti di dati pronti all’AI, offrendo capacità avanzate per gestire dati sensibili in ambienti ibridi e multi-cloud. La sua fondazione open-source significa che le aziende traggono beneficio da un’innovazione costante, mentre le migliorie di EDB garantiscono l’adeguamento a standard di sicurezza di livello aziendale, controlli di accesso granulari e osservabilità profonda – chiave per la gestione responsabile dei dati AI. Le capacità di AI sovrana di EDB si basano su questa posizione, concentrandosi sull’apportare la capacità AI ai dati, facilitando così il controllo su dove quei dati stanno andando e da dove provengono.

Cosa rende EDB Postgres in grado di scalare i carichi di lavoro dell’AI mantenendo alta disponibilità e prestazioni, in particolare per applicazioni mission-critical?

EDB Postgres AI aiuta a elevare l’infrastruttura dei dati a un asset tecnologico strategico portando i sistemi analitici e AI più vicini ai dati operativi e transazionali core dei clienti – tutto gestito attraverso Postgres. Fornisce la fondazione della piattaforma di dati per le applicazioni AI-driven riducendo la complessità dell’infrastruttura, ottimizzando l’efficienza dei costi e soddisfacendo i requisiti aziendali per la sovranità dei dati, le prestazioni e la sicurezza.

Una piattaforma di dati elegante per operatori moderni, sviluppatori, ingegneri dei dati e costruttori di applicazioni AI che richiedono una soluzione collaudata per i loro carichi di lavoro mission-critical, consentendo l’accesso alle capacità di analisi e AI mentre utilizzano il sistema di database operativo core dell’azienda.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare EDB.