Jeremy Kelway, VP van Engineering voor Analytics, Data en AI bij EDB – Interviewreeks

Jeremy (Jezz) Kelway is Vice President of Engineering bij EDB, gevestigd in de Pacific Northwest, USA. Hij leidt een team dat zich richt op het leveren van Postgres-gebaseerde analytics- en AI-oplossingen. Met ervaring in Database-as-a-Service (DBaaS)-beheer, operationeel leiderschap en innovatieve technologielevering, heeft Jezz een sterke achtergrond in het stimuleren van vooruitgang in opkomende technologieën.

EDB ondersteunt PostgreSQL om aan te sluiten bij bedrijfsprioriteiten, waardoor cloud-native applicatieontwikkeling, kosteneffectieve migratie van legacy-databases en flexibele implementatie in hybride omgevingen mogelijk wordt. Met een groeiend talentenbestand en robuuste prestaties zorgt EDB voor beveiliging, betrouwbaarheid en superieure klantervaringen voor mission-critical applicaties.

Waarom wordt Postgres steeds vaker de voorkeursdatabase voor het bouwen van generatieve AI-toepassingen, en welke sleutelfuncties maken het geschikt voor deze evoluerende landschap?

Met bijna 75% van de Amerikaanse bedrijven die AI adopteren, hebben deze bedrijven een fundamentele technologie nodig die het hen mogelijk maakt om snel en eenvoudig toegang te krijgen tot hun overvloed aan gegevens en volledig AI te omarmen. Hier komt Postgres om de hoek kijken.

Postgres is misschien het perfecte technische voorbeeld van een duurzame technologie die in populariteit is toegenomen met een grotere relevantie in de AI-tijdperk dan ooit tevoren. Met een robuuste architectuur, native ondersteuning voor meerdere gegevenstypen en uitbreidbaarheid door ontwerp, is Postgres een prima kandidaat voor ondernemingen die de waarde van hun gegevens willen benutten voor productieklare AI in een soevereine en beveiligde omgeving.

Door de 20 jaar dat EDB heeft bestaan, of de 30+ dat Postgres als technologie heeft bestaan, is de industrie door evoluties, verschuivingen en innovaties gegaan, en door het allemaal heen blijven gebruikers “gewoon Postgres gebruiken” om hun meest complexe gegevensuitdagingen aan te pakken.

Hoe wordt Retrieval-Augmented Generation (RAG) vandaag toegepast, en hoe ziet u het vormgeven van de toekomst van de “Intelligent Economy”?

RAG-stromen winnen aan populariteit en momentum, en terecht! Wanneer RAG-stromen worden geframed in de context van de ‘Intelligent Economy’, maken ze toegang tot informatie mogelijk op manieren die de menselijke ervaring faciliteren, tijd besparen door gegevens en informatie-uitvoer te automatiseren en te filteren die anders aanzienlijke handmatige inspanning en tijd zouden vereisen. De toegenomen nauwkeurigheid van de ‘zoek’-stap (Retrieval) in combinatie met de mogelijkheid om specifieke inhoud toe te voegen aan een breder getrainde LLM biedt een rijke kans om geïnformeerde besluitvorming te versnellen en te verbeteren met relevante gegevens. Een nuttige manier om hierover na te denken is alsof u een ervaren onderzoeksassistent heeft die niet alleen de juiste informatie vindt, maar deze ook presenteert op een manier die past bij de context.

Wat zijn enkele van de grootste uitdagingen waar organisaties mee te maken krijgen bij het implementeren van RAG in productie, en welke strategieën kunnen helpen om deze uitdagingen aan te pakken?

Op fundamenteel niveau is uw gegevenskwaliteit uw AI-differentiator. De nauwkeurigheid van, en in het bijzonder de gegenereerde antwoorden van, een RAG-toepassing zal altijd onderhevig zijn aan de kwaliteit van de gegevens die worden gebruikt voor training en aanvulling van de uitvoer. Het niveau van sofisticatie dat wordt toegepast door het generatieve model zal minder gunstig zijn als/de ingangen ondeugdelijk zijn, waardoor minder passende en onverwachte resultaten voor de query ontstaan (vaak aangeduid als ‘hallucinaties’). De kwaliteit van uw gegevensbronnen zal altijd de sleutel zijn tot het succes van de opgehaalde inhoud die de generatieve stappen voedt – als de uitvoer zo nauwkeurig mogelijk moet zijn, moeten de contextuele gegevensbronnen voor de LLM zo up-to-date mogelijk zijn.

Vanuit een prestatieperspectief; het aannemen van een proactieve houding ten aanzien van wat uw RAG-toepassing probeert te bereiken – evenals wanneer en waar de gegevens worden opgehaald – zal u in staat stellen om potentiële gevolgen te begrijpen. Als uw RAG-stroom bijvoorbeeld gegevens ophaalt uit transactiegegevensbronnen (d.w.z. constant bijgewerkte databases die kritiek zijn voor uw bedrijf), zal het monitoren van de prestaties van deze cruciale gegevensbronnen, in combinatie met de toepassingen die gegevens uit deze bronnen opvragen, u inzicht geven in de impact van uw RAG-stroomstappen. Deze maatregelen vormen een uitstekende stap voor het beheren van eventuele of echte gevolgen voor de prestaties van kritieke transactiegegevensbronnen. Bovendien kan deze informatie ook waardevolle context bieden voor het afstemmen van de RAG-toepassing om te focussen op passende gegevensopname.

Gezien de opkomst van gespecialiseerde vector-databases voor AI, wat zijn de voordelen van Postgres ten opzichte van deze oplossingen, met name voor ondernemingen die AI-werklasten operationeel willen maken?

Een mission-critical vector-database heeft de mogelijkheid om veeleisende AI-werklasten te ondersteunen, terwijl het zorgt voor gegevensbeveiliging, beschikbaarheid en flexibiliteit om te integreren met bestaande gegevensbronnen en gestructureerde informatie. Het bouwen van een AI/RAG-oplossing zal vaak een vector-database gebruiken, aangezien deze toepassingen overeenkomstbeoordelingen en aanbevelingen omvatten die werken met hoogdimensionale gegevens. De vector-databases dienen als een efficiënte en effectieve gegevensbron voor opslag, beheer en opname voor deze kritieke gegevenspijplijnen.

Hoe gaat EDB Postgres om met de complexiteit van het beheren van vectorgegevens voor AI, en wat zijn de belangrijkste voordelen van het integreren van AI-werklasten in een Postgres-omgeving?

Terwijl Postgres geen native vector-capaciteit heeft, is pgvector een extensie die u in staat stelt om uw vectorgegevens op te slaan naast de rest van uw gegevens in Postgres. Dit stelt ondernemingen in staat om vector-capaciteiten te benutten naast bestaande databasestructuren, waardoor het beheer en de implementatie van AI-toepassingen worden vereenvoudigd door de noodzaak voor afzonderlijke gegevensopslag en complexe gegevensoverdrachten te verminderen.

Hoe helpt Postgres ondernemingen bij het vereenvoudigen van hun gegevenspijplijnen en het ontgrendelen van snellere inzichten zonder complexiteit toe te voegen?

Deze gegevenspijplijnen zijn effectief brandstof voor AI-toepassingen. Met de veelheid aan gegevensopslagformaten, -locaties en -typen, worden de complexiteiten van hoe de opnamefase wordt bereikt snel een tastbare uitdaging, vooral wanneer de AI-toepassingen van Proof-of-Concept naar Productie gaan.

De EDB Postgres AI Pipelines-extensie is een voorbeeld van hoe Postgres een sleutelrol speelt in het vormgeven van het ‘gegevensbeheer’-deel van het AI-toepassingsverhaal. Door gegevensverwerking te vereenvoudigen met geautomatiseerde pijplijnen voor het ophalen van gegevens uit Postgres of objectopslag, het genereren van vector-embeddings als nieuwe gegevens worden opgenomen en het triggeren van updates van embeddings wanneer de brongegevens veranderen – waardoor altijd up-to-date gegevens voor query en opname zonder tijdrovend onderhoud.

Welke innovaties of ontwikkelingen kunnen we in de nabije toekomst van Postgres verwachten, met name nu AI blijft evolueren en meer van de gegevensinfrastructuur vraagt?

De vector-database is zeker nog niet af; verdere ontwikkeling en verbetering zijn te verwachten naarmate het gebruik en de afhankelijkheid van vector-database-technologie blijven groeien. De PostgreSQL-gemeenschap blijft innoveren in deze ruimte, op zoek naar methoden om indexing te verbeteren om meer complexe zoekcriteria toe te staan, naast de voortgang van de pgvector-capaciteit zelf.

Hoe ondersteunt Postgres, met name met de aanbod van EDB, de behoefte aan multi-cloud- en hybride cloud-implementaties, en waarom is deze flexibiliteit belangrijk voor AI-gedreven ondernemingen?

Onlangs heeft een EDB-onderzoek aangetoond dat 56% van de ondernemingen nu mission-critical werklasten in een hybride model implementeert, waardoor de noodzaak voor oplossingen die zowel flexibiliteit als gegevenssoevereiniteit ondersteunen, wordt benadrukt. Postgres, met de verbeteringen van EDB, biedt de essentiële flexibiliteit voor multi-cloud- en hybride cloud-omgevingen, waardoor AI-gedreven ondernemingen hun gegevens kunnen beheren met zowel flexibiliteit als controle.

EDB Postgres AI brengt cloud-agile en observabiliteit naar hybride omgevingen met soevereine controle. Deze benadering stelt ondernemingen in staat om de beheerders van AI-modellen te controleren, terwijl ze ook transactie-, analytische- en AI-werklasten over hybride of multi-cloud-omgevingen stroomlijnen. Door gegevenstransport, granulaire TCO-controle en een cloud-achtige ervaring op een verscheidenheid aan infrastructuur te ermöglichen, ondersteunt EDB AI-gedreven ondernemingen bij het realiseren van snellere, meer agile antwoorden op complexe gegevensvragen.

Hoe ondersteunt Postgres gegevensbeheer, -privacy en -beveiliging, met name in de context van het omgaan met gevoelige gegevens voor AI-modellen?

Naarmate AI meer ingebed raakt in ondernemingssystemen, staan ondernemingen onder druk om de integriteit van hun gegevens te waarborgen en strikte nalevingsnormen te handhaven. Dit evoluerende landschap plaatst gegevenssoevereiniteit centraal – waar strikt beheer, beveiliging en zichtbaarheid niet alleen prioriteiten zijn, maar vereisten. Bedrijven moeten weten en zeker zijn over waar hun gegevens zijn en waar ze naartoe gaan.

Postgres excelleert als de ruggengraat voor AI-klaar gegevensomgevingen, met geavanceerde capaciteiten om gevoelige gegevens over hybride en multi-cloud-omgevingen te beheren. De open-source-basis betekent dat ondernemingen profiteren van constante innovatie, terwijl de verbeteringen van EDB ervoor zorgen dat aan ondernemingsklasse-beveiliging, granulaire toegangscontrole en diepe observabiliteit wordt voldaan – essentieel voor het verantwoordelijk omgaan met AI-gegevens. De Sovereign AI-capaciteiten van EDB bouwen voort op deze houding, met als focus het brengen van AI-capaciteit naar de gegevens, waardoor controle over waar die gegevens naartoe gaan en vandaan komen, wordt gefaciliteerd.

Wat maakt EDB Postgres uniek in staat om AI-werklasten te schalen terwijl het hoge beschikbaarheid en prestaties behoudt, met name voor mission-critical applicaties?

EDB Postgres AI verheft de gegevensinfrastructuur tot een strategisch technologie-asset door analytische en AI-systemen dichter bij de kernoperationele en transactiegegevens van klanten te brengen – allemaal beheerd via Postgres. Het biedt de gegevensplatformbasis voor AI-gedreven apps door infrastructuurrecomplexiteit te verminderen, kosten-efficiëntie te optimaliseren en ondernemingsvereisten voor gegevenssoevereiniteit, prestaties en beveiliging te vervullen.

Een elegante gegevensplatform voor moderne operators, ontwikkelaars, data-engineers en AI-toepassingsbouwers die een beproefde oplossing nodig hebben voor hun mission-critical werklasten, waardoor toegang tot analytics- en AI-capaciteiten wordt geboden terwijl het gebruik van het kernoperationele databasesysteem van de onderneming.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen een bezoek brengen aan EDB.