Microdosing op laag-hallucinogene AI

De Agentforce is hier. Salesforce heeft een nieuwe editie van zijn jaarlijkse Dreamforce-conferentie afgerond deze september. Naast de zwermen van deelnemers — en de zwermen van Waymos die hen rondrijden in een extra-schoon San Francisco — hebben we nu allemaal een zwerm van agenten tot onze beschikking om het werk te transformeren, netjes gecontroleerd binnen het Salesforce-ecosysteem. Terwijl Dreamforce altijd een spektakel is met zijn marketing-georiënteerde aankondigingen van de toekomst, bood dit jaar een onverwacht overtuigend visioen van hoe AI-gebaseerde agenten op het punt staan om de werkplek en de klantbeleving te revolutioneren.

Laten we onze verwachtingen nog even temperen. Benioff peinsde in zijn keynote: “Waarom zouden onze agenten zo laag-hallucinogeen zijn?” Ja, ze hebben de data, de metadata, de workflows en een breed scala aan diensten om in te connecteren; en zolang uw systemen alleen binnen Salesforce leven, klinkt het behoorlijk ideaal. Salesforce heeft misschien wel prompt-engineering uitgevonden, een claim die Benioff ook in de keynote maakte, wat misschien het “Austin Powers”-Dr. Evil-monoloog over zijn vader die het vraagteken heeft uitgevonden, doet denken. Maar kan Salesforce de Agentforce-visie waarmaken? Als ze dat doen, zal het een grote zaak zijn voor hoe werk gedaan wordt.

Laten we echter realistisch zijn: onze systemen en data leven niet allemaal binnen Salesforce. Als de toekomst van werk wordt gedefinieerd door groepen agenten die samenwerken, hoe ver kunnen afgesloten tuinen en gesloten ecosystemen ons brengen in het leveren van resultaten over onze bedrijven? Zeker Apple en Microsoft en Amazon en een heleboel anderen willen hun armen om de enorme agentmogelijkheid slaan die voor ons ligt. Maar zoals elke golf van technische vooruitgang verschillende smaken van gesloten versus open debatten heeft gebracht, zullen we uiteindelijk een standaard nodig hebben voor agenten die samenwerken met elkaar over grenzen heen. Anders zullen alleen delen van uw bedrijf deze kans aangrijpen.

Net zoals we vaak doen als we worden geconfronteerd met het open/gesloten dilemma, laten we naar het open web kijken als een manier vooruit. Net zoals apps op uw telefoon een webweergave nodig hebben om een oneindig aantal mobiele app-resultaten te kunnen bieden, zal hetzelfde nodig zijn in de komende multi-agent-grenzen. Tools zoals Slack bieden UI-kaders zoals Block Kit die de gebruikersinterface voor een eenvoudige agentinteractie kunnen aandrijven, maar het is niet in staat om de diepte van moderne gebruikerservaringen te hanteren. Neem Clockwise Prism als voorbeeld. We hebben een next-level-scheduling-agent gebouwd voor het vinden van tijd voor een vergadering, zelfs als er geen “witte ruimte” op de kalender van morgen is. Wanneer u deze aansluit op andere agenten om die onmogelijke vergadering met uw warmste verkoopkansen te laten landen, heeft u een manier nodig om ofwel te bevestigen of te verkennen van een groot aantal geavanceerde en krachtige planningsmogelijkheden. Het bieden van een webweergave voor het doen hiervan is de duidelijke weg vooruit.

Tijdens zijn keynote herhaalde Benioff het mantra dat u geen DIY-agenten binnen uw bedrijf wilt. En hij heeft gelijk. Ondernemingen willen gecontroleerde en vereenvoudigde workflows die herhaalbare waarde leveren. En toch willen ze niet in een silo zitten. Dit is waarom we een open standaard nodig hebben voor de multi-agent-toekomst. We hebben een betrouwbare manier nodig voor agenten om met elkaar te communiceren, om grenzen over te steken over applicaties en ecosystemen heen en dit te doen op een manier die bedrijven in controle houdt van hun productervaring.

U bent net zo goed in staat om een set van werkagenten te starten vanuit een Atlassian Jira-ticket dat is verbonden met een Salesforce-klantgeval als u wilt starten met een set van agenten in omgekeerde volgorde vanuit Salesforce, verbonden met Atlassian. Voor agenten die samenwerken, ongeacht waar een werkverzoek vandaan komt en in elke richting met een consistente gebruikerservaring, is opnieuw een standaard nodig.

Wat moet er nog meer in deze standaard worden weergegeven? Buiten Salesforce om is het multi-agent-ecosysteem van vandaag een spannend wild westen. Elke dag zien we nieuwe innovaties en manieren om AI-systemen en agentieve workflows te verbinden en te construeren. Een recente verbinding tussen het AI-raamwerk LangChain en een tool genaamd Assitant-UI bracht dit inzicht:

“UX is cruciaal voor agenten. Iedereen wil agenten met streaming, generatieve UI en human-in-the-loop in hun applicatie.”

Inderdaad, we hebben al besproken hoe cruciaal de gebruikerservaring is voor agenten. En het is duidelijk dat agenten snel hun antwoorden moeten kunnen streamen wanneer ze samenwerken met andere agenten. Maar wat van generatieve UI en human-in-the-loop in hun applicatie?

Laten we beginnen met human-in-the-loop; een ander gebied van brede overeenstemming. Terwijl Salesforce en anderen een grote show maken over automatisering, is het altijd gebaseerd op de noodzaak om een mens terug in het centrum te kunnen brengen wanneer dat nodig is. We hebben deze les ook geleerd bij Clockwise en hebben onze scheduling-agent-ervaring gebouwd rond een kernconcept van het kunnen terugkijken naar de gebruiker met een voorgestelde set van planningsmogelijkheden. Wanneer u complex werk doet, is het geweldig om tot volledige automatisering te komen, maar het begint op de ruggengraat van het betrekken van de gebruiker en deze in de loop houden. Elke standaard moet worden gebouwd rond een optionele mogelijkheid om in te checken en te bevestigen met de gebruiker voordat u doorgaat, en uiteindelijk toestaan voor volledige automatisering wanneer het vertrouwen hoog genoeg is.

En wat van generatieve UI? Hier zou ik voorstellen dat wat nodig is, niet noodzakelijkerwijs generatieve UI is, maar “native UI”. Wat belangrijk is, is dat de agent een UI produceert die native is en wordt gecontroleerd door de dienst/agent die reageert op het verzoek. Alleen de native dienst zal de context en het begrip hebben dat nodig is om een gebruikersinterface te renderen die in de agentaanvraag past. Of deze UI wordt gerenderd met generatieve AI of een andere niet-AI-mechanisme, wordt overgelaten aan de reagerende dienst als een implementatiedetail. En dus denken we dat de open standaard moet toestaan dat de reagerende dienst native UI levert voor een agentaanvraag.

Wat komt er hierna? We zijn enthousiast om verder te onderzoeken wat een open multi-agent-toekomst zou kunnen zijn. We hebben een ontwerp gemaakt van iets dat we Open Multi-Agent Protocol (OMAP) noemen, en we zijn enthousiast om het gesprek verder te zetten. Het zal niet lang duren voordat er geheel nieuwe soorten banen zijn waarin mensen agenten gebruiken om werk te doen op krachtige en gestroomlijnde manieren. De tijd van de Agent Orchestrator-baanomschrijving is aangebroken, en terwijl Salesforce een overtuigend pad vooruit schildert, zullen we een standaard nodig hebben om agenten te verbinden over grenzen heen.