Britse regering schakelt Anthropic in om AI-baanbegeleider voor burgers te bouwen

De Britse regering heeft Anthropic ingeschakeld om een AI-gebaseerde assistent voor GOV.UK te bouwen, die burgers zal helpen bij het navigeren van diensten voor werkgelegenheid, waarmee een van de eerste grote inzet van een frontier AI-model in de openbare dienstverlening wordt gemarkeerd.

Het contract, dat deze week is bevestigd, zet een memorandum van overeenstemming van februari 2025 tussen Anthropic en het Departement voor Wetenschap, Innovatie en Technologie om in een actieve inzet. Het systeem zal zich in eerste instantie richten op ondersteuning bij werkgelegenheid – het begeleiden van werkzoekenden door beschikbare middelen, opleidingsprogramma’s en vereisten voor overheidssteun.

In tegenstelling tot basischatbots die alleen vragen beantwoorden, zal de GOV.UK-assistent functioneren als een agentic systeem. Het zal gebruikers door meerdere stappen van overheidsprocessen leiden, context behouden over sessies heen en persoonlijke aanbevelingen doen op basis van individuele omstandigheden. Een gebruiker die naar informatie over werkloosheidsuitkeringen vraagt, kan niet alleen de criteria voor het ontvangen van uitkeringen ontvangen, maar ook een doorloop van het aanvraagproces dat is aangepast aan zijn specifieke situatie.

“AI heeft het potentieel om te transformeren hoe overheden hun burgers dienen,” zei Anthropic CEO Dario Amodei in de oorspronkelijke aankondiging van het bedrijf. “We kijken ernaar uit om te onderzoeken hoe Claude kan helpen bij het verbeteren van overheidsdiensten door de UK-regering, met als doel het ontdekken van nieuwe manieren om vitale informatie en diensten efficiënter en toegankelijker te maken voor inwoners van het VK.”

Hoe het systeem zal werken

De inzet volgt het “Scan, Pilot, Scale”-kader van DSIT, wat betekent dat de eerste lancering beperkt zal zijn voordat er een bredere uitrol plaatsvindt. Ingenieurs van Anthropic zullen direct samenwerken met ontwikkelaars van de Government Digital Service – een kennisoverdrachtregeling die suggereert dat het VK langdurige afhankelijkheid van leveranciers wil vermijden.

Het werkgerelateerde pilotproject heeft geen aangekondigde openbare lanceringdatum, hoewel de gefaseerde aanpak maanden van interne tests suggereert voordat burgers met het systeem in contact komen. Minister van Technologie Peter Kyle heeft bredere ambities voor AI in openbare diensten uiteengezet in een recente regeringsaankondiging.

“We kunnen helemaal opnieuw nadenken over hoe openbare diensten mensen helpen bij cruciale levensmomenten met behulp van opkomende AI-technologie,” zei Kyle. “Als het werkt, zouden we het eerste land ter wereld kunnen zijn dat AI-agents op grote schaal gebruikt.”

Het bredere visie gaat verder dan werk zoeken. Kyle beschreef AI-agents die formulieren konden invullen, afspraken konden plannen en zelfs levensovergangen zoals verhuizen naar een nieuw huis konden begeleiden – het bijwerken van adresgegevens op rijbewijzen, inschrijven bij nieuwe artsen en het beheren van kiezersregistratie via een enkele interface.

De £2 miljard AI-investering

Het contract met Anthropic komt op het moment dat het VK £2 miljard investeert in AI tussen 2026 en 2030, met £137 miljoen specifiek toegewezen aan zijn AI voor Wetenschapsstrategie. De regering heeft AI gepositioneerd als centraal in zijn plan voor economische groei en modernisering van de openbare sector.

Voor Anthropic, dat dichtbij een waardering van $350 miljard komt, vertegenwoordigt de UK-inzet meer dan alleen omzet. Succes in een overheidscontext – met zijn strenge eisen voor nauwkeurigheid, privacy en toegankelijkheid – zou de capaciteiten van Claude valideren in omgevingen met hoge inzet waar fouten echte gevolgen hebben.

Het bedrijf heeft al een aanwezigheid in overheidskringen van het VK. Anthropic werkt samen met het UK AI Security Institute aan modeltesten en veiligheidsonderzoek – een relatie die waarschijnlijk heeft geholpen bij het veiligstellen van dit contract. Het MOU dat door Peter Kyle en Amodei is ondertekend, verplicht beide partijen om de samenwerking op het gebied van AI-veiligheid en -capaciteitsbeoordeling voort te zetten.

Privacy- en beveiligingsarchitectuur

De inzet van AI-assistenten door de overheid roept onmiddellijk vragen op over gegevensbeheer. Burgers die gebruikmaken van diensten voor werkgelegenheid delen gevoelige persoonlijke informatie – werkgeschiedenis, financiële omstandigheden, gezondheidsomstandigheden die de werkbaarheid beïnvloeden.

Het MOU adresseert deze zorgen door de bestaande privacykaders van het VK te benadrukken en de toezegging van Anthropic om verantwoordelijk in te zetten. Het document stelt dat beide partijen “beste praktijken voor de verantwoorde inzet van frontier AI-mogelijkheden in de openbare sector” zullen vaststellen.

De recente publicatie van Claudes nieuwe grondwet – een document van 23.000 woorden dat de ethische redenering achter Claudes gedrag uitlegt – biedt enige inzicht in hoe het bedrijf veiligheid benadert. De grondwet prioriteert “breed veilig” en “breed moreel” boven “behulpzaam”, met harde beperkingen tegen bepaalde acties ongeacht gebruikersverzoeken.

Of die filosofische toezeggingen effectief worden vertaald in de dienstverlening van de overheid, moet nog worden getest. De gefaseerde aanpak van het VK stelt een evaluatie en aanpassing toe voordat burgers het systeem tegenkomen.

Wat dit betekent voor AI in de overheid

De samenwerking tussen het VK en Anthropic geeft aan dat de overheid zich meer op haar gemak voelt bij het inzetten van frontier AI in burgergerichte rollen. Eerdere AI-projecten van de overheid hebben zich meestal gericht op back-officeautomatisering – het verwerken van claims, het analyseren van gegevens, het markeren van afwijkingen voor menselijke beoordeling. Het plaatsen van Claude in directe conversatie met burgers die hulp zoeken bij werkgelegenheid vertegenwoordigt een ambitieuzer gebruiksscenario.

Het onderdeel van kennisoverdracht is bijzonder opvallend. Door ingenieurs van Anthropic in te bedden bij teams van de Government Digital Service, lijkt het VK interne capaciteit op te bouwen in plaats van alleen een dienst te licenseren. Deze aanpak kan de overheid in staat stellen om het systeem onafhankelijk te onderhouden of aan te passen in de loop van de tijd.

Succes hier kan deuren openen voor verdere integraties van overheidsdiensten – en een sjabloon creëren die andere overheden kunnen volgen. Voor Anthropic zou het aantonen dat Claude veilig kan omgaan met gevoelige overheidsinteracties een aanzienlijke boost voor de geloofwaardigheid betekenen, terwijl de concurrentie met OpenAI en Google (GOOGL ) in de enterprise AI-markt intensiever wordt.

De focus van het pilotproject op diensten voor werkgelegenheid draagt ook symbolische betekenis. Terwijl AI arbeidsmarkten transformeert – een onderwerp waar Amodei zelf over heeft gewaarschuwd op Davos – het gebruik van AI om werklozen te helpen bij het vinden van nieuwe kansen, creëert een verhaal dat de technologie deel kan uitmaken van de oplossing, en niet alleen van de verstoring.