Het aanpakken van huidige problemen binnen LLM’s en het vooruitzien naar wat er nog komt

Vandaag de dag zijn er tientallen openbaar beschikbare grote taalmodellen (LLM’s), zoals GPT-3, GPT-4, LaMDA of Bard, en het aantal groeit constant omdat nieuwe modellen worden uitgebracht. LLM’s hebben de kunstmatige intelligentie gerevolutioneerd en volledig veranderd hoe we met technologie omgaan in verschillende branches. Deze modellen stellen ons in staat om van veel menselijke taalgegevens te leren en hebben nieuwe wegen geopend voor innovatie, creativiteit en efficiëntie.

Maar met grote macht komt grote complexiteit. Er zijn inherente uitdagingen en ethische problemen rondom LLM’s die aangepakt moeten worden voordat we ze ten volle kunnen benutten. Zo heeft een recente Stanford-studie raciale en geslachtsgebonden vooroordelen aangetoond bij het observeren van ChatGPT-4 en hoe het omgaat met bepaalde vragen die eerste en achternamen bevatten die suggereren dat ze van een bepaalde ras of geslacht zijn. In deze studie werd het programma gevraagd om advies over hoeveel iemand zou moeten betalen voor een gebruikte fiets die wordt verkocht door iemand die Jamal Washington heet, wat een veel lagere prijs opleverde dan wanneer de verkoper Logan Becker heette. Naarmate deze ontdekkingen aan het licht komen, neemt de noodzaak om LLM-uitdagingen aan te pakken alleen maar toe.

Hoe gemeenschappelijke LLM-zorgen te mitigeren

Vooroordeel

Een van de meest besproken kwesties onder LLM’s is vooroordeel en eerlijkheid. In een recente studie hebben deskundigen vier onlangs gepubliceerde LLM’s getest en ontdekt dat ze allemaal bevooroordeelde aannamen over mannen en vrouwen hadden, met name die welke overeenkomen met mensen’s percepties in plaats van die welke gebaseerd zijn op feiten. In deze context verwijst vooroordeel naar de ongelijke behandeling of resultaten onder verschillende sociale groepen, waarschijnlijk als gevolg van historische of structurele machtsonevenwichten.

Bij LLM’s wordt vooroordeel veroorzaakt door gegevensselectie, creator-demografie en taal- of culturele scheefheid. Gegevensselectievooroordeel treedt op wanneer de teksten die zijn geselecteerd voor LLM-training de volledige diversiteit van de taal die op het web wordt gebruikt, niet vertegenwoordigen. LLM’s die zijn getraind op uitgebreide, maar beperkte, datasets kunnen de vooroordelen erven die al in deze teksten aanwezig zijn. Met creator-demografie worden bepaalde demografische groepen vaker benadrukt dan anderen, wat de noodzaak aantoont voor meer diversiteit en inclusiviteit in contentcreatie om vooroordeel te verminderen. Zo toont Wikipedia, een veelvoorkomende bron van trainingsgegevens, een opvallende demografische onevenwichtigheid onder zijn redacteuren met een meerderheid van mannen (84%). Dit is vergelijkbaar met de scheefheid die wordt aangetroffen voor taal en cultuur. Veel bronnen waarop LLM’s worden getraind, zijn scheef, met een Engels-centrische inslag, die alleen soms nauwkeurig vertaalt naar andere talen en culturen.

Het is van cruciaal belang dat LLM’s worden getraind op gefilterde gegevens en dat er veiligheidsmaatregelen zijn om onderwerpen te onderdrukken die geen consistente weergaven van de gegevens zijn. Een manier om dit te doen is door middel van technieken op basis van gegevensverrijking. U kunt voorbeelden van ondervertegenwoordigde groepen toevoegen aan de trainingsgegevens, waardoor de diversiteit van de dataset wordt verbreed. Een andere mitigatiestrategie is gegevensfiltering en herweging, die zich voornamelijk richt op het nauwkeurig targeten van specifieke, ondervertegenwoordigde voorbeelden binnen een bestaande dataset.

Hallucinaties

Binnen de context van LLM’s worden hallucinaties gekenmerkt door de productie van een tekst die, hoewel grammaticaal correct en ogenschijnlijk coherent, afwijkt van feitelijke nauwkeurigheid of de bedoeling van de bronmateriaal. In feite hebben recente rapporten ontdekt dat een rechtszaak over een Minnesota-wet rechtstreeks wordt beïnvloed door LLM-hallucinaties. Een affidavit dat is ingediend om de wet te ondersteunen, is gevonden te hebben niet-bestaande bronnen die mogelijk zijn gehallucineerd door ChatGPT of een andere LLM. Deze hallucinaties kunnen gemakkelijk de betrouwbaarheid van een LLM verminderen.

Er zijn drie primaire vormen van hallucinaties:

1. Input-Conflicting Hallucination: Dit gebeurt wanneer de output van een LLM afwijkt van de door de gebruiker verstrekte invoer, die typisch bestaat uit taak instructies en de daadwerkelijke inhoud die moet worden verwerkt.
2. Context-Conflicting Hallucination: LLM’s kunnen intern inconsistentie genereren in scenario’s met verlengde dialoog of meerdere uitwisselingen. Dit suggereert een potentieel tekort in de mogelijkheid van het model om context te volgen of coherentie te behouden over verschillende interacties.
3. Fact-Conflicting Hallucination: Deze vorm van hallucinatie ontstaat wanneer een LLM inhoud produceert die in strijd is met gevestigde feitelijke kennis. De oorsprong van dergelijke fouten is divers en kan optreden op verschillende stadia in de levenscyclus van een LLM.

Veel factoren hebben bijgedragen aan dit fenomeen, zoals kennisgebreken, die verklaren hoe LLM’s de kennis of de mogelijkheid kunnen missen om informatie correct te assimileren tijdens de voortraining. Bovendien kan vooroordeel in trainingsgegevens of een sequentiële generatiestrategie van LLM’s, bijgenaamd “hallucinatie-sneeuwbaleffect”, hallucinaties creëren.

Er zijn manieren om hallucinaties te mitigeren, hoewel ze altijd een kenmerk van LLM’s zullen zijn. Hulpbronnen voor mitigatie van hallucinaties zijn mitigatie tijdens voortraining (handmatig verfijnen van gegevens met filtertechnieken) of fijnafstemming (cureren van trainingsgegevens). Mitigatie tijdens inferentie is echter de beste oplossing vanwege de kosteneffectiviteit en controleerbaarheid.

Privacy

Met de opkomst van het internet is de toegankelijkheid van persoonlijke informatie en andere privégegevens een breed erkende zorg geworden. Een studie vond dat 80% van de Amerikaanse consumenten bezorgd zijn dat hun gegevens worden gebruikt om AI-modellen te trainen. Aangezien de meest prominente LLM’s afkomstig zijn van websites, moeten we overwegen hoe dit privacyrisico’s met zich meebrengt en grotendeels onopgelost blijft voor LLM’s.

De meest rechtstreekse manier om te voorkomen dat LLM’s persoonlijke informatie verspreiden, is door deze te verwijderen uit de trainingsgegevens. Echter, gezien de enorme hoeveelheid gegevens die betrokken zijn bij LLM’s, is het bijna onmogelijk om te garanderen dat alle persoonlijke informatie is uitgeroeid. Een andere veelvoorkomende alternatief voor organisaties die extern ontwikkelde modellen gebruiken, is om een open-source LLM te kiezen in plaats van een dienst zoals ChatGPT.

Met deze aanpak kan een kopie van het model intern worden geïmplementeerd. De prompts van gebruikers blijven veilig binnen het netwerk van de organisatie in plaats van blootgesteld te worden aan diensten van derden. Hoewel dit het risico van het lekken van gevoelige gegevens aanzienlijk vermindert, voegt het ook significante complexiteit toe. Gezien de moeilijkheden om de bescherming van privégegevens volledig te garanderen, is het nog steeds essentieel voor applicatie-ontwikkelaars om te overwegen hoe deze modellen hun gebruikers in gevaar kunnen brengen.

De volgende frontier voor LLM’s

Naarmate we doorgaan met het groeien en vormen van latere evoluties van LLM’s door huidige risico’s te mitigeren, kunnen we de doorbraak van LLM-agents verwachten, die we al zien bij bedrijven zoals H met Runner H, die hun eerste product beginnen uit te brengen. De verschuiving van pure taalmodellen naar agente-architecturen vertegenwoordigt een verandering in AI-systeemontwerp; de industrie zal voorbij de inherente beperkingen van chat-interfaces en eenvoudige retrieval-versterkte generatie gaan. Deze nieuwe agent-kaders zullen geavanceerde planningsmodules hebben die complexe doelstellingen decomponeren in atomaire subtaken, episodische geheugen voor contextuele redenering onderhouden en gespecialiseerde tools via goed gedefinieerde API’s benutten. Dit creëert een robuustere aanpak voor taakautomatisering. De architecturale vooruitgang helpt om de gemeenschappelijke uitdagingen rond taken en redenering, tool-integratie en uitvoeringsbewaking binnen traditionele LLM-implementaties te mitigeren.

Naast LLM’s zal er meer focus zijn op het trainen van kleinere taalmodellen vanwege hun kosteneffectiviteit, toegankelijkheid en gemak van implementatie. Zo zijn domeinspecifieke taalmodellen gespecialiseerd in bepaalde branches of gebieden. Deze modellen zijn fijn afgestemd met domeinspecifieke gegevens en terminologie, waardoor ze ideaal zijn voor complexe en gereguleerde omgevingen, zoals de medische of juridische sector, waar precisie essentieel is. Deze gerichte aanpak vermindert de kans op fouten en hallucinaties die algemene modellen kunnen produceren wanneer ze worden geconfronteerd met gespecialiseerde inhoud.

Naarmate we doorgaan met het verkennen van nieuwe frontiers in LLM’s, is het essentieel om de grenzen van innovatie te verleggen en om potentiële risico’s te mitigeren die verbonden zijn aan hun ontwikkeling en implementatie. Alleen door eerst de uitdagingen gerelateerd aan vooroordeel, hallucinaties en privacy proactief aan te pakken, kunnen we een robuustere basis creëren voor LLM’s om te floreren in diverse gebieden.