GPT-4o Mini præsenteres: En kosteffektiv, højtydende alternativ til Claude Haiku, Gemini Flash og GPT 3.5 Turbo

OpenAI, en leder i skaleringsmuligheder for Generative Pre-trained Transformer (GPT)-modeller, har nu introduceret GPT-4o Mini, som er en mere kompakt AI-løsning. Dette skridt adresserer udfordringerne ved storstilet AI, herunder høje omkostninger og energikrævende træning, og positionerer OpenAI til at konkurrere med rivaler som Google (GOOGL ) og Claude. GPT-4o Mini tilbyder en mere effektiv og billig mulighed for multimodal AI. Denne artikel vil udforske, hvad der adskiller GPT-4o Mini fra Claude Haiku, Gemini Flash og OpenAI’s GPT-3.5 Turbo. Vi vil evaluere disse modeller på basis af seks nøglefaktorer: modalstøtte, ydelse, kontekstvindue, proceshastighed, priser og tilgængelighed, som er afgørende for valg af den rette AI-model til forskellige anvendelser.

Præsentation af GPT-4o Mini:

GPT-4o Mini er en kompakt multimodal AI-model med tekst- og billedintelligens. Selvom OpenAI ikke har delt specifikke detaljer om udviklingsmetoden, bygger GPT-4o Mini på grundlaget af GPT-serien. Den er designet til kosteffektive og lavforsinkende anvendelser. GPT-4o Mini er nyttig til opgaver, der kræver kædning eller parallelisering af multiple modelkald, håndtering af store mængder kontekst og levering af hurtige, realtids tekstsvare. Disse funktioner er særligt vigtige for opbygning af anvendelser som retrieval-augmenteret generering (RAG)-systemer og chatbots.

Nøglefunktioner i GPT-4o Mini omfatter:

• Et kontekstvindue på 128K tokens
• Støtte til op til 16K output-tokens per anmodning
• Forbedret håndtering af ikke-engelsk tekst
• Viden op til oktober 2023

GPT-4o Mini vs. Claude Haiku vs. Gemini Flash: En sammenligning af små multimodale AI-modeller

Dette afsnit sammenligner GPT-4o Mini med to eksisterende små multimodale AI-modeller: Claude Haiku og Gemini Flash. Claude Haiku, lanceret af Anthropic i marts 2024, og Gemini Flash, introduceret af Google i december 2023 med en opdateret version 1.5 udgivet i maj 2024, er betydelige konkurrenter.

• Modalstøtte: både GPT-4o Mini og Claude Haiku understøtter i øjeblikket tekst- og billedfunktioner. OpenAI planlægger at tilføje lyd- og video-understøttelse i fremtiden. Til gengæld understøtter Gemini Flash allerede tekst, billeder, video og lyd.
• Ydelse: OpenAI-forskere har benchmarket GPT-4o Mini mod Gemini Flash og Claude Haiku på tværs af flere nøglemetrikker. GPT-4o Mini overgår konsekvent sine rivaler. I resoneringstasks, der involverer tekst og billedbehandling, opnåede GPT-4o Mini 82,0% på MMLU, overgående Gemini Flash’s 77,9% og Claude Haiku’s 73,8%. GPT-4o Mini opnåede 87,0% i matematik og kodning på MGSM, sammenlignet med Gemini Flash’s 75,5% og Claude Haiku’s 71,7%. På HumanEval, som måler kodningsydelse, opnåede GPT-4o Mini 87,2%, foran Gemini Flash på 71,5% og Claude Haiku på 75,9%. Derudover overgår GPT-4o Mini i multimodal resonering, med en score på 59,4% på MMMU, sammenlignet med 56,1% for Gemini Flash og 50,2% for Claude Haiku.
• Kontekstvindue: Et større kontekstvindue giver en model mulighed for at levere sammenhængende og detaljerede svar over længere passager. GPT-4o Mini tilbyder et kontekstvindue på 128K tokens og understøtter op til 16K output-tokens per anmodning. Claude Haiku har et længere kontekstvindue på 200K tokens, men returnerer færre tokens per anmodning, med en maksimum på 4096 tokens. Gemini Flash har et betydeligt større kontekstvindue på 1 million tokens. Derfor har Gemini Flash en fordel over GPT-4o Mini i forhold til kontekstvindue.
• Proceshastighed: GPT-4o Mini er hurtigere end de andre modeller. Den behandler 15 millioner tokens per minut, mens Claude Haiku behandler 1,26 millioner tokens per minut, og Gemini Flash behandler 4 millioner tokens per minut.
• Priser: GPT-4o Mini er mere kosteffektiv, med en pris på 15 cent per million input-tokens og 60 cent per million output-tokens. Claude Haiku koster 25 cent per million input-tokens og 1,25 dollar per million respons-tokens. Gemini Flash koster 35 cent per million input-tokens og 1,05 dollar per million output-tokens.
• Tilgængelighed: GPT-4o Mini kan tilgås via Assistants API, Chat Completions API og Batch API. Claude Haiku er tilgængelig via en Claude Pro-abonnement på claude.ai, dens API, Amazon Bedrock og Google Cloud Vertex AI. Gemini Flash kan tilgås på Google AI Studio og integreres i anvendelser via Google API, med yderligere tilgængelighed på Google Cloud Vertex AI.

I denne sammenligning udmærker GPT-4o Mini sig med sin balancerede ydelse, kosteffektivitet og hastighed, hvilket gør den til en stærk konkurrent i landskabet af små multimodale AI-modeller.

GPT-4o Mini vs. GPT-3.5 Turbo: En detaljeret sammenligning

Dette afsnit sammenligner GPT-4o Mini med GPT-3.5 Turbo, OpenAI’s bredt anvendte store multimodale AI-model.

• Størrelse: Selvom OpenAI ikke har offentliggjort det præcise antal parametre for GPT-4o Mini og GPT-3.5 Turbo, er det kendt, at GPT-3.5 Turbo er klassificeret som en stor multimodal model, hvorimod GPT-4o Mini falder i kategorien af små multimodale modeller. Det betyder, at GPT-4o Mini kræver betydeligt færre beregningsressourcer end GPT-3.5 Turbo.
• Modalstøtte: GPT-4o Mini og GPT-3.5 Turbo understøtter tekst- og billedrelaterede opgaver.
• Ydelse: GPT-4o Mini viser betydelige forbedringer over GPT-3.5 Turbo i forskellige benchmark-tests, herunder MMLU, GPQA, DROP, MGSM, MATH, HumanEval, MMMU og MathVista. Den yder bedre i tekstintelligens og multimodal resonering, konsekvent overgående GPT-3.5 Turbo.
• Kontekstvindue: GPT-4o Mini tilbyder et langt længere kontekstvindue end GPT-3.5 Turbo’s 16K token-kapacitet, hvilket giver den mulighed for at håndtere længere tekst og levere detaljerede, sammenhængende svar over længere passager.
• Proceshastighed: GPT-4o Mini behandler tokens i en imponerende hastighed på 15 millioner tokens per minut, langt overgående GPT-3.5 Turbo’s 4.650 tokens per minut.
• Pris: GPT-4o Mini er også mere kosteffektiv, over 60% billigere end GPT-3.5 Turbo. Den koster 15 cent per million input-tokens og 60 cent per million output-tokens, hvorimod GPT-3.5 Turbo koster 50 cent per million input-tokens og 1,50 dollar per million output-tokens.
• Yderligere funktioner: OpenAI fremhæver, at GPT-4o Mini overgår GPT-3.5 Turbo i funktionkald, hvilket giver en glattere integration med eksterne systemer. Desuden giver dens forbedrede lang-kontekst-ydelse den en mere effektiv og alsidig værktøj til forskellige AI-anvendelser.

Det endelige punkt

OpenAI’s introduktion af GPT-4o Mini repræsenterer en strategisk skiftning mod mere kompakte og kosteffektive AI-løsninger. Denne model adresserer effektivt udfordringerne ved høje driftsomkostninger og energiforbrug forbundet med storstilet AI-systemer. GPT-4o Mini udmærker sig med sin ydelse, proceshastighed og pris i forhold til konkurrenter som Claude Haiku og Gemini Flash. Den viser også overlegne evner i forhold til GPT-3.5 Turbo, med betydelige fordele i konteksthåndtering og kosteffektivitet. GPT-4o Mini’s forbedrede funktioner og alsidige anvendelighed gør den til et stærkt valg for udviklere, der søger højtydende, multimodale AI-løsninger.