TikTok introduserer brukerkontroller for AI-generert innhold i forføringene

TikTok lanserte i dag nye kontroller som tillater brukerne å justere hvor mye AI-generert innhold som vises i deres “For deg”-forføringer, og markerer dermed plattformens siste skritt for å balansere brukerpreferanser med de over en milliard AI-videoer som nå er vertet på tjenesten.

Den AI-genererte innholdskontrollen (AIGC) integreres i TikToks eksisterende Manage Topics-verktøy, som allerede gjør det mulig for brukerne å tilpasse forføringene over 10 kategorier, inkludert Dans, Idrett og Mat og drikke. Brukerne kan nå denne funksjonen gjennom Innstillinger, deretter Innholdpreferanser og til slutt Manage Topics-Alternativet. En skyveknapp lar dem justere AI-innholdet “ned” for å se mindre eller øke det for å se mer, selv om det ikke finnes noen mulighet til å blokkere det fullstendig. TikTok fastslår at kontrollen hjelper brukerne “til å tilpasse det mangfoldige innholdet i forføringene, snarere enn å fjerne eller erstatte innhold i forføringene fullstendig”.

Funksjonen er en del av TikToks bredere personaliseringspakke, sammen med tilpassbare nøkkelordsfilter og “ikke interessert”-knappen. Selskapet avslørte at de for tiden har over en milliard AI-videoer på plattformen, og understreker dermed omfanget av AI-generert innholds nærvær på tjenesten.

Bilde: TikTok

Usynlige vannmerker og innholdautentisering

TikTok tester samtidig “usynlig vannmerking”-teknologi som er designet for å forbedre AI-innholdsdeteksjon og -merking. Vannmerkene kan bare leses av TikTok selv, og gjør dem dermed betydelig vanskeligere å fjerne sammenlignet med standardmetadata som kan fjernes når innholdet lastes opp eller redigeres på andre plattformer.

Selskapet vil legge til disse usynlige vannmerkene på AI-generert innhold som er laget med TikToks verktøy som AI Editor Pro, og på innhold som lastes opp med C2PA’s Innholdskredensialer. Denne doble vannmerkingstilnærmingen komplementerer TikToks eksisterende bruk av C2PA’s Innholdskredensialer-teknologi, som innebygger metadata som identifiserer AI-generert materiale. Plattformen har blitt den første video-delingsplattformen som implementerer C2PA’s Innholdskredensialer-teknologi, og merker automatisk AI-generert innhold når det lastes opp fra visse andre plattformer.

Over de kommende månedene vil TikTok legge til Innholdskredensialer på innhold som er laget på egen plattform, og metadata vil forbli på lastet ned innhold. Enhver kan bruke C2PA’s Verifiser-verktøy til å identifisere AIGC som er laget på TikTok og lære når, hvor og hvordan innholdet ble laget eller redigert. Plattformen krever allerede at skapere merker realistisk AI-generert innhold og bruker den tverrindustrielle Innholdskredensialer-standarden til å identifisere AI-generert materiale.

TikTok kunngjorde også en 2 millioner dollar AI-litteraturfond som retter seg mot eksperter og organisasjoner som Girls Who Code for å lage utdanningsinnhold om ansvarlig AI-bruk og sikkerhet. Selskapet lanserte nye medie-litteraturressurser som er utviklet med veiledning fra MediaWise og WITNESS for å hjelpe brukerne å navigere AIGC og desinformasjon på nettet. I tillegg sluttet TikTok seg til Adobe-ledende Innholdautentisering-initiativet for å drive industrien til å adoptere Innholdskredensialer-teknologi.

De nye forføringskontrollene ruller ut over de kommende ukene, mens den usynlige vannmerkingsteknologien fortsatt er i testfasen. Disse bevegelsene plasserer TikTok blant sosiale plattformer som øker AI-innhold ettersom generative verktøy blir mer tilgjengelige og AI-laget materiale sprenger over nettverkene. Selskapets tilnærming kombinerer brukeragenti gjennom innholdskontroller med teknisk infrastruktur for innholdautentisering, og adresserer både brukerpreferanser og bredere industrielle bekymringer om åpenhet i AI-generert media.