Etiek
Microsoft brei nutsgoed vir inhoudintegriteit uit om globale verkiesings te ondersteun te midde van generatiewe KI-bekommernisse
Die jaar 2024 sal 'n belangrike jaar wees vir verkiesings wêreldwyd, met die Europese Unie wat hierdie somer parlementêre verkiesings hou en ongeveer die helfte van die Europese lande voorberei vir nasionale of streekstemme. Soos hierdie demokratiese oefening ontvou, het die vinnige vooruitgang van generatiewe KI vrae laat ontstaan oor die potensiële impak daarvan op verkiesings en die breër inligting-ekosisteem. Kommer het ontstaan oor die tegnologie se vermoë om diverse inhoud teen hoë spoed te genereer en die potensiële gebruik daarvan om disinformasie te versprei.
Microsoft se aankondiging
In die lig van hierdie ontwikkelings het Microsoft het aangekondig die uitbreiding van sy inhoudintegriteit-instrumente se private voorskou na politieke partye en veldtogte in die Europese Unie, sowel as nuusorganisasies regoor die wêreld. Die maatskappy het gesê dat die instrumente ontwerp is om organisasies te help om kiesers in te lig oor die oorsprong van die inhoud wat hulle aanlyn teëkom.
Die inhoudintegriteitnutsgoed stel organisasies in staat om veilige "inhoudbewyse" aan hul oorspronklike media te heg, en verskaf inligting oor wie die inhoud geskep of gepubliseer het, waar en wanneer dit geskep is, of dit deur KI gegenereer is, en of die media geredigeer is of verander sedert sy skepping. Deur die wyd aangenome te ondersteun Inhoud Geloofsbriewe standaard, Microsoft beoog om hierdie gereedskap toeganklik en interoperabel te maak oor platforms heen.
Hoe inhoudintegriteitnutsmiddels werk
Microsoft se nutsmiddels vir inhoudintegriteit bestaan uit drie hoofkomponente. Eerstens is daar 'n webtoepassing wat toeganklik is vir politieke veldtogte, nuusorganisasies en verkiesingsbeamptes, wat hulle toelaat om inhoudsbewyse by hul inhoud te voeg. Tweedens, 'n private mobiele toepassing, ontwikkel in vennootskap met Truepic, stel gebruikers in staat om veilige en geverifieerde foto's, video's en oudio vas te lê deur inhoudsbewyse intyds vanaf hul slimfone by te voeg. Derdens, a openbare webwerf is beskikbaar vir feitekontroleerders en die algemene publiek om beelde, oudio en video te hersien vir die teenwoordigheid van inhoudsbewyse.
Die inhoudsbewyse-standaard bied 'n manier om media te verifieer en gebruikers in te lig oor die herkoms daarvan. Dit is egter opmerklik dat hierdie standaard kritiek ondervind het vir die relatiewe gemak waarmee metadata van inhoud verwyder kan word. Boonop is daar tans geen betroubare metode om KI-gegenereerde teks op te spoor nie, wat 'n voortdurende uitdaging in die stryd teen disinformasie bied.
Die eerste van die drie prente het die inhoudsbewyse toegepas. (Bron: Microsoft)
Microsoft se breër verkiesingsbeskermingspogings
Microsoft het erken dat die inhoudintegriteit-nutsmiddels alleen nie 'n volledige oplossing vir die probleem van misleidende media in verkiesings is nie. Die maatskappy het beklemtoon dat hierdie instrumente deel is van 'n breër verdedigingstrategie teen die misbruik van KI-gegenereerde inhoud.
Vroeër vanjaar het Microsoft by die Tegniese ooreenkoms om misleidende gebruik van KI te bekamp saam met 20 ander maatskappye. Hierdie inisiatief het ten doel om die misbruik van video, oudio en beelde aan te spreek wat die voorkoms, stem of optrede van politieke kandidate en verkiesingsbeamptes verander. Microsoft werk ook saam met globale politieke partye om ondersteuning en opleiding te verskaf oor die navigasie van die uitdagings wat KI in verkiesings stel. Boonop bied die maatskappy kuberveiligheidsbystand deur sy veldtogsuksesspan en AccountGuard-program om te help beskerm teen nasionale kuberaanvalle wat verkiesings teiken.
'n Kritieke stap in die beskerming van verkiesingsintegriteit
Soos die 2024 globale verkiesings nader, verteenwoordig die uitbreiding van Microsoft se inhoudintegriteit-nutsgoed 'n kritieke stap in die beveiliging van die integriteit van demokratiese prosesse te midde van ontwikkelende tegnologiese uitdagings. Deur politieke partye, veldtogte en nuusorganisasies van die middele te voorsien om hul media te staaf en kiesers in te lig oor die herkoms van aanlyninhoud, dra Microsoft by tot die skepping van 'n meer deursigtige en betroubare inligting-ekosisteem.
Dit is egter belangrik om te erken dat die inhoudsintegriteit-nutsgoed net een stuk van die legkaart is om die potensiële misbruik van generatiewe KI in verkiesings te bekamp. Die gemak waarmee metadata van inhoud verwyder kan word en die huidige gebrek aan betroubare metodes om KI-gegenereerde teks op te spoor, beklemtoon die behoefte aan deurlopende navorsing, samewerking en waaksaamheid op hierdie gebied.
Microsoft se verbintenis tot die beskerming van verkiesings wêreldwyd deur inisiatiewe soos die Tech Accord, ondersteuning vir politieke partye en kuberveiligheidsbystand demonstreer die maatskappy se erkenning van die veelsydige aard van die uitdaging. Soos tegnologie aanhou vorder en die bedreigingslandskap ontwikkel, sal dit van kardinale belang wees vir bedryfsleiers, beleidmakers en die burgerlike samelewing om saam te werk om omvattende strategieë te ontwikkel en te implementeer om die integriteit van demokratiese prosesse in die digitale era te beskerm.
