етика
Microsoft разширява инструментите за интегритет на съдържанието, за да поддържа глобални избори на фона на опасения за генериране на AI
2024 г. се очертава да бъде важна за изборите в световен мащаб, като Европейският съюз ще проведе парламентарни избори това лято и приблизително половината европейски държави се подготвят за национални или регионални гласувания. Докато това демократично упражнение се развива, бързото развитие на генеративния ИИ повдигна въпроси относно потенциалното му въздействие върху изборите и по-широката информационна екосистема. Появиха се опасения относно капацитета на технологията да генерира разнообразно съдържание с висока скорост и потенциалното й използване за разпространение на дезинформация.
Съобщение на Microsoft
В светлината на тези развития Microsoft обяви разширяването на частния преглед на неговите инструменти за цялост на съдържанието до политически партии и кампании в Европейския съюз, както и новинарски организации по целия свят. Компанията заяви, че инструментите са предназначени да помогнат на организациите да информират избирателите за произхода на съдържанието, което срещат онлайн.
Инструментите за интегритет на съдържанието позволяват на организациите да прикачат защитени „Идентификационни данни за съдържание“ към своите оригинални медии, предоставяйки информация за това кой е създал или публикувал съдържанието, къде и кога е създадено, дали е генерирано от AI и дали медията е била редактирана или променен от създаването си. Подкрепяйки широко възприетите Стандарт за идентификационни данни за съдържание, Microsoft има за цел да направи тези инструменти достъпни и съвместими между различните платформи.
Как работят инструментите за цялост на съдържанието
Инструментите на Microsoft Content Integrity се състоят от три основни компонента. Първо, има уеб приложение, достъпно за политически кампании, новинарски организации и служители на изборите, което им позволява да добавят идентификационни данни за съдържание към тяхното съдържание. Второ, частно мобилно приложение, разработено в партньорство с Truepic, позволява на потребителите да заснемат защитени и удостоверени снимки, видеоклипове и аудио чрез добавяне на идентификационни данни за съдържание в реално време от своите смартфони. Трето, а публичен уебсайт е достъпен за проверяващите факти и широката общественост за преглед на изображения, аудио и видео за наличие на идентификационни данни за съдържание.
Стандартът за идентификационни данни за съдържание предоставя средство за удостоверяване на медиите и информиране на потребителите за техния произход. Заслужава обаче да се отбележи, че този стандарт е изправен пред критики за относителната лекота, с която метаданните могат да бъдат премахнати от съдържанието. Освен това понастоящем няма надежден метод за откриване на текст, генериран от AI, което представлява постоянно предизвикателство в борбата срещу дезинформацията.
Първото от трите изображения има приложени идентификационни данни за съдържание. (Източник: Microsoft)
По-широките усилия на Microsoft за защита на изборите
Microsoft призна, че инструментите за цялост на съдържанието сами по себе си не са пълно решение на проблема с измамните медии по време на избори. Компанията подчерта, че тези инструменти са част от по-широка стратегия за защита срещу злоупотребата с генерирано от AI съдържание.
По-рано тази година Microsoft се присъедини към Техническо споразумение за борба с измамното използване на AI заедно с още 20 компании. Тази инициатива има за цел да се справи със злоупотребата с видео, аудио и изображения, които променят външния вид, гласа или действията на политически кандидати и служители на изборите. Microsoft също така работи с глобални политически партии, за да осигури подкрепа и обучение за справяне с предизвикателствата, поставени от AI в изборите. Освен това компанията предлага помощ за киберсигурност чрез своя екип за успех на кампанията и програмата AccountGuard, за да помогне за защита срещу кибератаки на национална държава, насочени към избори.
Критична стъпка в защитата на честността на изборите
С наближаването на глобалните избори през 2024 г. разширяването на инструментите на Microsoft за интегритет на съдържанието представлява критична стъпка в защитата на целостта на демократичните процеси в лицето на развиващите се технологични предизвикателства. Като предоставя на политически партии, кампании и новинарски организации средства за удостоверяване на техните медии и информиране на избирателите за произхода на онлайн съдържанието, Microsoft допринася за създаването на по-прозрачна и надеждна информационна екосистема.
Въпреки това е важно да се признае, че инструментите за интегритет на съдържанието са само едно парче от пъзела в борбата с потенциалната злоупотреба с генеративен AI в избори. Лекотата, с която метаданните могат да бъдат премахнати от съдържанието, и текущата липса на надеждни методи за откриване на текст, генериран от AI, подчертават необходимостта от непрекъснати изследвания, сътрудничество и бдителност в тази област.
Ангажиментът на Microsoft за защита на изборите по целия свят чрез инициативи като Tech Accord, подкрепа за политически партии и помощ за киберсигурност демонстрира признаването на компанията за многостранния характер на предизвикателството. Тъй като технологиите продължават да напредват и пейзажът на заплахите се развива, ще бъде от решаващо значение лидерите в индустрията, политиците и гражданското общество да работят заедно за разработване и прилагане на цялостни стратегии за защита на целостта на демократичните процеси в цифровата ера.
