Дипфејкс и вештачка интелигенција: увид од извештајот за гласовно разузнавање и безбедност на Пиндроп за 2024 година

Брзиот напредок на вештачката интелигенција (ВИ) донесе значителни придобивки и трансформативни промени во различни индустрии. Сепак, тоа, исто така, воведе нови ризици и предизвици, особено кога станува збор за измама безбедност. Deepfakes, производ на генеративна вештачка интелигенција, стануваат сè пософистицирани и претставуваат значителна закана за интегритетот на безбедносни системи базирани на глас.

Наодите од Извештај за гласовно разузнавање и безбедност на Пиндроп за 2024 година, го истакнуваат влијанието на deepfakes на различни сектори, технолошкиот напредок што ги поттикнува овие закани и иновативните решенија што се развиваат за борба против нив.

Подемот на Deepfakes: меч со две острици

Deepfakes користат напредни алгоритми за машинско учење да се создаде високо реалистично синтетички аудио и видео содржини. Иако овие технологии имаат возбудливи апликации во забавата и медиумите, тие исто така претставуваат сериозни безбедносни предизвици. Според извештајот на Пиндроп, американските потрошувачи се најмногу загрижени за ризикот од фалсификување и гласовни клонови во банкарскиот и финансискиот сектор, при што 67.5% изразиле значителна загриженост.

Влијание врз финансиските институции

Финансиските институции се особено ранливи на длабоки лажни напади. Измамниците користат гласови генерирани од вештачка интелигенција за да имитираат поединци, да добијат неовластен пристап до сметките и да манипулираат со финансиски трансакции. Извештајот открива дека имало рекорден број компромиси на податоци во 2023 година, со вкупно 3,205 инциденти - зголемување од 78% во однос на претходната година. Просечната цена на прекршување на податоците во Соединетите Држави сега изнесува 9.5 милиони долари, при што контакт центрите го носат најголемиот дел од безбедносните последици.

Еден значаен случај вклучува употреба на а длабоко лажен глас за да измами фирма со седиште во Хонг Конг да префрли 25 милиони долари, нагласувајќи го уништувачкиот потенцијал на овие технологии кога се користат злонамерно.

Пошироки закани за медиумите и политиката

Покрај финансиските услуги, „Дип фејковите“ исто така претставуваат значителен ризик за медиумите и политичките институции. Способноста да се создаде убедлива лажна аудио и видео содржина може да се искористи за ширење дезинформации, манипулирање со јавното мислење и поткопување на довербата во демократските процеси. Извештајот забележува дека 54.9% од потрошувачите се загрижени за заканата од длабоки фејкови за политичките институции, додека 54.5% се загрижени за нивното влијание врз медиумите.

Во 2023 година, длабоката фејк технологија беше вмешана во неколку инциденти од висок профил, вклучително и а роботски напад во кој се користеше синтетички глас на претседателот Бајден. Ваквите инциденти ја нагласуваат итноста за развој на робусни механизми за откривање и превенција.

Технолошки напредок Возење Deepfakes

Ширењето на генеративните алатки за вештачка интелигенција, како што се ChatGPT на OpenAI, Bard на Google и Bing AI на Microsoft, значително ги намали бариерите за создавање длабоки фејкови. Денес, повеќе од 350 генеративни системи за вештачка интелигенција се користат за различни апликации, вклучувајќи Eleven Labs, Descript, Podcastle, PlayHT и Speechify. Моделот VALL-E на Microsoft, на пример, може да клонира глас од само три секунди аудио клип.

Овие технолошки достигнувања ги направија deepfakes поевтини и полесни за производство, зголемувајќи ја нивната пристапност и за бенигните корисници и за злонамерните актери. До 2025 година, Гартнер предвидува дека 80% од разговорните понуди за вештачка интелигенција ќе инкорпорираат генеративна вештачка интелигенција, што е повеќе од 20% во 2023 година.

Борба против Deepfakes: иновациите на Пиндроп

За да се справи со растечката закана од deepfakes, Pindrop воведе неколку најсовремени решенија. Еден од најзабележителните е Pulse Deepfake Гаранција, прва од ваков вид гаранција која ги надоместува клиентите што ги исполнуваат условите ако пакетот производи на Pindrop не успее да открие длабока лажна или друга синтетичка гласовна измама. Оваа иницијатива има за цел да им обезбеди мир на клиентите притоа притискајќи ги можностите за откривање измами.

Технолошки решенија за подобрување на безбедноста

Извештајот на Пиндроп ја нагласува ефикасноста на неговата технологија за откривање живост, која ги анализира телефонските повици во живо за спектро-временски карактеристики кои покажуваат дали гласот на повикот е „во живо“ или синтетички. При интерното тестирање, решението за откривање живост на Пиндроп беше откриено дека е 12% попрецизно од системите за препознавање глас и 64% попрецизно од луѓето во идентификувањето на синтетички гласови.

Дополнително, Pindrop користи интегрирано повеќефакторско спречување и автентикација на измама, користи глас, уред, однесување, метаподатоци на операторот и живи сигнали за да ја подобри безбедноста. Овој повеќеслоен пристап значително ја подига границата за измамниците, што им го отежнува успехот.

Идни трендови и подготвеност

Гледајќи напред, известуваат за прогнозите дека длабоката измама ќе продолжи да расте, што претставува ризик од 5 милијарди долари за контакт центрите само во САД. Зголемената софистицираност на системите за текст во говор, во комбинација со евтината технологија за синтетички говор, претставува тековни предизвици.

За да остане понапред од овие закани, Pindrop препорачува техники за рано откривање на ризик, како што се откривање на измама со ID на повикувач и континуирано откривање измами, за следење и ублажување на измамните активности во реално време. Со имплементирање на овие напредни безбедносни мерки, организациите можат подобро да се заштитат себеси од развојот на пејзажот на измама управувана од вештачка интелигенција.

Заклучок

Појавата на deepfakes и генеративната вештачка интелигенција претставува значаен предизвик во областа на измама и безбедност. Извештајот за гласовно разузнавање и безбедност на Пиндроп за 2024 година ја нагласува итната потреба од иновативни решенија за борба против овие закани. Со напредокот во откривањето на живост, автентикацијата со повеќе фактори и сеопфатните стратегии за спречување измами, Pindrop е на чело на напорите да се обезбеди иднината на гласовните интеракции. Како што технолошкиот пејзаж продолжува да се развива, така мора да се развиваат и нашите пристапи за обезбедување безбедност и доверба во дигиталната ера.